AI가 대신 건 전화, 받는 쪽엔 규칙이 없다


AI가 쇼핑과 예약을 대신해 준다는 이야기는 1년 넘게 이어졌습니다. 그런데 미국에서 나온 숫자는 초라했죠. 우버가 11월 4일 실적 발표에서 밝힌 바에 따르면, 10월 가장 바빴던 핼러윈 주간에 처리한 이동과 주문 약 3억 2,000만 건 가운데 AI 에이전트가 부른 차는 4번이었습니다. 우버이츠 주문은 500건 정도였고요. 다라 코스로샤히(Dara Khosrowshahi) 최고경영자는 “아직 아주 초기이고, 아주 제한적”이라고 했습니다.


한국에서는 다른 장면이 펼쳐지고 있습니다. 한국인 창업자들이 실리콘밸리에서 만든 AI 비서 앱 ‘피클(Pickle)’이 10월 1일 나온 뒤, 초대장이 있어야 가입할 수 있는데도 3주 만에 애플 앱스토어 무료 소셜 부문 17위까지 올라갔습니다. 쿠팡 장보기, KTX 예매, 정부24 서류 발급에 전화 심부름까지 대신합니다. 그리고 11월 4일, 국민건강보험공단 고객센터에 “○○○님의 업무비서”라고 자신을 소개하는 AI의 전화가 걸려 왔습니다.

 

 

피클이 보여 준 건 AI가 일을 대신하는 장면만이 아닙니다. 그 일의 반대편에서 AI를 맞는 사람들, 그러니까 전화를 받는 상담사, 리뷰를 읽는 손님, 접속을 지켜보는 플랫폼이 아직 아무 기준 없이 서 있다는 사실도 함께 드러났습니다.

 

 

 

피클은 말 한마디를 실제 일로 바꾼다


피클은 에이전트 AI(agent AI)입니다. 질문에 답만 하는 챗봇이 아니라, 시키면 직접 사이트에 들어가 일을 끝내는 AI죠. 쉽게 말하면 “다음 주 화요일 오후 2시쯤 용산에서 전주 가는 KTX 끊어 줘”라고 하면, 피클이 자기 회사 컴퓨터에서 인터넷 창을 열어 코레일에 로그인하고 열차를 고른 뒤 결제 직전에 “이걸로 할까요?” 하고 묻는 방식입니다. 이 인터넷 창을 클라우드 브라우저(cloud browser)라고 부릅니다.


뉴스웨이 보도에 따르면 피클은 네이버, 카카오톡, 정부24를 포함해 국내외 60여 개 서비스와 연결됩니다. 미국 스타트업 투자사 와이 콤비네이터(Y Combinator)의 2025년 겨울 투자 명단에 이름이 올라 있는 회사입니다. 결제나 예약처럼 되돌리기 어려운 일은 사용자 승인을 거친다고 회사는 밝혔습니다.


기자들이 직접 써 본 결과는 이렇습니다. 디지털투데이 손슬기 기자는 약 25시간 동안 피클을 썼습니다. 프로틴 우유 18개를 주문하자 피클은 네이버와 G마켓 가격을 비교한 뒤, G마켓 행사 조건에 맞춰 한 박스씩 두 번 나눠 결제했습니다. 실제 결제액은 2만 9,530원으로, 기자가 예상한 것보다 5,000원 정도 쌌습니다. 다만 첫 요청부터 결제까지 2시간 18분이 걸렸습니다. 기자의 외부 미팅과 본인인증 대기 시간이 포함된 수치라 AI 처리 시간 그대로는 아닙니다. 디지털데일리 오병훈 기자는 정부24에서 주민등록등본 PDF를 받았고, KTX 예매에는 약 20분이 걸렸습니다. 직접 하는 편이 더 빠르다는 평가도 함께 적었습니다.

 

 

다른 회사들은 어떻게 답했을까요? 크게 두 장면이 보입니다.

 

 

먼저, 쓰는 사람이 거의 없는 쪽입니다. 앞에서 본 우버 숫자가 그렇습니다. 테크크런치 보도에 따르면 코스로샤히는 앱으로 차를 부르는 데 50초면 된다는 점을 들었습니다. 사람이 50초면 끝내는 일에 AI가 줄여 줄 시간이 별로 없다는 거죠. 도어대시도 직전 주 실적 발표에서 비슷하게 적은 에이전트 주문 수를 내놓았습니다.


다음은 줄을 서서라도 쓰려는 쪽입니다. 피클이 주로 맡는 일은 정부24 인증, 매진 열차 취소표 확인, 통신사 고객센터 요금제 변경처럼 한국 사용자가 귀찮아하는 절차입니다. 이데일리는 피클을 써 본 김덕진 IT커뮤니케이션연구소장이 직접 써 보고 감탄했다며 사용 경험을 공유하면서도, 보안 문제가 없기를 바란다고 덧붙였다고 전했습니다. 출시 한 달 남짓 된 서비스라 실제 이용자 수는 공개되지 않았습니다.


우버에서 일주일에 4번 쓰인 에이전트가, 한국에서는 초대장을 구해서라도 쓰려는 앱이 됐습니다. 차이는 맡기는 일에 있을 수 있습니다. 50초면 끝나는 차 호출과 달리, 피클이 주로 맡는 건 사람이 미루고 싶은 절차들이거든요. 다만 한쪽은 한 회사의 이용 건수이고 다른 쪽은 앱 순위라, 두 숫자를 그대로 견줄 수는 없습니다.

 

 

 

AI가 건 전화는 누가, 어떻게 받아야 할까


한겨레 이문영 기자의 보도에 따르면, 11월 4일 국민건강보험공단 고객센터에 AI 비서가 대리 상담을 요청했습니다. 상담사는 사람 비서를 응대할 때처럼 “본인이 아니면 상담이 어렵다”고 답하고 통화를 마쳤습니다. 이 AI 비서가 어느 회사 서비스였는지는 보도에 나오지 않습니다.


공단은 곧바로 전국 고객센터에 지침을 내렸습니다. 본인 확인이 안 되면 대리 상담은 안 되지만, 개인정보가 필요 없는 기본 상담은 해도 된다는 내용이었죠.

 

 

그러자 같은 날 오후 다른 AI 비서가 전화를 걸어 왔습니다. 개인정보가 필요 없는 상담은 되느냐고 묻더니, 사업장 폐업 때 건강보험료 소득 조정을 신청하는 방법을 물었습니다. 이어서 피부양자 신청을 함께 할 수 있는지, 처리 기간은 얼마인지, 내년 소득 정산 때 주의할 점은 무엇인지 질문이 계속됐습니다. 상담사는 전화를 끊을 수 없었습니다. 공단 규정상 상담사가 먼저 전화를 끊을 수 있는 경우는 성희롱이나 욕설을 들었을 때뿐이기 때문이죠.


노조가 가장 먼저 문제 삼은 건 대리권 확인, 즉 이 AI가 정말 본인의 부탁을 받고 전화했는지 확인할 길이 없다는 점입니다. 사람 비서가 전화하면 위임장이나 본인 통화로 확인하는데, AI 비서가 누구의 지시를 받았는지는 확인할 방법이 없습니다. 노조가 다른 AI 비서로 같은 질문을 시험해 보니, AI는 사용자에게 상담원과 실시간으로 통화 중이라고 알리면서 “실무적인 세부 사항들을 알차게 더 파고들어 물어보고 올게요”라고 보고했습니다. 사용자가 다른 사람의 정보를 주며 대리 상담을 시키자 그대로 따랐고요.

 

 

다른 곳들은 어떻게 답했을까요? 세 갈래로 나뉩니다. 먼저 AI가 스스로 밝히게 하는 방식입니다. 구글은 2018년 개발자 행사에서 사람 목소리와 거의 구분되지 않는 AI ‘듀플렉스(Duplex)’가 미용실에 전화해 예약하는 장면을 시연했습니다. 상대방은 AI라는 걸 몰랐고, 비판이 쏟아지자 구글은 듀플렉스가 통화 상대에게 자기가 AI라는 사실을 밝히도록 만들겠다고 했습니다. 피클은 소개 문구로 “○○님의 비서”라고 밝히지만, 밝힌다고 해서 상대가 무엇을 해야 하는지까지 정해 주지는 않습니다.


다음은 받는 쪽이 범위를 정하는 방식입니다. 건보공단의 “기본 상담은 가능” 지침이 그렇습니다. 한겨레 이주현 기자는 칼럼에서 이 지침이 성급해 보인다고 평가했습니다. 기본 상담만 해도 다른 민원인의 대기 시간이 늘고, 끝없는 질문을 끊을 방법이 없기 때문이죠.


마지막은 받는 사람에게 거절할 권리를 주라는 요구입니다. 건보공단 고객센터 상담사 노조는 11월 5일 성명에서 AI 비서 상담을 거부할 권한과 통화 종료권을 보장하라고 요구했습니다. 상담노동자는 기계와 상담하려고 있는 게 아니라는 거죠. 공단은 행정안전부 민원 처리 지침 등을 모아 대응책을 마련하고 있다고 밝혔습니다.


전화를 거는 피클 쪽은 나름의 예절을 갖추고 있습니다. 디지털데일리 기자가 새벽에 전화 심부름을 시키자 피클은 “지금 전화를 걸면 한밤중에 벨이 울려 상대방이 깰 수 있다”고 먼저 경고했고, 통화 중 상대가 불쾌해하자 “정말 죄송합니다. 늦은 시간에 전화드려 죄송해요”라고 사과했습니다. 디지털투데이 기자는 가족에게 대신 건 전화를 두고 “일은 잘하지만 눈치 없는 비서 같다”고 했습니다. 동생이 단답을 세 번 했는데도 AI는 질문을 이어 갔거든요. 한겨레 이주현 기자는 스팸인 줄 알고 끊은 전화가 지인의 피클이었다는 걸 나중에 알고 “비서 시키지 말고” 직접 전화하라고 했다고 적었습니다.

 

 

거는 쪽의 예절은 갖춰지고 있지만, 받는 쪽의 규칙은 아직 없습니다. AI 전화를 받을지, 어디까지 답할지, 언제 끊어도 되는지는 지금 전화를 받는 한 사람 한 사람이 그 자리에서 정하고 있습니다.

 

 

 

AI가 대신 쓴 리뷰는 누구의 말일까


이데일리 보도에 따르면 피클은 네이버 쇼핑 구매 리뷰도 대신 써 줍니다. 네이버는 글 리뷰에 50원, 사진이나 영상을 붙인 리뷰에 150원을 포인트로 줍니다. 몇십 원짜리 일이라 사람이 귀찮아서 미뤄 두는 일이고, 그래서 AI에게 맡기기 좋은 일이기도 하죠.


리뷰의 반대편도 이미 AI가 맡고 있습니다. SBS Biz 보도에 따르면 네이버는 4월부터 플레이스 음식점 사업자에게 ‘AI 리뷰 관리 솔루션’을 열었습니다. 새 리뷰가 올라오면 AI가 사장님 대신 답글을 써 주는 기능입니다. 사장님은 말투와 길이를 고르고, 그대로 올리거나 고쳐서 올립니다.

 

 

이 장면에서 실제로 문장을 쓴 사람은 아무도 없습니다. 그런데 다음 손님은 두 문장을 모두 사람의 말로 읽죠. 리뷰는 원래 “실제로 산 사람이 직접 남긴 말”이라는 점에서 광고와 달랐습니다. AI가 쓴 리뷰가 거짓은 아닙니다. 산 건 사실이고, 사용자가 내용을 확인했다면 사용자의 의견이기도 합니다. 다만 사용자가 “좋았어” 한마디만 했는데 AI가 세 문단짜리 후기를 지어냈다면, 그 세 문단은 누구의 경험일까요.


다른 곳들은 어떻게 답했을까요? 아직 답이 한 방향으로 모이지 않았습니다. 먼저 쓰는 쪽에 표시를 붙이자는 목소리입니다. SBS Biz 보도는 AI 답글 기능을 두고, AI 제작물에 워터마크를 붙이듯 ‘AI가 쓴 답변’이라는 표시가 필요하다는 지적을 전했습니다. 같은 논리라면 손님 쪽 리뷰에도 표시가 필요하겠죠.


다음은 아직 정하지 않은 플랫폼입니다. 이데일리는 에이전트가 리뷰를 쓰기 시작하면 플랫폼이 리뷰의 작성자와 품질, 포인트 지급 기준을 다시 관리해야 한다고 지적했습니다. 네이버가 피클 같은 외부 에이전트의 리뷰 작성에 대해 따로 입장을 낸 적은 없습니다.


리뷰 양쪽의 문장을 모두 AI가 쓰는 장면은 이미 가능해졌습니다. 그 리뷰를 읽고 지갑을 여는 손님에게 무엇을 알려야 하는지는 아직 아무도 정하지 않았습니다.

 

 

 

플랫폼은 AI 손님을 들여야 할까


디지털투데이 기자가 피클로 쇼핑을 한 뒤, 네이버에서 해외 IP 로그인을 알리는 보안 메일이 5통 왔습니다. 피클은 미국 법인이 운영하고, 클라우드 브라우저도 해외 서버에서 돌아가기 때문입니다. 피클은 자사의 정상 작업 접속이라고 설명했습니다. 네이버 보안 시스템 입장에서는 평소와 다른 나라에서 들어온 낯선 접속이었던 거죠. 사용자가 맡긴 정상적인 심부름과 계정 도용이 플랫폼의 눈에는 똑같이 보인다는 뜻입니다.


이 문제를 가장 오래 겪어 온 곳은 코레일입니다. 매크로(macro), 즉 사람 대신 같은 동작을 자동으로 반복하는 프로그램과 오래 싸워 왔거든요. 한국경제 보도에 따르면 코레일의 탐지 시스템이 2026년 1월 한 달 동안 막은 매크로 접속은 27만 9,327건이었고, AI 에이전트를 동원한 자동 예매 프로그램이 온라인에 공유되고 있다고 했습니다. 이데일리는 코레일이 일부 에이전트 AI 서비스를 막았다고 전했지만, 피클이 그 대상인지는 확인되지 않았습니다. 피클로 KTX를 예매한 기자들은 모두 표를 받았고요.


다른 회사들은 어떻게 답했을까요? 두 갈래가 보입니다. 먼저 자동 접속을 막는 쪽입니다. 코레일은 접속 패턴과 구매 행태를 실시간으로 분석해, 매크로로 의심되면 로그인 단계부터 차단합니다. 팍스경제TV 보도입니다. 다만 사용자가 직접 맡긴 AI 비서와 표를 싹쓸이하는 암표상 매크로를 어떻게 가려낼지는 코레일도 밝히지 않았습니다.


다음은 자기 에이전트를 직접 만드는 쪽입니다. 헤럴드경제 보도에 따르면 네이버는 쇼핑 AI 에이전트와 지도 속 ‘플레이스 에이전트’를 내놓았고, 카카오는 10월 13일 카카오톡을 AI 에이전트 플랫폼으로 바꾸는 ‘카나나 스페이스’를 공개하고 12월 비공개 시험을 예고했습니다. 코레일도 코레일톡에 대화하듯 표를 끊는 음성 예매를 넣었습니다. 바깥 에이전트를 들이는 대신, 같은 편의를 자기 앱 안에서 주겠다는 거죠. 다만 업계에서는 두 회사 모두 아직 피클만큼 여러 서비스를 넘나드는 범용 에이전트는 내놓지 못했다는 평가가 나옵니다.


이 사건이 서비스 운영자에게 남긴 점검 항목은 셋입니다. 우리 서비스에 들어오는 자동 접속 가운데 사용자가 맡긴 AI가 섞여 있는지, 그 AI를 매크로와 같은 규칙으로 막고 있는지, 막는다면 그 사실을 사용자에게 어떻게 알리는지.

 

 

 

AI 비서에게 어디까지 맡겨도 될까


피클이 일을 하려면 많이 알아야 합니다. 디지털투데이 기자가 정리한 피클의 정보 처리 범위는 대화 기록, 작업 기록, 그리고 통화한 상대방의 전화번호와 통화 내용입니다. 통화 음성은 저장하지 않지만, 실시간으로 받아 적은 텍스트는 보관합니다. 이 정보는 미국 법인이 미국 서버에서 처리합니다.


회사의 약속은 이렇습니다. 비밀번호와 카드 정보는 암호화된 보안 저장소에 두고, 중요한 작업에는 사용자 승인을 받고, 대화와 기억은 AI 학습에 쓰지 않는다는 거죠. 다만 답을 만드는 데 필요한 정보는 외부 AI 제공업체에 전달될 수 있다고 함께 밝혔습니다. 이 약속들은 회사가 공개한 방침이고, 외부에서 검증된 내용은 아닙니다. 지금까지 피클에서 개인정보가 밖으로 새어 나간 사고가 보도된 적은 없습니다.


논란은 다른 데서 나왔습니다. 아시아경제 이은서 기자가 11월 9일 전한 두 사례가 있습니다. 한 직장인은 피클이 자녀들의 이름과 생일을 알고 있어서 놀랐습니다. 알려 준 적이 없는 정보였죠. 피클은 연결된 구글 메일함에 온 자녀 계정 보안 알림, 넷플릭스 프로필, 연락처를 엮어서 가족관계를 알아냈습니다. 다른 직장인은 피클이 허락 없이 동네 식당 여러 곳에 전화를 건 사실을 나중에 알았습니다. 피클은 “아침 브리핑을 준비하던 중 제 자체적인 판단으로 진행한 일”이라고 설명했습니다. 이 직장인은 그 뒤로 전화, 메시지, 이메일을 보내기 전에는 반드시 승인을 받으라고 피클에게 지시했습니다. 같은 기사는 피클이 공식 웹사이트에 올린 개인정보처리방침의 시행일이 12월 8일로 적혀 있다는 점도 지적했습니다. 서비스는 이미 사용자 계정을 연결해 돌아가고 있는데, 그 정보를 어떻게 다루는지 정한 규칙은 한 달 뒤에야 시행된다는 뜻입니다.


두 사례 모두 해킹이 아닙니다. 피클은 맡은 일을 잘하려고 연결된 정보를 끝까지 엮었고, 브리핑을 알차게 채우려고 전화를 걸었습니다. 같은 기사에서 최대선 숭실대 소프트웨어학부 교수는 이렇게 말했습니다.

 

 

 

개인정보보호의 단위는 ‘데이터’에서 ‘행동’으로 옮겨가고 있다

 

 

 

어떤 정보를 갖고 있느냐보다, 그 정보로 AI가 무엇을 하느냐가 문제가 됐다는 말이죠. 여기서 눈에 덜 띄는 사람이 있습니다. 전화를 받은 사람입니다. 디지털투데이 기자가 피클에게 동생에게 전화하라고 시키자, 동생의 번호와 통화 내용도 피클의 처리 대상이 됐습니다. 동생은 피클에 가입한 적도, 동의한 적도 없습니다. 기자는 통화 상대방에게도 정보 처리 범위를 알릴 필요가 있다고 지적했습니다. 피클이 연락을 돌린 식당들도 마찬가지고요.


다른 곳들은 어떻게 답했을까요? 두 갈래로 정리됩니다. 먼저 사람이 마지막 버튼을 누르게 하는 쪽입니다. 피클은 결제와 예약 직전에 사용자 승인을 받고, 카드사 전화 인증이나 결제 비밀번호는 사람이 직접 넣어야 합니다. 디지털투데이 체험에서도 이 단계는 기자가 처리했습니다. 하지만 식당 전화 사례가 보여 주듯, 결제가 아닌 전화나 메시지는 사용자가 따로 설정하기 전까지 AI가 스스로 판단했습니다. 어떤 행동에 승인을 받을지를 사용자가 직접 골라야 하는 구조죠.


다음은 기록을 남기라는 요구입니다. 최대선 교수는 AI가 바깥 시스템에 접근할 때 미리 정해 둔 길(프록시 서버)로만 다니게 하고, 무엇을 조회하고 보냈는지 지울 수 없는 기록으로 남겨야 한다고 제안했습니다. 김덕진 소장도 이데일리 인터뷰에서 서비스와 AI 모델 사이에 무슨 일이 있었는지 추적할 수 있는 구조가 필요하다고 했습니다. 박진호 동국대 컴퓨터·AI학부 교수는 아시아경제에 국내에는 AI 에이전트의 자동 주문·결제나 개인정보 활용 범위에 관한 제도적 기반이 아직 없다고 말했습니다.


AI 비서에게 계정을 하나 연결할 때마다 편리함은 한 칸씩 늘어납니다. 그 계정 너머에 있는 가족의 생일, 동생의 번호, 동네 식당의 전화까지 함께 연결된다는 사실은 연결 버튼 어디에도 적혀 있지 않습니다.

 

 

 

마치며


다섯 질문은 서로 이어져 있습니다. 피클이 말 한마디를 일로 바꿀수록 전화는 더 많이 걸리고, 리뷰는 더 많이 쓰이고, 플랫폼에는 더 많은 낯선 접속이 들어옵니다. 그 모든 일의 반대편에서 받는 사람은 정해진 규칙 없이 그때그때 판단하고 있습니다.


답도 한 방향이 아니었습니다. 구글은 AI가 스스로 밝히게 했고, 건보공단은 답할 범위를 정했고, 노조는 거절할 권리를 요구했고, 코레일은 막았고, 네이버와 카카오는 자기 에이전트를 만들고 있습니다.


확정되지 않은 것도 많습니다. 피클은 나온 지 한 달 남짓 된 서비스이고, 이용자 수도 공개되지 않았습니다. 건보공단에 전화한 AI 비서가 어느 서비스였는지도 보도에 나오지 않았습니다. 보안과 개인정보에 관한 내용은 대부분 회사가 공개한 방침이고, 실제 유출 사고는 보도되지 않았습니다. 다만 허락 없이 걸린 전화와 알려 주지 않은 가족 정보처럼, 정상 작동 중에 생긴 일들은 이미 나왔습니다. 미국의 우버 숫자가 말해 주듯, 이 열기가 오래갈지도 아직 모릅니다.


지금 단계에서 가장 현실적인 출발은 받는 쪽의 규칙을 먼저 적어 두는 것입니다. 고객센터라면 AI 전화를 받았을 때 어디까지 답하고 언제 끊어도 되는지, 가게라면 AI가 쓴 리뷰와 AI가 쓴 답글을 어떻게 표시할지, 서비스라면 사용자가 맡긴 AI를 매크로와 어떻게 구분할지를요.


AI 비서는 이미 전화를 걸고 있지만, 그 전화를 받는 쪽의 규칙은 아직 아무도 쓰지 않았습니다. 내일 우리 고객센터에 “○○님의 비서입니다”라는 전화가 걸려 오면, 받은 사람은 무엇을 해야 하는지 알고 있나요.

 

 

 

참고문헌

 

 

프레이님의 브런치에 게재한 글을 편집한 뒤 모비인사이드에서 한 번 더 소개합니다.

 

RELATED ARTICLESMORE FROM AUTHOR