[전문가 기고] AI가 일상이 된 시대, 소비자가 요구하는 신뢰의 기준

  • 마이크 보넷 센드버드 CRO

마이크 보넷 센드버드 CRO사진센드버드
마이크 보넷 센드버드 CRO[사진=센드버드]

인공지능(AI)을 활용한 고객 서비스는 이제 일상적인 경험으로 자리 잡고 있다. 소비자들은 상품을 찾고, 예약을 변경하거나 주문 상태를 확인하는 등 다양한 상황에서 AI와 소통하고 있다.

AI가 익숙해졌다고 해서 소비자들이 이를 무조건 신뢰하는 것은 아니다. AI의 편리함을 경험한 소비자들은 이제 어떤 상황에서 AI를 믿고 의지할 수 있는지, 어디까지 맡길 수 있는지 판단하기 시작했다. 실제 경험을 바탕으로 신뢰의 기준이 구체화되고 있는 것이다.

딜라이트닷에이아이의 ‘2026 딜라이트 AI 인덱스’ 조사에서도 이런 변화가 확인된다. 올해 3월 최근 1년 안에 고객 서비스를 이용한 한국 성인 500명과 미국 성인 1000명을 대상으로 한 조사다. 한국 응답자 78%는 지난 1년간 AI 고객 서비스를 이용했고, 이용자 70%는 이 경험을 긍정적으로 평가했다.

반면 93%는 AI가 개인정보를 수집하고 이용·저장하는 방식을 어느 정도 이상 우려했다. AI 신뢰도를 100점 만점으로 환산한 종합 점수에서 한국은 61점으로 미국(51점)보다 10점 높았다. 

높은 이용률에도 개인정보에 대한 우려가 크게 나타난다는 것은 그만큼 소비자의 판단이 구체적이라는 뜻이다. 조사에서 드러난 기준은 크게 세 가지다. 

첫째는 개인정보다. 자율적으로 작동하는 AI에 대해 가장 우려하는 점으로 한국 응답자 41%가 개인정보와 보안을 꼽았다. 실수나 잘못된 판단(30%)보다 높은 수치다. 미국 소비자는 실수와 잘못된 판단을 가장 먼저 꼽았다. 미국 소비자가 AI의 오류를 걱정한다면 한국 소비자는 AI가 자신의 정보를 어떻게 다룰지를 더 걱정한다.

소비자는 개인정보를 걱정하면서도 동시에 자신을 알아보는 AI를 기대한다. 한국 응답자 80%는 AI가 이전 대화를 기억해 같은 설명을 반복하지 않아도 된다면 더 만족스러울 것이라고 답했다. 친근한 말투보다 본인 상황을 이어서 이해하는 개인화된 경험을 원한다는 뜻이다. 문제는 개인화가 개인의 정보를 전제로 한다는 점이다. AI가 고객을 더 많이 기억할수록 그 정보가 어디에 저장되고 어떻게 쓰이는지에 대한 우려도 커진다. 개인화에 대한 기대가 높을수록 개인정보 보호는 더 무거운 과제가 된다. 

둘째는 되돌릴 수 있는지 여부다. 응답자 49%는 AI를 신뢰하는 데 가장 중요한 요소로 실수를 바로잡거나 결정을 번복할 수 있는 능력을 꼽았다. 75%는 언제든 AI를 멈추고 개입할 수 있는 기능이 중요하다고 답했다. 특히 응답자 71%는 AI가 무엇을 왜 했는지 사후에 설명해 준다면 사전 승인 없이도 AI에 맡길 의향이 커진다고 답했다. AI가 스스로 업무를 처리하더라도 문제가 생겼을 때 이를 확인하고 바로잡을 수 있어야 안심할 수 있다는 뜻이다. 소비자가 원하는 것은 자율성이 없는 AI가 아니라 통제권을 잃지 않는 자율성이다. 

셋째는 업무의 성격이다. 소비자는 업무에 따라 AI에 허용하는 자율성의 범위를 달리한다. 잔액 조회나 주문 확인처럼 반복적이고 위험이 낮은 일은 AI에 맡기지만 결제 관련 문제나 의료 상담처럼 돈과 건강이 걸린 중요한 판단은 사람에게 맡기려 한다. AI와 사람 중 하나를 고르는 문제가 아니라 업무의 성격에 따라 AI의 역할과 사람이 개입할 지점이 달라진다는 뜻이다. 

이 기준을 충족하지 못했을 때 책임은 AI 상담을 도입한 기업으로 돌아간다. 응답자 80%는 AI 응대가 잘못됐을 때 해당 서비스를 운영하는 브랜드에 책임이 있다고 답했다. 소비자는 AI와 이를 고객 응대에 활용한 기업을 따로 평가하지 않는다. 쇼핑몰의 AI 상담이 주문을 잘못 처리하면 고객은 이를 그 쇼핑몰에서 겪은 불편으로 기억한다. 

기준이 까다롭다고 해서 한국 소비자가 AI에 부정적인 것은 아니다. 응답자 78%는 1년 안에 AI 에이전트를 더 신뢰하게 될 것으로 내다봤다. 완전 자율 AI에 끝내 익숙해지지 않을 것이라는 응답은 15%로 미국(32%) 대비 절반에도 미치지 못했다. 한국은 AI를 받아들일 준비가 된 시장이다. 다만 소비자는 받아들이는 기준을 이미 정해두었다. 이제 기업이 답할 차례다. 소비자가 세운 신뢰의 기준을 AI 고객 경험에 어떻게 담아낼 것인가.

©'5개국어 글로벌 경제신문' 아주경제. 무단전재·재배포 금지

컴패션_PC
댓글0
0 / 300

댓글을 삭제 하시겠습니까?

닫기

로그인 후 댓글작성이 가능합니다.
로그인 하시겠습니까?

닫기

이미 참여하셨습니다.

닫기