[HBR 인사이트]확신에 찬 AI의 목소리, 사람의 판단을 흔든다

게티이미지뱅크

음성이 빠르게 인공지능(AI)의 주요 인터페이스로 자리 잡고 있다. 오픈AI, 구글, 흄 AI 등은 실시간 음성 서비스를 출시해 손쉽게 대규모로 배포할 수 있게 했다. 시장조사기관 가트너는 2028년까지 대화형 비서가 초기 분류, 연결, 문제 해결 등 고객 서비스 프로세스의 70%를 처리할 것으로 전망했다.

현재 많은 조직에서 AI 시스템의 음성 기능은 공급업체가 제공하는 옵션 형태로 도입되고 있다. 관리 대상이라기보다는 인프라나 브랜드 전략의 일환으로 취급된다. 기업이 음성 AI의 어조, 친근감, 표현력을 조절할 수는 있지만 실제 불확실성이나 의사결정 리스크를 반영하기 위해 AI 시스템의 목소리가 얼마나 확신에 차 있는지를 의도적으로 조정하는 경우는 거의 없다. 그러나 음성 심리학 연구에 따르면 전달되는 정보의 질과 무관하게 어떤 말을 어떻게 하는지에 따라 그 말의 수용도가 결정되는 것으로 나타났다. 일례로 2020년 미국 럿거스대와 펜실베이니아대의 공동 연구에서는 자신감 있는 목소리로 메시지를 전달할수록 설득력이 높아지는 것으로 나타났다.

한 고객이 AI와 정신건강 상담을 하고 있다고 가정해 보자. 그는 몇 주 동안 지속된 무기력감, 수면장애, 집중력 저하 등의 증상을 설명한다. 고객이 제공한 제한된 정보를 바탕으로 AI는 진단 결과를 도출한 뒤 “이런 증상은 일반적으로 우울증과 관련이 있다”고 자신 있게 말한다. 만약 고객이 화면을 보고 있었다면 잠시 멈추고 주의사항을 생각하거나 진단에 의문을 품었을지도 모른다. 의문을 품을 만한 타당한 이유가 있다. 같은 증상이라도 스트레스, 번아웃, 갑상샘 질환 혹은 상실감 때문일 수도 있기 때문이다. 하지만 확신에 찬 목소리의 진단 결과를 직접 듣는다면 고객은 이를 가설이 아닌 확정된 평가로 받아들일 가능성이 높다.

또 다른 예로 고객이 음성 챗봇을 통해 보험 상품을 비교하고 있다고 상상해 보자. 한 상품에는 고객에게 필요하다고 예상되는 시술의 보장 내용이 포함된 것처럼 보인다. 하지만 해당 보장이 실제로 적용되는지는 AI가 완전히 파악하지 못할 수 있는 세부 사항에 달려 있다. 그럼에도 AI 상담원은 “이 상품에 해당 시술이 보장될 가능성이 높다”라고 확신에 찬 어조로 답한다. 이를 들은 고객은 해당 시술이 보장될 것이라고 가정하고, 다른 상품을 더 알아보지 않은 채 그 상품을 선택할 수 있다. AI 상담원이 틀린 말을 한 것은 아니지만 조건부 답변을 마치 확정된 사실처럼 들리게 만든 셈이다.

이처럼 AI 상담원이나 시스템이 얼마나 확신에 찬 어조로 말했는지에 따라 고객의 결정은 달라질 수 있다. 그러나 나중에 나온 실제 결과가 고객의 예상과 다르다면 이는 기업에 대한 신뢰를 떨어뜨릴 것이다.

이 같은 문제를 예방하기 위해 조직은 음성 AI 도입의 기준을 정의해야 한다. 모든 대화와 상호작용이 동일한 결과를 초래하는 것은 아니다. 예약 확인 메시지는 단호하게 전달돼야 한다. 반면 예비 건강진단 결과나 재무 전략 제안과 관련해서는 보다 신중한 어조로, 잠정적인 결과라는 느낌을 주도록 소통해야 한다. 음성 대화 상황을 위험 수준별로 분류한 다음, 각 수준에 따라 AI 어시스턴트가 얼마나 단호하게 혹은 유보적인 어조로 말해야 하는지에 관한 명확한 발화 규칙을 마련할 필요가 있다.

이를 제품팀이나 브랜드팀에만 맡겨서는 안 된다. 어조가 사람들의 행동에 영향을 미치기 때문에 리스크 관리 담당자, 규정 준수 담당자, 필요한 경우 규제 담당 리더들의 참여가 필요하다. 시스템의 어조가 어떻게 전달되고 어떤 결과를 낳는지에 대해 이들이 공동으로 책임지도록 해야 한다. 그래야 AI 상담원의 응대 방식에 기관의 리스크 기준과 책임 체계까지 반영할 수 있다.

사용자가 어느 정도의 음성적 확신을 편안하게 받아들이는지도 파악할 필요가 있다. 모든 사용자가 같은 음성적 확신에 똑같이 반응하는 것은 아니다. 일부는 명확하고 단호한 안내를 선호한다. 반면 익숙하지 않거나 중요한 결정이 필요한 영역에서는 불확실성과 장단점이 명확히 제시될 때 더 잘 대처하는 사용자들도 있다. 금융 서비스 업계에서는 이미 고객의 위험 감수 성향을 평가해 투자 전략을 결정하고 있다. 음성 AI 시스템에서도 이와 유사한 접근 방식을 적용해 사용자의 상황, 주제에 대한 친숙도, 권위적 신호에 대한 민감도 등을 바탕으로 단호한 어조를 조절할 수 있다.

※이 글은 HBR(하버드비즈니스리뷰) 디지털 아티클 ‘음성 AI의 목소리는 어떻게 들려야 할까’를 요약한 것입니다.

미셸 테이트 전 인튜이트 메일침프 최고마케팅책임자
정리=최호진 기자 hojin@donga.com