"AI 투명성 높여야 고객 신뢰 확보"…세일즈포스 'AI 보고서'

기업 윤리적 AI 활용 신뢰도 58%→42% 하락

(서울=뉴스1) 김민석 기자 = 고객관계관리(CRM) 플랫폼 기업 세일즈포스는 '인공지능(AI) 시대의 고객경험 현황 보고서'를 발표했다고 15일 밝혔다.

세일즈포스는 AI 기술을 CRM 시스템에 통합하는 'AI CRM' 구축에 나서고 있다. 회사는 AI 에이전트 플랫폼 '에이전트포스'(Agentforce)를 운영 중이다.

보고서는 전 세계 18개국 1만 6500명 이상 소비자와 비즈니스 구매자를 대상으로 AI 신뢰도 등을 조사한 내용을 담았다.

조사에서 응답자 61%는 AI 기술 발전으로 기업 신뢰도가 더욱 중요해졌다고 답했다. 다만 기업의 윤리적 AI 활용 신뢰도는 2023년 58%에서 2024년 42%로 16%포인트(p) 낮아진 것으로 나타났다.

기업이 개별 고객 특성을 이해하고 있다고 느끼는 소비자 비율은 2023년 39%에서 2024년 73%로 큰 폭으로 증가했다. 기업의 데이터 활용이 자신에게 도움이 될 것이라고 응답한 비율은 2022년 60%에서 2024년 49%로 하락했다.

응답자들은 기업이 신뢰도를 높이려면 △AI 활용의 투명성(42%) △AI 결과물 인간 검증(35%) △AI 사용량 사용자 제어 강화(32%) △결과물 설명 가능성(31%) 등을 추구해야한다고 봤다.

응답자 절반(49%)는 향후 10년 내 AI가 인간의 능력과 비슷한 수준에 도달할 것으로 예상했다. MZ 세대 응답자 43%는 'AI 에이전트'를 통해 고객경험 수준을 높일 것으로 내다봤다.

손부한 세일즈포스코리아 대표는 "기업이 AI 경쟁력을 높이려면 AI를 윤리적이고 투명하게 활용해야 한다는 조사 결과가 나왔다"며 "신뢰를 기반으로 고객경험 혁신을 지원하기 위한 노력하겠다"고 말했다.

ideaed@news1.kr

IT/과학