"또 틀렸네"…생성형 AI 떠나는 이유는 '할루시네이션'

KISDI 보고서…"정서적 교감 경험은 이용 지속에 긍정적"

(서울=연합뉴스) 권하영 기자 = 생성형 인공지능(AI) 서비스가 사회 전반에 안정적으로 확산되려면 초기 호기심 단계를 넘어서는 실질적인 효용 체감과 이용자 이탈을 막는 신뢰성 관리가 핵심 과제인 것으로 나타났다.

정보통신정책연구원(KISDI)은 생성형 AI 서비스의 이용 지속 및 이탈 요인을 분석한 '생성형 인공지능 서비스 채택 선행요인에 관한 탐색적 연구' 보고서를 2일 발간했다.

보고서에 따르면 생성형 AI는 콘텐츠 생성 능력을 바탕으로 빠르게 확산 중이지만 지속 이용자는 특정 연령대와 직군에 국한됐다.

연구팀이 서비스 이용 이후 단계를 분석한 결과, 이용 지속 여부는 단순한 접근성이 아니라 신뢰와 효용 인식, 상호작용 경험에 큰 영향을 받았다.

특히 생성형 AI 결과물의 오류와 할루시네이션(환각 현상)으로 발생하는 정보 검증 비용이 서비스 효용을 상쇄해 이용 이탈의 주요 원인이 됐다.

반면 개인화된 응답이나 맥락을 이해하는 대화 등 사람처럼 대하거나 정서적으로 교감하는 경험은 이용 지속 의도에 긍정적인 영향을 미쳤다.

일부 이용자는 AI에 개인적 고민을 털어놓거나 기계가 사람보다 배신 위험이 적어 안전하다고 느끼는 등 도구적 가치를 넘어선 관계적 상호작용을 보였다.

주성희 연구위원은 "이용자 경험과 인식에 기반한 수요자 중심 정책 설계가 필요하다"며 "이용자들이 유용성과 불안을 동시에 인식하는 만큼 신뢰할 수 있는 AI 환경 조성이 중요하다"고 말했다.

보고서는 AI 확산을 위한 정책 패러다임이 '기술 보급'에서 '경험 관리'로 전환돼야 한다고 제언했다.

구체적으로는 이용자 이탈 방지를 위한 할루시네이션 관리와 투명성 강화, 차별화된 디지털 리터러시 교육을 통한 기대치 조정을 제안했다.

기술적 두려움을 해소할 수 있는 수용자 중심의 거버넌스 구축과 조직 차원의 명확한 활용 기준 마련 등 제도적 기반 구축도 병행돼야 한다고 덧붙였다.

kwonhy@yna.co.kr

▶제보는 카톡 okjebo

IT/과학