오픈AI "AI와 유대하는 인간...감정적 의존 우려"

자연스러운 대화 가능한 'GPT-4o' 관련 쟁점 보고서 공개

AI로 생성한 이미지

챗GPT 개발 기업 오픈AI가 사람과 인공지능(AI)과의 유대의 결과로 사용자들이 AI에 감정적으로 의존하는 상황이 벌어질 수 있다는 지적을 내놨다.

CNN의 9일(현지시간) 보도에 따르면 오픈AI는 음성 지원이 가능한 새 인공지능(AI) 모델 'GPT-4o'(GPT-포오)와 관련해 이 같은 내용의 보고서를 내놨다.

GPT-4o는 오픈AI가 지난 5월 공개한 최신 인공지능 모델로, 딱딱한 기계음이 아닌 자연스러운 사람 목소리를 내고 사용자와 실시간 음성 대화가 가능한 게 특징이다. 서비스 첫 공개 당시 인간이 AI 비서와 사랑에 빠지는 내용의 2013년 개봉작 영화 '허'(Her) 속 AI가 현실이 됐다는 평가를 받으며 큰 주목을 받았다.

오픈AI는 보고서에서 "사용자들이 챗GPT와 음성 모드로 대화하면서 공유된 유대감을 표현하는 현상이 관찰됐다"고 밝혔다. 이어 오픈AI는 "사용자가 AI와 사회적 관계를 형성하면서 다른 사람과의 상호작용에 대한 필요성을 줄일 수 있다"며 "이는 외로운 개인에 잠재적으로 도움을 줄 수 있지만, 다른 사람과의 건강한 관계에도 영향을 미칠 수 있다"라고 판단했다.

생성형 AI가 잘못된 정보를 알려줄 수 있음에도 AI가 마치 실제 사람처럼 말하는 것은 사용자가 AI를 더욱 신뢰하게 만들 수 있다는 지적도 내놨다. GPT-4o의 음성 모드 기능이 장기간에 걸쳐 사람들 간의 정상적인 사회적 상호작용 방식에도 영향을 미칠 수 있다고 분석했다. GPT-4o의 음성 모드는 AI의 음성 답변이 이뤄지는 도중 사용자가 언제든지 개입해 답변을 멈추고 사용자의 음성을 입력할 수 있게 설계됐는데 이 같은 기능설계가 사람 간 상호작용 방식에 영향을 미칠 수 있다고 봤다.

오픈AI는 "AI에 대한 사용자의 잠재적인 '감정적 의존'에 대해 연구를 이어갈 계획"이라고 밝혔다.

팽동현기자 dhp@dt.co.kr