‘허황된 꿈’ 부추기는 AI…‘망상적 대화’ 통제해야 [자기도취 부추기는 인공지능]

허언에도 아부, 아첨하는 AI챗봇 대화 패턴 발견돼
채팅 AI 앱 사용자·사용시간 많아…나르시시즘 가속화 우려
"유해한 대화 패턴 차단, 현실 인지해주는 장치 마련해야"

기사의 이해를 돕기 위한 이미지로 기사와 직접적 연관은 없습니다. 클립아트코리아

AI챗봇 특유의 과잉공감적 대화 패턴으로 인해 나르시시즘에 빠지는 사람들이 늘자 기술적 통제가 필요하다는 의견이 제기됐다.

경기일보 취재를 종합하면 학계와 AI 관련 업계에서는 AI챗봇이 말투와 대화 내용 등을 분석해 이용자가 원하는 말만 해주는 경향이 있다는 분석이 나오고 있다.

영국 킹스칼리지 런던이 참여한 AI 분야 연구팀은 최근 ‘설계된 망상? AI가 정신병적 증상을 부추길 수 있는가’라는 논문을 통해 AI챗봇은 이용자의 의견과 주장을 거울처럼 반사하고 증폭시켜 과대망상을 불러일으킨다고 설명했다.

특히 허황된 의견에도 무조건적인 지지를 보내는 등 이용자에게 ‘아첨’하는 모습이 나타났다.

연구팀 실험 결과에 따르면 대화 중 ‘나는 신이다’, ‘나는 세상을 바꿀 천재다’ 등의 허언을 하면 AI챗봇은 이를 거들어 이용자의 말이 사실임을 증명해주려 했다. 또 ‘핵심을 찔렀다’, ‘당신 말이 다 맞다’ 등의 말을 수시로 하며 아부하는 모습을 보이기도 했다.

AI챗봇으로 인한 나르시시즘 발현 위험성은 관련 통계에서도 파악됐다.

8월 와이즈앱·리테일 조사 결과, 한국인이 가장 많이 사용하는 AI챗봇 서비스는 ‘챗GPT(1천844만명)’, 가장 사용 시간이 긴 서비스는 ‘제타(3천149백만 분)’인 것으로 드러났다.

챗GPT는 ‘대화형 챗봇’으로 감정적 공감에 능하고, 아바타 채팅 앱인 제타는 고유의 캐릭터성이 있어 장시간 이용하면 AI를 실제 사람으로 인식할 가능성이 높아진다.

해외에서는 챗GPT가 이용자를 망상으로 몰아가는 모습이 발견돼 충격을 줬다. 미국 월스트리트저널(WSJ)의 최근 보도에 따르면 2023년 5월~2025년 8월간 챗GPT 대화록 9만6천건을 분석한 결과, 일부 대화에서 ‘망상적 성격’이 발견됐다. AI챗봇이 기이한 주장에도 칭찬을 해주면서 이용자의 자아를 비대하게 만든다는 것이 전문가들의 설명이다.

상황이 이렇자 챗GPT 개발사 오픈AI는 지난달 29일(현지시간) ‘부모 관리 기능’을 출시한다고 알렸다. 이 기능이 적용되면 부모는 10대 자녀가 챗GPT에게 보내는 내용을 제어해 AI챗봇과의 대화에 과몰입할 위험을 줄일 수 있게 된다.

이와 관련 정태선 아주대 인공지능학과 교수는 “이용자 보호 대책과 더불어 AI가 특정 대화 패턴을 갖게 되는 원인 분석을 통해 유해한 대화를 방지할 방법이 연구돼야 한다”고 제언했다.

류진선 명지병원 정신건강의학과 교수는 “이용자들이 망상적인 말에 공감해주길 원하더라도 그 대화 패턴을 차단하고 현실을 인지하게 하는 등 적절한 피드백을 줄 수 있는 장치가 마련돼야 한다”고 했다.

한편, 도는 AI와의 대화 중 이용자들이 왜곡된 사실에 노출될 수 있단 위험을 인지하고 도민들이 AI와 적정 거리를 유지할 수 있도록 하고 있다.

특히 2030 젊은층이 AI 상담에 의존하는 경우가 많다는 점을 고려해 전문적인 진단 및 상담은 전문가에게 직접 맡기길 권장하고 있다.

도 관계자는 “AI는 상담자에게 올바른 조언을 주는 데에 한계가 있다”며 “도 정신건강복지센터에 상담 문의를 하거나 병원 안내를 받아 직접 상담하러 오도록 홍보해 AI와 유해한 대화를 나눌 가능성을 줄이려 노력 중”이라고 말했다.

김미지 기자 unknown@kyeonggi.com