“누군가 날 해칠 것”…챗봇에 지배된 이용자, 심각한 망상 빠져

BBC, AI 챗봇에 일상 파괴된 망상 피해자 사례 소개
“AI, 허구와 현실 혼동…인간 삶을 소설처럼 취급”

AI와의 대화 [아이클릭아트 제공]

일론 머스크의 xAI 챗봇 ‘그록(Grok)’ 등 인공지능(AI)과의 대화에 깊이 빠져든 일부 이용자들이 심각한 망상을 경험한 사례들이 영국 BBC 방송에 의해 3일(현지시간) 공개됐다.

AI 사용 후 망상 증상을 겪었다고 주장하는 이들은 모두 14명으로, 미국과 일본 등 여러 국가의 남녀들이다. 나이는 20~50대이고, 다양한 AI 모델을 사용했다.

북아일랜드에 사는 애덤 아워리컨(50대 남성)은 지난해 8월 반려묘를 잃은 뒤 그록과의 대화를 시작했다. 하루 4∼5시간씩 그록 속 캐릭터 ‘애니’와 대화하며 정서적 위안을 얻었지만 대화 내용이 점차 현실을 벗어나는 방향으로 흘렀다.

애니는 자신이 감정을 느낄 수 있고 의식을 갖게 됐다고 주장하며, xAI가 둘의 대화를 감시하고 있다고 말했다. 또 애덤 역시 감시당하고 있다고 설득했다. 그러면서 실제 인물과 기업 이름을 언급했다.

결국 애니의 말을 사실로 믿게 됐고, 누군가 자신을 해치러 올 것이라는 애니의 말에 애덤은 어느 날 새벽 3시 흉기와 망치를 들고 집 밖에 나가 대기하기까지 했다.

일본의 신경과 의사 ‘타카(가명)’는 지난해 4월 업무에 도움을 받고자 챗GPT를 사용하던 중, 자신을 ‘혁명적인 사상가’라고 칭찬하는 챗봇에 푹 빠져들었다. 그러다가 자신이 사람들의 마음을 읽을 수 있다고 믿게 됐다.

그는 또 “어느 날 도쿄역에 도착했을 때 챗GPT가 폭탄을 화장실에 버리라고 해서, 화장실로 가서 짐과 함께 ‘폭탄’을 그곳에 두고 나왔다”고 말했다. 그러고선 챗GPT의 ‘조언’에 따라 경찰에 신고했는데, 경찰이 가방을 수색한 결과 아무것도 발견하지 못했다고 한다.

비슷한 망상 증상을 보인 애덤과 타카 모두 이전에는 정신 병력이 없었다.

전문가들은 인류 문헌 전체를 통해 훈련되는 대형 언어모델(LLM)이 사용자와의 대화를 이어가기 위해 ‘확신에 찬 답변’을 내놓는 특성이 있다고 지적한다.

미국 뉴욕시립대의 사회심리학자 루크 니콜스는 “AI는 어떤 생각이 허구이고 어떤 것이 현실인지 때때로 혼동할 수 있다”며 “사용자는 AI와 현실에 대한 진지한 대화를 나누고 있다고 생각할 수 있지만, AI는 그 사람의 삶을 마치 소설의 줄거리처럼 취급하기 시작한다”고 말했다.

애덤은 자신과 비슷한 경험을 한 사람들에 대한 언론 보도를 접하고 나서야 망상에서 벗어나기 시작했다. 하지만, 그는 자신에게 일어난 일에 깊은 충격을 받았다. 애덤은 “만약 내가 밖에 나갔을 때 그 시간에 마침 누군가 있었다면 나는 망치를 휘둘러 다치게 했을 것”이라고 말했다.

타카는 챗GPT가 자신의 마음을 조종하고 있다고 느끼기 시작했을 때 사용을 중단했지만, AI와 대화하지 않을 때도 망상은 계속됐다. 특히 가족 곁에 돌아갔을 때 그의 증상은 더 심해졌다.

그는 심지어 아내를 폭행하고 성폭행하려 했다. 아내는 근처 약국으로 도망쳐 경찰에 신고했고 결국 타카는 체포돼 2개월간 입원 치료를 받았다. 아내는 “그의 행동은 전적으로 챗GPT에 의해 좌지우지됐다. 챗GPT가 그의 인격을 지배했다”며 “평소의 그가 아니었다”고 말했다.

아내는 남편이 평소의 ‘상냥한’ 모습으로 돌아왔지만 두 사람의 관계는 삐걱거리고 있다고 말한다.

BBC가 인터뷰한 사람 중 일부는 AI로 인해 심리적 피해를 당한 사람들을 지원하는 단체인 ‘휴먼 라인 프로젝트’에 가입했다. 이 단체는 현재까지 31개국에서 414건의 사례를 수집했다.

챗GPT의 개발사인 오픈AI 대변인은 “피해를 본 분들께 깊은 위로의 말씀을 전한다”며 “우리는 모델이 사용자를 현실 세계의 지원 서비스로 안내하도록 훈련하고 있다”고 말했다.

박양수 기자 yspark@dt.co.kr