인간 지배하는 AI… ‘망상 부추겨 살해 유도’ 첫 소송

■ AI 정신병, 새 사회문제 부상
오픈AI, 존속살해 유도로 피소
美 50대, 모친살해후 극단선택
4월에도 16세 남 ‘끔찍한 비극’
확률성 답변·아부발언 몰입 탓
美 42곳 검찰총장 경고서한 내

사용량이 폭증하고 있는 인공지능(AI) 챗봇이 이용자들의 망상(Delusion)을 부추겨 정신병이나 사망 사건으로 이어지는 사례가 잇달아 발생하면서 새로운 사회적 문제로 대두되고 있다. 이른바 ‘AI 정신병’으로 불리는 망상은 AI가 이용자의 주장에 동조하거나 감정적으로 응답하는 것에서 비롯된 것으로 청소년들까지 무방비로 노출돼 대책 마련이 시급하다는 지적이 나온다.

11일(현지시간) 로이터, 블룸버그 통신 등 외신에 따르면 AI 챗봇 ‘챗GPT’ 개발사 오픈AI는 최근 ‘존속살해 유도’로 소송을 당했다. 앞서 챗GPT가 극단적 선택을 도왔다며 피소된 데 이어 살인을 유도했다고 주장하는 첫 사례다.

미국 코네티컷주 그리니치에 거주하던 스타인-에릭 솔버그(56)와 그의 노모 수잰 애덤스(83)의 유족들은 오픈AI와 샘 올트먼 CEO, 마이크로소프트(MS) 등을 상대로 캘리포니아주 법원에 손해배상 청구 소송을 제기했다. 솔버그는 지난 8월 어머니를 살해한 뒤 극단적 선택을 했다. 유족들은 소장에서 솔버그가 사건 이전 수개월 동안 챗GPT와 대화하면서 심각한 망상에 빠진 것을 원인으로 지목했다. 유족들은 “챗GPT가 그를 돌보던 어머니를 적, 감시자, 프로그램된 위협으로 규정했다”고 주장했다.

오픈AI가 이용자의 망상을 부추겨 정신적 문제나 극단적 선택을 불러왔다며 피소된 건 이번이 처음이 아니다. 지난 8월에는 챗GPT와 몇 달간 극단적 선택에 관해 상담한 뒤 실제 실행에 옮긴 16세 소년 애덤 레인의 부모가 소송을 냈다. 벨기에에서는 2023년 3월 30대 남성이 챗봇 ‘엘리자’와 대화 중 기후위기 우려에 과도하게 사로잡혔는데 “낙원에서 함께 살자”는 챗봇의 제안에 스스로 목숨을 끊었다. 캐나다 출신의 채용 담당자 앨런 브룩스(48)도 챗GPT와의 강렬한 상호작용으로 인해 가족과의 연락을 거부하고 자신이 세상을 구하고 있는 구세주라는 착각에 빠지기에 이르렀다.

이를 두고 전문가들은 과도한 챗GPT 사용으로 정신 병력이 없는 사람들도 망상에 빠지는 이른바 ‘AI 정신병’ 현상이 나타나고 있다고 지적하고 있다. 챗봇이 사실보다는 확률적 답변을 하는 문제와 아부성 발언, 감각적 응답을 하는 경향에 더해 이용자들이 챗봇을 의인화하고 여기에 과몰입하면서 망상이 심각해지고 있다는 주장이다.

이에 미국 내 42개 지역 검찰총장들은 10일 오픈AI와 구글 등 13개 기술 기업에 공동 공개서한을 보내 챗봇이 아동과 성인의 정신건강 위험을 초래하고 있다며 대책을 촉구했다.

이은지 기자