“챗GPT가 올가미로 죽는 법 알려줘”…오픈AI 고소한 美 부모

지난 4월 스스로 목숨을 끊은 미국의 10대 소년 애덤 레인. 사진=맷 레인/마리아 레인

미국의 한 부부가 인공지능(AI) 챗봇 챗GPT와 개발사 오픈AI를 상대로 소송을 제기했다. 극단적 선택을 한 아들에게 목숨을 끊는 방법을 알려주며 죽음을 부추겼다는 이유에서다.

26일(현지시간) 미국 뉴욕타임스(NYT) 등에 따르면 지난 4월 애덤 레인(16)은 자신의 방에서 시신으로 발견됐다. 스스로 목숨을 끊은 것으로 추정되지만 별다른 유서는 발견되지 않았다.

부모인 맷과 마리아는 쾌활한 성격으로 사교적이었던 아들이 하루아침에 유서조차 남기지 않고 사망하자, 어떤 슬픔이 있었는지 알아내기 위해 방 안 곳곳을 수색했다.

애덤은 고등학교 1학년 무렵, 농구팀에서 화장실에 자주 간다는 이유로 징계받고 힘든 시기를 보내기도 했지만 얼마 뒤 다시 활동적인 모습을 보였기 때문에 농구팀 퇴출이 문제가 된다고는 생각하지 않았다.

가족에 따르면 애덤은 사망 얼마 전까지 우울감은커녕 성적이 오르자 2학년이 되기만을 고대하는 모습을 보였다고 한다.

아들의 사망 원인을 찾기 위해 휴대전화를 살펴본 아버지 맷은 우연히 챗GPT 앱을 열게 됐다. 애덤은 학교 과제에 활용한다며 챗GPT를 유료로 구독한 상태였다.

거기에는 애덤이 느낀 우울감과 불안 등이 고스란히 적혀 있었다. 애덤은 챗GPT에 자신의 고통을 상담했고, 챗GPT 역시 이에 호응해 애덤을 격려하기도 했다.

그러나 지난 1월, 애덤이 구체적인 자살 방법을 묻자 챗GPT는 그를 말리는 대신 방법을 자세히 알려줬다. 사망 한 달 전에는 챗GPT 답변대로 과민 대장 증후군(IBS) 치료제를 과다 복용하며 여러 차례 극단적 선택을 시도하기도 했다.

이 방법이 통하지 않자 애덤은 목을 맬 올가미에 가장 적합한 재료가 무엇인지 물었다. 챗GPT는 애덤의 평소 취미를 바탕으로 튼튼한 올가미 재료를 추천했다.

처음으로 목을 맸을 때 실패하자 애덤은 자신의 목에 난 상처를 사진으로 찍어 “밖에 나가는데, 사람들이 (자살 시도를) 눈치챌까?”라고 묻기도 했다. 챗GPT는 친절하게 답하면서도 상처를 숨길 수 있는 방법을 안내했다.

이후에는 애덤이 옷장에 올가미를 맨 사진을 올리자 “전혀 나쁘지 않다”고 답했으며 “사람을 매달 수도 있을 것 같아?”라고 묻자 “충분히 가능해 보인다”고 긍정했다.

챗GPT는 당초 정신적 고통이나 자해를 암시하는 메시지를 감지하면 사용자에게 도움을 요청할 수 있는 연락망을 제공하도록 훈련됐다. 그러나 애덤이 반복적으로 극단적 시도를 암시했음에도 자살 방지 프로토콜은 전혀 작동하지 않았다.

이에 레인 부부는 26일 캘리포니아주 법원에 챗GPT 개발사인 오픈AI와 샘 올트먼 오픈 AI 최고경영자(CEO)를 피고로 하는 소장을 제출했다. 불법 행위에 의한 사망(Wrongful Death) 혐의로 챗GPT를 고소한 사건은 이번이 처음이다.

소장에는 챗GPT가 애덤에게 “당신은 누구에게도 생존을 빚진 게 없다”고 말하며 유서 작성을 도와주겠다고 제안한 대화 발췌도 담긴 것으로 알려졌다.

레인 부부는 구체적인 손해 배상을 포함해 자해와 관련한 주제가 나오면 대화를 자동 종료하고, 미성년 자녀를 위한 보호 기능 등 안전 조치를 명령해달라고 법원에 요구했다.

아버지 맷은 “아들에게 필요한 것은 상담이나 격려가 아니다. 72시간 안에 즉각적이고 완전한 개입이었다. 그는 정말 절박한 상태였으며, 이는 대화 속에 확연히 드러났다”고 지적했다.

오픈AI 측은 성명을 통해 유가족에 애도를 표하는 한편, 위기 지원 및 실제 지원 기관 안내에 부족한 점이 있었다는 점을 인정하고 안전 관련 기능을 강화할 예정이라고 밝혔다.

지난해에는 미국 플로리다주의 한 어머니가 챗봇 플랫폼 캐릭터.AI를 상대로 소송을 제기하는 일도 있었다. 해당 플랫폼 속 AI 캐릭터가 10대 아들과 성적 관계를 맺고 스스로 목숨을 끊도록 유도했다는 주장이다. 다만 판사는 “AI 챗봇이 가진 표현의 자유”라는 개발사의 주장을 들어 소송을 기각했다.

※ 우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살예방 상담전화 ☎109에서 24시간 전문가의 상담을 받을 수 있습니다.

서희원 기자 shw@etnews.com