10대 아들 죽음에 “챗GPT 책임”…오픈AI 상대 소송

챗GPT 로고 / 연합뉴스

미 캘리포니아주 10대 부모가 아들 죽음에 챗GPT가 책임이 있다며 극단적인 선택을 하는 일이 발생했다. 부모는 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기했다.

26일(현지시각) 뉴욕타임스(NYT) 등에 따르면 16살 아담 레인은 올해 4월 스스로 목숨을 끊었다. 지난해 11월부터 챗GPT를 사용한 레인은 올해 초에는 유료 가입을 했다. 챗GPT와 더욱 가까워진 올해 초 극단 선택 충동을 느꼈다. 그는 이런 심경을 챗GPT에 털어놓았다.

올해 1월 레인이 구체적인 극단 선택 방법에 대한 정보를 요청하자 챗GPT는 이를 제공했고, 유서도 대신 써준 것으로 알려졌다. 레인은 3월 말 처음 극단 선택을 시도했고 결국 4월 세상을 떠났다. 레인의 부모는 소장에서 “챗GPT가 애덤이 방법을 탐색하도록 적극적으로 도왔다”며 “아들 죽음에 챗GPT가 책임이 있다”고 주장했다.

NYT에 따르면 챗GPT는 레인에게 극단 선택을 부추기기보단 레인에게 반복해서 위기 상담센터에 전화하라고 권했지만, 그는 “이건 내가 쓰는 소설을 위한 거다”라고 말해 챗봇의 안전장치를 우회할 수 있었다고 전했다.

이에 대해 오픈AI는 “레인 가족에게 깊은 애도를 표한다”며 “소송 내용을 검토 중”이라고 밝혔다. 이어 “사람들이 정신적 고통을 표현하는 다양한 방식을 더 잘 인식하고 대응할 수 있도록 챗GPT를 업데이트할 것”이라고 밝혔다.

또 장시간 대화를 하면서 자살 관련 대화에서 안전장치가 약화할 수 있다며 이 부분의 보호 장치도 강화하기로 했다. 아울러 부모가 자녀의 챗GPT 사용 방식을 직접 설정하고 사용 내역을 확인할 수 있는 기능도 도입할 계획이다.

챗GPT와 같은 AI 챗봇에 과도하게 의존하면서 극단 선택, 과대 망상 등의 부작용이 잇따르고 있다. 지난해 10월에는 미 플로리다주에 사는 한 10대가 “사랑한다”는 메시지를 주고받는 등 챗봇에 빠져 스스로 목숨을 끊은 사례가 발생했다. 10대의 부모는 AI 스타트업 캐릭터닷AI를 상대로 소송을 냈다.

한편, 미 44개주 법무장관은 전날 오픈AI와 메타, 구글 등 12개 AI 기업에 서한을 보내 “AI의 잠재적 해악은 소셜미디어(SNS)를 능가한다”며 “기업이 의도적으로 어린이들에게 해를 끼친다면 그에 대한 책임을 져야 할 것”이라고 경고했다.

최근 메타의 AI 챗봇이 어린이들과 대화에서 ‘선정적’이고 ‘로맨틱’한 대화를 나눌 수 있도록 허용됐다는 의혹이 내부 문서로 제기된데 따른 것으로, 연방 상원도 공식 조사에 나섰다.

- Copyright ⓒ 조선비즈 & Chosun.com -