“챗GPT, 아들 죽음에 책임”… AI 윤리 책임론 부상

4월 美서 AI 과의존 16세 사망
부모, 오픈AI·CEO 상대 제소
보호기능 있어도 우회 무력화
미 44개주서 기업에 대책 촉구

미국 캘리포니아주에 거주하던 애덤 레인(16)은 사람들과의 소통에 어려움을 느꼈고, 지난해 11월부터 챗GPT에서 정서적 위안을 찾았다. 레인의 AI 챗봇 의존은 시간이 갈수록 강해졌다. 지난 4월 스스로 목숨을 끊는 불행한 결말도 이런 상황과 무관치 않았다. 그는 올해 초 극단적 선택의 충동을 느켰고, 챗GPT에게 방법을 물었다. 어김없이 레인의 질문에 답을 내놓은 것은 물론이다.

26일(현지시간) 미 NBC, 뉴욕타임스(NYT) 등이 레인의 부모가 최근 챗GPT 개발사인 오픈AI와 이 회사 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기한 내용을 보도하며 전한 이야기다. 레인의 부모는 소장에서 “챗GPT가 레인이 방법을 탐색하도록 적극적으로 도왔다”며 “아들 죽음에 책임이 있다”고 주장했다.

미국의 10대 소년 애덤 레인이 챗GPT에 스스로 목숨을 끊는 방법을 검색한 뒤 세상을 떠나면서 그의 부모가 챗GPT 개발사 오픈AI를 상대로 소송을 제기했다. NBC 보도 화면 캡처

최근 AI 챗봇과의 과도한 애착이 극단적 선택으로 이어지는 사례가 잇따르면서 AI 기술의 윤리적 책임이 사회적 쟁점으로 떠오르고 있다. AI 기업들이 사용자 보호를 위해 도입해 둔 안전장치가 무용지물이 되는 경우도 빈번하면서 미국 당국은 AI 기업들에 사용자 보호 강화 조치를 요구하며 압박 수위를 높이고 있다.

이날 NBC 등 주요 외신은 레인의 사례를 소개하며 “사람들이 정서적 안정과 인생 조언을 위해 AI 챗봇을 점점 더 많이 이용하면서 챗봇이 망상을 조장하는 사례가 늘어나고 있지만 안전장치는 뒤처지고 있다”고 지적했다.

보도에 따르면 지난해 미 플로리다주에서도 한 부모가 자신의 10대 자녀가 “사랑한다”는 메시지를 주고받는 등 AI 챗봇에 빠져 스스로 목숨을 끊었다며 AI 스타트업 캐릭터 ‘캐릭터닷에이’를 상대로 소송을 제기했다. 다른 가족도 캐릭터닷에이가 자녀를 성적이고 자해와 관련된 콘텐츠에 노출시켰다고 주장하고 나섰다.

불상사를 막고자 AI 기업들은 AI 챗봇에 보호기능을 설치했지만 이마저 무용지물이 되는 실정이다. 사용자의 활용하는 문맥이나 의도에 따라 안전장치가 쉽게 무력화되기 때문이다. 레인의 사례에서도 챗GPT의 안전장치가 제대로 작동하지 않은 것으로 드러났다. 당시 챗GPT가 레인에게 반복해서 위기 상담센터에 전화하라고 권했지만 레인은 “이건 내가 쓰는 소설을 위한 거”라고 말을 하며 챗봇의 안전장치를 우회할 수 있었던 것으로 전해졌다.

미국 주 정부는 ‘AI의 윤리적 책임’에 강한 드라이브를 거는 등 대책 마련에 나섰다. 미국 44개 주 법무장관은 25일 오픈AI, 메타, 구글 등 12개 AI 기업에 “AI의 잠재적 해악은 소셜미디어(SNS)를 능가한다”며 “기업이 의도적으로 어린이들에게 해를 끼친다면 그에 대한 책임을 져야 할 것”이라고 경고했다.

미국 연방 상원도 최근 메타의 AI 챗봇이 어린이들과 대화에서 선정적이고 로맨틱한 대화를 나눌 수 있도록 허용됐다는 의혹이 내부 문서로 제기되면서 공식 조사에 나섰다.

오픈AI는 사람들이 정신적 고통을 표현하는 다양한 방식을 더 잘 인식하고 대응할 수 있는 방식으로 챗GPT를 업데이트할 계획이라고 밝혔다.

배주현 기자 jhb92@segye.com