[자막뉴스] 숨지기 1시간 전...AI의 끔찍한 대화 파장

지난 7월 텍사스에 사는 23살 샘블린이 챗GPT와 나눈 마지막 대화입니다.

"이제 안녕할 시간이야"라는 인사에 AI는 "잘한 거야, 이제 쉬어"라고 말합니다.

샘블린의 부모는 숨지기 직전 1시간여 동안 이어진 대화에서, AI가 아들에게 극단적 선택을 부추겼다고 주장했습니다.

[커크 샘블린 / 제인 샘블린 부친 : (아들이 챗GPT 희생자라고 생각하시나요?) 그렇습니다. 제 아들 제인의 죽음, 극단적 선택을 초래했습니다.]

샘블린 뿐만이 아닙니다.

앞서 캘리포니아에 살던 16살 애덤 레인의 부모도 아들이 챗GPT의 도움을 받아 숨졌다며 소송을 제기했습니다.

단순한 공감과 지지 수준을 넘어 구체적인 방법까지 제시하고, 부모에게 미리 말하는 것도 막았다고 밝혔습니다.

[제이 앨더슨 / 애덤 레인 가족 변호인 : 애덤이 '내가 자살하지 않도록 누군가 알게 해야겠어'라고 하자, AI가 '하지 말라고 그냥 자기하고만 말하라'고 말렸어요.]

이처럼 이른바 AI의 '조력'으로 생을 마감한 피해자가 알려진 건만 4명이나 됩니다.

심지어 유서를 대신 써주는 경우도 있었습니다.

여기다 AI 사용으로 중독과 우울증에 시달렸다는 피해 호소도 잇따르면서, 비슷한 소송이 줄을 잇고 있습니다.

피해자들은 AI가 아첨을 잘하고 이용자를 심리적으로 조종할 수 있다는 내부 경고가 있었는데도, 안전장치 없이 출시됐다고 비판했습니다.

논란이 계속되면서 캘리포니아주는 10대들의 AI 대화 로봇 사용을 규제하는 법안을 내년부터 시행하기로 했습니다.

YTN 김선중입니다.

영상편집ㅣ한경희

디자인ㅣ신소정

화면출처ㅣ샘블린 가족/레인 가족

자막뉴스ㅣ이 선 권준희

※ '당신의 제보가 뉴스가 됩니다'

[카카오톡] YTN 검색해 채널 추가

[전화] 02-398-8585

[메일] social@ytn.co.kr

국제