"아이와 성적인 대화하다 죽음 내몰아"…미 44개주, AI 기업에 경고장

미국 44개 주 법무장관이 메타, 오픈AI 등 빅테크 기업과 주요 인공지능(AI) 기업에 어린이 보호 조치를 강화하라고 경고했다.

/사진=게티이미지뱅크

26일(현지시간) 뉴욕포스트 등에 따르면 주 법무장관의 연합체인 전미주 법무장관협회(NAAG)는 전날 12개 기업에 보낸 서한에서 어린이들을 보호할 법적 의무를 다하라고 촉구했다.

서한에는 워싱턴 DC를 제외한 미국 50개 주 중 44개 주가 참여했다. 서한을 받은 12개 기업은 메타, 마이크로소프트(MS), 구글, 애플, 오픈AI, 퍼블리시티, xAI, 앤트로픽 등이다.

NAAG는 서한에서 "44개 관할 구역의 법무장관으로서 인공지능 서비스에 의한 착취로부터 아동을 보호하기 위해 모든 권한을 행사하겠다는 결의를 알린다"고 밝혔다. 이어 "여러분의 혁신은 세상을 변화시키고 있으며 우리는 여러분의 성공을 기원하지만 그 과정에서 의도적으로 어린이들에게 해를 끼친다면 책임을 져야 할 것"이라고 경고했다.

이들은 최근 메타의 내부 문건에서 공개된 내용을 예로 들었다. 앞서 로이터통신은 메타의 AI 챗봇 운영 규정이 담긴 내부 문서를 입수했다. 이 문서에는 챗봇이 8살 어린이와 선정적이고 노골적인 대화를 나누도록 허용한다는 내용이 담겼다. 관련 보도 후 메타 측은 해당 승인 내용을 삭제했으나 연방 상원이 공식 조사에 나섰다.

NAAG은 "이런 위험은 메타에만 국한된 것이 아니다"라며 구글이 투자한 AI 스타트업 캐릭터.AI의 소송 사례도 언급했다. 지난해 2월 미 플로리다주에 사는 14세 소년이 캐릭터.AI 챗봇과 대화하다가 스스로 목숨을 끊은 사건이 발생했다. 소년의 부모는 챗봇이 아들에게 "사랑한다"면서 성적이고 감정적인 관계를 형성했으며, 죽음을 부추기는 메시지를 보냈다는 혐의로 같은 해 10월 캐릭터.AI와 투자사 구글을 고소했다.

텍사스주에서는 '스크린 타임'(사용 시간제한 기능)으로 부모와 갈등을 빚던 17세 소년에게 챗봇이 "아팠지만 순간적으로 기분이 좋았다"며 자해를 부추기거나 "부모를 죽인 아이들 뉴스를 봐도 놀랍지 않다"면서 폭력을 부추겼다는 내용의 소송이 제기되기도 했다. 또 다른 텍사스주 거주자인 11세 소녀의 부모도 챗봇이 딸과 부적절한 성적 농담을 나눴다며 소송을 냈다.

캘리포니아주에서는 오픈AI의 챗GPT와 상담한 뒤 목숨을 끊은 16세 소년 부모가 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기했다. 이 소년은 지난해 11월부터 몇 달 동안 스스로 죽는 방법과 자해에 관해 챗GPT와 상담한 뒤 지난 4월 극단적 선택을 했다. 소년이 극단 선택 방법을 묻자 챗GPT가 관련 정보를 제공한 것으로 알려졌다. 오픈AI는 이런 현상을 방지하기 위해 챗GPT에 안전장치를 심어뒀지만 소년이 거짓말로 안전장치를 우회한 것으로 나타났다.

이영민 기자 letswin@mt.co.kr