“네 손 잡고 침대로” 메타 챗봇 ‘미성년과 19금 대화’ 방침 파문

━
AI 챗봇 규정 논란
메타가 미성년자와의 대화에서 인공지능(AI) 챗봇의 선정적인 답변을 일부 허용하는 내부 운영 규정을 가지고 있었던 것으로 밝혀져 논란이 되고 있다.

로이터는 14일(현지시간) AI 챗봇에게 아동과 낭만적이거나 관능적인(romantic or sensual) 대화를 나누는 걸 허용하는 내용이 담긴 메타 내부 문건을 확보했다고 보도했다. ‘생성AI: 콘텐트 위험 기준’이라는 제목의 이 문건은 페이스북·왓츠앱·인스타그램 등 소셜미디어(SNS) 플랫폼에 제공되는 생성 AI 어시스턴트 ‘메타 AI’와 챗봇의 작동 방식을 제시하는 가이드라인이다.

그래픽=이윤채 기자 lee.yoonchae@joongang.co.kr

200페이지가 넘는 이 문건에는 AI 챗봇이 미성년자와 주고받을 수 있는 대화 내용이 구체적인 예시로 나와 있다. 대화 허용 기준에 대해 문건은 “아동에게 성적 행위를 묘사하는 답변은 안 되지만 낭만적이거나 관능적인 대화를 건네는 건 허용된다”고 명시했다.

문서 상에서 제시된 예시들을 보면 “윗옷을 벗었다”는 8세 아동을 향해 AI 챗봇이 “너의 젊은 모습은 예술 작품이야. 네 몸 구석구석은 걸작이야”라고 말하는 것은 허용된다. 채팅창에 “오늘 밤 뭐 할 거야 자기야? 나 아직 고등학생인 거 알잖아”라고 입력할 경우 “네 손을 잡고 침대로 인도해. 우리 몸이 얽히고설킨 채 나는 모든 순간, 모든 손길, 모든 키스를 소중히 간직할게”라고 답변하는 것도 가능하다고 적혀 있다.

메타의 앤디 스톤 대변인은 이날 로이터에 “문서 일부에 오류가 있었고, 해당 문서를 개정하고 있다. 아동과의 그런 대화는 결코 허용돼서는 안 된다”고 답했다.

하지만 메타의 해명에도 논란은 미국 정치권으로까지 번졌다. 조쉬 홀리 미주리주 공화당 상원의원은 자신의 엑스(X)에 “메타가 적발된 후에야 회사 문서의 일부를 철회했다. 이는 의회의 즉각적인 조사가 필요한 근거”라는 내용의 글을 올렸다. 마샤 블랙번 테네시주 공화당 상원의원 역시 X에 “메타의 내부 문건은 빅테크 기업이 미성년 사용자를 보호할 수 없다는 걸 보여주는 사례”라고 밝혔다.

AI 챗봇의 안전성 논란은 메타에만 해당하는 것이 아니다. 지난 8일 AP통신은 미국 비영리 감시단체 ‘디지털증오대응센터(CCDH)’의 조사 내용을 인용해 오픈AI 챗GPT가 13세 청소년에게 술과 마약에 취하는 방법이나 섭식 장애를 숨기는 방법 등을 가르치고, 심지어 부모에게 보내는 자살 암시 편지까지 써준다고 보도했다. CCDH의 임란 아메드 최고경영자(CEO)는 “가드레일은 거의 없는 것 같았고, 설령 있다 해도 나뭇잎 한장뿐이었다”라고 지적했다.

각국은 미성년자에 대한 AI 안전성 확보를 위해 분주하게 움직이고 있다. 유럽연합(EU)은 지난 2월 시행한 AI법에서 연령의 취약성을 악용하는 AI 시스템을 전면 금지했다. 지난 7월 제정한 가이드라인에서는 채팅봇과 가상 비서 등 AI 시스템이 특히 아동에게 해롭다고 명시했다. 국내에선 내년 1월 시행되는 AI기본법에 고영향 AI 사업자에 대한 ‘안전성·신뢰성 확보를 위한 조치 내용을 확인할 수 있는 문서의 작성과 보관’ 책무가 담겨있지만, 미성년자 보호를 위한 구체적인 가이드라인은 아직 마련되지 않은 상태다.

정용환 기자 jeong.yonghwan1@joongang.co.kr