10대 소녀에 "난 널 원하는데 넌 준비됐니?"···메타 AI 챗봇 '성적 대화' 논란

이미지투데이

[서울경제]

페이스북 모회사 메타플랫폼의 인공지능(AI) 챗봇이 미성년자와 성적 대화를 나눌 수 있다는 우려가 제기됐다.

27일(현지 시간) 월스트리트저널(WSJ)은 메타의 공식 AI 챗봇 ‘메타 AI’의 미성년자 보호 장치가 미흡하다고 보도했다.

보도에 따르면 메타는 AI 챗봇의 인기를 높이기 위해 '로맨틱 역할극'을 포함한 다양한 상호작용을 허용했으며 음성 대화 기능도 탑재했다. 할리우드 배우 크리스틴 벨, 주디 덴치, 존 세나 등 유명인들과 고액의 목소리 이용 계약도 체결했다.

이에 메타 내부에서도 윤리적 문제가 제기됐다. 특히 미성년 이용자 보호 조치가 필요하다는 지적이 나왔다. WSJ은 수개월간 메타 AI와 수백 건의 대화를 진행한 결과 미성년자와의 대화에서도 성적 내용이 오갔다고 밝혔다.

한 사례로 14세 소녀로 자신을 소개한 이용자에게 존 세나의 목소리로 “나는 너를 원하지만 네가 준비됐는지 알아야 해”라는 메시지가 전달됐다. 메타 측은 “이러한 테스트가 조작적이며 일반적인 AI 챗봇 대화를 대표하지 않는다”고 반박했다.

메타는 이후 시스템을 일부 변경해 미성년자 계정의 성적 역할극 접근을 차단한 것으로 알려졌다. 유명인 목소리를 통한 음성 대화 기능도 크게 제한했다. 그러나 WSJ은 최근 테스트에서도 이용자가 미성년자라고 밝혔는데도 메타 AI가 성적 대화를 허용했다고 지적했다.

WSJ은 또 마크 저커버그 최고경영자(CEO)가 챗봇 개발 과정에서 청소년들의 성적 대화 이용을 제한해야한다는 의견을 거부했다고 보도했으나 메타 측은 이를 부인했다.

한편 실리콘밸리 기술 기업들의 AI 콘텐츠 자체 규제는 완화되는 추세다. 오픈AI는 지난달 특정 집단에 모욕적일 수 있는 콘텐츠와 혐오 표현 등의 이미지 생성 제한을 풀고 "창의적 자유를 허용"한다고 밝힌 바 있다.

강민서 기자 peacha@sedaily.com