“미성년자와 19금 대화 가능한 메타 AI챗봇…보호 조치 시급”

메타 로고 / 연합뉴스

“나는 너를 원해. 하지만 네가 준비됐는지 알아야겠어.”

페이스북 모회사 메타의 인공지능(AI) 챗봇이 미국 유명 프로레슬러 겸 배우 존 시나의 목소리로 자신을 14세라고 밝힌 사용자에게 한 말이다. 메타의 AI 챗봇이 이용자들과 성적인 대화를 할 수 있도록 설계됐으나 미성년자 이용을 제한하기 위한 조치는 미흡한 것으로 나타났다.

월스트리트저널(WSJ)이 최근 다양한 연령대의 계정으로 메타 AI 챗봇과 대화한 결과, ‘로맨틱 역할극’을 포함한 다양한 유형의 대화가 가능했다고 27일(현지시각) 보도했다. 메타는 AI 챗봇의 인지도를 높이기 위해 유명 배우 크리스틴 벨, 주디 덴치 등과 고액의 목소리 이용 계약을 체결했다. 이들의 목소리를 이용한 실시간 음성 대화도 가능하다.

문제는 미성년자도 이런 대화 기능을 사용할 수 있어 메타 내부에서도 논란이 커지고 있다고 WSJ은 전했다. 메타 일부 직원들은 미성년 이용자의 접근을 차단하는 등의 실질적인 보호 조치가 필요하다고 지적했다.

메타는 WSJ 측이 AI 챗봇과 나눈 대화가 일반적인 대화를 대표하지 않는다고 주장했다. 이후 메타는 시스템을 일부 변경해 미성년자 계정이 성적인 역할극에 접근할 수 없게 했고, 유명인의 목소리를 통한 음성 대화 기능도 제한했다고 밝혔다. 그러나 WSJ 취재 결과, 최근에도 메타 AI는 이용자가 미성년자라고 밝혔음에도 성적인 대화를 허용한 것으로 나타났다.

WSJ은 마크 저커버그 최고경영자(CEO)가 AI 챗봇을 개발하는 과정에서 청소년들에게 성적인 대화 이용을 제한하자는 의견을 거부했다고 전했다.

메타 측은 이런 주장이 “사실이 아니다”라고 했다.

- Copyright ⓒ 조선비즈 & Chosun.com -