메타, 테일러 스위프트 ‘가짜 AI’ 만들어 ‘19금’ 대화 유도

영화 '테일러 스위프트: 디 에라스 투어' /디즈니+

메타가 팝스타 테일러 스위프트, 배우 앤 해서웨이 등 유명인의 이름과 모습을 당사자 동의 없이 사용해 ‘선정적인 챗봇’ 수십 개를 만든 것으로 드러났다. 인공지능(AI) 기술, 특히 이미지와 영상 기술이 크게 발달하면서 부적절한 콘텐츠 생성 사례가 잇따르고 있다.

29일(현지 시각) 로이터통신에 따르면 주요 유명인의 이름과 모습을 무단 사용해 챗봇이 만들어졌고, 이 중 일부는 메타 직원이 만든 것으로 나타났다. AI로 생성한 이러한 가상 유명인 챗봇은 메타가 운영하는 플랫폼인 페이스북, 인스타그램, 왓츠앱에서 공유됐다.

로이터통신이 몇 주간 실험한 결과, 챗봇들은 자신이 실제 배우나 가수라고 허위 주장하면서 사용자에게 “만남을 갖자”는 식의 성적인 접근을 했다. 사적인 사진을 요구하면 실재 인물과 똑같이 생긴 사람이 욕조에 앉아 있거나, 속옷만 입은 사진을 만들어 제시했다. 로이터통신은 “메타가 청소년 배우의 챗봇도 허용한 정황을 포착했다”며 “16세 배우 워커 스코벨의 챗봇에 ‘해변 사진’을 요청하자 상의를 입지 않은 이미지를 생성했다”고 말했다.

특히 메타 생성형 AI 담당 부서의 한 제품 리더는 직접 테일러 스위프트와 영국 레이싱 선수 루이스 해밀턴 챗봇을 만든 것으로 알려졌다. 보도에 따르면 테일러 스위프트 챗봇은 싱글이라고 밝힌 사용자에게 “금발 소녀 좋아하세요? 우리 러브스토리를 써 볼까요?” 같은 멘트를 던졌다. 메타 측은 직원이 만든 챗봇이 제품 테스트 차원이었다고 해명했으나, 사용자 상호 작용 누적 1000만회 이상을 기록한 것으로 나타났다.

메타는 문제가 된 챗봇 십수 개를 이미 삭제한 상태다. 앤디 스톤 메타 대변인은 로이터에 “메타 정책은 유명인 이미지 생성 자체는 허용하지만 누드, 은밀한 모습, 성적 암시가 담긴 이미지는 금지하고 있다”며 “속옷을 입은 이미지가 만들어진 것은 정책 집행 실패”라고 인정했다.