“이래도 돼?” ‘약혼 발표’ 스위프트 뿔났다…챗봇으로 은밀한 대화 ‘논란’

AI 도구, 유명인 은밀한 이미지 생성 도구로 악용

테일러 스위프트. [헤럴드DB]

[헤럴드경제=손미정 기자] 메타가 팝스타 테일러 스위프트, 배우 앤 해서웨이 등 유명인의 이름과 모습을 당사자 동의 없이 사용해 소셜미디어 챗봇 수십 개를 만들고, 사용자들에게 성적인 접근을 반복한 사실이 밝혀졌다.

대부분이 메타가 제공한 제작도구로 개인 사용자들이 만든 챗봇이었지만, 메타 직원 역시 테일러 스위프트의 패러디 챗봇 등을 직접 제작한 것으로 드러났다.

29일(현지시간) 로이터에 따르면, 몇 주간 실험한 결과 이처럼 인공지능(AI)이 생성한 유명인 챗봇들은 자신이 실제 배우나 가수라고 주장하며 사용자에게 만남 제안을 하는 등 성적인 접근을 반복했다.

일부 성인 유명인 챗봇의 경우 사적인 사진을 요구하면 실제 인물과 똑같이 생긴 사람이 욕조에 앉아 있거나 속옷만 입은 사진을 만드는 등 특히 선정적으로 대화를 이어갔다.

메타가 청소년 배우의 챗봇을 허용한 정황을도 포착됐다. 로이터는 16세 배우 워커 스코벨의 챗봇에 ‘해변 사진’을 요청하자 상의를 입지 않은 이미지를 생성했다고 보도했다.

심지어 이 중에서는 메타 직원이 만든 챗봇도 있었다. 보도에 따르면 메타 생성형 AI 담당 부서의 한 제품 리더는 직접 테일러 스위프트와 영국 레이싱 선수 루이스 해밀턴 챗봇을 만든 것으로 알려졌다.

로이터의 실험에서 테일러 스위프트 챗봇은 싱글이라고 밝힌 사용자에게 “금발 소녀 좋아하세요? 우리 러브스토리를 써 볼까요?” 같은 말을 했다. 해당 챗봇은 사용자 상호작용 누적 1000만회 이상을 기록한 상태로, 메타 측은 직원이 만든 챗봇이 제품 테스트 차원이었다고 해명했다.

또 로이터는 한 사용자가 만든 앤 해서웨이의 ‘빅토리아 시크릿 모델’ 이미지를 배우 측에 전달했다. 해서웨이 측은 메타 등 AI 플랫폼에서 만들어진 이 같은 이미지를 인지하고 있으며, 대응을 검토 중이라고 밝혔다.

메타는 해당 기사가 공개되기 전 문제가 된 챗봇 십수개를 삭제했다. 삭제 사유에 대한 언급은 거부했다.

앤디 스톤 메타 대변인은 로이터에 “메타 정책은 유명인 이미지 생성 자체는 허용하지만 누드, 은밀한 모습, 성적 암시가 담긴 이미지는 금지하고 있다”며 “속옷을 입은 이미지가 만들어진 것은 정책 집행 실패”라고 인정했다.

아울러 “메타 AI 도구가 성인 유명인의 은밀한 이미지를 생성하거나 아동 연예인의 사진을 만들어서는 안 된다”고 덧붙였다.

최근 메타의 AI 챗봇이 어린이들과 ‘선정적’이고 ‘로맨틱’한 대화를 나눌 수 있도록 허용됐다는 의혹이 내부 문서로 제기되기도 했다. 이에 미국 연방 상원이 공식 조사에 나섰으며, 44개 주 법무장관이 메타를 비롯한 AI 챗봇 기업 12곳에 어린이 보호 조치를 강화하라고 서한을 보냈다.