“몰래 연락해요” 큰 가슴에 밀착 옷…SNS 속 ‘AI 여친’ 정체는

틱톡에 게재된 AI 기술을 활용한 선정적인 광고. 미국 NBC 방송 캡처

인스타그램과 틱톡 등 소셜미디어(SNS)에 인공지능(AI) 기술을 이용한 성매매 광고가 넘쳐나고 있다. SNS에서 직접적인 성매매를 광고하는 행위는 검열 대상이지만, AI를 이용한 성적인 광고는 걸러지지 않는다는 점을 이용한 것이다.

최근 미 NBC 방송에 따르면 수십 개의 테크 스타트업들은 ‘성(性)적으로 부적절한’(not-safe-for-work·NSFW) 경험을 조장하는 앱에 대한 노골적인 광고를 틱톡, 인스타그램, 페이스북 등에 올리고 있다.

광고에는 큰 가슴과 타이트한 옷을 입은 AI로 만든 ‘여자 친구’가 등장해 ‘NSFW 사진’이나 ‘맞춤형 핀업 걸’, ‘검열이 안되는’ 채팅을 제안하며 호기심을 자극한다.

특히 일부 광고는 스폰지밥과 쿠키 몬스터 등 인기 어린이 TV 캐릭터가 포함된 밈을 사용해 ‘NSFW 사진’을 만드는 앱을 홍보하는가 하면, 10대 이하로 보이는 소녀를 애니메이션으로 등장시키기도 했다.

NBC는 페이스북과 인스타그램 모회사 메타가 소유한 앱에서 이러한 성적 광고를 올리는 앱 개발자 35명을 확인됐다고 밝혔다. 이들이 올린 광고는 모두 1000개를 넘는 것으로 알려졌다.

틱톡에서는 자극적인 AI 광고를 싣는 앱 개발자 14명이 확인됐다고 NBC는 설명했다.

논란이 일자 메타는 “사람이 만든 콘텐츠와 AI가 생성한 콘텐츠에 동일하게 성인용 콘텐츠 금지가 적용된다”고 해명했다. 틱톡도“ 성(性)적으로 자극적인 광고는 금지하고 문제가 된 사례는 삭제하고 있다”고 전했다.

● 소아성애자, AI 이용하기도

AI를 음란물 제작에 악용하는 사례는 늘고 있다. 최근에는 소아성애자들이 AI 기술을 이용해 실제처럼 보이는 아동 성학대 콘텐츠를 제작하고 판매한다는 외신 보도도 나왔다.

영국 BBC방송에 따르면 패트리온(Patreon)이나 픽시브(Pixiv)과 같은 온라인 콘텐츠 공유 플랫폼에 아동 얼굴이 합성된 성적 콘텐츠가 다수 유포되고 거래됐다.

아동 성학대 콘텐츠들은 AI 소프트웨어를 통해 제작됐다. 이들이 사용한 소프트웨어는 사용자가 주요 키워드를 입력하면 프로그램이 그에 맞는 이미지를 생성해주는데, 그림이나 이미지 편집에 대한 전문적인 지식 없이도 원하는 이미지를 만들 수 있다.

영국 전국경찰청장협의회(NPCC) 측은 BBC와의 인터뷰에서 “이러한 합성 이미지에 실제 아동이 등장하지 않기 때문에 문제가 없다는 주장은 잘못됐다. (이러한 행동은) 실제 아동 학대로까지 발전할 수 있다”며 “플랫폼이 이를 방관하며 막대한 이익을 내고도 도덕적 책임을 지지 않는 건 말이 안 된다”고 지적했다.

아동 성적 학대를 묘사하는 합성 사진은 실제 사진과 동일한 법적 책임을 지게 된다. 영국에서는 이를 소유, 게시, 전송하는 모든 것이 불법이다.

김민지 기자

▶ 밀리터리 인사이드 - 저작권자 ⓒ 서울신문사 -