BBC 조사 결과 틱톡에서 일명 '옷 벗기기' 애플리케이션이 비동의 딥페이크 이미지 생성 도구처럼 홍보되고 있음이 밝혀진 이후 애플 측이 해당 앱들을 앱스토어에서 삭제했다.
'옷 벗기기' 혹은 '나체 만들기' 앱은 사진 속 인물의 옷을 디지털 방식으로 제거하여 나체 혹은 부분 나체 이미지나 영상으로 변환하는 기능을 갖추고 있다.
앱스토어 공식 설명란에는 '셀카를 더 멋지게' 만들어주는 도구라고 홍보하고 있다.
그러나 해당 앱 제작사들은 틱톡 유료 광고를 통해 허락 없이 여성들의 성적인 사진을 만들 수 있는 도구라고 홍보한다.
사용자들에게 "좋아하는 사람의 가장 섹시한 사진을 얻어라"며 앱 다운로드를 권한다. "모두의 옷을 벗길 수 있다"거나 "누구든 비키니를 입힐 수 있다"고 홍보하는 문구도 찾아볼 수 있다.
영국을 비롯한 일부 국가에서는 상대방의 동의 없는 성적인 이미지 제작이 불법일 수 있기에 BBC는 이러한 앱의 이름을 공개하지 않는다.
한국, 스페인, 미국 등에서 여학생들이 관련 기술로 인해 피해를 입은 사건이 발생한 가운데 이러한 '알몸 만들기' 앱은 전 세계적으로 점점 더 심각한 문제로 떠오르고 있다. 일부 피해자들은 딥페이크 이미지를 이용해 협박까지 당한 것으로 알려졌다.
미국 프린스턴 대학 '정보기술 정책 센터'의 아르빈드 나라야난 교수는 IT 기업들은 딥페이크 나체 만들기 앱 확산을 제한할 도덕적 의무를 지닌다고 강조했다.
나라야난 교수는 "사람들이 이러한 기술에 쉽게 접하지 못하도록 더 많은 장치가 마련되어야 한다"면서 전 세계의 정책 입안자들은 앱 스토어에서 이러한 앱 자체를 금지해야 하며, SNS 기업들이 이러한 기업의 "광고로 이익을 거둘 수 없게끔" 조치해야 한다고 덧붙였다.
이러한 앱을 홍보하는 일부 틱톡 광고에서는 드라마 '왕좌의 게임'에 출연한 배우 레나 히디, 메이지 윌리엄스의 사진을 사용하여 어떻게 이미지 속 여성을 속옷 차림인 것처럼 보이게 할 수 있는지 설명하기도 한다.
- '딥페이크 사태' 그 후, 끝나지 않은 피해자들의 이야기
- '놀이문화처럼 번져'...딥페이크 성범죄 왜 유독 청소년들 많았나?
- '제자가 나를 딥페이크 음란물로 만든 날'...그 후 내게 벌어진 일
BBC는 틱톡에 이 같은 유료 광고를 게재한 앱 4개를 발견했다. 틱톡 측은 현재 해당 광고를 삭제한 상태다. 그러나 해당 앱 개발사와 연결된 계정에서 올린 유사한 영상들은 여전히 틱톡에 남아 있다.
틱톡 측 대변인은 해당 광고가 성적 암시가 있는 콘텐츠의 유료 광고를 허용하지 않는 자사 정책을 위반했다고 말했다. 그러나 이 같은 광고가 어떻게 콘텐츠 심사를 통과했는지에 대해서는 설명하지 않았다.
한편 애플 또한 BBC의 관련 보도 이후 해당 앱들을 앱스토어에서 삭제했다.
앱 3개는 "개발자가 앱의 문제를 해결할 때까지" 삭제되었으며, 사진 속 여성을 반나체 상태로 춤추는 것처럼 보이게 만드는 4번째 앱은 "삭제되었으며 개발자 계정 또한 영구 정지되었다"는 설명이다.
구글 플레이 스토어의 경우 해당 앱들을 조사 중이라고 밝혔다.
BBC가 조사한 앱 중 가장 오래된 앱은 구글 플레이 스토어에서만 100만 회 이상 다운로드되었다. 애플은 다운로드 횟수를 공개하지 않았다.
이러한 앱으로는 완전한 나체 이미지는 생성할 수 없는 것처럼 보이나, 그 어떠한 사진도 성적인 사진으로 쉽게 변환할 수 있다.
앱에서는 사진 속 인물을 다양한 포즈로 취하게 할 수 있는 "패키지"를 누릴 수 있다. 심지어 여성이 바닥에 누워 입을 벌린 모습이나, 욕조에 있는 모습으로도 변환할 수 있다.
틱톡에서 이러한 앱은 '당신이 짝사랑하는 상대의 가장 섹시한 사진을 얻을 수 있는 방법'이라고 홍보된다.
해당 앱의 개발자는 비동의 딥페이크 이미지 생성 도구로 광고할 의도가 없었다고 주장하며, 앱 사용 현황을 검토하겠다는 이메일 답변을 보내왔다.