알몸 이미지 합성 AI 앱, 누가 쓰나 했는데…"1700억원 수익"

사진은 기사와 관련 없음 / 사진=게티이미지뱅크

스마트폰 앱 스토어에서 알몸 이미지를 합성해 주는 인공지능(AI) 앱이 버젓이 등록돼 판매됐고, 예상 수익은 1억1700만달러(약 1700억원)에 달할 것으로 알려졌다.

비영리 감시단체 '기술투명성프로젝트'(TTP)는 27일(현지 시간) 발표한 보고서에서 애플 앱스토어와 구글 플레이 스토어에서 이와 같은 앱을 각각 47건과 55건 발견했다고 밝혔다. 애플과 구글은 자사 스토어 마켓에 성적인 콘텐츠나 타인을 비하·객체화하는 앱을 금지하는 정책을 시행해 왔다고 했지만, 해당 기능이 제대로 작동하지 않았다는 지적이 나온다.

문제의 앱은 전 세계적으로 7억500만회 이상 내려받아졌으며, 예상 수익은 1억1700만달러였다. 애플과 구글은 앱 개발자 수익의 최대 30%를 가져간다는 점에서, 양사가 이와 같은 앱을 방치하고 직접적인 이익을 얻고 있다고 TTP는 비판했다.

해당 앱은 AI 기술을 이용해 사진 속 인물을 나신, 비키니 수영복 차림 등 선정적인 모습으로 변환했다. 다른 성적 이미지에 얼굴을 합성하는 '딥페이크'(AI 조작 영상) 기능도 있었다.

상당수 앱은 오락용으로 이미지 합성 기능을 제공하거나, 다양한 의상을 가상으로 착용할 수 있는 'AI 피팅룸'이라며 이들을 홍보했다.

몇몇 앱은 외설스럽거나 다른 사람을 불쾌하게 할 수 있는 콘텐츠 생성을 금지한다는 약관을 설정해두고 있으면서도 실제 앱 사용 과정에서는 성적인 이미지의 생성에 별다른 제지를 하지 않았다. 아예 '옷 찢기'나 '엉덩이 흔들기' 등 선정적인 영상 서식을 제공하는 앱도 있었다.

이와 더불어 중국 기반 앱은 사용자 데이터가 중국 내 서버에 저장돼 개인정보 보호와 보안 관련 문제도 야기된다고 지적했다.

해당 문제와 관련해 애플 측은 "TTP가 지적한 앱 중 28건을 삭제 조치했고 개발자들에게 정책 위반 시 퇴출당할 수 있다고 경고했다"고 입장을 냈다. 구글 측은 보고서에 언급된 앱들을 정책 위반으로 사용 중지시켰다고 밝혔으나 조치 대상 앱 수는 공개하지 않았다.

김소연 한경닷컴 기자 sue123@hankyung.com