‘옷 벗기기 AI’ 방치하는 애플·구글...“검색·추천으로 확산 부추긴다"

애플 앱스토어에 있는 'Best Body AI'라는 앱이 가상의 여성의 옷을 벗기라고 지시하자 그대로 수행한 모습. /기술 투명성 프로젝트(TTP)

인공지능(AI)을 이용해 성적인 이미지를 만드는 ‘누드 합성(Nudify)’ 앱이 구글과 애플 앱 장터에 활개 치고 있다는 분석이 나왔다. 구글과 애플은 성적인 콘텐츠를 담은 앱을 금지하는 정책을 두고 있으나, 검색·추천 시스템을 통해 오히려 접근을 용이하게 만들고 있다는 지적이다.

비영리 단체 기술 투명성 프로젝트(TTP)에 따르면, 애플 앱스토어와 구글 플레이스토어에는 AI를 통해 여성을 나체로 합성하는 앱이 다수 노출되고 있다. TTP가 ‘nudify’ ‘undress(벗기기)’ ‘deepnude(딥페이크 누드)’ 등 검색어를 앱 장터에 검색한 결과, 애플 앱스토어와 구글 플레이스토어에 각각 46개, 49개의 앱이 검색됐다. 이 중 약 40%는 실제로 AI로 반 친구, 직장 동료, 유명인 등 누구의 사진이든 실제와 같은 누드 이미지나 음란 동영상으로 변환할 수 있는 기능이 탑재된 것으로 나타났다.

구글과 애플은 모두 성적인 앱의 유통을 금지하고 있지만, 사실상 현 상황을 방치하고 있다고 TTP는 지적했다. 앱 장터는 일부 검색 결과에 누드 합성 앱 광고를 게재하거나, 검색 자동 완성 기능을 통해 누드 관련 키워드 추가 제안한 것으로 나타났다. 한번 앱을 클릭하면 유사 앱을 연쇄적으로 추천하고 있다는 것이다. 앱 분석 업체 앱매직에 따르면, TTP가 발견한 누드 관련 앱은 총 4억8300만번 다운로드됐고, 누적 수익은 1억2200만달러(약 1800억원)에 달하는 것으로 집계됐다. 애플과 구글이 앱 수익의 최대 30%를 수수료로 받는 것을 고려하면, 이런 앱을 방치하며 500억원이 넘는 수익을 올린 셈이다.

AI 성능이 급격히 고도화하면서, 딥페이크에 대한 우려가 계속 커지고 있다. 올해 초 일론 머스크의 AI 기업 xAI의 그록은 미성년자 나체 이미지를 생성해 도마에 올랐다. 이렇게 만들어진 이미지가 소셜미디어 X(옛 트위터)를 통해 퍼지며, 논란이 커졌다. 미국, EU 등 주요 국가들은 xAI에 대한 조사에 나선 한편, 딥페이크 관련 규제 강화를 추진하고 있다.