애플이 직접 '딥페이크 누드' 앱으로 안내했다고?…유포 조장 논란

[MOVIEW] 기술투명성프로젝트 지적에 부적절 앱 15개 삭제 및 검색 키워드 차단 강화

[디지털데일리 김문기기자] 애플 앱스토어(App Store)의 검색 제안과 광고 시스템이 사용자들을 여성의 나체 이미지를 생성하는 이른바 ‘너디파이(nudify)’ 앱으로 유도하고 있다는 분석 결과가 나왔다.

16일(현지시간) 비영리단체 기술투명성프로젝트(TTP)는 최신 보고서를 통해 애플 앱스토어와 구글 플레이스토어가 검색어 자동 완성 및 유료 광고를 통해 딥페이크(Deepfake) 음란물 생성을 돕는 앱들을 노출시키고 있다고 밝혔다. 조사 결과 ‘누드화(nudify)’, ‘옷 벗기기(undress)’, ‘딥누드(deepnude)’ 등의 키워드 검색 시 상위 10개 결과 중 약 40%가 실제 나체 이미지를 구현할 수 있는 앱인 것으로 나타났다.

특히 애플의 광고 시스템이 이러한 부적절한 앱들을 홍보하는 수단으로 활용된 정황도 포착됐다. 보고서에 따르면 앱스토어에서 ‘딥페이크’를 검색했을 때 가장 먼저 노출된 광고 앱은 일반적인 얼굴 교체(Face Swap) 기능을 표방했으나, 실제로는 옷을 입은 여성의 얼굴을 상의가 탈의된 영상에 제한 없이 합성할 수 있었다. 또한 검색창에 ‘AI NS’까지만 입력해도 부적절한 콘텐츠를 뜻하는 ‘AI NSFW’ 관련 검색어가 자동 제안되는 등 시스템상의 허점이 드러났다.

이에 대해 애플은 기술투명성프로젝트 측의 질의에 직접적인 답변은 피했으나, 보고서 발표 이후 즉각 조치에 나섰다. 애플은 외신 나인투파이브맥에 전달한 성명을 통해 보고서에서 식별된 앱 중 15개를 삭제했으며, 나머지 6개 앱 개발자에게는 14일 이내에 문제를 해결하지 않을 경우 퇴출하겠다는 최후통보를 보냈다고 전했다. 또한 문제가 된 검색 키워드들을 추가로 차단하고 검수 시스템을 강화하고 있다는 설명이다.

애플 측은 앱 리뷰 가이드라인에 따라 노골적인 성적 콘텐츠나 음란물은 엄격히 금지하고 있으며, 인공지능(AI)과 머신러닝(ML) 기술을 통합해 모니터링 공정을 지속적으로 개선하고 있다고 강조한 것으로 전해졌다. 광고 정책 역시 성인용 콘텐츠 홍보를 불허하고 있으며, 13세 미만 사용자에게는 광고를 노출하지 않고 10대 사용자들을 대상으로 한 타겟팅도 금지하고 있다는 방침이다.

이에 따라 애플은 앱스토어 내 딥페이크 누드 생성 앱 유포 방치 논란에 대해 부적절한 앱 삭제와 검색어 차단 등 사후 조치에 나섰으나, 기술 발전 속도에 맞춘 근본적인 검수 시스템 보완이라는 숙제를 안게 됐다.