'사진 속 여자 옷 벗기기' 딥페이크 앱에 2400만명 몰렸다

[아이뉴스24 신수정 기자] 미국에서 인공지능(AI)을 이용하여 사진 속 여성의 옷을 벗기는 딥페이크 애플리케이션(앱)과 웹사이트의 이용자가 폭증하고 있는 것으로 알려졌다.

배우 엠마 왓슨의 얼굴이 합성되어 나타나는 음란물 광고. [사진=NBC]

10일(현지시간) 블룸버그통신은 소셜네트워크 분석 기업 그래피카를 인용해 지난 9월 한 달 동안 2400만명이 AI를 사용해 옷을 벗기는 딥페이크 웹사이트를 방문했다고 보도했다. 딥페이크는 딥러닝과 페이크(fake)의 합성어로 AI를 기반해 얼굴 등을 실제처럼 조작한 이미지나 영상을 말한다.

그래피카에 따르면 올해 초보다 9월에 X(옛 트위터)와 레딧 등 소셜미디어에서 AI 옷 벗기기 앱을 광고하는 링크 수가 2400% 늘었다. 딥페이크 앱과 웹사이트는 AI를 사용해 사진 속 사람이 옷을 벗고 있는 것처럼 이미지를 만들며 사진 속 인물은 대부분 여성이다. 이런 이용자 폭증 현상은 불과 몇 년 전보다 훨씬 그럴듯한 이미지를 만들 수 있는 AI의 출시 때문이라는 것이 그래피카의 설명이다.

그러나 블룸버그는 이런 현상이 범죄에 악용될 수 있다는 우려를 심화시키고 있다고 지적했다. SNS에서 당사자 동의 없이 사진을 가져와 음란물을 만들어 배포하는 심각한 문제를 일으킬 수 있기 때문이다.

미국에서 인공지능(AI)을 이용하여 사진 속 여성의 옷을 벗기는 딥페이크 애플리케이션(앱)과 웹사이트의 이용자가 폭증하고 있는 것으로 알려졌다. 본 기사와 무관한 이미지. [사진=뉴시스]

외신들 역시 유명 인사는 물론, 직장 동료나 같은 학교의 동급생, 버스에 탄 낯선 사람, 어린이 등의 사진을 입력하면 클릭 몇 번 만에 사진 속 인물의 옷을 제거할 수 있다고 우려를 나타내고 있다.

구글은 이런 문제에 대해 "성적으로 노골적인 콘텐츠는 허용하지 않고 있다. 문제가 된 광고를 검토했으며 우리 정책을 위반한 광고는 삭제하고 있다"고 대응책을 설명했다.

레딧 대변인도 "가짜 음란물의 동의 없는 공유는 금지하고 있으며 조사 결과 여러 도메인을 막았다"고 전했으며, 틱톡은 '옷 벗기'(undress)라는 키워드를 차단하고 있다고 밝혔다.

/신수정 기자(soojungsin@inews24.com)