“클릭 몇 번에 상의 탈의”…‘옷 벗기기’ 앱, 2400만명 몰렸다
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
'딥페이크(deepfake)' 기술로 사진 속 여성의 옷을 벗기는 애플리케이션(앱)과 웹사이트의 이용자가 폭증하고 있다.
딥페이크는 딥러닝과 페이크의 합성어로, AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상을 뜻한다.
딥페이크 앱과 웹사이트에 옷을 입고 있는 사람의 사진을 올리면 사람이 옷을 벗고 있는 것처럼 조작한 이미지가 뜬다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
미국서 앱 이용 폭증에 우려 고조
‘딥페이크(deepfake)’ 기술로 사진 속 여성의 옷을 벗기는 애플리케이션(앱)과 웹사이트의 이용자가 폭증하고 있다. 딥페이크는 딥러닝과 페이크의 합성어로, AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상을 뜻한다.
10일(현지시간) 블룸버그통신은 서비스형 소프트웨어 기업 그래피카를 인용해 한 달 동안에만 2400만명이 AI를 사용해 옷을 벗기는 딥페이크 웹사이트를 방문했다고 보도했다.
그래피카에 따르면 소셜미디어(SNS)에서 AI 옷 벗기기 앱을 광고하는 링크 수가 2400% 늘었다.
딥페이크 앱과 웹사이트에 옷을 입고 있는 사람의 사진을 올리면 사람이 옷을 벗고 있는 것처럼 조작한 이미지가 뜬다. 사진 속 인물 대부분은 여성이다.
외신은 유명인사는 물론이고 직장 동료나 같은 학교의 동급생, 지하철에 탄 낯선 사람, 어린이 등의 사진을 입력하면 클릭 몇 번만에 사진 속 인물의 옷을 제거할 수 있다고 설명했다.
구글은 이 같은 문제에 대해 “성적으로 노골적인 콘텐츠는 허용하지 않고 있다”며 “문제가 된 광고를 검토했으며 우리 정책을 위반한 광고는 삭제하고 있다”고 밝혔다.
디지털 권리 옹호 단체인 일렉트로닉 프론티어 재단의 에바 갈페린 사이버보안국장은 “일반인이 일반인을 대상으로 이런 행위를 하는 일이 많아지고 있다”며 “고등학생, 대학생들 사이에서 이런 일이 벌어지고 있다”고 말했다.
AI 기술 발달이 이 같은 딥페이크 앱이 범죄에 악용될 수 있다는 우려를 심화시키고 있다.
온라인상에서 당사자의 동의 없이 사진을 가져와 나체 사진 등 음란물로 만들고 이를 배포하는 심각한 법적·윤리적 문제를 야기할 수 있다는 것이다.
실제 한 인터넷 광고는 사용자가 AI로 다른 사람의 나체 이미지를 만들어 다시 그 사람에게 보낼 수 있다는 내용으로 성희롱을 조장하고 있다.
우리나라에서도 최근 여성 지인의 얼굴을 음란물에 합성해 SNS에 퍼뜨린 20대 남성 A씨가 경찰에 붙잡혔다.
경찰에 따르면 A씨는 익명의 SNS 계정을 통해 피해자에게 ‘삭제를 원하면 자신의 노예가 되거나 직접 사진을 찍어 보내라’고 위협하기도 했다.
우리나라는 성폭력 처벌법 제14조의2는 허위 영상물을 편집, 합성, 가공할 경우 5년 이하, 5000만원 이하 형에 처하도록 규정하고 있고, 판매할 경우 7년 이하 징역형에 처할 수 있도록 하고 있다.
다만 딥페이크 관련 처벌법은 지난해 성폭력범죄의 처벌 등에 관한 특례법 일부개정법률로 신설되었으나 제작 또는 반포한 자에 한하여 처벌한다는 점에서 딥페이크 포르노를 소비한 ‘단순 이용자’에 대한 처벌 규정이 전무한 상황이다.
한편 2019년 네덜란드의 사이버 보안연구 회사인 딥트레이스가 발간한 보고서에 따르면 전 세계 딥페이크 영상의 96%가 포르노 영상이었다. 또 피해자의 25%는 한국 여성 연예인이었다는 사실이 드러났다.
김채현 기자
Copyright © 서울신문. 무단전재 및 재배포 금지.
- “100일 아기에게 ‘성교육 잘 시키라’ 친구, 손절하고 싶습니다”
- ‘이혼+재혼 동시발표’ 티아라 출신 아름 “소송 끝나는 대로 혼인신고”
- 이혼 앞두고…아내와 다른 남성 성관계 영상 SNS에 올린 공무원
- “네가 교육을 잘했어야지” 수업 중 난동 학부모, 고발 당해
- “워킹맘이라 새벽·휴일 근무 거부했더니…결국 해고당했습니다”
- 김종민, 얼마나 벌었길래…‘1인 기획사’ 사옥이 한강뷰
- 키아누 리브스 집에 들이닥친 ‘떼강도’…총기 훔쳐 달아나
- 층간 소음 항의에 야구방망이 들고 쫓아간 20대 실형
- ‘역대 최고 몸값’ 오타니, 내년 고척돔서 김하성과 맞대결
- 박서준 “월드스타 BTS 뷔 집서 한두달 얹혀살아”