AI시대에 판치는 '딥페이크 성착취물'…"일상을 망가뜨리는 범죄"

딥페이크 96%가 성적합성물…일반인도 대상
무료앱에 전문업체도 등장…"규제가 못 따라가"

(서울=뉴스1) 박재하 기자 = 인공지능(AI)으로 특정 인물의 얼굴을 합성하는 '딥페이크(deepfake)' 기술을 이용한 디지털 성범죄가 전 세계적으로 기승을 부리고 있다.

유명인뿐만 아니라 일반인 여성들도 이런 범죄의 대상이 되면서 미국과 유럽 등에서 적극적으로 규제에 나섰지만 딥페이크의 확산 속도를 못 따라잡고 있다는 지적이 나온다.

24일(현지시간) AFP통신은 "딥페이크 성적합성물 확산이 이 기술을 규제하려는 미국과 유럽의 노력을 앞지르고 있다"며 이같이 보도했다.

과거 딥페이크 기술이 유명 여성 가수나 배우를 대상으로 한 성적합성물을 만드는 데 활용됐다면, 이제는 대중에 눈에 띄지 않는 평범한 여성도 표적이 되고 있다는 것이 관련 전문가와 활동가들의 전언이다.

네덜란드의 인공지능 회사인 센시티(Sensity)의 2019년 조사에 따르면 온라인에 유포된 딥페이크 영상물의 약 96%는 불법 성적합성물이며 대부분 여성을 대상으로 한다.

미국의 디지털보안업체 블랙버드AI의 로베르타 더필드 정보국장은 "과거에는 누군가의 마음속에서 일어나는 성적 판타지가 이제 현실 세계의 기술과 콘텐츠 제작자들에게 넘어갔다"고 AFP에 말했다.

그러면서 "딥페이크 기술에 대한 접근이 쉽다는 것과 관리·감독 부족으로 인해 이 기술은 여성을 착취하고 비하하는 새로운 형태로 자리 잡고 있다"고 덧붙였다.

지난 1월에는 브랜든 유잉이라는 한 미국 인터넷 방송인이 생방송 도중 여성 동료들의 딥페이크 합성물이 담긴 웹사이트를 보는 모습이 적발돼 파장이 일었다.

한 피해자는 사람들이 소셜미디어(SNS)를 통해 해당 웹사이트에서 받은 합성물을 자기에게 계속 보냈다며 "나는 단순히 사생활을 침해당한 것이 아니라 내 일상이 완전히 망가졌다"고 호소했다.

온라인 성범죄 문제에 정통한 소피 매덕스 펜실베니아대 연구원은 AFP에 "AI로 생성된 포르노와 딥페이크 합성물의 증가는 여성의 동의 없이 사진이나 영상을 사용하는 것을 정당화한다"며 "사실상 모든 여성의 옷을 맘대로 벗길 수 있게 된 상황에서 '동의'(consent)에 대해서 어떻게 이야기할 수 있겠냐"고 강조했다.

AFP는 몇 마디만으로 현실과 최대한 비슷한 사진을 만들어내는 무료 AI 생성 프로그램과 고객 요청에 따라 딥페이크 합성물을 제작해 주는 업체도 생기고 있다고 경고했다.

이에 미국과 영국 등 국가에는 딥페이크 기술의 규제를 강화하는 움직임도 나타나고 있다.

미연방수사국(FBI)가 인공지능(AI)으로 특정 인물의 얼굴을 합성하는 '딥페이크(deepfake)' 기술을 이용한 디지털 성범죄에 대한 경보를 내렸다. ⓒ AFP=뉴스1 ⓒ News1 박재하 기자

지난달 미연방수사국(FBI)은 SNS에서 내려받은 사진과 영상으로 딥페이크 합성물을 만들어 돈을 갈취하는 '성착취 사기'에 대한 경보를 내리기도 했다.

영국에서는 지난해 동의 없이 딥페이크 합성물이나 성적인 사진을 공유하는 행위 등을 범죄로 규정해 쉽게 처벌하는 내용이 담긴 '온라인안전법'이 발의됐다.

미국 캘리포니아주와 버지니아주를 포함한 4개 주에서는 딥페이크 합성물 유포를 범죄로 규정했고 연방하원에서도 이를 범죄화하는 법안이 발의된 바 있다.

하지만 이러한 노력에도 여전히 규제의 도입 속도가 느리다는 지적이 나온다.

인터넷 보안업체 시어타스(Ceartas) 창업자 댄 퍼셀은 AFP에 "이런 합성물들은 인터넷의 어둡고 탐지 불가능한 구석에서 생성되고 공유되지 않는다"며 "바로 우리 코앞에 있으며 법은 이를 따라잡아야 한다"고 말했다.

그러면서 "인터넷은 국경이 없는 하나의 관할권이며 이러한 형태의 착취로부터 사람들을 보호하기 위한 국제법이 필요하다"고 주장했다.

jaeha67@news1.kr