10.5만명 딥페이크 피해자, 70%는 일반인.."SNS 사진 훔쳐가"

[MT리포트] AI 시대의 '그늘' 딥페이크 ②
딥페이크 음란물, 25% 한국 여성 연예인 대상

[편집자주] ‘n번방’ 사건이 우리 사회를 발칵 뒤집은 지 10개월이 지났다. 온라인 성착취물에 대한 단속도, 제도도 강화됐다. 그럼에도 아직도 사이버 공간에는 불법 음란물이 버젓이 공유되고 있다. 최근엔 딥페이크 기술을 악용한 합성물들이 넘쳐나며 또다른 가해로 이어지고 있다. 다크웹 사이트에서는 아직도 유명 걸그룹 멤버들의 얼굴을 교묘히 합성된 허위 음란물 영상들이 유통되고 있으며, 그 피해는 이제 일반인들을 겨냥하고 있다. ‘AI(인공지능) 시대의 그늘’ 딥페이크 불법 영상물 유통 실태와 점검해봤다.

“어? 드라마 ‘구미호뎐’에 트와이스 미나가 나왔어?”

A씨는 유튜브 알고리즘에 걸린 지난해 12월3일 종영한 tvN 드라마 ‘구미호뎐’ 관련 영상을 보다가 깜짝 놀랐다. 썸네일을 보고 두 주연배우 조보아와 이동욱이 대화를 나누는 한 장면인 줄 알고 클릭했는데 화면 속 얼굴은 걸그룹 트와이스 멤버 미나였다. 화면 속 목소리는 조보아였지만 입과 눈썹의 움직임과 눈을 내리까는 표정 등은 그냥 미나다. 마치 미나가 연기하는 것처럼 자연스러웠다. 다시 보니 이동욱인 줄 알았던 남자 배우도 다른 얼굴이었다. 트와이스 멤버 쯔위의 이목구비를 이동욱 얼굴과 합성한 것이었다.

A씨가 시청한 2분17초 길이의 이 영상은 다름 아닌 딥페이크(Deepfake) 영상이다. 지난 11일 트와이스의 해외 팬 계정으로 추정되는 한 유튜브 계정에 업로드됐다. 제작자는 영어로 작성한 영상 설명에서 원본 영상의 출처를 밝히며 “재미삼아 (딥페이크 제작을) 학습하려는 목적으로 만들었다”고 밝혔다.

━

얼핏 보고 “XX 아냐?”…진짜보다 진짜같은 가짜 ‘딥페이크’

━

이처럼 단순한 재미를 위해 만든 합성 영상물도 많다. 실제 유튜브를 보면 드라마, 뮤직비디오 등에 딥페이크 영상을 어렵지 않게 찾아볼 수 있다. 딥페이크는 AI(인공지능) 기술을 활용해 영상이나 사진을 자동 합성하는 이미지 처리 기술이다. 컴퓨터 비전 연구에 쓰이는 인공지능 신경망 기술로 반복적인 학습을 통해 ‘진짜 같은 같은 이미지’를 만들어낸다. 주로 CG(컴퓨터그래픽) 작업에 많이 활용된다. 지난해에는 엠넷(Mnet)에서 고인이 된 가수 거북이 터틀맨의 생전 모습과 목소리로 최신곡인 드라마 ‘이태원클래쓰’ OST 무대를 구현하는 데에도 이 기술이 쓰였다.

문제는 악의적인 목적으로 딥페이크 영상기술이 악용되고 사례가 늘고 있다는 점이다. 인지도 높은 스타 연예인들의 얼굴 이미지를 도용해 음란물을 제작하는 사례가 대표적이다. AI 알고리즘 기술이 진화되면서 불법 합성 수준도 더욱 정교해지고 있다. 지난 22일 기자가 확인한 다크웹 포르노 사이트 영상 중에는 육안으로는 합성 여부를 구분하기 어려울 정도로 정교한 걸그룹 딥페이크 영상들이 수십건 발견됐다. 인스타그램과 틱톡 등 SNS 영상에 올린 일반인들 사진·영상 역시 딥페이크 범죄의 타깃물이다.

네덜란드의 AI 연구소 센서티(옛 딥트레이스)가 발간한 보고서에 따르면, 지난해 7월까지 텔레그램에서 전세계 10만4852명의 여성이 이른바 ‘딥페이크봇’에 걸려 나체 사진에 자신의 얼굴이 합성되는 피해를 당했다. 딥페이크봇은 인물 이미지를 올리면 자동으로 여성의 나체에 그 인물의 얼굴을 합성해주는 프로그램이다. 이 중 70%는 유명인이 아닌 일반인들의 개인 SNS 등에서 불법적으로 수집한 이미지와 영상이었던 것으로 조사됐다. 일반 여성들을 타깃으로 한 불법 딥페이크 합성물이 빠르게 확산되고 있다는 얘기다. 같은 연구소의 2019년 조사에선는 그해 제작된 1만4600여건의 딥페이크 영상 중 96%가 음란물이고, 이중 25%는 한국 여성 연예인들의 얼굴이 합성된 것으로 나타났다.

━

딥페이크 영상 쉴새 없이 늘어나는데…실시간 탐지는 못해

━

딥페이크 영상물 피해 사례가 속출하면서 국민적 공분도 크다. 지난 13일 올라온 딥페이크 강력처벌 청와대 국민청원에 37만여명이 몰렸다. 정부도 팔을 걷었다. 과학기술정보통신부는 지난해 N번방 사건이 수면 위로 떠오른 것을 계기로 딥페이크 불법 영상을 차단·판별 기술 개발을 국가연구과제(R&D)로 제시했다. 머니브레인, 알앤딥 등 AI 기업들이 뛰어들었다. 그러나 탐지 기술로 딥페이크 영상물을 거른다는 게 쉽진 않다. 불법 영상 제작과 유포가 탐지 기술들을 교묘히 우회하고 있기 때문이다.

불법 딥페이크 영상물 탐지기술도 중요하지만 이보다는 타인의 동의를 받지 않은 딥페이크 합성은 범죄라는 사회적 인식 확산이 중요하다는 게 전문가들의 지적이다. 이미 지난해 성폭력처벌특례법 개정안에 따라 딥페이크 처벌 규정이 강화됐다. 대상자의 의사에 반해 성적 욕망이나 수치심을 유발하는 촬영·영상·음성물 등을 편집·합성·가공했거나 이를 배포하면, 5년 이하 징역 또는 5000만원 이하 벌금형을 받을 수 있다. 불법 합성 영상 제작·유포에 돈을 받으면 7년 이상 징역형에 처한다.

성적 수치심을 유발하지 않더라도, 합성 대상의 얼굴을 변형해 모욕감을 느끼게 하는 등의 행위도 명예훼손이나 초상권 침해 등의 범죄가 될 수 있다. 딥페이크가 사이버 불링(괴롭힘)이나 악의적 비방 등에 악용될 여지도 충분하다.

좋은 의도에서 딥페이크 창작물을 만들었다 해도 본인의 직접적 동의 없이 만들어질 경우 적절한지에 대한 사회적 합의도 필요하다는 제안도 나온다. 최근 동성의 아이돌 멤버 간 연애를 묘사하는 소설이나 그림 등 창작물을 통칭하는 ‘알페스’(RPS)도 비슷한 논란에 휘말려 있다. 온라인상에서는 이를 ‘팬픽’(팬(fan)+소설(fiction)의 합성어)의 연장선에 있는 팬 문화로 받아들여할 지, 새로운 범죄 유형으로 판단해야 할 지 설왕설래 중이다.

윤덕경 한국여성정책연구원 연구위원은 “딥페이크를 이용한 성폭력은 분명히 ‘처벌되는 범죄’라는 인식을 확산할 필요가 있다”고 말했다. 이어 “수사·피해자 보호 현장에서도 딥페이크 영상물 탐지·삭제를 위한 기술 개발·도입에도 보다 적극적일 필요가 있다”고 말했다.

[관련기사]☞ 장혜영, 10년전 연세대 자퇴부터 성추행 피해 공개까지☞ 배우 송유정, 지난 23일 갑작스레 사망…오늘 발인☞ '성폭행 의혹' 장진성, 승설향과 주고 받은 카톡 공개☞ 7명 찌른 인질범에 다가간 신참 여기자…피해자 구했다☞ "제가 커피를 왜 타요?" 부장에 대놓고 말한 신입사원

백지수 기자 100jsb@mt.co.kr

<저작권자 ⓒ '돈이 보이는 리얼타임 뉴스' 머니투데이, 무단전재 및 재배포 금지>