엔번방 때도 있던 딥페이크, 국가 방관과 텔레그램이 키웠다

‘추적단 불꽃’ 원은지 활동가 기고

한겨레 자료사진

2019년 텔레그램 기반 아동·청소년 성착취 범죄 ‘엔(n)번방’ 사건을 처음 알린 ‘추적단 불꽃’의 원은지 활동가는 지난 5년 동안 텔레그램 성착취 생태계를 추적해왔다. 그 과정에서 서울대 출신 남성이 동문들의 사진 등을 불법합성해 성범죄 영상물을 제작·유포한 사건 피해자들을 도와 경찰이 주범을 잡는 데 주요한 역할을 했다. 그간 누구도 하지 않은 말을 하고 싶었기 때문이다. “딥페이크 저지른 니들은 다 잡힌다.” 서울대 가해자가 잡히기 전 2년 가까이 딥페이크 성착취 범죄가 피해자들을 얼마나 고통스럽게 할 수 있는지를 지켜봤다. 엔번방이 사라진 텔레그램에서, 딥페이크 성착취 생태계가 어떤 방식으로 뿌리내렸는지 그간의 추적기를 전한다.

텔레그램 ‘지인 능욕’ 대화방 ㄱ. 이곳에선 딥페이크(이미지·음성 합성 기술)를 활용한 합성영상물과 불법촬영물 100여개, 5천여장의 합성사진이 공유되고 있다. 닉네임 ‘리얼메이커’, ‘온프론트’라는 ‘합성 장인’으로 불리는 가해자들이 불특정 다수의 여성 피해자 사진을 합성한다. 이 방의 피해자만 모두 60명. 가해자들은 합성 장인에게 피해자 얼굴을 누군가의 나체나 기괴한 표정으로 합성해달라 의뢰한다. 피해자 얼굴을 성관계 영상과 합성해 공유하기도 한다. 가해자들은 합성 장인을 칭찬하며 친분을 쌓으려 애쓴다. 장인들은 미숙한 솜씨로 합성사진을 올린 가해자에게 노하우를 전수해준다. 또 다른 텔레그램 ‘지인 능욕’ 대화방 속 가해자는 600명에 달했다. 이들은 종종 피해자들의 반응을 중계했다. 한 가해자는 자신이 자위하는 사진을 성적인 메시지와 함께 피해자에게 보냈다고 했다. 2024년이 아닌, 2020년 텔레그램 속 광경이다.

아동·청소년 성착취물을 만들어 유포한 ‘엔(n)번방’을 추적했던 2019년에도 딥페이크 성착취, 이른바 ‘지인 능욕’ 범죄가 존재했다. 그때나 지금이나 가해자들은 친구, 선생님, 엄마를 가리지 않고 여성 얼굴을 나체 사진과 합성해 불특정 다수가 있는 텔레그램 대화방에서 돌려보고 피해자 개인정보를 유포했다. 이런 성범죄 피해 규모는 ‘엔번방’, ‘박사방’(조주빈 운영)을 뛰어넘는다. 그럼에도 이를 중대한 성범죄로 보지 않았던 국가의 방기와 ‘텔레그램을 쓰면 절대 안 잡힌다’는 가해자들의 굳건한 믿음은 지난 5년간 딥페이크 성착취 생태계를 공고하게 만들었다.

추적단 불꽃이 2020년 9월에 모니터링한 텔레그램에서도 ‘지인 능욕’ 불리던 딥페이크 성범죄는 빈번하게 일어나고 있었다. 피해자 사진을 제외하고 다시 만든 이미지. 자료: <한겨레21> 1130호

‘텔레그램’이라는 성착취 업장

텔레그램 성착취 생태계는 ‘성착취물 제작자→유포·소지자→시청자’로 향하는 피라미드 형태다. 가장 상위에 위치한 성착취물 제작자는 여성 아동·청소년의 약점을 잡아 텔레그램으로 유인해 자신의 말을 듣지 않으면 개인정보와 피해 영상물을 유포하겠다는 협박으로 성착취물을 만들어낸다. 이들이 제작한 피해물을 유포·소지자와 시청자가 소비하며 거대한 생태계를 이룬다. 2020년 ‘엔번방’, ‘박사방’ 사건 주범과 공범 1천여명이 경찰에 붙잡혔다. 경찰은 2022년에도 아동·청소년 성착취물을 만들어 유포한 일명 ‘엘’을 오스트레일리아(호주) 경찰과 공조해 검거했다. 텔레그램이 수사기관에 아무리 협조하지 않더라도 결국 성착취물 제작자들이 검거되는 모습을 지켜보던 생태계 가담자들은 충격을 받는다.

반면 동시대에 존재한 딥페이크 성착취 범죄를 우리 사회는 주목하지 않았다. 딥페이크 성착취 실태에 대한 언론 보도가 없진 않았지만 최근 ‘겹지방’(특정 지역·학교의 공통 지인을 찾아 그 지인을 대상으로 하는 범죄)이 드러나기 전까지 경찰이 무조건 범인을 잡겠다고 발표한 적은 없다. 가해자들이 ‘어차피 못 잡는다’며 수사기관을 조롱하는 까닭은 그간 우리 사회가 딥페이크 성착취를 중대한 성범죄로 보지 않았기 때문이다.

“배덕 느끼려는데 ‘성착취’하실 분?”

배덕(背德), 도덕에 어그러짐. 가해자들이 딥페이크 성착취 범죄를 어떻게 생각하는지 설명하는 단어다. 쉽게 말해 엄마 지갑에 손을 대거나 길가에서 소변을 보는 이들이 느낄 만한 감정이다. 성범죄를 고작 도덕에 어긋나는 일 정도로 가볍게 여기고 있다는 뜻이다. 딥페이크 성착취가 횡행하는 텔레그램 대화방에는 ‘배덕감’을 위해 함께 범죄를 저지르자는 대화를 자주 볼 수 있다. 대학 동문들 사진 등을 합성한 성착취물을 제작·유포한 사건 주범도 ‘배덕’을 느끼려 범행을 한다고 말했었다.

딥페이크 성착취에 중독되는 과정은 이렇다. 하나, 연락처를 뒤지며 소셜미디어 등에 프로필 사진을 올린 여성을 물색한다. 그중 몇명의 사진을 갈무리(캡처)해 이를 텔레그램 대화방에 있는 불특정 다수에게 뿌린다. 둘, 본인의 욕망을 채우려 더 심한 일을 한다. 피해자의 소셜미디어 계정, 전화번호, 카카오톡 아이디를 불특정 다수에게 알리는 거다. 피해자 사진과 성적인 허위 사실만으로도 디지털 성폭력은 가열차게 행해진다. 피해자 연락처까지 공개되면 피해는 걷잡을 수 없게 된다. 셋, 대화방에 있던 불특정 다수 중 일부는 피해자 연락처로 자위 영상을 보내거나 ‘○○이 맞냐, 몇살 맞냐?’며 직접 위협을 가한다. 몇몇 피해자는 ‘대체 무슨 일인가’ 싶어 직접 텔레그램으로 향한다. 피해자 전화번호를 알고 있는 가해자에게, 피해자가 텔레그램에 가입했다는 알림이 뜬다. 넷, 배덕감에 중독된 가해자는 피해자에게 말을 건다. “나 잡으려고 텔레그램 가입했어? 아무리 날뛰어도 나 못 잡아, 대답해 봐 너도 흥분했지.” 피해자를 협박하며 우롱하는 행위 역시 ‘배덕’의 일부로 생각한다.

학교나 지역별로 불법합성 성범죄물을 공유하고 있는 텔레그램 방의 모습들. 텔레그램 갈무리

단돈 2천원으로 성착취물 제작

가해자들이 배덕감에 온전히 중독될 수 있도록 만든 일등 공신은 텔레그램이다. 지인을 대상으로 어떤 성범죄를 저질러도 괜찮은 공간. 텔레그램은 가해자들이 직접 지인 사진을 합성하고 반포하는 ‘열혈’이 될 때까지 어떤 제동도 걸지 않는다. 텔레그램 대화방에서 단돈 2천원만 내면 성착취물을 만들어주는 에이아이(AI)봇은 5년 전엔 볼 수 없던 장치다. 올해 초 텔레그램을 모니터링하던 중 한 대화방에서 이런 봇을 적극 사용하는 모습을 발견했다. 합성사진 한장에 2천원, 영상 한편에 1만3천원가량이었다. 최근 보도된 딥페이크 성착취 관련 보도 가운데 많은 사람들을 놀라게 한 ‘가해자 22만명’ 이상이 참여한 대화방 역시 이런 봇을 탑재했다.

최근 많은 언론이 전국에 있는 중고등학교와 대학교별로 딥페이크 성착취 대화방이 나열돼 있는 모습을 보도했다. 마치 여러개의 대화방이 각각 개설된 것 같지만, 이는 사실 하나의 대화방이다. 지역·나이 등 주제별로 소그룹을 묶어 보기 좋게 정리한 형태다. 텔레그램에서 2022년 11월부터 사용할 수 있는 ‘주제 기능’을 활용한 것이다. 성착취물을 공유하는 대화방을 찾는 데도 시간과 노력이 드는데, 공들여 여러개의 대화방에 들어갈 필요가 없어졌다. 하나의 대화방 안에서 전국에 있는 피해자의 개인정보와 딥페이크 성착취물을 관리하고 공유할 수 있으니 말이다.

가해자들은 그 많은 성착취물을 어디에 저장할까. 컴퓨터? 휴대전화? 이동식 저장장치(USB)? 그냥 텔레그램의 ‘저장한 메시지’로 전달하면 서버에 자동 저장된다. 2022년 6월 도입된 ‘텔레그램 프리미엄’을 구독하면 개인별 저장공간은 기본 제공 용량의 2배가 되고, 성착취물도 더 빠르게 주고받을 수 있다. 한달 구독료는 단돈 3천원(연회원 기준)이다.

22만여명이 참여한 딥페이크 성착취 텔레그램방. 인공지능(AI)이 만든 여성 사진을 넣으니 5~7초 만에 성착취물이 제작됐다. 텔레그램방 갈무리

5년 뒤라고 다를까…그럼에도 달라야

딥페이크 성착취 가해자 가운데 10대가 많고, 피해자 역시 10대가 많다는 언론 보도 역시 놀랍지 않다. 이미 ‘엔번방’ 사건 당시 이뤄진 경찰 단속 결과, 디지털 성범죄 피해자 10명 중 6명은 10대였으며 범죄 가담자 30% 이상이 10대였다.

딥페이크 성착취는 불법촬영 같은 성범죄보다 물리적·심리적으로 더 쉽게 저지를 수 있다. 글을 쓰는 지금도 텔레그램 ‘지인 능욕’ 대화방에 “10년생 지인 같이 능욕할 분” 따위의 메시지가 올라온다. 피해자를 희롱하는 온갖 입에 담기 힘든 메시지를 보면 ‘갱생 불가’ 외에 묘사할 말이 없다. 절망스럽다. 지난 5년간 텔레그램 성착취 생태계를 지켜보며 가장 많이 한 말은 ‘지긋지긋하다’이다. 가해자를 모조리 잡아 엄벌에 처하는 게 가능한지, 그럼 갱생할 수 있을지 모르겠다. 딥페이크 성착취 가해자는 텔레그램 밖에도 존재한다. 작금의 사태를 ‘사회 불안 조장’, ‘위기감 과잉’이라 말하는 이들이 그렇다. 그들에게 텔레그램 성착취 가해자들의 대화를 보게 하고 싶다.

이런 상황에서 우리가 할 수 있는 일은 많지 않다. 가해자를 잡기 위해, 성착취 생태계를 뿌리 뽑기 위해 목소리를 내는 피해자들에게 감사하는 일부터 하려 한다. 지난 5월 딥페이크 성착취 피해자 루마(가명)씨와 함께 방송사 인터뷰를 했다. 그 인터뷰를 본 또 다른 피해자들이 연락을 해왔다. 몇몇은 용기를 내어 언론 인터뷰에 응했다. 피해자 이야기가 보도되자 또 다른 보도가 이어졌다. 손 놓고 방관하던 대통령이, 국회가 딥페이크 성착취를 언급했다. 이 시간에도 수많은 피해자들이 경찰의 수사 결과를 숨죽여 기다리고 있을 터다. 텔레그램은 수사가 어려우니 ‘포기하고 일상을 살아라’라는 말을 주위에서 수백번도 더 들었을 이들이다. 그럼에도 딥페이크 성착취 사슬을 끊어내기로 결심한 그들을 온 마음 다해 응원한다. 5년 뒤를 바꾸는 건 우리다.

평화나비네트워크 회원 등이 29일 오전 서울 종로구 세종문화회관 앞에서 \'딥페이크\' 성범죄대응 긴급 대학생 기자회견에서 퍼포먼스를 하고 있다. 연합뉴스