초중고, 대학·회사·군대까지…딥페이크 성범죄 무차별 확산

텔레그램에서 딥페이크 합성물을 찾아보는 학생들을 형상화한 가상 이미지. DALL-E.

텔레그램상에선 지인의 사진으로 딥페이크물을 만들어, 피해를 키우고 있다. 한 지능방(지인능욕방)에선 이름, 나이, 지역, 인스트 아이디 등 개인 정보와 사진을 요구했다. 텔레그램 캡처

경기도 소재 한 고등학교 이름으로 지난 6월 개설된 텔레그램 그룹. 일부 여성의 얼굴 사진과 이름·학력·주소·전화번호·소셜네트워크서비스(SNS) 계정이 그대로 노출돼 있다. 또 이들의 얼굴과 신체 사진을 합성한 사진과 성희롱성 댓글이 줄을 이었다. 26일 현재 이 방엔 약 530여명이 참여한 상태다.

이처럼 ‘딥페이크’를 이용해 지인 대상 합성물을 제작해 텔레그램같은 SNS를 통해 유포하는 성범죄가 광범위하게 확산하고 있다. 인공지능(AI)을 이용해서 특정 여성의 얼굴과 관련 없는 인물의 나체 사진 또는 영상을 합성하는 형태다. 전국의 초‧중‧고교 등 10대 청소년뿐만 아니라 대학생·회사원·교사·군(軍) 등 나이와 직업·대상을 가리지 않고 불법 합성물 범죄가 퍼지면서 면서 피해자들이 두려움을 호소하고 있다.

26일 중앙일보가 텔레그램을 살펴보니 각종 ‘지능방(지인능욕방)’ ‘겹(겹치는) 지인방’ 등으로 이름 붙은 딥페이크 합성물 공유 채널을 쉽게 찾아볼 수 있었다. 학교나 지역을 중심으로 모인 참가자들이 서로 같이 아는 지인의 불법 합성물을 제작해서 공유하는 용도로 운영되고 있다. 여성 군인을 대상으로 한 성범죄물이 제작‧유포된 정황도 나왔다. 900여명이 참여 중인 한 채널에선 여군(女軍)을 ‘군수품’으로 부르면서 합성물 제작을 원하는 대상의 군복 사진과 나이·계급·전화번호·SNS 계정 등을 요구했다. 국방부는 이와 관련해 “현재 접수된 피해 사례에 대해 경찰에서 수사 중인 사안으로, 공조 요청시 지원할 예정”이라고 설명했다.

여성 군인을 대상으로 한 딥 페이크 합성물 제작·유포 텔레그램 채널. 해당 채널에서는 여군을 '군수품'이라고 지칭하며 대상자의 군복 사진과 신상정보 등을 요구하고, 실제 군인 여부를 확인하기 위해 개인 대화방을 통해 인증을 받기도 했다. 'X' 캡처

정근영 디자이너

해당 채팅방 운영자들은 참여자들에게 “(여성) 지인의 사진을 올려야만 대화방에 참여할 수 있다”고 요구한다. 개인 메시지를 통해서 ‘신분을 인증하라’는 요구도 공지 글로 올렸다. 채널을 홍보하기 위한 용도로 불법 합성물로 제작한 ‘짤(사진 또는 그림)’을 만들어 무료로 배포까지 했다. 또 다른 채팅방에선 불법 합성물을 제작하는 방법이 공유되기도 했다. 프로그램에 인물 사진을 입력하면 관계없는 여성의 신체 사진과 합성하는 등의 방식이다. 다른 성착취물 채널과 연계 운영하는 정황도 있었다. 무료로 딥 페이크 사진을 올린 뒤 참여자의 유료 결제를 유도하는 식이다.

상황이 이렇다 보니 이날 ‘엑스(X‧옛 트위터)’ 등 SNS에선 전국 중‧고교·대학교가 언급된 ‘텔레그램 딥페이크 피해자 명단’이란 글이 잇따라 공유됐다. 불법 합성물에 본인이나 지인이 포함됐는지 찾아보는 방법이란 글도 올라왔다. 특정 인터넷 주소(url)로 들어가 거주지나 지인, 겹지인 등의 단어를 검색해서 확인하는 식이다. 20대 여성 이모씨는 “겹지인이란 단어를 검색하니 끝도 없이 나오고 있다”며 “내 얼굴도 합성됐으면 어떡하나”라고 불안해했다.

딥페이크로 제작한 불법 합성물을 이용해 피해자에게 협박 메시지를 보낸 것으로 추정되는 글. 딥페이크 합성물은 이처럼 협박이나 스토킹 등 추가적인 범죄로까지 이어질 가능성이 큰 상황이다. SNS 'X' 캡처

최근 텔레그램에서 일어나는 성범죄 정황은 협박이나 스토킹과 같이 과거 ‘n번방’ 사건 때와 같이 추가 범죄로 이어질 가능성이 있다. 실제 이날 텔레그렘에선 한 참여자가 여성의 신상정보를 공개하면서 “잔뜩 능욕해 달라”고 했고, 일부 참여자는 “스토킹도 해드린다”라는 식의 글을 올렸다. 누군가가 신상정보를 공개하면, 불법 합성물을 첨부한 협박 문자를 보내는 것이다. 특히 이 대화방에선 불법 합성물이 아닌 피해 여성을 몰래 촬영한 듯한 사진이 공유되기도 했다.

정보통신(IT) 기기에 익숙한 10대 청소년들을 중심으로 딥페이크 불법 합성물이 전국적으로 확산하고 있어 더 큰 문제라는 지적이 나온다. 아동‧청소년인 초‧중‧고교생을 대상으로 한 성범죄 우려가 나오는 것이다. 최근 부산에선 남자 중학생 4명이 동료 여학생과 교사 등 19명을 대상으로 불법 합성물을 직접 만들어 SNS 채팅방에 공유해 경찰이 수사 중이다. 전북 군산 소재 한 초등학교에서도 일부 학생들의 얼굴을 합성한 음란물이 SNS에 유포됐다는 학생 진술이 나와 학교 측이 자체 조사를 거쳐 경찰에 신고했다. 서울에선 지난 7월 기준 불법 합성물 관련 성폭력 범죄의 처벌 등에 관한 특례법 위반 등 혐의로 검거된 청소년이 10명으로 나타났다.

차준홍 기자

국회 행정안전위원회 조은희 국민의힘 의원실이 지난 21일 경찰청으로부터 받은 자료를 보면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 지난해 180건으로 해마다 늘고 있다. 특히 10대 피의자 수는 2021년 78명 중 51명(65.4%)에서 지난해 120명 중 91명(75.8%)으로 2년 새 1.8배로 증가했다. 경찰청에 따르면 올해는 1~7월에만 전국에서 297건의 신고가 접수됐고, 입건된 피의자 178명 중 10대는 131명으로 73.6%를 차지했다.

이에 경찰도 상황을 예의주시하고 있다. 김봉식 서울경찰청장은 “IT 기기에 익숙한 청소년 중심으로 (관련 범죄가) 확산해 굉장히 우려스럽다”며 “심각한 범죄 행위로서 처벌을 받을 수 있고, 이러한 범죄 전력은 향후 사회생활에 큰 장애가 될 수 있다”고 짚었다. 이웅혁 건국대 경찰학과 교수는 “여성을 도구로 여기는 왜곡된 성 문화가 청소년들 사이에서 마치 일종의 놀이처럼 퍼지고 있다”고 우려했다.

문제는 텔레그램에서 ‘n번방’과 유사한 사건이 또다시 발생했다는 점이다. 텔레그램은 암호화·익명성을 특징으로 하기 때문에 수사기관이 범죄를 적발하거나 피의자를 특정하기 어려운 요인이 있다.

경찰청에 따르면 지난 2021년부터 2023년까지 허위 영상물 관련 범죄 발생 건수 대비 검거 비율은 47~51% 수준에 그친다. 이윤호 동국대 경찰행정학과 교수는 “익명성이 특징인 사이버 공간에서 범죄가 발생하고 있으나 외국에 본사를 둔 텔레그램이 사실상 수사에 협조하지 않는 상황”이라며 “전통적인 수사 기법만으론 한계점이 있으니 위장 수사를 폭넓게 허용하는 등의 새로운 방식이 필요하다”고 말했다.

차준홍 기자

이보람·이찬규 기자 lee.boram2@joongang.co.kr