딥페이크 성범죄에 빠져드는 청소년들 [정락인의 사건 속으로]
교실 침투한 디지털 범죄 공포 “누가 내 사진 도용할지 모른다”
(시사저널=정락인 탐사저널 사건전문기자)
인공지능(AI) 기술이 무서운 속도로 발전하면서 관련 범죄도 진화를 거듭하고 있다. 생성형 AI 기술을 악용해 특정 인물의 얼굴, 신체, 목소리 등을 정교하게 합성한 가짜 영상이나 사진 등을 제작해 유포하는 딥페이크 범죄는 심각하다.
갈수록 기술적인 정교함이 향상돼 일반인이 진위를 구별하는 것은 사실상 불가능해졌다. 문제는 일선 학교에서는 청소년들이 마치 놀이문화처럼 인식하거나 학교폭력의 수단으로 악용하는 등 딥페이크 범죄가 유행처럼 번지고 있다는 사실이다.
경찰청 국가수사본부는 2024년 11월부터 1년간 사이버 성폭력 집중단속을 벌여 총 3557명(3411건)을 검거하고 이 중 221명을 구속했는데, 관련 범죄 발생 건수가 전년 대비 35%(4413건) 증가했다. 범죄 유형 가운데 딥페이크 성범죄가 35.2%(1553건)로 가장 큰 비중을 차지했고, 아동·청소년 성착취물이 34.3%(1513건)로 바로 뒤를 이었다.
용돈 벌이로 큰 죄의식 없이 제작·판매
특히 주목되는 것은 딥페이크 성범죄 피의자 중 10대 비율이 무려 61.8%를 차지했다는 것이다. 피해자도 아동·청소년 비율이 절반에 육박한다. 이는 디지털 성범죄의 가해자와 피해자가 어린 세대에 집중되고 있다는 것을 보여준다. 실제 10대 딥페이크 관련 범죄는 2022년 52건에서 2024년 548건으로 2년 사이 10배 이상 증가했고, 이런 급증세는 지금도 계속되고 있다.
인천 지역 고등학교 2학년에 재학 중인 A군은 중학교 때인 2022년부터 최근까지 딥페이크 성착취물을 제작했다. 그는 나체 사진에 교사와 학생들의 얼굴을 합성하는 방식으로 불법 성착취물을 만들어오다 피해자들의 신고로 덜미가 잡혔다. 경찰이 A군의 휴대전화를 디지털 포렌식한 결과 지금까지 100여 장의 성착취물을 만든 것으로 파악됐다. 확인된 피해자는 교사 2명과 학생 10명 등 모두 12명이다.
경찰에 따르면 A군은 피해자들 SNS 사진을 무단으로 수집한 뒤 텔레그램 유료 AI 프로그램을 이용해 나체 이미지를 합성했다. 피해 교사들은 자신이 딥페이크 피해자였다는 사실을 뒤늦게 알고 극심한 불안과 충격으로 일상생활에 어려움을 겪는 것으로 알려졌다.
지난해 5월 경남경찰청은 딥페이크 성착취물 4000여 개를 만들어 텔레그램 방에 유포한 운영자와 방 참가자 24명을 적발했는데, 이중 16명이 10대 고교생이었다. 이들은 시중에서 쉽게 접할 수 있는 AI 앱을 통해 여성 연예인과 일반인 얼굴을 합성해 성착취물을 만들었다.
10대들이 용돈 벌이로 큰 죄의식 없이 딥페이크 성착취물을 만들어 판매하기도 했다. 경기도 안산의 한 고등학교에 재학 중이던 B군은 2024년 2월부터 7월까지 동창생 10명과 교사 1명의 얼굴을 여성 나체 사진과 합성했다. 그는 이런 방법으로 모두 321개 성착취물과 허위 영상물 등을 제작했고, 이 중 116개를 판매한 것으로 드러났다. B군은 자체 제작한 것도 있지만, 일부는 주문 제작형으로 만들었다. 다른 사람의 요청을 받고 만든 후 건당 2000원을 받고 판매했다.
부산에서는 10대 청소년 2명이 K팝 가수들의 딥페이크 허위 영상물을 제작하거나 판매하다가 적발됐다. 이들은 2020년 6월말부터 150여 명의 가수 얼굴을 다른 나체 사진과 합성한 사진 3000여 장과 일반 성착취물 영상물 1만3000여 개를 인터넷 등에서 내려받았다. 판매 방식은 007 영화를 연상케 했다. 먼저 해외 SNS를 통해 판매 광고를 내고, 이를 보고 구매 의사를 전해 오면 해당 영상이 저장된 곳의 아이디와 비밀번호를 알려주고 돈을 받았다.
이들은 이런 방식으로 90여 차례 판매를 하다가 경찰에 적발됐고, 경찰 조사에서 "용돈을 벌려고 딥페이크 영상을 판매했다"고 진술했다.
심지어 자경단 행세를 하며 또래 여학생들에게 접근한 후 피해자들을 협박해 성착취물을 제작한 10대도 있었다. C군(17)은 인스타그램 등 SNS를 통해 "텔레그램에 당신의 딥페이크 영상이 유포되고 있는데 유포자를 알려주겠다"며 피해자들에게 접근했다. 피해자들을 텔레그램으로 유인한 뒤에는 유포 여부를 확인해 주겠다며 신체 사진이나 돈을 요구해 받아냈고, 이를 협박 수단으로 사용해 추가적인 나체 사진을 전송하게 했다. C군은 이렇게 확보한 사진들을 성착취물로 재가공해 활용했다. 그의 범행은 여기서 그치지 않았고, 피해자들에게 "5명을 낚아오면 해방시켜 주겠다"며 또 다른 피해자를 유인하도록 지시했다.
딥페이크는 개인의 일탈을 떠나 조직화되는 추세다. 지난해 11월 서울경찰청은 '지인 능욕 합성사진'을 미끼로 피해자를 유인한 뒤 협박한 사이버 폭력 범죄단체 '참교육단' 총책 D씨(21)를 붙잡았다. 그는 2020년 7월 이 조직을 결성하면서 각각의 역할을 분업화하고 하부에 수사국·정보국·사무국 등 3국 체제를 갖췄다. 참교육단은 X(엑스·옛 트위터) 등 SNS에 '지인 능욕 사진을 합성해 주겠다' 등의 광고를 게시해 피해자들을 유인했다. 이후 "의뢰 사실을 지인들에게 알리겠다"고 협박하며 피해자들을 자신들의 지배하에 두고, 알몸각서 요구, 일상 보고, 반성문 작성 등을 강요했다. 일부 피해자를 조직원으로 포섭하기도 했다.
대전경찰청은 지난해 4월 텔레그램에 개설된 성착취물 공유방인 '겹지방'을 파악하고, 이곳에서 활동한 10~40대 214명을 적발했다. 이 중 10대가 145명으로 가장 많았다. 겹지방은 특정 지역이나 학교를 기반으로 지인의 정보를 공유하며 합성물을 제작·공유하는 '겹치는 지인 방'의 약자다. 일당들은 2023년 7월부터 겹지방을 운영하며 딥페이크를 이용해 연예인과 학교 동창, 지인 등의 사진을 합성한 성착취물 3만6086개를 공유했다.
학교 공동체 근간 흔들어 심각한 부작용
청소년들 사이에서 유행처럼 번지는 딥페이크 범죄는 단순한 장난 수준을 넘어 조직적으로 유포하고, 협박 수단으로 삼거나, 용돈 벌이로 판매하며 금전적 이득을 취하는 등 심각한 범죄 양상을 보이고 있다. 학교에서 물리적 폭력은 줄어드는 대신 딥페이크를 이용한 성적 모욕, 유포 협박, 단체채팅방에서의 따돌림 등 사이버 폭력 비중이 상승하며 더욱 은밀해지고 있다.
10대들이 딥페이크 범죄에 빠져드는 이유는 기술적 접근성 확대와 왜곡된 디지털 문화, 낮은 범죄의식이 복합적으로 작용하기 때문으로 분석된다. AI 도구가 보편화되면서 청소년들 사이에서 지인의 얼굴을 합성하는 행위가 일종의 '장난'이나 '디지털 놀이'처럼 번졌다. 딥페이크 결과물을 공유하며 또래 집단 내에서 과시하거나 인정을 받으려는 욕구와 호기심이 딥페이크 영상물 유혹에 쉽게 빠져들게 했다.
여기에 고도의 기술 없이도 스마트폰 앱이나 텔레그램 봇 등을 통해 누구나 쉽게 딥페이크 영상을 제작할 수 있는 환경이 조성된 것도 한몫했다. 10대들이 디지털 기술에 능숙하고 새로운 AI 툴을 빠르게 습득하며 범죄에 활용하는 경향도 뚜렷해졌다.
인터넷의 익명성 때문에 "나는 잡히지 않을 것"이라는 잘못된 확신을 가지고 범죄의 문턱을 넘는 것도 문제다. 실제 익명 계정을 이용해 유포할 경우 가해자를 찾기 힘들어 피해자는 장기간 고통에 노출돼야 한다.
딥페이크 범죄는 학교 공동체의 근간을 흔드는 심각한 부작용을 야기하고 있다. 가장 큰 문제는 교사와 학생, 또래 학생 간 신뢰관계가 무너지고 있다는 것이다. 교사는 제자들이 자신의 얼굴을 성인물에 합성해 유포할지 모른다는 불안에 떨고, 학생들 사이에는 "누가 내 사진을 도용할지 모른다"는 극심한 불신과 공포가 확산되고 있다.
이로 인해 피해를 우려한 학생들이 인스타그램 등 SNS에서 얼굴사진을 모두 내리는 '디지털 은둔' 현상이 나타나고 있으며, 범죄에 악용될 것을 우려해 졸업앨범 제작을 거부하거나, 앨범에 교사나 학생의 얼굴사진을 싣지 않는 학교가 늘어나고 있다. 딥페이크 범죄가 교사와 학생들의 추억까지 빼앗고 있는 것이다.
무관용 원칙…한번 연루되면 인생 망친다
어떻게 하면 딥페이크 범죄 피해를 막을 수 있을까. 지금처럼 SNS를 통해 자신의 개인 일상을 알리거나 공개하는 추세를 감안하면 예방에는 한계가 있다. 우선 SNS 계정을 '비공개'로 전환하는 것이 좋다. 불특정 다수가 자신의 사진이나 영상을 본다면 딥페이크 범죄에 무방비 상태나 다름없다. 위험을 최소화하려면 SNS 계정을 비공개나 일부 공개로 전환해야 한다. 친구도 아는 사람만 팔로어로 수락해야 한다.
딥페이크 제작에 고해상도 이미지가 사용되는 것을 감안하면, SNS에 사진을 올릴 때는 정면 얼굴이 선명하게 나온 고화질 사진이나 영상은 업로드를 자제하거나 최소화해야 한다. 필요한 경우 디지털 워터마크를 삽입해 무단 도용을 방지해야 한다. ID는 중성적인 명칭을 사용하고, 프로필에 학교·직장 등 특정 가능한 신상 정보를 자세히 적지 않는 것이 안전하다.
만약 피해가 발생했다고 인지하면 즉시 화면을 캡처해 증거를 확보하고 경찰에 신고하거나 디지털성범죄피해자지원센터 등에 도움을 요청해야 한다.
현행법에 따라 딥페이크 성범죄 가해자는 무거운 처벌을 피할 수 없다. 피해자가 성인이나 아동·청소년인 것과 관계없이 무관용 원칙이 적용된다. 딥페이크 성착취물을 제작하거나 유포하면 7년 이하 징역 또는 5000만원 이하 벌금형에 처한다. 영리 목적으로 유포했을 때는 3년 이상 유기징역으로 가중 처벌된다. 직접 제작하거나 유포하지 않았더라도, 딥페이크 성착취물임을 알면서 이를 자기 휴대전화에 저장하거나 단순 시청하기만 해도 3년 이하 징역과 3000만원 이하 벌금형에 처해진다.
피해자가 미성년자일 경우 '아동·청소년의 성보호에 관한 법률'이 적용돼 가중 처벌된다. 성착취물을 제작·배포하면 무기징역 또는 5년 이상의 유기징역, 딥페이크 영상을 빌미로 피해자를 협박한 경우 3년 이상의 유기징역, 영상을 이용해 의무 없는 일을 시키거나 강요한 경우 5년 이상의 유기징역에 처해진다.
딥페이크 성범죄에 연루될 경우 공무원은 최고 징계 수위인 '파면' 처분이 가능하다. 학생은 학교폭력 대책심의위원회를 통해 출석 정지, 학급 교체, 전학, 퇴학 등 엄중한 조치가 내려지고, 수사기관의 조사와 별개로 학교생활기록부에 기재돼 입시에 불이익을 받게 된다.
딥페이크 범죄에 한번 연루되면 "나 하나쯤이야, 안 걸리겠지"라는 생각이 인생 전체를 망칠 수도 있다. 범죄 증거를 삭제해도 디지털 수사(포렌식)를 통해 복구되고, 한번 기록된 성범죄 전과는 취업, 진학, 해외여행 등 미래의 모든 선택지에 치명적인 걸림돌이 될 수 있다.
Copyright © 시사저널. 무단전재 및 재배포 금지.