딥페이크 불법합성물 피해가 지역과 대상을 가리지 않고 확산하면서 정부가 특단의 대책을 내놨는데요. 아동·청소년 성착취물을 이용한 협박 및 강요 행위에 대해 처벌을 강화하고 삭제 지원 주체를 현행 국가에서 지방자치단체까지 확대하기로 했습니다. ‘아동·청소년성보호법’, ‘성폭력 방지 및 피해자 보호 등에 관한 법률(성폭력방지법)’, ‘성폭력 범죄의 처벌 등에 관한 특례법(성폭력처벌법)’ 등 개정 내용을 정책주간지 'K-공감'에서 확인하세요.

딥페이크 성착취물
소지·시청만 해도
최대 징역 3년

6년째 알고 지낸 여성 A씨의 사진을 이용해 딥페이크 불법합성물을 만든 20대 B씨가 10월 16일 구속됐습니다. B씨는 텔레그램에서 속칭 ‘지인 능욕방’을 개설해 딥페이크 영상물 264개를 유포한 것으로 드러났습니다.

대전에서도 지난 8월 고등학생 김모 양이 ‘겹지방(겹치는 지인 능욕방)’을 신고하면서 파문이 일었습니다. 김 양은 “우리 학교 후배도, 아는 선배도, 친구의 친구도 있었다”고 제보해 충격을 줬습니다. 경찰은 이 같은 ‘지인 능욕방’이 지역·학교 단위로 전국에 광범위하게 퍼져 있고 각 대화방에는 수천 명이 참여한 것으로 파악하고 있습니다.

올해만 딥페이크 허위영상물 성범죄 피의자로 경찰에 검거된 수만 474명입니다. 이 가운데 80%가 10대 청소년입니다. 10월 16일 경찰청에 따르면 올해 1월부터 10월 14일까지 전국 경찰에 접수된 딥페이크 성범죄 사건은 921건에 달하는 것으로 나타났습니다.

특히 경찰이 8월 28일부터 내년 3월까지를 ‘딥페이크 허위영상물 범죄 집중단속 기간’으로 정한 이후 관련 피해 신고 접수가 폭증하고 있습니다. 집중단속 이전 8개월간 접수된 신고 건수가 445건인 데 반해 집중단속이 시작되고 불과 7주 만에 476건이 쏟아졌습니다. 일평균 사건량은 9.92건으로 집중단속 이전에 비해 다섯 배 이상 늘었습니다. 피의자 중에는 올해 1∼3월 생성형 인공지능을 이용해 허위영상물을 제작하는 프로그램을 직접 프로그래밍해 여성 연예인 72명의 허위영상물 4313건을 제작·판매하다가 서울경찰청에 붙잡힌 20대 남성도 포함됐습니다.

‘긴급 신분비공개 수사’ 사전 승인 없이 가능

이처럼 딥페이크 불법합성물 피해가 지역과 대상을 가리지 않고 확산하면서 정부가 특단의 대책을 내놨습니다. 아동·청소년 성착취물을 이용한 협박 및 강요 행위에 대해 처벌을 강화하고 삭제 지원 주체를 현행 국가에서 지방자치단체까지 확대하기로 했습니다. 정부는 10월 10일 열린 제43회 국무회의를 통해 이 같은 내용의 ‘아동·청소년성보호법’ 개정안과 ‘성폭력 방지 및 피해자 보호 등에 관한 법률(성폭력방지법)’ 개정안을 의결했습니다. 아울러 딥페이크 성착취물을 소지·시청만 해도 처벌하는 ‘성폭력 범죄의 처벌 등에 관한 특례법(성폭력처벌법)’ 일부 개정안을 통과시켰습니다.

먼저 아동·청소년성보호법 개정안은 성착취물을 이용해 아동·청소년을 협박·강요한 행위에 대해 협박은 징역 3년 이상, 강요는 5년 이상으로 처벌을 강화했습니다. 이는 협박은 1년 이상, 강요는 3년 이상 징역에 처하는 현행 성폭력처벌법보다 형량을 높인 것입니다.

더불어 아동·청소년 대상 디지털 성범죄에 대해 긴급한 수사가 필요한 경우 사전승인 없이도 ‘긴급 신분 비공개 수사’를 할 수 있도록 했습니다. 이에 따라 앞으로는 경찰이 신분을 공개하지 않은 채 범죄 현장 또는 범인으로 추정되는 이들에게 접근해 증거를 수집하는 일이 더욱 원활해집니다. 딥페이크 불법합성물 등이 텔레그램 비밀대화방 등 폐쇄된 가상공간에서 주로 유포되는 탓에 사전승인을 받기 위해 기다리다 해당 대화방이 없어지는 등 기존 수사 방식으로는 한계가 많다는 지적을 반영한 조치입니다.

앞서 경찰은 신분을 밝히지 않거나 경찰 외 신분으로 위장하는 ‘위장수사’ 제도를 활용해 지금까지 1415명을 검거, 94명을 구속하는 성과를 거뒀다고 밝혔습니다(2021년 9월~2024년 8월). 현행 아동·청소년성보호법상 위장수사는 아동·청소년을 상대로 한 디지털 성범죄를 대상으로 합니다. 전체 위장수사 515건 중 아동·청소년 성착취물 판매·배포 등이 400건으로 전체의 77.7%를 차지합니다.

특히 경찰은 2023년 12월부터 올해 7월까지 텔레그램을 통해 딥페이크 성착취물을 판매해 수익을 올린 18세·19세 남성 2명을 포함해 총 27명을 검거하기도 했습니다. 경찰청은 “보안 메신저 활용 등 디지털 성범죄 수법이 고도화되는 상황에서 위장수사를 더욱 활성화하겠다”고 밝혔습니다.

이번 개정안에는 경찰이 아동·청소년 성착취물이 게시·상영 또는 유통되고 있다는 사실을 확인한 경우 지체 없이 방송통신심의위원회에 삭제 또는 접속차단 등의 조치를 요청하도록 의무화하는 내용도 포함됐습니다.

삭제 지원 주체 지자체까지 확대

성폭력방지법 개정안에는 딥페이크 성착취물 등 삭제 지원 주체를 현행 국가에서 국가와 지자체로 확대하고 피해자에 대한 일상회복 지원을 국가와 지자체의 책무로 명시했습니다. 특히 국가와 지자체가 성적 허위영상물뿐만 아니라 피해자의 신상정보도 삭제 지원할 수 있게 했습니다. 피해자의 신상정보가 정보통신망에 유포돼 추가적인 피해가 발생하는 것을 방지하기 위해서입니다.

이와 함께 중앙 및 지역의 디지털성범죄피해자지원센터(이하 디성센터)의 설치·운영 근거를 신설했습니다. 이로써 디지털 성착취물의 신고 접수, 상담과 삭제 지원 등을 전담하는 여성가족부 산하 한국여성인권진흥원 내 디성센터의 활동이 더욱 탄력을 받을 것으로 기대됩니다. 이와 관련해 여가부는 “이번 개정안에는 디성센터의 자료 요청 권한 등이 신설돼 가해자에 대한 구상권 행사에 필요한 자료 확보도 더욱 용이해질 것으로 본다”고 설명했습니다.

이날 성폭력처벌법 일부 개정안이 통과되면서 앞으로는 딥페이크 성착취물을 시청하는 것은 물론 소지만 해도 형사처벌을 받습니다. 개정안은 딥페이크 성착취물이란 걸 알고도 소지·저장 또는 시청할 경우 3년 이하의 징역이나 3000만 원 이하의 벌금형에 처하도록 규정했습니다. 특히 성착취물 제작자가 이를 퍼뜨릴 목적이 있었다는 점이 입증되지 않아도 처벌이 가능하도록 했습니다.

정부는 딥페이크 관련 성범죄에 대한 집중단속을 2025년 3월 말까지 실시할 방침입니다. 현재는 학교 피해 현황조사와 더불어 텔레그램 핫라인 구축 등 시급히 대응해야 할 사안에 대해 우선적으로 조치하고 있습니다. 향후 국무조정실을 중심으로 정부 태스크포스(TF)를 구성하는 등 추가 대책을 강구할 계획입니다. 한덕수 국무총리는 “성적 허위영상물은 심각한 범죄라는 사회적 인식을 빠르게 확산시키는 것이 매우 중요하다”면서 “국민들께서는 자신도 모르는 사이에 범죄의 피해자가 되지 않도록 각별한 경각심을 갖는 동시에 호기심이라는 미명 아래 자행되는 범죄행위를 간과하지 말고 적극 신고해달라”고 당부했습니다.

딥페이크 성범죄와 관련한 공포안 세 건 가운데 성폭력처벌법은 대통령 재가를 거쳐 관보 게재 후 즉시 시행됩니다. 나머지 두 건의 경우 일부 내용은 대통령 재가와 관보 게재 절차를 거쳐 바로 시행되고 일부 내용은 관보 게재 6개월 뒤에 시행됩니다.

딥페이크 범죄 탐지, AI도 나선다

행정안전부가 국립과학수사연구원과 함께 영상물 조작 여부 탐지 모델 개발에 나섭니다. 딥페이크 기술 등을 활용한 고도의 합성기술이 범죄에 이용되면서 관련 대책 마련에 나선 것입니다. 행안부는 국민생활과 밀접한 사회문제를 해결하기 위한 목적으로 이 같은 내용이 담긴 5개 분야, 12건의 데이터 분석을 추진한다고 10월 10일 밝혔습니다. 이번 과제는 ‘인공지능(AI)을 활용한 딥페이크 불법 콘텐츠 분석 모델’이라는 이름으로 ‘국민안전’ 분야 과제로 진행됩니다.

행안부와 국과수는 사람이 포함된 동영상의 조작 여부를 영상이나 음성 종합분석을 통해 탐지할 수 있도록 모델을 개발할 계획입니다. 특히 원본이 없는 영상도 조작 여부를 파악할 수 있는 모델을 개발하는 것이 목표입니다. 현재는 딥페이크 불법합성물 의심 사례가 발견됐더라도 최종 판별은 사람이 직접 해야 해 피해 확산에 대한 빠른 대처가 어렵습니다. 이에 이번 모델에는 AI 기술을 적용함으로써 동영상 조작 여부를 자동으로 파악할 수 있게 하는 것이 핵심입니다.

이 같은 모델은 딥페이크 불법합성물 감정의뢰 등에 활용함으로써 성착취물 유포 여부를 신속하게 확인하는 데 쓰일 것으로 기대됩니다. 행안부는 “딥페이크 적용 여부를 분석할 수 있는 모델을 개발함으로써 가짜뉴스, 디지털 성범죄 등 불법합성물로 인한 피해 확산을 막는 데 총력을 다하겠다”고 밝혔습니다.

한편 행안부의 데이터 분석 과제는 ▲국민안전(2건) ▲근로·복지(3건) ▲국민건강(2건) ▲국민편의(2건) ▲일하는 방식 개선(3건) 등으로 나뉘어 추진됩니다. ‘사업장 굴뚝 대기오염 배출 자동 탐지 지원 모델’, ‘에너지 바우처 사용 사각지대 발굴을 위한 빅데이터 분석’ 등이 포함됐습니다. 행안부는 2025년 2월까지 개발이 완료된 모델은 실제 업무 현장에서 활용할 예정입니다.