딥페이크 성범죄자, 잡고 보니 초등생…예방책 절실[only 이데일리]

지난해 검찰 송치 딥페이크 피의자 1844명로 사상 최대
2023년→2025년 초등생 피의자 0명서 15명으로 늘어
"플랫폼 실시간 삭제·VR 고통 체험 등 대책마련 필요"

[이데일리 석지헌 백주아 기자] 인공지능(AI) 기술을 이용해 타인의 인격을 살해하는 허위 영상물(딥페이크) 성범죄가 초등학교 교실까지 깊숙이 침투했다. 불과 2년 전만 해도 0명이었던 초등학생 연령대 피의자가 지난해 두 자릿수로 늘어나는 등 범죄 저연령화가 심각한 수준으로 파악됐다. 범죄를 막기 위해서는 플랫폼 기업에 실시간 삭제 의무를 부여하고 가해 학생에게는 가상현실(VR)을 통한 피해자 고통 체험 등 ‘물리적 안전장치’를 즉각 도입해야 한다는 제언이 나온다.

초등생 피의자 0→15명…트렌드 뒤처진 선도프로그램

17일 이데일리가 국회 보건복지위원회 소속 이주영 의원실(개혁신당)을 통해 확보한 법무부·경찰청 자료에 따르면 지난해 검찰로 송치된 딥페이크 피의자 수는 총 1844명으로 2024년(343명) 대비 537%나 폭증했다.

특히 초등학생 연령대인 만 12세 이하 피의자는 2023년 0명에서 2024년 6명, 지난해 15명까지 늘어났다. 초등학생 딥페이크 피의자 수가 구체적인 수치로 확인된 것은 이번이 처음이다. 디지털 기기에 능숙한 아이들에게 딥페이크가 범죄가 아닌 일종의 ‘기술적 놀이’처럼 번지며 범죄 피의자 연령대가 급격히 낮아진 것으로 풀이된다.

특히 문제점은 범죄 연령대가 초등학생까지 낮아지고 있지만 이에 대한 국가의 ‘교화 매뉴얼’은 여전히 과거에 머물러 있는 상황이다.

현재 경찰청이 소년범 교화를 위해 운영 중인 대표적인 선도 프로그램은 ‘사랑의 교실’이다. 본지가 확인한 ‘2024 청소년보호 업무 매뉴얼’에 따르면 이 프로그램의 근간은 39년 전인 1987년에 설계한 초기 모델에 뿌리를 두고 있다.

경찰은 지난 2023년 12월 딥페이크와 같은 신종 디지털 범죄의 특성을 반영해 ‘범죄유형별·연령별 선도 프로그램’을 새롭게 개발·보급하며 나름의 보완책을 내놓았지만 개편내용도 미술치료나 집단 상담 등 아날로그식 교육이 중심이다. 현장에서 최첨단 AI 범죄에 대응하기엔 역부족이라는 지적이 나오는 이유다.

신진희 피해자 전담 국선 변호사는 “사랑의 교실은 과거 오토바이 절도 등 특정 비행 소년들을 대상으로 했던 프로그램”이라며 “디지털 성범죄 가해자들에게 이러한 방식이 얼마나 실효적인 재범 억제력을 갖췄는지 의문”이라고 지적했다. 이어 “실제로 교육을 받은 아이들이 어떻게 변했는지, 재범은 없는지에 대한 데이터가 전무하다는 것이 가장 큰 문제”라며 “기소유예 단계의 검찰 프로그램부터 재판 이후의 성폭력 치료까지 단계별 교육 과정이 딥페이크 사범에게 실효가 있는지 국회 차원의 전면적인 검증이 시급하다”고 제언했다.

(그래픽= 김일환 기자)

“실시간 삭제·워터마크 표시 의무화 해야”

전문가들은 최첨단 기술이 동원된 AI 범죄를 막기 위해서는 교육과 플랫폼, 사법 체계라는 세 가지 축에서 ‘물리적 방어선’을 동시에 구축해야 한다고 입을 모은다. 단순히 도덕성을 강조하는 차원을 넘어 기술이 기술을 견제하고 제도가 실질적인 제동을 거는 구조를 만들어야 한다는 지적이다.

이성엽 고려대 기술경영전문대학원 교수는 아이들이 스스로의 얼굴이 합성된 영상을 직접 마주하게 하는 등 ‘피해자 역할’을 체험하게 함으로써 디지털 행위의 결과가 실재하는 고통임을 직면시켜야 한다고 봤다. 아이들을 단순한 콘텐츠 소비자가 아닌 ‘책임 있는 창작자’로 길러내는 교육 과정의 전환이 필요하다는 설명이다.

이 교수는 특히 플랫폼의 책임을 강조했다. 그는 “정부는 기술적·제도적 방어선을 구축해야 한다”며 “플랫폼 기업이 AI 기반 실시간 모니터링 및 삭제 시스템을 가동하게 하고 AI 생성 콘텐츠에 대한 워터마크 표시 의무를 실효적으로 집행하며 나아가 유해물 차단 의무를 신설하는 것을 검토할 필요가 있다”고 밝혔다.

동시에 플랫폼 기업이 범죄의 통로가 되지 않도록 하는 기술적 강제 조치도 시급하다고 강조했다. 정부가 플랫폼 기업에 AI 기반 실시간 모니터링 및 즉시 삭제 시스템 가동 의무를 부여하는 것이 핵심이다. 특히 최근 대안으로 떠오른 ‘AI 워터마크(식별 표식)’는 가짜 콘텐츠를 가려내는 최소한의 방어선으로 평가받는다.

이 교수는 “AI 생성물에 대한 워터마크 표시를 실효적으로 집행해야 한다”며 “플랫폼의 유해물 차단 의무를 신설하는 등 강력한 기술적 제동 장치를 검토해야 한다”고 제언했다.

범죄를 ‘게임’처럼 인식하는 초등학생들의 특성에 맞춘 사법 체계의 현대화 주문도 이어졌다.

이웅혁 건국대 경찰학과 교수는 “미술치료도 심리 파악에는 유용하지만 소년원 등의 교육 프로그램이 신종 비행에 대응해 현대화해야 한다”며 “보호관찰관의 프로그램도 AI 범죄 재범 방지로 특화하고 소년 사법체계 중 보호처분의 콘텐츠 개선도 시급하다. 이는 법무부 장관이 관심을 기울여야 할 사항”이라고 강조했다.

석지헌 (cake@edaily.co.kr)