폭증하는 ‘딥페이크’ 성범죄, 모니터링 인력은 제자리 [국회 방청석]

영상물 시정 요구 1913건→ 2만3000건
심의 인력은 고작 1명 증원
“모니터링 인프라 확충 시급”

딥페이크 성범죄 영상물 심의 건수가 12배 가까이 늘었지만, 이를 모니터링하는 인력은 9명에 불과한 것으로 나타났다. (게티이미지뱅크)

최근 3년간 딥페이크 성범죄 영상물 심의 건수가 12배 가까이 폭증했지만, 이를 모니터링하는 인력은 사실상 제자리걸음인 것으로 나타났다.

국회 과학기술정보방송통신위원회 소속 조인철 더불어민주당 의원이 방송통신심의위원회로부터 제출받은 ‘딥페이크 성범죄영상물 시정요구 현황’ 자료에 따르면, 심의 건수는 2021년 1913건, 2022년 3574건, 2023년 7187건에서, 지난해 2만3107건으로 폭증했다. 올해 8월 기준으로도 이미 1만5808건이 집계돼, 올해 역시 가파른 증가세가 이어지고 있다.

반면 심의 인력은 턱없이 부족하다. 디지털 성범죄 정보 심의 전담 인력은 2021년 8명에서 현재 9명으로 1명 늘어나는 데 그쳤다. 하루 평균 심의 건수는 2020년 136건에서 2024년 347건으로 두 배 이상 늘어나 업무 과부하와 심의 적체가 불가피한 상황이다.

피해자도 빠르게 늘고 있다. 경찰청의 ‘딥페이크 범죄 10대 피해자 현황’에 따르면, 딥페이크 범죄 10대 피해자는 2021년 53명에서 2023년 181명으로 3배 이상 증가했다. 특히, 주요 유통 경로가 해외 불법 음란 사이트와 P2P 사이트인 만큼, 대응이 늦어질 경우 피해 확산 위험은 더욱 커진다.

2021~2025년(8월) 연간 딥페이크 성범죄영상물 시정요구 현황. (조인철 의원실)

특히 딥페이크 성범죄를 비롯한 디지털 성범죄는 온라인에서 유통되다 적발되는 불법 유해 정보에서도 가장 큰 비중을 차지한다. 신성범 국민의힘 의원이 방심위로부터 받아 공개한 ‘온라인 불법 유해 정보 시정 요구 현황’에서 최근 5년간 방심위가 시정 요구한 온라인 불법 유해 정보 115만8196건 가운데, 디지털 성범죄가 29만394건이다.

해당 기간 증가세 역시 디지털 성범죄가 2021년 2만5879건에서 2024년 9만4186건으로 폭증했다. AI를 활용한 딥페이크 불법 영상물이 큰 폭으로 증가한 영향이라는 분석이다.

정치권에서는 딥페이크 성범죄에 대한 제도적 대응을 강화해야 한다는 목소리가 커지고 있다. 조인철 의원은 “딥페이크 성범죄는 피해자에게 평생 지울 수 없는 상처를 남긴다”며 “피해가 폭증하는데도 인력과 예산은 턱없이 부족한 만큼 모니터링 인프라가 조속히 확충되어야 한다”고 강조했다. 신성범 의원도 “AI 기술 발달로 딥페이크 영상이 폭증하는 상황에서 방심위도 AI 기술을 활용한 모니터링 기술개발, 국내외 포털·SNS 사업자와의 자율 규제·심의를 강화하는 등의 기존과 다른 방식의 대응이 필요하다”고 강조했다.