딥페이크 성범죄 피해자 1년 새 2배↑…1020 여성 90%

중앙디지털성범죄피해자지원센터 지원 현황
“AI로 누구나 순식간에 피해자 될 수 있는 환경”

2024년 11월6일 오전 서울 한국여성인권진흥원 디지털성범죄피해자지원센터 앞에 딥페이크 예방 관련 포스터가 붙어 있는 모습. 연합뉴스

#. 직장인 ㄱ씨는 회사에서 쓰는 ‘그룹웨어’(직장 내 소통·협업을 위한 업무용 소프트웨어) 증명사진 속 자신의 얼굴과 다른 사람의 나체가 합성된 사진이 온라인에 유포되고 있다는 사실을 지인을 통해 알게 됐다. ㄱ씨는 중앙디지털성범죄피해자지원센터(중앙디성센터) 온라인 게시판으로 삭제 지원을 요청했다. 중앙디성센터는 ㄱ씨를 상대로 한 합성·편집물(딥페이크)을 확보하자마자 삭제 지원을 시작하는 한편, 지역디성센터와 연계해 ㄱ씨의 심리·정서적 회복을 위한 지원도 이어갔다. 사건 초기 퇴사까지 생각했던 ㄱ씨는 지속적인 상담 끝에 회사를 더 다녀보기로 했다.

한국여성인권진흥원(진흥원)은 ㄱ씨를 포함해 지난 1년 동안(2024년 8월26일~2025년 8월25일) 중앙디성센터를 통해 딥페이크(음성·이미지 합성기술) 성범죄 피해자 1807명을 지원했다고 28일 밝혔다. 중앙디성센터는 2018년 4월 여성가족부 산하 진흥원에 설치됐으며, 피해 촬영물 삭제 지원, 상담, 수사·법률·의료지원 연계 등 디지털 성범죄 피해자에게 지원 서비스를 제공한다.

진흥원은 지난해 8월 딥페이크 기술을 이용한 성범죄 피해가 급속히 확산하자 중앙디성센터 내 ‘딥페이크 성범죄 전담팀’을 꾸렸다. 지난 1년 동안 딥페이크 성범죄 피해로 센터에 도움을 요청한 피해자 1807명은 전담팀 설치 이전 1년 동안(2023년 8월1일~2024년 7월31일) 지원한 피해자 793명보다 128%가량 증가한 것이다. 삭제·상담 등 지원 서비스 제공 건수도 5908건에서 1만8523건으로 약 3.1배 늘었다.

성별로는 여성이 1754명으로 전체 피해자의 97.1%를 차지했으며, 남성은 53명(2.9%)이었다. 연령대별로는 10대 이하가 839명(46.4%)으로 가장 많았고, 이어 20대(829명, 45.9%)를 차지했다. 전체 피해자 가운데 1020 여성이 90.1%(1628명)에 달했다.

신보라 진흥원장은 “생성형 인공지능(AI)의 높은 ‘편의성’과 ‘접근성’으로 인해 누구나 순식간에 딥페이크 성범죄 피해자가 될 수 있는 환경이 조성됐다”며 “지난 1년 동안의 피해지원 사례를 분석한 결과 특히 폐쇄형 소셜미디어(개방형과 달리 특정 사람들하고만 정보를 공유할 수 있는 서비스)가 범죄 도구로 활용되면서 피해가 ‘대량화’되고 ‘장기화’되는 특성이 확인됐다”고 말했다. 중앙디성센터는 기존 수작업(육안 모니터링 및 삭제요청) 중심의 삭제지원 절차를 자동화하고 디지털 성범죄 원스톱 통합 홈페이지를 구축하는 내용 등을 담은 ‘삭제지원 통합대응 솔루션’을 올해 안에 구축할 계획이다.

김효실 기자 trans@hani.co.kr