디지털 성범죄 대응, AI로 바뀐다… 성착취물 자동 탐지·삭제

성평등가족부, 삭제요청 자동화·AI 성착취 탐지·딥페이크 식별 시스템 도입

【베이비뉴스 이유주 기자】

디지털 성범죄가 갈수록 지능화·고도화되는 가운데, 인공지능(AI)을 활용해 아동·청소년 성착취물을 자동으로 수집·분석하고 신고·삭제 요청까지 처리하는 대응 체계가 도입된다.

성평등가족부(장관 원민경)는 디지털 성범죄 피해자 보호 강화를 위해 ▲삭제요청 자동화 ▲AI 기반 아동·청소년 온라인 성착취 선제 대응 ▲AI 기반 딥페이크 탐지 등 3대 핵심 기술 시스템을 도입한다고 1일 밝혔다.

이번 시스템 도입으로 기존의 수동적이고 사후적인 피해자 보호 방식의 한계를 보완하고, 대응 체계를 자동화·지능화해 처리 속도와 정확도를 크게 높였다는 설명이다.

우선 피해 영상물 삭제요청 자동화를 통해 약 2만 개 사이트에 대한 삭제 요청부터 처리 이력 관리까지 전 과정을 자동화했다. 이에 따라 건당 처리 시간은 1분 이내로 단축됐다.

특히 중앙디지털성범죄피해자지원센터(이하 중앙 디성센터)의 삭제지원시스템을 미국 국립실종학대아동방지센터(NCMEC)와 글로벌 CDN 사업자 클라우드플레어(Cloudflare)와 API로 연계해, 우회 접속 URL에 대해서도 대량 자동 삭제 요청이 가능해졌다.

'아동·청소년 온라인 성착취 선제 대응 시스템'은 AI 기술을 활용해 SNS와 랜덤채팅앱 등에서 관련 불법 콘텐츠와 유인 정보를 24시간 자동으로 수집·분석하고, 신고 및 삭제 요청까지 수행한다.

특히 국내 최초로 랜덤채팅앱 데이터 자동 수집 기술을 적용했으며, 기존 중앙 디성센터 삭제지원시스템과 연계해 성인 사이트 내 유포 현황 탐지와 자동 삭제 요청도 가능해졌다.

해당 시스템에 적용된 AI 모델은 ▲키워드 탐지 ▲이미지 내 텍스트 추출 ▲신체 노출도 판단 ▲아동·청소년 여부 추정 ▲유사 이미지 대조 등 다단계 분석을 통해 성착취물 여부를 판단한다.

아울러 AI 기반 딥페이크 탐지 솔루션도 도입된다. 이를 통해 육안으로 식별하기 어려웠던 합성물을 보다 정확히 판별할 수 있게 돼 피해자의 불안을 줄이고 추가 삭제 지원까지 가능해졌다.

특히 선제적 온라인 모니터링 과정에서 합성·편집물로 의심되는 영상이 발견될 경우 딥페이크 탐지 기술을 적용해, 피해자가 인지하지 못한 콘텐츠까지 찾아내고 추가 유포를 사전에 차단할 수 있을 것으로 기대된다.

원민경 성평등가족부 장관은 "기술 발전에 따라 진화하는 디지털 성범죄에 맞서 더 강력하고 신속한 대응이 필요한 시점"이라며 "AI 기술을 현장에 본격 도입해 대응 속도와 정확도를 높이고 촘촘한 지원체계를 구축하여 피해자의 신속한 일상 회복을 위해 앞장설 것"이라고 밝혔다.

사회

디지털 성범죄 대응, AI로 바뀐다… 성착취물 자동 탐지·삭제