디지털 성범죄물, AI로 24시간 자동 탐지해 신고…"건당 처리시간 1분"

성평등가족부, 삭제요청 자동화
AI성착취 탐지·딥페이크 식별 시스템 도입

디지털 성범죄 피해 영상 삭제 과정이 자동 처리 시스템으로 변경된다. 기존에는 담당자가 모든 영상을 일일이 탐색해 삭제해야했지만, 인공지능(AI)을 활용하면서 건당 처리 시간도 1분 이내로 단축될 전망이다.

1일 성평등가족부는 약 2만 개 사이트에 대한 '피해 영상물 삭제요청'부터 '처리 이력 관리'까지 전 과정을 자동화한다고 밝혔다.

한국여성인권진흥원 디지털성범죄피해자지원센터에서 관계자들이 불법 영상물을 삭제하고 있다. 조용준 기자

중앙디지털범죄피해자지원센터(디성센터)의 삭제지원시스템을 미국 국립실종학대아동방지센터(NCMEC), 글로벌 콘텐츠 전송 네트워크(CDN) 사업자 클라우드플레어와 연계해, 우회 접속 인터넷주소(URL)에 대한 대량 자동 삭제요청도 가능해졌다.

구글 콘텐츠 삭제 양식과 전기통신사업법 신고 양식도 자동 작성·발송하도록 개선했으며, 종사자의 정신적 소진 예방을 위해 촬영물 필터(회색조 처리) 기능도 도입했다.

성평등부는 "이번 시스템 도입으로 기존의 수동적이고 사후적인 피해자 보호의 한계를 보완하고, 디지털 성범죄 대응체계를 자동화·지능화해 대응 속도와 정확도를 대폭 높였다"고 했다.

사회관계망서비스(SNS), 랜덤채팅앱 등에 노출된 아동·청소년 성착취물이나 유인정보도 AI 기술을 활용해 24시간 수집부터 삭제요청까지 자동으로 이뤄진다.

시스템에 적용된 AI 모델은 ▲키워드 탐지 ▲이미지 내 텍스트 추출 ▲신체 노출도 판단 ▲유사 이미지 대조 등 분석을 거쳐 아동·청소년 성착취물 여부를 판단한다.

시범운영 결과, 종사자 1인당 일평균 수집 건수가 아동·청소년 성착취물은 2.7배 이상, 성착취 유인정보는 80배 이상으로 대폭 증가한 것으로 나타났다.

정부는 시스템 본격 운영을 통해 아동·청소년 성착취물의 신속한 삭제를 지원할 방침이다. 성착취 유인정보는 신고와 함께 전문 상담원이 개입하는 '온라인 아웃리치'를 병행할 예정이다.

'AI 기반 딥페이크 탐지 솔루션' 도입으로 기존에 육안으로는 판별하기 어려웠던 합성물도 식별할 수 있게 되면서 추가 유포 전 영상삭제가 가능해졌다. 뿐만 아니라 온라인 모니터링 과정에서 합성·편집물로 의심되는 영상물이 발견되면, 딥페이크 탐지 솔루션으로 피해자가 인지하지 못한 합성물까지 찾아내 삭제할 수 있게 돼 피해자의 불안을 해소하는 데 도움을 줄 것으로 보인다.

원민경 성평등부 장관은 "AI 기술을 현장에 도입해 대응 속도와 정확도를 높이고 촘촘한 지원체계를 구축해 피해자의 신속한 일상 회복을 위해 앞장설 것"이라고 말했다.

오주연 기자 moon170@asiae.co.kr