“성범죄영상 찾아 삭제·신고까지 6분”···서울 ‘AI 신고 시스템’ 도입

성착취영상 검출부터 삭제 신고까지 자동화
기존 3시간→6분으로 처리 속도 30배 단축

서울시 제공.

서울시가 온라인상에 유포된 디지털 성범죄 영상을 인공지능(AI)으로 삭제 후 신고까지 지원하는 ‘AI 자동 삭제 신고 시스템’을 전국 최초로 개발해 시행에 들어간다고 21일 밝혔다.

‘AI 자동 삭제 신고 시스템’은 AI가 24시간 모니터하며 찾아낸 영상물을 채증해 보고서를 만든 뒤 해당 사이트에 삭제 요청하는 e메일을 자동으로 생성하는 프로그램이다. 완성된 신고 e메일은 삭제 지원관이 최종 확인해 발송한다.

이 시스템을 통해 사회관계망서비스(SNS)나 온라인 커뮤니티, 불법 사이트 등 온라인에 떠도는 불법 영상물을 찾아 해당 사이트에 삭제 신고를 하는 데 드는 시간은 기존 2시간30분~3시간에서 ‘6분’으로 크게 단축된다.

기존에는 삭제 지원관이 영상물마다 수작업을 거쳐 피해 영상물을 채증하고, 보고서를 작성했기 때문에 많은 시간이 소요됐다.

하지만 AI프로그램에 따라 앞으로는 디지털 성범죄 영상물의 모니터링부터 검출, 삭제까지 전 과정이 자동화되기 때문에 처리속도가 최대 30배까지 빨라진다고 시는 설명했다. 자동 채증한 자료와 보고서는 향후 수사기관 또는 사법 절차에 필요한 법적 증거자료로도 즉시 활용할 수 있다.

시는 지난 2023년 전국 최초로 ‘디지털 성범죄 AI 삭제지원 기술’을 개발·도입해 디지털 성범죄 예방과 피해자 지원에 선제적으로 대응하고 있다.

‘서울 디지털 성범죄 안심 지원센터’의 삭제지원 건수도 AI 도입 전 2022년 2509건에서 지난해 총 1만4256건으로 468% 상승했다. 시는 센터를 통해 삭제지원을 비롯한 수사·법률지원, 심리치료·의료 지원도 원스톱으로 지원한다.

부모에게 말하지 못하는 피해 아동·청소년은 익명으로 상담할 수 있는 카카오톡 오픈채팅방 ‘디지털성범죄 SOS 상담’ 창구를 통해서도 상담을 지원하고 있다. 피해 아동·청소년의 부모를 상대로 한 심리치료도 무료로 지원한다.

김선순 서울시 여성가족실장은 “디지털 성범죄 기술에 따른 피해가 심각해지고 있는 가운데 시가 AI로 자동으로 삭제 후 신고까지 하는 기술을 도입해 검출부터 신고까지 걸리는 시간을 획기적으로 줄일 것”이라며 “디지털 성범죄로부터 아동·청소년이 안전한 서울을 만들기 위해 최선을 다하겠다고”고 말했다.

김은성 기자 kes@kyunghyang.com