온라인에 유포된 디지털 성범죄 영상을 찾아내고 삭제하는 과정을 단 ’6분‘으로 단축한 시스템을 서울시가 전국 최초로 개발했다.
시는 온라인상에 유포된 디지털 성범죄 영상의 모니터링과 검출, 삭제 신고까지 전 과정을 자동화한 ‘AI 자동 삭제 신고 시스템’을 시행한다고 21일 밝혔다.
이 시스템을 활용하면 온라인상에 떠도는 불법 영상물을 찾아내 삭제 신고를 하는 데까지 드는 시간이 약 3시간에서 6분으로 단축된다. 기존에는 삭제 지원관이 수작업으로 피해 영상물을 채증하고 보고서를 작성했지만, 전 과정을 자동화해 처리 속도를 획기적으로 높였다.
서울 디지털 성범죄 안심지원센터는 AI를 활용해 24시간 피해 영상물을 검출한 뒤 찾아낸 영상물을 자동으로 채증해 보고서를 만든다. 이어 해당 사이트에 삭제를 요청하는 이메일을 자동으로 생성하며, 이렇게 완성된 신고 이메일은 삭제 지원관의 최종 확인을 거쳐 발송하게 된다.
신고 이메일은 영어·중국어·일본어·러시아어 등 7개 국어로 생성된다. 최근 피해 영상물이 해외에 서버를 둔 사이트에 올라오는 사례가 증가하는 데 따른 조치다.
김선순 서울시 여성가족실장은 “AI가 자동으로 삭제 신고까지 하는 기술을 도입해 검출부터 삭제 신고까지 걸리는 시간을 획기적으로 줄일 것으로 기대한다”며 “디지털 성범죄로부터 안전한 서울을 만들기 위해 최선을 다하겠다”고 말했다.
