'디지털성범죄 꼼짝마' AI기술로 모니터링 성과 '10배 이상'

서울시, 지난 3월 도입한 'AI모니터링 시스템'
10개월간 영상 45만개 모니터링..성과 1265% ↑
피해영상 삭제 건수도 2배 이상 증가

오세훈 서울시장이 지난 3월 29일 서울 동작구 서울여성가족재단에서 열린 서울 디지털성범죄 안심지원센터 개관 1주년 기념식에 참석해 인사말하고 있다. 서울시 제공

[파이낸셜뉴스] 디지털성범죄 예방을 위해 서울시가 도입한 인공지능(AI) 모니터링 시스템이 도입 7개월 만에 45만건이 넘는 영상물을 살핀 것으로 확인됐다. AI 시스템이 도입 되기 전 사람이 직접 모니터링했을 때와 비교했을 때 1265%나 늘어난 수준이다.

서울시는 지난 3월 도입한 AI 기술을 활용 불법영상물 24시간 자동 추적·감시 시스템이 지난달 말까지 총 45만7440건의 영상물을 모니터링했다고 12일 밝혔다. 모니터링하는 영상물의 수가 늘면서 피해영상물 삭제 건수 역시 2049건에서 4141건으로 2배 이상 증가했다.

지난해 3월 '서울 디지털성범죄 안심지원센터'를 개관한 시는 올해 3월 개관 1주년을 맞아 서울연구원과 함께 전국 최초로 AI 삭제지원 기술을 개발·도입한 바 있다.

AI 모니터링 시스템을 활용하면서 실제 성착취 영상물 등 피해영상물을 찾아내기까지 걸리는 시간도 크게 줄었다. 사람이 직접 모니터링하는 데 평균 2시간 가량 소요됐던 작업이 AI 기술을 활용하면 3분만에 마무리되는 것으로 전해졌다.

시 관계자는 "최근 피해영상물은 SNS 등을 통해 빠르게 전파·공유되는 만큼 영상물 재확산 방지를 위해 24시간 모니터링이 반드시 필요하다"며 "AI 모니터링 시스템은 사람이 일하지 않는 시간대에도 모니터링이 가능하고, 피해영상물을 모니터링하는 직원이 겪는 트라우마와 스트레스도 줄일 수 있다"고 설명했다.

한편, 시는 디지털성범죄 뿐만 아니라 스토킹 피해자와 아동·청소년 대상 성범죄 예방 지원에 총력을 다하고 있다. 스토킹 범죄의 경우 피해자의 안전과 일상회복을 위해 올해 9월 전국 최초의 전담 조직인 ‘스토킹 피해자 원스톱지원 사업단’을 출범했다. 서울 경찰과 긴밀한 공조 아래, 출범 한 달 만에 총 200건, 39명을 지원했다.

아울러 갈수록 심각해지는 성착취로부터 아동·청소년을 보호하기 위해 전국 최초로 '서울특별시 아동·청소년 성착취 방지 및 피해자 지원 조례'를 제정, 시행했다. 올해 5월에는 ‘성착취 피해 아동·청소년 통합지원센터’를 확대 운영, 성매매뿐 아니라 다양한 성착취 피해를 지원 중이다.

오세훈 서울시장은 “'n번방 사건' 등 디지털 성범죄는 우리 사회에 큰 충격을 주었으며, 최근에는 무차별 범죄 등으로 시민들의 불안감이 커지고 있다”며 “서울시는 디지털 성범죄 AI 삭제지원과 같은 신기술을 통해 신종 범죄에 신속하게 대응하고, 예방부터 피해자 지원까지 좀 더 촘촘한 원스톱 지원을 통해 시민 누구나 안심하고 살 수 있는 ‘안심도시 서울’을 만드는 데 최선을 다하겠다”고 말했다.