AI 도입 7개월 만에···디지털성범죄 영상 45만건 모니터링

사람이 직접 할때보다 13배↑
찾는 시간도 2시간->3분
피해물 삭제지워도 2배 증가

[서울경제]

서울시는 디지털성범죄 예방과 피해자 지원을 위해 인공지능(AI) 기술을 활용한 24시간 자동 추적·감시 시스템을 도입한 지 7개월 만에 총 45만7440건의 영상물을 모니터링하는 성과를 냈다고 12일 밝혔다. 이는 AI 도입 전 사람(삭제지원관)이 직접 모니터링했을 때(3만3511건)와 비교하면 13배나 늘어난 것이다. AI 삭제지원 기술은 현재 SNS 상의 피해영상물을 실시간 자동으로 추적·감시해 찾아내는 역할을 하고 있다.

실제 피해영상물을 찾아내기까지 걸리는 시간도 크게 줄었다. 키워드 입력부터 영상물 검출까지 사람이 직접 했을 때는 평균 2시간이 소요됐던 것에 비해, AI 기술은 3분이면 충분하다. 특히 AI는 사람이 일하지 않는 새벽 시간대에도 자동 모니터링이 가능해 유포 속도가 매우 빠른 SNS를 통해 피해 영상물이 재확산되는 것을 막아준다. 최근 디지털 성범죄 유포 방식은 검거를 피하기 위해 금요일 밤에 올리고 주말에만 유포하며, 짧은 시간 유포하고 다시 삭제하는 식이어서 삭제지원관이 근무하지 않는 시간에 AI를 통한 실시간 모니터링이 중요하다. 피해영상물 삭제지원 역시 4141건으로 AI기술 도입 전(2049건) 보다 2배 가까이 증가했다.

서울시는 향후 AI 학습 데이터가 축적되면 정확도와 속도가 지속적으로 향상될 것으로 기대하고 있다. 오세훈 서울시장은 “신기술을 통해 신종 범죄에 신속하게 대응하고, 예방부터 피해자 지원까지 좀 더 촘촘한 원스톱 지원을 통해 시민 누구나 안심하고 살 수 있는 ‘안심도시 서울’을 만드는 데 최선을 다하겠다”고 말했다.

황정원 기자 garden@sedaily.com