서울시, AI 도입해 디지털성범죄 피해 영상 10배 이상 더 찾았다

AI 모니터링 시스템 도입
전년 대비 1265% 상승
최근 22초만에 찾아낸 사례도

서울시 제공

서울시가 디지털성범죄 피해 영상물을 찾아내기 위해 인공지능(AI) 기술을 도입한 결과 삭제지원관(사람)이 직접 모니터링했을 때보다 12배 이상 많이 찾아낸 것으로 나타났다.

서울시는 디지털성범죄 안심지원센터에서 3월 29일부터 지난달 31일까지 AI 기술을 활용한 24시간 자동 추적·감시 시스템으로 총 45만 7440건의 피해 영상물을 모니터링하는 성과를 냈다고 12일 밝혔다. 삭제지원관이 직접 모니터링했던 지난해 같은 기간 성과(3만3511건)와 비교하면 1265% 상승한 수치다.

이 시스템은 기존 피해자의 얼굴이나 특이점을 육안으로 판독해서 수작업으로 찾아내는 방식과 달리 AI 딥러닝 기술이 오디오, 비디오, 텍스트 정보를 종합적으로 분석해 피해자와 관련된 모든 피해 영상물을 즉시 찾아내는 식으로 운영된다. 이를 통해 현재 SNS상의 피해영상물을 24시간 실시간 자동으로 추적·감시해 찾아내고 있다.

시스템 도입을 통해 피해영상물을 찾아내는데 드는 시간도 크게 줄었다. 키워드 입력부터 영상물 검출까지 사람이 직접 했을 때는 평균 2시간이 걸린 반면 AI 시스템으로 피해영상물을 찾는 데는 97.5% 줄어든 3분 정도면 충분하다. 시는 최근 센터에 찾아온 15세 청소년의 피해 영상을 22초 만에 찾아내 유포 확산을 막기도 했다.

피해영상물 삭제지원 건수 역시 2배로 늘어났다. AI 기술 도입 이후 삭제지원 건수는 4141건으로 전년(2049건) 대비 102% 증가했다. 서울시 관계자는 “최근 유포자들이 경찰이나 공무원들이 쉬는 주말을 노려 잠깐 유포하고 삭제하는 등의 경우도 많다. 모니터링 건수는 이처럼 중복으로 유포된 것도 누적해 집계한 것”이라며 “삭제지원 건수에서는 중복 건수는 빠져 숫자 차이가 있다”고 설명했다.

시는 디지털성범죄 AI 삭제지원 프로그램이 올해 처음 적용된 만큼 향후 학습 데이터가 축적되면서 정확도와 속도가 지속적으로 향상될 것으로 기대하고 있다. 오세훈 서울시장은 “시민 누구나 안심하고 살 수 있는 ‘안심도시 서울’을 만드는 데 최선을 다하겠다”고 말했다.

김이현 기자 2hyun@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지