성착취물 삭제에 투입된 AI…모니터링 규모, 육안 대비 13배 늘어

지난 3월 서울 디지털성범죄 안심지원센터 개관 1주년 기념행사에서 오세훈 서울시장(가운데)이 인사말을 하고 있다. 서울시 제공

서울시가 지난 3월 말 인공지능(AI) 기술을 활용해 개발한 성착취물 자동 추적·감시 시스템이 도입 7개월 만에 총 45만7440건의 영상물을 모니터링했다고 12일 밝혔다.

이는 AI가 도입되기 전인 지난해 같은 기간(2022년3월29일~10월31일) 삭제지원관이 직접 모니터링한 것(3만3511건)과 비교하면 무려 13배 이상 많은 규모다. 이 프로그램은 사회관계망서비스(SNS)에 올라간 디지털성범죄 피해 영상물을 24시간 실시간으로 자동 추적하고 감시하는 역할을 한다.

범죄 예방과 피해자 지원을 위해 지난해 3월 문을 연 ‘서울 디지털성범죄 안심지원센터’는 개관 1주년을 맞아 서울연구원과 지난 3월 AI 삭제 기술을 개발했다. 시스템 도입 후 감시 규모가 늘었을 뿐 아니라 영상물을 찾아내는 시간이 크게 줄었다. 사람이 키워드를 입력해 영상물을 검출하기까지는 평균 2시간이었던 소요됐지만 AI는 이를 3분으로 97.5% 단축한 것이다.

서울시에 따르면 온라인에서 만난 가해자의 그루밍(길들이기)으로 성착취물을 찍은 15세 청소년의 피해 사진과 영상을 AI가 유포 22초 만에 찾아내면서 확산을 초기에 방지하기도 했다.

전파·공유가 쉬운 SNS에서 성착취물이 재확산되는 것을 막기 위해서는 24시간 모니터링이 절대적으로 필요하다. 특히 최근 가해자들은 검거를 피하려고 금요일 밤에 영상을 올린 뒤 수사·지원 기관이 휴무에 들어간 주말을 통해 짧은 시간 유포하고 다시 삭제하는 등 지능형 범죄가 증가하는 추세다. AI는 시간대를 가리지 않고 활동할 수 있고 삭제지원관의 트라우마와 스트레스를 줄일 수 있는 것이 가장 큰 장점이다.

이에 성착취물 삭제 지원도 AI 도입 후 총 4141건으로 도입 전(2049건) 대비 2배 이상 증가했다. 서울시 관계자는 “AI 프로그램에 학습 데이터가 축적될수록 정확도와 속도가 향상될 것으로 기대하고 있다”고 설명했다.

피해 영상물 삭제 지원과 함께 긴급상담, 수사·법률과 심리치료·의료 등을 지원하는 센터는 지난 1년 7개월 간 392명의 피해자를 도왔다. 지원 건수는 올해 들어 10월까지 총 1만5002건으로, 지난해 총 지원 건수(6241건)를 2배를 웃돌았다. 피해자는 10~20대(51%)가 가장 많았다.

김보미 기자 bomi83@kyunghyang.com