"AI 도입했더니"…걸러낸 '성범죄 영상' 1265% 늘었다

AI 도입 이후 피해 영상물 검출 시간 2시간→3분 단축

/사진제공=서울시

#지난달 쇼핑몰 아르바이트 당시 찍힌 불법촬영물이 유포돼 '서울 디지털성범죄 안심지원센터'에 도움을 요청한 A씨(21). 당시 사회관계망서비스(SNS)를 통해 확산되고 있던 피해 영상을 찾아낸 건 다름 아닌 인공지능(AI) 기술이었다. AI는 삭제지원관이 활동하지 않는 새벽 시간에 A씨의 영상이 추가로 유포된 것을 발견해 재유포를 막는 데 중요한 역할을 했다.

서울시가 디지털성범죄 예방과 피해자 지원을 위해 AI 기술을 활용한 '24시간 자동 추적·감시 시스템'을 도입한 지 7개월만에 총 45만7440건의 영상물을 모니터링하는 성과를 냈다고 12일 밝혔다. 이는 삭제지원관이 직접 모니터링했을 때와 비교했을 때 1265% 증가한 규모다.

지난해 3월 '서울 디지털 성범죄 안심지원센터'를 개관한 시는 올해 3월 개관 1년을 맞아 서울연구원과 함께 전국 최초로 AI 삭제지원 기술을 개발·도입했다. 3개월간의 시범 운영 기간을 거쳐 현재 SNS상의 피해영상물을 추적·감시해 찾아내고 있다.

시에 따르면 AI를 도입한 이후 실제 피해영상물을 찾아내기까지 걸리는 시간이 크게 줄었다. 키워드 입력부터 영상물 검출까지 사람이 했을 때 평균 2시간이 소요된 것에 비해 AI 기술은 3분이 걸려 검출시간이 97.5% 단축됐다.

피해영상물 삭제지원은 2배로 늘었다. AI 기술이 도입되기 전(2022년 3~10월) 2049건에서 기술이 도입된 이후 4141건(2023년 3~10월)으로 102% 증가했다. 시 관계자는 "향후 AI 학습 데이터가 축적되면서 정확도와 속도가 지속적으로 향상될 것으로 기대하고 있다"고 말했다.

'서울 디지털 성범죄 안심지원센터' 개관 1주년을 맞아 지난 3월 센터를 찾은 오세훈 서울시장(오른쪽 네번째) /사진제공=서울시

아울러 시는 안심지원센터를 통해 긴급상담부터 수사·법률지원, 심리치료·의료 지원에 이르는 원스톱 지원에 나서고 있다. 올해는 10월까지 392명의 피해자를 지원했고, 총 지원 건수는 1만5002건으로 이미 지난해 지원 건수(6241건)를 넘어섰다.

또 시는 디지털성범죄 뿐만 아니라 스토킹 피해자, 아동·청소년을 대상으로 한 성착취 등 최근 증가하고 있는 신종 성범죄에 대한 예방과 지원도 하고 있다.

우선 스토킹 범죄의 경우 지난 9월 전국 최초의 전담 조직인 '스토킹 피해자 원스톱지원 사업단'을 출범했다. 서울 경찰과 협력해 한 달 만에 총 200건(39명)을 지원했다. 지난달부터는 서울경찰청, 민간경호업체와 지방자치단체 최초로 '고위험 스토킹범죄 피해자 민간경호 서비스'를 운영해 한 달간 10건을 지원했다. 이와 함께 스토킹 피해자 보호시설도 5개소 운영 중이다.

지난 5월부터는 '성착취 피해 아동·청소년 통합지원센터'를 확대 운영해 기존에 성매매뿐 아니라 성폭력, 스토킹, 협박 등의 피해를 겪는 아동·청소년 116명에게 심리·의료·법률 서비스 등을 지원했다. 가정으로 복귀가 어려운 성매매 피해자 지원시설 퇴소 청소년을 위해 1000만원 상당의 자립정착금도 지급했다.

오세훈 서울시장은 "서울시는 디지털 성범죄 AI 삭제지원과 같은 신기술을 통해 신종 범죄에 신속하게 대응하고, 예방부터 피해자 지원까지 좀 더 촘촘한 원스톱 지원을 통해 시민 누구나 안심하고 살 수 있는 '안심도시 서울'을 만드는 데 최선을 다하겠다"고 말했다.

김지현 기자 flow@mt.co.kr