온라인 그루밍 피해자 영상, 22초만에 찾아…서울시, AI로 새벽에도 감시

피해 영상 검출 평균 2시간→3분 단축

A(15)양은 채팅앱에서 만난 가해자가 사진을 보며 “너무 예쁘다”며 기프티콘을 선물해주자 단체 채팅방에서 대화를 나눴다. 가해자는 몇 개월 간 A양의 이야기를 들어주며 환심을 샀고, 이후 A양 얼굴 사진부터 속옷만 입은 사진 등 점차 수위를 높여가며 성적인 사진과 영상을 요구했다. A양이 “더 이상 사진을 보내줄 수 없다”며 거부하자 가해자는 그동안 찍은 사진·영상을 친구들과 소셜미디어(SNS)에 다 유포하겠다고 협박했다. A양은 경찰에 신고했지만 피해 영상물이 유포될까봐 두려웠고, 경찰의 연계로 서울 디지털성범죄 안심지원센터를 찾아왔다. 센터에서는 A양이 보낸 사진과 영상을 인공지능(AI)로 검색해 유포 22초 만에 확인하고 곧바로 삭제 요청을 해 확산을 초기에 막았다. 센터는 A양에게 법률과 심리 치료 지원을 연계했고, 부모에게도 심리 상담을 지원해 피해자의 일상 회복을 지원했다.

서울디지털성범죄 안심지원센터 개관 1주년 기념식에서 오세훈 서울시장이 전문가, 학부모와 간담회를 하고 있다. /서울시

서울시는 12일 디지털 성범죄 예방과 피해자 지원을 위해 AI 기술을 활용한 24시간 자동 추적·감시 시스템을 지난 3월 도입한지 7개월 만에 A양의 사례 등 총 45만7440건의 영상물을 모니터링하는 성과를 냈다고 밝혔다. 이는 지난해 같은 기간 사람(삭제지원관)이 직접 모니터링했을 때(3만3511건)보다 13배 많다. AI 기술 도입 후 7개월간 피해영상물 삭제지원 건수는 4141건으로 지난해 같은 기간(2049건)의 두 배 수준으로 늘었다.

앞서 서울시는 디지털성범죄 예방과 피해자 지원을 위해 지난해 3월 서울 디지털성범죄 안심지원센터를 개관했다. 올해 3월에는 서울연구원과 함께 전국 최초로 AI 삭제 지원 기술을 개발·도입했다. 이 기술로 SNS 상에 유포되는 피해 영상물을 하루 24시간 동안 실시간으로 자동 추적·감시하고 있다.

AI 기술로 피해 영상물을 찾아내기까지 걸리는 시간도 크게 줄었다. 기존에는 사람이 직접 직접 키워드를 입력하고 영상물을 검출하기까지 평균 2시간이 걸렸지만, AI 기술이 적용되면서 이제는 3분 만에 영상물을 찾아낼 수 있게 됐다.

서울시 관계자는”SNS 특성상 전파와 공유가 쉽고 유포 속도가 매우 빠른 만큼 24시간 모니터링이 필요하다”며 “AI는 자동 모니터링이 가능하기 때문에 새벽 시간대에도 모니터링이 가능하다”고 했다. 삭제 지원관이 피해 영상물을 접하면서 발생할 수 있는 트라우마와 스트레스를 줄일 수 있는 장점도 있다. AI 학습 데이터가 늘면서 시스템의 정확도와 속도는 더 향상될 것으로 전망된다.

센터는 피해영상물 삭제는 물론 긴급상담부터 수사·법률 지원, 심리치료·의료 지원까지 원스톱 지원하고 있다. 올해 들어 10월 말까지는 392명의 피해자를 지원했다. 총 지원 건수는 1만5002건으로 이미 지난해 지원 건수(6241건)를 넘어섰다. 서울시가 지원한 피해자의 연령대는 10~20대(51%, 200명)가 가장 많았다. 이 중 10대는 13.5%(53명)이었다.

서울시는 경찰과의 협력해 1060건의 수사를 지원했다. 이 과정에서 가해자를 검거·특정하는 성과도 거뒀다. 법률·소송과 심리치료 지원 건수는 각각 574건, 1383건이다.

서울시는 스토킹이나 아동·청소년을 대상 성 착취 등 신종 성범죄에 대한 예방과 지원에도 총력을 다하고 있다. 스토킹 범죄의 경우 피해자의 안전과 일상 회복을 위해 올해 9월 전국 최초의 전담 조직인 ‘스토킹 피해자 원스톱지원 사업단’을 출범했다. 출범 한 달 만에 총 200건, 피해자 39명을 지원했다.

서울시는 스토킹 가해자는 전 연인이나 배우자, 직장 동료 등 가까운 관계인 경우가 많고, 피해자 거주지와 직장 등이 노출된 경우가 많아 피해자 안전을 최우선으로 지원한다. 서울시는 지자체 최초로 스토킹 피해자 보호시설을 5곳 운영하고 있고, 이주비도 200만원 한도 내에서 지원하고 있다.

오세훈 서울시장은 “’n번방 사건’ 등 디지털 성범죄는 우리 사회에 큰 충격을 주었으며, 최근에는 무차별 범죄 등으로 시민들의 불안감이 커지고 있다”며 “디지털 성범죄 AI 삭제지원과 같은 신기술로 신종 범죄에 신속하게 대응하고, 예방부터 피해자 지원까지 좀 더 촘촘한 원스톱 지원을 통해 시민 누구나 안심하고 살 수 있는 ‘안심도시 서울’을 만드는 데 최선을 다하겠다”고 말했다.