아동 성착취물 꼼짝마!...서울시 'AI 안면인식' 활용 90초만 필터링

서울시가 디지털 성범죄 예방과 피해자 지원을 위해 지난해 3월 인공지능(AI) 기술을 도입한 데 이어 아동·청소년 성착취물을 특정할 수 있는 AI 감시 기술을 전국 최초로 개발했다. 이러한 기술을 도입해 24시간 자동 추적·감시에 나선다.

서울시는 “아동·청소년들은 디지털 성범죄 피해를 보아도 부모님에게 말하지 못해 신고가 이뤄지지 않는다”며 “아동·청소년의 경우 관련 법에 따라 당사자나 부모의 신고 없이도 피해 영상물이 삭제가 가능한 만큼 AI를 통해 성착취물을 삭제해 신속 대응할 계획”이라고 22일 밝혔다.

‘서울 디지털 성범죄 안심지원센터’의 피해 요청 현황에 따르면 아동·청소년 피해자 스스로가 신고한 경우는 12명(7.8%)에 그친다. 부모님에게 피해 사실이 노출되거나 수사·사법기관 등의 신고로 이뤄지는 경우가 대부분인 셈이다. 특히 대부분 아동·청소년 디지털 성범죄 영상물은 신고가 이뤄지지 못하고 유포·재유포 되는 경우가 많았다. 시는 서울 디지털 성범죄 안심지원센터를 통해 긴급상담부터 수사‧법률지원, 삭제지원, 심리치료‧의료 지원까지 원스톱 지원하고 있다.

시에 따르면 이번에 개발한 ‘아동·청소년 디지털 성범죄 AI 감시시스템’은 AI 딥러닝 기반 안면인식 기술로 성인과 잘 구분되지 않는 아동·청소년의 성별과 나이를 판별할 수 있는 시스템이다.

영상물에 얼굴이 나오지 않아도 아동·청소년 피해 영상물 여부를 찾아낼 수 있다. AI가 피해 영상물에 자주 등장하는 책, 교복 등 주변 사물과 이미지 속 텍스트, 청소년들이 주로 사용하는 언어까지 함께 인식해 최종적으로 피해 영상물 여부를 판별하게 된다.

또 키워드 입력부터 영상물 검출까지 90초밖에 걸리지 않아 기존에 삭제 지원관이 수작업으로 찾아낼 때(2시간)와 비교하면 검출 속도가 80분의 1로 크게 개선됐다. 정확도도 300% 이상 향상된다. 이렇게 되면 지난해 모니터링건수의 2배인 30만건까지 모니터링이 가능해질 것으로 시는 기대했다. 아울러 시는 기존에 미국을 중심으로 유포됐던 피해 영상물이 최근 중국, 러시아, 베트남 등으로 확산하는 점에 착안해 국가 기반을 넓혀 검색 영역을 확장했다.

이러한 기술 개발은 날로 교묘해지는 아동·청소년을 대상으로 한 디지털 성범죄에 관한 경각심이 높아지고 있기 때문이다. 시에 따르면 서울 디지털 성범죄 안심지원센터는 지난 2년간 935명의 피해자를 지원했다. 총 지원 건수는 3만576건에 이른다.

시가 지원한 피해자 중에서는 10~20대가 가장 높은 비율을 차지했다. 성별로는 여성이 85.78%로 남성 12.09% 보다 많았다. 특히 지난 2022년 센터 개관 후 아동, 청소년을 대상으로 한 디지털 성범죄 피해 지원이 증가하고 있다. 2022년도 아동·청소년 피해자는 총 50명으로 전체 피해자의 19.2%를 차지했으나 2023년도에는 총 104명(22.2%)으로 2배 이상 증가했다.

이에 따른 아동·청소년을 대상으로 한 디지털 성범죄 피해지원도 2022년 총 2026건에서 2023년 1만5434건으로 7배 이상 증가했다.

아동‧청소년 디지털 성범죄 피해 유형은 온라인 그루밍 68건(27.5%)이 대다수를 차지했다. 유포‧재유포 45건(18.2%), 유포불안 43건(17.4%) 순으로 나타났다. 특히 최근에는 불법 사진합성, 남성 청소년 대상 몸캠피싱, 대출 조건 나체사진 전송 등이 증가하고 있다.

모두 게임, 채팅앱, 사회관계망서비스(SNS) 등 온라인 공간이 가진 익명성을 이용해 접근해 정서적 지지를 해주거나 원하는 것을 해준다는 조건으로 길들이며 사진이나 영상물을 착취하는 방식으로 범죄를 벌였다. 하지만 피해자들이 사진을 더 보내지 않으면 이를 부모님에게 알리거나 유포하겠다고 협박하며 더 많은 사진을 요구했다. 또한 온라인에 그치는 것이 아니라 그루밍(길들이기)을 통해 오프라인까지 유도해 물리적 성폭력은 12건, 신체적 폭력은 2건, 스토킹범죄는 3건에 달했다.

김선순 시 여성가족정책실장은 “우리 사회를 충격에 빠뜨린 n번방 사건 이후 4년이 흘렀지만 여전히 아동·청소년을 대상으로 한 디지털 성범죄는 사라지지 않고 있으며 피해도 심각하다”며 “시는 작년 전국 최초로 AI 삭제지원 기술을 도입한 데 이어서 아동·청소년 성착취 영상을 특정할 수 있는 기술을 통해 선제적인 감시와 삭제에 나서 아동·청소년이 안전한 서울을 만들어나가겠다”고 말했다.

임지혜 기자 jihye@kukinews.com