서울시, 전국 최초 AI로 ‘아동·청소년 성착취물’ 잡는다

AI 안면인식으로 성별·나이 예측…불법 영상물 신속 검출·삭제 지원
키워드 입력부터 영상물 검출까지 90초…얼굴 안나와도 피해영상 판별

아동·청소년 디지털 성범죄 AI 감시시스템 활용 전·후 비교.서울시청 제공

서울시가 디지털 성범죄 예방과 피해자 지원을 위해 아동·청소년 성착취물을 특정할 수 있는 인공지능(AI) 감시 기술을 전국 최초로 개발해 도입했다.

22일 시에 따르면 서울연구원은 지난해 3월부터 이 같은 기술을 구현하기 위한 연구개발에 착수, 이달 프로그램 개발을 완료했다. 이번에 개발한 ‘아동·청소년 디지털 성범죄 AI 감시 시스템’은 AI 딥러닝 기반 안면인식 기술로 성인과 구분하기 어려운 아동·청소년의 성별과 나이를 판별할 수 있다. 특히 영상물에 얼굴이 나오지 않더라도 영상물에 등장하는 책, 교복, 인형 등 주변 사물과 이미지 속 텍스트, 청소년이 주로 사용하는 언어를 분석해 피해 영상물 여부를 판별하게 된다.

키워드 입력부터 영상물 검출까지 90초밖에 걸리지 않기 때문에 기존에 삭제지원관이 관련 키워드로 피해 영상물을 검색해서 수작업으로 찾아낼 때(2시간)와 비교하면 검출 시간이 80분의 1로 개선됐다. 정확도는 300% 이상 향상됐다. 시 관계자는 "아동·청소년의 경우 디지털 성범죄 피해를 신고하지 못하고 피해 영상물이 재유포되는 경우가 많은데, 이번 기술 개발로 아동·청소년 성착취물을 빠르게 찾아내고 삭제할 수 있을 것"이라고 말했다.

시는 신기술 도입으로 지난해의 2배인 30만 건까지 모니터링할 수 있게 되고, AI 학습 데이터가 축적될수록 정확도와 속도는 더욱 향상될 것으로 기대하고 있다. 시는 서울 디지털 성범죄 안심지원센터를 통해 긴급상담부터 수사·법률지원, 삭제지원, 심리치료·의료 지원까지 원스톱 지원하고 있다. 최근 2년간 935명의 피해자를 지원했으며 지원 건수는 3만576건에 이른다.

디지털 성범죄 피해를 당한 아동·청소년, 시민 등은 홈페이지(www.8150382.or.kr)로 문의하면 된다.

김군찬 기자