서울시, 아동·청소년 성착취물 잡아내는 인공지능 감시기술 개발

영상물에 얼굴 나오지 않더라도 주변 사물과 언어 등으로 피해여부 판별
기존 수작업 대비 검출속도 80배 빨라지고 정확도는 3배 이상 높아져

아동·청소년 디지털 성범죄 AI 감시시스템 활용 전·후 비교ⓒ서울시 제공

서울시는 디지털 성범죄 예방과 피해자 지원을 위해 아동·청소년 성착취물을 특정할 수 있는 인공지능(AI) 감시 기술을 전국 최초로 개발해 도입했다고 22일 밝혔다. 이를 통해 24시간 자동 추적·감시에 나선다.

서울연구원은 지난해 3월부터 이 같은 기술을 구현하기 위한 연구개발에 착수했으며, 이달 프로그램 개발을 완료했다. 서울연구원은 시에서 수행하는 24시간 불법 영상물 감시·삭제를 위한 전반적 기술을 지원하고 있다.

아동·청소년의 경우 디지털 성범죄 피해를 신고하지 못하고 피해 영상물이 재유포되는 경우가 많은데, 이번 기술 개발로 아동·청소년 성착취물을 빠르게 찾아내고 삭제할 수 있을 것으로 기대된다.

이번에 개발한 '아동·청소년 디지털 성범죄 AI 감시 시스템'은 AI 딥러닝 기반 안면인식 기술로 성인과 구분이 어려운 아동·청소년의 성별과 나이를 판별할 수 있다. 특히 영상물에 얼굴이 나오지 않더라도 영상물에 등장하는 책, 교복, 인형 등 주변 사물과 이미지 속 텍스트, 청소년이 주로 사용하는 언어를 분석해 피해 영상물 여부를 판별하게 된다.

키워드 입력부터 영상물 검출까지 90초밖에 걸리지 않기 때문에 기존에 삭제지원관이 관련 키워드로 피해 영상물을 검색해서 수작업으로 찾아낼 때(2시간)와 비교하면 검출 속도가 80분의 1밖에 걸리지 않는다. 정확도는 300% 이상 향상됐다고 시는 덧붙였다.

신기술 도입으로 작년의 2배인 30만건까지 모니터링이 가능해지고, AI 학습 데이터가 축적될수록 정확도와 속도는 더욱 향상될 것으로 기대된다.

한편 시는 서울 디지털 성범죄 안심지원센터를 통해 긴급상담부터 수사·법률지원, 삭제지원, 심리치료·의료 지원까지 원스톱 지원하고 있다. 최근 2년간 935명의 피해자를 지원했으며 지원 건수는 3만576건에 이른다.

디지털 성범죄 피해를 당한 아동·청소년, 시민 등은 센터 상담 전용 직통번호(☎ 815-0382(영상빨리))'나 홈페이지(www.8150382.or.kr)로 문의하면 된다.