서울시, 아동·청소년 성착취물 잡아내는 인공지능 감시기술 개발

김인희 2024. 5. 22. 13:21
자동요약 기사 제목과 주요 문장을 기반으로 자동요약한 결과입니다.
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.

서울시는 디지털 성범죄 예방과 피해자 지원을 위해 아동·청소년 성착취물을 특정할 수 있는 인공지능(AI) 감시 기술을 전국 최초로 개발해 도입했다고 22일 밝혔다.

이번에 개발한 '아동·청소년 디지털 성범죄 AI 감시 시스템'은 AI 딥러닝 기반 안면인식 기술로 성인과 구분이 어려운 아동·청소년의 성별과 나이를 판별할 수 있다.

음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

영상물에 얼굴 나오지 않더라도 주변 사물과 언어 등으로 피해여부 판별
기존 수작업 대비 검출속도 80배 빨라지고 정확도는 3배 이상 높아져
아동·청소년 디지털 성범죄 AI 감시시스템 활용 전·후 비교ⓒ서울시 제공

서울시는 디지털 성범죄 예방과 피해자 지원을 위해 아동·청소년 성착취물을 특정할 수 있는 인공지능(AI) 감시 기술을 전국 최초로 개발해 도입했다고 22일 밝혔다. 이를 통해 24시간 자동 추적·감시에 나선다.

서울연구원은 지난해 3월부터 이 같은 기술을 구현하기 위한 연구개발에 착수했으며, 이달 프로그램 개발을 완료했다. 서울연구원은 시에서 수행하는 24시간 불법 영상물 감시·삭제를 위한 전반적 기술을 지원하고 있다.

아동·청소년의 경우 디지털 성범죄 피해를 신고하지 못하고 피해 영상물이 재유포되는 경우가 많은데, 이번 기술 개발로 아동·청소년 성착취물을 빠르게 찾아내고 삭제할 수 있을 것으로 기대된다.

이번에 개발한 '아동·청소년 디지털 성범죄 AI 감시 시스템'은 AI 딥러닝 기반 안면인식 기술로 성인과 구분이 어려운 아동·청소년의 성별과 나이를 판별할 수 있다. 특히 영상물에 얼굴이 나오지 않더라도 영상물에 등장하는 책, 교복, 인형 등 주변 사물과 이미지 속 텍스트, 청소년이 주로 사용하는 언어를 분석해 피해 영상물 여부를 판별하게 된다.

키워드 입력부터 영상물 검출까지 90초밖에 걸리지 않기 때문에 기존에 삭제지원관이 관련 키워드로 피해 영상물을 검색해서 수작업으로 찾아낼 때(2시간)와 비교하면 검출 속도가 80분의 1밖에 걸리지 않는다. 정확도는 300% 이상 향상됐다고 시는 덧붙였다.

신기술 도입으로 작년의 2배인 30만건까지 모니터링이 가능해지고, AI 학습 데이터가 축적될수록 정확도와 속도는 더욱 향상될 것으로 기대된다.

한편 시는 서울 디지털 성범죄 안심지원센터를 통해 긴급상담부터 수사·법률지원, 삭제지원, 심리치료·의료 지원까지 원스톱 지원하고 있다. 최근 2년간 935명의 피해자를 지원했으며 지원 건수는 3만576건에 이른다.

디지털 성범죄 피해를 당한 아동·청소년, 시민 등은 센터 상담 전용 직통번호(☎ 815-0382(영상빨리))'나 홈페이지(www.8150382.or.kr)로 문의하면 된다.

Copyright © 데일리안. 무단전재 및 재배포 금지.

이 기사에 대해 어떻게 생각하시나요?