서울시 “AI 기술로 디지털성범죄 24시간 자동추적·감시”

안심지원센터, 작년 3월 29일 개관
영상물 검출 2시간서 3분으로 단축
탐지범위·정확도 200% 이상 향상

오세훈 서울시장이 29일 서울 동작구 디지털성범죄 안심지원센터에서 열린 개관 1주년 기념식에서 AI 삭제지원 프로그램 개발보고 시연을 참관하고 있다. 뉴시스

서울시가 디지털성범죄 예방을 위해 전국 최초로 AI(인공지능) 기술을 도입해 24시간 불법 촬영물 자동 추적·감시에 나선다.

서울시는 AI가 페이스북, 트위터 등 SNS에 공유되는 불법 촬영물을 감지하는 시스템을 개발해 서울디지털성범죄 안심지원센터에서 사용을 시작한다고 29일 밝혔다. 안심지원센터는 영상물 삭제부터 법률지원, 심리·치유까지 디지털성범죄 피해자를 원스톱 통합지원하는 기관으로 지난해 3월 29일 개관했다.

기존에는 불법 촬영물을 찾기 위해서는 사람이 수작업으로 피해자의 얼굴이나 특이점을 육안으로 판독해서 찾아야만 했다. 이에 시는 지난 7월부터 오디오, 비디오, 텍스트 정보를 종합적으로 분석해 한 번 클릭만으로 피해자와 관련된 모든 피해 영상물을 찾아낼 수 있는 AI 프로그램 개발에 나섰다.

서울시는 AI 프로그램을 활용하면 키워드 입력부터 영상물 검출까지 불과 3분 정도밖에 걸리지 않는다고 설명했다. 기존 1~2시간이 소요됐던 것에 비해 검출속도가 크게 개선된 것이다. 시는 영상과 음성 등을 AI가 통합 인식하면서 탐지범위 및 정확도도 200% 이상 향상됐다고 설명했다. 특히 AI의 학습 데이터가 축적될수록 정확도와 속도는 향상될 것으로 기대하고 있다.

또한 AI 프로그램 도입으로 기존에는 삭제 지원관의 근무시간에만 불법 촬영물 점검이 가능했던 반면 이제는 24시간 모니터링도 가능해진다. 시는 이와 함께 삭제 지원관이 피해 영상물을 접하면서 발생할 수 있는 트라우마와 스트레스도 줄어들 것으로 보고 있다.

서울시는 올해 AI 기술을 활용해 아동·청소년 피해 예방에 주력할 계획이다. 최근 아동·청소년을 대상으로 한 디지털성범죄 피해 건수가 지속적으로 증가하고, 특히 피해자나 가족의 신고 없이 온라인상에서 유포되는 피해 영상물이 많은 데 따른 것이다.

아동·청소년을 대상으로 한 불법 촬영물은 아동·청소년의 성보호에 관한 법률 등에 따라 당사자나 부모 신고 없이도 즉시 삭제가 가능하다. 시는 이를 고려해 특정 단어나 이미지 등을 수시로 AI 프로그램에 입력하는 방법으로 선제 대응에 나설 계획이다.

오세훈 서울시장은 서울 동작구 서울디지털성범죄안심지원센터를 찾아 프로그램을 사용한 뒤 “이제 AI까지 가세해 디지털 성범죄가 우리 사회에서 발 디딜 틈 없이 잘 관리가 되겠다는 믿음이 생긴다”며 “이런 범죄를 발본색원할 수 있는 건전한 나라를 만들 수 있게 함께 하겠다”고 말했다.

김이현 기자 2hyun@kmib.co.kr