“AI로 성착취물 추적, 피해자 용기 덕에 가능했죠”

디지털성범죄물 삭제 AI 개발, 김준철 연구원

디지털성범죄물은 잡초처럼 끈질기다. 계속 찾아내고 지워도 어디선가 또 생겨나 피해자를 고통으로 지치게 한다. 피해자를 돕기 위해 영상을 찾아내야 하는 지원관들에게도 트라우마를 안긴다.

‘디지털성범죄물을 빠르게, 효과적으로 검출해 삭제할 수 있는 기술을 만들어달라.’ 서울시 의뢰를 받은 서울기술연구원이 지난해 8월 연구에 착수했고, 8개월 만에 기술이 세상에 나왔다. 1~2시간 걸리던 일이 3분 안팎까지 짧아졌다. 정확도는 2배 높아졌다. ‘디지털성범죄물 잡는’ 인공지능(AI) 기술을 개발한 김준철 서울기술연구원 수석연구원(사진)을 지난달 18일 만났다.

김 연구원은 기술 개발에 “피해자들의 용기가 가장 중요했다”고 말했다. AI가 불법촬영물이나 성착취물 등을 빠르게 찾아내려면 그 특성을 학습해야 한다. 즉 ‘실제 디지털성범죄물’이 필요하다. 피해자가 어려운 결단을 내려야 AI를 학습시킬 수 있다.

연구진은 이 과정에 전체 연구기간의 3분의 1이 넘는 시간을 쓰며 공을 들였다. 실제 디지털성범죄물 피해자에게 사진·영상 사용 동의를 받는 데 전체 연구기간 8개월 중 3개월 이상을 썼다. 개인정보 동의를 구하는 문구를 다듬고, 피해자의 마음이 다치지 않도록 명분을 전했다. 피해자의 용기로 제공받은 디지털성범죄물은 모두 얼굴이 가려진 ‘비식별’ 형태로 전달됐다. 김 연구원은 “우리 시스템에 안면인식 기술은 쓰이지 않는다”고 말했다. 피해자의 얼굴 대신 화면과 소리의 특성 등을 종합해 디지털성범죄물 여부를 판단한다.

김 연구원은 “디지털성범죄물은 대부분 저조도에서 휴대전화로 촬영돼 화면이 어둡고 흔들리거나 소음이 심하다는 특징이 있다”고 말했다. 이 패턴을 학습한 AI는 원본 영상이 편집된 버전까지 높은 정확도로 잡아낸다.

용기를 내준 피해자들이 있었지만, AI를 학습시킬 데이터양이 절대적으로 부족한 게 현실이었다. 이를 해결하기 위해 연구진은 ‘데이터 증강’ 기법을 활용했다. 김 연구원은 “한 건의 데이터를 다양한 방식으로 편집해 마치 데이터가 여러 건인 것처럼 학습시키는 방법”이라고 설명했다. 연구진은 영상 배속을 조절해 길이를 늘리고, 자르고, 여러 방법으로 이어붙였다. 그 결과 정확도가 95%까지 높아졌다.

김 연구원은 서울시 소방재난본부와 한강 교량 투신을 막기 위한 딥러닝 폐쇄회로(CC)TV를 개발한 경험을 전했다. 투신 전 행동 특성을 학습한 CCTV가 투신 시도자를 발견하면 통합관제센터에 알리는 시스템이다. 시스템 도입 후 “생존율이 98~99%까지 높아졌다”고 김 연구원은 말했다. 투신 전 행동 특성을 찾아낸 것처럼 피해자 얼굴 없이도 디지털성범죄물의 패턴을 찾아냈다.

이 같은 ‘초고속’ 디지털성범죄물 검출 기술이 개발된 것은 국내 최초다. 김 연구원은 “기술이 사회를 반영한다는 점에서, 어떻게 보면 부끄러운 일”이라면서도 “3년간 3단계에 걸쳐 정확도를 계속해서 보완할 것”이라고 했다.

장기적으로는 성매매 알선 콘텐츠와 아동·청소년성보호법(아청법) 위반 디지털성범죄물까지 ‘원스톱’으로 잡아내는 솔루션을 개발하는 것이 목표다. 김 연구원은 “피해자분들의 고통을 너무 잘 알기 때문에 말을 고르기 어렵다”며 한참을 고민하다 “최대한 빨리 피해자들이 일상을 회복할 수 있도록 방법을 연구하고 있으니 용기를 잃지 말라는 말을 전하고 싶다”고 했다.

유경선 기자 lightsun@kyunghyang.com