디지털성범죄물 3분 만에 ‘순삭’하는 AI 기술···“피해자들 용기 덕에 개발했죠”[인터뷰]

지난 18일 서울 마포구 상암동 서울기술연구원에서 만난 김준철 서울기술연구원 수석연구원. 김 연구원을 포함한 5명의 연구진은 디지털성범죄물을 3분 만에 찾아내는 삭제 지원 시스템을 8개월 연구 끝에 개발했다. 서울기술연구원 제공

디지털성범죄물은 잡초처럼 끈질기다. 계속 찾아내고 지워도 어디선가 또 생겨나 피해자를 고통으로 지치게 한다. 피해자를 돕기 위해 영상을 찾아내야 하는 지원관들에게도 트라우마를 안긴다.

‘디지털성범죄물을 빠르게, 효과적으로 검출해 삭제할 수 있는 기술을 만들어달라.’

서울시 의뢰를 받은 서울기술연구원이 지난해 8월 연구에 착수했고, 8개월 만에 기술이 세상에 나왔다. 1~2시간 걸리던 일이 3분 안팎까지 짧아졌다. 정확도는 2배 올랐다. ‘디지털성범죄물 잡는’ 인공지능(AI) 기술을 개발한 김준철 서울기술연구원 수석연구원을 지난달 18일 만났다.

“피해자들 용기가 가장 큰 역할···8개월 연구기간 중 3개월 설득”

김 연구원은 기술 개발에 “피해자들의 용기가 가장 중요했다”고 말했다.

AI가 불법촬영물이나 성착취물 등을 빠르게 찾아내려면 그 특성을 학습해야 한다. 즉 ‘실제 디지털성범죄물’이 필요하다. 피해자가 어려운 결단을 내려야 AI를 학습시킬 수 있다.

연구진은 이 과정에 전체 연구기간의 3분의 1이 넘는 시간을 쓰며 공을 들였다. 실제 디지털성범죄물 피해자에게 사진·영상 사용 동의를 받는 데 전체 연구기간 8개월 중 3개월 이상을 썼다. 전문가의 의견을 구해 개인정보 동의를 구하는 문구를 다듬고, 피해자의 마음이 다치지 않게 명분을 전했다.

피해자의 귀중한 용기로 제공받은 디지털성범죄물은 모두 얼굴이 가려진 ‘비식별’ 형태로 연구진에게 전달됐다. 김 연구원은 “우리 시스템에 안면인식 기술은 쓰이지 않는다”고 말했다. 피해자의 얼굴 대신, 화면과 소리의 특성 등을 종합해 디지털성범죄물 여부를 판단한다.

디지털성범죄물 검출부터 삭제까지 걸리는 시간이 대폭 축소됐다. 관련 기술 설명도. 서울시 제공

김 연구원은 “디지털성범죄물은 대부분 저조도에서 휴대전화로 촬영돼 화면이 어둡고 흔들리거나 소음이 심하다는 특징이 있다”고 말했다. 이 패턴을 학습한 AI는 원본 영상이 편집된 버전까지 높은 정확도로 잡아낸다.

용기를 내준 피해자들이 있었지만, AI를 학습시킬 데이터양이 절대적으로 부족한 게 현실이었다. 이를 해결하기 위해 연구진은 ‘데이터 증강’ 기법을 활용했다. 김 연구원은 “한 건의 데이터를 다양한 방식으로 편집해 마치 여러 건의 데이터인 것처럼 학습시키는 방법”이라고 설명했다. 연구진은 영상 배속을 조절해서 길이를 늘이고, 자르고, 여러 방법으로 이어붙였다. 그 결과 정확도가 95%까지 올랐다.

주문한 영상과 사진을 척척 만들어내는 ‘생성형 AI’를 활용해 부족한 데이터를 보충할 수 없는지 물었다. 김 연구원은 “생성형 AI는 장점이 많지만, 아직 우리 시스템에 활용할 만큼 검증되지 않았다”며 “오히려 솔루션의 정확도를 떨어뜨릴 수 있다”고 답했다.

“계속 잡아내고, 삭제해야죠”···기술 설계, 답은 “현장에 있다”

디지털 성범죄의 세계는 서글플 만큼 악랄하다. 성범죄물 피해자가 고통 끝에 스스로 생을 마감한 게 알려지면 그 영상은 ‘유작’이라는 이름을 달고 유포된다. 피해자의 정신세계를 옴짝달싹 못 하게 가두는 ‘그루밍’은 날로 고도화된다. ‘병 주고 약 주는’ 일들도 잦다. 성범죄물 유포자가 ‘디지털 장의사’로도 활동하면서 피해자에게 돈을 받고 영상을 삭제하는 것이다.

“사람이 싫지 않냐고요? 그보다는 계속 잡아내고, 삭제해야죠.”

김 연구원은 덤덤한 얼굴로 말했다. 그는 기술이 세상을 나아지게 할 수 있다고 믿는다.

기술이 만능은 아니다. 기술을 설계하는 사람의 역할이 결국 가장 중요하다. 김 연구원은 서울시 소방재난본부와 한강 교량 투신을 막기 위한 딥러닝 폐쇄회로(CC)TV를 개발한 경험을 전했다. 배회·응시 등 투신 전 행동 특성을 학습한 CCTV가 투신 시도자를 발견하면 통합관제센터에 알리는 시스템이다. 시스템 도입 후 “생존율이 98~99%까지 올랐다”고 김 연구원은 말했다.

투신 전 행동 특성을 찾아낸 것처럼 피해자 얼굴 없이도 디지털성범죄물의 패턴을 찾아냈다. 김 연구원은 “현장에 계신 분들과의 소통이 기술을 설계하는 데 가장 중요하다”고 했다.

“피해자의 빠른 일상 회복 위해 연구···용기 잃지 마세요”

이 같은 ‘초고속’ 디지털성범죄물 검출 기술이 개발된 것은 국내 최초다. 서울시 관계자는 “세계적으로도 이 같은 기술은 없다”고 말했다. 김 연구원은 “기술이 사회를 반영한다는 점에서, 어떻게 보면 부끄러운 일”이라면서도 “3년간 3단계에 걸쳐 정확도를 계속해서 보완할 것”이라고 했다.

장기적으로는 성매매 알선 콘텐츠와 아동·청소년성보호법(아청법) 위반 디지털성범죄물까지 ‘원스톱’으로 잡아내는 솔루션을 개발하는 것이 목표다. 김 연구원은 “아청법 위반 성범죄물도 큰 문제이기 때문에 후속 과제로 다룰 것”이라고 말했다.

디지털성범죄물 삭제 지원 시스템의 첫 성적표는 오는 6월 말쯤 받아볼 수 있을 전망이다. 김 연구원은 “저희 연구진 모두 얼마나 효과가 있을지 매우 궁금해하고 있다”고 전했다.

피해자들에게 전하고 싶은 말이 있냐고 물었다. 김 연구원은 “피해자분들의 고통을 너무 잘 알기 때문에 말을 고르기 어렵다”며 한참을 고민하다가 “연구자들이 최대한 빠른 피해자들의 일상 회복을 위해 방법을 연구하고 있으니 용기를 잃지 마시라는 말을 해드리고 싶다”고 했다.

유경선 기자 lightsun@kyunghyang.com