“사람보다 12배 더 찾아냈다”... AI, 불법촬영물 적발에도 위력

적발 이어 삭제 요청도 2배 증가
곧 아동청소년과 성인도 구분할 예정

20일 오전 대전 서구청 청사관리팀 직원들이 적외선 몰카 탐지장비를 이용해 여성화장실에서 불법촬영 카메라를 점검 하고 있다. /신현종 기자

서울에 사는 A(21)씨는 지난달 아르바이트를 하다 찍힌 불법촬영물이 온라인에 유포돼 ‘서울 디지털성범죄 안심지원센터’를 찾았다. SNS를 통해 빠르게 확산되던 영상을 찾아낸 건 다름 아닌 AI였다. AI는 영상 삭제 직원이 일하지 않는 새벽 시간에도 직원이 찾아내지 못한 추가 피해 영상들을 발견했다. AI가 발견한 불법 촬영 영상을 바탕으로 서울시는 유포된 사이트에 삭제를 요청했다.

서울시가 디지털 성범죄 예방과 피해자 지원을 위해 AI 불법촬영물 감지 시스템을 도입한지 7개월만에 45만7440건의 영상을 모니터링했다고 12일 밝혔다. AI 도입 전 사람이 하나하나 모니터링했을 때인 3만3511건과 비교하면 12배가량이 늘었다.

서울 디지털성범죄 안심지원센터는 소위 ‘몰카’나 ‘리벤지포르노’ 등 불법촬영 피해자들을 지원하는 곳이다. 온라인에 유포된 영상이나 이미지 등을 찾고 삭제 조치하는 역할을 한다. 11명의 직원이 피해자를 지원하고 있다.

AI가 도입되기 전 센터는 피해자에게 제보 받은 영상이나 사진을 토대로 구글, 트위터 등에 일일이 ‘OO고 교복’ 등 키워드를 검색하거나 유사한 사진과 영상을 눈으로 찾아야 했다. 그나마 구글은 이미지 검색 기능이 있지만 이마저 정확도가 부족해 실제 피해 영상물을 찾는 데까지 평균 2시간 가량이 소요됐다고 한다.

AI는 영상, 사진, 텍스트 세 가지를 기반으로 불법 촬영물을 찾아낼 수 있다. 유포된 영상과 사진을 온라인 사이트들에 유사도 검사를 하며 찾아낸다. ‘OO녀’ 등 불법 촬영물에 붙은 텍스트까지 연계해 불법 촬영물을 찾아낸다. AI가 찾아낸 결과를 유사도 순으로 직원에게 주면 관계 기관 및 사이트에 삭제 요청을 한다.

서울시 AI 디지털 성범죄 삭제 지원 프로그램/서울시 제공

AI가 도입되며 불법 촬영물을 찾는 데 시간이 3분으로 줄었다. 검색 시간이 97.7% 감소한 셈이다. 직원과 달리 AI는 출·퇴근도 없어 24시간 동안 영상을 모니터링 한다. 불법 촬영물은 새벽 시간에 온라인에 올라오는 경향이 있어 유포 방지에 큰 역할을 한다고 한다. 근무시간 내내 불법 촬영물을 봐야하는 직원들의 트라우마도 줄어들고 있다고 한다. 서울시 관계자는 “AI는 밤낮 없이 영상을 찾다보니 전문 직원 30명 정도의 역할을 한다”고 말했다. 지난 8월에는 온라인 그루밍(길들이기) 성범죄 피해를 입은 여중생의 불법촬영물을 AI가 22초만에 잡아내기도 했다.

모니터링하는 영상 수가 늘고 불법 촬영물을 찾아내는 시간이 줄어들며 피해 영상물을 삭제 신청한 건수도 2배 늘었다. AI 기술 도입 후 4141건의 영상을 삭제했는데, 도입 전 2049건에 비해 102% 증가했다.

서울 디지털성범죄 안심지원센터 등 방송통신심의위원회에서 지정된 17개 기관은 불법촬영물을 삭제 요청할 수 있는 권한이 있다. 삭제 요청이 가능한 대상은 피해자의 신고가 들어온 영상과 아동청소년 영상물이다. 서울시는 연말까지 AI가 아동청소년과 성인을 구분할 수 있는 기술 개발을 할 예정이라고 밝혔다.

오세훈 서울시장은 “n번방 사건 등 디지털 성범죄는 우리 사회에 큰 충격을 주며 시민들의 불안감이 커지고 있다”며 “서울시는 디지털 성범죄 AI 삭제지원과 같은 신기술을 통해 신종 범죄에 신속하게 대응하고, 예방부터 피해자 지원까지 좀 더 촘촘한 원스톱 지원을 통해 시민 누구나 안심하고 살 수 있는 ‘안심도시 서울’을 만드는 데 최선을 다하겠다”고 말했다.