딥페이크 성범죄물 2년 새 약 6배↑…정부, 진위 판별 기술로 수사

행안부·국과수 ‘AI 딥페이크 분석모델’

게티이미지뱅크.

#21대 대통령 선거 기간, 특정 후보가 하지 않은 발언을 마치 실제처럼 꾸며낸 영상이 온라인상에 유포됐다. 그러나 국립과학수사연구원(국과수)은 영상 속 음성이 후보의 실제 음성과 미세하게 다르다는 것을 포착해 해당 영상을 ‘딥페이크’로 보고 조기에 차단했다.

#사회관계망서비스(SNS)에서 확보한 지인의 얼굴 사진을 나체 이미지에 합성한 이미지가 온라인 메신저를 통해 퍼졌다. 국과수는 영상 속 합성된 얼굴 경계에서 발생한 왜곡을 탐지해 디지털 성범죄의 핵심 증거로 활용했다.

이 두 사건 모두 행정안전부가 국과수와 함께 개발한 ‘인공지능(AI) 딥페이크 분석모델’을 실전 수사에 활용한 사례다.

딥페이크는 인공지능 기술을 활용해 사진이나 영상에 다른 사람의 얼굴이나 음성을 합성해 실제처럼 보이게 만드는 기술이다. 최근 들어 정치적 조작과 디지털 성범죄 등에 악용되고 있다. 실제로 방송통신심의위원회가 시정 요구한 딥페이크 성범죄 영상물은 2022년 3574건에서 2023년 7187건, 지난해에는 2만3107건으로 급증했다.

변준석 행정안전부 국립과학수사연구원 디지털과장이 지난 29일 오전 정부세종청사 중앙동 브리핑실에서 ‘딥페이크 불법콘텐츠 탐지 분석모델 및 활용성과’에 대해 기자질문에 답변하고 있다. 행정안전부 제공

이에 대응해 행안부는 딥페이크 이미지, 영상, 음성의 진위를 판별할 수 있는 분석모델을 개발해 지난 4월 검증을 마쳤다. 이번 모델 개발에는 공개 데이터 세트와 자체 제작 콘텐츠를 포함해 약 231만 건의 딥페이크 데이터를 활용했다.

이 분석모델은 의심 파일의 합성 확률과 시간대별 변조율을 자동으로 예측해 딥페이크 여부를 빠르게 판단한다. 특히 눈, 코, 입 등 신체 부위별로 정밀하게 탐지할 수 있으며, 일부 손상된 데이터도 분석 가능한 것이 특징이다.

실제로 이 기술은 지난 5~6월 두 달 동안 대통령 선거 범죄 13건, 디지털 성범죄 2건 등 총 15건의 딥페이크 감정에 활용됐다. 선거 기간에는 중앙선거관리위원회와 협력해 유튜브 등에서 퍼진 불법 딥페이크 선거 홍보물 1만여 건을 찾아내 삭제하는 데도 기여했다.

이용석 행안부 디지털정부혁신실장은 “‘인공지능 딥페이크 분석모델’은 인공지능 기술을 사회 문제 해결에 적극적으로 활용한 사례”라며 “앞으로도, 행안부는 인공지능과 데이터 분석을 국민의 안전과 민생 안정을 위한 행정 분야에 적극적으로 도입해 나갈 것”이라고 밝혔다.

장수경 기자 flying710@hani.co.kr