AI로 딥페이크 잡는다…정부, AI 과학수사 본격 가동

배일권 행정안전부 공공지능데이터국장(가운데)이 지난 29일 오전 정부세종청사 중앙동 브리핑실에서 '딥페이크 불법콘텐츠 탐지 분석모델 및 활용성과'에 대해 출입기자 대상으로 정책설명회를 하고 있다. 행안부 제공

정부가 인공지능(AI)을 활용해 딥페이크 영상·음성의 진위를 분석하는 'AI 딥페이크 분석 모델'을 과학 수사에 본격 도입한다.

행정안전부와 국립과학수사연구원이 AI 딥페이크 분석 모델을 개발하고, 실제 딥페이크 감정에 적용한다고 30일 전했다.

과거 기술적 한계로 딥페이크 여부를 판별하기 어려웠던 문제를 AI 기술로 보완함으로써 수사 신속성과 정확도를 높이게 됐다는게 정부측 설명이다.

AI 딥페이크 분석 모델은 영상 69만건, 음성 162만건 등 총 231만건의 데이터를 학습한 딥러닝 알고리즘 기반이다. 이미지·영상·음성 등 다양한 형태 파일에서 딥페이크 흔적을 탐지한다. 합성 확률과 시간별 변조율을 예측해 딥페이크 여부를 자동으로 판단하도록 설계됐다.

또 눈·코·입 등 얼굴의 특정 부위별 변조를 식별할 수 있고, 반복된 업로드로 인해 데이터 손실이나 음질 저하가 발생한 증거물도 분석이 가능하다. 이 덕분에 실제 수사 현장에서 활용도가 높다는 평가를 받는다.

행정안전부 국립과학수사연구원 관계자가 지난 29일 오전 정부세종청사 중앙동 브리핑실에서 '딥페이크 불법콘텐츠 탐지 분석모델 및 활용성과'에 대해 시연을 하고 있다. 행안부 제공

양 기관은 지난 2023년 행안부가 개발한 '보이스피싱 음성 분석 모델'과 딥페이크 모델을 연계해서 딥페이크 여부뿐 아니라 특정인의 음성 모방 여부까지도 입증할 수 있는 복합 분석 체계를 구축할 계획이다.

또 이 모델을 국과수 디지털증거물인증시스템(DAS)에 통합해 수사 효율을 높일 방침이다. 여성가족부·방송통신위원회 등 딥페이크 문제로 어려움을 겪는 유관기관으로 확산해 딥페이크 대응도 지원한다.

이용석 행안부 디지털정부혁신실장은 “AI 딥페이크 분석 모델은 AI 기술을 사회 문제 해결에 적극 활용한 사례”라고 말했다.

류태웅 기자 bigheroryu@etnews.com