'국과수 개발' AI모델로 딥페이크 성범죄 잡는다…탐지율 97%

행안부·성평등부·방미통위 업무협약

딥페이크 (PG) [강민지 제작] 일러스트

(서울=연합뉴스) 홍준석 기자 = 정부가 딥페이크 성범죄 대응에 자체 개발 인공지능(AI) 모델을 투입한다.

행정안전부와 성평등가족부, 방송미디어통신위원회는 25일 정부서울청사에서 '딥페이크 성범죄 대응 기술협력을 위한 업무협약'을 체결했다.

협약에 따라 세 기관은 행안부와 국립과학수사연구원(국과수)이 개발한 'AI 딥페이크 탐지·분석 모델'을 딥페이크 영상물 탐지·분석부터 삭제·차단, 피해자 보호까지 전 과정에 걸쳐 적용하기로 했다.

행안부는 딥페이크 성범죄에 악용되는 AI 기술이 발전하는 데 발맞춰 모델 성능을 고도화하고, 방미통위는 플랫폼사업자와 삭제·차단 협력체계를 강화해 딥페이크 성범죄 의심 콘텐츠 유통을 막는다.

또 성평등부는 기존에 도입한 민간 모델과 정부 모델을 함께 활용해 딥페이크 성범죄 탐지·분석 정확도를 높여 2차 피해를 방지할 계획이다.

이번 모델은 작년 말 열린 '딥페이크 범죄 대응을 위한 AI 탐지 모델 경진대회'에서 우수한 성적을 거둔 5개 모델을 앙상블 기법으로 엮은 결과물이다.

특정 부위와 조작 흔적을 찾는 '국소 분석'과 영상 전체 흐름을 쫓는 '전역 분석'을 동시에 수행한다.

딥페이크 탐지율은 2024년 개발된 구형 모델(76%)이나 개별 모델 최고치(92%)보다 높은 97%다.

행안부 관계자는 "(개발자들로부터) 학습 알고리즘을 이관받아 모델 성능을 계속 개선하고 있다"며 "딥페이크 기술이 크게 발전해 차세대 모델이 필요하다는 판단이 들면 또 개발 사업을 할 수도 있을 것"이라고 설명했다.

'AI 딥페이크 탐지·분석 모델' 화면 [성평등가족부 제공. 재판매 및 DB 금지]

honk0216@yna.co.kr

▶제보는 카톡 okjebo