딥페이크 성범죄물, 정부 인공지능 기술로 대응…탐지율 97%

딥페이크 성범죄 대응 기술협력 위한 업무협약 [행정안전부 제공]

정부가 딥페이크 성범죄 대응에 자체 개발 인공지능(AI) 모델을 투입합니다.

행정안전부와 성평등가족부, 방송미디어통신위원회는 오늘(25일) 정부서울청사에서 '딥페이크 성범죄 대응 기술협력을 위한 업무협약'을 맺었습니다.

이번 협약으로 세 기관은 행안부와 국립과학수사연구원이 개발한 'AI 딥페이크 탐지·분석 모델'을 딥페이크 영상물 탐지·분석부터 삭제·차단, 피해자 보호까지 전 과정에 걸쳐 적용하기로 했습니다.

행안부는 딥페이크 성범죄에 악용되는 AI 기술이 발전하는 데 발맞춰 모델 성능을 고도화하고, 방미통위는 플랫폼사업자와 삭제·차단 협력체계를 강화해 딥페이크 성범죄 의심 콘텐츠 유통을 막습니다.

성평등부는 기존에 도입한 민간 모델과 정부 모델을 함께 활용해 딥페이크 성범죄 탐지·분석 정확도를 높여 2차 피해를 방지할 계획입니다.

이번 모델은 지난해 말 열린 '딥페이크 범죄 대응을 위한 AI 탐지 모델 경진대회'에서 우수한 성적을 거둔 5개 모델을 앙상블 기법으로 엮은 결과물로, 특정 부위와 조작 흔적을 찾는 '국소 분석'과 영상 전체 흐름을 쫓는 '전역 분석'을 동시에 수행하는 것이 특징입니다.

딥페이크 탐지율은 2024년 개발된 구형 모델(76%)이나 개별 모델 최고치(92%)보다 높은 97%라고 행안부는 설명했습니다.

#딥페이크 #성범죄대응 #AI딥페이크탐지 #행안부

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

이재경(jack0@yna.co.kr)