"딥페이크 악용 성범죄물, 끝까지 찾는다"…정부, 탐지 기술 R&D에 64억 투입

과기정통부, 딥페이크 탐지 고도화 및 진화형 딥페이크 탐지 기술 개발 추진
여가부와 딥페이크 기반 성범죄 피해 예방 위한 정책연구 실시

[그래픽=뉴시스] hokma@newsis.com

[서울=뉴시스]심지혜 기자 = 과학기술정보통신부가 인공지능(AI)으로 합성한 허위 영상물인 딥페이크를 악용한 성범죄 확산 방지를 위한 기술 개발에 팔을 걷어 붙였다. 관련 정책 연구와 함께 딥페이크 탐지를 위해 64억원 규모의 기술개발(R&D) 사업을 추진한다. 아울러 여성가족부와 함께 딥페이크 기반 디지털 성범죄 피해 대응을 위한 정책 연구를 추진, 관련 법제도 정비할 계획이다.

28일 정부에 따르면 과기정통부는 점차 사회적 이슈로 떠오르고 있는 딥페이크 악용 사례에 대응하기 위한 R&D 과제 2개를 진행하고 있다.

구체적으로 ▲지난해부터 성균관대 주관으로 진행하고 있는 '악의적 변조 콘텐츠 대응을 위한 딥페이크 탐지 고도화 및 생성억제, 유포방지 플랫폼 개발' 사업과 ▲실감콘텐츠 핵심기술개발(한계도전 R&D프로젝트) 일환으로 지난달부터 시작한 '자가진화형 딥페이크 탐지 기술' 사업이 대상이다.

두 R&D에 책정된 예산은 각각 24억원과 40억원이다. 내년에는 이들 사업에 각각 10억원씩 총 20억원을 집행한다.

이주식 정보통신방송기술정책과장은 "딥페이크 관련 R&D 과제는 2개가 추진되는데, 하나는 적대적 생성 신경망 방식의 딥페이크 탐지 고도화 및 생성 억제 기술개발과 자가진화형 딥페이크 탐지기술 개발"이라며 "내년에 각각 10억원씩의 예산이 집행될 예정"이라고 설명했다.

[서울=뉴시스] 과기정통부는 총 24억원의 예산을 투입해 악의적 변조 콘텐츠 대응을 위한 딥페이크 탐지 고도화, 생성억제, 유포 방지 플랫폼 개발 사업을 추진한다. 이는 성균관대 주관으로 지난해부터 시작했으며 내년까지 수행할 예정이다. (사진=과기정통부 제공)

악의적 변조 콘텐츠 대응을 위한 딥페이크 탐지 고도화 및 생성억제, 유포방지 플랫폼 개발 사업의 경우 디지털 역기능 대응을 위한 R&D 차원에서 추진한 것으로 내년 완료를 목표로 한다.

데이터 품질과 형식에 무관한 악의적 변조 콘텐츠 탐지 모델 연구와 함께 악의적 콘텐츠의 생성을 원천 차단할 수 있도록 하는 기술 개발에 주력한다.

자가진화형 딥페이크 탐지 R&D는 빠르게 진화하는 생성형 AI의 사회적 부작용인 딥페이크 악용 콘텐츠를 적시에 대응하기 위해 새롭게 착수한 사업으로 2027년까지 수행한다.

딥페이크 기술로 생성한 콘텐츠 확산시 가설 기반 콘텐츠의 정보 분포를 활용하는 방식으로 자가 진화 가능한 딥페이크 탐지 시스템을 개발한다는 계획이다. 딥페이크 생성형 AI 기술과 탐지 기술을 연동해 생성형 품질과 탐지 수준을 상호 경쟁적으로 향상시키는 딥페이크 탐지 개선 기술도 함께 개발한다.

동시에 수요기관이 직접 참여해 검증하고 가이드라인을 제시하는 등 사회문제 대응을 위한 오픈랩도 운영할 예정이다.

아울러 과기정통부는 지난달부터 여가부와 '딥페이크 기반 디지털 성범죄 피해 예방 및 보호방안 마련' 정책연구를 시작했다.

딥페이크 기술 발전에 따른 디지털 성범죄 대응 법제 정비 방안과 함께 피해자에 대한 실질적 지원 방안을 도출하고 디지털 성범죄 이미지 검색·접근 및 차단·추적 시스템 구축 방안 마련을 주요 내용으로 한다. 이를 통해 연내 결과물을 도출한다는 방침이다.

이밖에도 과기정통부는 디지털성범죄 피해 예방 차원에서 불법촬영물 이미지 유포를 차단하고 추적하는 기술 개발도 함께 추진하고 있다. 지난해부터 시작한 이 사업의 총 예산은 24억원으로 내년에 마무리 지을 예정이다.

이를 통해 미디어 플랫폼 사업자가 디지털 성범죄 유포 차단을 지원하고, 불법 촬용물을 판단해 차단하는 서비스를 제공할 수 있도록 할 계획이다.

아울러 디지털 기반 사회현안 해결 프로젝트를 통해 딥페이크로 발생하는 사회문제를 해결해 나간다는 방침이다.

강도현 과기정통부 차관은 여가부와 함께한 딥페이크 피해 예방 및 피해자 지원방안 긴급 간담회 자리에서 "디지털 성범죄는 피해자의 삶을 송두리째 파괴하고 사회질서를 위협하는 용서할 수 없는 범죄"라며 "과기정통부는 모두를 위한 안전한 디지털 사회를 구현해야 하는 임무가 있는 만큼, 여가부와 협력하여 딥페이크 성범죄를 예방하고 피해자를 빠르게 지원할 수 있는 기술개발, 새로운 사업 기획 등을 적극 지원하겠다"고 강조했다.

☞공감언론 뉴시스 siming@newsis.com