“범죄수사 기법으로도 못 잡는 딥페이크 영상까지 등장…예방이 최우선”

제52회 국민생활과학기술포럼
딥페이크 기술 최근 2~3년 사이 급속 발전
탐지 기술은 현장 적용하기 어려워
“기술 만으로는 피해 예방 못해”

딥페이크 기술을 활용해 배우 알렉 볼드윈(왼쪽)과 도널드 트럼프 미국 대통령을 합성한 영상. 최근 딥페이크를 악용해 보이스피싱, 음란물 제작하는 범죄가 늘고 있다. 다만 이를 예방하고 탐지할 기술의 개발은 더딘 상황이다./유튜브 캡처

최근 경찰과 검찰이 사용하는 기술로도 찾지 못할 정도로 정교한 딥페이크 영상이 등장하고 있다는 지적이 나왔다. 딥페이크 탐지 모델을 개발할 수는 있지만 충분한 데이터를 모으는 사이 피해를 막을 방법은 없어 피해가 예상된다. 기술의 한계를 보완하기 위해 규제와 교육의 강화가 필요하다는 지적이 나왔다.

정수환 숭실대 교수는 26일 한국과학기술단체총연합회가 주최한 제52회 국민생활과학기술포럼’에서 “범죄 수사에 쓰였던 음성 분석 기술로 탐지할 수 없는 사례들이 늘고 있다”며 “딥페이크 기술이 빠르게 발전하면서 부작용을 막을 탐지 기술이 무력화되고 있다”고 지적했다.

경찰청에 따르면 2021년부터 지난해 8월까지 딥페이크 허위 영상물은 총 264건을 수사해 이중 121건에 대해 검거가 이뤄졌다. 전체의 45.83%에 불과한 수치다. 이날 포럼에 참석한 전문가들은 생성형 인공지능(AI) 기술이 발전하면서 최근 실제와 구분하기 어려울 정도의 영상이 만들어지고 있다는 점을 낮은 검거율의 이유로 꼽았다. 이에 따라 딥페이크를 이용한 범죄도 늘고 있으나, 이를 탐지할 기술의 발전은 더딘 상황이다.

최근에는 1분 미만의 음성 샘플만 있어도 딥페이크 음성을 만드는 것도 가능해졌다. 과거에는 1시간 이상이 필요했던 것과 비교하면 소셜미디어(SNS)에서 얻은 영상으로 손쉽게 딥페이크 음성을 만들 수 있게 된 것이다. 이렇게 만들어진 음성은 보이스피싱 범죄에 주로 활용된다.

정 교수는 “최근 2~3년 사이 딥페이크 음성을 이용해 손쉽게 가짜 음성을 만들 수 있게 되면서 온라인 성범죄, 사기 같은 사회적 문제가 되고 있다”며 “이를 탐지하는 기술을 실제 범죄 수사나 예방에 활용하기에는 신뢰성이 아직 떨어지는 편”이라고 분석했다.

이날 발표자로 나선 권태경 연세대 교수는 “딥페이크를 탐지할 수 있는 기술을 개발해 영상이 확산되지 않도록 막는 것이 최선의 방법이지만, 이마저도 어려운 상황”이라며 “딥페이크 제작에 사용하는 데이터에 노이즈를 넣어 방해하거나 AI는 만들 수 없는 얼굴의 혈류량 같은 정보를 측정하는 방법이 제안됐으나 현재 상용화는 되지 않은 상황”이라고 말했다.

한국과학기술인단체총연합회는 26일 오후 3시 '제52회 국민생활과학기술포럼'을 열고 딥페이크를 활용한 범죄 현황과 이를 해결할 방안을 의논했다./유튜브 캡처

전문가들은 딥페이크로 인한 범죄를 예방하기 위해서는 탐지 기술뿐 아니라 제도 개선, 윤리 교육을 비롯해 다양한 방면으로 접근해야 한다고 분석했다. 딥페이크를 이용한 범죄를 찾는 것보다 예방하는 것이 더 효과적이라는 것이다.

우사이먼성일 성균관대 소프트웨어학과 교수는 “충분한 데이터만 있다면 딥페이크 탐지 모델을 쉽게 만들 수 있으나, 실제로는 데이터셋이 부족하고 새로운 기법들이 계속 나오고 있다”며 “매번 새로운 기술이 나올 때마다 탐지 모델을 만드는 것은 사실상 불가능한 일”이라고 지적했다.

해외에서는 최근 딥페이크를 이용한 범죄를 처벌하는 규정을 강화하고 있다. 미국 캘리포니아주와 텍사스주, 버지니아주는 이미 2019년 딥페이크 범죄를 처벌하는 법을 만들었다. 최근 미네소타주에서는 성범죄뿐 아니라 정치적인 목적으로 딥페이크를 활용하는 범죄에 대해 5년 이하의 징역으로 처벌하는 법안을 통과시켰다. 국내에서도 딥페이크를 이용한 음란물 제작과 선거에 개입하려는 시도에 대해 처벌하는 법안이 있으나, 이를 더 강화해야 한다는 것이다.

우 교수는 “기술 개발만으로는 딥페이크를 이용한 범죄를 해결하기 어렵다”며 “법, 제도, 교육 등 다양한 관점에서 이를 예방하기 위해 학계·산업계·정부가 협력해야 한다”고 말했다.

- Copyright ⓒ 조선비즈 & Chosun.com -