장원영도 당했다…“이건 진짜 충격 넘어 공포” 연예인 ‘발칵’ 뒤집혔다

인공지능(AI) 페이스 스왑 기술로 가수 장원영의 얼굴을 합성한 게시물 [(@ubcaiman)]

인공지능(AI) 페이스 스왑 기술로 가수 장원영의 얼굴을 합성한 게시물 [(@ubcaiman)]

[헤럴드경제=박세정 기자] “손가락 ‘딱’ 치자 장원영, 제니, 카리나로 변했다?”

‘인공지능(AI) 페이스 스왑’ 기술로 다수의 K-POP 아이돌, 배우를 합성한 한 소셜미디어 계정이 알려지면서 파장이 일고 있다.

해당 게시물은 단순히 얼굴을 합성하는 딥페이크를 넘어 표정, 제스처까지 실제 영상과 구별할 수 없을 정도로 구현됐다.

AI로 더욱 정교해진 합성 기술이, 자칫 범죄에 악용될 수 있다는 우려도 커지면서 AI 딥페이크 보완책이 필요하다는 목소리가 커진다.

업계에 따르면 최근 유명인들의 얼굴을 ‘AI 페이스 스왑’으로 제작해 만든 영상이 대거 게시된 소셜미디어 채널이 알려졌다. 이 채널은 지난달 개설됐다. 국내 연예인들의 얼굴을 담은 60여개의 게시물이 올라와 있다.

영상은 한 남성이 손가락을 ‘딱’치면 제니, 장원영, 아이유, 카리나, 고윤정 등 국내 유명 연예인의 얼굴로 순식간에 바뀌는 모습을 담고 있다.

이는 ‘AI 페이스 스왑’ 기술이 적용된 것으로 추정된다. 이 기술은 단순히 얼굴을 덧씌우는 딥페이크를 넘어 윙크를 하거나 입을 씰룩대는 등 표정, 몸짓까지 완벽하게 구현된다.

영상 제작자로 추정되는 이 계정의 주인은 “곧 출시할 앱을 팔로우해달라”며 기술을 홍보하기도 했다. 현재 계정에 공개된 영상은, 악용된 사례라기 보다 기술 구현 수준을 보여주는 데모 영상으로 보인다.

인공지능(AI) 페이스 스왑 기술로 가수 아이유의 얼굴을 합성한 게시물 [(@ubcaiman)]

다만 고도화된 ‘AI 페이스 스왑’ 기술은 자칫 언제든 범죄 등에 악용될 수 있다는 점에서 우려가 커진다.

미세한 표정과 움직임까지 정교하게 구현되는 탓에 최근에는 이 기술을 악용되는 사례도 나타나고 있다. 실제 전 세계적으로 문제가 되고 있는 북한 IT 인력들의 빅테크 위장 취업에도 이 기술이 적극 활용되고 있는 것으로 전해진다. 이들은 화상 면접 때 해당 기술을 활용해 신분과 얼굴을 숨기는데 악용하기도 했다.

K-콘텐츠 인기로 ‘한국’이 딥페이크 등에 주 표적이 되고 있다는 점도 우려를 키운다.

과거 미국 사이버보안 업체 시큐리티 히어로가 발표한 보고서에 따르면 전 세계 딥페이크 피해자의 절반 이상이 한국 연예인으로 나타났다. 영국 BBC는 “한국이 딥페이크 비상사태에 직면했다”고 언급하기도 했다.

인공지능(AI) 페이스 스왑 기술로 지수의 얼굴을 합성한 게시물 [(@ubcaiman)]

상황이 이렇다 보니 정부 차원의 딥페이크 대응책도 속속 마련되고 있다. 행정안전부와 국립과학수사연구원과 함께 개발한 ‘AI 딥페이크 탐지 모델’이 대표적이다.

이는 영상의 전체 흐름을 분석하는 ‘전역 분석’과 얼굴 등 특정 부위의 조작 흔적을 판별하는 ‘국소 분석’을 동시에 수행하는 방식으로 탐지 정확도를 높인 모델이다. 정부는 해당 모델을 다가오는 지방선거 딥페이크 방지에 활용하는 것을 시작으로, AI 딥페이크 분석 모델의 활용 범위를 지속 확대할 방침이다.