[설왕설래] 딥페이크

2018년 4월 유튜브 채널에 놀라운 영상이 떴다. 버락 오바마 전 미국 대통령이 도널드 트럼프 대통령을 향해 “완전히 쓸모없는 인간”이라고 막말을 하는 내용이었다. 차분한 말투에다 진지한 표정과 손동작까지 영상 속 인물은 누가 봐도 영락없는 오바마였다. 하지만 미국 인터넷 매체 버즈피드가 딥페이크(deep fake)의 파급력을 알리기 위해 만든 가짜 영상이었다. 기존 오바마 영상에 다른 사람의 성대모사 목소리를 입히고 입 모양까지 바꿔 제작했다.

낸시 펠로시 전 미국 하원의장도 딥페이크 영상 때문에 곤욕을 치렀다. 2019년 7월 페이스북에 펠로시가 술에 취한 듯한 모습의 영상이 게재됐다. 영상 게시자는 영상 재생 속도를 의도적으로 조절해 펠로시가 혀가 꼬여 말을 잘 하지 못하는 것처럼 보이게 했다. 이 가짜 영상은 당시 630만회가 넘는 조회수를 기록했다.

딥페이크는 딥러닝(deep learning)과 페이크의 합성어로, 인공지능(AI)을 활용한 일종의 얼굴 조합 기술이다. 특정 인물의 얼굴이나 신체 부위를 합친 영상편집물이다. 영화를 비롯한 엔터테인먼트와 질병 진단 등 의료 분야에서 활용된다. 교육과 캠페인에도 쓸모가 많다. 하지만 사이버 범죄, 가짜 뉴스, 성인물 등에 악용되는 경우가 많은 게 현실이다.

중국 국가사이버정보판공실(CAC)이 지난 10일부터 ‘인터넷 정보 서비스 딥 합성 관리 규정’을 시행했다. 세계 최초로 딥페이크 기술 규제에 나선 것이다. 이 규정에 따르면 가짜 뉴스나 경제 및 국가안보를 어지럽히는 정보를 퍼뜨리기 위해 AI가 만들어낸 콘텐츠의 사용이 금지된다. 딥페이크 기술을 사용해 콘텐츠를 만들 때는 콘텐츠에 ‘딥페이크 기술이 사용됐다’는 사실도 명시해야 한다.

중국이 선제적 조치를 취했다는 긍정적 평가가 있지만 우려의 목소리도 나온다. 미국 월스트리트저널(WSJ)은 규제 범위가 매우 넓어 규정 적용 여부를 놓고 규제 당국이 자의적으로 해석할 소지가 있다고 보도했다. 딥페이크 기술을 범죄 등에 악용하는 걸 막겠다는 취지와 달리 정부 비판 여론 통제에 활용하려는 것 아니냐는 얘기다. 그동안 베이징 당국 행태를 보면 괜한 걱정이 아니다.

원재연 논설위원