[홍성욱의 과학 오디세이] [48] 딥페이크 규제

그래픽=김성규

지난 주말 소셜미디어 X(옛 트위터)에 미국을 대표하는 가수 테일러 스위프트의 음란 사진이 올라왔고, 수천만명이 이를 본 뒤에야 X는 이 사진을 내리고 검색을 금지했다. 이 사진들은 딥페이크(deepfake)라는 인공지능 기술을 이용해서 만든 것이었다.

딥페이크 기술의 출발은 애니메이션이었다. 1990년대에 사람이 말할 때처럼 입술을 움직이는 애니메이션 제작 기술이 나왔고, 곧이어 통계적 기법을 이용한 얼굴 인식 프로그램이 등장했다. 2014년에 생성적 적대 신경망(generative adversarial network, GAN)이라는 생성 AI 기술이 현실과 구별이 안 되는 이미지들을 만들어 내기 시작했는데, GAN이 발전하면서 연예인이나 유명 인사의 얼굴을 이용해서 만든 가짜 이미지나 동영상이 등장했다. 2018년에 이런 이미지와 영상에 딥페이크(딥러닝+페이크)라는 이름이 붙여졌다.

가짜 이미지나 비디오를 만드는 기술은 사진과 영화의 역사만큼이나 오래되었다. 사진술의 발명자 중 한 명인 이플리트 바야르(Hippolyte Bayard)는 1840년에 자신의 사진술 우선권이 인정되지 않자 ‘익사자의 자화상’이라는 사진을 찍어 전시했다. 비탄에 잠긴 바야르 자신이 물에 빠져 죽은 모습을 찍은 사진이었는데, 물론 조작된 가짜였다. 영화의 초기 역사에서도 조작된 영상을 삽입해서 마치 실제 같은 다큐멘터리 영화를 만든 사례가 발견된다.

딥페이크는 악덕 포르노를 연상시킨다. 그렇지만 좋은 방향으로도 많이 사용된다. 흐릿한 사진을 가지고 뚜렷한 이미지를 만드는 기술, 죽은 사람의 사진으로 비디오를 만드는 기술, 늙은 배우가 젊은 시절을 연기하는 기술도 모두 딥페이크를 이용하고 있다. ‘스타워즈-만달로리안’에서 등장한 젊은 스카이워커는 디에이징(De-aging)이라는 딥페이크 기술을 이용했다. 테일러 스위프트 사태는 미국 내에서 딥페이크 포르노의 규제 논의를 다시 촉발하고 있는데, 기술의 어두운 부분을 더 강력하게 규제하는 것이 딥페이크 기술의 혁신과 긍정적 사용을 확산하는 길일 것이다.