대선 뒤덮는 딥페이크… 美정부, ‘AI 가짜뉴스’에 칼 뽑았다

“미국 역사상 가장 나약한 (조 바이든) 대통령이 다시 선출된다면?” 지난 4월 바이든 대통령이 내년 대통령 선거 재선 출마를 선언하자 미 야당인 공화당은 32초 분량의 선거 영상을 공개했다. 바이든이 재선됐다고 가정한 후 중국이 전투기로 대만을 폭격하고, 주요 대도시 범죄가 급증해 중무장한 미군이 캘리포니아주(州) 샌프란시스코를 순찰하는 가상 상황을 담았다. 공화당은 이 영상 상단에 ‘AI (허위) 이미지가 이용됐다’는 자막을 넣었지만 읽기 힘들 정도로 크기가 작았다.

이미지·영상 등을 합성해 진짜처럼 만들어내는 ‘딥페이크(deepfake)’가 내년 미 대선의 가장 큰 쟁점 중 하나로 떠오르고 있다. 미 연방선거관리위원회(FEC)는 내년 11월 대선을 1년여 앞두고 AI(인공지능)가 만든 딥페이크 이미지를 이용한 가짜 뉴스 규제 검토에 최근 착수했다. 선거에서 이용되는 정치 광고에서 딥페이크 영상을 생성·배포하는 것을 금지해 달라는 시민 단체 ‘퍼블릭 시티즌’ 청원을 검토하기로 지난 10일(현지 시각) 결정했다. FEC는 60일간 전문가 의견을 수렴한 후 내부 심의를 거쳐 규제 여부를 결정한다. 선거와 관련한 미 연방 정부의 AI 기술 규제 절차 착수는 처음이다.

그래픽=김성규

미 정부는 대선 경선 레이스가 본격적으로 막 오른 가운데 사실과 허위를 구별하기 힘든 가짜 영상이 선거 결과를 왜곡할 수 있다는 위기감에 ‘딥페이크 규제’에 나선 것으로 보인다. 트럼프가 당선된 2016년 대선 당시 러시아 등 외부 세력이 페이스북·트위터 등 소셜미디어에 방대한 가짜 뉴스를 올려 유권자들에게 영향을 줬음에도 디지털 신기술에 대한 규제가 없어 눈뜨고 당했다는 경각심 또한 연방 정부를 움직였을 수 있다.

‘AI 가짜 뉴스’가 점점 정교해지며 유권자들의 판단을 흐리고 있다는 점은 특히 큰 문제다. 기존 조작 사진·영상들이 허무맹랑한 내용으로 조작 여부가 비교적 빨리 판명됐다면, 최근엔 실제 사건에 일부 ‘가짜 맥락’을 덧입혀 상대 진영을 공격하는 딥페이크 콘텐츠가 늘어 허위 판별이 점점 어려워지고 있다. 현실보다 자극적이거나 신기한 내용이어서 유포 속도도 빠르다.

미국 공화당 전국위원회가 지난 4월 AI(인공지능) 기술로 만든 영상. 조 바이든 현직 대통령이 재선된 것을 가정해 중국이 전투기로 대만을 폭격하고, 남부 국경 통제 실패로 곳곳에서 불법 이민자들이 국경을 넘는 가상의 모습들을 담았다. 사진은 캘리포니아주 샌프란시스코에서 범죄가 급증에 미군이 중무장을 하고 순찰하는 모습. 화면 좌측 상단에 'AI (허위) 이미지가 이용됐다’는 자막이 있지만 크기가 작아 읽기가 힘들다. /공화당 전국위원회 유튜브

미 공화당의 유력 대선 주자 론 디샌티스 플로리다 주지사 캠프가 지난 6월 공개한 선거 영상 일부. 해당 영상에는 도널드 트럼프 전 대통령이 앤서니 파우치 전 미국 국립알레르기·전염병연구소장과 한 자리에 있는 실제 사진 3장과 함께 트럼프가 파우치를 끌어안거나 이마에 입을 맞추는 가짜 사진 3장이 함께 포함돼 있었다. 사진은 미 공영방송 NPR이 허위 사진들을 표시한 것. /NPR

예를 들어, 트럼프가 지난 3월 ‘성추행 입막음’으로 기소된 후 그가 경찰에 체포되는 허위 사진이 소셜미디어에서 급속도로 퍼졌다. 트럼프가 저항하며 경찰에 끌려가는 장면은 트럼프 지지자들을 결집시켜 지지율을 올라가게 하는 요인이다. 공화당 경선에서 트럼프와 경쟁 중인 론 디샌티스의 선거 캠프는 지난 6월 트럼프가 코로나 방역 규제를 주도했던 앤서니 파우치 전 미국 국립알레르기·전염병연구소(NIAID) 소장을 해고하지 않았다고 비판하는 영상을 공개했다. 트럼프가 파우치와 한자리에 있는 실제 사진 세 장과 트럼프가 파우치를 끌어안거나 이마에 입을 맞추는 딥페이크 가짜 사진 세 장을 뒤섞어 썼다. UC버클리 해니 패리드 교수는 “진짜 사진을 사용해 신뢰를 주면서 가짜 이미지를 몰래 섞은 교묘한 조작”이라고 했다.

미국엔 연방 차원의 AI 딥페이크 규제가 현재 없다. FEC가 이번 청원을 받아들여 딥페이크를 선거 영상 등에 쓰지 못하도록 규정하더라도, 의회 입법이 뒷받침되지 않으면 가짜 뉴스의 대규모 확산을 막기 어렵다는 지적이 나온다. 아울러 표현의 자유를 명시한 ‘수정헌법 1조’를 민주주의의 뼈대처럼 여기는 미국 사회에서 어떤 이미지를 공유할 수 있는지를 정부가 통제하는 데 대한 반발도 예상된다.

☞딥페이크

AI 기술을 이용해 여러 사진 또는 영상을 하나로 합성하는 등 조작 사진·영상을 만드는 방법. 컴퓨터가 데이터를 수집·조합·분석하며 스스로 학습하는 기술인 딥러닝(deep learning)과 가짜를 뜻하는 영어 단어 페이크(fake)의 합성어다. 연결이 매끄럽지 않고 품질이 조악해 합성임을 알아챌 수 있었던 기존 편집물과는 달리 실제 촬영된 영상처럼 자연스럽다. 특정인의 얼굴과 목소리, 행동 등을 그대로 재현한 위조 콘텐츠 제작에 쓰이고 있다.