AI 위협, 현실이 된 美대선… ‘바이든 딥페이크 음성’ 유포

[2024 美 대선]
바이든 사칭해 “경선 투표말라”
최대 2만5000명에 전화 메시지
美대선 AI악용 허위정보 첫 수사

미국 공화당 대선 후보 경선의 두 번째 관문인 23일 뉴햄프셔주(州) 프라이머리(예비선거)를 앞두고 민주당 소속인 조 바이든 대통령을 사칭해 해당 경선에 불참할 것을 권하는 딥페이크 음성이 유포돼 주 정부가 22일(현지 시간) 수사에 착수했다. 인공지능(AI)을 악용한 허위 정보가 민주주의에 중대 위협이 될 것이라는 경고가 현실화하고 있다. 이번 대선 경선이 시작된 이후 AI를 악용한 허위 정보 유포로 수사가 이뤄지는 것 또한 처음이다.

뉴햄프셔주 법무장관실은 이날 “바이든 대통령의 목소리처럼 들리지만 인공적으로 생성됐을 것으로 보이는 자동 녹음전화 메시지에 대한 신고를 접수했다. 경선을 방해하고 유권자들에게 혼란을 주려는 불법적 시도”라며 이에 대해 조사하고 있다고 밝혔다. 이 메시지는 최대 2만5000명에게 유포됐다고 CNN은 전했다.

바이든 대통령의 목소리를 사칭한 이 음성은 “공화당 일각에서 무당층과 민주당 지지자들이 공화당 경선에 참여하도록 압박해 왔지만 이는 헛소리(Malarkey)”라며 “11월 대선까지 표를 아껴두는 것이 중요하다”고 주장하고 있다. 특정 당의 경선에 참여하면 대선 본선에서 표를 행사할 수 없다는 것은 완전한 허위 정보다.

누가 이 메시지를 만들었고, 왜 유포했는지는 명확히 밝혀지지 않았다. 다만 바이든 대통령의 대선 캠프는 “용납할 수 없는 허위 정보 유포”라며 비판했다. 도널드 트럼프 전 대통령 측도 “우리와 아무 관련이 없다”고 밝혔다.

트럼프 전 대통령은 15일 아이오와주 코커스(당원대회)에서의 압승에 이어 비(非)당원도 투표할 수 있는 뉴햄프셔주에서도 승리를 자신하고 있다. 그는 22일 유세에서 경쟁자 니키 헤일리 전 주유엔 미국대사의 사퇴를 압박했다. 반면 헤일리 전 대사는 “미국은 대관식을 하는 국가가 아니다”라며 경선 지속 의사를 밝혔다.

바이든 말투 똑같은 ‘AI 딥페이크’… “트럼프측이 배후” 음모론도

‘AI가 민주주의 위협’ 경고, 현실로
“경선 투표 말라” 바이든 거짓음성… 뉴햄프셔주 “경선 방해-유권자 혼란”
AI 허위정보, 정치인들 악용 우려… ‘딥페이크 규제’ 사회적 압박 커질듯

“23일 프라이머리(예비선거)에 투표하는 건 도널드 트럼프(전 대통령)를 돕는 짓입니다. 11월 본선을 위해 당신의 표를 아끼세요.”

20일(현지 시간) 미 뉴햄프셔주(州) 유권자들의 휴대전화에 걸려온 음성에서는 귀에 익은 목소리가 들렸다. 조 바이든 미국 대통령이었다. 평소 즐겨 쓰는 “완전히 헛소리(Malarkey)”라는 말투도 똑같았다. 전화는 민주당 뉴햄프셔주 전 의장인 캐시 설리번의 연락처로 걸려왔고 녹음된 음성이 자동 재생되는 방식이었다.

그럴듯한 포장으로 ‘경선 불참’을 독려하는 이 전화는 바이든 대통령이 녹음한 것도, 민주당이 만든 것도 아니었다. 투표장으로 향하려는 유권자들을 노리고 인공지능(AI)으로 만들어 낸 거짓 음성이었다. 경선이 본격화된 뒤 AI를 악용해 판세를 움직이려 한 사례가 처음 드러나면서 미 대선판은 발칵 뒤집혔다.

● 바이든 딥페이크 음성 두고 음모론까지

외신들은 이번 사건이 당적과 상관없이 모든 유권자가 참여할 수 있는 뉴햄프셔 경선에 적지 않은 영향을 끼칠 뻔했다고 분석했다.

‘가짜 음성’의 주인공 바이든 대통령은 민주당의 뉴햄프셔주 경선에 후보 등록조차 하지 않았다. 민주당과 주 선거관리 당국의 갈등 때문이다. 민주당은 전통적으로 첫 프라이머리를 실시한 뉴햄프셔주가 백인 비중이 높아 대표성이 떨어진다며 다음 달 3일 사우스캐롤라이나주에서 첫 경선을 치르기로 했다.

뉴햄프셔주는 이에 반발하며 일정을 강행하기로 했다. 하지만 민주당 전국위원회는 이를 인정하지 않기로 했고 바이든 대통령도 불참한다. 이에 투표용지에 바이든 대통령의 이름이 제외되자 지지자들은 직접 “바이든”을 적는 ‘기명투표 운동’을 벌이고 있다. 설리번 전 의장은 “이번 전화는 바이든 대통령에게 상처를 주려고 누군가 꾸민 짓”이라며 “민주주의에 대한 공격”이라고 비판했다.

일각에선 트럼프 캠프가 배후라는 음모론도 나돌고 있다. 공화당 경선 경쟁자인 니키 헤일리 전 주유엔 미국대사에게 투표하려는 무당층이나 민주당 지지자들이 투표장에 나오지 않게 하려는 의도라는 것이다. 트럼프 전 대통령 측은 “이번 사건과 무관하다”며 선을 그었다.

이렇게 전화로 퍼지는 허위 정보는 흔적이 잘 남지 않기 때문에 출처를 확인하기가 더 어렵다. 스팸전화 방지업체 ‘하이야’의 조너선 넬슨 이사는 경제매체 비즈니스 인사이더에 “AI로 합성한 자동음성 전화로 인해 전례 없이 거친 선거의 해가 될 것”이라고 전망했다.

● AI發 허위 정보 만연 땐 정치인들 악용 우려도

AI로 만들어진 허위 음성, 사진, 영상에 대중이 익숙해지면 오히려 정치인들이 이를 악용하는 상황이 발생할 수 있다는 우려도 크다. 무엇이 진실이고 아닌지 그 자체가 혼란스러워지면서 ‘가짜 뉴스’라고 역공세를 취할 수 있기 때문이다. 하버드대 산하 버크먼 클라인 센터의 아비브 오바디아는 미 워싱턴포스트(WP)에 정치인들이 비판을 받더라도 “AI로 조작된 가짜 증거”라고 주장하며 빠져나가는 경우가 늘어날 수 있다고 내다봤다.

실제로 이런 사례는 점점 늘고 있다. 지난해 12월 반(反)트럼프 단체인 ‘링컨프로젝트’는 트럼프 전 대통령의 말실수를 모은 영상을 보여 주며 “트럼프가 치매를 앓고 있을 수 있다”고 주장하는 광고를 내보냈다. 트럼프 전 대통령은 즉각 “AI로 만든 가짜 광고”라고 비난했지만 폴리티팩트 등 미 언론들은 광고에 사용된 영상들 자체는 조작된 것이 아니라 이미 언론에서 보도된 실제 영상이라고 반박했다.

미국에서는 오픈AI가 대화형 챗봇 ‘챗GPT’나 생성형 AI인 ‘달리(DALL-E)’를 선거운동에 사용하지 못하게 막는 등 자구책을 내놓고 있다. 하지만 연방선거관리위원회(FEC) 차원의 통일된 AI 규제는 없다. 한국에서는 이달 29일부터 딥페이크를 활용한 선거운동이 금지된다.

다만 미 대선이 가까워질수록 입법 부재를 해결해야 한다는 사회적 압박은 점차 커질 것으로 보인다. 지난해까지 워싱턴, 캘리포니아, 텍사스 등 일부 주들은 딥페이크 규제 법안을 제정했고, 올해 들어 최소 13개 주에서 관련 법안이 발의된 상황이다. 진보적 감시 단체인 퍼블릭 시티즌은 미 뉴욕타임스(NYT)에 “정치적 딥페이크의 순간이 왔다”며 법적 보호장치를 빨리 마련해야 한다고 촉구했다.

라코니아=문병기 특파원 weappon@donga.com
홍정수 기자 hong@donga.com
이기욱 기자 71wook@donga.com