"투표하지 말라"는 가짜 바이든…AI 선거개입, 현실이 됐다

美 대선 앞두고 AI 선거 개입 첫 사례 등장
뉴햄프셔 예비선거 투표 불참 메시지 담겨
AI로 조작된 딥페이크에 대한 우려 증폭
가짜뉴스뿐 아니라 진실 구분에 악용되기도

[이데일리 이소현 기자] 오는 23일(현지시간) 뉴햄프셔 프라이머리(예비경선)를 앞두고 해당 지역 유권자들은 조 바이든 대통령의 목소리가 담긴 전화 한 통을 받았다. 전화기 건너편 바이든 대통령은 “말도 안 되는 소리”라며 즐겨 쓰는 말투로 말문을 연 뒤 “11월 대선을 위해 여러분의 투표를 아껴두라”고 당부했다. 그러면서 “화요일에 투표하는 것은 도널드 트럼프 당선이라는 공화당의 목표를 돕는 일”이라며 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”고 투표 불참을 독려했다.

그러나 이는 바이든 대통령 목소리를 인공지능(AI)으로 교묘하게 위조한 자동녹음전화(로보콜)로 드러났다고 22일(현지시간) 워싱턴포스트(WP) 등이 보도했다.

조 바이든 미국 대통령이 22일(현지시간) 미국 워싱턴 백악관 남쪽 잔디밭에 착륙한 뒤 언론을 향해 손을 흔들고 있다.(사진=로이터)

오는 11월 미 대선을 앞두고 AI를 활용해 가짜 이미지나 오디오, 비디오를 만들어 선거운동에 활용하는 ‘딥페이크’(deepfake) 우려가 커진 가운데, 이를 경선에서 악용하는 첫 사례가 발생했다고 WP는 설명했다. AI의 선거 개입이 현실화한 것이다.

바이든 대통령의 가짜 목소리가 담긴 투표 불참 독려 전화가 논란이 되면서 당국은 수사에 착수했다. 뉴햄프셔주 법무장관실은 성명을 내고 바이든 사칭 로보콜에 대해 “뉴햄프셔 프라이머리를 방해하고, 뉴햄프셔 유권자를 억압하려는 불법적인 시도로 보인다”면서 이를 조사하고 있다고 밝혔다.

미국 정치권이나 정보기관에서는 일찌감치 딥페이크의 위험성을 경계해왔다. ‘가짜뉴스’ 확산은 물론 퍼진 거짓 정보로 선거와 유권자에 미칠 잠재적 영향에 대한 우려가 커서다. 바이든 대통령은 작년 11월 AI에 대한 규제를 강화하는 내용의 행정명령에 서명하면서 자신의 딥페이크 영상을 봤을 때를 언급하며 “내가 도대체 언제 저런 말을 했을까”라고 당사자인 본인도 순각 착각할 정도였다고 토로했다.

유력 정치인들이 딥페이크의 대상이 된 지는 이미 오래 전이다. 미 공화당의 유력 대선주자인 도널드 트럼프 전 대통령은 단골이다. 작년 3월 트럼프 전 대통령의 형사 기소 전망이 나온 뒤 SNS에 “트럼프가 맨해튼에서 체포됐다”는 설명과 함께 수갑이 채워지고 끌려가는 모습 등 AI로 조작된 사진이 퍼진 게 대표적이다. 또 기시다 일본 총리의 악담 영상과 리셴룽 싱가포르 총리의 투자 플랫폼 홍보 영상 등도 있다.

도널드 트럼프 전 미국 대통령의 가짜 체포 사진. (사진=X 갈무리)

전문가들은 딥페이크의 부상이 민주주의에 심각한 위협이 되고 있다고 보고 있다. 최근 스위스에서 열린 세계경제포럼(WEF·다보스포럼)에서도 AI가 세계 경제와 정치에 미치는 영향에 대한 우려의 목소리가 쏟아졌다. 비올라 암헤르트스위스 대통령은 기조연설을 통해 “AI가 만들어낸 선전과 거짓말이 세계 안정의 진정한 위협”이라고 밝혔다.

정치인의 발언을 일부만 편집해 취지를 왜곡하는 경우는 드문 일이 아니었지만, 딥페이크는 AI를 악용해 아예 한 적이 없는 발언을 진짜처럼 조작해 만들어 낸다는 점에서 폐해가 더 크다는 지적이 나온다. WP는 “중요한 선거가 앞으로 다가오면서 AI에 대한 혼란이 가중되고 있다”며 “올해 미 대선에서 AI가 진실의 개념 자체를 불안정하게 만든다”고 지적했다.

또 ‘AI 시대’에서는 가짜뉴스 생성에 그치지 않고 진실마저 위협할 우려가 나온다. 논란이 발생하면 일단 AI가 조작한 것이라고 핑계를 대는 식이 반복되고 있다고 WP는 전했다. 올 초 대만 총통선거에서는 한 여당 정치인이 호텔에 다른 여성과 들어가는 모습이 담긴 영상이 공개되면서 불륜 의혹이 제기됐지만, 측근들이 AI 조작이라고 방어하면서 진위를 파악하지 못한 채 흐지부지됐다. 인도에서는 작년 4월 타밀나두주 한 정치인이 소속 정당의 불법 정치자금 모금을 폭로하는 녹취록이 유출됐는데 당사자는 AI가 만든 파일이라고 주장하고 전문가들은 사실 여부를 판단하지 못했다.

허위정보 추적기관인 그래피카의 리비 랭 분석가는 “모든 것이 가짜가 될 수 있고, 모든 것이 가짜이거나 어떤 식으로든 조작됐다고 주장한다면 진실도 존재하지 않게 된다”고 말했다.

네브래스카주 등 미국 최소 13개 주에서는 ‘선거일 전 최소 60일간 딥페이크 콘텐츠 유포를 전면 금지하자’는 등의 법안이 추진되고 있다. AI로 생성한 콘텐츠는 표시 고지 의무를 부과하거나, 아예 게시를 금지하는 방식으로 규제하자는 내용이 주를 이룬다.

이소현 (atoz@edaily.co.kr)