"가짜 정보와의 전쟁"…AI 딥페이크에 흔들리는 전세계 선거판

튀르키예 등 선거에 생성형 AI 콘텐츠 등장
내년 미 대선 '대혼란' 예상…"선거운동의 분수령"

챗GPT에서 시작된 생성형 인공지능(AI) 열풍이 불면서 전세계에서 비상이 걸린 부문이 '선거판'이다. 말 한마디, 표정·행동 하나에 표심이 쉽게 흔들리는 선거판에서 AI가 만든 가짜 정보, 즉 딥페이크가 선거흐름에 지대한 영향을 끼치는 사태가 잇따라 벌어지면서 각국 선거당국의 고심도 깊어지고 있다.

특히 2024년 대통령선거를 1년여 앞둔 미국에서는 규제를 요구하는 목소리에도 벌써 AI를 선거 캠페인에 활용해 'AI 선거전'에 불을 지피는 모습이다.

[이미지출처=로이터연합뉴스]

◆ 튀르키예·캐나다 선거판에 등장한 AI 가짜 사진

올해 상반기 가장 주목받는 선거로 평가받는 튀르키예 대통령 선거에서 AI가 막판 변수 중 하나로 떠올랐다. 20년간 장기집권하며 '현대판 술탄'으로 불리는 레제프 타이이프 에르도안 튀르키예 대통령이 야당 후보인 케말 클르츠다로을루 공화인민당 후보와 접전을 펼치며 실각 가능성까지 제기됐던 선거다.

일간 가디언 등에 따르면 지난 5월 치러진 이 선거에서 AI가 등장한 건 결선 투표 2주 전이다. 당시 에르도안 대통령이 지지자들에게 보여준 한 영상이 문제가 됐다. 터키의 분리주의 단체 PKK가 상대방인 클르츠다로을루 후보를 지지하는 노래를 부르는 영상이었다. 민족주의 노선을 앞세우던 에르도안 대통령은 "이걸 보라. 매우 중요하다"며 지지자들을 자극했다. 이는 AI가 만든 가짜 영상이었고, 클르츠다로을루 후보는 배후에 러시아가 있다고 비난했다.

지난 5월 지지자들 앞에서 연설 중인 레제프 타이이프 에르도안 튀르키예 대통령 [이미지출처=연합뉴스]

결과는 에르도안 대통령의 승리였다. 그와 클르츠다로을루 후보의 격차는 5%포인트도 채 되지 않았다. 그의 대선 승리에 미친 요소는 다양하겠지만, 야당 후보에 지지율로 밀리고 높은 인플레이션과 경제난을 겪은 에르도안 대통령이 민족주의 노선을 한층 강화하는 데 AI 가짜 사진을 활용한 것이다.

지난달 26일 투표가 진행된 캐나다 토론토 시장 보궐선거에서도 AI가 만든 가짜 사진이 눈길을 끌었다. 북미지역에서 네 번째로 큰 도시인 토론토는 전 세계에서 AI 연구가 가장 빠르고 활발하게 이뤄지는 도시다. 이번 시장 선거에 나온 후보만 100명이 넘었다. 유권자의 눈길을 끄는 것 자체가 미션이었다. 그 중 보수 성향의 후보인 앤서니 퓨리 전 뉴스 칼럼니스트가 AI로 만든 선거 자료가 주목받았다.

NYT 등에 따르면 40여쪽 분량의 이 자료에는 AI가 생성한 여러 이미지가 포함됐는데 현실에서는 찍힐 수 없는 오류가 많은 이미지여서 화제가 됐다. 대화를 나누는 한 여성이 팔짱을 끼고 있는데 팔이 두 개가 아닌 세 개여서 팔짱을 끼지 않은 다른 손은 턱을 괴고 있는 식이다. 또 다른 사진에서는 긴 머리의 여성이 목걸이를 하고 있는데 목걸이의 펜던트가 금색의 줄이 아닌 앞쪽 머리카락에 붙어 있다. 이 외에도 한 여성이 입고 있는 가디건 위 배지나 공사 현장 속 테이프에 글씨가 적혀 있지만 읽을 수가 없게끔 돼 있다.

캐나다 토론토 시장 보궐선거에 나온 앤서니 퓨리 후보의 모습(사진출처=퓨리 후보 SNS)

NYT는 "이를 두고 다른 후보자가 지난달 16일 있었던 토론회에서 그 이미지를 웃음거리로 삼았다"면서도 "후보만 100명이 넘는 상황에서 이러한 점이 이름을 알리는 하나의 추진력으로 작용했다"고 평가했다. 퓨리 후보는 유세 초반에는 TV 토론회에 참가하지 못할 정도로 주요 후보로 꼽히지 못했지만, 최종 4위를 기록, 대중적 인지도를 쌓았다는 평가를 받는다.

◆ "2024년 대선은 AI 선거"…공화·민주 '고심'

이처럼 AI는 벌써 세계의 선거전에 등판했다. 이제 세계인의 시선은 내년 11월로 예정된 '세계에서 가장 큰 선거판' 미국 대선으로 향하고 있다. 조 바이든 현 대통령과 도널드 트럼프 전 대통령이 모두 출마를 선언한 가운데 치열한 유세전이 예상된다. AI가 후보자의 목소리를 흉내 내 스스로 범죄를 저질렀다고 자백하거나 인종차별적인 발언을 내놓고, 하지도 않은 연설이나 인터뷰가 담긴 영상 등 다양한 딥페이크가 나올 수 있다고 전문가들은 우려하고 있다.

컨버전스 미디어의 톰 뉴하우스 디지털 마케팅 담당 부사장은 미 정치매체 악시오스에 "2008년과 2012년이 페이스북 선거였다면 이번에는 AI 선거가 될 것"이라면서 "하지만 이번에는 훨씬 더 파괴적인 양상을 보일 것"이라고 말했다. 그러면서 내년 11월 선거를 한 달 앞두고 AI가 만든 콘텐츠가 쏟아지는 '10월 서프라이즈' 사태가 벌어져 선거판을 뒤흔드는 양상이 벌어질 수도 있다고 전망했다.

이미 미 정계에서는 AI를 선거 캠페인에 활용하고 있다.

공화당 전국위원회(RNC)는 지난 4월 바이든 대통령이 내년 대선 도전을 공식 선언한 날 32초 분량의 영상을 공개했다. 이 영상에는 바이든 정부 2기가 출범하면 예상되는 디스토피아 세상을 묘사한 AI 사진이 담겨 문제가 됐다.

미국 공화당 유력 대선 주자인 론 디샌티스 플로리다 주지사(왼쪽)와 도널드 트럼프 전 대통령 [이미지출처=AP연합뉴스]

공화당 내부에서도 AI 가짜 사진은 활용됐다.

공화당 유력 대선 주자로 트럼프 전 대통령의 경쟁자로 나선 론 디샌티스 플로리다 주지사는 지난달 트럼프 전 대통령이 코로나19 초기 각을 세웠던 앤서니 파우치 전 국립알레르기·전염병 연구소장을 백악관 브리핑룸에서 껴안고 입맞춤하는 듯한 합성 사진을 트위터 계정에 올렸다. 파우치 전 소장의 방역 대책 등에 불만이 강한 보수 유권자를 겨냥해 가짜 사진을 활용한 모습이다.

디샌티스 주지사 측은 이 사진이 담긴 영상을 게재한 뒤 곧바로 사실이 아니라는 점을 고지하지 않았으나, 이후 언론에서 가짜 사진이라는 점을 지적하자 며칠 뒤 합성 사진이라는 점을 인정했다.

이러한 상황이 벌어지자 지난달 14일 민주당 소속 70여명의 선거 전략가가 화상으로 만나 회의하기도 했다. 미 정치매체 폴리티코에 따르면 이들은 2024년 AI가 생성하는 가짜 콘텐츠에 대한 대처할 방법에 대해 논의했다고 한다. 생성형 AI가 엄청난 속도와 방대한 규모로 가짜 정보를 생성할 수 있다는 점을 우려하며 유권자들이 스스로 판단할 수 있게끔 식별하는 방법을 교육해야 한다는 의견이 나왔다고 폴리티코는 전했다.

민주당은 올해 초부터 기부금 이메일을 작성할 때 AI로 초안을 만드는 등 활용 방안을 모색하고 있다.

미 정계에서는 AI의 보급, 확산 속도가 빠른 만큼 이와 관련한 가드레일을 만들어 조치에 나서야 한다며 움직이고 있다. 척 슈머 민주당 상원 원내대표는 지난달 AI 규제를 위한 이니셔티브인 'SAFE 혁신 프레임워크'를 공개했다. 그는 "이르면 내년 선거에서 AI로 인해 신뢰를 완전히 떨어트릴 수 있다"며 "우리는 조만간 정치 유세 과정에서 실제로는 조작됐지만, 완전히 신뢰받는 민주당이나 공화당 후보의 사진을 보는 세상에 살게 될 것"이라고 우려했다.

◆ "2024 미 대선 엉망 될 것"…"가짜와 진짜 구분 못 해"

미국을 비롯해 유럽, 아시아 등에서 AI 규제에 대한 논의는 이뤄지고 있지만, 내년 미 대선을 앞두고 선거와 관련한 AI 사용 가드레일은 도입되기 쉽지 않을 것이라는 게 주된 전문가들의 견해다.

에릭 슈밋 전 구글 회장은 지난달 26일 한 방송에 출연해 "2024년 대선은 소셜미디어가 잘못 생산된 AI (정보들)로부터 우리를 보호하지 못하면서 엉망이 될 것"이라며 "이 문제를 해결하기 위해 노력하고 있으나 아직 해결하지 못했다. 실제로도 신뢰도, 안전 그룹은 축소되고 있다"고 지적했다.

그는 AI가 사회에 미칠 장기적 영향에 대한 광범위한 우려를 지적하면서 "단기적 리스크는 '잘못된 정보'"라고 진단했다. 그러면서 "(소셜미디어는) 컴퓨터가 아닌 인간을 위한 언론 자유를 허용해야 한다. 소셜미디어가 해야 할 일은 모든 콘텐츠에 누가 사용자인지 표시하고, 법을 위반할 경우 책임을 묻는 것"이라며 "일치하지 않는 사실문제를 해결하지는 못하지만, 적어도 이 주장을 하는 사람이 인간이라는 근거는 확립한다"고 강조했다.

브루킹스연구소의 대럴 M 웨스트 선임 연구원도 최근 AI가 내년 대선에 미칠 영향과 관련한 보고서를 통해 "사용하기 쉽고 값싼 템플릿을 통해 주장과 반박이 이어지는, 선거 캠페인이 마치 '황량한 거친 서부'와 비슷한 상황에 직면하게 될 것"이라면서 "가짜와 진짜를 구분하는 능력이 제한되고 이러한 주장이 선거에 어떻게 영향을 미칠지 불확실한 상황에 놓일 것"이라고 전망했다.

폴 배럿 뉴욕대 스턴경영대학원 기업인권센터 부소장은 폴리티코에 "일반인들은 딥페이크를 만들지 않을 거란 믿음이 무너진 상태"라며 "더 많은 사람이 '무엇이 진실인지 알 수 없다'고 체념한 듯하다"고 진단했다. 그러면서 내년 미 대선이 선거 운동 방식에 있어 거대한 분수령이 될 것으로 예상했다.

정현진 기자 jhj48@asiae.co.kr