춤추는 총리·가짜 지지 선언…딥페이크에 골머리 앓는 ‘선거의 해’

나렌드라 모디 인도 총리가 춤을 추는 장면이 담긴 딥페이크 영상. 유튜브 갈무리

나렌드라 모디 인도 총리가 영상 속에서 무희들과 함께 박수를 치며 원을 그린다. 그가 추는 것은 인도 민속 춤인 ‘가르바’다. 이 영상은 ‘모디 가르바 댄스’란 제목으로 온라인에서 유통되고 있다. 인도네시아 대선 후보인 프라보워 수비안토 국방장관은 또 다른 영상에서 아랍어로 유창하게 연설한다. 이러한 영상들은 얼핏 진짜로 보이지만, 사실 인공지능(AI)으로 제작된 딥페이크(가짜 영상·음성)다.

3일(현지시간) 로이터통신·포린폴리시(FP) 등은 전세계 50여개국이 총선·대선을 치르는 ‘선거의 해’를 맞아 후보자와 정치인들을 합성한 딥페이크가 기승을 부리고 있다고 보도했다. 생성형 AI의 보급으로 거짓 정보를 담은 딥페이크가 범람하며 전세계 민주주의가 시험대에 섰다는 평가가 나온다.

당장 오는 7일 총선을 치르는 방글라데시는 딥페이크 홍역을 앓고 있다. 야당 여성 의원들의 얼굴에 비키니를 입은 몸을 합성한 딥페이크가 퍼진 것이다. 이슬람적 가치관이 지배적인 방글라데시에서 여성 후보를 모욕하려는 의도가 반영된 것으로 보인다.

다음달 14일 총선과 대선을 함께 치르는 인도네시아에서는 최근 유명 언론인이 프라보워 후보를 지지한다고 선언하는 영상이 퍼져 수백만 조회수를 기록했다. 이는 지난해 공개된 영상을 허위로 편집한 것이었다.

인도네시아 대선 후보 프라보워 수비안토 국방장관이 아랍어로 연설하는 딥페이크 영상. 콤파스 유튜브 갈무리

후보자나 유력 정치인이 딥페이크를 적극 활용한다는 의혹도 이어진다. 프라보워 후보가 아랍어를 유창하게 말하는 틱톡 영상의 경우, 그의 이슬람적·외교적 자질을 돋보이게 하려는 목적으로 생성됐다는 해석이 뒤따른다.

투옥 중 출마 의사를 밝힌 임란 칸 파키스탄 전 총리는 옥중 선거 유세를 위해 자신이 연설하는 것처럼 보이는 딥페이크를 활용했다. 이 영상은 유튜브에서 150만회 이상 조회됐다. 블라디미르 푸틴 러시아 대통령은 지난해 연례 기자회견에서 자신을 복제한 AI와 인터뷰하는 모습을 연출하기도 했다.

인도에서는 정치권이 총선 선거 운동용 딥페이크물 제작을 의뢰하는 움직임도 포착됐다. 인도에서 AI 기반 영상·음성 업체를 운영하는 한 업자는 선거가 다가오며 정치권으로부터 딥페이크 제작 의뢰 전화를 받았다고 로이터에 밝혔다. 그는 “딥페이크에 관한 지침이 없고 유권자들의 투표에 영향을 미칠까 우려된다”고 했다.

딥페이크로 허위 정보가 퍼지는 실태를 역이용하는 예도 있다. 파이낸셜타임스(FT)에 따르면, 지난해 인도의 한 정치인은 소속 정당의 부패 의혹에 관한 영상이 딥페이크로 조작됐다고 주장했다. 그의 주장은 사실이 아닌 것으로 드러났으나, 이를 검증하기 위해 AI 전문가들이 동원돼야 했다.

인도네시아에서는 최근 유명 언론인이 프라보워 후보를 지지한다고 선언하는 딥페이크 영상이 퍼져 수백만 조회수를 기록했다. AFP팩트체크 갈무리

이 같은 딥페이크 이용·역이용은 유권자가 자신이 본 내용이 사실인지 아닌지 확신하지 못하게 한다는 점에서 혼란을 유발한다. 이에 AI 업체와 플랫폼이 직접 나서 선거용 딥페이크를 단속해야 한다는 목소리도 높아지고 있다.

유튜브, 메타, 틱톡 등은 선거에 대한 허위 주장을 퍼뜨리는 콘텐츠 게시를 중단하겠다는 대책을 내놓고, 챗GPT를 보유한 오픈AI는 선거 관련 책임자를 따로 임명하기도 했다.

그러나 이러한 조치는 비서구 국가에서는 효과가 떨어진다는 지적이 나온다. 전 메타 임원 사바나즈 라시드 디야는 “가장 큰 어려움은 신뢰할 수 있는 AI 탐지 도구가 부족하다는 것이다. 특히 영어가 아닌 언어 콘텐츠를 식별하는 데에 효과적이지 않다”고 FT에 말했다. 그는 “정치인이 ‘이것은 딥페이크’라며 혼란을 주기 쉽다. 사람들이 진실과 거짓이라고 믿는 것을 훼손하기 위해 AI 생성 콘텐츠가 어떻게 무기화되는지가 남반구의 과제가 될 것”이라고 짚었다.

각국 정부도 대응에 나섰다. 최근 인도, 인도네시아, 방글라데시는 온라인 콘텐츠를 엄중히 단속하는 한편 허위 정보를 담은 콘텐츠를 방관하는 플랫폼에 책임을 묻는 법안을 통과시켰다. 13일 총통 선거를 앞둔 대만 중앙선거관리위원회(CEC)는 “선거일이 가까워질수록 허위 정보의 양이 폭발적으로 증가한다. 허위 정보를 찾아 확인하려는 부담이 크며, 사실이 밝혀진다 해도 대량의 허위정보에 희석될 수 있다”고 FP에 밝혔다.

오클라호마주립대 미디어학부 누리안타 잘리 교수는 “이미 허위 정보가 만연한 환경에서 AI가 생성한 콘텐츠는 대중의 인식을 더욱 왜곡하고 투표 방식에 악영향을 끼칠 수 있다”며 “인간은 달성하기 어려운 속도와 규모로 새 허위 정보를 유권자 맞춤형으로 퍼뜨리기가 가능하다”고 로이터에 밝혔다.

하노이 | 김서영 순회특파원 westzero@kyunghyang.com