대만 ‘총통 스캔들’ 동영상에 발칵…방글라 ‘딥페이크 3만원’ 판쳐

대만 총통 선거를 앞둔 지난달 ‘차이잉원의 비사’라는 제목의 가짜 내용이 담긴 전자책을 바탕으로 차이잉원 총통을 공격하기 위해 만들어진 유튜브 영상들. 오스틴 왕 미국 네바다대 교수(정치학) 누리집

☞한겨레 뉴스레터 H:730 구독하기. 검색창에 ‘h:730’을 쳐보세요.

지난달 13일 총통 선거를 앞두고 있던 대만에서 ‘차이잉원의 비사’라는 이름의 전자책이 떠돌기 시작했다. 300쪽 분량의 이 책에는 대만의 집권 여당인 민주진보당(민진당)의 차이 총통이 사생아를 낳고, 성적 스캔들을 통해 권력을 얻었다는 엉터리 정보가 담겨 있었다. 유권자들이 사실로 받아들일 경우, 차이 총통의 후계자인 라이칭더 후보에게 ‘치명타’가 될 만한 내용들이었다.

책의 내용은 곧 동영상으로 만들어져 유포됐다. 한명이라도 더 많은 이들의 눈에 쉽게 띄게 하기 위한 것임이 분명했다. 젊은층이 많이 이용하는 유튜브 등을 통해 퍼진 영상에는 인공지능(AI)으로 만들어진 가짜 아나운서, 산타클로스, 외국인 등이 나와 책 내용을 사실인 듯 읽어준다. 대만 타이베이타임스는 지난달 11일 이름 밝히기를 거부한 국가 안보 관계자를 인용해 “인공지능이 생성한 음성 해설과 가짜 진행자를 통해 급하게 제작된 이 동영상이 유튜브, 인스타그램, 엑스(X·옛 트위터)와 기타 온라인 플랫폼에 게시되고 있다”며 “이 콘텐츠를 제작하고 확산한 세력이 중국 국가안전부로 보이는 특징을 보였다”고 전했다.

인공지능을 활용한 거짓 정보에도 지난 대만 총통 선거는 라이 후보의 승리로 끝났다. 오스틴 왕 미국 네바다대 교수(정치학)도 신문에 “이 (선거 개입) 활동이 무력을 과시하기 위한 (중국의) 조직적인 활동임에 의심의 여지가 없다”고 지적했다.

올해는 전세계 76개국(총인구수 42억 인구)에서 전국 선거가 치러지는 ‘슈퍼 선거의 해’이자, 선거운동에 인공지능이 본격적으로 활용되는 첫해로 기록될 전망이다. 지난 1월 이미 선거가 치러진 대만·방글라데시의 상황을 보면, 인공지능을 활용한 선거의 문제점이 고스란히 드러나고 있다.

지난달 7일 총선을 치른 방글라데시에선 한달에 24달러(약 3만원)만 내면 쓸 수 있는 싸구려 인공지능 이미지 제작툴을 활용한 ‘딥페이크 영상’(사람의 얼굴·목소리 등을 본뜬 영상)이 난립했다. 이 중에서도 가장 문제가 된 것은 여성 정치인들을 겨냥한 저질 동영상이었다. 야당 정치인 루민 파르하나와 니푼 로이가 비키니를 입고 있거나 수영장에 있는 딥페이크 동영상이 온라인을 떠돌았다.

5선을 노리는 셰이크 하시나(76) 총리가 가자 전쟁에서 일방적으로 이스라엘의 편을 드는 미국을 비난하지만, 야당 주요 인사들은 애매모호한 태도를 취하는 모습이 담긴 영상도 큰 화제를 모았다. 사실이라면, 이슬람 국가인 방글라데시 유권자들의 표심에 큰 영향을 끼칠 수 있는 중대 사안이었다. 이 역시 인공지능을 이용한 ‘딥페이크’ 영상이었다. 지난해 9월엔 ‘비디(BD) 폴리티코’라는 온라인 매체에 가상 앵커가 “미국 외교관들이 방글라데시 선거에 개입했다”고 고발하는 뉴스가 올라왔다. 방글라데시 여당에 유리하게 작용할 것이 뻔한 이 뉴스 역시 싸구려 인공지능 앱을 이용해 만든 거짓 정보였다. 인공지능을 활용한 여론 조작의 결과라고 단정할 순 없지만, 방글라데시 여당인 아와미연맹(AL)은 지난달 7일 치러진 총선에서 70% 넘는 의석을 챙겼다. 하시나 총리의 임기 역시 5년 더 늘어나게 됐다. 사이드 알자만 방글라데시 자한기르나가르대 교수(저널리즘)는 지난해 12월 영국 파이낸셜타임스와 한 인터뷰에서 “방글라데시의 낮은 정보 수준과 디지털 활용 능력을 고려할 때 딥페이크 영상이 그럴듯하게 제작돼 배포될 경우 강력한 가짜 정치 선전의 매개체가 될 수 있다”고 우려했다.

인공지능을 적극 활용하는 경우도 있다. 공무상 비밀누설 혐의로 지난해 축출된 뒤 수감 중인 임란 칸 전 파키스탄 총리는 지난해 12월 인공지능으로 생성한 자신의 얼굴과 음성 복제품으로 온라인 생중계 연설을 시도했다. 그는 이 연설에서 “2월8일 총선에 참여해 파키스탄정의운동(PTI) 후보들을 지지해달라”고 호소했다. 그를 지지하는 수만명이 이 연설을 생방송으로 시청했고, 유튜브에서 조회수도 140만회를 넘겼다.

국제인권단체 프리덤하우스가 지난해 발표한 보고서를 보면 이미 인공지능이 만든 수많은 가짜 영상이 여론 형성에 큰 영향을 끼치는 것으로 나타난다. 지난해 프랑스에서 연금 개혁을 요구하며 항의시위에 참석했던 고령의 남성이 경찰에 둘러싸인 채 피를 흘리는 동영상, 브라질 대선 결선 직전 여론조사에서 자이르 보우소나루 대통령이 앞선다는 보도도 인공지능이 만든 딥페이크로 제작됐다. 11월 치러지는 미국 대선도 예외는 아니다. 미국 뉴햄프셔주 검찰은 지난달 22일 조 바이든 대통령의 목소리를 모방해 민주당원들에게 프라이머리(예비선거)에 참여하지 말라고 종용하는 전화가 걸려와 수사에 착수했다고 밝혔다. 생성형 인공지능 챗지피티를 개발한 오픈에이아이(OpenAI)는 지난달 15일 자사의 기술을 선거에 활용하는 것을 금지한다고 밝혔다.

프리덤하우스는 “지난해 10월 이미 이미지와 글, 음성을 생성하는 인공지능 딥페이크가 적어도 16개국에서 정보를 왜곡해 정치와 사회 문제에 악용됐다”고 분석했다. 진짜 같은 가짜를 만들어내는 인공지능의 본격화로 이른바 ‘포스트 진실의 시대’가 도래한 것이다.

전문가들은 인공지능이 만든 가짜 정보들이 자칫하면 민주주의를 큰 위기에 빠뜨릴 수 있다는 우려를 이어가고 있다. 세계경제포럼(WEF·다보스포럼)이 지난달 10일 공개한 ‘글로벌 위험 보고서 2024’를 보면, 올해 인류에게 닥칠 수 있는 위험 1순위는 “선거 결과의 정당성에 의문이 제기되면서 사회를 불안정하게 만들 수 있는” 잘못된 정보와 허위 정보가 꼽혔다. 이 포럼은 ‘대형 선거의 해: 2024년 에이아이의 투표 방해 행위를 막는 방법’이라는 주제로 연 이날 회의에서 “올해 치러질 선거에서 허위 정보가 정부의 정당성을 불신하고 의문을 제기하게 해 사회를 불안정하게 만들 수 있다”며 “포스트 진실의 시대, 선거, 지난해 급작스럽게 다가온 생성형 인공지능이 하나로 연결되는 상황 속에서 정부, 정보통신 기업, 언론이 민주주의를 보호하기 위해 어떻게 기여할지 고민해야 한다”고 지적했다.

물론 국제사회가 빠르게 대응에 나선 만큼 너무 걱정할 필요 없다는 의견도 있다. 안나 마칸주 오픈에이아이 글로벌 업무담당 부사장은 블룸버그 통신에 “바이든 대통령과 유럽연합(EU)이 인공지능 사용에 관해 내놓은 규제안에는 고무적인 내용”이 담겨 있다며 “인공지능 규제를 둘러싼 대화가 초당적으로 진행되는 것은 매우 긍정적”이라고 말했다.

홍석재 기자 forchis@hani.co.kr