에르도안, 가짜뉴스로 대선 반전… 중·러가 AI 이용해 선거 개입할 수도

전 세계 곳곳서 딥페이크 몸살

AI(인공지능)를 활용해 이미지와 영상을 합성하는 ‘딥페이크’는 앞으로 세계 곳곳의 선거에서 악용될 것으로 우려된다. 전문가들은 특히 첨단 기술에 취약한 개발도상국 등에서 딥페이크가 유권자들의 혼란을 유발하고 선거 결과를 좌우할 것이라고 경고한다.

친중국 단체가 만든 것으로 추정되는 가상 매체 '울프 뉴스'에서 활동하는 '딥페이크' 가상 앵커들의 모습. 영상에서 남성 앵커는 실제 방송을 진행하는 것처럼 미국의 총기 범죄 급증과 미국의 총기 정책을 비판했지만 이는 인공지능(AI) 기술을 활용해 만든 가상 영상임이 드러났다. /엑스(옛 트위터) 캡처

지난 5월 치러진 튀르키예 대선은 딥페이크가 선거에 영향을 준 사례로 꼽힌다. 3선에 도전한 레제프 타이이프 에르도안 대통령과 야당 후보 케말 클르츠다로을루가 접전을 벌이고 있었는데, 쿠르드족 분리주의 무장단체 쿠르드노동자당(PKK)이 클르츠다로을루를 지지하는 영상이 퍼지면서 분위기가 에르도안 쪽으로 기울었다. 영상에는 PKK의 지도부 인사가 선거 유세 중인 클르츠다로을루를 응원하는 모습이 담겼지만, 실제로는 유세 영상과 PKK의 영상을 정교하게 이어 붙인 딥페이크였다.

튀르키예 에르도안대통령이 대선 이스탄불 집회에서 공개한 PKK가 야당 후보 케말 클르츠다로을루를 지지하는 모습을 보여주는 딥페이크 동영상의 한장면/트위터

뒤늦게 가짜임이 밝혀졌다. 그러나 이미 많은 유권자들이 딥페이크에 속아 ‘클르츠다로을루는 테러단체의 지지를 받고 있다’는 생각을 굳힌 뒤였다. 현지 언론들은 “선거 결과에서 에르도안과 클르츠다로을루 간 격차는 5%포인트도 되지 않았다”며 “’AI발 가짜 뉴스’가 선거에 치명적인 영향을 미칠 수 있다는 것을 보여준 것”이라고 전했다.

중국과 러시아 등 적성 국가들이 미국을 비롯한 자유민주주의 국가의 선거에 개입하기 위해 AI 기술을 본격 활용할 것이란 우려도 커지고 있다. 실제 지난 2월에는 총기 사고에 대한 미국 정부의 대책 등을 비판하는 뉴스 영상들이 확산됐는데, 실제로는 친중 단체가 만든 가짜 매체의 ‘허위 선전물’이었다. 앞서 작년 4월엔 볼로디미르 젤렌스키 우크라이나 대통령이 러시아에 항복을 발표하는 딥페이크 영상이 유포돼 혼란이 일었었다.