선거의 해 ‘허위정보 퍼펙트스톰’ 온다…“AI 가짜뉴스 확산 우려”

올해 11월 5일 치르는 미국 대선에서 재대결 가능성이 커지고 있는 조 바이든(왼쪽) 대통령과 도널드 트럼프 전 대통령. AFP=연합뉴스

9일(현지시간) 속보로 전해진 ‘미국 증권거래위원회(SEC) 비트코인 현물 상장지수펀드(ETF)’ 소식이 가짜뉴스로 밝혀지면서 시장이 출렁였다. 로이터통신 등이 SEC의 소셜미디어 X(옛 트위터) 계정을 인용해 비트코인 ETF 승인을 긴급 뉴스로 타전했는데, 누군가 SEC의 X 계정을 해킹해 만든 가짜뉴스였던 것으로 드러나면서 해당 기사가 부랴부랴 삭제되는 등 소동을 빚었다. 허위 정보가 낳은 심각한 피해와 관련해 다시금 주의를 환기시키는 경종이 울린 셈이다.

같은 날 “2024년 선거와 허위 정보가 전례 없이 충돌하고 있다”는 보도가 미 뉴욕타임스(NYT)에서 나왔다. 올해는 전세계에서 83개의 크고 작은 선거가 잡혀 있는데, 앞으로 최소 24년 안에는 올해와 같은 규모의 선거가 몰리는 일이 없을 것으로 예상될 정도다. NYT는 이런 격변기와 맞물려 각종 가짜뉴스와 음모론이 무차별 확산될 거라는 우려를 전하며 브루킹스연구소 대럴 M 웨스트 선임연구원을 인용해 “허위 정보의 퍼펙트 스톰”이라고 했다.

━

“러ㆍ중ㆍ이란, 각국 선거 방해 가능성”

선거 캠페인에서 허위 정보 생산지로 우선 꼽히는 곳은 전체주의적 독재 국가들이다. 러시아ㆍ중국ㆍ이란 등은 올해 미 대선을 비롯한 각국의 선거를 방해할 목적으로 영향력 행사를 시도할 가능성이 높은 곳으로 지목된다.

특히 러시아 군 정보당국과 연관된 것으로 알려진 소셜미디어 계정 ‘도플갱어’는 국제 뉴스기관을 사칭하고 가짜 계정을 만들어 러시아 선전전에 대거 활용된 것으로 알려져 있다. 도플갱어는 인공지능(AI) 도구를 사용해 미 정치 뉴스 매체를 만들어 허위 정보를 퍼날라 왔다는 의심을 받고 있다.

미국이 각국 협력자들과 함께 현지 권력 교체를 꾀한다거나 우크라이나에 비밀 생물학 무기 공장을 운영한다는 등의 음모론이 퍼진 것도 이같은 활동의 결과물이라고 한다. NYT는 “전문가들은 2022년 미국과 브라질, 2023년 아르헨티나에서 그랬던 것처럼 선거 사기 이야기가 계속 진화하고 반향을 일으킬 것으로 본다”고 전했다.

2024년 주요국 선거 일정 그래픽 이미지. [자료제공=국제선거제도재단, 세계선거기관협의회, 외신 등]

특히 급속도로 발달하는 AI 기술이 허위 정보 확산의 촉진제가 될 수 있다는 우려가 크다. 최근 백인 유럽인을 비(非)백인 이민자로 대체하려 한다는 음모론을 퍼뜨리는 데 AI로 만든 가짜 이미지가 사용됐었다고 NYT는 보도했다.

올해는 전세계가 주목하는 미 대선이 열리는 해인 만큼 AI가 생성한 고도화된 가짜 콘텐트가 선거판을 더욱 혼탁하게 만들 수 있다는 예상이 나온다. 미시간주 조셀린 벤슨 국무장관은 지난해 10월 척 슈머 민주당 상원 원내대표에 보낸 서한에서 “선거에 혼란을 조장하려는 이들이 특정 투표소의 대기 시간, 폐쇄 여부 등을 오도하는 데 AI 도구를 사용할 수 있다”는 우려를 표했다고 NYT는 전했다.

━

아르헨 대선 때 딥페이크 영상 혼탁

지난해 11월 치러진 아르헨티나 대선은 생성형 AI로 만든 딥페이크(딥러닝과 페이크의 합성어로 인공지능을 기반으로 한 특정 인물 이미지ㆍ영상 합성)가 선거전을 얼마나 어지럽힐 수 있는 보여준 극명한 사례다. 당시 집권 페로니스트 후보로 나선 좌파 성향 세르히오 마사 경제장관이 코카인을 흡입하는 듯한 영상이 소셜미디어에 퍼졌는데 이는 AI를 이용해 마약 범죄자에 마사 후보 얼굴을 합성한 딥페이크로 드러났다. 그럼에도 소셜미디어에선 한동안 ‘마사 마약 흡입설’이 잦아들지 않았다.

반면 당시 자유의 전진 소속 극우 성향 후보 하비에르 밀레이 하원의원(현 대통령)은 “(장기 매매 시장이 활성화되면) 아이 출산이 투자가 될 수 있다”는 말을 하는 영상이 유포됐다. 여기에는 ‘AI 창작물’이란 공지가 적히긴 했지만 밀레이 후보에 부정적 인상을 주려는 의도라는 건 불을 보듯 자명했다.

━

양극화 대결정치가 허위정보 양산

이같은 허위 정보가 양산되는 배경으로는 갈수록 양극화하는 대결 정치가 지목된다. 여기에 사용자의 편견을 강화하는 소셜미디어 알고리즘을 타고 소수의 극단적 목소리가 온건한 다수를 압도하는 경우가 많다는 지적이다. 허위 정보 모니터링 업체 파이라(Pyrra)는 “선거 사기를 선제적으로 막아야 한다는 주장이 최근 텔레그램ㆍ트루스소셜 같은 대안적 플랫폼에서 유행하고 있다”며 “이런 음모가 정치 엘리트 사이에 뿌리를 내리고 있다. 정치 엘리트들은 이런 서사를 사용해 대중의 환심을 사고 있다”고 짚었다.

AI의 선거 악이용 우려가 과장됐다는 반론도 없진 않다. 미국외교협회(CFR) 제임스 린지 수석부회장은 “AI는 우리가 직면한 여러 위협 중 하나일 뿐”이라고 말했다고 NYT는 전했다.

━

“통제 안된 AI, 전례없는 혼란 부를 것”

하지만 미 싱크탱크 유라시아그룹이 전날 공개한 ‘2024 10대 리스크’ 보고서에서도 유독 선거가 많은 올해 ‘통제되지 않는 AI’가 네 번째 위험요인으로 꼽힐 만큼 위협적이라는 인식이 많다. 유라시아그룹은 “러시아를 중심으로 생성형 AI가 선거운동에 영향을 미치고 분열을 조장하며 전례 없는 규모의 정치적 혼란을 부를 것”이라고 내다봤다.

미 대선을 앞두고 각 소셜미디어 업체들이 허위 정보를 걸러낼 자체 게이트키핑 기능ㆍ인력을 줄이는 것도 우려를 키우는 대목이다. 미 시민사회단체 ‘프리 프레스’(Free Press)는 최근 보고서에서 메타(페이스북 모기업)ㆍ유튜브ㆍX 등 플랫폼 업체들이 지난해 부정확한 콘텐트를 차단하는 부서 규모를 줄이거나 조직을 개편했다고 알렸다. 이런 흐름을 두고 프리 프레스의 노라 베나비데즈 선임 고문은 “민주주의 보호를 위해서는 바람직하지 않은 것”이라고 지적했다.

대선을 앞둔 미국 조 바이든 정부 내에서는 AI 부정적 콘텐트 규제론이 커지는 분위기다. 미 외교전문지 포린폴리시는 최근 “올해는 AI의 안전한 개발과 사용을 위해 규제 부과를 검토중인 정부 거버넌스에 획기적 전환점이 될 것”이라고 전망했다. 미 플로리다ㆍ사우스캐롤라이나ㆍ뉴햄프셔 등 일부 주에서는 선거 캠페인 영상의 AI 사용을 규제하는 법안을 논의 중이다.

워싱턴=김형구 특파원 kim.hyounggu@joongang.co.kr