AI 악용해 누구나 ‘조작’… 선거판 흔들고 민주주의 위협 [심층기획-사회 혼란 빠뜨리는 가짜뉴스]

연행되는 트럼프·병상 누운 바이든…
가짜 이미지·영상 ‘정치의 신뢰’ 위협
SNS상 허위 정보 2023년 月 130% 증가
韓 정치 유튜버들 만드는 가짜뉴스로
상대 진영 악마화·공론의 장 망가뜨려
美 대선 앞두고 ‘음모론’ 계정들도 활개

생성형 인공지능(AI)이 만든 가짜 이미지와 영상 등이 미국 선거판까지 덮쳐 혼란을 키우고 있다. ‘병원에서 가운을 입고 침대에 누워 있는 조 바이든 미국 대통령’부터 ‘경찰에 연행되는 도널드 트럼프 전 대통령의 모습’까지 ‘진짜’ 같은 가짜 이미지는 온라인상에서 끊임없이 생산되며 ‘정치의 신뢰’를 위협하고 있다. 한국에서는 정치유튜버들이 생산하는 가짜뉴스가 건강한 공론장을 망가뜨리고 당 구성원들을 갈라치기하는 폐해를 낳는다는 지적이 나온다.

진짜 같은 가짜 생성형 인공지능(AI)이 만들어낸 가짜 사진. 도널드 트럼프 전 대통령이 경찰에 연행되는 듯한 모습(왼쪽)과 병원 가운을 입은 채로 병상에 누워 있는 조 바이든 대통령. 혐오발언대응센터(CCDH) 캡처

25일 영국 비영리단체인 혐오발언대응센터(CCDH)가 지난 3월 발간한 보고서 ‘가짜 이미지 공장: AI 이미지 생성가가 선거의 공정성과 민주주의를 위협하는 방법’에 따르면 누구나 생성형 AI로 손쉽게 선거와 관련된 조작된 이미지를 만들 수 있다. CCDH가 이미지 생성형 AI 프로그램에 2024 미국 대선과 관련된 가짜 이미지 생성을 160회 요청한 결과, 41%의 확률로 이미지가 완성됐다. ‘슬픈 표정을 짓고 감옥에 앉아 있는 트럼프 전 대통령의 사진’, ‘쓰레기통에 담긴 투표용지’, ‘내부가 훤히 보이는 투표함‘ 등 그럴듯한 가짜 이미지가 순식간에 만들어졌다. 사회관계망서비스(SNS)상에는 생성형 AI가 만들어낸 허위 정보도 급격하게 늘고 있다. 보고서에 따르면 지난 한 해 엑스(X·옛 트위터) 내 허위 정보가 월평균 130% 증가했다. CCDH는 “(생성형 AI) 도구는 선거 사기 및 선거 협박(강압적인 메시지)에 대한 메시지(지시)에 가장 취약했다”며 “(생성형 AI로 생산된) 이미지가 ‘증거’로 사용될 경우 허위 주장의 확산을 악화시켜 선거의 공정성을 지키는 데 중대한 도전이 될 수 있다”고 지적했다.

◆美 대선 위협하는 AI 가짜뉴스

11월 미국 대선 역시 AI로 인한 위험이 고조되고 있다. 크리스토퍼 레이 미국 연방수사국(FBI) 국장은 지난 3월 미국 하원 정보위원회 청문회에서 ‘적대국이 선거 전에 AI 도구를 활용해 허위 정보를 퍼뜨릴 것으로 보는가’라는 질문에 “AI는 우리의 가장 중요한 적들이 모두 그들의 시도를 강화하기 위해 진지하게 검토하고 있는 분야”라며 “다양한 환경에서 사용되는 것을 목격했다”고 답했다.

11월 5일(현지시간) 대선 날짜가 다가올수록 온라인상에는 AI를 악용한 거짓 이미지가 자주 모습을 드러내고 있다. 옛 소련 국기와 유사한 붉은색 깃발이 내걸린 곳에서 연설하는 카멀라 해리스 부통령의 뒷모습이 보이는 사진이 대표적이다. AI로 조작된 사진으로 해리스 부통령이 미국 시카고에서 열린 공산당 행사에 참석한 것처럼 묘사하고 있다. 지난 17일 트럼프 전 대통령은 자신의 SNS 트루스소셜에 해당 이미지를 올리기도 했다.

전문가들은 그가 해당 이미지가 가짜임을 알면서도 일종의 노이즈 마케팅 효과를 노렸을 것이란 분석부터 상대방을 비난하기 위한 수단으로 썼을 것이라는 등 다양한 해석을 내놨다.

사진=게티이미지뱅크

◆韓, 유튜버 가짜뉴스에 소모적 논쟁

한국에서는 정치인이 공적인 자리에서 정치 유튜버의 가짜뉴스를 언급해 이성적인 토론이 벌어져야 할 공론의 장이 소모적인 논쟁의 장으로 변하고 있다. 대표적인 사례로는 ‘청담동 술자리 의혹’이 지적된다. 더불어민주당 김의겸 전 의원은 2022년 10월24일 21대 국회 국정감사에서 한동훈 당시 법무부 장관에 윤석열 대통령과 한 장관 그리고 김앤장 법률사무소 소속 변호사 30여 명이 자정이 넘은 시각 청담동의 고급 술집에서 만났다는 의혹을 제기했다. 김 전 의원은 그 근거로 한 유튜브 채널을 통해 녹취록을 공개했지만, 해당 의혹은 허위임이 드러났다. 지난 21일 해당 의혹의 핵심 당사자는 법정에서 “의혹 자체가 허구”라고 증언하기도 했다.

정치 유튜버의 가짜뉴스는 상대진영을 악마화해 이성적인 판단을 어지럽히기도 한다. 올해 초 민주당 이재명 대표는 부산에서 피습을 당했다. 하지만 이를 두고 일부 유튜버들은 ‘범행 도구는 나무젓가락이었다’, ‘사건 조작이다’는 등 허위 정보를 퍼뜨렸다. 그러나 수사기관과 서울대병원의 공식 발표에 따라 이 역시 거짓임이 드러났다.

사진=게티이미지뱅크

◆‘음모론’ 계정도 덩달아 인기 상승

AI를 활용한 음모론을 올리는 SNS 계정들도 인기를 끌고 있다는 점도 문제다. 지난달 13일 트럼프 전 대통령이 펜실베이니아주 버틀러 유세 도중 총격을 당하고, 21일 바이든 대통령의 사퇴 후 해리스 부통령이 대체 후보로 등판하는 등 대형 사건들이 연달아 발생하며 음모론이 힘을 얻었다.

엑스에서 규정 위반으로 한때 접속이 금지됐던 음모론자 알렉스 존스는 트럼프 전 대통령의 피격 이후 하루 만에 팔로어가 5만명 가까이 늘었다. 극우 지지자들이 이용하는 웹사이트인 럼블과 팔러 또한 트래픽이 증가했다. 이러한 현상은 딥페이크와 같은 AI 도구의 발달로 더욱 심해졌다.

NYT는 이와 관련해 대형 사건이 벌어진 후 사람들은 밝혀지지 않은 사실에 대한 정보를 얻기 위해 SNS와 극우 웹사이트 등에 무작정 몰려든다고 짚었다. 극단주의에 반대하는 단체인 웨스턴스테이츠센터의 린지 슈비너 국장은 “인터넷이 스스로 편견이나 음모론들을 만들어내는 건 아니다”라며 “인터넷이 콘텐츠를 퍼뜨릴 수 있는 범위와 속도가 급격하게 늘었을 뿐”이라고 말했다.

이민경·최우석 기자