경찰과 몸싸움 벌이는 트럼프? 세계 선거판 뒤흔들 뉴스 정체

경찰에 체포되지 않기 위해 몸부림치는 도널드 트럼프 전 미국 대통령의 사진, 대량 난민을 받아들일 준비를 해야 한다는 에마뉘엘 마크롱 프랑스 대통령의 발언을 담은 소셜미디어(SNS), 침공이 임박한 듯 대만 섬에 바싹 붙어 항행하는 중국 군함의 동영상….

도널드 트럼프 전 미국 대통령이 경찰에 연행되는 모습을 엘리엇 히긴스라는 블로거 겸 시민기자가 이미지 생성 인공지능(AI) '미드저니'의 최신 '버전 5'를 활용해 만든 이미지. X(옛 트위터) 캡처

최근 인공지능(AI)이 만들어낸 이런 가짜뉴스가 세계 각국의 선거판을 뒤흔들고 있다. 챗(Chat)GPT로 대표되는 생성형 AI가 무더기로 제작한 극사실적인 사진과 동영상, 음성 등이 더 빠른 속도로 광범위하게 퍼지고 있기 때문이다. 설상가상 생성형 AI의 정치적 편향성까지 도마에 오르고 있다. 특히 내년에는 미국 대선과 유럽의회 선거, 한국 총선을 비롯해 인도ㆍ영국ㆍ대만ㆍ멕시코ㆍ이란 등 세계 인구의 절반(약 40억명)에 해당하는 다수의 국가에서 주요 선거가 예정돼 있어 우려가 더 커지고 있다.

━

흑색선전 도구로 전락

당장 전 세계가 주목하는 미 대선에선 AI 기술을 활용한 흑색선전이 불을 뿜기 시작했다. 미 공화당 대선주자를 뽑는 경선에 나선 여러 주자가 상대방 후보를 헐뜯는 도구로 삼으면서다. 부동의 지지율 1위인 트럼프 전 대통령에게 집중포화가 쏟아진다.

2위 론 디샌티스 플로리다 주지사 진영은 지난 6월 트럼프가 앤서니 파우치 전 국립 알레르기ㆍ전염병 연구소장을 끌어안는 모습이 담긴 AI 생성 이미지를 사용한 광고를 게재했다. 미 정부의 코로나19 대응을 이끈 파우치 전 소장은 공화당 지지층에겐 공적이나 다름없는 인물이다.

디샌티스 측은 지난 7월 첫 경선지인 아이오와주(州)에서 생성형 AI가 만든 ‘가짜 음성(fake sound)’을 캠페인 홍보영상에 썼다. 트럼프가 공화당 출신 킴 레이놀즈 주지사를 비방하는 발언을 흉내낸 것으로, 경선의 향배를 가늠하는 교두보로 꼽히는 아이오와에서 트럼프 지지율을 깎아내리기 위해서였다.

이를 두고 디지털 포렌식 전문가인 하니 파리드 UC버클리대 교수는 미 공영 라디오방송 NPR에 “이제 선거에서 어떤 후보가 말한 내용이 진짜인지 아닌지 분간하기 어렵게 됐다”며 “앞으론 가짜 콘텐트뿐 아니라 진짜 콘텐트를 어떻게 검증할 것인지 고민할 수밖에 없다”고 말했다.

━

군함, 관광 문제 등 총동원

총통 선거를 4개월 앞둔 대만의 안보 당국도 비상 상태다. 중국이 독립 성향의 여당인 민진당 후보에게 불리하도록 교묘하게 짜깁기한 각종 가짜뉴스를 온라인에서 대거 유통시키고 있기 때문이다.

중국은 군사적인 위협을 담은 영상으로 내년 1월 대만 총통 선거에 개입하고 있다. 사진은 지난해 8월 5일 대만 해안선 근처까지 접근한 중국군 군함 위에서 한 군인이 대만 호위함 란양호를 망원경으로 바라보는 모습. AP=연합뉴스

최근엔 대만의 동부 해안도시 화롄(花蓮)에서 가시거리 내 항행하는 중국 군함의 모습을 담은 가짜 동영상이 SNS를 통해 확산됐다. 대만해협의 군사적 긴장을 강조해 대만인의 표심을 뒤흔드는 일종의 '회색지대 공작'이다.

표심을 자극할 만한 가짜뉴스 소재는 다양하다. 대만 정부 관계자는 타이베이타임스에 “중국은 이번 선거를 앞두고 양안(중국-대만 간) 여행, 인플레이션, 공무원의 사적 도덕성 등 소프트한 소재도 활용할 가능성이 높다”고 우려했다.

━

프랑스 극우, AI로 표심 테러

전문가들은 AI가 만들어내는 허위 정보의 폭발적인 증가가 실제 표심에 미칠 영향에 주목하고 있다. 일례로 지난해 4월 프랑스 대선에서 극우주의자들이 가담한 가짜뉴스가 판세에 큰 영향을 미쳤다는 분석도 나온다.

이들은 마크롱 대통령이 이민에 관대하다는 이미지를 조작해 뿌렸다. 프랑스 사회에 팽배한 반이민 혐오 정서를 자극해 극우 후보인 마린 르펜 국민연합(RN) 당시 대표에게 표를 몰아주기 위한 장치였다.

지난해 프랑스 대선에선 영국 공영방송 BBC가 만든 뉴스로 포장한 가짜뉴스 게시물이 등장했다. BBC 화면 캡처

영국 공영방송 BBC가 만든 뉴스로 포장한 SNS 게시물도 등장했다. 뉴스 포맷을 빌려 사실로 믿게 할려고 했다. 마크롱 대통령이 “러시아에 대한 제재가 아프리카의 경제 붕괴를 초래해 프랑스가 향후 20년간 아프리카와 중동에서 최대 6000만명의 난민을 받아들여야 한다”는 발언을 했다는 내용이었다. 당시 결선투표에서 르펜은 41.46%라는 극우 후보 사상 최대 득표율을 기록했다.

━

언어장벽 없어져 해외공작 유리

해가 다르게 급격히 발전하는 생성형 AI의 기술이 가짜뉴스를 믿게 하는 데 악용된다는 점이 가장 큰 골치거리다. 지난 6월 화제가 됐던 미 국방부 청사 '펜타곤'의 폭발 묘사 사진이 대표적이다. 검은 연기가 치솟는 모습 등이 너무도 사실적이어서 SNS로 유포되자마자 한때 월가의 주가가 출렁일 정도로 반향이 컸다. 이 때문에 선거 전문가들은 “선거 국면에서 너무 생생한 이미지나 영상은 미처 사실 여부가 확인되기 전에 유권자의 마음을 움직일 수 있다”고 걱정했다.

서방 각국은 러시아와 중국의 선거 개입 가능성이 한층 커졌다고 우려한다. 대규모 언어 모델(LLM)이 발전하면서 사실상 언어 장벽이 허물어지고 있기 때문이다.

러시아와 중국은 서방 국가들의 선거에 개입하기 위해 조직적인 공작 활동을 벌이는 것으로 알려져 있다. 로이터=연합뉴스

미 조지타운대 보안ㆍ신흥기술센터(CSET)의 조시 골드스타인 연구원은 “가짜뉴스를 만들어 유포하는 외국의 ‘트롤 농장(troll farm)’에서 더는 현지어 구사자가 필요 없을 수 있다”며 “(이제는 사람이 아닌) LLM이 유창한 문법과 어휘로 뉴스를 만들기 때문”이라고 가디언에 말했다. 과거 이상한 단어를 반복적으로 사용하는 등 수상했던 허위정보가 이제는 "믿음직한 문구"로 대체되고 있다는 설명이다.

━

좌파시각 담긴 챗GPT 답변

생성형 AI의 정치적 편향성도 논쟁거리다. 챗GPT의 경우 정치 관련 질문에 좌파적인 성향의 답변이 많다는 연구결과가 여러 차례 나왔다.

최근 영국 이스트 앵글리아대 연구진이 발표한 보고서에 따르면 챗GPT를 활용한 미국ㆍ브라질ㆍ영국 유권자 관련 정치 설문조사에서 이런 편향성은 두드러졌다. 연구진은 “미 민주당, 루이스 이나시우 룰라 다 시우바 브라질 대통령, 영 노동당에 대한 매우 체계적인 정치적 편향성이 나타났다”며 “AI 기업들이 챗봇의 행동을 통제하는데 어려움을 겪고 있다”고 밝혔다.

오픈AI가 개밣한 생성형 AI의 대표주자 '챗GPT'는 정치적인 편향성을 가진 것으로 나타난 논란이 일고 있다. AP=연합뉴스

미 브루킹스연구소가 지난 5월 공개한 연구결과에서도 흥미로운 사실이 지적됐다. 챗GPT에 조 바이든 대통령과 트럼프 전 대통령을 두고 각각 “좋은 대통령이냐?”는 질문을 던진 결과, 바이든의 경우에만 “주목할 만한 업적” 몇 가지를 열거했다고 한다.

연구진에 따르면 이는 챗GPT가 학습한 인터넷 자료, 논문, 기사 등 데이터의 내용과 관련이 있을 뿐만 아니라 인간의 피드백을 통해 강화학습을 하는 과정에서 평가자의 편견이 개입된 결과일 수 있다. 실제로 챗GPT를 만든 오픈(Open)AI의 샘 알트먼 최고경영자(CEO)는 “피드백 평가자의 편견을 가장 우려한다”며 “(직원들이 챗GPT 시스템의 편향성에) 100% 영향을 미칠 수 있다”고 밝혔다.

━

선관위 "허위사실유포로 처벌"

내년 4월 총선을 치르는 한국에서도 생성형 AI 가짜뉴스에 대한 경계령이 내려졌다. 지난달 31일 중앙선거관리위원회는 최대 500여명의 ‘AI 전담팀’을 꾸려 내년 총선까지 AI 활용 허위정보에 대응하겠다고 밝혔다. 아울러 “생성형 AI로 만든 가짜뉴스는 공직선거법상 ‘허위사실공표죄’로 처벌하겠다”는 입장도 내놨다.

하지만 이 같은 대응은 선관위의 자체 운용 기준이어서 처벌 규정을 담은 개정안 입법이 없다면 실제 적용 과정에선 크고 작은 논란을 피하기 어려워 보인다. 한꺼번에 많은 가짜뉴스가 유포될 경우 인력 부족 등으로 검증이 어려울 것이란 예상도 나온다.

한국에서도 총선이 다가오면서 생성형 AI로 만든 가짜뉴스가 유포될 수 있다는 우려가 나온다. 뉴스1

이미 AI가 선거판을 잠식하고 있는 미국도 구체적인 규제책은 나오지 않은 상황이다. 미 연방선거관리위원회(FEC)는 시민단체의 청원으로 AI가 만든 딥페이크(deep fake) 영상 배포 금지 여부에 대한 내부 심의를 지난달에야 시작했다.

'AI발 가짜뉴스'의 피해는 결국 잘못된 선택을 강요 당하는 유권자에게 돌아갈 것이라고 전문가들은 우려한다. 정치 컨설턴트인 박성민 민컨설팅 대표는 “투표는 주로 어떤 후보를 떨어뜨리기 위한 응집력이 강해 네거티브 캠페인이 더 잘 먹힌다”며 “AI로 만든 가짜뉴스가 유튜브 등을 통해 더 빠른 속도로 확산하면서 민주주의를 실시간으로 위협하고 있다”고 말했다.

김상진 기자 kine3@joongang.co.kr