평범한 미국인인 줄 알았는데…'팔로워 8만 계정' 소름 돋는 정체

이란·중국, AI 봇 풀어 여론 조작 시도
"11월 선거 표심 흔드는 새로운 위협"

/로이터=뉴스1

이란과 중국의 국가 세력, 이스라엘의 민간 기업들이 인공지능(AI)을 활용해 대규모로 여론 조작을 펼친 정황이 포착됐다고 미 일간 뉴욕타임스(NYT)가 18일(현지시간) 보도했다. 오는 11월 미국 중간선거를 앞두고 미 정보당국에 비상이 걸렸다.

NYT가 인용한 미 당국자들과 보안 전문가들에 따르면 이란·중국 당국과 이스라엘 기업들은 자유롭게 다운로드하고 수정할 수 있는 중국의 오픈소스 AI 모델을 활용해 자율적으로 과업을 수행하는 'AI 에이전트'를 만들고 인간을 넘어선 속도와 규모로 온라인 여론 조작 활동을 진행했다.

수백개의 AI 에이전트가 인스타그램, 페이스북, X(옛 트위터), 틱톡 등 주요 소셜미디어 플랫폼에서 가짜 계정을 생성한 뒤 정치·시사 이슈 관련 허위 게시물을 유포했다. 계정 생성부터 콘텐츠 제작, 메시지 유포 및 조율에 이르는 과정이 인간이 최소한으로 개입한 상태로 빠르게 진행됐다. 미 당국자들은 AI 에이전트가 여론 조작의 모든 단계를 스스로 처리한 사실상의 첫 사례라고 평가했다.

중국과 이란은 국가 주도로, 이스라엘은 민간 기업이 주도해 여론 조작 활동을 벌인 것으로 추적됐다. 특히 미국 대중을 직접 겨냥한 이란의 경우 AI 에이전트가 생성한 가짜 계정들이 미국 주요 도시에 거주하는 평범한 시민으로 위장했다. 이들 계정은 기자와 정치인을 태그하며 인기 밈과 반(反)공화당 성향의 의견을 급속도로 유포하면서 올해 상반기에만 약 8만명의 팔로워를 모았다.

보안 전문가들은 여론 조작 활동의 기술적 완성도 자체가 아직은 조잡한 수준이지만 공개된 오픈소스 AI 모델이 스스로 온라인 여론을 흔드는 무기가 될 수 있음을 입증했다는 점에서 깊은 우려를 표한다.

특히 11월 미 중간선거를 앞두고 미 정보기관과 기술 기업들은 표심을 흔들기 위한 시도가 더 정교해질 것으로 본다. 카일 크라이튼 조지타운대 안보·신기술센터 연구원은 "기술 발전에 따라 AI 에이전트 주도형 공작이 훨씬 흔해질 것"이라며 "향후 에이전트는 양적 확장을 넘어 실제 인간 사용자 속에 자연스럽게 스며드는 정교함을 갖추게 될 것"이라고 경고했다.

뉴욕=심재현 특파원 urme@mt.co.kr
[내 주식이 궁금할땐 머니투데이]