소총 든 자유의 여신상, 이상한 손가락...MS "中, 美 흔들고 있다"

마이크로소프트(MS) 위협 분석센터가 이달 내놓은 보고서 표지. 사진 마이크로소프트(MS)

인공지능(AI)이 만들어낸 가짜 게시물 등이 내년 미국 대선에 혼란을 일으킬 수 있다는 우려가 커지는 가운데, 마이크로소프트(MS)가 중국이 미 대선에 영향을 미치기 위해 사용한 것으로 추정되는 가짜 소셜미디어(SNS) 계정을 발견했다고 밝혔다.

7일(현지시간) MS 위험 분석센터가 공개한 보고서에 따르면 이 계정들은 지난 3월부터 생성형 AI 기술을 사용해 정치적인 내용을 담은 콘텐트를 영어로 제작해 올리고 계정 공개 위치를 미국으로 바꾸는 등 마치 미국 유권자인 것처럼 위장했다고 밝혔다. MS의 보고서는 어떤 SNS 플랫폼에 몇 개의 가짜 계정이 있는지 등을 숫자로 밝히진 않았다. 다만 페이스북·X(옛 트위터) 등에 올라간 게시물을 캡처(갈무리한 화면)해 보고서에 담았다.

보고서에 예시된 '흑인의 생명도 소중하다(Black Lives Matter)'라는 게시물은 총탄의 흔적이 담긴 이미지와 함께 "바이든은 매우 극단적이다. 앞으로 흑인이 계속 차별받는다면 누구든 대가를 치를 것이다"라는 문장이 들어있다. 마치 조 바이든 대통령을 향한 미 공화당 지지자의 비판인 것처럼 위장했다.

보고서에 따르면 '자유의 여신상'의 왼손에 법전 대신 자동 소총을 넣고, '폭력의 여신'이라 표현한 게시물도 계정을 통해 퍼졌다. 이 자유의 여신상을 자세히 들여다면 오른쪽 손가락 숫자가 다섯 개가 넘는다. 보고서는 "사람 손으로 그린 그래픽 디자인에 의존했던 기존 게시물보다 훨씬 더 눈길을 사로잡는다"고 밝혔다.

중국 정보원이 생성 AI로 만들었을 거라 의심되는 'Black Lives Matter(흑인의 생명도 소중하다)' 게시물. 사진 마이크로소프트(MS) 위협 분석센터 보고서 캡처

중국 정보원이 생성 AI로 만들었을 거라 의심되는 '자유의 여신상' 조작 이미지. 사진 마이크로소프트(MS) 위협 분석센터 보고서 캡처

MS는 이 계정들의 배후로 중국 공산당을 의심하면서 "미 법무부가 (중국) 공안부 내 엘리트 그룹의 소행으로 지목한 활동과 유사하다"고 지적했다. 중국에 반대하거나 비우호적인 인사를 위협하는 활동을 해온 중국 정부 주도의 '912 특별 프로젝트팀'은 가짜 SNS 계정을 이용해 거짓 게시물을 만들고, 댓글 부대 등을 운영해 온 바 있다.

보고서는 다만 이 계정이 중국 정부와 어떻게 연계됐는지 구체적인 증거는 밝히지 않았다. 중국 당국은 즉시 반박했다. 워싱턴 주재 중국 대사관 측은 로이터에 "MS 보고서가 편견과 악의적인 추측으로 가득 차 있다"며 "중국은 AI의 안전한 사용을 옹호한다"고 말했다.

김민정 기자 kim.minjeong4@joongang.co.kr