오픈AI “러·중 해커, AI 이용해 허위 콘텐츠 만들어”... 정보 전쟁 무기된 생성형 AI

생성형 인공지능(AI) 기술이 여론 조작의 새로운 도구로 활용되고 있다. 뉴욕타임스는 30일(현지 시각) 오픈AI의 보고서를 인용해 러시아·중국·이란·이스라엘 등이 AI를 이용한 여론전에 나섰다고 보도했다.

오픈AI /로이터 연합뉴스

오픈AI는 이들 국가의 기관과 민간 기업이 GPT를 소셜미디어 게시물 생성, 기사 번역과 편집, 프로그램 코드 디버깅 등에 사용했다고 밝혔다. 이러한 활동은 정치적 지지를 얻거나 지정학적 분쟁에서 여론을 흔들기 위한 목적으로 이루어졌다고 설명했다. 오픈AI의 주요 조사관인 벤 니모는 “현재 진행 중인 캠페인의 사례를 연구했다”고 했다. 연구자들은 수년간 추적한 결과를 통해 중국의 스팸메일과 러시아 정보전인 ‘도플갱어’가 허위 정보를 확산하는 데 이 기술을 사용했다고 분석했다.

영국 파이낸셜뉴스(FT)는 “딥페이크 생성과 허위 콘텐츠 전파 등이 그 어느 때보다 쉬워진 상황에서 오픈AI처럼 급성장하는 AI 기업들에 대한 압박이 거세지고 있다”고 설명했다.

오픈AI의 기술은 X(엑스·옛 트위터)에서 다양한 언어로 우크라이나 전쟁에서 러시아를 지지하는 내용의 댓글을 작성하는 데 사용됐다. 텔레그램에서도 우크라이나·몰도바·발트해 연안국·미국인들을 대상으로 한 캠페인에 활용됐다. 중국에서는 코드 해독과 중국 당국에 비판적인 소셜미디어 게시물 생성에 이 기술이 쓰였다. 이란과 이스라엘도 선동 목적으로 허위정보를 퍼뜨리는 데 오픈AI의 기술을 악용했다.

그러나 보고서는 생성형 AI로 만든 허위 정보가 아직 설득력 있는 수준에 이르지 않았다고 전했다. 몇몇 댓글들은 어눌한 문법 구조로 인해 AI가 작성한 것을 짐작할 수 있는 수준인 것으로 나타났기 때문이다. 허위정보 연구회사 그래피카의 최고 정보 책임자 잭 스텁스는 “우리가 우려하는 AI로 인한 허위정보의 확산이 아직까진 구체화된 정도는 아니다”고 진단했다.

이어 오픈AI는 허위 콘텐츠 탐지 및 분석을 더 효과적으로 하기 위해 자체 AI 기반 도구를 구축하고 있다고 밝혔다. 회사는 “이미 안전망을 구축해 (해커들이) 악용하지 못하도록 어렵게 세팅해놨다”며 “이들의 콘텐츠 제작 요청을 (GPT가) 알아서 거부하기도 했다”고 했다.