오픈AI 보고서 “러·중 등, AI 기술로 여론전 주도”

오픈 AI, AI 기술 악용 사례 담은 첫 보고서 발표
정치적 선동 등 목적으로 소셜미디어에 글 올려
프로그램 디버깅에도 사용돼

[123rf]

[헤럴드경제=김영철 기자]러시아, 중국, 이란, 이스라엘이 여론전을 위해 오픈AI의 생성형 인공지능(AI)을 사용했다고 뉴욕타임스(NYT)가 30일(현지시간) 보도했다.

NYT에 따르면 오픈AI는 보고서를 통해 이들 국가의 기관과 민간 기업이 소셜미디어 게시물 생성, 기사 번역과 편집, 프로그램 코드 디버깅 등에 자사의 기술을 사용했다고 밝혔다. 이같은 활동은 정치적 지지를 얻거나 지정학적 분쟁에서 여론을 흔들기 위한 목적이 있었다고 설명했다.

오픈AI의 이번 보고서는 자사의 도구들이 어떻게 악용됐는지 밝힌 첫 사례라고 소셜미디어 연구원들은 지적했다. 특히 전 세계적으로 주요 선거가 진행되는 상황에서 이 기술이 악용될 수 있는지에 대한 의문을 일으켰다고 NYT는 전했다.

영국 파이낸셜뉴스(FT)는 “딥페이크 생성과 허위 콘텐츠 전파 등이 그 어느 때보다 쉬워진 상황에서 오픈AI처럼 급성장하는 AI 기업들에 대한 압박이 거세지고 있다”고 설명했다.

오픈AI의 주요 조사관인 벤 님모는 “사례 연구를 통해서 현재 지속되고 있는 캠페인의 일부 사례를 보여줬다”며“이런 캠페인들은 여전히 청중을 확보하기 위해 나오고 있다”고 말했다.

보고서는 연구자들이 수년간 추적해온 결과 중국의 스팸메일이나 러시아 정보전인 ‘도플갱어’로부터 이 같은 허위 정보들을 확산했다고 분석했다. 오픈AI의 기술을 이용해 X(엑스·옛 트위터)에 영어, 프랑스어, 독일어, 이탈리아어, 폴란드어로 우크라이나 전쟁에서 러시아를 지지하는 내용의 댓글을 썼다는 게 오픈AI의 설명이다.

텔레그램에서도 우크라이나와 몰도바, 발트해 연안국, 미국인들을 대상으로 사용됐으며, 영어와 러시아 등 다양한 언어를 동원해 몰도바와 미국에 대한 정치 상황을 설명하는 댓글을 썼다고 오픈AI는 전했다. 다만 몇몇 댓글들은 어눌한 문법 구조로 인해 AI가 작성한 것을 짐작할 수 있는 수준인 것으로 나타났다.

오픈AI는 “중국의 스팸메일은 자사 기술을 이용해 코드를 해독하고, 중국 당국에 비판적이었던 사람들을 비하하는 소셜미디어 게시물을 만드는 데에도 사용됐다”고 말했다.

중국과 러시아 외 이란과 이스라엘 역시 선동 목적으로 오픈AI의 기술을 악용해 허위정보를 퍼뜨렸다고 보고서는 전했다.

다만 보고서는 “인공지능 전문가들이 예측한만큼 생성형AI로 만든 허위 정보가 아직 설득력 있는 수준은 아니다”고 전했다. 허위정보 연구회사 그래피카의 최고 정보 책임자 잭 스텁스는 “우리가 우려하는 AI로 인한 허위정보의 확산이 아직까진 구체화된 정도는 아니다”고 진단했다.

yckim6452@heraldcorp.com