시키지도 않았는데… AI가 가짜뉴스 만들었다

5000만명이 쓰는 美 뉴스앱 논란

지난해 말 미국의 인기 뉴스 앱 ‘뉴스 브레이크’는 크리스마스 때 뉴저지주의 한 마을에서 총격 사건이 일어났다는 기사를 실었다. 하지만 뉴저지주 경찰은 그날 총격 사건은커녕 비슷한 사건조차 없었다고 밝혔다. 이 기사는 인공지능(AI)이 만들어낸 가짜 뉴스로 밝혀졌다. 뉴스 브레이크는 나흘 뒤 이 기사를 삭제하면서 “AI가 잘못된 정보를 갖고 기사를 생산했다”고 밝혔다.

최근 뉴스 브레이크의 가짜 기사 사건이 미국 정치권에 다시 소환된 것은 이 앱이 사실상 중국 인력과 기술, 자본으로 운영된다는 사실이 언론 보도로 드러났기 때문이다. 이에 미국 의회에선 이 앱에 대한 정부 차원의 조사를 촉구하는 목소리가 나오고 있다. 특히 AI는 스스로 가짜 뉴스를 생산하고도, 이것이 진실인지 아닌지 판단하지 못한다. AI가 생산하는 뉴스 콘텐츠의 진실성에 대한 근본적 의문이 제기되는 것이다.

그래픽=백형선·Midjourney

◇AI가 만드는 가짜 뉴스

뉴스 브레이크 미국에서 가장 다운로드 수가 많은 뉴스 앱 중 하나로 사용자가 5000만명이 넘는다. 이 앱은 로이터, AP통신, CNN 등 언론사의 콘텐츠를 공급받아 게시한다. 또 인터넷에서 특정 단어가 포함된 지역 언론의 기사와 보도자료를 AI 모델이 학습한 뒤, 이를 새로운 기사로 만들어내기도 한다. 가짜 뉴스는 이 과정에서 만들어진 것으로 추정된다.

테크 업계 관계자는 “기존에 가짜 뉴스는 사람이 AI에 특정한 내용을 의도적으로 증폭시키거나 처음부터 가짜 콘텐츠를 주문하는 방식이었다면, 뉴스 브레이크는 AI가 사실이 아닌 것을 진실이라 믿는 ‘환각 현상’ 때문에 가짜 뉴스가 만들어진 사례”라고 말했다. 기존 뉴스와 자료를 조합해 사실과 전혀 다른 뉴스 콘텐츠를 작성하고, 이를 사실인 양 기사로 공급하는 것이다. 예컨대 ‘뉴저지’와 ‘크리스마스’를 키워드로 하는 기사들을 여럿 모아서 새 기사를 작성하는 과정에서 관련 없는 총격 사건 기사도 끌어다 쓸 수 있는 것이다다. 인간이 거의 개입하지 않은 이 기사엔 가상의 기자 이름까지 달렸다.

◇중국 인력, 자본으로 만든 가짜 AI 뉴스

미국 정치권은 수십 건의 AI 가짜 뉴스를 게재한 인기 뉴스 앱의 배후에 중국이 있다는 것을 우려하고 있다. 뉴스 브레이크의 주요 투자자인 IDG캐피털은 중국 베이징에 본사를 두고 있으며, 미국 국방부가 지난 2월 중국군과 협력하고 있다고 밝힌 수십 개의 중국 기업 중 하나이다. 또 뉴스 브레이크의 본사는 캘리포니아주 마운틴뷰에 있지만 중국 베이징과 상하이에도 지사를 두고 있다. 임직원 200여 명 중 절반 이상이 중국에 있으며, 앱 알고리즘과 같은 엔지니어링과 연구 개발(R&D) 업무 대부분이 중국 지사에서 이뤄지고 있다. 미 상원 정보위원장인 마크 워너 의원은 “이번 사건은 적대국의 기술이 제기하는 심각한 위협의 한 사례”라고 했다. 다만 뉴스 브레이크의 가짜 뉴스가 생성되는 과정에 중국이 의도적으로 개입한 사실은 아직 확인되지 않았다.

AI를 활용해 만든 가짜 뉴스가 국가 간 갈등을 촉발하는 사례도 늘고 있다. 지난 5일 뉴욕타임스에 따르면 이스라엘 텔아비브에 있는 마케팅 회사 스토익은 AI로 이스라엘 포로 석방을 촉구하는 내용, 이스라엘 군의 활동을 칭찬하는 기사와 소셜미디어 콘텐츠를 만들어냈다. 이스라엘 재외동포부가 선전전, 심리전을 위해 이 회사에 의뢰한 작업이다. 지난달 30일 오픈AI가 발표한 조사 결과에 따르면 러시아와 중국, 이란, 이스라엘에서도 챗GPT를 활용해 우크라이나 및 가자 전쟁, 인도 선거, 미국 정치 문제에 초점을 맞춘 가짜 뉴스와 댓글이 만들어졌다.