“네타냐후 총리가 주치의 살해?”…올해에만 10배 늘었다는데

가짜 언론사 사이트 49개→600개
내년 미국·대만 등 주요 대선 앞두고
전례 없는 대규모 정보전쟁 우려

[사진=픽사베이]

생성형 인공지능(AI) 등장 이후 허위정보 사이트가 폭발적으로 증가한 것으로 나타났다. AI가 순식간에 무료로 ‘가짜뉴스’를 만들어주다보니, 하루에 수만 개의 허위기사가 쏟아져 나온다. 미디어 환경이 급변하면서 이용자들이 선전과 선동에 더욱 취약해지고 있다는 지적이 나온다.

17일(현지시간) 워싱턴포스트(WP)는 지난 5월 이후 AI가 생성한 가짜 뉴스기사를 게재하는 웹사이트가 49개에서 600여 개로 10배 이상 증가했다고 보도했다. 허위정보 추적 기관인 뉴스가드의 연구를 인용한 것인데, 이들 사이트는 하루 수만 개의 가짜뉴스를 만들어내고 있다.

올 들어 이런 웹사이트가 급증한 것은 생성형AI를 접목했기 때문이다. 이전까지는 가짜뉴스를 퍼뜨리려면 사람이 직접 작성해야 했지만, 작년 말 출시된 챗GPT 같은 생성형AI를 활용하면 불과 몇 분만에 진짜 같은 가짜뉴스를 만들 수 있다.

이런 사이트는 i비즈니스 데이(iBusiness Day), 아일랜드 톱 뉴스(Ireland Top News) 등 실제 뉴스매체 같은 이름을 사용하고 실제 뉴스기사들 사이에 가짜뉴스를 끼워 넣어 독자들을 현혹시킨다. 더 큰 문제는 가짜뉴스의 생산량이 기하급수적으로 늘고 있다는 점이다. 이들 웹사이트는 하루에 수백 개에 달하는 가짜뉴스를 생산하고, 이를 수십 개의 언어로 번역해 게재하고 있는 것으로 나타났다.

제프리 블레빈스 신시내티 대학 언론정보학 교수는 “AI가 위험한 이유는 그 범위와 규모가 방대하다는 것”이라며 “특히 AI가 보다 정교한 알고리즘과 결합한다면 우리가 전에 보지 못한 대규모 정보 전쟁이 벌어질 것”이라고 지적했다.

쉽고 빠르게 양질의 ‘가짜뉴스’를 생산할 수 있게 되면서, 선거 국면이나 전쟁 상황에서 가짜뉴스를 정치적으로 활용하려는 시도는 더욱 늘어날 전망이다.

실제 글로벌 빌리지 스페이스(Global Village Space)라는 한 ‘가짜뉴스’ 사이트는 최근 베냐민 네타냐후 총리가 본인의 정신과 주치의를 살해했음을 시사하는 내용의 기사를 퍼뜨렸다. 추후 이 정신과 의사는 허구의 인물로 밝혀졌으나 이미 이란 TV쇼와 아랍권 미디어 사이트, 틱톡, 레딧, 인스타그램 등 각종 소셜미디어에 해당 뉴스가 퍼진 뒤였다.

특히 내년에는 ‘지구촌 인구 절반이 선거장에 간다’고 할 만큼 주요국 대선이 예정돼 있어 각국 정보기관이 이런 가짜뉴스를 활용한 심리전에 나설 가능성이 높다는 우려가 나온다.

이번 연구를 주도한 잭 브루스터 뉴스가드 연구원은 “정보기관들이 AI가 생성한 가짜뉴스를 통해 다른 나라의 선거에 영향을 미치려 한다고 해도 전혀 놀라지 않을 것”이라며 “정치인들이 상대 후보에 대한 허위정보를 퍼뜨리는 웹사이트를 개설하지 않는 걸 보는 게 더 어려울 것”이라고 꼬집었다.