진짜보다 더 센 가짜뉴스 한방 … 美증시 시총 189조원 날리기도

딥페이크에 멍드는 자본시장
"당뇨환자에 인슐린 무료공급"
"美·사우디에 무기 안팔겠다"
가짜 트윗에 기업 주가 5% 뚝
진짜보다 페이지뷰 84% 많고
주가에 일주일 넘게 영향미쳐
페이크뉴스 판별 AI도 한계

2022년 11월 10일 미국 제약사 일라이릴리가 발송한 것으로 보이는 "당뇨 환자들을 위한 의약품 인슐린을 이제부터 무료로 공급한다"는 트윗이 올라왔다. 가짜 계정이 만든 가짜뉴스였다. 이에 진짜 일라이릴리는 해당 사실을 전면 부인했지만 주가는 4.45% 급락했다.

한 해커집단은 2013년 5월 23일 AP통신 트위터 계정을 해킹한 뒤 "백악관에서 두 차례 폭발이 있었으며, 버락 오바마 대통령이 다쳤다"는 가짜뉴스를 트윗을 올렸다. 이 여파로 당일 미국 S&P500지수 시가총액이 1400억달러(약 189조원) 가까이 증발했다. 해커 단체는 자신을 '시리아 전자군(SEA)'이라고 소개하면서 "바샤르 알아사드 시리아 대통령을 지지한다"며 미국의 반군 지지를 비판했다.

가짜뉴스가 자유 민주주의 핵심 가치인 진실을 위협한 대표적인 사례들이다. 왜곡된 허위 정보가 기승을 부리면서 신뢰를 근간으로 하는 자본시장 질서마저 뒤흔들고 있다. 더구나 이미지를 만들어내는 생성형 인공지능(AI) 기술이 발달하면서 이를 악용한 '딥페이크(Deepfake)' 심각성이 커지고 있다.

딥페이크는 AI와 같은 하이테크를 활용해 가짜를 진짜처럼 보이도록 조작한 것을 가리킨다. 특히 딥페이크 동영상은 진위 여부를 파악하기 힘들다는 점에서 사회문제를 일으킨다. 종류로는 얼굴 영상을 추출해 다른 영상과 합성하는 페이스 스왑, 종전 음성에 다른 음성을 집어넣는 음성 합성, 움직임을 추출해 다른 사람 움직임과 교체하는 모션 캡처 등이 있다.

가짜뉴스는 파급력이 크다. 방위산업체 록히드마틴이 올린 것으로 조작된 "인권 침해에 관한 추가 조사가 이뤄지기 전까지, 사우디아라비아와 이스라엘, 미국에는 모든 무기를 팔지 않겠다"는 트윗이 지난해 11월 큰 논란거리가 됐다. 트윗은 가짜 계정을 통한 가짜뉴스였지만 해당 트윗 한 번에 주가는 5.48% 급락했다. 사람들이 가짜뉴스에 현혹되는 이유는 자극적이기 때문이다. 시몬 코건 매사추세츠공과대(MIT) 경영대학원 교수는 '가짜뉴스, 투자자 주의, 시장 반응'이라는 논문을 통해 "가짜뉴스 기사는 진짜 기사보다 페이지 뷰가 83.4% 더 높은 것으로 나타났다"고 강조했다.

또 다른 연구는 부정적인 가짜뉴스가 중립적인 진짜뉴스보다 자본시장에 더 큰 영향력을 발휘하는 것으로 분석했다. 마리아 아르쿠리 이탈리아 파르마대 교수 등이 '이코노믹스&비즈니스 저널'에 기고한 논문 '가짜뉴스가 주식 수익률에 미친 영향'에 따르면, 2007년부터 2019년까지 미국과 유럽 증시에 등장한 149건에 달하는 가짜뉴스는 자본시장에 곧바로 타격을 입혔다. 아르쿠리 교수는 "부정적인 가짜뉴스는 일주일 동안 영향을 주는 데 반해, 긍정적이고 중립적인 일반 뉴스는 만 하루 동안 증시에 영향을 미쳤다"면서 "이는 사람들이 긍정적인 정보보다는 부정적인 정보에 더 민감하다는 사실을 알려준다"고 말했다.

가짜뉴스가 갈수록 교묘해지는 것 역시 문제다.

오세욱·박아란 한국언론진흥재단 선임연구위원이 1084명을 대상으로 실시한 가짜뉴스에 대한 일반 국민 인식 조사에 따르면, 가짜뉴스와 진짜뉴스의 내용을 판별하는 사람은 소수였다. 이들에게 진짜뉴스 문장 2개와 가짜뉴스 문장 4개를 보여줬는데, 이를 100% 맞힌 비율은 단 1.8%에 불과했다. 오 선임연구위원은 "내용만 제시했을 때는 진짜뉴스와 가짜뉴스를 구별하기 쉽지 않음을 알 수 있었다"고 설명했다. 또 연구는 일반 뉴스와 소셜미디어에서 발생하는 정보 간에 차이가 없다는 사실을 밝혀냈다. 그만큼 트윗 등을 통한 가짜뉴스의 영향력이 진짜 일반 뉴스와 동일하다는 평가다. 가짜뉴스를 생산하는 사람들이 마음만 먹으면 충분히 시장을 예측하고 악영향을 미칠 수 있다는 것을 알 수 있는 대목이다.

가짜뉴스가 급증하면서 시민들이 자발적으로 나서 해당 뉴스의 진위를 판별하는 일까지 벌어지고 있다. 온라인에서 '인텔크랩'이라는 필명으로 활동하는 저스틴 페든은 와이어드를 통해 "2021년 이스라엘과 하마스 간 무력 충돌 당시에는 상당수 뉴스가 신뢰할 수 있는 기관에서 나왔다"면서 "하지만 오늘날 온라인에 올라온 뉴스는 출처를 찾아내기 어려울 정도였다"고 토로했다.

특히 그는 "공습에 대한 동영상과 이미지가 매우 많이 올라오고 있다"면서 "이러한 영상은 끔찍하고 드라마틱해 클릭률이 높기 때문에 올리는 사람이 늘고 있다"고 말했다.

한편 AI를 통해 가짜뉴스를 적발하려는 움직임도 있다. 캐나다 사이먼프레이저대는 AI를 활용해 사람들이 가짜뉴스를 판별할 수 있도록 지원하고 있다. 웹페이지(fakenews.research.sfu.ca)에 접속해 뉴스 내용을 입력하면 진위를 알려주는 방식이다.

하지만 매번 뉴스의 진위를 AI를 통해 판별하기는 어렵다. 이덕환 서강대 과학커뮤니케이션학과 명예교수는 가짜뉴스를 원천 봉쇄하는 것은 불가능하기 때문에 비판적 합리주의(Critical rationalism)를 기르는 수밖에 없다고 강조한다. 이 교수는 "가짜뉴스를 보더라도 비판적이고 합리적으로 생각한다면 속아 넘어가지 않을 것"이라면서 "이를 위해 정확하고 신뢰할 수 있는 정보가 제대로 제공돼야 한다"고 말했다.

[이상덕 기자 / 송경은 기자 / 황순민 기자]