게임 속 장면이 실제 격추 모습 둔갑… 가짜 영상에 순식간에 320만명 속았다

[논설실의 뉴스 읽기] 가짜 뉴스 어떻게, 왜 퍼지나

이스라엘과 팔레스타인 무장 단체 하마스 간 전쟁이 지속되는 가운데 X(옛 트위터), 페이스북, 유튜브, 틱톡 같은 소셜미디어(SNS)에 연일 가짜 뉴스가 쏟아지고 있다. SNS에 올라오는 가짜 뉴스는 시시각각 변하는 전황을 왜곡하고 선전·선동에 점점 더 많이 활용되는 추세다. SNS 업체들은 게시물 사실 확인 기능을 강화하며 가짜 뉴스를 걸러내는 작업에 들어갔지만 무차별로 유통되는 가짜 뉴스를 통제하기엔 역부족이다.

테크 업계에선 가짜 뉴스가 생산되고 확산하는 과정을 주목한다. 가짜 뉴스를 이스라엘-하마스 전쟁을 계기로 중대한 사회 문제로 인식했기 때문이다.

◇가짜 뉴스 어떻게 생산되나

가짜 뉴스는 의도를 가진 소수의 왜곡에서 탄생한다. 특정 목적을 가진 소수는 빠른 확산을 위해 여러 계정에 같은 가짜 뉴스를 올린다. 이번 전쟁에서도 이러한 가짜 뉴스 생산 방식이 포착됐다. SNS 분석 업체 알레티아(Alethea)는 최근 SNS인 X에 의도적으로 가짜 뉴스를 유포하는 67계정을 포착했다고 밝혔다. 이 계정들은 평소 프로농구나 일본 관광과 같은 일반적 콘텐츠를 올렸던 계정이다. 하지만 이스라엘-하마스 전쟁이 발발하자 약속이나 한 듯 동일한 가짜 뉴스를 반복적으로 게시했다. 이 계정들은 지난 1월 러시아 푸틴 대통령이 한 행사에서 발언한 영상을 짜깁기해 “푸틴이 팔레스타인을 지지한다”는 내용의 가짜 영상을 동시다발로 게시했다. NBC뉴스는 “이 계정들이 해킹된 것인지, 판매된 것인지는 확인되지 않았다”고 했다.

테크 업계에선 이 사례를 테러 집단이나 무장 단체의 대표적 SNS 사용법이라고 본다. 이스라일 보안 업체 사이아브라는 친하마스 측 가짜 계정이 4만개 이상이라는 조사 결과를 내놓기도 했다.

조직적인 생산 외에도 조회 수나 광고 수익을 노리고 가짜 뉴스를 만드는 사람들도 있다. 지난 10일엔 틱톡에 ‘이스라엘에서 열린 한 음악 축제에 하마스가 기습 공격을 하는 장면’이라는 영상이 올라왔다. 영상 속 군중은 헐레벌떡 어딘가로 달려가고 있었다. 하지만 이 영상은 일주일 전 이스라엘 텔아비브에서 열린 팝스타 브루노 마스 공연장으로 팬들이 달려가는 모습이었다. 미 스탠퍼드대 인터넷 관측소의 르네 디레스타 연구원은 “SNS 사용자들이 게시물에 대한 좋아요 같은 반응을 얻고, 팔로어를 늘리기 위해 도발적이거나 거짓인 주장을 퍼뜨린다”고 했다.

그래픽=김현국

◇가짜 영상이 순식간에 수백만 건 조회돼

SNS에 올라온 가짜 뉴스는 불특정 다수를 거치며 전방위적으로 확산한다. 본지가 지난 8일 X에 올라온 한 가짜 뉴스를 추적해봤다. ‘Hareem Shah’라는 계정을 쓰고 프로필에 아랍계 여성 얼굴을 올린 X 사용자는 하마스가 이스라엘을 기습 공격한 다음 날인 지난 8일 오후 2시 30분 “하마스 군인이 이스라엘 헬리콥터를 격추했다”는 설명과 함께 한 군인이 로켓포로 비행 중인 헬리콥터를 맞히는 영상을 올렸다. 이 영상은 271만명이 봤고 2984회 공유됐다. 좋아요가 1만번이었고 댓글이 1784건 달렸다. 이 영상을 직접 내려받아 재게시한 별도 계정은 83개였고, 이 계정들에서 기록된 조회 수는 50만에 달했다. 하지만 이 영상은 1인칭 슈팅 게임 속 모습이었다. 총 320만명이 가짜 뉴스에 속은 것이다.

같은 날 올라온 “이스라엘 장군이 하마스에 체포됐다”는 동영상도 마찬가지였다. 이 가짜 뉴스는 좋아요를 순식간에 9165번 받았고, 조회 수 184만5000을 기록했다. 2811명이 이 게시물을 공유했다. 같은 영상이 게시된 계정 119개를 포함하면 이 가짜 뉴스는 총 400만번 조회됐다. X는 이 영상에 ‘가짜 뉴스’라는 딱지를 붙였지만 이미 널리 퍼진 후였다.

가짜 뉴스가 빠르게 퍼지는 이유에 대해선 다양한 연구가 있다. SNS 플랫폼이 만든 보상 알고리즘이 가짜 뉴스 유통을 확대한다는 분석이 많다. 플랫폼 업체들이 사실과 다르지만 눈길을 끌고 자극적인 가짜 뉴스를 더 많이 사용자들에게 띄워주고, 이러한 가짜 뉴스가 좋아요 등을 받으면 더 널리 유통하는 구조가 주범이라는 것이다. 2017년 뉴욕대 연구진은 “SNS에서 감정적 언어가 메시지 확산을 약 20% 증가시키는 것으로 나타났다”고 밝혔다.

미 서던캘리포니아대(USC)가 올 1월 페이스북 사용자 2400여 명을 대상으로 가짜 뉴스 유통 구조를 조사한 결과, SNS에서 습관적으로 뉴스를 공유하는 사람 중 15%가 전체 가짜 뉴스 유통의 30~40%를 차지하는 것으로 나타났다. 무비판적, 반사적으로 무조건 게시물을 퍼 나르고 주목을 받으려는 사용자들 때문에 가짜 뉴스가 더 많이 유통된다는 것이다. 가짜 뉴스는 진실보다 빠르게 확산된다. MIT(매사추세츠공대)의 데이터 과학자 소루시 보소기가 2018년 3월 사이언스지에 실은 ‘가짜 뉴스의 과학’ 논문에 따르면 가짜가 진짜보다 공유될 가능성이 70% 높고, 전파되는 속도가 진짜보다 6배 빠른 것으로 나타났다.

◇가짜 뉴스의 사회적 비용

가짜 뉴스는 현상을 넘어 사회적 해악이 되고 있다. 이스라엘 기반 사이버 보안 회사 CHEQ와 미 볼티모어 대학이 2019년 공동 연구한 결과, 가짜 뉴스 때문에 매년 세계 경제의 사회적 비용이 780억달러(약 105조원) 발생하는 것으로 나타났다. 특히 주식시장 가치 손실이 390억달러, 잘못된 의학 상식으로 인한 피해액이 90억달러에 달했다. 한국의 현대경제연구원은 2017년 가짜 뉴스로 연간 비용이 30조900억원 발생한다고 밝혔다.

가짜 뉴스를 단속할 1차 책임은 SNS 플랫폼 업체에 있다. 일론 머스크 테슬라 최고경영자(CEO)는 X를 운영하면서 가짜 뉴스 관리에 소홀하다는 지적을 받고 있다. 유럽연합(EU)은 X가 이스라엘-하마스 전쟁에서 불법·허위 정보를 퍼뜨리는지 확인하는 정식 조사에 나섰다. 하지만 테크 업계는 가짜 뉴스를 차단하기 위해선 SNS 기업뿐 아니라 사용자의 주의가 필요하다고 본다. 테크 업계 관계자는 “사실상 업체가 가짜 뉴스를 전부 차단하기는 불가능하다”며 “사용자들이 게시물에 경각심을 가져야 한다”고 했다.

“가짜 뉴스에 속지 않으려면 출처 확인하는 습관 들여야”

소셜미디어(SNS)에 있는 가짜 뉴스에 속지 않는 방법은 무엇일까. 워싱턴포스트는 지난 9일 ‘잘못된 정보에 빠지지 않는 법’이란 제목의 기사를 보도했다.

첫째는 SNS에 올라오는 정보를 의심해 봐야 한다는 것이다. 특히 이 뉴스로 이득을 볼 곳이 어디인지 살펴봐야 한다. 이스라엘을 습격한 팔레스타인 무장 세력 하마스는 대중을 선동하기 위해 SNS에 계획적으로 여러 가짜 뉴스를 올렸다. 워싱턴포스트는 “특히 정보가 당신의 견해와 일치하며 터무니없이 만족스러울 경우엔 더 의심해야 한다”고 했다. 조작한 정보일 수 있다는 것이다.

둘째는 SNS 게시물을 읽고 공유하는 속도를 늦춰야 한다. 가짜 뉴스가 빠르게 전파되는 주요 이유 중 하나는 무분별한 공유에 있다. 게시물이 진짜인지 가짜인지 확인하지 않고 습관적으로 공유 버튼을 누르는 것이다. 게시물의 사실 여부를 확인할 때까지 모든 것이 의심스럽다고 가정해야 한다.

셋째, 정보의 출처를 확인하는 습관을 들여야 한다. 게시물을 올린 사람이 누구인지 확인해야 한다. 특히 그가 SNS에서 인증된 사용자로 표시됐다고 무작정 믿으면 안 된다. 선거철 등에는 공인된 사용자들도 가짜 뉴스를 빈번하게 올리며 표 몰이를 한다. 최대한 게시물의 원본 출처를 찾고, 게시물을 올린 사람이 진짜 전문가인지 파악해야 한다. 정식 언론이나 공식 정부 계정 등 믿을 수 있는 출처를 파악해놓는 것도 좋은 방법이다. 게시물의 날짜를 확인하는 일도 필요하다. 국제도서관협회연맹은 “예전 뉴스가 마치 현재 상황인 양 게시되는 가짜 뉴스도 많다”고 했다.

최근 인공지능(AI)이 급속도로 발전한 상황에서 AI로 만든 가짜 콘텐츠에 대한 경각심도 필요하다. 새로운 그림이나 사진을 창작해주는 AI는 아직 사람 손을 구현하기를 가장 어려워한다. 사진이나 영상 속 손 모습이 이상하다면 일단 가짜 뉴스를 의심해야 한다. 또한 사진에 나오는 거리 표지판이나 상점 간판에 쓴 문구가 정상적인지 따져 보는 것도 가짜 뉴스를 확인하는 방법이다.