충격! 손흥민 무시하는 일본기자에 분노한…전부 가짜뉴스입니다 [더 인플루언서]

유튜브·틱톡으로 뉴스보는 Z세대
가짜정보 확산과 미디어 리터러시

유튜브, 틱톡, 릴스 등 영상 플랫폼에서 가짜 영상들이 판치고 있습니다. 이러한 페이크 콘텐츠는 인공지능(AI)과 만나 더욱 정교해지고 있죠. 애국심을 불러일으키는 방식으로 유튜브를 제작해 돈을 버는 ‘국뽕 유튜버’들은 교묘하게 플랫폼의 눈을 피해 가짜 뉴스를 생산하고 있습니다.

이는 최근 Z세대들이 주로 소비하는 숏폼(짧은 영상)형태로 확산되고 있고요. 번뜩이는 창의성으로 선정적인 주제를 캐치해 ‘페이크 콘텐츠’를 만드는 크리에이터들은 특히 젊은세대(1020)과 중장년층을 타깃으로 삼고 있는 것으로 보여요.

특히 사회관계망서비스(SNS)와 영상 플랫폼을 통해 뉴스를 짧게 접하는 경향을 보이는 청소년들의 경우 페이크 콘텐츠에 취약할 수밖에 없다는 지적이 나옵니다. 이번 주 <더인플루언서>에서는 AI와 만나 진화하는 가짜뉴스, 그리고 미디어 리터러시 교육의 필요성에 대해 다뤄보겠습니다.

일본 기자 저격한 음바페? ‘가짜’

축구 기자회견장. 한 일본 기자가 한국 축구의 ‘보배’ 이강인 선수(파리 생제르맹·PSG)을 저격하자 세계적인 스타인 킬리안 음바페가 이를 저지합니다. 지난 7월 유튜브에 올라와 한국 뿐 아니라 프랑스, 일본에서까지 화제를 모은 영상에 담긴 모습입니다.

지난 7월 유튜브에 올라온 ‘이강인 무시하는 일본 기자 질문에 불쾌하다는 음바페’ 영상. 가짜로 판명됐다. 유튜브 캡처

무려 1200만 명이 넘는 사람들이 이 영상을 봤어요. 해당 영상에서 일본 기자가 “이강인 영입 마케팅이죠?”라고 묻자 음바페는 고개를 내저으며 불쾌하다는 반응을 보이는데요. 불어로 말하는 음바페의 음성에 “질문의 의도가 무엇인지 모르겠지만 이 곳에 온다는 것은 준비가 됐다는 것이다. (중략) 그리고 당신 나라의 선수들에 대해서는 전혀 알지 못한다”는 자막이 달렸고요.

그런데 이 인터뷰 영상은 가짜였습니다. 2021년 유로2020년 당시 음바페의 기자회견 영상을 가져와 거짓 자막을 덧붙인 것이죠. 텍스트를 음성으로 변환하는 TTS(Text-to-Speech)을 활용해 일본 기자의 음성까지 조작했다니 고단수로 볼 수 있겠네요.

음바페 관련 가짜 영상에 PSG커뮤니티 계정이 내놓은 입장.PSG커뮤니티 X계정

이 영상은 한국에서만 화제를 모은 것이 아니라 SNS를 타고 해외로 퍼졌습니다. 심지어 프랑스 공영방송 <프랑스24>까지 나서서 팩트체크에 나설 정도였죠. 결국엔 PSG 공식 커뮤니티 계정까지 반응을 보였습니다. PSG커뮤니티는 “음바페가 거짓 비디오의 희생양이 됐다. 한국에서 기자의 가짜 목소리를 이용해 인터뷰를 리믹스하고 조작했다”면서 “PSG가 일본에서 두 번째 여름 투어를 한다는 것을 감안하면 (음바페가)이런 말을 할 수 있다는 것을 믿기 어렵다”고 지적했죠.

‘가짜뉴스+국뽕’ 영상 인기

지금 이 순간에도 다양한 영상 플랫폼에서는 수많은 페이크 콘텐츠들이 퍼져나가고 있습니다. 가령 ‘손흥민을 중국인이라고 말한 중국인 기자에게 극대노한 감독’ ‘미토마(일본 선수)가 이강인보다 잘한다는 일본 기자에게 꺼지라고 말한 메시’ 등 소재는 무궁무진합니다. 비단 스포츠 뿐 아니라 경제, 사회, 국방 등 다양한 분야에서 이러한 ‘가짜뉴스+국뽕’ 조합의 콘텐츠가 퍼져나가고 있죠.

유튜브 쇼츠(짧은영상)을 통해 확산되고 있는 국뽕+가짜정보 영상들. 리오넬 메시가 한국 선수에 대해 발언했다고 조작한 영상들이 검색된다.유튜브 캡처

페이크 콘텐츠를 만드는 크리에이터들이 국뽕 콘텐츠에 주목하는 이유는 무엇일까요. ‘국뽕’이란 자국에 대한 환상에 도취되어 자국을 찬양하는 행태를 뜻하는 인터넷 신조어입니다. 국뽕 콘텐츠를 만들기 위해 사람들의 클릭을 유도하기 쉬워 소위 ‘돈이 된다’는 것이 업계 관계자들의 전언입니다. 국뽕 콘텐츠 현상은 한국에서만 일어나고 있는 일은 아닙니다. 문제는 선정적인 콘텐츠를 만들기 위해 양념처럼 ‘거짓말’을 가미하는 경우가 많다는 것입니다.

진짜 문제는 허위 정보 그 자체

국뽕은 하나의 토픽일 뿐입니다. 진짜 문제는 가짜 콘텐츠(허위정보) 그 자체에 있습니다. 최근 가짜 콘텐츠는 AI등 신기술과 만나 진화하고 있습니다. 마음만 먹으면 가짜 콘텐츠의 진위를 누구나 확인할 수 있는 수준을 아득히 뛰어넘는, 전문가들도 실제와 가짜를 구분하기 양상이 펼쳐질 수 있다는 의미입니다.

앞서 소개드린 음바페 기자회견 영상처럼 실제 사건과 다른 시기에 촬영된 사진이나 동영상을 가져와 시공간을 넘어 사실을 왜곡하는 방식은 이제 구식으로 평가받고 있습니다.

매사추세츠공과대(MIT) 미디어랩 연구원들이 인공지능(AI) 시스템을 통해 실제 전쟁 상황을 학습시켜 세계 주요 도시에 폭격이 가해진 ‘이미지’를 생성했다. 사진은 평화로운 보스턴 백베이 인근 시가지(위쪽)가 딥페이크 모델을 통해 폭격으로 쑥대밭이 된 모습으로 변했다. 최근 생성형 AI 기술이 발달하면서 이미지뿐만 아니라 영상으로도 이 같은 조작이 가능해졌다. 식별하기 어려운 딥페이크가 국가 안보에 큰 위협이 될 수 있다는 점에서 경각심을 가져야 한다는 목소리가 높다. MIT 미디어랩

현재 나온 기술만으로도 생성형AI를 활용해 아예 완전히 새로운 딥페이크 영상이나 사진을 뚝딱 만들어내는 것이 가능합니다. AI기술을 활용해 이미 존재하는 영상을 실시간으로 변조하는 기술도 나왔고요. 얼굴 사진을 합성해 표정과 목소리까지 조작하는 이른바 딥페이크 기술입니다.

이스라엘-하마스 전쟁에서 확산된 가짜뉴스. 매경DB

이러한 딥페이크 가짜 콘텐츠는 SNS와 숏폼(짧은 영상과 게시물) 플랫폼 등을 통해 확산되는 특징이 있습니다. 특히 이들 플랫폼에서는 ‘봇 계정’(사람의 손으로 운영되지 않는 자동화된 봇 계정)이 무차별적으로 허위 정보를 퍼뜨리고 있어 모니터링과 검열이 사실상 어려운 상황이죠.

최근엔 AI를 기반으로 한 번역 기술이 발전하면서 가짜 콘텐츠 경계가 더욱 확장되는 것도 눈에 띄는 점입니다. 실제로 이번 이스라엘 하마스 전쟁관련 가짜 뉴스는 영어, 히브리어, 아랍어 등 다양한 언어로 널리 공유됐죠. 또 요즘 딥페이크 허위정보는 그 규모와 확산 속도가 전례없이 빠르다는 특징이 있습니다. 사건 발생 이후 각국 정보기관들과 수많은 기자들이 팩트체크에 달려들었지만, 홍수에 가까운 가짜뉴스에 팩트는 사라지고 자극적인 콘텐츠로 전쟁이 일종의 유희로 소비되는 상황인 것이죠.

문화 콘텐츠 위협하는 딥페이크

진화하는 딥페이크 기술은 정치 사회 뿐 아니라 한국이 강점을 가진 문화 영역에서도 치명적일 수 있다는 지적이 나옵니다.

일례로 K팝 아이돌 그룹을 대상으로 한 딥페이크 포르노 영상물이 무분별하게 배포된 지 오래입니다. 생성형 AI 모델 공유 사이트 등에는 국내 주요 아이돌 그룹 멤버 이미지를 학습시킨 데이터도 다수 올라와 있는 것으로 알려졌죠.

이 같은 딥페이크 활용 음란물은 누구나 만들 수 있다는 점에서 더욱 큰 우려를 자아냅니다. 딥페이크 영상물은 일반인을 대상으로도 제작될 수 있습니다. K팝 스타 뿐 아니라 유명인을 상대로 한 사진, 영상물들을 얼마든지 제작할 수 있다는 얘기죠.

SNS를 중심으로 일반인의 얼굴 정보 등 다양한 데이터는 누구나 접근 가능한 시대입니다. SNS에 올라와 있는 일반인 사진, 영상들을 불법 캡처, AI 학습시킬 경우 실제와 거의 흡사한 사진 영상을 만들 수 있는 셈입니다.

민주주의 위협하는 가짜 콘텐츠

딥페이크 영상이 진화할수록, 국내외 정치에도 영향을 미칠 수 있는 ‘민주주의 리스크’를 우려하는 목소리가 나옵니다. 예컨대 대선을 앞두고 유력 대선 후보의 딥페이크 영상물이 확산할 경우 선거에 지대한 영향을 미칠 수 있겠죠.

실제로 미국을 비롯한 민주주의 선도국들은 딥페이크로 진화하는 가짜정보가 국제 정치·외교에 미칠 파장에 대해서도 예의주시하고 있습니다. 전쟁과 같은 위기상황에서 가짜 정보는 독버섯처럼 더욱 빠르게 번져나가는 특성을 띕니다. 자극적인 콘텐츠가 정치 선전과 돈벌이 수단으로 번지는 것이이죠. 미국언론연구소(API)가 10만개의 트위터 계정을 분석한 결과에 따르면 가짜 뉴스들은 이를 바로 잡는 뉴스보다 8배나 빨리 퍼져나간 것으로 나타났습니다.

진화하는 딥페이크 가짜뉴스에 대한 대응으로 AI로 생성된 콘텐츠에 강제로 디지털 워터마크(식별부호)를 삽입하는 방법도 제시됐어요. AI로 생성된 콘텐츠에 강제로 디지털 워터마크(식별부호)를 삽입하는 방식인데요. 하지만 역으로 디지털 워터마크를 고의로 부착하지 않은 AI 콘텐츠의 경우 진짜로 ‘인식’되는 문제가 있을 수 있어 실효성이 떨어진다는 지적도 있습니다.

최근 들어 AI딥페이크에 대항하는 방패도 개발되고 있지만 기술 발전과 적용 속도에 비해 더디다는 평가입니다

‘가짜정보와 전쟁’ 대응나선 빅테크 플랫폼

가짜 정보 확산에 대응하는 플랫폼들의 움직임도 빨라지고 있습니다. 수억 명의 사용자를 보유한 글로벌 플랫폼들이 가짜정보 확산의 책임에서 자유로울 수 없다는 지적이 많기 때문이죠.

우선 AI를 활용해 생성된 콘텐츠는 본질적으로 유튜브의 커뮤니티 가이드를 위반하지 않는다는 것이 유튜브 측의 설명입니다. 콘텐츠가 유튜브의 커뮤니티 가이드를 위반하는 경우 인력과 머신러닝을 함께 활용해 해당 콘텐츠를 신속하게 삭제하는 것이 유튜브가 만들어놓은 시스템입니다. 이는 유튜브 상의 모든 영상에 동일하게 적용되며, 언어나 관점, 화자에 관계없이 일관되게 적용됩니다.

유튜브의 경우 올해 1분기 잘못된 정보 관련 정책을 위반한 6만 9000개 이상의 영상을 삭제한 것으로 파악됐습니다. 한국어 전문가와 문화적 뉘앙스를 이해하는 이들을 포함해 전 세계 2만 명 이상의 인력이 유튜브의 정책을 위반하는 콘텐츠를 찾아내 검토하고, 삭제하는 업무를 진행하고 있다고 합니다.

페이스북 모회사 메타는 지난 8월 가짜뉴스를 퍼뜨리는 계정 7000여개를 삭제했다고 밝혔습니다.

플랫폼 알고리즘 개선 논의도

SNS 플랫폼 알고리즘 개선에 대한 논의도 이뤄지고 있습니다. 알고리즘을 통해 이용자들은 본인 성향에 따라 필터링된 정보만을 접하고 자신이 접한 신념에 대한 확신이 점점 강해지는 ‘필터버블(filter bubble)’에 갇히는 문제의 심각성이 대두되고 있기 때문입니다. 개인의 편견과 고정관념을 강화하고 국가(사회)를 분열시키는 것은 가짜 뉴스의 가장 심각한 폐해 중 하나로 꼽힙니다.

대부분의 플랫폼 알고리즘의 경우 가장 많은 참여도를 끌어오는 콘텐츠를 더 많이 노출되는 시스템으로 고안됐죠. 하지만 이는 의도를 가진 자극적인 가짜 게시물들이 잘못된 정보를 공유하도록 유인하는 효과로 이어지고 있다는 지적입니다.

플랫폼 사업자들은 이용자의 관심사항과 성향에 따라 이들에게 잘 맞는 정보를 선별적으로 제공하고 있어요. 자동화된 알고리즘 처리 방식에 따라 운영되는 검색 엔진의 검색 결과나 눈 뉴스피드 등이 대표적입니다. 거꾸로 알고리즘을 적절하게 조정할 경우 가짜 뉴스 같은 거짓 정보가 정보망으로 들어오는 것을 기술적으로 막을 수 있다는 의견도 있습니다.

가짜정보 막기 위해 할 수 있는 일들

우선 가짜정보 생산 및 확산 과정에서 레거시 미디어의 역할 강화 필요성이 언급됩니다. 규제와 처벌의 회색지대에 있는 가짜뉴스에 공신력 있는 언론사가 ‘팩트체크’를 통해 대응하는 것이죠. 프랑스의 경우 제3의 기관을 이용한 팩트체킹이 이뤄지고 있습니다.

뉴스 소비 과정에서는 미디어 리터러시 교육이 필요합니다. 이미 퍼져버린 가짜 뉴스를 일일히 바로잡는 것은 사실상 불가능하기 때문에, 미디어 교육을 통해 젊은 세대들이 뉴스(사실)을 식별하는 능력을 기르는 것이 중요하다는 것이죠.

가짜뉴스 식별 능력과 10대 청소년 뉴스 관련 조사 그래픽. 매경DB

팩트체크가 이미 유통되고 있는 가짜 뉴스를 검증하는 사후 대처 방안이라면, 미디어 리터러시는 콘텐츠를 효과적으로 활용할 수 있는 능력을 키우는 근본적인 대책에 가깝습니다. 예컨대 온라인 공간에서 범람하는 메시지를 차단하는 것이 아니라 이를 올바르게 해석하는 능력을 키워주는 것이죠.

유네스코는 한국위원회는 “온라인 공간의 문제는 공유를 통한 유포, 그리고 유포된 메시지를 자신이 회수하기 어려운 특성에 기인한다”면서 “이러한 공유에 대한 동기가 큰 상황에서 혐오표현을 단순히 정보나 유머로 인식할 때 혐오표현의 유포에 가담하게 된다”고 지적했습니다.

유튜브,틱톡으로 뉴스보는 Z세대

심재웅 숙명여대 미디어학부 교수의 ‘Z세대 뉴스 이용과 미디어 리터러시’ 분석에 따르면 Z세대에게는 신문이나 방송 등의 전형적인 뉴스 포맷이 별 의미가 없다고 해요.

예컨대 최근 트렌드, 친구들이 SNS에서 나누는 이야기, 업데이트 등을 뉴스로 이해하기도 한다는 것입니다. 즉 뉴스가 언론사가 생산하는 콘텐츠가 아니라 소셜피드를 스크롤하면서 최신 정보와 흥미로운 이야기를 읽는 행위로 뉴스의 영역을 확장해서 받아들이고 있다는 분석입니다.

유튜브 세대로 불리는 Z세대는 다양한 플랫폼을 오가며 뉴스를 짧게 접하고 있습니다. 한국언론진흥재단의 2022년 조사에 따르면 10대 청소년은 뉴스를 하루에 7분 정도 소비한다고 합니다.

미국의 10대는 반 이상이 소셜미디어 피드, 메신저 서비스로부터 뉴스를 얻고 있죠. 영국의 10대는 인스타그램, 틱톡, 유튜브를 통해 뉴스를 접하고요. 특히 한국의 경우 다른 나라에 비해 유튜브로 뉴스를 이용하는 비율이 높은 특징을 보입니다.

Z세대 뉴스 이용률. Z세대 뉴스 이용과 미디어리터러시(심재웅 숙명여대 미디어학부 교수)

Z세대가 이처럼 전적으로 소셜미디어 등을 통해 뉴스를 이용하다보니 가짜뉴스나 유해 콘텐츠에 노출될 가능성을 우려하는 목소리가 나옵니다. “열린 사고와 다양한 경험을 하면서 성장해야 할 청소년기에 편항된 인식이나 태도를 학습하면서 자칫 음모론을 내면화하는 부작용을 겪을 수 있을 수 있다(Vissenberg, 2020)”는 지적입니다.

스탠퍼드 연구팀은 2016년 소셜미디어에 친숙한 10대가 온라인 정보의 신뢰도를 판단하는 데 매우 취약하다는 연구 결과를 발표했습니다. 공공문제와 시민문제 등에 대한 허위정보가 더욱 확산할 수밖에 없는 환경에서 이러한 결과가 민주주의를 위협할 것이라는 게 연구진의 지적입니다.

미디어 리터러시 교육은 선택 아니라 필수

‘가짜정보 현상’은 국민과 레거시 언론을 단절시키고 국가의 신뢰를 붕괴시켜 자유민주주의에 큰 위협이 되고 있습니다. 민주주의와 자유시장경제가 고도화된 국가들 역시 이를 심각하게 받아들이고 있습니다. 지난달 13일(현지시간) 개빈 뉴섬 캘리포니아 주지사는 유치원에서부터 고등학교까지 배우는 영어·과학·수학·사회과학 등 4개 핵심 과목에 ‘미디어 리터러시’ 교육 프로그램을 통합하는 법안에 서명했습니다.

AI시대엔 미디어 리터러시를 기반으로 한 소프트파워가 한 국가의 자유민주주의와 시장경제를 지키는 나침반이 될 것으로 보입니다. 이는 결국 국가경쟁력으로 직결될 수 있겠죠. 지금부터라도 한국에서도 우리 아이들의 미디어 리터러시 교육에 관심을 가져야 할 이유입니다.

<황순민 기자의 더 인플루언서> 연재를 시작합니다. 바야흐로 누구나 인플루언서가 될 수 있는 기회가 열렸습니다. 자신만의 오리지널리티(Originality)를 구축하고 신선한 콘텐츠를 만들어내는 인플루언서 생태계를 소개하겠습니다. 네이버 기자페이지를 구독하시면 다음 기사를 쉽게 받아보실 수 있습니다.