없는 교수까지 교묘한 편집…‘AI 날개 단’ 가짜뉴스

■ 음성합성 활용한 유튜브 봇물
태권도 관련 ‘국뽕 튜브’ 영상
억지 주장하는 중국 유학생에
하버드대 교수 조목조목 반박
통쾌하지만 자막·음성 조작해
AI기술 이용한 여론호도 우려

최근 유튜브에 음성합성(TTS) 인공지능(AI) 기술을 활용한 새로운 형태의 ‘국뽕 튜브’(애국심을 자극하는 가짜 정보를 퍼뜨리는 유튜브 채널) 영상이 쏟아지고 있다. 예전에는 TTS로 합성한 기계음으로 가짜 정보를 전하는 수준에 그쳤다면, 이제는 고인이 된 인물의 사진까지 도용해 실제 대화가 오간 것처럼 교묘하게 편집해 ‘가짜뉴스’를 양산하고 있는 것이다. AI 기술이 빠르게 발전함에 따라, 여론을 호도하는 이 같은 가짜 영상이 더욱 판칠 것이라는 우려가 나온다.

21일 유튜브에 ‘참교육’ 등의 키워드로 검색하면, 교수와 학생 간 가짜 대화가 합성된 ‘국뽕’ 영상이 쏟아져 나온다. 한 영상(사진)에선 ‘해돈 래티모어’ 하버드대 교수가 ‘동아시아 국제 학술회’에서 “태권도는 중국의 문화”라는 주장을 펴는 중국인 학생에게 일갈하는 모습이 나온다. 래티모어 교수는 학생과 3분간 설전을 펼치며 중국 학생의 억지 주장을 조목조목 반박한다. “잘못된 사실을 내 학생들에게 떠벌리는 당신에게 화가 난다”며 면박을 주기도 한다. 그러나 이는 하나부터 열까지 전부 조작된 가짜 영상이다. 해당 영상에서 ‘해돈 래티모어’ 하버드대 교수라고 소개된 사람은, 사실 니콜라스 클리포드 미들버리대 교수였다. 교수에게 한마디도 지지 않으려고 대들던 중국인은 같은 대학 19학번 학생으로, 국적은 불명이다. 이들이 동아시아 국제 학술회에 참여해 태권도의 유래를 두고 말싸움을 한 적도 물론 없다. 클리포드 교수는 2019년 5월에 88세의 나이로 세상을 떠났다.

이 같은 가짜 영상을 찍어내듯 양산하는 채널들의 수법은 큰 틀에서 동일하다. 관계없는 외국인 사진 두 장에 ‘예일대 OOO 교수’ ‘중국인·일본인 학생’ 등 조작된 설정을 추가하고 TTS로 영어 대화 내용을 만든다. ‘경복궁은 중국이 건설했다’ ‘독도는 명백한 일본 땅이다’라는 학생 주장에 외국인 교수가 반박하는, 한국인이 통쾌함을 느낄 만한 대본을 짜고 한국어 자막을 단다. 실제 강의 현장에서 녹음된 듯 잡음도 들어가 얼핏 들으면 실제 녹음본인 듯싶지만 전부 가짜다. 이교구 서울대 AI연구원 교수는 “제작 과정을 보지 못해 확증은 없지만, 99% 조작된 가짜 영상으로 보인다”고 했다.

이들은 유튜브 환경에서 수십만 회의 조회 수를 손쉽게 올리며 수익을 창출하고 있다. ‘국뽕 튜브’가 창작해낸 가짜 교수 중 몇 명에게는 “대한명예시민으로 임명해야 한다”는 네티즌 팬덤까지 생긴 실정이다. 더 큰 문제는 AI 기술 발전과 함께 이 같은 가짜 영상이 더욱 교묘해질 우려가 있다는 것이다. 이 교수는 “현재 기술로도 이 영상들보다 훨씬 자연스러운 음성을 합성할 수 있다. 제작자들이 질 낮은 무료 TTS 소프트웨어를 사용한 모양”이라며 “현재는 조악한 단계지만, 기술이 상용화되면서 더욱 발전할 가짜 정보 확산을 경계해야 한다”고 지적했다.

전수한 기자 hanihan@munhwa.com