[데스크시각] ‘가짜’들이 선거를 삼키기 전에

지호일 사회부장

“이강인이라는 한국 선수가 파리 생제르맹(PSG)으로 온다고 들었다. 이것이 단순한 마케팅용이라고 생각하는가?”

일본 기자가 도발적인 질문을 던진다. 프랑스 축구클럽 PSG 소속 축구 스타 킬리안 음바페는 고개를 갸웃하며 불쾌한 기색을 드러낸다. 이어 “질문 의도가 뭔지 모르겠지만, (이강인이) 재능을 가졌기에 여기로 올 수 있는 것이다”고 응수한다.

지난달 유튜브에 올라온 이 영상은 1200만건 가까운 조회 수를 올렸다. 해당 영상이나 관련 뉴스 댓글에는 음바페 응원 글과 “통쾌하다” 등의 반응이 줄지어 달렸다. 그러나 인터뷰는 조작된 영상이었다. ‘유로 2020’ 기자회견에서 음바페가 발언하는 영상에 텍스트음성변환(TTS) 기술로 만든 일본 기자의 음성을 덧댄 것. 국민 5분의 1을 낚은 영상은 정체가 들통나자 스리슬쩍 자취를 감췄다.

나도 속았다. ‘뭐야 가짜였어?’ 하는 허탈한 마음 한편으로 섬뜩함이 피어올랐다. 허상에 현실이 현혹된 셈인데, 인공지능(AI)의 힘을 빌려 이제 비전문가도 그다지 어렵지 않게 이런 영상 조작이 가능하다는 것 아닌가. 장난이든, 돈벌이든, 정치적 목적에서든 이를 퍼뜨리는 이들이 대중의 생각과 감정을 얼마든지 휘두르는 지경이 된 것 아닌가.

이런 ‘가짜’들은 타이밍에 맞춰 등장해 더 강한 전파력을 보인다. 가짜 음바페 영상 역시 이강인의 PSG 이적설이 파다하던 시점에 후쿠시마 원전 오염수 방류 문제로 반일 감정이 고조되던 상황이 맞물리며 빠르게 확산됐다.

그리고 선거철이야말로 가짜들이 노리는 대목이다. 당장 내년 총선이 다가올수록 큰 장이 설 터다. 심각한 정치 양극화와 ‘너 죽고 나 살자’식 대결 정치, 확증편향이 지배하는 진영 논리 등은 가짜 콘텐츠의 좋은 토양이 된다. 이런 생태계에서 알고리즘을 타고 SNS에 실려 개별 대중을 파고드는 허위 정보는 과거 드루킹의 ‘댓글 조작’과는 다른 차원의 위력을 발휘할 수 있다. 가히 혹세무민의 게릴라전.

생각해 보자. AI를 악용해 총선 후보의 허위 공약 발표나 인터뷰를 만들어낼 수 있고, 유력 인사가 특정 후보를 지지하는 것처럼 조작한 영상이 불쑥 나돌 수 있다. 선거 직전 경쟁 후보의 스캔들을 꾸며내는 방식도 동원될 수 있다. 치열한 접전 중에 불쑥 던져진 허위 정보 폭탄이 선거 판세를 뒤집어 놓고 장막 뒤로 사라지는 일이 기우가 아닐 수 있는 것이다.

미국에서도 AI를 이용한 가짜 콘텐츠가 선거를 오염시킬 수 있다는 경고가 이어지고 있다. ‘챗GPT의 아버지’라 불리는 오픈AI 공동창업자 샘 올트먼이 의회 청문회에 나가 “내년 미 대선에서 (이용자와) 일대일로 상호 작용하는 AI 모델이 여론을 조작하거나 움직이고 거짓 정보를 제공할 수 있다”며 규제 필요성을 역설할 정도다. 중국이 AI 기술로 내년 1월 있을 대만 총통선거와 입법원(국회) 선거에 개입할 수 있다는 대만 안보 관리의 경고도 나왔다.

많은 전문가의 우려대로 이제 조작된 영상과 가짜 뉴스가 민주주의를 위협하는 단계까지 와 있다. 유튜브 채널, 1인 미디어, SNS 등에서 실시간으로 쏟아지는 근거 불명의 콘텐츠를 막을 방법은 사실상 없다. ‘개소리는 어떻게 세상을 정복했는가’의 저자 제임스 볼의 말처럼 ‘승산 없는 참호전’인 것이다.

지금이라도 정부와 정치권, 전문가 집단, 언론, 시민사회 등이 함께 대응책 마련에 나서야 한다. 집단지성으로 진위를 판별하는 플랫폼을 구축하거나 ‘AI 생성 콘텐츠’ 표시 의무화 등의 규제를 만드는 방안도 있겠다. 선을 넘는 가짜를 단죄하는 법적 제도적 조치도 필요하다. 가짜들이 우리 사회를, 선거판을 삼키도록 놔둬서는 안 되지 않겠나.

지호일 사회부장 blue51@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지