투자 미끼부터 선거 가짜 뉴스까지… '딥페이크'에 골머리 앓는 아시아

싱가포르 총리 "딥페이크 경계하라"
"권위주의 정부, 유권자 조작 악용"
실제 뉴스를 '가짜' 주장하는 사례도

생성형 인공지능(AI)과 이를 기반으로 하는 인간 이미지 합성 기술(딥페이크)이 만든 가짜 뉴스가 아시아 지역을 휩쓸고 있다. 국가 수반 등 유명 인사를 사칭해 위험 투자를 권하거나 굵직한 선거를 앞두고 거짓 정보를 유포하면서 정치, 사회, 경제적 혼란을 야기하고 있다는 지적이 나온다.

싱가포르 총리가 ‘코인 투자’ 권유?

지난달 31일(현지시간) 싱가포르 스트레이트타임스와 인도 인디언익스프레스 등에 따르면, 남아시아·동남아시아 국가들은 온라인상 거짓 정보 탓에 그야말로 골머리를 앓고 있다. 암호화폐(가상자산) 거래와 상장, 연구가 활발한 싱가포르에서 최근 리셴룽 총리가 암호화폐 투자를 조장하는 듯한 동영상이 사회관계망서비스(SNS)를 통해 확산한 게 대표적이다.

영상 속 리 총리는 중국 관영 국제텔레비전(CGTN) 대담 코너 ‘리더스 토크’에 출연해 “일론 머스크 테슬라 최고경영자(CEO)가 설계하고, 싱가포르 정부가 승인한 혁신적인 암호화폐 플랫폼에 투자할 기회”라며 특정 사이트를 홍보했다. 그러나 이는 딥페이크(AI 기술인 ‘딥러닝’과 가짜를 의미하는 단어 ‘페이크’의 합성어)를 악용한 가짜 영상이다. 리 총리가 지난해 3월 해당 프로그램과 실제로 인터뷰를 한 데다, 그의 독특한 억양과 표정 등이 그대로 묻어나 있어 얼핏 봐서는 진위를 파악하기 힘들다.

리셴룽 싱가포르 총리가 중국 방송 인터뷰에서 암호화폐 사이트 투자를 촉구하는 것처럼 만든 딥페이크 영상. 리셴룽 총리 페이스북

피해 사례가 속출하자 리 총리도 결국 직접 진화에 나섰다. 그는 전날 “사기꾼들이 AI를 사용해 내가 한 번도 하지 않은 말을 뻔뻔하게 비디오로 만들고 있다. 투자 수익금을 보장한다는 영상에 혹하면 안 된다”며 “딥페이크 기술에 경계심을 가져 달라”고 촉구했다.

선거 전 딥페이크 ‘가짜 뉴스’ 판친다

올해 각종 선거를 앞두고 여론을 선동·조작하는 사례도 줄을 잇는다. 2024년 전 세계에서 가장 먼저 선거를 치르는 방글라데시(1월 7일)에선 이미 AI를 동원한 거짓 선거 운동이 현실이 됐다. 지난달 중순 방글라데시 사회관계망서비스(SNS)에 AI로 생성된 ‘가상 앵커’가 폭동 소식을 보도하며, “현 정권과 대립하는 미국 외교관들이 선거에 개입하고 폭력을 행사했다”고 말하는 영상이 퍼진 것이다.

이 비디오를 온라인 뉴스 매체들이 확산시키면서 허위 정보가 마치 사실인 양 알려지기도 했다. 인공지능분야 석학 제프리 힌턴 캐나다 토론토대 교수는 지난달 일본 요미우리신문 인터뷰에서 “권위주의 정부일수록 개인을 겨냥한 가짜 정보를 통해 유권자를 조작하는 것이 더욱 쉬워질 것”이라고 꼬집었다.

임란 칸 전 파키스탄 총리가 지난해 5월 파키스탄 라호르의 관저에서 기자들과 이야기를 나누고 있다. 라호르=로이터 연합뉴스

올해 상반기 총선을 앞둔 인도네시아(2월)와 인도(4, 5월)에서도 일부 출마자가 경쟁자의 실언이 담긴 가짜 영상과 음성을 온라인에 게재하는 일이 사회 문제로 떠오르고 있다. 후보끼리 얼굴을 붉히고 진실 공방을 벌이는 일이 잦아지고 있다는 게 현지 매체의 설명이다.

인도 팩트체크 전문매체 붐의 캐런 레벨로 부편집장은 “(인도에) 딥페이크 콘텐츠가 넘쳐나면서 (누군가의) 평판이 훼손되고 선거 결과마저 바뀔 수 있다는 우려가 커지고 있다”며 “선거관리위원회가 어떤 형태로든 정당이 생성형 AI 콘텐츠를 선거 캠페인에 사용하는 것을 금지하길 바란다”고 말했다.

정치 탄압 피하는 ‘우회로’

‘진짜 대 가짜’ 구분이 애매해지면서 실제 뉴스를 가짜라고 우기는 웃지 못할 일도 발생한다. 지난달 인도에서는 한 정치인이 자신에게 불리한 녹취록이 공개되자 “AI로 만든 가짜”라고 주장했다. 하지만 향후 검증 과정에서 사실임이 드러났다.

반대로 신기술이 정치적 제약과 탄압을 피해 자신의 의견을 드러내는 ‘우회로’로 사용되기도 한다. 지난달 18일 유튜브에는 부패 혐의로 수감 중인 임란 칸 전 파키스탄 총리가 대중을 향해 “2월 8일 총선에 대거 참여해 파키스탄정의운동(PTI) 정당 후보들을 지지해 달라”고 호소하는 음성 파일이 공개됐다. 해당 연설은 칸 전 총리의 옥중 자필 연설문에 기반해 AI가 제작한 것으로 알려졌다.

하노이= 허경주 특파원 fairyhkj@hankookilbo.com