가짜뉴스, 민주주의 위협… 한국도 ‘딥페이크 총선’ 경계령 [세상을 보는 창]

선거 앞두고 전세계 ‘비상’
대장동 김만배 허위 인터뷰 파문 이어
다음 ‘한·중 축구전’ 클릭응원 조작까지
SNS 통해 거짓 정보·여론 조작 ‘활개’
치매 책 보는 바이든·펜타곤 폭발…
AI 활용 ‘진짜같은 가짜’ 영상 생성
유권자 판단 심각한 왜곡 우려 커
美·英선 딥페이크 규제 검토 본격화
韓 ‘AI 제작 표시 의무화법’ 국회 낮잠
여야, 대책은 ‘뒷전’… 정치적 공방만

페이스북 모회사인 메타가 지난 13일(현지시간) 이스라엘과 팔레스타인 무장 정파 하마스의 전쟁과 관련한 가짜뉴스 등을 차단하기 위한 구체적인 조치들을 발표했다. 전쟁이 시작된 지난 7일부터 특별운영센터를 운영 중이며 79만5000건 이상의 콘텐츠를 삭제하거나 불온한 게시물로 표시했다는 내용이었다. 메타 사회관계망서비스(SNS) 플랫폼에 가짜뉴스가 퍼지면서 유럽연합(EU)으로부터 경고장을 받은 데 따른 조치다. EU가 SNS 플랫폼에서 가짜뉴스의 유통을 막기 위해 지난 8월부터 시행한 디지털 서비스법(DSA)을 위반하면 거액의 벌금을 물어야 한다. 위반이 반복되면 서비스가 폐쇄될 수도 있다. 앞서 X(옛 트위터)도 하마스와 관련된 계정 수백개와 콘텐츠 수만개를 삭제했다고 밝혔다.

강 건너 불이 아니다. 지난 1일 항저우 아시안게임 남자 축구 한·중 8강전 당시 포털 사이트 다음의 클릭 응원 조작 논란이 빚어졌고, 대장동 일당 김만배씨의 허위 인터뷰 파문에 이어 ‘최재경 전 대검 중수부장 발언 조작’ 의혹도 불거졌다. 최근엔 인공지능(AI) 기술을 활용한 가짜뉴스 영상과 사진까지 활개를 치고 있다. 내년 4월 총선을 앞두고 가짜뉴스와 여론조작이 더욱 기승을 부릴 가능성이 크다.

◆잇따르는 ‘대선 가짜뉴스’ 의혹

지난해 3·9 대선 직전 국민의힘 윤석열 후보를 대장동 사건 몸통으로 몰아가려 했던 가짜뉴스 의혹이 잇따르고 있다. 대선 8일 전인 지난해 3월 1일 한 인터넷 매체가 2011년 대검 중수부가 부산저축은행을 수사할 당시 윤석열 주임검사 상관이었던 최 전 대검 중수부장과 대장동 대출브로커 조우형씨의 사촌 형 이모씨의 대화 녹취록을 입수했다면서 윤 후보가 조씨 사건을 무마했던 것처럼 보도했다.

하지만 이 녹취록에 최 전 중수부장으로 나오는 사람은 더불어민주당 김병욱 의원 보좌관 최모씨였던 것으로 검찰은 보고 있다고 한다. 이 보도는 “윤 후보가 조씨에게 커피를 타주고 사건을 무마해줬다”는 ‘윤석열 커피’ 의혹과 맥락을 같이한다고 볼 수 있다. 진상은 검찰 수사를 통해 밝혀지겠지만 만약 사실이라면 민주주의 근간을 흔드는 중대한 범죄다.

윤석열 커피 가짜뉴스는 대장동 사업 핵심 인물인 김만배씨와 신학림 전 언론노조위원장의 대화 내용을 왜곡해 커피를 타준 다른 검사를 윤석열 검사로 바꿔치기하려 한 의혹이다. 민주당 이재명 후보는 대선 전날 이 가짜뉴스를 유권자 475만명에게 공식 선거운동 문자메시지로 발송했다. 당시 대선 전 최종 여론조사에서는 윤 후보가 이 후보에게 2%∼10%포인트 앞선 것으로 나왔지만 막상 투표함을 열어보니 두 후보 간 득표율 차는 0.73%포인트에 불과했다. 가짜뉴스와 가짜뉴스 문자가 유권자 표심에 영향을 미쳤을 가능성을 배제할 수 없다는 지적이다. 선거 직전 짧은 시간에 유포된 가짜뉴스는 진위를 가리기 어려운 만큼 선거 결과를 바꿀 소지도 있다.

◆포털 여론조작 취약성 보여준 ‘다음 中 응원’

아시안게임 한·중 남자 축구 8강전 클릭 응원 조작 사건은 내년 총선을 앞두고 인터넷 댓글을 악용한 여론조작이 벌어질 가능성을 보여준다. ‘클릭 응원’은 별도 로그인을 거치지 않고 횟수 제한 없이 스포츠 경기를 응원할 수 있는 기능이다.

다음의 한·중 축구 8강전 응원 클릭에서 매크로(자동화 프로그램) 조작 정황이 나왔다. 다음 운영사인 카카오는 “내부 파악 결과 당일 다음 스포츠 ‘클릭 응원’ 페이지에서 해당 경기 클릭 응원에 참여한 것으로 확인된 해외 IP 2개가 전체 해외 IP 클릭(1993만건)의 99.8%인 1989만건을 차지했다”고 밝혔다. 이 2개 IP의 클릭 비중은 네덜란드 79.4%(1539만건), 일본 20.6%(449만건)였다. 8강전 당시 클릭 응원 건수 약 3130만건 가운데 중국 클릭 응원이 93.2%(2919만건)로 한국 클릭 응원 6.8%(211만건)를 압도하는 현상이 나타난 것이다. 특정 세력이 해외 IP를 활용해 여론을 조작했을 공산이 크다. 포털의 여론 조작 취약성이 다시 한 번 드러난 셈이다. 중국과 북한이 불순한 의도로 국내 선거 등에 조직적으로 개입하지 말란 법이 없다. 우리는 2017년 대선에서 ‘드루킹 여론조작 사건’을 경험한 바 있다.

◆AI발 가짜뉴스까지 기승

지난 7월 러시아 관영 스푸트니크통신은 SNS 스레드 계정에 조 바이든 미국 대통령이 서점에서 치매 관련 책들을 둘러보는 영상을 게재했다. 이 영상은 페이스북과 인스타그램 등 다른 플랫폼으로 퍼졌고 바이든 대통령은 조롱거리가 됐다. 하지만 이 영상은 디지털 방식으로 조작된 것으로 밝혀졌다. 내년 11월 대선을 앞두고 바이든 대통령의 가장 큰 약점인 고령과 건강 문제를 겨냥해 퍼트린 허위 정보였던 것이다. 지난 5월엔 미국 국방부 청사(펜타곤) 인근에 대형 폭발이 발생해 검은 연기가 치솟는 가짜 사진이 SNS를 통해 빠르게 퍼지면서 주가가 하락하고 출렁이고 금·국채 가격이 오르는 등 금융시장에 큰 혼란이 빚어졌다. 챗GPT 창시자인 샘 올트먼 CEO가 내년 대선을 앞두고 규제 필요성을 역설했을 만큼 상황이 심각하다.

한국 사회는 광우병, 사드(THAAD·고고도미사일방어체계), 일본 후쿠시마 원전 오염수 괴담에서 보듯 가짜뉴스와 허위선동에 취약하다. SNS와 정치권 등에서 가짜뉴스가 넘쳐나는 판에 AI가 만든 가짜뉴스까지 극성을 부리면 내년 4월 총선에선 진실과 거짓을 가릴 수 없는 혼탁한 양상이 벌어질 수 있다. AI발 가짜뉴스를 막기 위해선 처벌 강화 등 법과 제도 정비가 필요하다는 지적이 나오는 이유다.

내년에 대선과 총선을 앞둔 미국과 영국 등에서는 생성 AI가 만들어낼 가짜뉴스와 여론 조작의 위험성을 경고하면서 대책 마련에 나섰다. 미 연방선거관리위원회(FEC)는 얼마 전 딥페이크(deep fake) 이미지를 이용한 가짜뉴스 규제 검토에 착수했다. 앞서 EU도 무분별한 AI 사용을 규제하는 지침 초안을 발표했다. 하지만 우리 사정은 다르다. 해당 콘텐츠가 AI를 이용해 제작됐다는 사실을 표시하도록 의무화하는 법안 등이 발의돼 있지만 아직 국회 문턱을 넘지 못하고 있다. 정부와 정치권이 AI 가짜뉴스의 심각성을 제대로 인식하고 있지 못하다는 비판이 제기된다.

◆여야는 대책 마련보다 정치적 유불리에 관심

가짜뉴스와 여론조작은 극단적이고 소모적인 갈등과 분열을 초래하고, 민주주의를 훼손한다. 이를 뿌리 뽑을 대책 마련이 시급하지만 여야는 정치적 유불리에만 신경을 쓰고 있다. 정부·여당은 ‘가짜뉴스 척결’을 기치로 내걸고 강경한 대응책을 쏟아내고 있다. 방송통신위원회는 ‘가짜뉴스 근절 추진 방안’을 발표했고 여당은 관련 입법을 추진 중이다. 반면 야당은 여권 움직임을 ‘언론 탄압’이라고 주장하면서 맞선다. 정부·여당과 다른 의견을 가짜뉴스로 규정해 공격하는 등 언론 장악 의도가 의심된다는 것이다. 아시안게임 응원 페이지 여론조작 의혹에 대해서도 여당은 ‘드루킹 시즌2’로 번질 수 있는 중대한 사안이라고 입장이지만 야당은 ‘포털 길들이기’라고 반박한다.

국민을 속이는 가짜뉴스가 범람하는 데는 SNS와 유튜버 등 1인 미디어 탓이 크지만 정치권도 책임에서 자유로울 수 없다. 당파적 이익을 위해 음해성 가짜뉴스를 생산하는 것도 마다하지 않는 게 정치권 실태다. 여야가 가짜뉴스와 여론조작을 정쟁과 선거에 이용하려 할 게 아니라 재발 방지책 마련에 지혜를 모아야 한다는 목소리가 높다.

원재연 논설위원