거짓을 욕망하고, AI로 가짜 정보 찍어내는 ‘탈진실’의 시대

선거의 해, ‘허위정보’ 경보
AI 이용해 누구나 손쉽게
가짜뉴스 대량 생산 가능
자신에게 불리하면 “가짜뉴스”
국내정치도 ‘탈진실 화법’ 확산
문해력·시민교육 강화해야
양극화한 정치사회 토양 개선

탈진실 시대의 개막을 알린 2016년, 브렉시트 투표를 앞두고 보리스 존슨 전 런던시장의 연설을 듣고 있는 찬성파. 맨체스터/EPA 연합뉴스

“자유롭고 열린 만남에서 진실이 더 악화될 수 있다는 걸 누가 알았을까?”

영국 시인 존 밀턴은 언론과 출판의 자유를 주장한 책자에서 일찍이 진실의 위태로움을 이렇게 예견했다. 2016년 옥스퍼드 영어사전은 ‘올해의 단어’로 ‘탈진실’을 선정한 바 있다. 인공지능 등 첨단 기술을 이용해 생성한 그럴듯한 거짓이 진실보다 ‘진실처럼’ 통하는 시대의 개막을 함축한다.

올해는 선거의 해다. 4월 한국 총선, 11월 미국 대선 등 세계 곳곳에서 중요한 선거가 예정되어 있다. 선거는 한 사회의 미래를 놓고 의제와 세력이 충돌하고 갈등하는 공적 논의의 장이다. 탈진실 현상은 공적 논의에서 필수적인 ‘사실’을 무력하게 만들고 정치사회적 질서를 뿌리째 흔든다.

AI로 허위정보 대량생산

지난해 6월, 영국 케임브리지대학교 사회의사결정 연구소는 챗지피티(GPT) 초기 버전을 이용해 신경망이 음모론 등 그럴듯한 허위 정보나 가짜 뉴스를 생성할 수 있으며, 미국인들의 약 40%는 조작된 가짜 뉴스에 취약하다고 발표했다. 연구소가 개발한 허위정보 민감도 측정 도구를 활용해 2년 동안 8000명을 대상으로 조사한 결과다. 연구팀은 “그럴듯한 거짓 기사제목이 필요할 때 우리는 지피티 기술로 눈을 돌렸다. 인공지능은 몇 초 만에 수천 개의 가짜 기사제목을 만들어냈다”고 밝혔다.

학술지 ‘사이언스’에 발표된 최근 연구들도 인공지능이 허위 정보 생성을 ‘민주화’하고 있음을 보여준다. 지피티3는 사람보다 더 감쪽같은 허위 정보를 생산하고 사람들은 무방비로 속아넘어간다. 이처럼 인공지능을 이용하면 전문 기술이 없어도 특정 이슈나 주제를 학습시켜 가짜 뉴스를 대량 생산할 수 있다. 심지어 ‘마이크로 타게팅’ 등 선거에 필수적인 고도의 전략 대응도 가능하다.

우려는 이미 현실로 나타나고 있다. 사람 기자 없이 ‘뉴스봇’을 사용해 하루에도 수백건의 기사를 쏟아내는 뉴스 정보 사이트가 지난 5월 이후 12월까지 49개에서 600개 이상으로 10배 이상 증가했다. 뉴스 신뢰도를 평가하고 허위정보를 모니터링하는 미국 비영리단체 뉴스가드의 발표다. 이처럼 인공지능을 이용하면 사람이 운영하는 것에 견줘 진짜 같은 콘텐츠를 저렴한 비용으로 대량·생산 유포할 수 있어 제어가 어렵다.

대통령에게 불리한 ‘바이든·날리면’ 보도를 가짜 뉴스로 몰아간 류희림 방송통신심의위 위원장을 시민단체들이 규탄하고 있다. 신소영 기자 viator@hani.co.kr

비가역적인 탈진실 현상

탈진실은 “여론을 형성할 때 객관적 사실보다 개인적 신념과 감정에 호소하는 것이 더 큰 영향력을 발휘하는 현상”이다. 거짓이라도 각자의 신념과 정서에 부합하면 참으로 받아들여질 수 있다는 의미다. 2016년 미국 대선에서 트럼프 당선, 영국 브렉시트 국민투표 등 역사적 사건의 이면에 ‘탈진실 현상’이 있다. ‘워싱턴포스트’에 따르면, 트럼프는 임기 동안 3만573건, 하루 평균 21건의 거짓말을 했다. 자신에게 불리한 뉴스는 모두 “가짜뉴스”라고 몰아붙이며 기성언론은 물론 과학·제도까지 권위를 끌어내렸다. 한국도 점점 이 경로를 따라가고 있다는 우려가 나온다. 2022년 이른바 ‘바이든·날리면’ 논란에서 드러나듯이 정치인들은 탈진실 화법에 의존하고 있다. 지지율을 지키기 위해 진실 추구라는 고된 길 대신, 진실 회피와 감정 호소라는 손쉬운 길을 선택하고 있다.

인간은 인지능력의 한계로 진실 자체를 파악하기 어렵다. 또한 인지 과정에서 자원을 최소화하는 특성으로 인해 확증편향에 빠지기 쉽다. 탈진실은 이런 인지 특성에서 비롯한다. 또한 양극화하고 분절된 사회정치적 환경이 탈진실 현상을 유인하고 강화하는 토양으로 작용한다. 경제적 불평등과 정치적 양극화로 인해 사회적 골이 깊어질수록 진실처럼 믿고 싶은 ‘거짓’에 끌리고 또 욕망한다.

대안은?

탈진실 현상은 일시적 사회 병리 현상이 아니라 거스를 수 없는 추세라는 점에서 우려가 크다. 지난해 말 미국 메리엄웹스터 사전은 ‘올해의 단어’로 ‘진실된’이란 의미의 ‘오센틱’(authentic)을 선정했다. 진짜와 가짜를 구별하기 어려운 시대, 역설적으로 진실에 대한 열망이 커지는 상황을 반영한 것으로 보인다.

어떻게 대응해야 할까? 가장 관심이 높은 것은 기술적 시도들이다. 기술기업이 인공지능이 생성한 콘텐츠의 진위를 식별하는 필터링 시스템을 개발해 허위정보를 걸러내야 한다는 견해다. 하지만 인공지능은 이 시스템을 참조해 더 정교한 가짜를 만들어낼 가능성이 크다는 지적도 나온다. 법규와 처벌을 강화해 허위정보를 걸러내는 방안도 기대를 모은다. 하지만 허위정보와 가짜뉴스는 인간의 인지적 특성과 긴밀히 관련되어 있어, 외과수술하듯 도려내기 어렵다.

여러 전문가가 공통으로 강조하는 대안은 진실과 거짓을 구분하고 판단할 수 있는 능력, 즉 문해력과 이를 위한 시민 교육 강화다. 아울러 탈진실의 토양으로 작용하는 양극화되고 분절된 사회정치적 환경을 바꾸어내는 것이야말로 가장 핵심적이고 근본적 대안이라는 지적도 나온다.

한귀영 사람과디지털연구소 연구위원 hgy4215@hani.co.kr