[朝鮮칼럼] AI 시대에 사실을 어떻게 지킬 것인가

정보 왜곡한 AI 기술이
광적인 권력과 결합하면
‘탈진실' 문제 더 심각해져
AI 권력 체제에 맞서
‘사실 수호 노력’이 첫걸음
언론의 책임 더 중요해져

이란의 공격으로 폭탄이 비처럼 쏟아지는 이스라엘 텔아비브 시내, 딥페이크 영상이다. 미국, 이스라엘과 이란의 전쟁 발발이후 소셜미디어 엑스(X)에는 이러한 가짜영상이 하루에도 수십건씩 올라오고 있다. /X

미국·이스라엘과 이란의 전쟁이 한 달을 넘겼다. 원유 공급 비상 조치로 가격 상한제와 공공기관 차량 5부제 등이 도입되었지만 전쟁의 끝은 오리무중이다. 트럼프의 광인 기질, 이스라엘의 집요함, 이란의 강경 대응이 맞물려, 전황은 협상을 통한 종전과 파국적인 확전 사이를 널뛰고 있다.

이번 전쟁은 충격적이다. 갑작스런 개전, 게임 같은 인명 살상, 파괴, 경제적 쇼크 때문만은 아니다. 보고 듣는 것을 믿을 수 없는 ‘탈(脫)진실’ 상황이 더해졌기 때문이다. 개전 초 미사일이 목표물을 타격하는 장면들은 전쟁이 곧 끝나리란 기대를 갖게 했다. 하지만 그 장면들은 효과 이미지가 덧씌워져 증폭된 것이었다. 개전 후 첫 2주에만 인공지능(AI)이 생성한 허위 콘텐츠 110여 건이 전황을 왜곡했다. ‘탈진실의 시대’가 필터 버블, 정치 양극화, 강성 권력의 부상을 거쳐 인류 종말의 서곡 같은 전쟁의 탈진실화 단계에 들어선 양상이다.

돌아보면 지금까지 우리는 탈진실 문제를 짐짓 심각한 듯 어설프게 다루었다. 정치권과 학계는 속칭 가짜 뉴스에 대한 징벌적 대처, 대중의 미디어 리터러시 제고, 팩트체크 기관의 허위 정보 필터링 등을 해결책으로 제시했다. 첫째는 방향 자체가 틀렸고, 뒤의 둘은 문제의 시급성과 규모에 비추어 한계가 분명했다. 최근에는 ‘피할 수 없으면 즐겨라’ 식의 트렌드처럼 이 문제가 취급되는 느낌도 없지 않다. 그 와중에 탈진실은 역사적 전례가 없는 심각 단계로 진입했다.

그 중심에 AI 기술이 존재한다. 이제 AI는 인간의 말로 묻고 답하는 거대 언어 모델(LLM)을 넘어 스스로 사고하고 판단하는 초지능 AI 에이전트로 진화했다. 이번 전쟁은 이 기술이 할 수 있는 일에 사실상 한계가 없다는 것을 드러냈다. AI 에이전트의 무기화를 거부하며 AI 벤처기업 앤스로픽이 미 국방부에 맞선 일이 뉴스가 되었다. 하지만 결국 앤스로픽의 ‘클로드(Claude)’가 전장을 시뮬레이션해 공격 시나리오를 작성하고, 팔란티어의 ‘고담(Gotham)’이 위성 정보와 감청 데이터 등을 통합해 표적을 식별한 것으로 알려졌다.

AI가 실전의 두뇌 역할을 하고, 작전을 수행하며, 그 진실을 왜곡해 소통하는 가공할 상황이 현실이 된 것이다. 기술의 위험을 호들갑스럽게 부풀리고 싶지는 않다. 하지만 이 전쟁을 지켜보며 떨리는 가슴으로 묻게 된다. 우리는 AI 기술이 광적인 국가 권력과 결합해 통제 불능의 AI 권력 체제(AI regime)로 나아가는 상황에 대해 어떤 대비책을 갖고 있는가.

이와 관련해 저명한 정치철학자 마이클 샌델과 노벨 경제학상 수상자 대런 아세모글루는 최근 한 온라인저널(Project Syndicate) 대담에서 기술의 쓰임에 대한 결정 권한을 시민들이 되찾아야 한다고 역설했다. 맹목적 기업 논리와 패권적 국가 권력이 기술의 방향을 좌우하는 현실에서, 의식 있는 시민이 우리 삶을 지킬 최후의 방어선이 되고 있다는 것이다.

깊은 공감을 자아내는 이들의 주장은 다음 질문을 남긴다. 우리는 어떻게 이러한 시민으로 성숙할 것인가. 필자는 탈진실에 맞서 ‘사실을 지키는 노력’이 그 첫걸음이라고 믿는다. 그 노력이 우리를 AI 권력 체제에 대한 감시, 비판, 여론 형성, 주권 행사로 이끌 것이다. 그 역사적 주체는 언론이었고 앞으로도 언론일 것이다.

관련하여 이달 초 AI 시대 언론의 역할을 주제로 학술 세미나가 열렸다. 그 발제문의 한 대목이다. “AI는 압도적인 속도로 텍스트를 생성하지만 행간에 담긴 맥락은 결코 이해하지 못한다. 기자의 정체성은 ‘기사를 쓰는 사람’에서 ‘AI가 쓴 기사를 검증하고 책임지는 사람’으로 이행해야 한다. 이는 직능의 축소가 아니라 책임의 격상을 의미한다. 기자의 존재 이유는 이 지점에서 새롭게 증명되어야 한다.”(양효걸 MBC 도스트11 대표)

문제는 언론 역시 한계 상황에 몰리고 있다는 점이다. 그 현장을 기록하는 연구를 수행할 당시 한 중견 여성 언론인이 필자에게 자조하듯 말했다. “팩트를 찾느라 온갖 고초를 겪고, 기사가 나오면 쓰레기 소리 듣고, 소송당하고…. 언론이 생산하는 팩트 없는 세상에 한번 살아보라지.” 이번 전쟁은 그녀의 말이 푸념에 그치지 않음을 보여주었다.

어떻게 사실을 지킬 것인가. 어떻게 AI 권력 체제에 맞설 것인가. “불안한 것은 시간적 제약입니다. 돌이킬 수 없는 피해가 발생하기 전에 그 일을 할 수 있을까요?”(아세모글루) “이미 늦었다는 사실을 부인하기 어렵습니다. 하지만 시작해 봅시다.”(샌델) 지금 이 순간도 돌이킬 수 없는 시간이 흐르고 있다.