AI 먹고 자란 AI…오류로 뒤덮이는 민주주의

<앵커>

인공지능이 민주주의를 위협하는 모습은 대선을 코앞에 둔 미국에서도 확인할 수 있습니다. AI가 만들어 낸 후보들의 가짜 사진과 영상이 쉴 새 없이 쏟아지면서, 미국 유권자들은 객관적 사실보다는 개인의 신념과 감정의 의지하는 경향이 강해졌다고 합니다.

이 내용은 미국 현지에서 엄민재 기자가 취재했습니다.

<기자>

조 바이든을 비꼬는 듯한 해리스의 목소리로 만든 이 영상, 가짜 공약을 하고 있는 트럼프의 이 영상까지, AI로 만든 조작된 이미지나 영상들이 선거에 직접, 간접적으로 영향을 미치고 있습니다.

민주당의 텃밭이라는 뉴욕 맨해튼 시민들에게 트펌프가 흑인들과 다정하게 포즈를 취한 사진을 보여줬습니다.

물론 딥페이크 이미지입니다.

[더글라스/미국 뉴욕(해리스 후보 지지) : 가상의 상황 같아요. 그가 사람(흑인)들과 함께 있는 모습을 상상하지 못하겠어요.]

[페브리스/미국 뉴욕(해리스 후보 지지) : 이런 걸 믿을 사람들은 이미 마음을 정한 거라고 생각해요.]

맨해튼에서 자동차로 2시간 반 거리에 있는 펜실베이니아의 탄광도시 스크랜턴.

트럼프 유세에 온 지지자들에게 같은 사진을 보여줬습니다.

[피터/미국 클락스 서밋(트럼프 후보 지지) : (사진이 진짜 같나요?) 물론이죠. 그의 첫 임기 동안 증명한 것처럼 모든 인종, 종교, 피부색 등 다양한 배경의 사람들과 친구라고 생각해요.]

[소피아/미국 클락스 서밋(트럼프 후보 지지) : 트럼프는 모든 사람을 위하고, 그들이 어떤 인종이든 상관없어요.]

범람하는 딥페이크로 진실과 거짓을 가리는 일은 어렵고, 또 번거로워졌습니다.

객관적인 사실보다 개인의 신념과 감정에 의지하는 게 더 편해졌습니다.

포스트 트루스, 탈 진실 현상입니다.

[에릭 에프론/뉴스가드 편집장 : (점점 더) 자신의 기존 신념과 편견, 의견을 확인해 주는 뉴스와 정보를 소비하는 경향이 있습니다.]

딥페이크를 활용한 가짜 뉴스를 추적해 온 이 단체는 놀라운 사실을 발견했습니다.

러시아의 포격으로 우크라이나에 있던 스웨덴 교사가 사망했다는 가짜 뉴스에, 빅테크의 AI 챗봇 10개 중 6개가 '사실'이라고 답한 겁니다.

왜 이런 일이 일어날까.

AI 시스템이 자신이 생성한 데이터를 다시 학습하면서 누적되는 오류, 'AI 학습 루프' 현상 때문입니다.

[멕켄지 사데기/뉴스가드 에디터 : 이런 웹사이트를 만드는 데 AI 챗봇이 사용되고, 그 후 AI 챗봇이 다시 그 웹사이트들을 인용하게 되는 것입니다.]

실제 이 단체가 발견한, AI 챗봇이 가짜로 만들어낸 뉴스 사이트만 1천여 개에 달하는데, 한글 사이트도 있습니다.

[멕켄지 사데기/뉴스가드 에디터 : 한글 사이트에서 사용했던 AI 챗봇은 여러 언어를 지원하지 못했기 때문에, 오류 메시지가 영어로 게시된 걸 볼 수 있어요.]

의도된 AI의 거짓과 AI를 먹고 자란 AI가 낳은 오류로 가득한 세상에서는 탈 진실에 의존하는 시민들이 늘 수밖에 없습니다.

신념에만 기대는 정치적 양극화는 심화하고 민주주의 절차에 대한 신뢰는 급격히 하락할 거라는 많은 연구 결과들이 있습니다.

우리의 민주주의가 무너질 수 있다는 경고이기도 합니다.

(영상취재 : 황인석, 영상편집 : 원형희, 디자인 : 최재영)

※본 보도는 한국언론진흥재단의 정부광고 수수료를 지원받아 제작되었습니다.

엄민재 기자 happymj@sbs.co.kr