AI 먹고 자란 AI…오류로 뒤덮이는 민주주의
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
<앵커> 인공지능이 민주주의를 위협하는 모습은 대선을 코앞에 둔 미국에서도 확인할 수 있습니다. 앵커>
AI가 만들어 낸 후보들의 가짜 사진과 영상이 쉴 새 없이 쏟아지면서, 미국 유권자들은 객관적 사실보다는 개인의 신념과 감정의 의지하는 경향이 강해졌다고 합니다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
<앵커>
인공지능이 민주주의를 위협하는 모습은 대선을 코앞에 둔 미국에서도 확인할 수 있습니다. AI가 만들어 낸 후보들의 가짜 사진과 영상이 쉴 새 없이 쏟아지면서, 미국 유권자들은 객관적 사실보다는 개인의 신념과 감정의 의지하는 경향이 강해졌다고 합니다.
이 내용은 미국 현지에서 엄민재 기자가 취재했습니다.
<기자>
조 바이든을 비꼬는 듯한 해리스의 목소리로 만든 이 영상, 가짜 공약을 하고 있는 트럼프의 이 영상까지, AI로 만든 조작된 이미지나 영상들이 선거에 직접, 간접적으로 영향을 미치고 있습니다.
민주당의 텃밭이라는 뉴욕 맨해튼 시민들에게 트펌프가 흑인들과 다정하게 포즈를 취한 사진을 보여줬습니다.
물론 딥페이크 이미지입니다.
[더글라스/미국 뉴욕(해리스 후보 지지) : 가상의 상황 같아요. 그가 사람(흑인)들과 함께 있는 모습을 상상하지 못하겠어요.]
[페브리스/미국 뉴욕(해리스 후보 지지) : 이런 걸 믿을 사람들은 이미 마음을 정한 거라고 생각해요.]
맨해튼에서 자동차로 2시간 반 거리에 있는 펜실베이니아의 탄광도시 스크랜턴.
트럼프 유세에 온 지지자들에게 같은 사진을 보여줬습니다.
[피터/미국 클락스 서밋(트럼프 후보 지지) : (사진이 진짜 같나요?) 물론이죠. 그의 첫 임기 동안 증명한 것처럼 모든 인종, 종교, 피부색 등 다양한 배경의 사람들과 친구라고 생각해요.]
[소피아/미국 클락스 서밋(트럼프 후보 지지) : 트럼프는 모든 사람을 위하고, 그들이 어떤 인종이든 상관없어요.]
범람하는 딥페이크로 진실과 거짓을 가리는 일은 어렵고, 또 번거로워졌습니다.
객관적인 사실보다 개인의 신념과 감정에 의지하는 게 더 편해졌습니다.
포스트 트루스, 탈 진실 현상입니다.
[에릭 에프론/뉴스가드 편집장 : (점점 더) 자신의 기존 신념과 편견, 의견을 확인해 주는 뉴스와 정보를 소비하는 경향이 있습니다.]
딥페이크를 활용한 가짜 뉴스를 추적해 온 이 단체는 놀라운 사실을 발견했습니다.
러시아의 포격으로 우크라이나에 있던 스웨덴 교사가 사망했다는 가짜 뉴스에, 빅테크의 AI 챗봇 10개 중 6개가 '사실'이라고 답한 겁니다.
왜 이런 일이 일어날까.
AI 시스템이 자신이 생성한 데이터를 다시 학습하면서 누적되는 오류, 'AI 학습 루프' 현상 때문입니다.
[멕켄지 사데기/뉴스가드 에디터 : 이런 웹사이트를 만드는 데 AI 챗봇이 사용되고, 그 후 AI 챗봇이 다시 그 웹사이트들을 인용하게 되는 것입니다.]
실제 이 단체가 발견한, AI 챗봇이 가짜로 만들어낸 뉴스 사이트만 1천여 개에 달하는데, 한글 사이트도 있습니다.
[멕켄지 사데기/뉴스가드 에디터 : 한글 사이트에서 사용했던 AI 챗봇은 여러 언어를 지원하지 못했기 때문에, 오류 메시지가 영어로 게시된 걸 볼 수 있어요.]
의도된 AI의 거짓과 AI를 먹고 자란 AI가 낳은 오류로 가득한 세상에서는 탈 진실에 의존하는 시민들이 늘 수밖에 없습니다.
신념에만 기대는 정치적 양극화는 심화하고 민주주의 절차에 대한 신뢰는 급격히 하락할 거라는 많은 연구 결과들이 있습니다.
우리의 민주주의가 무너질 수 있다는 경고이기도 합니다.
(영상취재 : 황인석, 영상편집 : 원형희, 디자인 : 최재영)
※본 보도는 한국언론진흥재단의 정부광고 수수료를 지원받아 제작되었습니다.
엄민재 기자 happymj@sbs.co.kr
Copyright © Copyright ⓒ SBS. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지
- 동거녀 살해 후 16년간 암매장 50대…첫 공판서 "범행 인정"
- 보디수트 입고 여자인 척…'타이트남' 출몰에 "등골 오싹"
- 침대에 실려 은행 간 노인…호소에도 은행 측 "직접 와야"
- 동업하던 연인 살해 40대, 피해자 차에 위치추적 장치 설치
- '폭풍군단' 탈북민 "살인병기 양성소…귀순 유도 심리전 통할 것"
- 튀김기 앞 담배 피우며 뒤적…"담뱃재 떨어지면 어쩌나"
- 화단 앞에 쪼그려앉아 쓱쓱…조기축구 가다 '묻드랍' 포착
- 새빨간 하이힐 신고 성큼성큼…67km 달린 남성의 메시지
- "웬일로 싸더라니…2만 명 당한 듯" 김포족 속이고 잠적
- [영상] 민주, 윤 대통령-명태균 통화 공개…"김영선 해주라고 했다"