극과 극으로 갈린 선거판 파고드는 그것, 가짜보다 무서운 건? [스프]

[뉴스쉽] 선거판 흔드는 딥페이크, 미국 대선 현장 가보니

2024년 3월 9일, 비 오는 금요일 저녁. 브레다 씨 부부는 허름한 호텔 주차장에 들어섰다. 미국 조지아주의 작은 도시 롬(Rome)에 있는 호텔까지 그들은 1시간 반 정도 장대비를 뚫고 달려왔다. "방이 거의 다 찼어요. 지금 결제하면 하루에 149달러예요. 다른 호텔도 마찬가지일 거예요." 프런트에 있는 호텔 직원은 연신 울리는 전화를 받으며 같은 말을 반복 중이었다. 브레다 씨 부부가 예약할 때보다 50달러 정도 오른 가격이었다. "미리 예약하길 잘했네." 그들은 말했다.

"제가 입은 멋진 티셔츠를 한 번 볼래요?" 한국에서 온 기자라고 밝히자 브레다 씨는 양손에 들고 있던 짐을 내려놓으며 말했다. 그녀가 입은 상의에는 '2020 It's not over yet'이라고 적혀 있었다. 무슨 의미냐고 묻자 부부는 동시에 답했다. "2020년 대선은 '아직' 끝나지 않았어요."

트럼프 지지자인 브레다 씨가 지난 대선 결과를 불복하는 내용이 적힌 티셔츠를 취재진에게 보여주고 있다.

트럼프 전 대통령의 극렬 지지층. 그들을 미국에선 마가(MAGA)라고 부른다. 트럼프의 대선 구호 '미국을 다시 위대하게(Make America Great Again)'의 앞 글자를 딴 이름이다. 2020년 대선에서 트럼프는 바이든에게 패했다. 하지만 트럼프와 지지자들은 이를 인정하지 않았고 결국 2021년 1월 6일, 초유의 국회의사당 난입 사태가 일어났다. 트럼프는 대선 불복 혐의로 수사를 받았고 현재 재판을 앞두고 있다. 그럼에도 그들은 여전히 지난 대선을 "도둑맞았다"고 생각하고 있었다.
 
기자가 이날 호텔에서 브레다 씨 부부를 만나게 된 건 다음 날 예정된 트럼프의 선거 유세 때문이었다. 오는 11월 대선에서 바이든과 다시 맞붙게 된 트럼프는 매 주말마다 미국 각 지역을 돌며 유세를 하고 있다. 브레다 씨 부부는 유세에 참석하기 위해 하루 전에 이곳에 왔다. 이날 호텔 투숙객 대다수는 브레다 씨와 같은 트럼프 지지자들이었다.

다음 날 트럼프 유세는 오후 3시 시작이었다. 그것도 지역 의원이나 공화당 관계자들의 찬조 연설이 3시부터였던 거고, 트럼프는 오후 5시가 넘어서 연설을 시작할 예정이었다. (실제로 트럼프는 스케줄이 지연돼 오후 6시가 돼서야 등장했다.) 그럼에도 지지자들 대부분은 아침 일찍 숙소를 나서 행사장 줄을 섰다. 행사장에 들어가기 전 보안 검색을 하는 검색대 앞에는 간이 의자, 담요, 깔개 등 오랜 시간 사람들이 기다린 흔적들이 남아있었다. 기자도 취재를 위해 낮 1시쯤 유세장에 도착했는데 이미 4천500석 규모의 행사장이 꽉 차 2층 가장 끝자리, 그것도 계단 난간에 겨우 자리를 잡을 수 있었다.

지난달 9일 미국 조지아주 롬에서 열린 트럼프 전 대통령의 선거 유세 현장

취재진은 고도화된 인공지능(AI) 기술이 선거에 어떤 영향을 주고 있는지 미국 대선 현장과 유권자들을 취재하기 위해 3월 초 미국을 찾았다. 이미 미국에서는 지난 1월 바이든 대통령의 목소리로 민주당원들에게 걸려온 이른바 '사칭 전화 사건(fake robo call)'으로 선거에 미칠 인공지능 기술의 위협에 대한 우려가 커져 있었다. 이 사칭 전화는 바이든 대통령이 뉴햄프셔주 민주당 예비경선 전날 선거인단에게 투표를 하지 말라고 이야기한 내용인데, 수사 결과 '일레븐랩스'라는 업체의 생성형 음성 AI 기술을 이용해 만든 '가짜'였다. 이외에도 트럼프, 바이든을 주인공으로 AI가 만들어낸 가짜 사진, 영상 등은 이미 SNS에 넘쳐나고 있다. 고령의 나이로 건강 논란이 늘 이슈인 바이든이 서점에서 치매 책을 보고 있는 영상, 수십 개의 혐의로 기소돼 재판을 앞두고 있는 트럼프가 경찰에 체포돼 재판을 받고 있는 사진 등 이미 수년 전에 만들어져 계속 회자되고 있는 딥페이크는 물론, 선거를 앞두고 새롭게 확산되고 있는 가짜 콘텐츠들도 속속 나오는 상황.

최근 1년여간 AI 기술이 급진적으로 고도화되면서 딥페이크 기술도 더욱 교묘해졌고, 육안으로는 진짜인지 가짜인지 구별하기 어려울 정도의 AI 생성 콘텐츠가 늘고 있다는 건 이젠 당연한 이야기다. 취재진이 미국까지 찾아간 이유는 이런 교묘한 가짜들이 선거판에 어떤 영향을 미치고 있는지, 유권자들은 정말 영향을 받고 있는지, 그리고 누가 이런 것을 만들고 있는지를 알아보기 위해서였다. 트럼프 유세 현장을 직접 찾아간 이유는 트럼프 지지층 내부에서 이런 가짜 콘텐츠들이 상대적으로 더 많이 확산되고 있다는 이야기 때문이었다.
 

대선 앞둔 미국, '딥페이크'는 유권자를 흔들고 있을까

여기 한 장의 사진이 있다. 트럼프 전 대통령이 흑인들과 어깨동무를 한 채 화기애애한 모습의 사진. 이 사진은 생성형 AI 기술로 만든 '가짜'다. 이 사진에 등장한 사람들이 실제 존재하는지 알 수 없고 당연히 트럼프도 이런 사진을 찍은 일이 없다.

지난달 9일 미국 조지아주 롬에서 열린 트럼프 전 대통령의 선거 유세 현장

AI가 만든 사진인지 여부를 확인할 수 있는 탐지 사이트(truemedia.org)를 이용해 검증해 보니 '100% AI가 생성한 이미지'라는 결과가 나왔다. 가짜라는 걸 알고 보니 어색한 점들이 눈에 들어온다. 트럼프의 손가락 끝과 여성의 팔이 닿은 부분의 피부색이 다르다거나, 트럼프의 왼손 두 번째 손가락에 손톱이 없다거나. 하지만 의심 없이 언뜻 보면 가짜라는 걸 알아차리기가 쉽지 않다.
[ https://truemedia.org/ ]

이 사진이 AI가 만든 딥페이크임을 추론할 수 있는 오류들. 손가락 끝과 맞닿은 팔의 피부색이 다르거나, 손가락 끝이 잘려 있거나 손톱이 없는 등의 오류가 보인다.

이 사진은 지난해 말부터 트럼프 지지층 사이에서 확산되고 있는 대표적 사진이다. 누가 어떤 목적으로 만들었을까? 외신 보도 등을 기반으로 추적해 보니, 지난해 11월 29일 미국 플로리다 잭슨빌 지역의 라디오 프로그램 진행자 '마크 케이(Mark Kaye)'의 페이스북에 처음 등장했다. 마크 케이는 트럼프를 지지하는 극우 성향의 방송인으로 알려져 있다. 그는 이 사진에 대한 구체적인 정보는 공개하지 않았다. 다만 이런 글을 함께 올렸다.

"미국 전역의 흑인 유권자들은 민주당이 얼마나 인종 차별적이고 분열적인지 깨닫고 있습니다. (중략) 트럼프 대통령은 이제 BLM(Black Lives Matter의 줄임말·흑인인권운동)은 물론 다른 모든 이들이 지지를 받고 있습니다."

BLM 운동을 이끌었던 흑인 지도자가 트럼프를 지지했다는 한 매체의 기사를 인용하며 쓴 글인데, 이 글과 함께 가짜 사진을 올린 것. "정말 좋은 뉴스", "더 많은 사람들이 이걸 봤으면 좋겠다"는 댓글들도 이어졌다. 이 사진이 가짜라는 외신 보도들이 이어지고 나서야 'AI가 만든 가짜이니 속지 말라는 비판적 댓글들도 달렸지만 그전까진 이 사진이 가짜일 수 있다고 의심하는 내용은 거의 없었다. 마크 케이는 언론 인터뷰에서 "나는 이 사진이 정확하다고 말한 적 없다"며 "페이스북 페이지에 있는 사진 한 장 때문에 어떤 식으로든 투표하는 사람이 있다면 그건 게시물의 문제가 아니라 그 사람의 문제"라고 말했습니다.

마크 케이는 이 논란으로 소속돼 있던 방송사에서 해고됐다. 경제협력개발기구(OECD)가 운영하는 인공지능 정책 감시기구 'OECD·AI Policy Observatory'는 마크 케이가 가짜 사진을 만들어 공유했다가 해고됐다는 외신 기사를 게재하며 AI의 위험을 보여주는 '주요 사건(incident)'으로 분류했다. (참고 : https://oecd.ai/en/incidents/74089) 날로 고도화되는 AI 기술이 유권자들에게 혼동을 주고 선거에도 악영향을 미칠 수 있다는 우려가 기우가 아닌 실제 현실이 되고 있다는 증거가 된 셈이다.
[ https://oecd.ai/en/incidents/74089 ]

마크 케이가 만든 가짜 사진뿐만 아니라 트럼프 지지자들이 운영하는 SNS에서도 흑인 청년들과 다정하게 찍은 사진이라든가 함께 자전거를 타고 있는 모습 등 유사한 사진들을 쉽게 찾아볼 수 있었다. 이 역시 탐지 사이트를 통해 검증한 결과 90% 이상 가짜였다.

가짜여도 괜찮다?…유권자들에게 물었다

지지자들 눈엔 어떨까? 트럼프 지지자들에게 마크 케이가 만든 가짜 사진을 직접 보여주고 어떻게 생각하는지 물었다. 매 주말마다 트럼프 유세를 따라다니며 각종 기념품을 팔고 있는 50대 올랜도 씨는 "훌륭한 사진이다. 나는 트럼프에게서 한 번도 인종 차별을 보지 못했다. 멋진 사진"이라고 말했다. 진짜인지 아닌지 의심이 들진 않느냐고 묻자 "진짜라고 생각한다"고 밝혔다.

SNS를 자주 사용하고 AI에 친숙한 젊은 세대들은 어떨까. 부모님을 따라 함께 유세장에 온 10대들에게도 물어봤다. "트럼프가 모든 이들에게 사랑을 보여주는 거 아닐까요?" (드류, 15살), "인공지능 같아 보이긴 하는데, 솔직히 저는 꽤 멋있는 것 같아요. (AI 조작이) 너무 지나치지만 않다면 좋아요." (올리비아, 15살)

트럼프 지지자 올랜도 씨가 SBS 뉴스토리팀 취재진과 인터뷰를 하고 있다.

(남은 이야기는 스프에서)

박수진 기자 start@sbs.co.kr