X 사용자들이 미국 선거 관련 잘못된 정보와 AI 이미지로 돈을 버는 방법
X(옛 트위터)에서 선거와 관련된 잘못된 정보와 AI(인공지능)로 만든 이미지, 근거 없는 음모론 같은 콘텐츠를 공유하는 일부 사용자들은 이 소셜 미디어 사이트에서 “수천 달러” 상당의 돈을 번다고 말한다.
BBC는 콘텐츠 도달 범위를 넓혀 계정의 수익을 늘리기 위해 근거 없는 허위 및 가짜 자료를 사실과 섞어 하루에도 수 차례씩 서로의 콘텐츠를 재공유하는 수십 개의 계정으로 만들어진 네트워크를 확인했다.
이를 운영하는 사람들 중 일부는 자신의 계정이나 다른 계정에서 수백 달러에서 수천 달러에 이르는 수입이 발생한다고 말했다.
또한 대화 채널과 그룹 채팅을 통해 서로의 게시물을 공유하는 것도 조율한다고 했다. 한 사용자는 이를 두고 “서로를 돕기 위한 방법”이라고 말했다.
이 네트워크 중에는 도널드 트럼프와 카멀라 해리스, 다른 무소속 후보를 지지하는 게시물을 올리고 있다. 그리고 일부는 공식 선거 운동 본부와 관련이 없다고 선을 그으면서도, 의회 선거에 출마한 후보를 포함해 미국 정치인들로부터 자신을 지지하는 게시물을 올려달라는 요청을 받기도 한다고 했다.
지난 10월 9일, X는 운영 규정을 바꿨다. 게시물의 도달 범위가 큰 인증 계정에 지급하는 수익을 게시물 아래에 달린 광고의 수가 아니라, 프리미엄 사용자들이 참여한 좋아요와 공유, 댓글 등에 따라 계산하도록 만든 것이다.
여러 소셜 미디어 사이트는 사용자가 자신의 게시물로 수익을 창출하거나 스폰서(광고 협찬) 콘텐츠를 공유할 수 있도록 허용한다. 그리고 이중 일부는 잘못된 정보를 게시하는 계정에 대해서는 수익 창출을 중단하거나 계정을 정지할 수 있는 규정을 갖고 있다. 그런데 X에는 잘못된 정보를 규제하는 가이드라인이 없다.
X는 다른 소셜 미디어 사이트보다 사용자 규모는 작다. 하지만 정치적 담론에 상당한 영향을 미친다. 일각에선 미국이 정치적으로 매우 민감한 시기에 사용자들이 사실 여부와 관계없이 사람들을 호도할 수 있는 주장을 게시하도록 X가 장려하고 있는 것은 아닌지 의문을 제기한다.
BBC는 X 사용자 일부가 공개한 대략적인 자신의 수입과 조회수, 팔로워 수, 다른 계정과의 상호작용을 기반으로 추산한 예상 수입을 비교했다. 그 결과 수입에 대한 이들의 주장은 신뢰할 만했다.
이러한 일부 계정 네트워크에서 공유되는 게시물 중 사람들을 호도하는 게시물은 이런 것들이다. 정부 당국이 반박한 부정 선거에 대한 주장과 대통령 및 부통령 후보를 대상으로 한 소아성애 및 성적 학대에 대한 극단적이고 근거 없는 주장 등이다.
사람들을 호도하는 허위 게시물은 X에서 시작된 이후 페이스북이나 틱톡 등 더 많은 사용자를 보유한 다른 소셜 미디어 사이트로도 퍼져나간다.
그 한 예가 카멀라 해리스의 맥도날드 사진이다. 이 사진은 팔로워 수가 많지 않은 한 X 사용자가 마치 젊은 시절의 카멀라 해리스가 맥도날드에서 일하는 것처럼 조작한 것이었다. 그런데 이를 두고 다른 사용자들은 “민주당이 대선 후보의 이미지를 조작하고 있다”는 근거 없는 주장을 퍼뜨렸다.
지난 7월 일어난 도널드 트럼프 암살 시도를 두고도 X에서 근거 없는 음모론이 퍼져나왔다. 그리고 이는 다른 소셜 미디어 사이트에서도 포착되었다.
X는 자사가 사용자들에게 이러한 게시물을 올리도록 장려하고 있는 것은 아닌지에 대한 질의나 소유주인 일론 머스크와 인터뷰를 하고 싶다는 요청에 일절 응답하지 않았다.
‘돈을 버는 것이 훨씬 쉬워졌어요’
그가 라이브 스트리밍(생방송)을 하고 동영상을 제작하는 ‘프리덤 언컷’의 콘텐츠 제작소는 성조기 모양의 꼬마전구로 장식되어 있었다. 그는 특별히 지지하는 정당은 없지만, 카멀라 해리스보다는 도널드 트럼프가 대통령이 되기를 바란다고 했다.
친구들이 ‘프리’라고 부른다는 그는 자신의 은신처에서 하루 최대 16시간씩 X에 게시물을 올리고, 자신이 속한 콘텐츠 제작자 네트워크와 교류하며, AI가 생성한 사진을 공유한다고 말했다. 그는 가족의 개인정보가 온라인에 노출되어 위협을 받고 있다며, 실명이나 실제 신원을 밝히지 않았다.
그는 “자신은 결코 극단적인 게시물을 올리는 사람이 아니다”라며, X의 네트워크가 어떻게 작동하는지 설명해 달라는 나의 요청에 응했다.
그는 지난 몇 달 동안 미국 선거에 관한 게시물을 정기적으로 올렸는데, 이 게시물들의 조회수가 1100만 건을 넘었다고 말했다. 플로리다 주 탬파에 있는 자택에서 영상 인터뷰에 응한 그는 그 게시물 중 몇 가지를 화면에 띄웠다.
그가 보여준 게시물에는 도널드 트럼프가 총알을 피하는 매트릭스 속 캐릭터처럼 그려졌거나, 조 바이든 대통령이 독재자처럼 보이는 등 정치 풍자성 이미지가 있었다. 또한 전투기가 지나는 아래에서 침수된 집 지붕 위에 있는 한 사람의 이미지에 “11월 5일이 되면 정치인들은 당신을 신경 쓰지 않는다는 것을 기억하라”는 코멘트가 달린 AI 이미지도 있었다.
이 사진은 허리케인 헬렌 이후 노스캐롤라이나 주민들을 위한 “헬리콥터도, 구조도 없었다”는 트럼프 대통령의 주장을 이미지로 만든 것이었다. 하지만 노스캐롤라이나 주 방위군은 이러한 주장에 대해 146회의 비행 임무를 통해 수백 명의 사람들을 구조했다는 반박을 내놓았다.
프리덤 언컷은 자신의 이미지가 대화를 촉발하는 “예술”이라고 말했다. 그는 “누구도 속이려 하지 않는다”면서도, “AI를 쓰면 훨씬 많은 일을 할 수 있다”고 말했다.
자신의 계정으로 수익을 창출할 수 있게 된 후, 그는 X에서 매달 “수천 달러대”의 수익을 올린다고 말했다. “사람들이 돈을 버는 게 훨씬 쉬워진 것 같습니다.”
그는 자신이 아는 사용자 중에는 1만 달러가 넘는 수익을 올리는 사람도 있다며, 게시물의 도달 범위를 보면 이를 알 수 있다고 했다. “이쯤 되면 정말 직업이죠.”
그는 가장 많은 조회수를 기록하는 것은 “논란의 여지가 있는” 콘텐츠라며, 이러한 관행을 “선정주의적인” 기존 미디어에 비교했다.
그는 “사람들을 호도할 수 있는 내용”을 게시하지만, “대개는 어느 정도 현실에 기반을 두고 있다”고 말했다. 하지만 그는 자신이 아는 다른 계정 중에는 사실이 아님을 알면서도 기꺼이 게시물을 올리는 곳도 있다고 했다. 즉 이러한 행위를 손 쉬운 “돈벌이”로 여긴다는 것이다.
프리덤 언컷은 “허위 주장이 선거에 영향을 미치는 것에 대한 사회적 우려가 있다”는 말에 대해서는 정부가 “다른 인터넷에 나오는 것을 합친 것보다 더 많은 잘못된 정보를 퍼뜨리고 있다”고 반박했다.
그는 또 지역 정치인들이 자신의 X와 같은 계정에 지지를 요청하는 것은 “매우 흔한 일”이라고 말했다. 그들 중 일부는 자신의 라이브 스트리밍에 출연하는 것에 대해 이야기를 나누고 밈(인터넷 유행 콘텐츠)과 AI 이미지, 아트워크를 만들어 공유하는 것에 대해 이야기를 나눴을 정도라고 했다.
대중을 호도하든 그렇지 않든 이러한 게시물 중에 이번 선거에 실질적인 영향을 미치는 것이 있을까?
그는 “현재 여기에 있는 것들이 그렇다고 생각한다”며 “트럼프에 대한 지지의 상당 부분이 여기에서 나오는 것 같다”고 말했다.
프리덤 언컷은 오늘날에는 “일부 전통 미디어 기업”보다 “AI가 생성한 이미지와 잘못된 정보를 공유하는 계정 등을 포함한 독립 미디어”에 대한 대중의 신뢰도가 더 높은 것 같다고도 했다.
‘진실에 다가갈 방법이 없다’
프리덤 언컷이 설명하는 친트럼프 계정과 정면으로 맞서는 계정도 있다. X에서 20만 명 이상의 팔로워를 보유한 ‘브라운 아이드 수잔’과 같은 계정이다.
그는 민주당 후보인 카멀라 해리스를 지지하는 콘텐츠를 매시간 여러 차례씩 게시하는 “다이하드” 계정 네트워크의 일원이다. 그는 자신의 이름을 사용하지만 온라인에서 당한 협박과 학대 때문에 성을 밝히지 않고 활동하고 있다.
로스앤젤레스에서 화상 통화로 인터뷰에 응한 수잔은 자신의 게시물로 수익을 창출하거나 계정의 도달 범위를 “폭발적으로 늘려야 겠다” 의도는 없었다고 말했다. 하지만 지금은 하루에 100개 이상의 메시지를 게시 및 재공유할 때도 있으며, 하나의 게시물이 200만 명 이상의 사용자에게 도달할 때도 있다고 했다.
그는 사이트에서 유료 사용자 및 일부 유명 계정을 표시하는 파란색 표식을 받았기 때문에 자신이 올린 게시물로만 수익을 창출한다고 말했다. 그는 “(이 표식은) 내가 원해서 받은 게 아니다”라며 “숨길 수도 없고 돌려줄 수도 없어서, 수익 창출 계정으로 전환했다”고 말했다. 그는 자신의 소셜 미디어 활동으로 한 달에 수백 달러를 벌 수 있으리라 예상하고 있다.
그의 인기 게시물 중에는 정책 관련 게시물 외에도 300만 회 이상의 조회수를 기록한 것이 있다. 지난 7월 트럼프 트럼프 암살 시도가 트럼프의 소행이라는 근거 없는 거짓 음모론을 조장하는 데 기여한 게시물이다.
그는 군중과 총격범이 사망한 것은 인정한다면서도, 도널드 트럼프의 부상과 보안 실패 그리고 사건에 대한 제대로 된 조사 여부가 진정으로 의문이라고 말했다.
“이 상황에서는 진실에 다가설 방법이 없습니다. 그리고 만약 그들이 음모라고 부르고 싶다면 그렇게 볼 수도 있을 겁니다.”
수잔도 공화당의 대선 후보를 겨냥해 AI를 사용한 밈을 공유하기도 한다. 몇 가지 대중의 호응을 받는 게시물 사례는 공화당 후보를 늙었거나 건강하지 않은 사람으로 보이게 한 것들이다. 그는 이런 밈들이 “그의 현재 상태를 보여주는 것”이라고 말했다.
공화당 대선 후보를 독재자처럼 보이게 하는 게시물도 있다. 그는 자신이 만든 모든 이미지가 실제로 촬영된 것이 아닌 “명백한” 가짜라고 했다.
프리덤 언컷과 마찬가지로, 수잔도 국회의원 후보를 포함한 정치인들로부터 지지 게시물 공유를 요청받는다고 했다. 그는 그들을 위해서, “최대한 인지도를 많이 확산”시키려 노력한다고 말했다.
‘사람들은 진짜이기를 원합니다’
카멀라 해리스가 맥도날드에서 일한 적이 있는지 여부를 둘러싼 소동 이후, 그의 지지자들은 패스트푸드 체인 유니폼을 입은 해리스의 사진을 조작해 페이스북에 공유하고 이를 바이럴시켰다.
일부 친트럼프 계정에서 이 사진이 다른 여성이 유니폼을 입은 사진을 편집한 것이라는 사실을 밝혀내자, 이 사진이 민주당에서 나온 것이라는 근거 없는 비난이 쏟아졌다.
그런데 X에서 “더 인피니트 듀드”라는 명칭으로 활동하는 계정이 캡션과 함께 이미지를 가장 먼저 공유한 것으로 보인다. “이것은 가짜입니다.” 이 가짜 이미지 배후에 있는 사람은 자신의 이름이 블레이크이며 실험의 일환으로 이미지를 공유했다고 밝혔다. 그의 계정은 내가 대화를 나눈 다른 계정에 비해 팔로워 수가 적었다.
나는 그에게 이미지를 조작한 증거를 요청했다. 그는 “원본 파일과 생성 타임스탬프”를 가지고 있다고 했지만 증거는 중요하지 않다며 이를 제공하지 않았다.
그는 “사람들은 콘텐츠가 진짜라서가 아니라, 진짜이기를 원하기 때문에 콘텐츠를 공유한다”며 “양쪽 모두 동등하게 콘텐츠를 공유하는데 단지 믿을 만한 다른 이야기를 선택하는 것일 뿐”이라고 말했다.
그가 정치적으로 누구를 지지하는가는 아직 불분명하다. 그는 “(이 활동은) 정치와 관련된 것이 아니다”라고 말했다.
X는 온라인에서 사용자의 목소리를 보호하고 방어하는 것이 최우선이라고 밝혔다. X는 AI가 생성하고 조작한 일부 동영상과 오디오, 이미지에 조작된 미디어라는 표식을 붙인다. 또한 사용자들과 크라우드 소싱 방식으로 사실을 확인을 하는 커뮤니티 노트라는 기능도 갖고 있다.
영국 선거 기간 동안 X는 내가 취재한 가짜 클립 공유 계정 네트워크에 대해 규제 조치를 취했다. 하지만 미국 선거 운동에 대해서는 내가 보낸 질문이나 일론 머스크와의 인터뷰 요청 등에 대해 아무런 응답도 하지 않았다.
이러한 소셜 미디어 회사가 유권자들이 투표장으로 갈 때 영향을 미칠 수 있는 터라, 질문에 대한 응답이나 머스크 인터뷰는 중요한 의미를 갖는다.
마리안나 스프링은 ‘퓨 리서치 센터’의 데이터를 기반으로 5명의 ‘언더커버 유권자’를 만들어 이 기사를 취재했습니다. 이 언더커버 유권자 계정은 소셜미디어에서 다른 사용자들이 추천한 내용을 조사하는 계정으로, 비공개 계정이며 실제 사람들에게 메시지를 보내지 않습니다.