트럼프가 만삭 해리스 배를? 고삐 풀린 AI 사진, 美 대선까지 위협

13일 출시된 ‘그록2′ 안전장치 없어… X에 가짜 이미지 범람 비상

옛 소련 국기의 낫과 망치가 국기 전면을 채운 붉은 깃발이 걸려 있고, 단상 아래에는 제복을 입은 군중이 빽빽이 들어찼다. 이들 앞의 연단에 한 여성이 서 있다. 뒷모습은 영락없이 카멀라 해리스 미 민주당 대선 후보다. 오른쪽 전광판에는 ‘시카고’라는 단어가 붉게 빛을 내고 있다. 시카고에서 열릴 해리스 대선 출정식을 떠올리게 하는 장면이다.

민주당 전당대회를 하루 앞둔 18일(현지 시각) 트럼프 공화당 대선 후보가 자신의 X(옛 트위터) 공식 계정에 이 사진을 게시해 논란이 되고 있다. 생성형 AI(인공지능)로 제작한 허위 사진을 올려 해리스 후보에게 ‘공산주의자’라는 꼬리표를 달려 한다는 것이다. 대선을 두 달여 앞둔 상황에서 ‘AI가 생성한 이미지’라고 표시하지 않은 사진을 허용한 X에 대한 비판이 확산하고 있다.

AI가 만든 가짜 이미지입니다 - 설마 진짜는 아니겠지만 다시 보게 된다. 도널드 트럼프 미 공화당 대선 후보가 만삭의 카멀라 해리스 민주당 대선 후보의 배를 어루만지는 사진(위), 해리스를 연상시키는 여성이 옛 소련 국기와 유사한 깃발이 걸린 곳에서 공산당원으로 보이는 군중 앞에 선 장면(가운데), 트럼프가 김정은 북한 국무위원장 앞에 무릎을 꿇은 모습(아래)까지. 모두 일론 머스크가 운영하는 인공지능 스타트업‘xAI’의 챗봇을 이용해 만든 가짜 이미지다. /X(옛 트위터)

◇머스크의 AI, 허위 사진 무제한 생성

일각에서는 이번 해리스 허위 사진이 일론 머스크의 AI스타트업 ‘xAI’의 AI 챗봇인 그록2로 제작됐을 가능성이 있다고 본다. 지난 13일 출시된 그록2는 실제와 거의 구별할 수 없는 정교한 이미지 생성 기능으로 주목받고 있다. 달리와 미드저니 등 기존의 이미지 생성 AI가 제대로 구현하지 못한 손가락도 실제처럼 똑같이 만들어내 “이미지 생성 분야에서는 최고”라는 극찬이 쏟아졌다.

문제는 그록2를 이용한 진짜 같은 가짜 사진이 제한 없이 쏟아지고 있는 점이다. 예컨대 왕관을 쓴 만삭의 해리스 배를 트럼프가 쓰다듬는 사진이 X를 통해 확산하고 있고, 조 바이든 대통령과 버락 오바마 전 대통령이 힐러리 클린턴 전 국무장관과 함께 총을 들고 가게를 터는 사진도 퍼지고 있다. 트럼프가 김정은 북한 국무위원장 앞에 무릎을 꿇은 사진, 트럼프와 해리스가 9·11 테러가 일어난 세계무역센터를 향해 비행기를 몰고 가는 사진도 돌고 있다.

이처럼 그록2는 실존하는 유명인을 소재로 이미지를 자유롭게 생성하는 데 제한을 달지 않아 혼란이 가중될 전망이다. 미드저니와 달리 등 이미지 생성 AI는 정치인 관련이나 선정적인 이미지를 생성하라고 입력하면 ‘특정 정치인을 묘사하는 이미지는 생성할 수 없다’ ‘비키니와 같은 특정 의상을 입은 이미지는 만들기 어렵다’는 식으로 제한이 걸린다. 위싱턴포스트는 “그록2는 폭력적, 선정적 이미지 생성을 제한하는 안전장치가 거의 없다”고 했다.

◇”대선에서 파괴적 영향 끼칠 것”

그록2 관련 논란에 머스크는 “세상에서 가장 재미있는 AI”라고 극찬하며 기능을 제한할 뜻이 없다는 입장이다. ‘AI를 통해 만들어진 이미지’라는 표시도 지금처럼 하지 않을 것으로 알려졌다.

무차별적 이미지 생성 AI가 ‘표현의 자유’를 극단적으로 추구하는 머스크의 소셜미디어 플랫폼 X와 만나 활개를 치는 양상이다. 테크크런치 등 IT 전문 매체들은 “정치인을 포함한 유명인 딥페이크와 폭력적이고 노골적인 이미지들이 X에 넘쳐나고 있다”고 전했다.

대선 후보들을 소재로 한 AI 허위 사진이 쏟아지자 미 언론들은 대선의 위험 요인으로 떠오르고 있다며 경고의 목소리를 내고 있다.

워싱턴포스트는 “규제 없이 마구 제작되는 AI 이미지가 올해 대선에서 파괴적인 영향을 미칠 수 있다는 우려를 불러일으키고 있다”고 했다. CNN은 “미국 대선을 앞두고 온라인상에서 거짓 정보의 폭발을 일으킬 우려가 있다”며 “특히 이 같은 생성 AI 도구는 유권자들에게 혼란과 혼돈을 초래할 수 있다”며 규제를 촉구했다.

◇”표현의 자유” 머스크, 각국 정부와 갈등

머스크는 ‘표현의 자유 수호’를 X 운영의 기본 방침으로 삼고 있다. 이전부터 콘텐츠의 엄격한 검열을 반대해 온 것으로 유명하다. 그는 트위터를 인수할 당시에 “트위터에서 모든 의견이 자유롭게 오가야 한다”며 게시물 검열 정책을 바꾸는 한편, 트위터에 선동이나 혐오 게시물을 올렸다가 차단됐던 계정 2만7000여 개를 복구시켰다.

이처럼 표현의 자유를 내세우며 극단적인 주장을 옹호하는 머스크는 각국 정부와 갈등을 빚고 있다. 지난 17일 X는 자이르 보우소나루 전 브라질 대통령 시절 가짜 뉴스와 혐오 표현을 유포한 X계정을 차단하라는 브라질 대법원의 명령에 반발, 브라질에서 사업장을 철수했다. 최근 영국에서도 ‘이슬람 이민자가 소녀 3명을 살해했다’는 가짜 뉴스가 X를 통해 빠르게 퍼지며 폭력 시위가 촉발돼 영국 당국이 규제를 시사하자, 머스크는 “영국은 표현의 자유가 선별적으로 보호되고, 영국 총리는 두 얼굴의 인물”이라며 영국 정부를 비난했다.