'총 든 트럼프' '속옷 스위프트' 마구 합성 …머스크의 AI챗봇 논란

일론 머스크 테슬라 창립자가 만든 인공지능(AI) 기업 'xAI'가 최근 공개한 AI 챗봇 '그록-2'의 시험 버전이 논란이 되고 있다. 사람 얼굴을 거의 제한 없이 합성한 이미지를 만들 수 있기 때문이다. 외신들은 SNS에 그록-2로 생성된 가짜 사진들이 넘쳐나고 있다고 지적했다.

19일 외신들에 따르면 그록-2는 오픈AI, 구글 등 다른 정보기술(IT) 회사보다 이미지 생성 제한이 느슨하다는 평가를 받는다. 오픈AI와 구글은 실제 사람 모습에 기반한 이미지 생성을 최대한 제한하고 있다. 자칫 명예훼손이나 초상권 침해로 소송이 걸리거나, 정치적으로 악용될 가능성이 있기 때문이다.

일론 머스크 테슬라 창립자가 만든 인공지능(AI) 기업 'xAI'가 최근 AI챗봇인 '그록-2'의 시험버전을 공개했다. 문제는 이번에 출시된 그록-2가 사람 얼굴을 거의 제한없이 합성가능하다는 점이다. 머스크가 2024년 5월 6일 로스앤젤레스에서 열린 밀컨 글로벌 컨퍼런스에서 연설하고 있다. AFP=연합뉴스

반면 그록-2는 유명인의 이름을 넣으면 관련 이미지를 거의 제한 없이 생성하고 있어 우려가 높다고 CNN이 전했다. CNN에 따르면 그록-2를 통해 도널드 트럼프 전 대통령이 트럭에 몸을 기대고 소총을 쏘는 이미지가 생성됐다. 매체는 "한 이용자가 SNS에 올린 이 게시물은 40만번 조회됐다"고 전했다. 미 정치컨설팅기업 APS는 소총을 든 머스크 창립자 등 그록-2가 생성한 이미지를 다수 공개했다.

IT 전문매체 더 버지는 최근 SNS에 그록-2가 생성한 유명 인사의 딥 페이크(합성 이미지)와 폭력적인 게시물이 넘쳐나고 있다고 지적했다. 그록-2로 나치 군복을 착용한 트럼프 전 대통령, '마가(MAGA·미국을 다시 위대하게)' 모자를 쓰고 담배를 피우는 미키 마우스, 조 바이든 대통령을 찌르는 버락 오바마 전 대통령, 머스크가 트럼프에게 입 맞추는 모습 등의 가짜 이미지를 생성할 수 있었다. 외신들은 최근 들어 카멀라 해리스 부통령, 마크 저커버그 페이스북 창립자, 빌 게이츠 마이크로소프트(MS) 창립자 등이 딥페이크의 단골 대상이 되고 있다고 전했다.

더 버지에 따르면 그록-2가 가수 테일러 스위프트가 속옷만 입은 사진은 만들어냈다. 다만 "완전히 벌거벗은 여성 사진을 만들어 달라"는 요구는 거절했다. 이와 관련, 일본 니혼게이자이신문(닛케이)은 "가짜 정보 확산, 저작권 침해가 이어질 수 있다"고 지적했다.

또한 미국 대통령 선거를 앞두고 주요 AI 기업들이 올해 초부터 선거 관련 질문을 제한하는 등 AI 악용을 막고자 노력하고 있으나, 그록-2는 이런 노력이 부족하다는 지적을 받고 있다.

일론 머스크 테슬라 최고경영자(CEO)가 출시를 발표한 그록. X 캡처

이와 관련, 머스크는 "그록-2는 사람들이 재밌게 사용할 수 있는 좋은 중간 단계에 있다"고 전했다. 그는 그록-2를 '세상에서 가장 재미있는 AI'라고 표현하면서 오픈AI가 만드는 챗 GPT나 구글 챗봇보다 유머 감각이 있고 자유로운 답변이 가능하다고 주장했다. 예컨대 챗 GPT에 불법 약물 제조법을 물어보면 즉각 거절하지만 그록은 제조법을 설명하는 척하다가 "농담이다, 불법이니 제조하지 말라"고 답변한다.

그록-2로 합성된 트럼프의 이미지. 멕시코 앞 장벽 앞에서 군복 입은 트럼프가 총을 겨누는 모습. 그록-2

앞서 머스크는 과거 트위터를 인수할 때도 '표현의 자유'를 내세우며 "다양한 신념이 건강한 방식으로 표현될 수 있는 광장"을 강조했다. 그는 일시적으로 계정 사용이 중지됐던 극우주의자들의 계정 제한을 풀어준 적도 있다.

━

트럼프, AI 가짜 사진 공유해 논란

이런 가운데 도널드 트럼프가 생성형 AI로 만들어낸 가짜 합성 사진을 SNS에 올려 논란을 불러 왔다고 CNN이 18일(현지시간) 전했다.

도널드 트럼프가 AI로 만들어낸 관련 이미지를 X에 공유해 논란이 되고 있다. 사진에서 여성의 뒷모습이 보이는데 카멀라 해리스 부통령의 머리 모양과 유사하다. 또 시카고라고 쓰여진 전광판은 민주당 전당대회가 열리는 시카고를 뜻한다고 외신들이 전했다. X(옛 트위터)

이날 트럼프는 SNS에 인민복으로 추정되는 옷을 입은 군중 앞에서 한 인물이 연설을 하는 이미지를 올렸다. 문제는 이 사람이 카멀라 해리스 부통령과 유사한 머리 모양이란 점이다. 또 군중 뒤로는 공산주의의 상징인 낫과 망치가 그려진 깃발이 걸려 있는데 그 뒤엔 '시카고'라는 전광판이 걸려 있다. 이는 시카고에서 민주당 전당대회가 예정된 것을 표시한 것이라고 외신들이 전했다.

CNN은 "트럼프 후보가 생성형 AI가 제작한 가짜 이미지를 X(옛 트위터)에 게시한 것은 문제가 있다"면서 "해당 게시물이 AI가 제작한 이미지라는 사실을 표시하지 않은 X 측에도 문제가 있다"고 꼬집었다.

앞서 17일 트럼프는 펜실베이니아 집회에서 해리스 부통령이 발표한 경제 공약을 두고 "카멀라가 완전히 공산주의자가 됐다"고 주장했다. 트럼프 지지자들은 공산주의(communism)와 카멀라를 합친 카뮤니즘(Kamunism)이란 단어를 쓰고 있다. 극우 성향 타블로이드지 뉴욕포스트는 17일 1면에 해리스의 사진과 함께 이 단어를 제목에 달았다.

서유진 기자 suh.youjin@joongang.co.kr