총 든 트럼프, 마약하는 부시…"재밌잖아" 위험한 머스크식 AI [팩플]

일론 머스크 테슬라 CEO가 만든 인공지능(AI) 기업 xAI의 최신 AI 모델 ‘그록2’(Grok-2)가 출시 직후부터 논란에 휩싸였다. 도널드 트럼프·카멀라 해리스 등 현재 미국 대선 후보부터 머스크 자신까지 그록2가 생성한 딥페이크(합성 이미지)의 ‘대상’이 되면서다.

테슬라 CEO 일론 머스크가 세운 AI 기업 xAI가 자체 챗봇 '그록2'(Grok-2)의 베타버전을 13일(현지시간) 출시했다. 로이터=연합뉴스

━

무슨 일이야

xAI는 지난 13일(현지시간) 그록2의 베타(시험) 버전을 출시한다고 밝혔다. 그록은 xAI가 지난해 11월 공개한 AI 챗봇이다. 9개월 만에 새 버전 그록2를 공개한 xAI는 그록2가 챗GPT-4 터보(오픈AI), 제미나이 프로1.5(구글) 등 경쟁사 AI 모델보다 성능이 뛰어나다는 점을 강조하고 있다. 현재는 월 7달러(약 9500원)를 지불하는 엑스(X·옛 트위터) 프리미엄 이상 구독자만 그록2 이용이 가능하다.

이번 신형 모델에서 가장 눈에 띄는 기능은 이미지 생성 기능. 기존 그록 모델이 텍스트 기반이었다면, 그록2에는 텍스트를 입력하면 결과물을 이미지로 보여주는 기능이 추가됐다.

그록2는 텍스트를 입력하면 결과물을 이미지로 보여주는 기능이 추가됐다. 사진 xAI 홈페이지 캡처

문제는 그록2가 이미지 생성에 별다른 제한을 두지 않는다는 점이다. 이용자가 폭력적이거나 선정적인 이미지 또는 정치적·종교적·역사적으로 논란의 여지가 큰 이미지를 만들어 달라는 요청을 해도 걸러낼 장치가 없는 것. IT 전문 매체 더버지에 따르면 X에는 그록2가 생성한 유명 인물의 딥페이크와 폭력적이고 노골적인 이미지가 무분별하게 공유되고 있다. 총을 든 도널드 트럼프 공화당 대선 후보가 세계무역센터 9·11 테러 현장을 향하거나 마약을 하는 조지 부시 전 대통령, 속옷 차림인 가수 테일러 스위프트의 이미지 등이다. 그록2를 만든 장본인 머스크도 예외는 아니다.

이런 결과물들이 ‘생성 AI가 만든 허위 이미지’임을 확인할 별도의 표식도 없다. 영국 일간 가디언은 그록2에 대해 “업계에서 통용되는 안전장치 대부분이 결여됐다”고 지적했다.

X에 올라온 그록2로 생성한 이미지. 해당 이미지를 올린 사용자는 ″미국 의사당 건물을 불태운 트럼프라는 구체적인 입력값으로 생성한 결과물이다. 그록이 이런 입력값을 차단하거나 거르지 않았다는 점에서 놀랐다″고 밝혔다. X 캡처

━

다른 AI는 어때?

생성 AI의 딥페이크를 악용한 허위정보와 범죄가 늘어나면서 구글 등 다른 빅테크들은 오히려 ‘책임감 있는 AI’를 강조하는 분위기다. 특히 미 대선 등 올해는 유난히 전세계적으로 선거가 많은 해라 선제적으로 움직인 측면도 있다. 구글·메타·오픈AI 등 AI 관련 기업 20곳은 지난 2월 독일에서 열린 뮌헨안보회의에서 딥페이크를 비롯한 AI 활용 허위 정보에 대응하겠다는 합의문을 발표했다. 생성 AI로 만든 이미지나 동영상에 워터마크 등 표식을 삽입하는 식이다.

마크 저커버그 메타 CEO는 지난 1월 미국 상원의원 청문회에서 소셜미디어(SNS) 유해 콘텐트로 피해를 입은 10대들의 가족에 머리숙여 사과했다. AP=연합뉴스

이러한 노력에도 생성 AI를 활용한 딥페이크 등이 범죄로 활용되는 사례는 최근까지 이어지고 있다. 15일(현지시간) 미국 샌프란시스코 시 정부는 10대 여성들을 대상으로 딥페이크 불법 영상을 만들어 배포한 16개 웹사이트를 고소했다. 영국에서는 지난해 7월 AI로 아동 성착취물 사진을 제작·유포해 한국돈 약 900만원을 벌어들인 20대 남성이 체포되기도 했다. 페이스북·인스타그램 등을 운영하는 메타 플랫폼스의 CEO 마크 저커버그는 지난 1월 미 상원의원 청문회에서 딥페이크 포함 SNS(소셜미디어) 유해 콘텐트로 피해를 당한 청소년들 가족에게 머리 숙여 사과한 바 있다.

━

머스크의 반응은?

AI 악용 사례 증가와 이에 따른 업계의 자정화 노력에도 불구하고 일론 머스크는 자신만의 길을 걸어가는 중이다. 그록2의 이미지 생성 기능을 우려하는 목소리에 머스크는 “(그록2는) 세계에서 가장 재미있는 AI”라고 응수했다. 지난 14일 자신의 X 계정에 “악플러들은 바로 이런 게 AI라고 말할 것”이라며 트럼프 후보와 자신의 얼굴이 합성된 영상을 올렸다. 미국 CNN은 “대선을 앞둔 상황에서 머스크는 X에 거짓되고 오해의 소지가 있는 주장을 반복적으로 퍼트린다는 비난을 받고 있는데, (그록2의) 이번 기능은 유권자들에 혼란을 초래할 수 있다”고 경고했다.

어환희 기자 eo.hwanhee@joongang.co.kr