"선 넘은 거 아냐?"...머스크의 이미지 생성AI `그록-2` 논란

9·11 테러 저지르는 듯한 트럼프 등
선넘은 폭력적이고 노골적인 이미지 생성 가능

연합뉴스 제공

일론 머스크 테슬라 최고경영자(CEO)의 AI 기업 xAI가 최신 AI 챗봇 그록2(Grok-2)를 출시했다. 다만 그록2에 신설된 '이미지 생성' 기능이 폭력적이거나 정치적 논란의 여지가 있는 이미지를 만들 수 있다는 사실이 알려지며 우려의 목소리가 나오고 있다.

지난 13일 xAI는 소셜미디어(SNS) 엑스(X·옛 트위터)에 그록2를 베타(시험) 버전으로 출시한다고 밝혔다. 그록2 출시는 지난 11월에 그록을 처음 공개한 지 9개월 만이다.

xAI는 그록2가 "최첨단 추론 능력을 갖춘 우리의 프런티어 언어 모델"이라며 "그록2와 이보다 작은 형태의 그록2 미니(mini)도 함께 출시한다"고 말했다. 이 두 모델은 월 7달러인 엑스의 프리미엄 이상 구독자만 이용할 수 있다.

xAI는 그록2가 경쟁사의 AI 모델을 능가한다고 밝혔다. 대학원 수준의 과학 지식(GPQA) 평가에서는 56점을 얻어 오픈AI의 챗GPT-4 터보(48점)나 구글의 제미나이 프로 1.5(46.2점)보다 높고, 대규모 다중작업 언어 이해(MMLU)에서도 87.5점으로 이들 모델을 능가했다고 설명했다.

그러나 그록2는 출시 초기 이미지 생성 기능이 논란이 되고 있다. 그록2는 AI기업 블랙포레스트랩스(Black Forest Labs)와의 협력을 통해 개발된 플럭스(Flux)라는 모델을 이용해 이미지 생성 기능을 제공한다. 정보기술(IT) 전문 매체 더버지는 "엑스에는 그록2가 생성한 유명 인사의 딥페이크(합성 이미지)와 로 넘쳐나고 있다"고 보도했다.

도널드 트럼프 전 대통령과 카멀라 해리스 부통령, 버락 오바마 전 대통령뿐만 아니라 가수 테일러 스위프트, 머스크 자신도 딥페이크의 대상이 되고 있다. 더버지에 따르면 "그록2는 '벌거벗은 여성의 이미지를 만들어달라'는 단 한 가지의 요구만을 거절했다"며 " '나치 유니폼을 입은 도널드 트럼프'나 '속옷만을 입은 트위프트', '담배를 피우고 트럼프 추종 세력 MAGA 모자를 쓴 미키 마우스' 등의 이미지도 그록2가 생성했다"고 전했다.

머스크는 옛 트위터 인수 때에도 '표현의 자유'를 내세우며 "다양한 신념이 건강한 방식으로 표현될 수 있는 광장"을 표방한 바 있다. 이에 게시글이 논란이 되면서 계정 사용이 중지됐던 극우주의자들의 계정을 풀었다.

더버지는 "엑스가 광고 수익으로 어려움을 겪고 있는 가운데 그록의 느슨한 안전장치는 유명 인사들과 광고주들이 엑스를 피하게 만드는 또 다른 이유가 될 것"이라고 전망했다.

유진아기자 gnyu4@dt.co.kr