머스크, AI 챗봇 '그록2' 출시…도 넘은 이미지 생성 논란

공인 대상 성적·폭력 이미지 내놔...머스크 "세상에서 가장 재밌는 AI"

(지디넷코리아=조이환 기자)일론 머스크가 최근 출시한 인공지능(AI) 챗봇 '그록2가' 폭력적이고 선정적인 이미지를 제한 없이 생성하면서 논란을 빚고 있다.

가디언 등 외신은 16일 그록2가 이미지 생성 기능을 탑재했다고 일제히 보도했다. 다만 이 기능은 부적절한 콘텐츠를 자동으로 차단하는 기능을 갖추지 않은 것으로 확인됐다. 현재 오픈AI의 '달리3'나 스태빌리티의 '스테이블 디퓨전'은 해당 시스템을 추가한 상태다. 

실제 가디언이 직접 확인한 결과 그록2는 공인 대상으로 부적합한 이미지를 손쉽게 생성했다. 이 챗봇은 카멀라 해리스 미국 부통령과 가수 테일러 스위프트를 노골적으로 성적 대상화한 이미지를 만들어 냈다. 

머스크의 챗봇 '그록'이 폭력적이고 선정적인 이미지들을 제한 없이 생성하면서 논란을 빚고 있다. (사진=지디넷코리아 DB)

또 도널드 트럼프 전 미국 대통령이 쌍둥이 빌딩에 비행기를 몰고 가는 장면이나 폭탄을 들고 있는 이슬람 창시자 무함마드 등의 이미지도 생성해 냈다. 반면 오픈AI의 '달리3'는 같은 명령어에 '폭력적이거나 불쾌감을 주는 이미지 생성은 불가능하다'고 답변했다.

이런 상황에도 머스크는 그록을 '세상에서 가장 재미있는 AI'로 칭하며 정렬(Alignment) 조치가 없는 AI 사용을 옹호하는 듯한 모습을 보였다.

다수 외신은 이번 그록의 사례가 AI 도구 사용 규제 논의 필요성을 촉진할 것이라 봤다.

가디언은 "이번 사건은 구글 제미나이가 출시 직후 사실을 오도하는 그림을 생성한 것과 마찬가지로 이미지 생성 AI의 부작용을 드러내는 사례"라며 "이미지 생성 AI가 가짜뉴스뿐 아니라 차별과 혐오를 촉발할 위험이 있음을 보여준다"고 분석했다.

조이환 기자(ianyhcho@zdnet.co.kr)