트럼프와 김정은이 뽀뽀?…머스크의 '필터링 제로' AI 그록 출시

10일, 그록 베타버전 출시… 딥페이크 등 부작용 우려

일론 머스크 최고경영자(CEO)가 이끄는 스타트업 xAI가 첫 인공지능(AI) 챗봇 애플리케이션(앱) '그록'(Grok) 베타 버전을 출시했다. 사진은 xAI의 그록에 김정은 국무위원장과 도널드 트럼프가 뽀뽀하는 사진을 요청해 생성한 결과. (인공지능 생성 표시 워터마크는 별도 방법으로 추가) /사진=그록

일론 머스크 최고경영자(CEO)가 이끄는 스타트업 xAI가 첫 인공지능(AI) 챗봇 애플리케이션(앱) '그록'(Grok) 베타 버전을 출시했다. '필터링되지 않은 AI'를 표방하며 자유롭고 유머러스한 답변과 이미지 생성 기능으로 주목받고 있지만 딥페이크 등 악용 가능성에 대한 우려도 제기된다.

10일 IT(정보기술) 업계에 따르면 스타트업 xAI가 10일 첫 AI 챗봇 앱 그록 베타 버전을 애플 앱스토어에 출시했다.

지금까지는 머스크가 운영하는 소셜네트워크 X(옛 트위터) 유료 구독자만 '그록-2 베타' 챗봇 서비스를 이용할 수 있었는데 처음으로 독립형 앱이 나온 것이다. 이날부터 사용자들은 그록 앱을 무료로 이용할 수 있게 됐다.

그록은 머스크가 2023년 '과감하고 필터링되지 않은 AI'라며 선보인 AI 챗봇이다. 머스크는 오픈AI와 구글의 챗봇보다 그록이 유머 감각이 뛰어나고 자유로운 답변이 가능하다고 소개했다. 예를 들어 불법 약물 제조 정보를 물어보면 챗GPT는 답변을 거부하는 반면 그록은 제조법을 설명하는 척하다가 농담이라며 "제조하지 말라"고 답변하는 식이다.

그록은 특히 이미지 생성 기능으로 주목을 받았다. 챗GPT 등 다른 앱들이 선정적이고 자극적인 이미지 생성에 제약을 두는 반면 그록은 유명인이나 저작권이 있는 캐릭터의 이미지를 별다른 제한 없이 생성할 수 있다.

━

가짜뉴스나 '딥페이크'로 약용될 여지↑

━

10일 직접 그록을 사용해 본 결과 그록은 초상권 침해나 명예훼손 등의 가능성을 고려하지 않은 채 머스크가 언급한 '필터링되지 않은 AI'를 그려주고 있었다. 사용자 입장에서는 다양하고 창의적인 이미지를 생성할 수 있다는 장점이 있지만 가짜뉴스나 '딥페이크'(AI 기반 합성 영상·이미지)로 악용될 위험성도 커 보였다.

실제 그록은 지난해 미국 대선을 앞두고 딥페이크 영상 확산의 주요 원인으로 지목된 바 있다. 주요 외신 보도에 따르면 xAI에서 개발한 그록-2 모델은 자극적이거나 선정적인 이미지, 가짜뉴스에 활용될 수 있는 콘텐츠 생성에 거의 제한이 없는 것으로 드러났다.

미국 정치 컨설팅 회사 APS의 크리스티안 몬테소리 연구원은 "그록은 특정 맥락이 주어지면 제한 없이 거의 모든 것을 생성할 수 있다. 폭력적인 묘사부터 적절한 프롬프트를 통해 아동 포르노까지 생성 가능하다"며 "오픈AI와 구글, 메타는 안전한 사용을 위한 프로토콜을 마련했지만 그록은 안전성 테스트가 부족해 보인다"고 우려를 표했다.

딥페이크를 비롯한 부작용에 대한 비판이 커지자 머스크는 X를 통해 "사람들이 재미있게 사용할 수 있는 좋은 중간 단계"라고 언급하며 논란을 진화하려는 모습을 보였다.

한편 월스트리트저널(WSJ)은 머스크가 오픈AI 등 업계 강자를 따라잡기 위해 그록 앱을 내놓은 것이라고 분석했다. 머스크는 샘 올트먼 CEO와 오픈AI를 공동 창업했지만 2018년 갈라섰고 이후 2023년 xAI를 설립하며 오픈AI와 경쟁 관계가 됐다.

김성아 기자 tjddk99@mt.co.kr