아슬아슬한 ‘그록2’…안전장치는 어쩌나

머스크의 스타트업 ‘xAI’ 나체 이미지 이외 제한 없이 생성 가능
구글 ‘이마젠3’의 유명인 이름·워터마크 등 오남용 방지와 대비

원하는 이미지를 뚝딱 만들어주는 생성형 인공지능(AI)이 날로 정교해지고 있지만 오남용을 막기 위한 ‘안전장치’는 제각각이다.

일론 머스크 테슬라 최고경영자(CEO)의 AI 스타트업 xAI가 출시한 이미지 생성 AI 챗봇이 논란의 중심에 섰다. 이미지 생성에 대한 제한이 거의 없어 가짜 이미지 확산 우려가 제기되고 있다.

17일(현지시간) 정보기술(IT) 전문 매체 벤처비트 등에 따르면 구글은 지난 15일 자사 이미지 생성 AI 모델의 최신 버전 ‘이마젠3’을 AI 도구 ‘이미지FX’를 통해 미국 사용자에게 선보였다. 지난 13일에는 xAI가 이미지 생성 기능을 추가한 신형 AI 챗봇 ‘그록2’를 시험 버전으로 출시했다. 그록2에는 독일 스타트업 블랙포레스트랩스의 이미지 생성 AI 모델을 적용했다. 엑스(옛 트위터)의 유료 구독형 서비스 사용자만 쓸 수 있다. 이들 서비스는 오픈AI의 달리, 미드저니 등 쟁쟁한 이미지 생성 AI와 경쟁한다.

서비스 이용 방식은 대부분 비슷하다. 텍스트로 어떤 이미지를 만들어달라고 입력하면, 그에 걸맞은 결과물을 내놓는다. 기업들은 자사 AI가 이용자의 요청을 잘 이해해 매우 사실적이고 자연스러운 이미지를 생성한다고 홍보한다.

눈에 띄는 차이를 만드는 건 기술 혁신과 책임 사이의 균형이다. 구글은 “이마젠3은 데이터·모델 개발에서 생산에 이르기까지 당사의 최신 안전 및 책임 혁신을 통해 구축됐다”고 강조하고 있다. 생성된 이미지에는 눈에는 보이지 않는 디지털 워터마크가 표시된다. 미국 민주당 대선 후보인 카멀라 해리스 부통령, 인기 가수 테일러 스위프트 등 유명 인사들의 이미지는 만들지 않는다. 정도의 차이가 존재하지만 달리, 미드저니 등도 안전장치를 두고 있다. 다만 이미지 생성 제한을 두고 있어도 요청을 조금만 다른 방식으로 하면 이를 우회할 가능성은 여전히 있다.

하지만 그록2는 제한 자체를 거의 하지 않는 것으로 나타났다. 임신한 해리스 부통령의 배를 만지는 공화당 대선 후보 도널드 트럼프 전 대통령, 마약을 흡입하는 빌 게이츠 마이크로소프트(MS) 창업자, 속옷만 입은 스위프트 같은 ‘가짜 이미지’를 만들었다는 사례가 엑스와 언론을 통해 전해졌다. 담배 피우는 미키마우스처럼 저작권이 있는 캐릭터 이미지도 생성한다. IT 전문 매체 더버지는 “우리 테스트에서 그록은 ‘벌거벗은 여성 이미지를 생성해달라’는 단 하나의 요청을 거부했다”고 전했다.

머스크 CEO는 지난 15일 엑스에 “그록은 세상에서 가장 재미있는 AI”라고 올렸다. 2022년 트위터를 인수한 그는 ‘표현의 자유’를 방패 삼아 가짜뉴스, 혐오표현 등 유해 콘텐츠를 방치하고 있다는 비판을 받아왔다. 그록2의 안전장치를 최소화한 것도 이 같은 행보의 연장선으로 볼 수 있다. 엑스에 게시되는 불쾌한 콘텐츠에 반발한 광고주가 이탈할 가능성이 거론된다. 반면 제한 없는 이미지 생성 서비스가 더 많은 이용자를 끌어모을 수도 있다.

미국에선 대선을 앞두고 있는 만큼 후보들의 가짜 이미지 확산에 따른 우려가 커지는 상황이다. 경쟁사와는 다른 노선을 택한 그록2의 등장은 AI 규제 논의를 촉진할 것으로 전망된다.

노도현 기자 hyunee@kyunghyang.com