머스크의 AI '그록', 미성년자 노출 이미지 생성 논란

이용자 요청에 노출 높은 사진 생성
xAI "시스템 허점 확인…긴급 수정"

일론 머스크가 이끄는 인공지능 기업 xAI의 챗봇 '그록(Grok)'이 미성년자를 부적절하게 묘사한 이미지를 생성·게시했다가 이용자 신고 이후 삭제 조치되며 논란에 휩싸였다.

일론 머스크가 이끄는 인공지능 기업 xAI의 챗봇 ‘그록(Grok)’이 미성년자를 부적절하게 묘사한 이미지를 생성·게시했다. 로이터연합뉴스

2일(현지시간) 그록의 엑스(X·옛 트위터) 공식 계정 활동을 보면, 최근 이 챗봇이 노출도가 높은 복장의 미성년자를 표현한 이미지 여러 건을 게시한 사실이 확인됐다. 해당 이미지들은 일부 이용자의 요청에 따라 생성된 것으로, 1∼2세 영유아로 추정되는 사례까지 포함돼 있었던 것으로 전해졌다.

그록은 원칙적으로 아동을 성적 대상으로 다루는 콘텐츠 생성을 제한하는 보호 장치를 갖추고 있다. 그러나 이번 사례에서는 특정 요청이 이를 우회한 것으로 보인다. 문제 제기가 이어지자 그록 측은 안전 시스템의 취약점을 인지했다며 긴급 수정에 착수했고, 논란이 된 게시물은 삭제됐다.

xAI는 이번 사안을 기술적 결함으로 설명했지만, 그록의 운영 방식 전반을 둘러싼 비판도 함께 제기되고 있다. 그록이 그동안 '표현의 자유'를 강조하며 성적 콘텐츠에 비교적 관대한 정책을 유지해 이용자를 끌어왔다는 지적이다. 실제로 챗GPT, 제미나이, 클로드 등 주요 AI 서비스들이 성적 이미지 생성을 엄격히 제한하는 것과 달리, 그록은 규제 수위를 낮춘 접근을 취해왔다.

지난해 8월 이미지·영상 생성 기능을 공개하면서 성인용 콘텐츠 생성이 가능한 이른바 '스파이시 모드'를 도입한 점도 논란의 배경으로 거론된다. 당시 유명 인물을 성적으로 묘사한 합성 콘텐츠 생성에 활용될 수 있다는 비판이 나왔다.

이 같은 흐름 속에서 오픈AI의 샘 올트먼 최고경영자도 지난해 10월, 성인 인증을 거친 이용자에 한해 성적 콘텐츠 접근을 허용하는 방안을 검토하겠다고 밝힌 바 있다. 다만 미성년자를 성적으로 묘사하는 콘텐츠는 미국 연방법상 생성·소지 모두 금지돼 있어, 성인 대상 기능에서도 예외가 될 수 없다는 게 법조계의 공통된 해석이다.

김은하 기자 galaxy656574@asiae.co.kr