머스크의 AI '그록', 아동성착취 사진 올렸다 삭제…"보호장치 허점"

일부 이용자 안전장치 우회한듯
xAI, '매운맛 모드' 홍보해와

일론 머스크의 인공지능(AI) 스타트업 xAI의 챗봇인 그록(Grok)이 아동 성착취 이미지를 게시했다가 신고를 받고 삭제해 논란이 일고 있다. 회사 측은 보호장치 허점으로 이 같은 일이 발생했다고 설명했다.

2일(현지시간) 그록의 엑스(X·옛 트위터)에 따르면, 이 챗봇은 최근 일부 이용자의 요청에 따라 '최소한으로 옷을 입은 미성년자'를 묘사한 사진을 여러 건 게시했다.

특히 이 가운데는 1~2세 영유아로 보이는 아동 사진도 포함된 것으로 나타났다.

그록은 원래 아동을 성적으로 대상화하는 이미지 생성 요청을 차단하는 '안전장치'를 마련하고 있다. 그러나 일부가 이를 우회한 것으로 보인다.

그록은 한 이용자가 문제를 제기하자 "안전장치의 허점을 확인했다"며 "긴급히 수정 중"이라고 밝히고, 문제가 된 사진을 삭제했다.

xAI 측은 안전장치 상의 문제라고 설명했으나, 일각에서는 그록이 그동안 성적 콘텐츠를 허용하는 방식으로 이용자를 늘려왔다는 지적이 나온다.

앞서 챗GPT와 제미나이, 클로드 등 주요 AI 챗봇은 성적 이미지나 콘텐츠 생성을 엄격히 금지했지만, 그록은 '표현의 자유' 등을 내세워 이를 막지 않고 있다.

지난해 8월에는 이미지·영상 생성 모델을 출시하면서 성적인 이미지를 생성할 수 있는 이른바 '매운맛 모드'(Spicy Mode)도 함께 내놓기도 했다. 이 때문에 그록은 당시에도 유명 연예인을 성적으로 묘사하는 딥페이크 영상을 생성하는 도구라는 비판도 제기됐다.

※CBS노컷뉴스는 여러분의 제보로 함께 세상을 바꿉니다. 각종 비리와 부당대우, 사건사고와 미담 등 모든 얘깃거리를 알려주세요.

CBS노컷뉴스 정석호 기자 seokho7@cbs.co.kr

진실은 노컷, 거짓은 칼컷

국제