“머스크의 그록 AI, 트래픽 절반 이상이 성인용 콘텐츠”

일론 머스크 스페이스X 최고경영자(CEO) 캐리커처 형태의 대형 풍선이 지난 11일(현지 시각) 미국 뉴욕의 타임스퀘어에 세워져 있다. 풍선에는 스페이스X 자회사 xAI의 인공지능(AI) 모델 '그록'이 아동을 성적 대상화하는 콘텐츠를 만든다는 문구가 적혀있다. /연합뉴스

일론 머스크의 인공지능(AI) 기업 xAI가 성인용 콘텐츠에 의존해 이용자를 모은다는 주장이 제기됐다.

디인포메이션은 25일(현지 시각) xAI에 재직했던 직원 2명을 인용해 이 회사의 AI 모델 ‘그록’(Grok) 트래픽의 절반 이상이 음란 이미지·영상과 성인 역할극 채팅 등 활동과 관련한 것이라고 보도했다.

그록의 코딩 전용 모델에서도 이용자 요청 대다수가 음란물이나 알몸 사진 생성과 관련된 것으로 나타났다. 이용자들이 범용 모델 대신 코딩 전용 모델을 쓰는 것은 비용이 더 저렴하기 때문으로 추정된다.

이 같은 현상은 내부 연구진의 반발을 불렀다. 일부 엔지니어들은 그록이 실존 인물의 사진을 도용해 동의 없는 음란물을 생성하는 문제에 충격을 받은 것으로 전해졌다. 또 일부 직원은 기술 프로젝트 대신 ‘애니’(Ani)라는 이름의 성적 대상화 AI 아바타 개발에 투입되자 회사를 떠난 것으로 알려졌다.

xAI의 안전팀 규모는 지난해 말 기준으로 6명 가량에 불과했으나, 현재는 인원이 더 줄어든 상태다.

그록은 지난해 말 이용자 요청으로 아동이 등장하는 성적 이미지를 생성한 사실이 드러나 여러 국가에서 접속 차단 조처되거나 조사 대상에 올랐다.

xAI의 모회사인 스페이스X는 앞서 기업공개(IPO) 신청서에서 xAI 모델이 올해 1분기 매달 이미지 100억장과 동영상 20억편을 생성했다고 밝혔다. 그러나 이들 작업의 상당 부분이 성인용 콘텐츠라는 점은 언급하지 않았다.

대신 투자 설명서의 ‘위험요인’ 항목에서 덜 절제되거나 무례한 결과를 생성하는 ‘매운맛’·‘불안정’ 모드가 노골적인 콘텐츠, 허위정보, 동의 없는 이미지 생성 등을 초래할 수 있다고 경고했다.

- Copyright ⓒ 조선비즈 & Chosun.com -