말레이시아, 비키니 입은 아동 사진 유포한 xAI '그록' 조사 착수

말레이시아 정부가 최근 비키니 수영복 등을 입은 아동 사진을 유포한 챗봇 '그록'(Grok)의 인공지능(AI) 기업 xAI를 상대로 조사에 착수했습니다.

블룸버그통신 등에 따르면, 말레이시아 방송통신멀티미디어위원회(MCMC)는 최근 미성년자와 여성 사진을 조작해 음란 콘텐츠를 생성하는 인공지능(AI)과 관련한 신고를 접수해 조사하고 있다고 밝혔습니다.

MCMC는 "이런 유해 콘텐츠를 제작하거나 전송하는 행위는 범죄"라며 관련 혐의를 받는 AI 사용자와 해당 기업 대표를 소환할 예정이라고 덧붙였습니다.

'그록'은 최근 비키니 수영복 등을 입은 아동 사진을 생성한 뒤 소셜미디어(SNS) 플랫폼 엑스(X·옛 트위터)를 통해 유포했습니다.

이 사진들은 일부 이용자들의 요청에 따라 생성됐으며 이 중에는 1∼2살 영유아로 보이는 아동 사진도 포함됐습니다.

'그록'은 한 이용자가 문제를 제기하자 "안전장치의 허점을 확인했다"며 해당 사진들을 삭제했습니다.

챗GPT와 제미나이 등 주요 AI 챗봇은 성적 이미지나 콘텐츠 생성을 엄격하게 금지하지만, '그록'은 표현의 자유 등을 이유로 이를 막지 않고 있습니다.

최근 인도 정부도 xAI에 서한을 보내 '그록'이 노출이나 노골적인 성적 표현 등을 생성하지 않도록 포괄적으로 검토하라고 요청했습니다.

이에 따라 xAI는 72시간 안에 인도 전자정보기술부에 조치 보고서를 제출해야 합니다.

지난주 프랑스 정부도 '그록'이 사용자 동의 없이 명백하게 불법적인 성적 콘텐츠를 생성했다고 비판했습니다.

'그록'은 일론 머스크 테슬라 최고경영자(CEO)가 2023년 설립한 xAI가 개발한 대화형 AI입니다.

YTN 유투권 (r2kwon@ytn.co.kr)

※ '당신의 제보가 뉴스가 됩니다'

[카카오톡] YTN 검색해 채널 추가

[전화] 02-398-8585

[메일] social@ytn.co.kr

국제