네덜란드 "그록, 성적 이미지 중단 않으면 하루 1.7억 벌금"

암스테르담 법원 판결…벌금 상한선은 최대 170억원

(브뤼셀=연합뉴스) 현윤경 특파원 = 엑스(X·옛 트위터)의 인공지능(AI) 챗봇 그록이 비동의 알몸 이미지와 아동 성 학대 콘텐츠 생성을 중단하지 않으면 네덜란드에서 하루 10만 유로(약 1억7천만원)의 벌금을 내게 됐다.

로이터 통신 등에 따르면 네덜란드 암스테르담 법원은 26일(현지시간) 그록이 "당사자의 명시적인 동의 없이 부분적으로 또는 완전히 나체로 만드는 성적 이미지를 생성하거나 유포하는 것을 금지한다"고 밝혔다.

또 네덜란드 법에 따라 아동을 성적으로 학대하는 콘텐츠 생성에도 금지 명령을 내렸다.

법원은 이런 명령을 이행하지 않을 경우 엑스의 인공지능 스타트업인 xAI는 하루 10만 유로의 벌금을 내야 한다고 판결했다. 벌금 상한선은 최대 1천만 유로(약 170억원)다.

법원은 아울러 xAI가 이 명령을 위반하는 동안에는 그록을 엑스에서 차단할 것도 명령했다.

이번 소송은 네덜란드 비영리 단체 오프리미츠가 범죄 피해자를 지원하는 비영리 기관과 협력해 제기했다.

최근 열린 심리에서 xAI는 그록의 성적 이미지 생성이 논란이 된 뒤 안전장치를 강화했다고 강조하면서 악의적인 사용자가 그록을 남용하는 것을 모두 막을 수는 없으며, 이런 사용자들의 행동으로 회사가 처벌받아서는 안된다고 항변했다.

이에 대해 법원은 엑스와 xAI가 성적 이미지 생성과 확산을 막기 위해 대응한 점은 인정되지만 이런 조치만으로는 충분하지 않다고 지적했다.

오프리미츠의 대표 로베르트 호 법원의 판결을 환영하면서 "동의를 거치지 않은 성적 이미지나 아동을 성적으로 묘사한 AI 이미지를 생성하는 데 자사의 도구가 동원되지 않도록 하는 책임은 해당 기업에 있다"고 말했다.

이번 판결은 주요 온라인 플랫폼에 불법 콘텐츠 단속을 요구하는 유럽연합(EU)의 디지털서비스법(DSA)에 따라 그록과 다른 AI에 대한 유럽 규제 당국의 감독이 강화되고 있는 가운데 나왔다.

EU 집행위원회는 그록이 여성과 아동의 성적 이미지를 생성한다는 논란이 거세지자 지난 1월 이 문제에 대한 조사에 들어갔다. 유럽의회와 EU 회원국들도 선정적인 이미지를 생성하거나 조작하는 AI 누드 생성 앱을 금지하는 방안을 추진 중이다.

ykhyun14@yna.co.kr

▶제보는 카톡 okjebo

국제