EU, '음란물 제조' 논란 AI 그록 조사 착수…"불법콘텐츠 유포"

여성·미성년자 성착취 논란…"DSA 위반 여부 조사"

일론 머스크가 소유한 xAI의 인공지능 챗봇 '그록'(Grok) 로고. 2025.02.16 ⓒ 로이터=뉴스1 ⓒ News1 김지완 기자

(서울=뉴스1) 이정환 기자 = 유럽연합(EU) 집행위원회가 일론 머스크의 인공지능(AI) 챗봇 '그록(Grok)'이 노골적인 성적 이미지를 생성한 것과 관련해 디지털서비스법(DSA) 위반 여부에 관한 조사에 착수했다.

로이터통신에 따르면 아일랜드 출신 레지나 도허티 유럽의회 의원은 26일(현지시간) 이메일 성명에서 EU 집행위가 소셜미디어 엑스(X)를 대상으로 조사에 착수했다며 "결정을 환영한다"고 밝혔다.

도허티 의원은 이번 조사가 소셜미디어 엑스(X)의 위험 완화, 콘텐츠 거버넌스, 기본권 보호와 관련된 요건을 포함하여 EU 디지털 법안에 따른 의무를 준수했는지 여부를 평가할 것이라고 말했다.

EU 집행위원회 역시 이날 보도자료에서 디지털서비스법(DSA)에 따라 X가 "EU 내 서비스에 그록을 도입하면서 관련 위험을 적절히 평가하고 완화했는지를 평가할 예정"이라며 그록의 아동 성착취물·딥페이크 등 불법콘텐츠 유포로 EU 시민들이 심각한 피해에 노출된 것으로 보인다고 밝혔다.

그러면서 이번 조사에서 "X가 DSA에 따른 법적 의무를 이행했는지, 아니면 여성과 아동을 포함한 유럽 시민의 권리를 자사 서비스의 부수적 피해로 취급했는지 판단할 것"이라고 전했다.

X의 DSA 위반 혐의가 사실로 확인될 경우 EU로부터 막대한 벌금에 직면할 수도 있다. X는 지난해 12월 이미 DSA에 따른 투명성 요건 위반을 이유로 1억 2000만 유로(약 1800억 원)의 벌금을 부과받은 바 있다.

앞서 머스크는 X에 게시된 이미지를 그록이 수정할 수 있도록 하는 기능을 도입했다. 이후 많은 이용자가 "비키니를 입혀라", "옷을 벗겨라"와 같은 손쉬운 명령어를 이용해 여성과 미성년자의 딥페이크 이미지를 생성하는 데 그록을 악용하면서 논란이 일었다.

논란이 거세지자, 그록을 개발한 머스크 소유 인공지능 기업 xAI는 지난 14일 "비키니와 같이 노출이 있는 복장을 한 실제 인물의 이미지를 편집하는 것을 그록 계정이 허용하지 않도록 기술적 조치를 시행했다"고 밝혔다.

도허티 의원은 "플랫폼이 위험을 적절히 평가하고 불법적이고 유해한 콘텐츠의 확산을 방지해야 하는 법적 의무를 다하고 있는지 매우 심각한 의문을 제기한다"며 "유럽연합은 온라인상의 사람들을 보호하기 위한 명확한 규칙을 가지고 있다. 특히 강력한 기술이 대규모로 도입될 때 이러한 규칙은 실질적인 의미를 가져야 한다"고 강조했다.

jwlee@news1.kr