xAI ‘그록’ 딥페이크 성착취물 생성·유포···필리핀·일본 등 각국 제재 나섰다

‘이미지 편집’ 기능 추가 이후 잇단 성착취물 논란
인도네시아·말레이시아는 그록 접속 차단 조치

일론 머스크 최고경영자가 이끄는 인공지능 회사 xAI의 챗봇 ‘그록’의 로고가 그려진 일러스트. 로이터연합뉴스

소셜미디어 엑스에서 제공되는 인공지능(AI) 챗봇 서비스 ‘그록’에서 성 착취물 딥페이크가 생성·유포되는 것과 관련해 필리핀, 일본 등 각국 정부가 제재에 나섰다.

15일(현지시간) AFP통신에 따르면 헨리 로엘 아구다 필리핀 정보통신기술부 장관은 이날 기자회견에서 “AI의 등장으로 유해 콘텐츠가 많이 나타나고 있기 때문에 지금 당장 인터넷을 정화해야 한다”며 그록 접속을 즉시 차단한다고 밝혔다. 필리핀은 인도네시아와 말레이시아에 이어 세계에서 세 번째로 그록 접속을 차단한 국가가 됐다.

지난달 말 그록에 ‘이미지 편집’ 기능이 추가된 이후 사용자들이 그록을 이용해 딥페이크 성착취물을 생성·유포할 수 있게 되면서 이 서비스를 둘러싼 논란이 커졌다. 엑스는 전날 유·무료 사용자 모두 그록에서 비키니 차림 등 노출이 심한 이미지를 생성할 수 없도록 기술적으로 조치하겠다고 했다.

일본 정부도 최근 엑스에 그록의 딥페이크 생성물 출력을 차단하라고 요구했다. 또 부적절한 콘텐츠 생성을 제한하는 기술적 조처의 세부 내용과 향후 대응 방침 등을 보고하도록 했다. 그록이 이 문제를 개선하지 않을 경우 일본 정부는 지난해 9월 발효된 AI 법에 따라 사상 첫 행정지도를 하는 방안을 검토하고 있다. 요미우리신문은 이날까지 엑스가 일본 정부의 요구에 별도의 회신을 하지 않은 상태라고 전했다.

최근 일본에서는 미성년자를 대상으로 한 딥페이크 이미지 피해가 잇따랐다. 나루히토 일왕의 조카인 가코 공주도 피해를 봤다.

---

☞ 딥페이크 생성·유포하는 ‘그록’…이미지 53%가 속옷차림 [플랫]
     https://www.khan.co.kr/article/202601121049001

---

최경윤 기자 cky@kyunghyang.com