필리핀, AI챗봇 '그록' 차단 6일만에 해제…"음란물 생성 기능 삭제"

그록 로고. 로이터=연합뉴스

일론 머스크가 소유한 엑스(X)의 인공지능(AI) 챗봇 ‘그록’을 둘러싼 성 착취 딥페이크 논란과 관련해 필리핀 정부가 접속 차단 조치를 해제하기로 했다. 차단 결정 이후 6일 만이다.

21일(현지시간) 필리핀 사이버범죄수사조정센터(CICC)는 성명을 내고 그록 운영 측이 음란성 콘텐트 생성 기능을 제거하겠다고 약속함에 따라 접속 차단을 해제하기로 결정했다고 밝혔다.

CICC는 “그록 측이 딥페이크 제작을 가능하게 하는 이미지ㆍ콘텐트 조작 기능 삭제와 특히 아동 성 학대 자료 등 음란물의 완전한 배제를 포함해 현지 시장에 맞춰 이 도구(그록)를 특별히 수정하기로 약속했다”고 설명했다. 레나토 파라이소 CICC 센터장은 접속 차단 이후 그록 측이 직접 연락해 이러한 입장을 전달해왔다고 전했다.

다만 구체적인 접속 재개 시점은 그록 측과의 추가 협의를 거쳐 정할 방침이다. 파라이소 센터장은 향후에도 그록이 필리핀 법규를 준수하는지 지속적으로 모니터링하겠다고 강조했다.

앞서 필리핀 정부는 지난 15일 성 착취 딥페이크 콘텐트 논란과 관련해 인도네시아와 말레이시아에 이어 세계에서 세 번째로 그록 접속 차단 조치에 나섰다.

이와 별도로 일본 정부는 딥페이크 등 타인의 이미지를 이용한 부적절한 성적 콘텐트 생성 문제와 관련해 엑스 측에 개선을 요구했다. 영국 미디어 규제 당국 오프콤(OfCom)과 미국 캘리포니아주 검찰도 그록과 관련해 엑스에 대한 수사에 착수한 상태다.

엑스 측은 대응 차원에서 그록이 실제 인물의 이미지를 활용해 비키니 수영복이나 속옷 차림 등 노출이 심한 이미지를 생성하지 못하도록 제한하는 자체 안전 조치를 도입했다고 밝혔다.

한영혜 기자 han.younghye@joongang.co.kr