中 생성형 AI 규제 초안 발표…"사전 보안 평가 받아야"

중국 베이징에 위치한 국가사이버정보판공실(CAC) 전경 ⓒ 로이터=뉴스1 ⓒ News1 김성식 기자

(서울=뉴스1) 김성식 기자 = 중국 당국이 정보기술(IT) 기업을 상대로 한 인공지능(AI) 기술 규제 초안을 공개했다. 앞으로 중국에서 생성형 AI 서비스를 출시하는 기업들은 당국에 사전 보안 평가를 받아야 한다.

로이터·AFP 통신에 따르면 11일 중국의 인터넷 감독기구인 국가사이버정보판공실(CAC)은 생성형 AI 기술로 만들어진 콘텐츠는 중국의 사회주의 핵심 가치에 부합해야 한다고 밝힌 뒤 관련 규제 초안을 공개했다.

공개된 초안은 "생성형 AI 제품을 사용한 서비스를 인민에게 제공하기 전 국가 인터넷 규제 부서에 보안 평가를 신청해야 한다"고 적시했다.

이에 따라 서비스 제공업체는 생성형 AI 제품을 학습시키는 데 사용된 데이터의 적법성을 책임 져야 하며 AI 알고리즘 및 학습 데이터를 설계하는 과정에서 차별 방지 조치를 취해야 한다.

서비스 제공업체는 자사 플랫폼 내에서 부적절한 콘텐츠가 창작된 경우 3개월 이내에 관련 기술을 업데이트하는 등 적극적으로 재발 방지 대책을 내놔야 한다.

규제 당국은 서비스 제공업체를 상대로 생성형 AI 제품 사용자의 신상 정보를 요구할 수 있다. 또한 규정을 준수하지 않은 서비스 제공업체에는 과징금 부과, 서비스 차단, 형사 고발 등의 제재를 가할 수 있다.

CAC는 오는 5월10일까지 이의제기를 받은 뒤 올해 안에 AI 규제를 시행한다는 계획이다.

seongskim@news1.kr