중국, 생성 AI 검열 시작···"공산당 비판하면 벌금"

AI 챗봇 개발부터 출시 과정 감시...온라인 검열 AI 분야로 확장"

(지디넷코리아=김미정 기자)중국이 공산당을 비판하는 생성 인공지능(AI) 제품 출시를 막기 위해 검열을 시작했다.

BBC 등 외신은 중국 디지털 규제 기관이 공산주의 체제에 반하는 답을 내놓는 생성 AI 제품 출시를 금지하는 지침을 내놨다고 12일(현지시간) 보도했다. 가장 대표적 제품은 AI 챗봇과 대규모언어모델(LLM)이다. 중국이 온라인 검열 체계를 생성 AI 분야로 확장한 셈이다.

검열 범위는 언어모델 데이터셋 연구 훈련법부터 AI 챗봇 배포까지다. 사실상 챗봇 개발부터 출시 전 과정을 검열하는 셈이다. 중국은 사용자가 생성 AI와 어떻게 상호작용하는지, 연구자는 데이터셋을 어떻게 훈련해야 하는지까지 직접 확인한다.

중국이 공산당을 비판하는 생성 AI 제품 출시를 막는다. (사진=지디넷)

중국 사이버 관리국이 해당 규제안을 만들었다. 규제에 대한 명확한 이유를 알렸다. 관리국은 "중국 IT기업은 데이터셋에 사회주의 핵심 가치를 반드시 반영해야 한다"고 강조했다. 해당 규정을 위반하는 기업은 벌금을 내야 한다. 벌금은 1만 위안(약 190만원)에서 최대 10만 위안(약 1천900만원)이다. 형사 수사도 받는다.

중국이 검열을 시작한 이유는 생성 AI 특성 때문이다. 일반적으로 언어모델은 인터넷을 통해 데이터를 모은다. 데이터는 중국 정부에 반하는 사상, 중국 내에서 금기로 여겨지는 주제 등도 학습한다. 

최근 바이두가 만든 챗봇 '어니봇'도 위키백과나 레딧에서 얻은 정보를 데이터셋에 넣었다. 위키백과나 레딧은 중국에서 접속 불가한 웹사이트다. 중국 국민은 해외 인터넷 사이트를 이용할 수 없지만, 챗봇 답변을 통해 정보를 자유롭게 접할 수 있다.

영국 이코노미스트인텔리전스유닛 침 리 중국 기술 분석가는 "중국은 평소 선호하던 사상을 AI 제품에 녹이는 방향을 추진하고 있다"고 밝혔다. 미국 조지워싱턴대 제프리 딩 교수는 "AI챗봇은 정치적으로 민감한 내용을 답변으로 생성할 가능성이 높다"며 "이는 중국 공산당에게 큰 위기일 수 있다"고 전했다.

한편 미국 국가전기통신정보청(NTIA)은 이달 '책임감 있는 AI' 정책을 구체화하기 시작했다. NTIA는 AI 시스템 성능, 안전성, 효과성, 차별·편향 문제, 허위 정보 확산, 개인 정보 보호에 관한 문제를 판단할 수 있는 기준이나 가이드라인을 마련할 방침이다.

NTIA 앨런 데이비슨 소장은 "금융 감사가 기업 재무제표 정확성에 대한 신뢰를 만든 것처럼, 책임감 있는 AI 정책도 AI 시스템에 대한 신뢰성을 확보할 수 있게 될 것"이라고 강조했다.

김미정 기자(notyetkim@zdnet.co.kr)