AI챗봇에 사회주의 사상 심는다…中 ‘검열 강박증’

천안문 사태 등 정치 사안과
시진핑에 대한 민감한 질문에
어떻게 답하는지 모니터링

[사진=로이터연합]

중국이 자국 AI(인공지능) 챗봇에 대한 사상 검증에 나섰다. 중국과 시진핑 국가주석에게 부정적인 정보를 AI에게 아예 제공할 수 없게 하는 ‘원천 차단’ 방식이다. 중국은 나아가 시 주석의 철학 등을 담은 AI 챗봇을 자체 출시하기도 했다.

17일(현지시간) 영국 일간 파이낸셜타임스(FT)는 중국 사이버공간관리국(CAC)이 자국 AI 빅테크와 스타트업들에게 정부의 AI 거대언어모델(LLM) 검열에 참여하도록 강제하고 있다고 보도했다. 바이트댄스, 알리바바 등 AI 빅테크뿐만 아니라 크고 작은 스타트업들도 모두 검열 대상이다.

LLM은 AI 챗봇이 학습하는 ‘교재’라고 이해하면 된다. 양질의 텍스트 데이터를 얼마나 많이 LLM에 포함하느냐에 따라 AI 챗봇의 기능이 결정된다.

FT에 따르면 중국 전역에서 활동하는 CAC 소속 직원들이 시 주석에 대한 민감한 질문, 중국 정치에 대한 비판적인 질문을 AI 챗봇에 던지고 답변을 모니터링한다. CAC는 또 LLM에 포함되는 데이터와 기타 보안 절차도 점검한다.

중국 AI 기업들은 검열에 통과하기 위해 스스로 별도의 노력을 기울여야 한다. ‘민감한 핵심 단어’들을 선정하고, 전용 데이터 베이스를 마련해야 한다.

중국당국이 지난 2월 내린 실무 지침에 따르면 소위 민감한 키워드는 ‘국가 권력 전복’, ‘국가 통합 저해’ 등이다. AI 기업들은 다소 범위가 넓은 지침 때문에 매주 키워드를 업데이트해야 한다. 계속 늘어난 키워드들은 수천개가 넘기도 한다.

검열 기준이 모호한 점도 문제다. 중국 항저우 소재 AI 기업의 직원은 “CAC의 첫 검열을 통과하지 못했었는데, 이유가 명확하지 않아서 내부적으로 이를 추측해야 했다”며 “검열 통과까지 수개월이 걸렸다”고 말했다.

민감한 질문이 나왔을 때 답변도 다양하게 구축해야 한다. 중국당국은 AI 챗봇이 거절할 수 있는 질문 수는 제시된 질문의 5% 미만이어야 한다고 규정하고 있다.

AI 빅테크들은 당국의 기준을 충족한 모양새다. 바이두의 챗봇은 천안문 사태나 시 주석 관련 질문을 하면 “다른 질문을 하라”고 유도한다. 알리바바의 챗봇은 해당 질문에 “어떻게 답해야 하는지 아직 모른다. 계속 공부하겠다”고 회피한다.

AI 챗봇을 통한 중국 사회주의 국가 권력 공고화 작업으로 풀이된다. 실제 중국 정부는 ‘새 시대를 위한 중국인들의 특성이 가미된 시진핑의 사회주의 사상’으로 알려진 시 주석의 정치 철학에 기반한 AI 챗봇을 제작했다. CAC는 해당 챗봇을 적극 배포하고 있다.

FT는 “중국은 공산당에 위협이 되는 정보를 차단하기 위해 중국 인터넷을 세계 인터넷 환경에서 분리하는 ‘만리방화벽(만리장성과 방화벽을 합친 신조어)’을 도입한 지 20년 만에 AI와 AI 콘텐츠를 통제하기 위해 세계에서 가장 강력한 AI 규제 체제를 구축하고 있다”고 전했다.