'톈안먼 사태' 물으면 답변 거부 AI에 사회주의 사상 심는 중국

FT "전세계 가장 강력한 통제"

중국이 자국 기업의 인공지능(AI) 챗봇에 대한 사상 검증을 실시하고 있다. 국가와 시진핑 국가주석, 사회주의 사상에 대한 부정적인 정보를 AI 학습 데이터로 쓰지 못하게 원천 차단하는 방식이다. 중국 정부는 검열에서 나아가 시 주석의 철학 등을 전파하는 AI 챗봇을 자체 출시하기도 했다. 17일(현지시간) 영국 일간 파이낸셜타임스(FT)는 중국 사이버공간관리국(CAC)이 바이트댄스, 알리바바 등 AI 빅테크뿐만 아니라 스타트업들에도 정부의 AI 거대언어모델(LLM) 검열에 참여하도록 강제하고 있다고 보도했다.

FT에 따르면 중국 전역에서 활동하는 CAC 소속 직원들이 시 주석에 대한 민감한 질문이나 중국 정치에 대한 공격적인 질문을 AI 챗봇에 던진 후 답변을 모니터링한다. 또 LLM에 포함된 데이터 등도 점검한다. 중국 AI 업체들은 CAC의 검열을 통과하기 위해 정부의 AI 개발 관련 가이드라인에 따라 자체적으로 특정 데이터를 배제하거나 질의문답 알고리즘을 마련하고 있다. 먼저 AI 기업들은 지난 2월 정부가 업체들에 하달한 실무 지침에 따라 '국가 권력 전복' '국가 통합 저해' 등 민감한 키워드를 관리한다. 민감한 질문에 대한 답변 알고리즘도 다양하게 마련하고 있다. AI 챗봇이 답변을 거절할 수도 있지만 당국은 제시된 질문의 5% 미만까지만 거부할 수 있다고 규정하고 있다. 중국 정치 환경과 사회주의에 대해 AI 챗봇이 편파적이라는 인상을 숨기기 위한 조치로 풀이된다.

AI 챗봇 검열은 중국의 사회주의 국가 권력 공고화 작업의 일환으로 볼 수 있다. 실제 중국 정부는 시 주석의 정치 철학이나 사상에 기반한 AI 챗봇을 제작해 배포하고 있다.

AI 빅테크들은 당국의 기준을 충족한 모양새다. 바이두의 챗봇은 톈안먼 사태나 시 주석과 관련한 질문을 하면 "다른 질문을 하라"고 유도한다. 알리바바의 챗봇은 해당 질문에 "어떻게 답해야 하는지 아직 모른다. 계속 공부하겠다"며 회피한다.

FT는 중국이 공산당에 위협이 되는 정보를 차단하기 위해 중국의 인터넷을 세계 인터넷에서 분리한 '만리방화벽'(만리장성과 방화벽을 합친 신조어)을 거론하며 "중국이 20년 만에 AI와 그 콘텐츠를 통제하기 위해 세계에서 가장 강력한 AI 규제 체제를 구축하고 있다"고 전했다.

[김상준 기자]