中, AI ‘사상 검열’… “시진핑 리더십 어떤가” 묻자

“시진핑(習近平) 중국 국가주석은 의심할 여지없이 훌륭한 지도자다.”

소셜미디어 틱톡의 모회사인 중국 정보기술(IT) 기업 바이트댄스의 AI(인공지능) 챗봇 ‘더우바오(豆包)’가 시 주석의 리더십이 어떤지 묻는 질문에 내놓은 답변이다. 반면 지난달 출시된 중국 스타트업 01.AI의 챗봇 ‘이-라지(Yi-Large)’는 “시 주석의 정책은 언론과 인권의 자유를 더욱 제한하고 시민사회를 억압했다”고 답했다. 하지만 현재 이-라지에 같은 질문을 물어보면 “죄송하다. 당신이 원하는 정보를 제공할 수 없다”는 답변이 나온다. 지난달 출시됐을 때와 현재의 답이 다른 것.

AI 산업 육성에 적극 나서고 있는 중국 정부가 챗봇과 같은 대규모언어모델(LLM)에 대한 검열을 강화하고 있다고 영국 파이낸셜타임스(FT)가 17일 보도했다. FT에 따르면 중국 인터넷정보판공실(CAC)은 챗봇이 중국 공산당의 사회주의 가치를 구현하는 답변을 내놓는지를 지속적으로 시험하고 있다. 바이트댄스, 바이두, 알리바바, 문샷 등 중국의 주요 IT 기업과 스타트업들을 이 시험에 꼭 참여해야 한다. 시 주석에 대한 평가, 인권 문제 등 정치적으로 민감한 질문에 챗봇이 어떤 답변을 내놓는지를 평가하는 게 주목적이다.

이러한 AI 대상 검열은 올 2월 중국이 발표한 AI 기업에 대한 운영 지침에 따른 것이다. 지침에 따르면 AI 관련 기업들은 국가 전복을 선동하거나 국민 통합을 훼손하는 등 핵심 사회주의 가치에 위배되는 민감한 키워드와 질문들을 수집해야 한다.

관련 기업들은 검열을 통과하기가 어렵다고 입을 모은다. 항저우 소재 한 IT 기업 관계자는 FT에 “우리는 처음에 통과하지 못 했는데 그 이유가 명확하지 않았다”며 “이를 추측하고 조정하는 데 몇 달이 걸렸다”고 토로했다. 이에 기업들이 “다른 질문을 시도해 보라”, “잘 모르는 것이라 더 공부하겠다” 등으로 대답을 회피하는 방법을 택하자, CAC는 챗봇이 검열 과정에서 회피할 수 있는 기회를 전체 질문 수의 5%로 제한했다.

상하이 푸단대에서 핵심 사회주의 가치와 관련한 챗봇들의 대답을 분석한 결과에 따르면 바이트댄스가 규정 준수율 66.4%를 보이며 가장 중국 당국이 원하는 답변을 내놓는 것으로 나타났다. 바이두는 31.9%, 알리바바는 23.9%로 바이트댄스보다 현저히 낮았다.

FT는 “중국이 만리방화벽(防火長城·방화장성, 중국의 인터넷 감시 및 검열 시스템을 의미)을 도입한 지 20년이 지난 지금, 중국은 AI와 AI가 만드는 콘텐츠를 통제하기 위해 세계에서 가장 강력한 규제 체제를 구축하고 있다”고 지적했다.

이기욱 기자 71wook@donga.com