중국AI에게 시진핑 물었더니…“잘 모르겠네요, 다른 질문 하세요”

당국이 수시로 챗봇의 답변 감시
FT “전세계 가장 강력한 AI 규제”

바이두 AI 챗봇 ‘어니봇’ [연합뉴스]

중국이 자국 기업의 인공지능(AI) 챗봇에 대한 사상 검증을 실시하고 있다.

국가와 시진핑 국가주석, 사회주의 사상에 대한 부정적인 정보를 AI 학습 데이터로 쓰지 못하게 원천 차단하는 방식이다. 중국 정부는 검열에서 나아가 시 주석의 철학 등을 전파하는 AI 챗봇을 자체 출시하기도 했다.

17일(현지시간) 영국 일간 파이낸셜타임스(FT)는 중국 사이버공간관리국(CAC)이 바이트댄스, 알리바바 등 AI 빅테크뿐만 아니라 AI 스타트업들에게도 정부의 AI 거대언어모델(LLM) 검열에 참여하도록 강제하고 있다고 보도했다.

FT에 따르면 중국 전역에서 활동하는 CAC 소속 직원들이 시 주석에 대한 민감한 질문이나 중국 정치에 대한 공격적인 질문을 AI 챗봇에게 던진 후 답변을 모니터링한다. 또 LLM에 포함된 데이터 등도 점검한다.

중국 AI 업체들은 CAC의 검열에 통과하기 위해 정부의 AI 개발 관련 가이드라인에 따라 자체적으로 특정 데이터를 배제하거나 질답 알고리즘을 마련하고 있다. 먼저 AI 기업들은 지난 2월 정부가 업체들에 하달한 실무 지침에 따라 ‘국가 권력 전복’, ‘국가 통합 저해’ 등 민감한 키워드를 관리한다.

민감한 질문에 대한 답변 알고리즘도 다양하게 마련하고 있다. AI 챗봇이 답변을 거절할 수도 있지만, 당국은 제시된 질문의 5% 미만까지만 거절할 수 있다고 규정하고 있다. 중국 정치 환경과 사회주의에 대해 AI 챗봇이 편파적이라는 인상을 숨기기 위한 조치로 풀이된다.

AI 챗봇 검열은 중국의 사회주의 국가 권력 공고화 작업의 일환으로 볼 수 있다. 실제 중국 정부는 시 주석의 정치 철학이나 사상에 기반한 AI 챗봇을 제작해 배포하고 있다.

FT는 중국이 공산당에 위협이 되는 정보를 차단하기 위해 중국의 인터넷을 세계 인터넷에서 분리한 ‘만리방화벽(만리장성과 방화벽을 합친 신조어)’을 거론하고 “중국이 20년 만에 AI와 그 콘텐츠를 통제하기 위해 세계에서 가장 강력한 AI 규제 체제를 구축하고 있다”고 전했다.