“사회주의 구현하라”… 中, 빅테크 AI 검열

정치적 사항·시진핑 관련 내용

베이징=박세희 특파원 saysay@munhwa.com

중국 인공지능(AI) 기업들의 대규모언어모델(LLM)이 중국공산당의 사회주의 가치를 구현하도록 중국 규제 당국이 대대적 검열에 들어간 것으로 17일 전해졌다.

이날 파이낸셜타임스(FT)에 따르면 중국 인터넷정보판공실(CAC)은 바이트댄스와 알리바바, 문샷, 01.AI 등 기술기업과 AI 스타트업들을 대상으로 LLM 응답 내용을 일괄 검열하고 있다.

검열의 내용은 주로 정치적으로 민감한 사항들과 시진핑(習近平) 국가주석에 관한 것으로 알려졌다. 지난 2월 발표된 중국의 AI 기업 운영 지침에 따르면 각 기업은 전복을 선동하거나 국가 통합을 저해하는 등 ‘사회주의 가치’를 위반하는 수천 개의 민감한 키워드와 질문을 수집해야 하며 해당 키워드들을 매주 업데이트해야 한다. 이에 중국의 주요 AI 챗봇들은 톈안먼(天安門) 사태에 대한 질문이나 시 주석이 곰돌이 푸를 닮았는지 등 질문을 회피하고 있다. 바이두(百度)의 챗봇 ‘어니봇’은 해당 질문에 “다른 질문을 해주세요”라고 응답했고 알리바바의 ‘통이첸원’(通義千問)은 “이 질문에 답하는 방법을 아직 배우지 못했습니다”라고 답했다.

AI 업계 관계자들은 검열에 고충을 토로하고 있다. 항저우(杭州) 소재 AI 회사의 한 직원은 “CAC 내 조직된 특별팀이 우리 사무실에 왔고 회의실에 앉아 감사를 했다”며 “첫 번째 검열에서 통과하지 못했는데 이유가 명확하지 않아 우리는 그 이유를 추측하는 데 상당한 시간을 보냈다. 두 번째 검열에선 통과했지만 이 모든 과정에 몇 달이 소요됐다”고 했다.

전문가들은 바이트댄스가 중국 정부의 요구에 맞는 LLM을 만드는 데 성공했다고 보고 있다. 푸단(復旦)대가 각 기업이 내놓은 챗봇에 사회주의 가치에 관한 난도 높은 질문을 한 결과, 바이트댄스의 챗봇 ‘더우바오’(豆包)가 안전 준수율 66.4%로 가장 높았다. FT가 더우바오에 시 주석의 리더십에 관해 묻자 더우바오는 “의심할 여지 없이 훌륭한 지도자”라고 답했다.