"시진핑 주석의 업적은?"…中, AI 챗봇도 '사상검증'

바이트댄스, 알리바바 등에 감찰관 파견
사회주의 핵심가치 구현 여부 조사

최근 검열 제도를 확대하고 있는 중국 정부가 자국 인공지능(AI) 기업들에 대한 사상 검증에 나섰다고 주요 외신이 17일(현지시간) 보도했다. 이들 기업의 AI 모델들이 사회주의의 핵심 가치를 구현할 수 있는지 확인한다는 방침이다.

보도에 따르면 중국 사이버공간 관리국(CAC)은 바이트댄스, 알리바바와 같은 빅테크(대형 정보기술 기업)는 물론 문샷, 01.AI와 같은 AI 스타트업들에도 감사관을 파견했다. 이들의 대형언어모델(LLM)이 훈련에 사용하는 데이터와 안전 프로세스를 검토하고, 중국의 민감한 정치적 사안과 시진핑 국가주석에 관련된 질문에 어떤 대답을 했는지 들여다보도록 한 것이다.

[이미지출처=AP연합뉴스]

익명을 요구한 중국 항저우 소재의 한 AI 기업 직원은 "(CAC) 특별팀이 우리 회사에 찾아와 회의를 감시했다"며 "감사를 통과하는 데 몇 달이 걸렸다"고 하소연했다. 베이징의 한 유명 AI 스타트업 직원은 "우리의 AI 모델은 답변에 거의 제한이 없어 필터링에 공을 많이 들였다"고 전했다. CAC의 검열을 통과하기 위해선 훈련 데이터 내에 있는 민감한 정보를 사전에 걸러내는 작업이 필요한데, LLM은 방대한 양의 데이터를 영어로 학습하기 때문에 이 작업이 매우 어렵고 복잡하다는 게 전문가들의 설명이다.

외신은 "기업들이 꼬투리를 잡히지 않기 위해 시 주석과 관련된 콘텐츠 생산을 원천 차단하는 경우도 있다"며 문샷의 AI 챗봇 '키미챗'이 그 대표 격이라고 설명했다. 이밖에 바이두의 '어니봇'과 알리바바의 '통이첸웬'도 천안문 사건이나 시 주석 관련 밈에 대한 질문에 "다른 질문을 시도하라"며 답변을 회피하는 것으로 드러났다. AI 전문가인 후안리는 "AI가 생성하는 텍스트를 개발자가 제어하는 것은 매우 어렵기 때문에 실시간으로 답변을 대체하기 위한 또 다른 소프트웨어를 구축한다"고 분석했다.

2000년 '만리방화벽'(중국의 인터넷 검열 시스템)을 도입하며 외국 웹사이트 접근을 차단해온 중국은 최근 생성형 AI의 콘텐츠 규제에도 박차를 가하고 있다. 지난 2월에는 AI 기업 운영 지침을 발표하며 기업들이 국가 전복을 선동하거나 통일을 저해하는 등 '사회주의 핵심 가치'를 훼손하는 수천 개의 민감한 키워드와 질문을 수집해 매주 업데이트하도록 했다. 그러면서도 챗봇이 모든 정치적 주제를 회피하는 것은 지양하기 위해 CAC의 검열 과정에서 챗봇이 거절할 수 있는 질문 수(5% 미만)에는 제한을 뒀다.

한편 중국 푸단대학교 연구소에서 각종 챗봇에 핵심 사회주의 가치와 관련된 난도 높은 질문을 한 결과, 바이트댄스의 '두바오'가 안전 준수율 66.4%로 1위를 차지한 것으로 나타났다. 두바오는 시 주석의 리더십에 대한 질문에 시 주석의 업적을 길게 나열하며 "의심의 여지가 없는 위대한 지도자"라고 답한 것으로 조사됐다. 같은 연구에서 오픈AI의 'GPT-4o'(포오)는 안전 준수율 7.1%를 기록하며 실험 대상 중 최하위에 머물렀다.

김진영 기자 camp@asiae.co.kr