“중국판 챗GPT엔 사회주의 핵심 가치 반영돼야”

中인터넷 당국, 생성형 AI 관리방침 발표

“생성형AI가 만들어내는 콘텐츠는 핵심 사회주의 가치를 반영해야 하며 국가 통합을 저해해서는 안 된다.”

생성형 인공지능(AI) 챗본 ‘챗GPT’의 출시 후 중국 정보기술(IT) 기업들이 잇따라 비슷한 서비스를 내놓는 가운데 중국 인터넷 당국이 11일 이같은 방침을 내놨다.

중국 국가인터넷정보판공실은 이날 생성형 AI 서비스 관리방안 초안을 발표했다.

판공실은 생성형 AI가 생성한 콘텐츠에 대해 “사회주의 핵심 가치를 구현해야 하며, 국가권력 전복, 사회주의체제 전복, 분리주의 선동, 민족 단결 훼손, 테러리즘 및 극단주의 옹호, 민족 증오, 민족 차별, 폭력, 음란한 포르노 정보, 허위 정보, 경제 및 사회 질서를 교란할 수 있는 콘텐츠를 포함해서는 안 된다”고 명시했다.

그러면서 모든 회사는 관련 제품을 출시하기 전에 보안 평가를 당국에 제출해야하며, 이용자에게는 실명과 관련 정보를 제출하도록 요구해야 한다고 밝혔다.

판공실은 해당 규정을 준수하지 않을 경우 서비스 공급업자들은 벌금 부과, 서비스 정지, 형사 조사에 직면할 수 있다고 경고했다.

또 플랫폼에서 부적절한 콘텐츠가 생성될 경우 해당 기업은 유사 콘텐츠 생성 등 재발을 방지하기 위해 3개월 안에 기술을 업데이트해야 한다고 덧붙였다.

판공실은 “중국은 AI 혁신과 응용을 지원하며 안전하고 신뢰할 만한 소프트웨어, 도구, 데이터 자원의 이용을 장려한다”고 밝혔다.

이어 다음 달 10일까지 해당 초안에 대한 의견을 수렴할 것이라고 알렸다.

지난해 11월 미국 오픈AI가 챗GPT를 내놓은 뒤 중국 IT 업계도 AI 챗봇 개발에 열중하고 있다.

지난달 16일 중국 최대 검색 엔진 바이두는 AI 챗봇 ‘어니봇’을 공개했다.

이어 중국 최대 전자상거래업체 알리바바는 지난 7일 AI 챗봇 ‘퉁이 첸원’을 일부 기업고객에 제한적으로 공개한 데 이어 이날 ‘클라우드 서밋’에서 일부 기능을 언론 등에 선보였다.

또 중국 최대 AI 분야 스타트업인 센스타임은 전날 AI 챗봇 ‘센스챗’을 발표했다.

중국에서는 이들 외에도 텐센트, 메이퇀 공동창업자 출신 왕후이원, 소거우의 왕샤오찬 CEO 등도 AI 챗봇 개발 열풍에 가세했다.

국제사회에서는 중국 당국의 강력한 검열 시스템이 AI 챗봇의 발전과 기능을 제한할 것이라는 지적도 나온다.

지난달 로이터는 바이두의 어니봇이 시진핑 중국 국가주석에 대한 평가나 1989년 톈안먼 사태, 신장지역 소수민족 위구르족 등 민감한 질문에 대해 “거대언어모델(LLM) AI로서 그런 질문에 답변하는 법을 배우지 못했다”며 답변을 거부했다고 보도했다.

김희원 기자 azahoit@segye.com