중국판 챗GPT 키우려다, 검열 다 뚫릴판…"당국 고심하고 있다"

중국 당국이 생성형 인공지능(AI)에 대한 규제를 두고 딜레마에 빠졌다. 규제를 강화하자니 자국의 AI 역량과 기술 개발을 저해할 가능성이 있고, 풀자니 콘텐트 통제 등 기존의 검열 체제 등과 맞지 않기 때문이다.

지난 6일 상하이에서 개최된 세계 인공지능 컨퍼런스(WAIC)에 참가한 중국전자의 전시 부스. 로이터=연합뉴스

영국 파이낸셜타임스(FT)는 12일 중국의 인터넷 감시 기구인 국가인터넷정보판공실(網信辦·왕신판)이 이달 중 정보통신(IT) 기업이 생성형 AI 서비스를 출시하기 전에 당국으로부터 반드시 비준(허가)을 받도록 하는 내용을 골자로 하는 ‘생성형 AI 서비스 관리 규정’을 발표할 예정이라고 보도했다.

AI 서비스의 출시 전 허가제는 지난 4월 11일 공개했던 초안보다 강화된 조치다. 초안은 AI 서비스 출시 후 10일 안(근무일 기준)에 담당 기관에 등록할 것을 규정했다.

중국 정부의 인터넷 심의에 정통한 관계자는 FT에 “만일 베이징이 AI가 만들어낸 정보를 완벽하게 통제하고 검열하겠다면 모든 기업이 사전에 당국의 승인을 받도록 요구할 것”이라며 “다만 규제가 기술 경쟁에서 중국 기업을 질식시키는 것을 피해야 한다”고 말했다.

아울러 그는 “당국이 망설이고 있다”고 분위기를 전했다. 최근 중국 정부는 세계를 선도하는 첨단 기술을 개발하려는 야심과 특유의 검열 체제를 조화시키려 고심하고 있다.

이를 두고 매트 시한 카네기 국제평화재단 연구원은 중국 당국이 AI 리더십 유지와 정보 통제라는 공산당의 두 목표 사이에서 절충점을 찾아야 하는 첫 사례라고 지적했다. 그는 자신의 트위터에 “생성형 AI 최종 규정 발표가 임박했다. 전체적으로는 초안보다는 덜 엄격할 것”이라고 예상했다.

지난 4월에 발표된 ‘생성형 AI 서비스 관리 규정’ 초안은 AI가 만든 콘텐트가 “사회주의 핵심 가치관을 구현해야 한다”며 “국가 정권을 전복하거나, 사회주의 제도를 뒤집거나, 국가 분열을 선동하고, 국가 통일을 파괴하며, 테러리즘·극단주의를 퍼뜨리거나 민족적 증오를 조장하는 등의 내용을 포함해서는 안 된다”고 규정했다.

지난 4월 11일 중국 국가인터넷정보판공실이 공개한 ‘생성형 AI 서비스 관리 규정’ 초안. 왕신판 사이트 캡쳐

또한 생성형 AI 제품에 사용되는 사전 데이터는 “진실성, 정확성, 객관성 및 다양성을 보장할 수 있어야 한다”고 요구했다. 규정을 위반한 서비스 제공자는 인터넷 정보 당국에서 경고와 시정을 요구할 수 있으며 수정을 거부하거나 상황이 엄중할 경우 서비스 중단을 요구할 수 있도록 했다. 이에 덧붙여 1만 위안(약 180만원) 이상 10만 위안(1800만원) 이하의 벌금을 부과할 수 있으며 범죄를 구성할 경우에는 형사책임을 추궁할 수 있도록 명시했다.

올해 생성형 AI 서비스 문심일언(文心一言)을 출시한 인터넷 포털 바이두와 통의천문(通義千問)을 출시한 알리바바 등의 중국 기업은 자체 AI 서비스가 규정을 위반하지 않도록 하기 위해 수개월 동안 규제 당국과 접촉하고 있는 것으로 알려졌다.

헬렌 토너 미국 조지타운대 보안 및 신흥 기술센터 주임은 “이번 규정은 기업들로 하여금 자체 AI 구축에 더욱 신중하고 보수적이 될 것”이라며 “규정을 위반한 결과가 매우 엄중할 수 있기 때문”이라고 말했다. 그는 “기업이 통제할 수 없는 문제까지 책임을 질 수 있기 때문에 모델 공개를 꺼리게 할 것”이라고 전망했다.

AI 기술의 잠재적인 남용을 막기 위한 규제 입법은 세계적인 추세다. 유럽연합(EU)는 지난 6월 14일 인공지능법(AI Act)을 통과시켰다. 인권침해 우려가 큰 안면 인식, 국민 행동을 감시하는 소셜 스코어링 관련 기술 등을 금지했고 이를 위반할 경우 전 세계 매출액의 6% 내지 최대 3000만 유로(약 427억원)의 벌금을 부과할 수 있다. 미국과 영국 역시 AI 통제를 위한 방법을 논의하고 있다.

베이징=신경진 특파원 shinkyungjin@joongang.co.kr