[줌인] 챗봇도 ‘사회주의 가치 학습 의무화’... 생성형 AI 규제 나선 중국

중국이 자국의 생성형 인공지능(AI)에 대해 출시 전 보안 평가를 실시하고, 콘텐츠에 핵심 사회주의 가치를 반영해야 한다는 방침을 내놨다. 세계 각국이 AI 규제 방안을 마련하고 있지만, 중국은 특히나 ‘콘텐츠’ 규제에 초점을 맞췄다는 데 주목할 만 하다. 이같은 규제는 당장은 기업들에게 큰 부담이 되지 않는 수준이지만, 장기적으로는 관련 분야에 대한 규제의 고삐를 단단히 쥘 것이라는 전망과 함께 혁신을 저해할 수 있다는 우려도 나온다.

11일(현지시각) 블룸버그통신, 홍콩 사우스차이나모닝포스트(SCMP) 등에 따르면, 중국 국가인터넷정보판공실(CAC)은 이같은 내용을 담은 생성형 AI 서비스 관리방안 초안을 발표했다. CAC는 “(해당 서비스) 공급업자들은 생성형 AI의 훈련에 사용되는 데이터의 합법성에 책임을 지고 알고리즘 설계와 데이터 훈련 시 차별을 방지하고 허위 정보의 생성을 방지하는 조치를 취해야 한다”고 했다.

지난달 16일 중국 최대 검색엔진 바이두가 공개한 생성형 AI 서비스 '어니봇'./로이터 연합뉴스

초안에 따르면 서비스 이용자는 반드시 실명을 사용해야 하고, 모든 회사는 관련 제품을 출시하기 전 보안 평가를 실시한 뒤 그 결과를 당국에 제출해야 한다. 또한 국가 통합을 저해하지 않도록 콘텐츠에 핵심 사회주의 가치를 반영할 것을 못박았다. AI가 부적절한 응답을 할 경우 3개월 안에 재발 방지 대책을 마련해야 한다. 해당 규정을 준수하지 않을 경우 최소 벌금부터 서비스 정지, 형사 조사까지 받게될 수 있다.

미국과 첨단기술 경쟁을 벌이고 있는 중국은 지난해 11월 미국 오픈AI가 대화형 챗봇 ‘챗GPT’를 출시한 후 관련 기술 개발에 한창이다. 중국 최대 검색엔진 바이두는 지난달 ‘어니봇’을 공개했고, 중국 최대 전자상거래기업 알리바바도 지난 7일 ‘퉁이 첸원’을 일부 기업고객에 발표했다. 알리바바는 자사 모든 제품에 퉁이 첸원을 접목한다는 계획이다. 중국 최대 AI 스타트업 센스타임도 10일 ‘센스챗’을 출시했다. 바이두 창업자 리옌훙 최고경영자(CEO)는 어니봇의 실력에 대해 “(챗GPT에) 겨우 한두 달 뒤처져 있다”고 자평했다.

다른 나라들도 AI 서비스에 대한 규제 방안을 논의 중이다. 이날 미국 상무부 산하 통신정보관리청(NTIA)은 AI에 대한 대중의 관심이 커진 데 따라 AI 시스템 규제안에 대한 여론을 수렴한다고 밝혔다. 이탈리아는 지난달 31일 챗GPT가 국민들의 데이터를 무단으로 수집하고 있다며 이탈리아 내 접속을 차단한다고 밝혔다. 유럽연합(EU)도 2021년 첫 제안된 AI법의 입법을 검토하고 있다.

다만 중국의 AI 규제 초안은 주로 콘텐츠에 초점을 맞추고 있다는 분석이 나온다. 앞서 지난 2월 중국 AI 스타트업 위안위가 출시한 AI 챗봇 ‘챗위안’은 ‘러시아·우크라이나 전쟁이 침략 전쟁인가’라는 질문에 “러시아의 침략 전쟁”이라고 답하는 등 중국 정부의 입장과 상반된 내용을 소개해 출시 사흘 만에 서비스가 중단됐다. 안젤라 장 홍콩대 교수는 “콘텐츠 요구 사항은 중국 인터넷 기업들에겐 새로운 것이 아니다”라며 “새 규칙의 발표가 기업들에게 큰 부담이 될 것이라고는 보지 않는다”고 SCMP에 말했다.

다만 장기적으로는 규제가 강화될 가능성도 배제할 수 없다. 장 교수는 “중국 정부는 혁신이 필요한 초기 단계의 기술을 억누르는 것을 두려워하는 만큼, 당분간 자국 기업에 규제를 강화하는 것은 피할 것으로 예상된다”면서도 “새 기술에 대한 CAC의 빠른 반응은 이 분야를 규제하려는 야망을 분명히 보여준다”고 분석했다.

중국의 AI 혁신이 저해될 수 있다는 지적도 나온다. 중국이 미국 검색엔진과 소셜미디어 등의 자국 내 사용을 금지하고 있는 점에 미뤄볼 때, 챗GPT 등 해외 AI 서비스 역시 금지할 가능성이 크다. 조지타운대 보안·기술 연구 분석가인 한나 도먼은 “과도한 제한, 콘텐츠 규제 및 검열은 기술의 상업화와 추가적인 혁신을 방해할 수 있다”고 SCMP에 말했다.

- Copyright ⓒ 조선비즈 & Chosun.com -