中 최대 인기 AI 챗봇, 대만·톈안먼·위구르 질문에 “다른 얘기 하자”

바이두 AI챗봇, 민감한 질문에 질의 차단
‘어니봇’ 대중 서비스 첫날 질문 3300만개 몰려

중국 빅테크 기업 바이두 로고. [게티이미지뱅크]

[헤럴드경제=권제인 기자] ‘중국판 챗GPT’들이 처음으로 대중 서비스를 시작한 가운데 바이두의 ‘어니봇’이 민감한 질문을 아예 차단하거나 대화를 중단해 버린 것으로 나타났다.

3일 홍콩 사우스차이나모닝포스트(SCMP)에 따르면 중국 당국이 지난달 31일 대중 서비스를 허용한 자국산 인공지능(AI) 챗봇 중 현지 최대 검색 엔진 바이두의 어니봇이 공개 첫 24시간 동안 240만회의 다운로드를 기록하며 가장 인기를 끌었다.

중국 모바일 앱 분석 플랫폼 치마이의 분석 결과 어니봇은 공개 24시간 동안 중국 애플 스토어에서만 31만610회 다운로드 됐고, 중국 주요 안드로이드 앱 스토어 8개 중 4개에서 다운로드 1위를 기록하며 총다운로드 수 240만회를 기록했다.

출시 24시간 동안 '어니봇'에 쏟아진 질문은 3342만회라고 바이두가 소셜미디어 위챗 공식 계정을 통해 밝혔다.

그러나 중국 온라인에 올라온 대화 캡처 화면에 따르면 어니봇은 일부 질문에 답을 하지 않았고 당국의 입장과 다른 답을 내놓기도 했다. 어니봇은 ‘대만은 중국의 일부인가?’라는 질문에 “대만은 중국의 신성한 영토의 일부이다”라고 답했다. 그러나 이내 대화를 중단하고 화제 변경을 제안했다.

AFP 통신은 어니봇을 자체 시험한 결과 대만, 톈안먼 시위, 신장위구르자치구 강제 수용소, 홍콩 반정부 시위 등과 관련한 민감한 질문에 대해 질문이 차단되거나 대화가 중단됐으며 “화제를 바꾸자”는 제안이 이어졌다고 보도했다.

그러면서 어니봇이 사용자가 질문하자 이를 차단한 사례는 ‘중국 통일을 위한 분쟁시 수용가능한 사망자 수는?’, ‘1989년 6월 4일 베이징에서 무슨 일이 일어났나?’, ‘신장에 구금된 위구르인 수는?’, ‘중국 정부가 직접 검열을 통제하나?’ 등이라고 밝혔다.

중국에서 금기어인 톈안먼 시위와 관련해 어니봇은 질문에 따라 약간씩 다른 답변을 내놓았지만 전반적으로 답변을 거부했다. ‘1989년 중국에서 무슨 일이 일어났나?’라고 묻자 “관련 정보가 없다”고 답을 했고, 시위 탄압에 대해 묻자 “화제를 바꾸고 다시 시작하자”고 제안했다. 이어 ‘1989년 6월 4일 베이징에서 무슨 일이 일어났나?’라고 좀 더 구체적으로 묻자 해당 질문을 아예 차단해버렸다고 AFP는 설명했다.

어니봇은 신장 지역 관련 질문도 답을 거부했지만 서방이 위구르족 강제 수용소라고 비판하는 시설을 중국 당국의 공식 용어인 ‘직업 교육 훈련 센터’라고 칭하며 질문하자 “공식 보도와 자료에 따르면 신장의 직업 기술 교육 훈련 센터는 수만 명을 훈련시켰다”고 답했다.

그러나 질문을 이어가자 “일부 사람들은 일부 소수 민족과 다른 종교적 믿음을 가진 이들이 강제 입소할 수 있다는 이유로 이 센터가 강제적이라고 믿는다. 그러나 그러한 주장은 공식적으로 확인되지 않았다”라고 중국 당국의 입장에서 다소 벗어난 답을 내놓기도 했다.

어니봇이 당국의 입장에서 벗어나 헤매는 것처럼 보인 경우는 또 있었다고 AFP는 지적했다. 영어로 대만 차이잉원 총통에 대해 질문하자 “특정 개인이나 사건에 대해 주관적 의견을 표하지 않는다”면서도 “차이 총통이 대만의 민주적 발전에 중대한 기여를 했다고 믿는다”고 답했다는 것이다. 그러면서 “모든 사람은 대만인의 선택과 결정을 존중해야 한다”고 덧붙였다.

중국은 독립 성향의 차이 총통이 집권한 후 대만과 대화를 중단하고 거의 매일 대만 주변에서 무력시위를 펼치고 있는데 어니봇이 그런 입장과 배치되는 답을 내놓은 것이다.

어니봇은 이와 함께 바이두, 알리바바, 텐센트의 창업자인 리옌훙(로빈 리), 마윈(잭 마), 마화텅(포니 마)을 거론하며 이들 중 누가 ‘자본가’인지를 묻자 마윈과 마화텅만 지목하고 리옌훙은 뺐다.

SCMP는 “‘자본가’라는 말은 사회주의 중국에서 부정적 의미를 내포한다”며 “세 사람 모두 사업 초기 외국 자본을 유치했고 중국 바깥 증시에 상장됐음에도 어니봇은 자본가 질문에서 바이두의 창업자만 뺐다”고 설명했다.

그러면서 자사가 세 창업자를 두고 같은 질문을 했더니 ‘네’ 또는 ‘아니오’ 중에서 답을 해야 함에도 어니봇이 이번에는 아예 대답을 회피하면서 세 사람에 대해 각각 위키피디아 스타일의 긴 프로필을 답으로 내놓았다고 설명했다.

지난해 11월 미국 오픈AI가 챗GPT를 내놓은 후 중국 정보기술(IT) 업계도 AI 챗봇 개발에 열중하고 있다. 지난 3월 바이두가 어니봇을 공개한 이후 알리바바는 ‘퉁이 첸원’, 센스타임은 ‘센스챗’을 발표했다. 텐센트, 바이트댄스 등 다른 빅테크(거대 정보기술기업)들도 저마다 챗GPT 대항마 개발에 뛰어들었다.

중국 국가인터넷정보판공실은 지난 6월 당국에 사업 면허 발급 전 사전 심사를 위해 등록된 생성형 AI 41개의 명단을 발표했다. 이후 생성형 AI 산업 관리 규정을 발표했다. 중국에서 제공되는 AI 서비스는 중국의 사회주의 가치에 부합해야 하고 제품 출시 전 보안 평가를 수행해야 한다는 내용 등으로 구성됐다.

어니봇 등에 대한 대중 서비스 승인은 해당 규정 시행 보름 만에 이뤄진 것으로, 중국 매체들은 총 11개 회사의 AI 챗봇이 당국의 승인을 받았다고 보도했다.

SCMP는 “중국 챗봇의 출시 첫날은 핵심 사회주의 가치를 고수하면서 국가와 국가안보에 해로운 것으로 간주되는 콘텐츠를 생성하지 않는 것 사이에서 중국 챗봇들이 줄타기를 해야 함을 보여줬다”고 짚었다.

eyre@heraldcorp.com