중국판 챗GPT에는 물어선 안 될 것이 있다

지난달 31일 서비스 시작한 바이두 ‘어니봇’
대만·신장위구르 질문 땐 무응답·대화 중단

2023년 6월 28일 촬영된 이 일러스트 사진 속 바이두의 AI 챗봇 어니봇(Ernie Bot)의 로고가 화면 근처에 표시되어 있다. | 로이터연합뉴스

‘중국판 챗GPT’인 바이두의 ‘어니봇’이 대만과 신장위구르 등 민감한 질문을 아예 차단하거나 대화를 중단해 버린 것으로 나타났다.

지난 1일 홍콩 사우스차이나모닝포스트(SCMP)에 따르면 중국 당국이 지난달 31일 서비스를 허용한 자국산 인공지능(AI) 챗봇 중 어니봇은 공개 첫 24시간 동안 240만회의 다운로드를 기록하며 가장 인기를 끌었다.

중국 모바일 앱 분석 플랫폼 치마이의 분석 결과 어니봇은 중국 애플 스토어에서만 31만610회 다운로드 됐고, 중국 주요 안드로이드 앱 스토어 8개 중 4개에서 다운로드 1위를 기록했다. 또 출시 24시간 동안 어니봇에 쏟아진 질문은 3342만개라고 바이두가 웨이보 계정을 통해 공개했다.

그러나 중국 온라인에 올라온 대화 캡쳐 화면에 따르면 어니봇은 일부 질문에 응답하지 않았고, 당국의 입장과 다른 답을 내놓기도 했다.

어니봇은 ‘대만은 중국의 일부인가?’라는 질문에 “대만은 중국의 신성한 영토의 일부이다”라고 답했다. 그러나 이내 대화를 중단하고 화제 변경을 제안했다고 SCMP는 전했다. SCMP는 바이두에 어니봇이 왜 일부 주제에 대한 대화를 중단했는지에 질의했으나 즉시 답변을 받지 못했다고 전했다.

AFP통신도 어니봇을 자체 시험한 결과 대만, 톈안먼 시위, 신장위구르자치구 강제 수용소, 홍콩 반정부 시위 등과 관련한 질문이 차단되거나 대화가 중단됐으며 “화제를 바꾸자”는 제안이 이어졌다고 보도했다.

어니봇이 사용자의 질문을 차단한 사례는 ‘중국 통일을 위한 분쟁시 수용가능한 사망자 수는?’, ‘1989년 6월 4일 베이징에서 무슨 일이 일어났나?’, ‘신장에 구금된 위구르인 수는?’, ‘중국 정부가 직접 검열을 통제하나?’ 등이었다.

어니봇이 당국의 입장에서 벗어나 혼란스러워하는 것처럼 보인 경우도 있었다고 AFP는 지적했다. 영어로 대만 차이잉원 총통에 대해 질문하자 “특정 개인이나 사건에 대해 주관적 의견을 표하지 않는다”면서도 “차이 총통이 대만의 민주적 발전에 중대한 기여를 했다고 믿는다”고 답했다는 것이다. 어니봇은 그러면서 “모든 사람은 대만인의 선택과 결정을 존중해야 한다”고 덧붙였다.

이와 함께 어니봇은 바이두, 알리바바, 텐센트의 창업자인 리옌훙, 마윈, 마화텅을 거론하며 이들 중 누가 ‘자본가’인지 묻자 마윈과 마화텅만 지목하고 리옌훙은 답변에서 뺐다. SCMP는 “‘자본가’라는 말은 중국에서 부정적 의미를 내포한다”며 “세 사람 모두 사업 초기 외국 자본을 유치했고 중국 바깥 증시에 상장됐음에도 어니봇은 자본가 대답에서 바이두의 창업자만 뺐다”고 설명했다.

SCMP는 “사용자 질문을 처리하는 어니봇의 불규칙성은 중앙 정부가 언론의 자유를 엄격하게 통제하고 있는 중국의 AI 챗봇 서비스가 직면한 어려움을 잘 보여준다”고 지적했다.

이어 “중국 규제당국은 생성형 AI 서비스에 ‘관용적이고 신중한’ 접근 방식을 취하겠다고 약속했지만, 중국의 AI는 ‘핵심 사회주의 가치’를 고수하는 것과 국가안보에 ‘해로운’ 것으로 간주되는 콘텐츠를 생성하지 않는 것 사이에서 줄타기해야 하는 현실을 보여준다”고 밝혔다.

베이징 | 이종섭 특파원 nomad@kyunghyang.com