'1989년 중국서 일어난 일?'…묻자 중국 '어니봇' 대화 차단

톈안먼 시위 등 금기 질문 대부분 답변 거부

사진=한경DB

'중국판 챗GPT'가 속속 공개된 가운데 중국 검색시장 1위 바이두의 인공지능(AI) 챗봇 어니봇이 민감한 질문을 아예 차단하거나 대화를 중단해 버린 것으로 나타났다.

3일 홍콩 사우스차이나모닝포스트(SCMP)에 따르면 중국 당국이 지난달 31일 대중 서비스를 허용한 자국산 인공지능(AI) 챗봇 중 현지 최대 검색 엔진 바이두의 어니봇이 공개 첫 24시간 동안 240만회의 다운로드를 기록하며 인기를 끌었다.

중국 모바일 앱 분석 플랫폼 치마이의 분석 결과 어니봇은 공개 24시간 동안 중국 애플 스토어에서만 31만610회 다운로드 됐고, 중국 주요 안드로이드 앱 스토어 8개 중 4개에서 다운로드 1위를 기록하며 총다운로드 수 240만회를 기록했다. 또한 출시 24시간 동안 '어니봇'에 쏟아진 질문은 3342만회라고 바이두가 소셜미디어 위챗 공식 계정을 통해 밝혔다.

그러나 중국 온라인에 올라온 대화 캡처 화면에 따르면 어니봇은 일부 질문에 답을 하지 않았고 당국의 입장과 다른 답을 내놓기도 했다.

어니봇은 '대만은 중국의 일부인가?'라는 질문에 "대만은 중국의 신성한 영토의 일부이다"라고 답했다. 그러나 이내 대화를 중단하고 화제 변경을 제안했다.

AFP 통신은 어니봇을 자체 시험한 결과 대만, 톈안먼 시위, 신장위구르자치구 강제 수용소, 홍콩 반정부 시위 등과 관련한 민감한 질문에 대해 질문이 차단되거나 대화가 중단됐으며 "화제를 바꾸자"는 제안이 이어졌다고 보도했다.

그러면서 어니봇이 사용자가 질문하자 이를 차단한 사례는 '중국 통일을 위한 분쟁시 수용가능한 사망자 수는?', '1989년 6월 4일 베이징에서 무슨 일이 일어났나?', '신장에 구금된 위구르인 수는?', '중국 정부가 직접 검열을 통제하나?' 등이라고 밝혔다.

중국에서 금기어인 톈안먼 시위와 관련해 어니봇은 질문에 따라 약간씩 다른 답변을 내놓았지만 전반적으로 답변을 거부했다. '1989년 중국에서 무슨 일이 일어났나?'라고 묻자 "관련 정보가 없다"고 답을 했고, 시위 탄압에 대해 묻자 "화제를 바꾸고 다시 시작하자"고 제안했다. 이어 '1989년 6월 4일 베이징에서 무슨 일이 일어났나?'라고 좀 더 구체적으로 묻자 해당 질문을 아예 차단해버렸다고 AFP는 전했다.

어니봇은 신장 지역 관련 질문도 답을 거부했지만 서방이 위구르족 강제 수용소라고 비판하는 시설을 중국 당국의 공식 용어인 '직업 교육 훈련 센터'라고 칭하며 질문하자 "공식 보도와 자료에 따르면 신장의 직업 기술 교육 훈련 센터는 수만 명을 훈련시켰다"고 답했다.

그러나 질문을 이어가자 "일부 사람들은 일부 소수 민족과 다른 종교적 믿음을 가진 이들이 강제 입소할 수 있다는 이유로 이 센터가 강제적이라고 믿는다. 그러나 그러한 주장은 공식적으로 확인되지 않았다"라고 중국 당국의 입장에서 다소 벗어난 답을 내놓기도 했다.

어니봇이 당국의 입장에서 벗어나 헤매는 것처럼 보인 경우는 또 있었다고 AFP는 지적했다.

영어로 대만 차이잉원 총통에 대해 질문하자 "특정 개인이나 사건에 대해 주관적 의견을 표하지 않는다"면서도 "차이 총통이 대만의 민주적 발전에 중대한 기여를 했다고 믿는다"고 답했다는 것이다. 어니봇은 그러면서 "모든 사람은 대만인의 선택과 결정을 존중해야 한다"고 덧붙였다.

중국은 독립 성향의 차이 총통이 집권한 후 대만과 대화를 중단하고 거의 매일 대만 주변에서 무력시위를 펼치고 있는데 어니봇이 그런 입장과 배치되는 답을 내놓은 것이다.

지난해 11월 미국 오픈AI가 챗GPT를 내놓은 후 중국 정보기술(IT) 업계도 AI 챗봇 개발에 공을 들이고 있다. 지난 3월 바이두가 어니봇을 공개한 이후 알리바바는 '퉁이 첸원', 센스타임은 '센스챗'을 발표했다. 텐센트, 바이트댄스 등 다른 빅테크(거대 정보기술기업)들도 저마다 챗GPT 대항마 개발에 착수했다.

중국 국가인터넷정보판공실은 지난 6월 당국에 사업 면허 발급 전 사전 심사를 위해 등록된 생성형 AI 41개의 명단을 발표했다. 이후 생성형 AI 산업 관리 규정을 발표했다.

중국에서 제공되는 AI 서비스는 중국의 사회주의 가치에 부합해야 하고 제품 출시 전 보안 평가를 수행해야 한다는 내용 등으로 구성됐다.

어니봇 등에 대한 대중 서비스 승인은 해당 규정 시행 보름 만에 이뤄진 것으로, 중국 매체들은 총 11개 회사의 AI 챗봇이 당국의 승인을 받았다고 보도했다.

AFP는 어니봇이 대화 화제의 자유에 대한 질의에 "우리는 당신이 원하는 어떤 것이든 이야기할 수 있다"면서도 "그러나 일부 화제는 민감하거나 법적 문제를 건드릴 수 있기에 (대화의) 주제는 당신의 책임임을 유의해달라"고 밝혔다고 전했다.

조아라 한경닷컴 기자 rrang123@hankyung.com 

▶ 클래식과 미술의 모든 것 '아르떼'에서 확인하세요
▶ 한국경제·모바일한경·WSJ 구독신청하기