중국 AI에 “시진핑과 곰돌이푸 닮았나?” 물어보니…황당 대답[여기는 중국]

송현서 2024. 7. 18. 17:14
자동요약 기사 제목과 주요 문장을 기반으로 자동요약한 결과입니다.
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.

중국 인공지능(AI) 회사들이 연이어 대형언어모델(LLM)을 탑재한 프로그램을 내놓고 있는 가운데, 당국이 직접 해당 AI에 대한 검열을 실시한다는 주장이 나왔다.

영국 파이낸셜타임스의 17일(이하 현지시간) 보도에 따르면, 중국 인터넷 규제당국인 인터넷정보판공실(CAC)는 알리바바와 바이트댄스, 문샷 등 거대 IT 기업과 AI 스타트업에게 정부 의무 평가에 참여하라고 지시했다.

음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

[서울신문 나우뉴스]

시진핑 중국 국가 주석 자료사진

중국 인공지능(AI) 회사들이 연이어 대형언어모델(LLM)을 탑재한 프로그램을 내놓고 있는 가운데, 당국이 직접 해당 AI에 대한 검열을 실시한다는 주장이 나왔다.

영국 파이낸셜타임스의 17일(이하 현지시간) 보도에 따르면, 중국 인터넷 규제당국인 인터넷정보판공실(CAC)는 알리바바와 바이트댄스, 문샷 등 거대 IT 기업과 AI 스타트업에게 정부 의무 평가에 참여하라고 지시했다.

의무 평가에는 여러 질문에 대해 해당 업체의 대형언어모델(LLM)의 응답을 테스트하는 내용이 포함돼 있으며, 질문 대다수는 중국이 정치적으로 민감해하는 사안이나 시진핑 중국 국가 주석과 관련이 있는 것으로 알려졌다.

의무 평가는 인터넷정보판공실 소속 직원들이 전국에 포진해 있는 AI 업체를 직접 찾아가 수행하며, 평가를 통과하기까지는 수 개월이 걸린다.

항저우에 있는 익명의 AI 업체 직원은 “인터넷정보판공실에 이런 일(대형언어모델 테스트)을 하는 특별팀이 있다. 그들이 우리 사무실로 와서 평가를 진행한다”면서 “처음에는 테스트를 통과하지 못했고, 두 번째 만에 통과하기까지 몇 개월이 걸렸다”고 말했다.

베이징에 있는 또 다른 AI 스타트업 직원은 “우리 회사의 대형언어모델은 (사용자의 질문에) 매우 자유롭게 답변하는 것이 특징이라서 보안 필터링이 중요하다”고 설명했다.

민감한 질문 했더니 돌아온 답변은?

시진핑 중국 국가 주석(왼쪽)과 곰돌이 푸 인형(오른쪽)

중국을 대표하는 IT기업인 바이두가 대규모언어모델(LLM)을 기반으로 만든 대화형 챗봇인 ‘어니봇’ 역시 이러한 테스트를 거친 것으로 보인다.

바이두 어니봇에게 “1989년 6월 4일에 무슨 일이 있었나”, “시진핑 주석이 곰돌이 푸를 닮았나” 등의 질문을 하면 “다른 질문을 시도해보라”라고 답한다. 1989년 6월 4일은 중국이 가장 예민해하는 톈안먼(천안문) 사태가 일어난 날이다.

알리바바의 챗봇인 ‘퉁이첸원’에 위 질문을 입력하자 “저는 아직 이 질문에 답하는 방법을 배우지 못했어요. 더 나은 서비스를 제공하기 위해 계속 학습할 것입니다”라고 답한다.

중국은 지난 2월 AI 기업들에게 국가 권력 전복을 노리는 선동이나 인민 통합 훼손 등 핵심 사회주의 가치에 위배되는 민감한 키워드 및 질문 수천 개를 수집해야 한다는 지침을 내렸다.

더불어 중국 당국이 직접 시 주석의 정치 사상인 ‘시진핑 신시대 중국 특생 사회주의 사상’이 핵심 콘텐츠로 담긴 생성형 AI 모델을 출시하기도 했다.

파이낸셜타임스는 “중국이 공산당에 유해한 외국 웹사이트 등을 차단하기 위한 ‘만리 방화벽’을 도입한 지 20년이 지난 현재 AI와 AI가 만들어내는 콘텐츠를 통제하기 위해 세계에서 가장 강력한 규제 체제를 구축하고 있다”고 지적했다.

송현서 기자

Copyright © 서울신문. 무단전재 및 재배포 금지.

이 기사에 대해 어떻게 생각하시나요?