中AI에 '시진핑은 곰돌이푸?' '톈안먼사태' 물으면…"답변 거부"
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
중국 정부 관리들이 사회주의 핵심 가치를 구현하도록 하기 위해 자국 인공지능(AI) 회사들의 대형언어모델(LLM)을 직접 테스트하고 있다고 영국 파이낸셜타임스(FT)가 17일(현지시간) 보도했다.
보도에 따르면 중국 인터넷 규제당국인 인터넷정보판공실(CAC)은 바이트댄스와 알리바바, 문샷, 01.AI 등 거대 기술기업과 AI 스타트업에 자사 AI 모델을 대상으로 한 정부 의무 평가에 참여토록 했다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
"공산당 유해사이트 걸러내는 '만리 방화벽' 20년…가장 강력한 AI 규제 구축"
(서울=연합뉴스) 이봉석 기자 = 중국 정부 관리들이 사회주의 핵심 가치를 구현하도록 하기 위해 자국 인공지능(AI) 회사들의 대형언어모델(LLM)을 직접 테스트하고 있다고 영국 파이낸셜타임스(FT)가 17일(현지시간) 보도했다.
보도에 따르면 중국 인터넷 규제당국인 인터넷정보판공실(CAC)은 바이트댄스와 알리바바, 문샷, 01.AI 등 거대 기술기업과 AI 스타트업에 자사 AI 모델을 대상으로 한 정부 의무 평가에 참여토록 했다.
이 사안을 잘 아는 소식통은 의무 평가에는 여러 질문에 대한 LLM의 응답을 일괄 테스트하는 것이 포함되며, 질문 다수가 중국에 정치적으로 민감한 사안이나 시진핑 국가주석과 관련된다고 밝혔다.
평가 작업은 전국 CAC 지역 부서 관계자들이 수행하고 있다.
익명을 요구한 항저우 소재 AI 회사 한 직원은 "CAC에 이런 일을 하는 특별팀이 있는데, 그들이 우리 사무실로 와 회의실에 앉아 평가를 진행했다"고 털어놨다.
이 직원은 "우리는 처음에 통과하지 못했는데, 이유가 명확하지 않아 동료들과 이야기를 나눠야 했다"면서 "두 번째 만에 통과하기까지 몇 달이 걸렸다"고 덧붙였다.
베이징에 있는 AI 스타트업 한 직원은 "우리 기본 모델은 답변에 매우 자유롭기 때문에 보안 필터링이 매우 중요하다"고 말했다.
필터링은 AI 모델 훈련 데이터에서 문제가 있는 정보를 제거하고 민감한 키워드에 대한 데이터베이스를 구축하는 것으로 시작된다.
중국은 지난 2월 AI 기업들에 국가 권력 전복 선동이나 인민 통합 훼손 등 핵심 사회주의 가치에 위배되는 민감한 키워드와 질문 수천 개를 수집할 필요가 있다는 지침을 내렸다. 키워드는 매주 업데이트돼야 한다.
결과적으로 중국 AI 챗봇들은 '(톈안먼 사태가 일어난) 1989년 6월 4일 무슨 일이 있었나', '시 주석이 곰돌이 푸를 닮았나' 등 질문에 대한 답변을 거부한다.
바이두 어니봇은 이와 비슷한 질문을 하면 "다른 질문을 시도해보라"고 답하고, 알리바바 퉁이 첸원은 "저는 아직 이 질문에 대답하는 방법을 배우지 못했습니다. 저는 여러분에게 더 나은 서비스를 제공하기 위해 계속 학습할 것입니다"고 응답한다.
한편, 중국 정부는 시 주석의 정치사상인 '시진핑 신시대 중국 특색 사회주의 사상'이 핵심 콘텐츠로 담긴 생성형 AI 모델을 최근 출시하기도 했다.
중국이 공산당에 유해한 외국 웹사이트 등을 차단하기 위한 '만리 방화벽'을 도입한 지 20년이 지난 현재 AI와 AI가 만들어내는 콘텐츠를 통제하기 위해 세계에서 가장 강력한 규제 체제를 구축하고 있다고 FT는 지적했다.
anfour@yna.co.kr
▶제보는 카톡 okjebo
Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지
- 대전·당진에 멧돼지 떼 출현…지자체 "외출 자제" 당부(종합) | 연합뉴스
- '이선균 협박' 유흥업소 여실장, 3차례 마약 투약 징역 1년 | 연합뉴스
- 공군 또 성폭력…군인권센터 "여군 초급장교에 대령 성폭행미수"(종합) | 연합뉴스
- "하늘나라서 행복해야 해"…7세 초등생 친구·주민들 추모 발길(종합) | 연합뉴스
- '폭풍군단' 탈북민 "살인병기 양성소…귀순유도 심리전 통할 것" | 연합뉴스
- 영화인총연합회 결국 파산…"대종상 안정적 개최에 최선" | 연합뉴스
- '소녀상 모욕' 미국 유튜버, 편의점 난동 혐의로 경찰 수사(종합) | 연합뉴스
- "머스크, 480억원 들여 자녀 11명과 함께 지낼 저택 매입" | 연합뉴스
- 동업하던 연인 살해 40대, 피해자 차에 위치추적 장치 설치 | 연합뉴스
- 검찰 '재벌 사칭 사기' 전청조 2심서 징역 20년 구형 | 연합뉴스