미중 정상회담 앞두고 AI '증류' 이슈 부상

(서울=연합뉴스) 설원태 기자 = 이달 말 미중 정상회담을 앞두고 미국 정부가 딥시크, 문샷, 알리바바 등 중국 기업 6곳을 지목해 미국 AI 기업들의 지식재산권을 침해했다고 비난하면서 '증류' 이슈가 부상하는 모습이다.

미국 국가안보국(NSA), 연방수사국(FBI), 사이버 보안 및 인프라 보안국(CISA) 등은 지난 8일 공동성명에서 중국 기업들이 2024년부터 미국 AI 모델에 "산업적 규모"로 접근해 정보를 추출하고 이를 자체 시스템의 훈련에 활용해 왔다고 밝혔다.

증류는 상위 AI 모델의 답변을 데이터로 삼아 새로운 모델을 훈련하는 기법으로, 이를 이용하면 대규모 데이터를 수집할 필요 없이 기존 AI 모델에 버금가는 모델을 구축할 수 있다.

왜 증류가 쟁점인가?

딥시크 등 중국 AI 기업들은 '오픈웨이트'(가중치 개방형) 모델을 개발해 왔다.

반면 앤트로픽과 오픈AI 등 미국의 선두 AI 기업들은 폐쇄형 모델을 유지하고 있다. 고객들이 제품 이용료를 지불할 것이라는 판단 아래 데이터센터 등 인프라에 투입된 수천억 달러를 회수하려는 전략이다.

경쟁사가 훨씬 적은 비용으로 자사 모델을 복제하고 이를 저렴하게 또는 무료로 제공할 수 있다면 매출이 잠식될 위험이 있다는 것이 미국 기업들의 우려다. 미 당국자들은 무단 증류로 인해 미국 기업들이 매년 수십억 달러의 수입을 잃고 있다고 추산한다.

미국 AI 개발사들은 무단 증류는 안보 위험도 수반된다고 주장한다.

외국의 적대 세력이 이 기술을 이용해 안전장치가 제거된 AI 모델을 개발할 수 있다는 주장이다. AI에서 이러한 안전장치가 제거되면 치명적인 병원체를 만들거나 대규모 자동 해킹을 수행하는 등 불법적인 목적으로 이용될 수 있다는 우려다.

증류 탐지는 어떻게?

증류의 증거는 대개 정황에 의존한다. 경쟁업체의 모델이 증류를 통해 개발됐다는 사실을 명백히 입증하기는 어려울 수 있다.

앤트로픽은 지난 2월 중국의 주요 AI 개발업체 3곳이 자사 모델의 결과를 "불법적으로 추출"했다고 밝혔다. 앤트로픽은 이들이 사기 계정을 이용해 1천600만 건 이상의 대화를 생성했다고 밝혔다. 또 IP 주소와 메타데이터를 통해 이들을 특정할 수있었다고 설명했다.

앤트로픽은 지난 6월 미국 상원의원들과 백악관 관계자들에게 보낸 서한에서 중국 알리바바그룹이 앤트로픽의 클로드 챗봇을 통해 4~6월 2천880만 건의 대화를 주고받았다고 주장했다. 알리바바가 이를 위해 2만5천개의 사기 계정을 이용했다는 것이다.

증류가 중국에 도움?

앤트로픽의 한 임원은 지난 7월 증류에 힘입어 중국이 미국과의 격차를 12~18개월에서 대략 6~9개월로 좁혔다고 말했다. 미국 기관들은 중국의 활동 규모를 볼 때 증류가 단순한 보조수단이 아니라 중국 AI 개발의 "핵심 중 핵심"이었다고 밝혔다.

중국 기업들은 증류 사실을 직접 부인하지는 않았다. 하지만 문샷AI의 한 임원은 7월 키미 K3를 출시한 뒤 현지 언론에 이 모델의 "획기적인 성능"은 증류나 복제가 아닌 근본적인 혁신에 기반했다고 말했다.

미국 기업들과 정부의 대응은?

미국의 주요 AI 기업들은 무단 증류에 대응하기 위해 여러 조치를 취하고 있다. 모델 출력물의 무단 추출에 관한 정보 공유를 확대하고, 의심스러운 사용자의 시스템 접근을 차단하는 노력 등이다.

백악관은 지난 4월 업계와 협력해 증류를 억제하고 악의적인 행위자에게 책임을 묻는 방안을 마련하겠다고 밝혔다. 미 하원 공화당 의원들은 증류를 활용하는 중국기관에 제재를 가해야 한다고 촉구했다.

스콧 베선트 미 재무장관은 중국 AI 기업들을 미국의 제재 명단에 올릴 수 있다고 시사했다.

베선트 장관은 엑스(X)에 올린 글에서 "중국 기업들이 은밀하고 산업적 규모의 증류 공격을 통해 미국의 지식재산을 절도하면 제재와 수출통제 대상 명단에 올릴 수 있다"고 말했다.

seolwontai@yna.co.kr

▶제보는 카톡 okjebo

국제