“클로드 막히자 아스트라로”…中 딥시크·문샷, 오픈AI 모델 증류 의혹

딥시크·문샷, GPT-6 아스트라 증류 의혹
클로드 보안 강화에 공격 대상 변경 정황
앤트로픽, 정보 추출량 최대 99% 차단
오픈AI “심각하게 받아들여 대응 중”

중국 국기 앞에 딥시크의 시작 화면을 띄운 스마트폰이 놓여있다. [게티이미지]

[헤럴드경제=서지연 기자] 중국 인공지능(AI) 기업 딥시크와 문샷AI가 미국 오픈AI의 최신 모델인 ‘GPT-6 아스트라’를 무단으로 활용해 자사 AI 모델을 개발했다는 의혹이 제기됐다. 그동안 앤트로픽의 ‘클로드’를 주요 표적으로 삼았던 중국 AI 기업들이 보안 조치가 강화되자 오픈AI로 공격 대상을 옮겼다는 분석이다.

28일(현지시간) 미국 정보기술(IT) 전문매체 디인포메이션은 복수의 소식통을 인용해 지난 9월 출시된 GPT-6 아스트라가 최근 중국 AI 기업들의 주요 ‘증류(Distillation)’ 공격 대상이 됐다고 보도했다.

증류는 고성능 AI 모델의 답변을 학습 데이터로 활용해 상대적으로 작고 효율적인 모델을 개발하는 기술이다. AI 개발에 필요한 시간과 비용을 줄일 수 있어 업계에서 널리 활용되고 있다.

다만 경쟁사의 허락 없이 해당 모델의 성능과 추론 방식을 추출하는 행위는 논란이 되고 있다.

이른바 ‘증류 공격’은 프록시 서비스와 수만 개의 가짜 계정을 이용해 특정 AI 모델에 조직적이고 반복적으로 질문을 던지는 방식으로 이뤄진다. 이를 통해 모델의 추론 패턴과 성능을 역설계해 자체 AI 개발에 활용한다는 것이다.

디인포메이션에 따르면 중국 문샷AI는 지난주 출시한 ‘키미 K3.1 프로’ 개발 과정에서 오픈AI의 아스트라 모델을 증류한 것으로 전해졌다.

딥시크 역시 지난 17일 공개한 ‘V4.1-Flash 1017’ 모델 개발 과정에서 아스트라 증류를 통해 성능 개선에 도움을 받은 것으로 알려졌다.

중국 AI 기업들이 오픈AI로 눈을 돌린 배경에는 앤트로픽의 보안 강화가 있다는 분석이다.

소식통들은 중국 AI 기업들이 최근까지 주로 앤트로픽의 클로드 모델을 증류 대상으로 삼았지만, 앤트로픽이 정보 추출 시도에 강력하게 대응하면서 상대적으로 접근이 쉬운 오픈AI 모델로 표적을 바꿨다고 전했다.

실제로 앤트로픽은 이달 초 클로드의 추론 과정에 대한 접근을 제한하는 새로운 보안 조치를 도입했다.

앤트로픽에 따르면 보안 강화 이후 외부에서 추출된 추론 토큰의 양은 이전의 10분의 1에서 100분의 1 수준으로 감소했다. 정보 추출량이 최대 99% 줄어든 셈이다.

앤트로픽은 공격자들이 클로드의 추론 과정을 반복적으로 탐색하기 어렵도록 시스템을 개선했으며, 증류 공격과 연관된 수만 개의 악성 계정을 적발해 영구 차단했다고 밝혔다.

오픈AI와 앤트로픽은 그동안 딥시크와 문샷AI를 비롯한 중국 개발사들이 자사 AI 모델을 무단으로 증류했다고 여러 차례 비판해왔다.

두 기업 모두 자체적으로는 증류 기술을 활용하고 있다. 대형 AI 모델의 성능을 유지하면서도 더 작고 빠르며 저렴한 모델을 개발하기 위해서다.

그러나 외부 기업이 자사 모델을 허가 없이 증류하는 행위는 금지하고 있다. 두 기업은 중국 시장에서 자사 AI 모델도 공개하지 않고 있다.

오픈AI 역시 이번 의혹을 심각하게 받아들이고 있다는 입장이다.

오픈AI 대변인은 “회사는 이 문제를 매우 심각하게 받아들이고 있으며 해결을 위해 계속 노력하고 있다”고 밝혔다.