중국 ‘AI 베끼기’ 의혹 또…오픈AI “문샷, 추론정보 추출 시도”

오픈AI의 최고경영자(CEO) 샘 올트먼이 2026년 9월 15일 화요일 미국 캘리포니아주 샌프란시스코에서 열린 드림포스 컨퍼런스에 참석한 모습. 사진=게티이미지코리아

오픈AI가 중국 인공지능(AI) 기업 문샷AI와 연계된 계정들이 GPT 모델의 보호된 추론 정보를 빼내려 한 정황을 포착했다고 밝혔다.

30일(현지시간) 오픈AI 블로그에 따르면 관련 활동은 7월 1일 시작돼 초기에는 소규모로 이뤄졌다. 이후 7월 24~25일 이틀 동안 4000명 이상의 이용자가 추론 정보 추출 패턴과 일치하는 요청 약 1만6000건을 보냈다.

오픈AI는 추가 조사에서 1만5000명 이상의 이용자로 구성된 관련 활동 집단을 확인했고, 7월 28일까지 이를 차단했다고 밝혔다. 이 수치는 실제 추출에 성공한 횟수가 아니라 추출을 시도한 규모다.

오픈AI는 이 기간 포착된 모든 활동이 하나의 주체에서 비롯됐는지는 확인하지 못했다고 설명했다. 다만 핵심 활동 집단 가운데 하나는 문샷AI와 연관된 인물들이 운영한 것으로 판단했다. 문샷AI는 AI 모델 ‘키미(Kimi)’ 개발사다.

● 다른 모델 대답 학습하는 ‘적대적 증류’ 시도 적발

이번 사건에는 오픈AI가 외부에 공개하지 않는 보호된 추론 정보가 활용됐다. 오픈AI는 이를 한 모델의 출력값이나 추론 과정을 체계적으로 활용해 다른 모델을 학습·복제·개선하려는 ‘적대적 증류(adversarial distillation)’ 시도로 보고 있다.

증류(distillation)는 성능이 뛰어난 대형 모델의 출력값을 활용해 상대적으로 작은 모델을 학습시키는 기술이다. 일반적인 AI 개발에도 쓰이지만 경쟁사의 모델을 허가 없이 활용할 경우 이용약관 위반이나 지식재산권 침해 논란으로 이어질 수 있다.

이번에 적발된 계정들은 한 대화에서 암호화된 추론 정보를 복사한 뒤 다른 대화에 이를 입력하고, 모델에 숨겨진 추론 내용을 다시 풀어쓰도록 요청했다. 오픈AI는 이 방식이 암호화 자체를 깨거나 데이터베이스에 침입한 것은 아니라고 설명했다. 저장된 이용자 대화에 직접 접근한 정황도 없다고 밝혔다.

● 앤스로픽 이어 오픈AI도 문샷 지목…업계·정부와 공동 대응

문샷을 둘러싼 증류 의혹은 이전에도 반복돼 왔다. 앤스로픽은 지난 9월 공개한 위협정보 보고서에서 문샷AI가 자체 모델 ‘키미’ 이용자의 요청을 몰래 클로드로 전달하고, 클로드의 응답을 다시 이용자에게 보여주는 방식을 사용했다고 밝혔다. 한 사례에서는 10일 동안 약 30만 건의 고객 요청이 앤스로픽으로 전달됐고, 이 과정에 5380개의 사기성 계정으로 구성된 프록시 네트워크가 활용됐다고 설명했다.

앤스로픽은 또 올해 5~7월 문샷AI에 귀속된 증류 공격에서 2300만 건이 넘는 교환을 관측했다고 밝혔다. 문샷AI가 저장된 대화에서 클로드의 추론 과정을 추출해 자체 모델 학습에 활용하는 파이프라인도 구축했다고 주장했다.

오픈AI는 이번 활동을 차단하기 위해 관련 계정을 정지하거나 제한하고 가입·인프라 통제를 강화했다고 밝혔다. 또 프런티어 모델 포럼을 통해 다른 AI 기업들과 조사 결과를 공유하고 정부 당국에도 관련 내용을 전달했다.

오픈AI는 “우리가 우려하는 건 이용약관 위반이지 오픈 모델이나 정당한 증류가 아니다”라며 “다른 개발사와 관련 정부 파트너들에게 조사 결과를 공유하고 있으며, 보호 장치 강화에도 계속 투자할 것”이라고 블룸버그통신에 전했다.

김영호 기자 rladudgh2349@donga.com