"시진핑이 대만 침공할까?"…검열에 막힌 중국 AI, 기술도용 의혹까지 [AI 패권, 중국의 반격⑥·끝]

[중국 AI 둘러싼 증류·데이터 처리 의혹]
미 하원 보고서, 개인정보·수출통제 우회 위험 지적

기사 이해를 돕기 위해 AI로 생성한 이미지.사진=챗GPT

중국 AI 모델은 낮은 비용과 공개형 전략으로 빠르게 퍼졌다. 그러나 해외에서는 기술 도용 의혹, 개인정보 처리, 보안 취약성, 정부 접근 가능성에 대한 의심도 커졌다. 마지막회에서는 중국 AI가 가격과 성능 밖에서 마주한 불신의 구조를 다룬다.<편집자주>

[파이낸셜뉴스] 중국 인공지능(AI) 모델을 둘러싼 논쟁은 성능 경쟁에서 보안 문제로 이어진다. 딥시크 R1은 낮은 비용과 공개형 모델로 주목받았지만, 곧바로 개인정보 처리와 모델 증류 의혹이 불거졌다. 일부 국가는 정부 기기에서 사용을 제한했고, 미국 정치권에서는 중국 AI 모델을 국가안보 문제로 다뤘다.

증류는 큰 모델의 출력값을 활용해 작은 모델을 학습시키는 방식이다. AI 연구에서 흔히 쓰이는 기술이지만, 경쟁사 폐쇄형 모델의 출력값을 무단으로 대량 활용했다면 약관 위반이나 지식재산권 논란으로 이어질 수 있다. 딥시크를 둘러싼 의혹도 이 같은 출력값 활용 방식에서 일어났다.

OpenAI "딥시크, 부적절한 활용 검토"

(출처=연합뉴스)

파이낸셜타임스는 지난해 1월 오픈AI(OpenAI)와 마이크로소프트가 딥시크와 관련된 것으로 의심되는 계정 활동을 조사했다고 보도했다. 해당 계정들이 오픈AI API를 활용해 데이터를 대량으로 가져갔는지 확인했다는 내용이다.

비즈니스인사이더도 오픈AI가 딥시크의 AI 모델 훈련 과정에서 자사 기술이 부적절하게 쓰였는지 조사하고 있다고 전했다. 오픈AI 대변인은 이 매체에 "해당 사안을 면밀히 검토하고 있으며, 자사 모델을 부적절한 활용으로부터 보호하기 위한 대응에 나서겠다"고 밝혔다.

다만 의혹과 확정은 구분해야 한다. 딥시크의 R1 논문은 공개형 모델을 활용한 증류 모델을 설명하지만, 오픈AI 모델 사용 여부를 밝히지는 않는다. 딥시크 측이 어떤 데이터를 얼마나 썼는지 외부에서 확인하기도 어렵다.

스탠퍼드 사이버정책센터도 지난해 '딥시크 쇼크' 분석에서 관련 의혹을 신중하게 봐야 한다고 했다. 오픈AI가 증류 정황을 확인했다는 보도가 나왔지만, 공개된 정보만으로는 딥시크가 실제로 어떤 데이터를 사용했는지 단정하기 어렵다는 것이다. AI 모델 개발 과정에서 학습 데이터와 API 사용 기록이 외부에 공개되지 않는다는 점도 논란을 키우는 요인이다.

미 하원 보고서 "데이터·수출통제 위험"

이런 가운데 미국 하원 중국특위는 지난해 4월 16일 딥시크 관련 보고서를 공개했다. 보고서는 딥시크가 미국 이용자 데이터를 중국으로 보낼 위험이 있고, 미국의 대중 반도체 수출통제를 우회했을 가능성이 있다고 주장했다. 또 딥시크의 개발 과정과 중국 군 관련 생태계의 연결 가능성도 문제 삼았다.

미국 내에서는 중국산 AI를 정부 기기나 민감 업무에서 제외하려는 움직임도 이어졌다. 일부 주 정부와 연방기관은 딥시크 사용을 제한했다. 공공기관 업무용 기기나 정부 네트워크에서 중국산 AI 애플리케이션(앱)을 쓰면 이용자 입력 정보와 업무 자료가 외부로 흘러갈 수 있다는 우려 때문이다.

비슷한 조치는 다른 나라에서도 나왔다. 한국에서는 개인정보보호위원회 점검 과정에서 딥시크 앱 신규 다운로드가 한때 중단됐다가 개인정보 처리방침 보완 뒤 재개됐다. 이탈리아 개인정보보호 당국은 딥시크 관련 차단 조치를 내렸고, 호주는 보안 우려를 이유로 정부 기기에서 딥시크 사용을 금지했다.

AI 모델보다 복잡한 운영 리스크

AI 보안 문제는 모델 파일 하나만 검사해서 끝나지 않는다. 입력한 데이터가 어디에 저장되는지, 로그가 남는지, 제3자에게 넘어가는지, 모델 업데이트가 어떻게 이뤄지는지 확인해야 한다. 공개형 모델을 자체 서버에 올려 쓰면 일부 위험은 줄어들지만, 모델 자체의 학습 과정과 취약성은 따로 검토해야 한다.

중국 AI 모델은 검열 문제도 받는다. 중국 내 생성형 AI 서비스는 당국의 등록과 콘텐츠 관리 기준을 따른다. 해외 기업은 모델이 특정 정치·역사 질문에 어떤 답을 내는지, 민감한 주제에서 답변을 회피하는지 확인한다.

또 다른 문제는 사용 환경에 따라 위험이 달라진다는 점이다. 단순 번역이나 코딩 보조에 쓰는 모델과 고객 개인정보, 기업 기밀, 공공 행정 정보를 처리하는 모델은 기준이 다르다. 같은 모델이라도 오픈웨이트로 내부망에 올려 쓰는 경우와 중국 기업이 운영하는 앱에 직접 입력하는 경우의 위험도는 같지 않다.

기업들은 이 때문에 공급업체 실사와 보안 검증을 강화한다. 모델 원산지, 라이선스, 데이터 처리 위치, 업데이트 권한, 취약점 대응, 로그 보관 기간 등이 검토 항목이다. 가격이 싸더라도 보안 검토에서 시간이 걸리면 실제 도입은 늦어진다.

기술 도용 의혹, 중국AI 기업 운영 변수로

기사 이해를 돕기 위해 AI로 생성한 이미지.사진=챗GPT

기술 도용 의혹은 법원 판단이 나오기 전에도 기업 도입 과정에 부담으로 작용한다. 특정 AI 모델을 서비스에 적용한 뒤 지식재산권 분쟁이 커지면 계약 변경, 서비스 중단, 고객사 설명 등 후속 조치가 필요할 수 있다. 금융, 의료, 공공기관처럼 민감한 데이터를 다루는 조직은 공급망 리스크를 이유로 사용을 미루거나 제한할 가능성이 있다.

다만 중국 AI 기업만의 문제로 보기는 어렵다. 증류는 AI 연구에서 널리 쓰이는 학습 방식이다. 미국 AI 기업들도 웹 데이터를 대규모로 학습에 활용했다는 이유로 저작권 소송을 받고 있다. 오픈AI가 딥시크의 증류 의혹을 문제 삼는 동시에, 오픈AI 역시 저작권 소송의 피고가 돼 있다는 점은 해외 매체들도 함께 다뤘다.

그럼에도 해외 도입 심사에서는 의혹 자체가 검토 대상이 된다. 모델 성능이 높고 비용이 낮아도 데이터 처리 방식, 보안 검증, 지식재산권 분쟁 가능성이 남아 있으면 기업 내부 승인 절차가 길어질 수 있다. 중국 AI 모델이 해외에서 평가받을 때 성능과 가격 외에 법적 리스크가 함께 일어나는 이유다.

중국 AI의 강점은 낮은 비용과 빠른 배포 속도다. 공개형 모델을 통해 개발자 생태계를 넓히는 전략도 효과를 내고 있다. 그러나 정부와 기업은 모델 성능표만 보고 도입을 결정하지 않는다. 데이터가 어디로 이동하는지, 어느 나라 법을 적용받는지, 문제가 생겼을 때 계약상 책임을 누가 지는지까지 확인한다.

스탠퍼드 사이버정책센터는 딥시크 논란을 다룬 분석에서 "딥시크의 발표는 AI 공급망과 국가안보, 오픈소스 AI 모델의 미래에 관한 논쟁을 다시 불러왔다"고 밝혔다.

hsg@fnnews.com 한승곤 기자