"美 앤트로픽 미토스 수출통제는 '中연계단체 접근' 우려 때문"
'탈옥' 통한 안전장치 우회 사례 보고에 美정부 긴급지시

(서울=뉴스1) 김지완 기자 = 미국 정부가 앤트로픽의 최신 인공지능(AI) 모델에 대한 외국인 접근을 차단하라고 지시한 것은 중국과 연계된 단체가 이 모델에 접근했을 우려가 제기된 것이 배경의 하나라고 미국 온라인매체 세마포가 사안과 가까운 소식통을 인용해 13일(현지시간) 보도했다.
보도에 따르면 도널드 트럼프 행정부는 12일 사이버 보안에 특화된 앤트로픽 AI 모델인 '미토스 5'(Mythos 5)와 미토스의 소비자용 버전인 '페이블 5'(Fable 5)에 미국 시민만 접근할 수 있게 제한하라고 지시했다. 이에 따라 외국인 앤트로픽 직원들도 이 모델을 사용할 수 없게 됐다.
앞서 앤트로픽은 지난 4월 출시한 미토스가 해커들의 손에 넘어가지 않도록 보안 취약점을 보완하는 데 활용할 수 있는 선별된 기업들로만 접근을 제한했다. 미토스는 컴퓨터 코드의 버그를 찾아낼 수 있는 강력한 능력 때문에 해킹에 악용될 가능성이 있다.
어떤 중국 관련 단체가 어떻게 미토스에 접근할 수 있었는지는 불분명하다. 앤트로픽은 중국 내 사용자의 제품 접근을 금지하고 있다. 앤트로픽 대변인은 백악관 측이 페이블 탈옥 및 수출 제한에 대해 논의하던 중 중국의 접근 문제를 제기하지 않았다고 전했다.
세마포는 "중국 정부가 미토스에 접근하게 되면 미국의 국가 안보에 위협이 될 수 있다"며 "중국은 이른바 '증류'(distillation) 방식을 통해 해당 모델을 역설계하고 복제하려고 시도할 수 있다"고 전했다.
이날 앤트로픽은 공지를 통해 국가 안보 우려를 이유로 내건 정부의 수출 통제 지시에 따라 "페이블 5와 미토스 5 서비스를 즉시 중단해야 한다"며 "그 외 모든 앤트로픽 모델에 대한 접근은 영향을 받지 않는다"고 밝혔다.
앤트로픽은 정부 지시에 "국가 안보 우려 사항에 대한 구체적인 세부 내용이 명시돼 있지 않았다"면서도 "우리가 파악한 바에 따르면, 정부는 페이블 5를 우회하거나 '탈옥'(jailbreaking)하는 방법을 인지하게 된 것으로 보인다"고 설명했다. '탈옥'은 AI 모델의 안전 장치를 우회 또는 제거하는 방법을 의미한다.
이어 "우리는 이 특정 기법(탈옥)이 이전에 알려진 소수의 사소한 취약점을 식별하는 데 사용되는 시연을 검토했다"며 "이러한 취약점들은 모두 비교적 단순해 보이며, 우회 없이도 다른 공개된 모델들이 이를 발견할 수 있다는 사실을 확인했다"고 덧붙였다. 일부 '탈옥' 사례에 대한 정부의 국가 안보 우려가 과도하다는 의미다.
이날 데이비드 색스 백악관 AI·가상자산 정책특임보좌관(차르)은 엑스(X)를 통해 페이블 5가 탈옥할 수 있다는 경고를 받았다며 앤트로픽의 다리오 아모데이 CEO는 탈옥이 심각한 위험이 아니라며 이를 수정하기를 거부했다고 주장했다.
그는 또 앤트로픽이 과거 트럼프 행정부과 AI 규제 및 자율 무기에 AI를 적용하는 문제를 두고 갈등을 겪은 것이 이번 조치에 영향을 끼치지 않았다고 강조했다. 미 국방부는 지난 2월 앤트로픽을 '공급망 위협'으로 지정한 바 있다.
이와 관련, 백악관에 가까운 한 소식통은 '탈옥' 사실을 알린 것은 아마존이며, 아마존의 앤디 제시 최고경영자(CEO)가 이 문제와 관련해 행정부 관계자들과 접촉했다고 전했다.
한편 트럼프 행정부는 이번 앤트로픽 AI 모델에 대한 외국인 접근 차단 조치를 오픈AI 등 다른 AI 기업으로는 확대하지 않을 방침이라고 미국 정보기술(IT) 매체 디인포메이션이 이날 보도했다.
gwkim@news1.kr
Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.
- "셋이 왔으면 음료도 3잔"…커피 2잔·디저트 1개 주문 거절한 업주
- "51세 엄마가 임신 13주 차래요"…늦둥이 소식에 20대 딸 '막막'
- "수영, 텐션 낮고 얼굴에 고민 가득… 정경호와 결별 전 징후 있었다"
- "조국보다 사랑"…캐나다 前총리, 연인과 미국팀 월드컵 경기 관람
- "꽝이네" 복권 판매자 거짓말…64억 당첨자, 빈손으로 사망
- "친구와 모은 여행적금으로 주식 투자…수익 절반 요구, 어이없다"
- "첫 결혼식도 갔는데, 재혼에 와 달라는 직장 동료…꼭 가야 하나요"
- 시내버스서 음란물 튼 남성…돌진 버스 앞 아들 팔 낚아챈 엄마[주간HIT영상]
- '충주걸' 최지호 "조회수 수백만인데 수익 0원…몸살까지 걸릴 정도"
- "출산 후 망가진 몸, 원망스럽다"…모성애 안 생겨 괴롭다는 엄마