국내서 ‘클로드 페이블5’ 모델 접근 막혔다... 미 정부, 앤트로픽에 외국 접속 금지 명령

미국 내 외국인도 접근 못해
앤트로픽, “정부 명령 따르겠지만, 동의할 순 없어”

[보안뉴스 한세희 기자] 미국 정부가 앤트로픽 최신 AI 모델에 대한 외국인의 접근을 금지했다.

앤트로픽은 12일(현지시간) 정부가 앤트로픽의 최신 AI 모델 ‘페이블5’와 ‘미토스5’에 대한 외국인의 접근을 중단하라는 수출 통제 지침을 발표했다고 밝혔다.

이 조치는 미국 내 외국인에게도 적용된다. 앤트로픽의 다른 모델은 이 조치의 영향을 받지 않는다.

페이블5는 사이버 보안 취약점 발견과 악용에 뛰어난 능력을 보인다는 이유로 제한적으로만 공개한 미토스 프리뷰의 업그레이드 모델에서 보안 관련 기능에 제약을 걸고 출시한 앤트로픽 최신 모델이다. 미토스5는 페이블5와 같은 모델이지만, 보안 관련 제약 없이 ‘프로젝트 글래스윙’ 참여 조직에게만 제한적으로 공개됐다.

정부는 국가 안보 우려를 이유로 이같은 지침을 내렸으나 구체적 내용은 밝히지 않았다. 페이블5를 우회하거나 탈옥하는 방법을 정부가 인지했기 때문으로 보인다고 앤트로픽은 밝혔다.

앞서 미국 매체 액시오스는 한 보안 기업이 앤트로픽 최신 모델 탈옥에 성공했다고 주장한 후 미국 상무부가 앤트로픽에 수출 통제 지침을 내렸다고 보도했다.

앤트로픽은 정부가 참고한 탈옥 사례에 활용된 AI 역량이 다른 AI 모델에서도 가능한 수준이고, 보안을 위해서도 널리 쓰이는 기능들이라고 밝혔다.

앤트로픽은 정부 지침에 따르면서도 이같은 방침에 반대 입장을 밝혔다. 앤트로픽은 “좁은 수준의 잠재적 탈옥 방법이 발견됐다 해서 수억명의 사용자에 배포된 상업적 모델을 회수해야 한다는 것에 동의하지 않는다”며 “이는 모든 첨단 AI 개발사의 새 모델 배포를 중단시키게 될 것”이라고 밝혔다.