“AI 너무 빨리 간다”…갈등하던 美 정부·앤스로픽 다시 만났다

톰 브라운 앤스로픽 공동창업자 겸 최고컴퓨팅책임자(CCO)가 2일(현지시간) 미국 노스캐롤라이나주 채플힐에서 열린 G20 혁신 장관회의에서 발언하고 있다. 게티이미지코리아

인공지능(AI) 개발 속도를 늦춰 안전성을 점검해야 한다는 목소리가 커지는 가운데 미국 정부 고위 당국자들이 앤스로픽과 AI 안전 문제를 논의했다. 군사용 AI 활용과 첨단 모델 수출 문제로 충돌해온 양측이 다시 대화에 나서면서 AI 안전 논쟁이 업계 내부를 넘어 정부와 기업 간 협상 의제로 떠올랐다.

15일(현지시간) 블룸버그통신에 따르면 에밀 마이클 미 국방부 최고기술책임자(CTO)와 하워드 러트닉 상무장관은 앤스로픽 최고컴퓨팅책임자(CCO) 톰 브라운과 화상으로 만났다. 브라운은 최근 워싱턴에서 앤스로픽을 대표해 미 정부와 주요 협상을 맡아온 인물이다.

미 국방부 관계자는 “프런티어 AI 기업들과 접촉을 유지하고 있다”면서도 “앤스로픽에 대한 국방부의 입장은 바뀌지 않았다”고 밝혔다. 앤스로픽은 이번 회동에 별도의 입장을 내놓지 않았다.

● “개발 속도 늦추자”…AI 안전론이 커진 이유

이번 만남은 다리오 아모데이 앤스로픽 최고경영자(CEO)가 최근 약 3800단어 분량의 글을 통해 첨단 AI의 개발 속도를 조절해야 한다고 주장한 직후 이뤄졌다.

아모데이는 AI 능력이 너무 빠르게 향상되면 안전 연구가 이를 따라잡지 못할 수 있다고 경고했다. 그는 AI 기업에 외부 평가자를 상시 배치하고, 기업들이 공통 안전 기준과 개발 속도 제한에 합의하는 방안 등을 제시했다. 개발 자체를 멈추자는 것이 아니라 안전장치가 따라갈 시간을 확보하자는 취지다.

아모데이가 제기한 AI 개발 속도 조절 필요성에는 오픈AI CEO 샘 올트먼과 일론 머스크도 공감을 표시했다. 다만 해법을 놓고는 온도차가 있다. 올트먼과 젠슨 황 엔비디아 CEO는 새로운 정부 규제 없이도 기업들이 스스로 개발 속도를 조절하고 안전 문제에 대응할 수 있다는 입장이다.

반면 도널드 트럼프 미국 대통령은 AI가 인류를 위협할 수 있다는 우려를 “사기”라고 일축하며 새로운 규제 도입에 반대했다. AI 개발 속도를 늦추면 중국 등 경쟁국에 유리해질 수 있다는 게 트럼프 대통령의 주장이다.

대통령이 AI 규제론에 공개적으로 선을 그은 직후, 행정부 고위 당국자들이 앤스로픽과 직접 AI 안전 문제를 논의했다는 점도 이번 회동이 주목받는 이유다.

AI 기업들 사이에서는 안전 문제를 함께 논의하려는 움직임도 이어지고 있다. 크리스 리헤인 오픈AI 글로벌 정책 총괄은 오픈AI와 앤스로픽, 구글 딥마인드가 수주 전부터 AI 안전 문제를 놓고 협의해 왔다며 “안전을 우선하기 위해 함께 노력하는 편이 낫다”고 말했다.

최근 논쟁에 불을 붙인 계기 중 하나는 앤스로픽 연구원 제이콥 콕슨의 사임이었다. 콕슨은 회사를 떠나면서 AI 기업들이 사람들의 생명을 놓고 “도박하고 있다”고 주장했다. 이후 첨단 AI의 위험을 어떻게 통제하고 개발 속도를 어느 수준까지 조절할지를 둘러싼 논쟁이 미국 기술업계와 정치권으로 번졌다.

● 소송까지 간 앤스로픽·美 정부, 왜 다시 만났나

앤스로픽과 미 정부의 관계는 순탄하지 않았다. 상무부와는 첨단 AI 모델 ‘미소스(Mythos)’와 ‘페이블(Fable)’의 보안과 수출 통제를 놓고 마찰을 빚었고, 국방부와는 AI를 군사 작전에 어디까지 사용할 수 있는지를 두고 충돌했다.

국방부와의 협상은 앤스로픽이 제시한 군사용 AI 제한 조건을 국방부가 군의 권한을 침해한다고 판단하면서 결렬됐다. 국방부는 이후 앤스로픽을 미국 공급망에 대한 위험으로 지정했고, 앤스로픽은 이에 불복해 워싱턴 법원에서 법적 다툼을 이어가고 있다.

이번 회동에 나선 브라운은 이런 갈등 속에서 정부와 앤스로픽 사이의 협상 창구 역할을 해왔다. 그는 올여름 앤스로픽의 첨단 AI 모델에 적용된 수출 통제를 풀기 위한 협상을 이끌었고, 이달 초에는 러트닉 장관과 주요 20개국(G20) 기술 행사에도 함께 참석했다.

미 정부 안에서도 앤스로픽을 바라보는 시선에는 온도차가 있다. 러트닉 장관은 이달 초 앤스로픽이 태도를 바꾸면서 정부와의 관계를 회복했다는 취지로 평가했다. 반면 국방부는 앤스로픽을 여전히 방위산업 기반의 ‘공급망 위험’으로 보고 있다는 입장을 밝혔다.

최현정 기자 phoebe@donga.com