빅테크 흔든 AI 속도조절론…아모데이 "개발 늦춰야" 젠슨 황 "규제 필요없어"

아모데이 "안전 검증이 기술 발전 따라잡아야"
젠슨 황 "안전은 공학 문제…시장 통제 작동"
올트먼도 안전장치 우선 필요성에 공감
오픈AI·앤트로픽·구글, 공동 안전기준 협의 중

인공지능(AI) 개발 속도를 둘러싼 글로벌 빅테크 수장들의 논쟁이 가열되고 있다.

다리오 아모데이 앤트로픽 최고경영자(CEO)는 안전 연구와 검증이 기술 발전을 따라잡을 수 있도록 속도를 조절해야 한다고 주장한 반면, 젠슨 황 엔비디아 CEO는 안전은 공학적으로 해결할 수 있는 문제라며 규제보다 기업과 시장의 자율적인 통제를 강조했다.

15일(현지시간) 미국 샌프란시스코에서 열린 세일즈포스 연례행사 '드림포스 2026'에서 두 사람은 잇따라 무대에 올라 AI 안전을 놓고 뚜렷한 시각차를 드러냈다.

아모데이 CEO는 자동차 업계의 안전사고를 예로 들며 AI 기업이 자사의 안전 기록과 취약점을 점검하고 관행을 개선해야 한다고 말했다. 이어 업계 전체가 공통 안전 기준을 마련하고 국제사회까지 협력하는 '3단계 접근법'이 필요하다고 주장했다.

그는 과거 연산 자원이 늘어날수록 AI 성능이 향상된다는 '스케일링 법칙'을 통해 AI 발전을 어느 정도 예상했지만 실제 발전 속도는 예상보다 훨씬 빨랐다고 평가했다.

다만 속도조절론이 기술 개발 자체를 멈추자는 의미는 아니라고 선을 그었다.

현재 수준의 AI만으로도 기업과 사회가 활용하는 가치는 전체 잠재력의 5∼10%에 불과한 만큼, 새로운 모델 개발과 함께 기존 기술을 실제 현장에 확산하는 데도 충분한 여지가 있다는 설명이다.

앞서 아모데이 CEO는 지난 12일 '우리는 최전선의 속도를 조절해야 한다'는 글을 통해 첨단 AI 모델의 성능 향상 속도를 늦춰 안전 연구와 검증이 따라잡을 시간을 확보해야 한다고 주장했다.

반면 뒤이어 무대에 오른 황 CEO는 "안전은 최우선 과제이지만 동시에 공학적 문제"라며 혁신 속도와 안전을 양자택일로 볼 필요가 없다고 반박했다. 충분한 시험 환경을 갖추고 제품의 성능과 안전성을 검증한 뒤 확신이 서지 않으면 출시하지 않으면 된다는 것이다.

황 CEO는 시장의 통제 장치가 이미 작동하고 있다며 새로운 법이나 규제가 필요하지 않다는 입장도 재확인했다. 가능한 한 빠르게 기술을 개발하되 통제가 어렵거나 안전하지 않다고 판단되는 순간 기업 스스로 멈춰 점검하면 된다는 논리다.

AI가 일자리를 없애고 소프트웨어 산업을 잠식할 것이라는 이른바 '사스포칼립스' 우려에도 선을 그으며 오히려 AI가 일자리와 소프트웨어 사용량을 늘릴 것이라고 주장했다.

샘 올트먼 오픈AI CEO는 같은 날 별도 대담에서 아모데이 CEO와 비슷하게 안전장치가 모델 성능 향상을 따라잡을 수 있어야 한다는 입장을 내놨다. 특히 경쟁사가 어떻게 행동하는지와 관계없이 각 AI 기업이 스스로 안전과 책임을 우선해야 한다고 강조했다.

실제 업계 차원의 안전 공조도 움직이기 시작했다. 오픈AI는 최근 수주간 앤트로픽, 구글 딥마인드와 AI 안전 대응을 위한 협의를 진행해왔으며 공통 안전 기준을 다룰 기구 설립 방안도 논의 중인 것으로 전해졌다.