‘AI 속도조절론’ 두고 맞붙은 아모데이·젠슨 황… “공동 기준 마련” VS “규제 필요 없어”

세일즈포스 드림포스 무대 오른 두 CEO
아모데이 “업계 AI 안전 기준 세워야”
젠슨 황 “혁신과 안전, 양자택일 문제 아냐”
오픈AI 올트먼도 “AI 안전장치가 성능 앞서야”

(왼쪽부터) 다리오 아모데이 앤트로픽 최고경영자(CEO)가 15일(현지시각) 미국 샌프란시스코 모스콘센터에서 열린 세일즈포스의 연례 '드림포스 2026' 행사 기조연설 무대에 올라 마크 베니오프 세일즈포스 CEO와 대담하고 있다. / 이재은 기자

인공지능(AI) 개발을 늦춰야 한다는 ‘속도조절론’을 둘러싼 논쟁이 격화하는 가운데 테크 기업 수장들의 의견이 또 한 번 엇갈렸다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 AI 기업들이 공동 안전 기준을 마련해야 한다고 주장한 반면, 젠슨 황 엔비디아 CEO는 제품 안전을 시장의 자율적인 통제에 맡기고 혁신 속도를 높이는 데 주력해야 한다고 강조했다.

두 수장은 15일(현지시각) 미국 샌프란시스코에서 열린 세일즈포스 연례 행사 ‘드림포스 2026’ 기조연설 무대에 올라 서로 다른 해법을 내놓았다. 두 사람은 최근 실리콘밸리 최대 화두인 AI 개발 속도조절론을 두고 서로 상반된 의견을 보였는데, 이날 행사에서도 입장차를 유지했다.

아모데이 CEO는 AI 안전을 자동차 안전에 비유했다. 그는 “경쟁사 차량의 브레이크에 문제가 생기거나 제조 과정상 결함이 발생한 상황을 가정해보자”며 “우리가 업계에서 가장 안전한 차량을 제조하더라도 경쟁사를 비난하기보다 자신의 기록부터 살펴보는 게 책임감 있는 대응 방식”이라고 말했다.

이런 사고나 안전 문제를 계기로 업계 차원의 안전성을 강화하려는 공동 대응이 필요하다는 주장이다. 그는 “먼저 자사의 안전 기록과 취약점을 점검해 관행을 개선하고, 투명성을 강화해 안전 투자를 확대해야 한다”고 했다. 나아가 AI 기업과 국제사회와 협력해 업계 전체에 적용할 안전 기준을 마련하는 ‘3단계 접근법’이 필요하다고 강조했다.

앞서 아모데이 CEO는 지난 주말 AI가 통제를 벗어나 악용될 위험을 사전에 방지하기 위해 AI 개발 속도를 늦춰야 한다고 주장했다. 최근 자사 AI 연구원이 퇴사를 하면서 오픈AI와 앤트로픽이 무책임하게 AI 성능 개선에만 주력하고 있다고 비판하면서 스스로 발전하는 초지능이 개발될 경우 “AI가 10년 안에 인류를 멸망시킬 수 있다”고 경고한 이후 이같은 속도조절론을 직접 제기한 것이다.

이날 그는 최근 10년간 AI 발전 속도가 기대 이상으로 빨랐다고 평가하기도 했다. 아모데이 CEO는 “연산 자원을 투입할수록 AI 모델의 성능이 향상되는 ‘스케일링 법칙’에 따라 AI 모델이 어느 정도 발전할 것이라고 예측했지만, 이 정도로 성능이 빠르게 좋아질 것이라고 전망하진 못했다”라며 “비즈니스 세계에서 이런 속도가 가능하다는 사실에 놀라고 있다”고 했다.

다만 그는 AI 속도조절론이 기술 개발 자체를 멈춘다는 의미는 아니라고 선을 그었다. 아모데이 CEO는 “AI 기술을 현재 수준에서 동결한다고 하더라도 현재 우리가 활용하고 있는 AI의 가치는 AI가 가진 잠재력의 5∼10%에 불과하다”고 진단했다. 그러면서 새로운 모델을 개발하는 것도 중요하지만, 이미 존재하는 AI를 기업의 데이터와 실제 업무에 적용하고 확산하는 것도 중요한 과제라고 강조했다.

(왼쪽부터) 마크 베니오프 세일즈포스 최고경영자(CEO)와 젠슨 황 엔비디아 CEO가 15일(현지시각) 미국 캘리포니아주 샌프란시스코에서 열린 세일즈포스 연례 최대 행사 '드림포스 2026' 기조연설에서 대담을 하고 있다. / 세일즈포스

이어서 무대에 오른 젠슨 황 엔비디아 CEO는 규제에 반대하는 입장을 내놨다. 그는 “AI 안전은 엔지니어링의 문제”라며 사전 검증을 통해 위험을 관리할 수 있다고 주장했다. 그는 이미 시장의 힘이 작동하고 있기 때문에 “새로운 법도, 규제도 필요하지 않다”고 했다.

황 CEO는 “먼저 첨단 기술을 안전하게 개발하고, 철저하게 검증할 수 있는 환경부터 제대로 구축해야 한다”며 “이후 제품의 기능이나 성능, 안전성을 확신할 수 없다면 출시를 안하면 된다”고 했다. 기업 스스로 안전하다는 확신이 들 때까지 속도를 조절하면 된다는 설명이다.

다만 혁신 속도와 안전은 양자택일의 문제가 아니라고 강조했다. 그는 “최대한 빨리 혁신을 추진하되, 제품을 통제하기 어렵거나 제품이 안전하지 않다고 판단되면 잠시 멈추고 제대로 만들고 있는지 확인하면 된다”고 했다.

황 CEO는 AI가 소프트웨어 산업을 잠식할 것이란 이른바 ‘사스포칼립스’ 우려에 대해서는 “말도 안되는 소리”라고 일축했다. 그러면서 “AI가 새로운 일자리를 창출하고 소프트웨어 사용량을 늘릴 것”이라는 기존 입장을 유지했다.

이날 오후 베니오프 CEO와 별도의 대담을 가진 샘 올트먼 오픈AI CEO는 AI 개발 속도조절론을 지지하는 발언을 했다. 그는 최근 오픈AI의 AI 에이전트가 허깅페이스를 무단 해킹한 사건으로 AI 발전 속도에 대한 업계 전반의 경각심이 커졌다면서, AI 모델에 대한 통제력을 잃지 않도록 안전 장치 마련에 주력해야 한다고 강조했다. 그는 “AI의 안전 장치가 모델의 성능보다 앞서나가도록 기술 개발 속도를 조절할 필요가 있다”고 했다.

- Copyright ⓒ 조선비즈 & Chosun.com -