실리콘밸리 최대 행사 참석한 AI 리더 3인...“속도 늦춰야” vs “최대한 빨리 달려라”

[강다은의 실리콘밸리 씬]

15일(현지 시각) 미국 샌프란시스코 모스콘센터에서 열린 세일즈포스 연례 행사 ‘드림포스 2026’에서 마크 베니오프(오른쪽) 세일즈포스 최고경영자(CEO)와 다리오 아모데이 앤스로픽 CEO가 기조연설 도중 대화를 나누고 있다./강다은 특파원

15일(현지 시각) 오전 미국 샌프란시스코 모스콘센터에서 열린 세일즈포스 연례 행사 ‘드림포스 2026’ 기조연설장. 마크 베니오프 세일즈포스 최고경영자(CEO)와 함께 무대에 오른 다리오 아모데이 앤스로픽 CEO는 자동차의 브레이크 결함을 예로 들며 “경쟁사를 공격하고 싶은 유혹이 있겠지만, 책임 있는 대응은 먼저 우리 자신의 안전 기록을 들여다보는 것”이라고 했다. 각 AI 기업이 스스로 안전성을 점검하고, 업계 공동의 안전 기준을 만든 뒤 국제적 협력으로 확대해야 한다는 것이다.

곧이어 같은 기조연설 무대에 등장한 젠슨 황 엔비디아 CEO는 정반대 주장을 폈다. 황 CEO는 “안전은 최우선(Safety is paramount)”이라면서도 “안전은 엔지니어링 문제”라고 했다. AI 개발 속도와 안전 가운데 하나를 선택해야 한다는 주장은 “잘못된 양자택일”이라며 “할 수 있는 만큼 빨리 달려라”라고 했다. 안전성을 확신하지 못한다면 제품을 내놓지 않으면 될 뿐 AI 산업 전체의 개발 속도를 늦출 필요는 없다는 것이다. “새로운 법도, 새로운 규제도 필요하지 않다”고도 했다.

15일(현지 시각) 미국 샌프란시스코 모스콘센터에서 열린 세일즈포스 연례 행사 ‘드림포스 2026’에서 마크 베니오프(오른쪽) 세일즈포스 최고경영자(CEO)와 젠슨 황 엔비다아 CEO가 기조연설 도중 대화를 나누고 있다./세일즈포스

최근 미국 테크 업계를 달구고 있는 ‘AI 속도 조절론’의 양 진영이 몇 분 간격으로 같은 무대에 올라 맞붙은 셈이다. 아모데이는 지난 12일 ‘프런티어의 속도를 조절해야 한다’는 글을 통해 최첨단 AI의 성능 향상 속도를 의도적으로 늦춰 안전 기술이 따라잡을 시간을 벌자고 제안했다. 외부 평가자에게 AI 기업 내부에 준하는 접근 권한을 주고, 기업 간 공동 안전 기준을 만든 뒤 장기적으로 국제적인 규칙으로 확대하자는 구상이다.

이날 오후 베니오프 CEO와 별도 대담에 나선 샘 올트먼 오픈AI CEO도 아모데이의 속도 조절론에 힘을 실었다. 올트먼은 AI의 능력과 정렬 모니터링, 안전 기술이 함께 발전해야 한다는 입장이다. 특히 오픈AI가 새로운 수준의 AI 능력에 도달할 때 안전과 정렬 기술을 보강하기 위해 개발 과정을 멈추는 방식을 논의해 왔으며, 앞으로 이런 조치를 더 많이 할 것이라고 했다. 인간이 AI에 미래에 대한 통제권을 빼앗길 위험을 감수해서는 안 된다는 것이다.

한편 오픈AI는 앤스로픽·구글과AI 안전을 위한 공동 대응에도 착수했다. 크리스 리헤인 오픈AI 최고대외협력책임자(CGAO)는 15일 “몇 주 전부터 경쟁사들과 AI 안전 문제를 함께 논의하고 있다”며 “안전을 최우선으로 삼아 함께 노력하는 편이 바람직하다”고 했다. 세 회사는 금융사의 자율규제기구인 금융산업규제국(FINRA)을 본뜬 AI 안전 표준기구 설립도 추진하고 있다.

앤스로픽은 트럼프 행정부와도 AI 안전 문제를 놓고 협의에 나섰다. 이날 블룸버그통신에 따르면 하워드 러트닉 미 상무장관과 에밀 마이클 국방부 최고기술책임자(CTO)는 이날 앤스로픽의 톰 브라운 최고컴퓨팅책임자(CCO)와 화상으로 만나 AI 안전 위험에 대해 논의했다.