미국이 AI 속도 늦추면 중국은 기다려준답니까?…빅테크 CEO들 설전

다리오 아모데이 앤트로픽 CEO(왼쪽 사진)와 젠슨 황 엔비디아 CEO가 15일(현지시간) 미국 캘리포니아주에서 열린 ‘드림포스 2026’ 무대에 차례로 올라 연설하고 있다. [AFP = 연합뉴스]

15일(현지시간) 미국 캘리포니아주 샌프란시스코에서 열린 연례 최대 기술 행사 ‘드림포스 2026’ 무대. 이곳에서 다리오 아모데이 앤트로픽 최고경영자(CEO)가 “첨단 인공지능(AI) 개발 속도를 조절하자”고 촉구하자 젠슨 황 엔비디아 CEO는 “최대한 빨리 달려라”고 맞섰다.

일론 머스크와 샘 올트먼 오픈AI CEO, 마크 저커버그 메타 CEO 등 주요 빅테크 수장들이 이번 논쟁에 참가하면서 AI 기업 내부에서 시작된 안전 논쟁이 미국의 AI 규제와 미·중 기술 경쟁을 둘러싼 공방으로 걷잡을 수 없이 확산되고 있다. 특히 오는 11월 미국 중간선거를 앞두고 정치 쟁점으로까지 부상하는 모습이다.

◆아모데이 “AI 능력, 안전기술 추월할 수도”

논쟁의 첫 번째 쟁점은 AI의 능력과 이를 통제할 안전 기술 사이의 ‘속도 차이’다. 먼저 무대에 오른 아모데이 CEO는 “AI 능력이 안전 기술보다 빠르게 발전할 수 있다”며 “개발 속도를 조절해야 한다”고 강조했다. 특히 AI가 사이버 공격이나 생물학 등 위험한 분야에서 인간 전문가를 넘어설 경우 사후 대응으로는 늦을 수 있다고 경고했다.

올트먼 CEO는 AI 위험 우려가 단순한 가정이 아닌 실제라고 강조했다. 그는 지난 7월 오픈AI 모델이 외부 사이트에 무단 접근한 사례를 ‘경종을 울린 사건’으로 평가했다. 올트먼은 “AI가 인간의 의도와 다르게 행동하지 않도록 만드는 정렬과 감시·보안 기술이 항상 AI 능력보다 한발 앞서도록 개발 속도를 조절할 의지가 있어야 한다”고 말했다.

문제는 속도 조절 방식이다. 아모데이는 개별 기업의 판단만으로는 충분하지 않다고 본다. 한 회사가 개발을 늦춰도 경쟁사가 계속 질주하면 다시 경쟁에 뛰어들 수밖에 없기 때문이다. 그는 자동차 사고를 예로 들며 “경쟁사의 자동차에서 사고가 났다고 그 회사를 공격하는 데 그쳐서는 안 된다. 우리 회사에도 같은 문제가 없는지 기록과 관행을 점검해야 한다”며 “이후 업계 전체가 적용할 기준을 마련해야 한다”고 주장했다. AI 역시 업계 전체가 안전 기준을 점검하고 외부 평가와 국제적인 기준까지 마련해야 한다는 것이다.

◆젠슨 황 “안전은 공학 문제, 지금은 달릴 때”

황 CEO는 이 지점에서 아모데이와 갈렸다. 안전성을 높이는 데는 동의하지만 이를 위해 개발 속도를 늦출 필요는 없다는 것이다. 그는 “안전은 중요하지만 공학의 문제”라며 “검증 절차를 강화하고 안전하지 않은 제품은 출시하지 않으면 된다”고 주장했다. 이어 “혁신의 속도와 안전한 제품 가운데 하나를 선택해야 한다는 것은 잘못된 선택”이라며 “둘 다 가질 수 있다. 최대한 빨리 달려라”라고 강조했다.

개별 기업의 책임을 강조한다는 점에서는 저커버그 CEO도 황 CEO와 비슷한 해법을 내놨다. 그동안 논란의 중심에서 비켜서 있던 저커버그는 이날 X에 “메타는 안전과 보안 점검을 위해 AI 에이전트 ‘뮤즈’ 출시를 수개월 늦췄다”면서 “다른 기업에도 그렇게 하라고 요구하지 않았다. 우리에게 옳은 일이기에 그냥 했다”고 밝혔다. 필요하면 기업 스스로 속도를 늦추고 독립적인 평가자와 외부 자문가를 활용해 안전성을 검증하면 된다는 주장이다.

하지만 기업이 자기 모델의 안전성을 스스로 판단하는 데는 한계가 있다는 문제도 남는다. 머스크가 제시한 해법은 ‘상호 검증’이다. 그는 미국 로스앤젤레스에서 열린 ‘올인 서밋’에서 xAI와 오픈AI, 앤트로픽, 구글, 메타에 중국 주요 AI 기업까지 참여시켜 출시 전 서로의 모델을 시험하자고 제안했다. 그는 “자기 숙제를 경쟁사가 채점하는 것”이라며 “자체 검사보다 위험을 발견할 가능성을 높일 수 있다”고 주장했다. 중국 기업까지 참여시키자는 것은 미국 기업만 속도를 늦췄다가 중국과의 AI 경쟁에서 뒤처질 수 있다는 문제를 의식한 것이다.

◆‘누가 먼저 멈추나’ AI 경쟁의 딜레마

AI 개발 감속 논쟁의 불씨를 댕긴 제이컵 콕슨 전 앤트로픽 연구원이 문제 삼는 지점도 바로 이런 ‘경쟁 논리’다. 콕슨은 이날 X에 앤트로픽 경영진과 자신이 갈라선 지점을 구체적으로 설명했다. 핵심은 AI가 더 뛰어난 AI를 개발하고, 개선된 AI가 다음 AI 개발을 가속하는 ‘재귀적 자기개선(RSI)’ 경쟁이었다.

AI가 AI 개발 속도를 스스로 끌어올리기 시작하면 사람이 안전성을 검증하고 통제할 시간이 줄어들 수 있다는 우려다. 콕슨에 따르면 앤트로픽 경영진은 다른 기업이나 국가가 RSI 개발에 나선다면 안전을 중시하는 앤트로픽이 먼저 강력한 AI를 확보하는 편이 낫다고 판단하고 있다. 콕슨은 “모든 기업이 같은 논리로 서두르면 오히려 RSI 경쟁을 가속한다”며 “앤트로픽이 이런 판단에 따라 최근 RSI 경쟁을 상당 부분 촉발했다. 경쟁이 불가피하다면 그 경쟁에 기여해서는 안 된다”고 비판했다.

미 정치권도 논쟁에 가담하고 있다. AI가 일자리와 사회에 미칠 영향에 대한 미국인의 우려가 커지면서 진보와 보수 양쪽에서 정부 개입을 요구하는 목소리가 나온다. 진보 진영의 버니 샌더스 상원의원과, 트럼프 대통령의 수석전략가를 지냈던 스티브 배넌은 15일 미 워싱턴DC에서 열린 ‘프로휴먼 어셈블리’에 참석해 정부 대응 강화를 촉구했다. 샌더스는 AI가 민주주의와 인간의 삶에 미칠 영향을 기업의 판단에만 맡겨서는 안 된다고 주장했고 배넌 역시 일자리와 사회에 미칠 충격을 이유로 정부 개입의 필요성을 강조했다.