“AI 개발 속도 늦춰야, 中에 칩 팔아도 안 돼”…4대 수장 한목소리

샘 올트먼·다리오 아모데이·일론 머스크. AFP=연합뉴스

인공지능(AI) 개발 경쟁을 벌여온 앤트로픽·오픈AI·스페이스X의 xAI·구글 딥마인드 수장들은 이례적으로 AI 개발 속도를 늦춰야 한다는 데 한목소리를 냈다.

다리오 아모데이 앤트로픽 최고경영자(CEO)는 13일(현지시간) 방영된 CBS 뉴스 인터뷰에서 AI 발전 과정을 “1, 2, 4, 8, 16, 32”로 이어지는 곡선에 빗댔다. 현재는 이 곡선이 “가팔라지기 시작하는” 단계에 접어들었다는 게 그의 진단이다.

아모데이는 “오늘 당장 패닉에 빠질 필요는 없다. 전부 셧다운할 필요도 없다”면서도 “그럼에도 이는 우리가 속도를 늦춰야 한다는 경고 신호”라고 말했다.

그는 AI 업계가 그동안 기술의 위험성을 제대로 알리지 않았다는 비판도 내놨다. 아모데이는 “나는 오랫동안 업계가 이 기술에 위험이 있다는 사실에 대해 사람들에게 거짓말을 해왔다고 생각한다”고 말했다.

━

“AI 칩 중국에 팔아선 안 돼”

AI 개발의 속도 조절을 둘러싼 가장 큰 난제로는 중국 등 적대국과의 경쟁을 꼽았다. 미국만 개발 속도를 늦추더라도 경쟁국이 보조를 맞추지 않는다면 기술 주도권을 빼앗길 수 있다는 취지다.

아모데이는 “미국 기업들은 고성능 AI 칩을 중국에 팔아서는 안 된다”며 “이 칩 수출이 중국의 AI 역량을 좌우하는 핵심 요인이 될 것”이라고 말했다.

그는 옛 소련과 체결했던 핵무기 감축 협정을 AI 분야의 잠재적 모델로 제시했다. 다만 “앞서나가려는 동기와 그로 인한 군사적 이점이 너무 크기 때문에 (협조가) 매우 어려울 것”이라며 “솔직히 가능할지 확신할 수 없지만 우리는 노력해야 한다”고 했다.

아모데이는 전날 개인 블로그에서도 AI 개발 속도를 조절해야 하는 이유를 구체적으로 설명했다.

그가 주목한 위험 요인은 크게 두 가지다. 먼저 AI 시스템이 사람의 개입 없이 더 발전된 버전을 만들어내는 ‘재귀적 자기개선’ 능력이 빠르게 커지고 있다는 점이다.

지난 7월 발생한 AI 에이전트의 해킹 사건도 근거로 들었다. 당시 오픈AI의 AI 에이전트 무리는 테스트 환경을 벗어나 오픈소스 AI 모델 공유 플랫폼 허깅페이스를 해킹했다.

아모데이는 더 강력한 에이전트 무리가 “비슷한 수준의 정렬 오류를 일으킨다면 재앙적 피해로 이어질 수 있었다”며 이런 폭주 에이전트 무리가 6∼12개월 안에 인터넷을 장악할 수도 있다고 경고했다.

대안으로는 3단계 속도 조절 방안을 내놨다. AI 기업 내부에 제3자 안전평가자를 상주시키고 민주주의 국가들이 공통 기준을 마련한 뒤 권위주의 국가와도 공조해야 한다는 구상이다.

━

올트먼·머스크·허사비스 잇달아 동조

아모데이의 주장에는 경쟁사 수장들이 잇달아 호응했다. 샘 올트먼 오픈AI CEO는 엑스(X)에 “다리오가 말한 대로 우리가 프론티어의 속도를 조절해야 한다는 데 동의한다”며 “직원 수준의 접근권을 가진 독립 평가자를 두겠다는 건 훌륭한 아이디어이며, 우리도 같은 조치를 하겠다”고 밝혔다.

올트먼은 앞서 공개된 포천 인터뷰에서도 AI의 잠재적 위험을 강하게 경고했다. 그는 “이번 10년이 끝나기 전에 모든 인류를 죽게 할 확률이 10%에 달하는 위험을 감수하는 것은 용납할 수 없는 일이라고 생각한다”고 말했다.

오픈AI의 기업공개 가능성에도 선을 그었다. 올트먼은 “안전과 관련해 벌어지고 있는 모든 상황을 고려하면, 지금은 상장하기에 적절치 않은 시점이며 우리는 그런 압박을 느끼지도 않는다”고 밝혔다. 이에 따라 오픈AI가 올해 안에는 기업공개에 나서지 않을 가능성을 시사했다.

일론 머스크 스페이스X CEO도 아모데이의 게시글을 공유하며 엑스에 “다리오가 맞다”고 썼다. 오픈AI 공동창업자인 머스크는 이후 자신이 설립한 AI 기업 xAI를 스페이스X에 합병시켰다.

데미스 허사비스 구글 딥마인드 CEO 역시 엑스에 “다리오의 에세이는 옳은 방향을 가리키고 있다”며 “세부 사항은 다듬어야겠지만, 이런 중대한 순간에 맞는 올바른 방향”이라고 밝혔다.

한영혜 기자 han.younghye@joongang.co.kr