“IPO도 미루고, AI 개발도 천천히”…속도전에 브레이크 건 올트먼·머스크·아모데이

샘 올트먼 오픈AI 최고경영자(CEO·왼쪽부터), 다리오 아모데이 앤트로픽 CEO, 일론 머스크 xAI 창업자. 아모데이는 12일 인공지능(AI) 개발 속도를 늦춰야 한다고 제안했고, 올트먼과 머스크도 이에 동의한다고 밝혔다. /AFP 연합뉴스

“지금 기업공개(IPO)에 나서는 것은 바람직하지 않다.”

챗GPT 개발사 오픈AI의 샘 올트먼 최고경영자(CEO)가 올해로 예상됐던 IPO를 미루겠다고 밝혔다. 이유는 자금 조달이나 증시 상황이 아니라 AI 안전 문제였다. 같은 날 경쟁사 앤트로픽의 다리오 아모데이 CEO는 최첨단 AI 모델의 개발 속도를 의도적으로 늦추자고 제안했다. 그동안 AI 개발을 놓고 치열하게 경쟁해 온 올트먼과 일론 머스크 xAI 공동 창업자도 즉각 동조했다.

오픈AI와 앤트로픽, xAI를 이끄는 세 사람이 ‘더 빠른 AI’가 아니라 ‘통제 가능한 AI’를 위해 함께 브레이크를 밟은 것이다. AI의 안전 우려가 연구자들의 경고를 넘어 기업의 상장 일정과 사업 전략까지 바꾸기 시작했다는 평가가 나온다.

◇오픈AI, 올해 IPO 포기… “안전·정렬 과제부터”

올트먼은 12일 공개된 미 경제지 포천과의 인터뷰에서 올해 IPO 여부에 대해 “2026년은 아닐 것”이라고 밝혔다. 그는 “안전과 관련해 벌어지는 상황을 고려하면 지금은 상장하기에 적절하지 않은 시기”라며 “상장 압박을 느끼고 있지 않다”고 했다.

오픈AI는 지난 6월 미 증권거래위원회(SEC)에 비공개로 IPO 신청서를 제출하고 상장을 준비해 왔다. 지난달에도 세라 프라이어 최고재무책임자(CFO)는 사업이 계속 가파르게 성장할 경우 2027년 또는 그보다 이른 시기에 상장할 수 있다고 직원들에게 설명했다. 하지만 올트먼이 올해 상장 가능성을 공식적으로 배제하면서 세계에서 가장 주목받는 IPO 가운데 하나는 최소 내년 이후로 미뤄지게 됐다.

올트먼은 “AI의 안전과 정렬을 위해 해결해야 할 과제가 많고, 업계와 정부가 어떻게 협력할지도 모색해야 한다”고 했다. AI 정렬은 AI가 인간의 가치와 의도에 맞게 행동하도록 만드는 작업을 뜻한다. 그는 “AI가 미래의 통제권을 빼앗을 위험을 초래하는 행동을 해서는 안 된다는 원칙에는 모두 동의해야 한다”고 했다.

기업이 상장하면 분기별 실적과 주가, 투자자 수익률에 대한 압박이 커진다. 더 강력한 모델을 더 빨리 출시해야 한다는 상업적 요구와 안전성 검증에 필요한 시간이 충돌할 수 있다. 올트먼의 발언은 이런 상황에서 상장보다 안전 체계를 먼저 정비하겠다는 뜻으로 풀이된다.

◇아모데이 “AI 개발 중단 아닌 속도 조절”

같은 날 아모데이는 자신의 개인 웹사이트(darioamodei.com)에 ‘최전선의 속도를 조절해야 한다’는 제목의 3800단어 분량의 글을 공개하고 AI 기업들이 최첨단 모델의 성능을 높이는 속도를 의도적으로 늦춰야 한다고 주장했다. 그는 “위험 예방이 모델의 능력 향상 속도를 따라잡도록 해야 한다”며 “속도를 늦춰 1~2년을 더 확보하고 그 시간을 정렬 기술 개발에 사용한다면 심각한 사고의 위험을 크게 줄일 수 있다”고 했다.

아모데이가 말한 ‘감속’은 AI 모델 학습이나 기술 발전을 중단하자는 뜻은 아니다. 기업들이 안전장치를 갖추고 외부 기관이 이를 검증할 때까지 충분한 시간을 두자는 것이다. 그는 ▲AI 기업 내부 정보에 직원 수준으로 접근할 수 있는 제3자 평가자 배치 ▲민주주의 국가의 선도 AI 기업 간 공통 안전 기준 마련 ▲민주주의 국가와 권위주의 국가 정부 간 협력이라는 3단계 방안을 제시했다. 앤트로픽은 우선 외부 평가자에게 내부 접근 권한을 주는 첫 단계를 독자적으로 시행하기로 했다.

아모데이는 2023년만 해도 AI 개발 속도를 늦추자는 주장이 현실성이 크지 않았다고 했다. 당시 모델은 현실에서 독자적으로 행동하거나 심각한 속임수와 조작, 사이버 공격을 벌일 정도로 강력하지 않았기 때문이다. 그러나 최근에는 AI가 인간의 개입 없이 스스로 능력을 높이는 ‘재귀적 자기 개선(AI가 스스로 더 뛰어난 AI를 반복해서 만들어내는 것)’ 가능성이 제기되고, 시험 중인 모델이 개발사의 의도와 달리 외부 시스템에 침입하는 일까지 발생하면서 상황이 달라졌다는 것이다.

◇경쟁자 올트먼·머스크도 이례적 동조

올트먼은 아모데이의 제안이 공개되자 “첨단 AI 능력의 개발 속도를 조절해야 한다는 데 동의한다”며 “외부 평가자에게 직원과 같은 수준의 접근 권한을 주는 것은 훌륭한 생각이고, 우리도 그렇게 하겠다”고 밝혔다. 그는 AI 개발 속도 조절이 최근 오픈AI 내부의 핵심 논의 주제였다고 했다.

평소 앤트로픽을 강하게 비판해 온 머스크도 X에서 “다리오가 옳다”고 했다. 오픈AI의 전·현직 수장과 최대 경쟁사 CEO가 AI 개발 속도를 늦추자는 데 한목소리를 낸 것은 이례적이다. 세 회사 모두 더 강력한 모델을 먼저 내놓기 위해 천문학적인 자금을 투입하며 경쟁해 왔기 때문이다.

워싱턴에서도 AI 규제를 요구하는 목소리가 커지고 있다. 미 의회에서는 최첨단 AI 모델의 출시 전 안전성 검사를 의무화하고, 위험성이 확인된 모델의 배포를 막을 수 있도록 해야 한다는 주장이 나온다. 막대한 전력과 물을 소비하는 AI 데이터센터를 둘러싼 지역사회의 반발도 거세지고 있다.

아모데이는 “AI가 인간의 삶의 질을 획기적으로 향상할 수 있다는 믿음에는 변함이 없다”면서도 “그 혜택은 우리가 기술을 올바른 방식으로 개발할 때만 얻을 수 있다”고 했다. 이어 “확보한 시간을 현명하게 활용한다는 전제 아래, 제대로 만들기 위해 이례적일 정도로 신중을 기울일 가치가 있다”고 했다.