아모데이·올트먼·머스크, 모처럼 의기 투합 "AI 개발 늦춰야"

[파이낸셜뉴스]

인공지능(AI) 업계의 앙숙인 샘 올트먼(왼쪽) 오픈AI 최고경영자(CEO), 다리오 아모데이(가운데) 앤스로픽 CEO, 일론 머스크 스페이스X CEO가 12일(현지시간) 프런티어 AI 개발 속도를 조절해야 한다는 데 한목소리를 냈다. 올트먼과 머스크는 속도 조절이 필요하다는 아모데이의 주장에 공감했다. AFP 연합

다리오 아모데이(앤스로픽), 샘 올트먼(오픈AI), 일론 머스크(스페이스X) 등 인공지능(AI) 선두 업체 최고경영자(CEO)들이 모처럼 의기투합했다. 이들은 한목소리로 AI 개발을 늦춰야 한다고 말했다. AI가 인류 절멸이라는 재앙을 부를지 모른다는 우려가 고조되는 가운데서 선두 주자들이 우려의 목소리를 내고 있다.

파이낸셜타임스(FT)에 따르면 아모데이가 12일(현지시간) 공개된 에세이에서 이런 제안을 하자 올트먼과 머스크도 이를 적극 지지하고 나섰다. 머스크는 소셜미디어 X에서 "다리오(아모데이)가 옳다"고 말했다.

앞서 아모데이는 자신의 블로그에 공개한 에세이에서 올여름 AI 모델 개발 속도가 "격렬하게 빨랐다"면서 "AI 모델 개선 속도를 늦춰야 한다"고 말했다. 앤스로픽이 역대 최대 규모의 기업공개(IPO)를 준비하고 있음에도 불구하고 CEO가 IPO에 악재가 될 수 있는 '개발 속도 제한' 카드를 꺼내 든 것이다.

치고받기만 하던 올트먼과 머스크도 모처럼 아모데이의 호소에 화답했다. 이들은 한목소리로 아모데이의 주장을 지지하고, 아모데이가 제안한 것처럼 독립적인 평가단이 모든 첨단 AI 업체들에 접근할 수 있도록 하자는 데 동의했다.

머스크는 "다리오가 옳다"고 했고, 올트먼은 "프런티어 속도 조절이 필요하다는 다리오의 말에 동의한다"고 강조했다. 앞서 올트먼은 지난 주 초 전체 직원 회의에서 AI 개발 속도를 늦추기 위한 국제 공조를 수용할 수 있다고 밝히기도 했다.

올트먼은 X에 올린 글에서 "독립 평가단이 내부 직원처럼 접근할 수 있도록 하자는 것은 훌륭한 생각"이라며 "우리도 그렇게 하겠다. 조만간 더 공유하겠다"고 덧붙였다.

데미스 허사비스 딥시크 공동창업자도 X를 통해 "다리오의 방향성은 옳다. 세부 사항은 작업이 필요하겠지만 이처럼 절체절명의 순간을 맞닥뜨리는 순간에 옳은 방향성"이라고 말했다.

급속한 AI 발전이 통제 불능에 빠질 것이란 우려는 지난주 앤스로픽 연구자인 제이콥 콕슨이 AI 안전성과 인류 종말에 대한 우려를 제기하며 사표를 내면서 급속히 확산됐다. 그는 지난 8일 사표를 던지면서 앤스로픽과 경쟁사 모두 "우리(인류)의 목숨을 걸고 도박을 하고 있다"고 비판했다. 콕슨은 "AI 개발자들은 AI가 2030년 안에 우리 모두를 죽일 수도 있다고 믿고 있다"고 말했다.

그의 경고는 특히 오픈AI의 에이전트 무리가 테스트 시스템을 탈출해 오픈소스 AI 플랫폼인 '허깅 페이스'를 해킹한 사실이 드러난 뒤 나왔다. 아모데이는 이 사건이 AI 개발 속도를 늦추자는 자신의 제안에 결정적인 동기가 됐다고 밝혔다. 그는 "앤스로픽을 포함해 업계 전반에서 이보다 덜 심각하긴 하지만 유사한 사건들이 발생했다"고 덧붙였다. 아모데이는 정부 차원의 지원을 촉구했다. 아울러 중국 AI 업체들의 성장 속도가 빠르다면서 중국 정부와도 협력해 AI 통제를 강화해야 한다고 호소했다.

dympna@fnnews.com 송경재 기자