앤스로픽·오픈AI CEO까지 나섰다…“AI 개발 속도 늦춰야”

확대되는 인공지능(AI)의 통제 불가 위협에 앤스로픽의 최고경영자(CEO) 다리오 아모데이가 “AI 개발에 제동을 걸 때가 됐다”고 선언했다. 이에 글로벌 AI 산업에서 아모데이의 최대 라이벌인 샘 올트먼 오픈AI CEO와 일론 머스크 테슬라 CEO도 동의를 밝혔다. 최근 AI 업계에서 일련의 핵심 연구원들이 AI로 인한 인류의 멸종까지 경고하며 나선 가운데 세기의 라이벌인 이들 경영자들도 이에 동조하게 된 것이다.

12일(현지 시간) 월스트리트저널(WSJ)에 따르면 이날 아모데이는 개인 블로그 글을 통해 오늘날 최첨단 AI 도구들이 제기하는 위험이 너무 커서 지금과 같은 빠른 속도로는 개발을 지속할 수 없다고 밝혔다. 이러한 경고는 앞서 8일 앤스로픽의 제이콥 콕슨 연구원이 통제 불능 상태의 AI 시스템이 인류를 파멸시킬 수 있다며 퇴사를 선언한 지 나흘 만에 나왔다.

아모데이는 게시글에서 “만약 속도를 늦춤으로써 모델이 임계 수준의 성능에 도달하기까지 1, 2년의 추가 시간을 확보하고, 그 시간을 활용해 정렬(alignment)을 향상시킨다면 심각한 문제가 발생할 위험을 크게 줄일 수 있을 것”이라며 “AI 기술 개발은 매우 신중하게 추진돼야 한다”고 호소했다. AI 업계에서 ‘정렬’은 AI 시스템을 인간의 의도와 이익, 윤리적 가치와 일치시키는 기술을 의미한다. 아모데이는 앤스로픽이 ‘제3자 평가기관 도입’과 같은 새로운 안전 조치를 시행할 예정이라고 밝혔다.

이에 머스크는 소셜미디어 X(옛 트위터)에 “다리오의 말이 맞다”며 즉시 동의 의견을 표시했다. 머스크는 오픈AI의 공동 창립자이자, 자기 소유의 별도 AI 기업인 xAI를 설립하기도 했다. 올트먼도 이날 X 게시물에서 아모데이의 의견에 동의하며 개발 속도 조절의 필요성을 강조했다. 그는 “(아모데이가 제안한 대로)직원과 유사한 접근 권한을 가진 독립적인 평가자를 두는 것은 훌륭한 아이디어다. 우리도 그렇게 할 것”이라며 곧 더 자세한 내용을 공유하겠다고 덧붙였다.

이 같은 기조에 따라 앤스로픽이 추진해 온 연내 기업공개(IPO) 계획에도 변동이 예고됐다. 올트먼은 앞서 이날 공개된 미 경제전문지 포천(Fortune)과의 인터뷰에서 “안전과 관련해 벌어지는 상황들을 고려할 때, 지금은 상장하기에 적절치 않은 시기”라며 2026년 상장을 미룬다고 밝혔다.

블룸버그통신은 “수년 동안 세 명의 리더 모두 AI의 위험성을 경고해 왔지만, 끊임없이 제품을 출시해 온 치열한 경쟁 업계에서 실제로 조직적인 출시 속도 둔화가 이뤄진 것은 전례가 없는 일”이라고 평가했다.

뉴욕=곽도영 특파원 now@donga.com