前 앤스로픽 연구원 “AI, 통제 불능 우려… 2030년 전에 인류 모두 죽일 수도”

앤스로픽 정렬 과학 책임자 “AI가 10년 안에 인류를 죽일 확률 10% 넘어”

AI 연구원 제이컵 콕슨은 자신의 소셜미디어 X(옛 트위터)에 AI 기업들을 비판하는 글을 남겼다. /X

“인공지능(AI)을 만드는 사람들은 이 기술이 2030년이 되기 전에 우리 모두를 죽일 수도 있다고 진지하게 믿고 있다.”

오픈AI와 앤스로픽에서 AI 개발에 참여한 연구원이 AI 기업들이 인류의 생존을 걸고 초지능 개발 경쟁을 벌이고 있다며 회사를 떠났다. 앤스로픽의 AI 정렬 과학 책임자도 향후 10년 안에 AI가 인류를 멸망시킬 가능성이 10%가 넘는 것으로 본다고 밝혔다.

9일 포브스와 월스트리트저널(WSJ) 등에 따르면 앤스로픽의 AI 연구원 제이컵 콕슨은 소셜미디어 X(옛 트위터)를 통해 회사를 사직한다고 밝히면서 AI 기업들을 비판했다. 콕슨은 지난 3년간 오픈AI와 앤스로픽에서 AI 사전 학습 연구를 해왔다. 그는 “오픈AI와 앤스로픽 두 회사 모두 책임감 있게 행동하지 않고 있다”며 “스스로를 개선하는 초지능을 향해 곧장 달려가며 우리의 목숨을 걸고 도박하고 있다”고 주장했다.

콕슨은 AI를 직접 개발하는 연구자들 사이에서도 이 기술이 인류 전체를 위협할 수 있다는 우려가 실제로 존재한다고 했다. 그는 “AI를 만드는 사람들은 이 기술이 2030년이 되기 전에 우리 모두를 죽일 수도 있다고 진지하게 믿고 있다”며 “이는 마케팅용 주장이 아니다”라고 강조했다. 이어 그는 “내년 말에는 상황이 이미 통제 불능이 될 수 있다”고 경고했다.

그는 오픈AI와 앤스로픽의 내부 분위기도 비교했다. 오픈AI에는 AI가 가져올 문명적 위험을 충분히 체감하지 못하는 사람이 많다고 주장했다. 반면 앤스로픽은 위험성을 잘 알고 있지만 다른 기업보다 먼저 초지능에 도달해야 한다는 경쟁 논리에 갇혀 있다고 비판했다.

앤스로픽에서 AI가 인간의 의도와 목표에 맞게 작동하도록 연구하는 정렬 과학 책임자 에번 휴빙어도 콕슨의 경고에 동조했다. 휴빙어는 “AI가 향후 10년 안에 모든 인간을 죽일 가능성은 10%가 넘는다고 본다”고 밝혔다. 이어 “앤스로픽이 초지능의 ‘정렬’ 문제를 해결할 계획을 아직 갖고 있지 않으며 해결 궤도에 올랐다고 말하기도 어렵다”고 했다.

다만 휴빙어는 현재 AI 모델에 대해 제기되는 위험은 낮다고 선을 그었다. 그는 “내가 우려하는 것은 자신의 능력을 스스로 개선하는 ‘재귀적 자기 개선’을 통해 등장하는 초지능”이라며 “이런 발전이 예상보다 빠르게 진행되고 있다”고 했다.