앤트로픽 사직 연구자 “자기발전 초지능, 목숨 건 도박”

생성형 인공지능(AI) ‘클로드’의 개발사 앤트로픽 소속 연구자가 사직하며 AI 발전 경쟁이 통제 불능에 빠질 것이라고 경고했다.

8일(현지시간) 미국 월스트리트저널(WSJ) 등에 따르면 앤트로픽 연구자 제이콥 콕슨은 업계 전반의 AI 발전 경쟁에 안전성 우려를 제기하며 사직을 선언했다. 콕슨은 앤트로픽에서 신형 AI 모델의 훈련을 전문적으로 맡았던 것으로 알려졌다.

콕슨은 이날 자신의 엑스(X) 계정에 올린 게시물에서 “지난 3년간 오픈AI와 앤트로픽에서 훈련 전 연구(pretraining research)를 담당했다”며 “두 기업 중 어느 하나도 책임있게 행동하지 않고 있다”고 비판했다.

콕슨은 현재의 글로벌 AI 경쟁이 과열된 나머지 자멸을 향해 나아가고 있다고 평가했다. 그는 “(오픈AI와 앤트로픽) 그들은 스스로 진화하는 초지능을 향해 경주를 벌임으로써 우리의 목숨이 달린 도박을 하고 있다”고 규정했다.

조만간 압도적 해킹 능력을 보유해 물리력과 자원을 손에 넣을 수 있는 시스템이 등장할 것이라며, 그같은 AI가 인류 절멸을 불러올 것이라고도 주장했다.

콕슨은 “AI를 만들고 있는 사람들은 진심으로 AI가 2020년대 말이면 우리 모두를 죽일 수 있을 것이라고 믿는다"면서 “많은 임원과 선임들이 언론 앞에서는 말을 아끼지만 사석에서는 두려움을 내비친다”고 이어갔다. 오픈AI는 문제의 심각성 자체를 인지하지 못한 것처럼 보이며, 앤트로픽은 그 위험성 때문에 자신들이 통제권을 얻으려 한다고도 평가했다.

동료도 거들었다. 또 다른 앤트로픽 소속 연구자 에반 휴빙거는 “제이콥 말이 맞다. 우리는 실제로 AI가 인류를 절멸시킬 수 있다고 믿는다”며 “개인적으로는 그같은 일이 다음 10년 안에 일어날 가능성이 10%보다 크다는 생각”이라고 밝혔다. “앤트로픽이 최선을 다하고 있다고 믿지만, 아직 초지능의 ‘정렬’ 문제를 해결할 수 있는 계획은 없다”고도 덧붙였다.

AI 정렬은 AI 시스템을 인간이 의도한 목표, 윤리관, 규범 등에 부합하도록 조정하는 작업을 뜻한다.

송경모 기자 ssong@kmib.co.kr

국민일보

국제

앤트로픽 사직 연구자 “자기발전 초지능, 목숨 건 도박”