앤트로픽 AI개발 업무, 4분의 1은 AI가 알아서 다했다

AI가 R&D 반년새 0 → 26% 쑥
인간과 공동작업은 90% 달해
아모데이 "AI 안전장치 시급"

찰스 3세 AI위험성 경고에 … 젠슨 황 "그래도 규제 반대" 찰스 3세 영국 국왕, 데미스 허사비스 구글 최고과학자, 젠슨 황 엔비디아 최고경영자(CEO·왼쪽부터)가 17일(현지시간) 스코틀랜드에서 열린 인공지능(AI) 업계·정부 관계자 회의에 입장하고 있다. 찰스 3세는 AI가 인간의 통제를 벗어날 위험성을 경고한 반면, 황 CEO는 AI 기술 자체보다 이를 활용한 제품을 규제해야 한다고 주장했다. AFP연합뉴스

앤트로픽의 인공지능(AI) 모델 '클로드'가 이 회사 연구개발(R&D) 업무의 4분의 1을 주도하는 것으로 나타났다. 지난 2월까지만 해도 0%였지만 불과 반년 만에 4분의 1을 넘어섰다.

앤트로픽은 17일(현지시간) 내부 R&D 업무를 분석한 결과 클로드가 주도한 비중은 26%로 집계됐다고 밝혔다. 앤트로픽은 "사람이 큰 방향을 제시하고 감독하지만 실제 작업은 클로드가 중심이 돼 수행하는 경우를 뜻한다"며 "다만 현재 클로드가 사람의 개입 없이 완전히 자율적으로 AI를 개발하는 단계는 아니다"고 설명했다.

변화 속도는 가파르다. 지난 2월만 해도 클로드가 주도한 R&D 업무 비중은 사실상 0%였다. 앤트로픽은 "클로드가 직원들과 함께 수행하는 직무까지 포함하면 전체 R&D의 약 90%에 관여하고 있다"고 밝혔다. 지난 8월 기준 회사 내부에서 연구와 엔지니어링 업무를 수행하는 AI 에이전트도 3만개 이상 가동되고 있다.

앤트로픽이 이례적으로 내부 수치를 공개한 배경에는 최근 AI 업계에서 논란이 커지고 있는 '재귀적 자기개선(RSI)'이 있다. RSI는 AI가 AI 개발에 참여해 더 뛰어난 AI를 만들고, 개선된 AI가 다시 다음 AI 개발을 가속하는 것을 말한다. 이런 과정이 반복되면 AI 발전 속도가 급격히 빨라져 사람이 이를 파악하거나 제어하기 힘들어질 수 있다는 우려가 나온다.

앤트로픽은 "AI 모델이 자신의 개발을 가속하면 인간이 이러한 시스템을 이해하거나 통제하기가 더 어려워질 수 있다"며 "세계가 RSI에 얼마나 가까워졌는지 파악하기 위해 지표를 공유하는 것이 중요하다"고 밝혔다.

앤트로픽은 AI R&D에 투입되는 컴퓨팅 자원 가운데 안전 분야가 차지하는 비중도 처음 공개했다. 지난 7월 일주일간 사용량을 분석한 결과 AI R&D에 투입된 컴퓨팅 자원의 약 6%가 안전 연구에 사용됐다. AI가 직접 수행하는 AI R&D로 범위를 좁히면 안전 분야 비중은 약 12%였다.

외부 감시도 확대할 계획이다. 앤트로픽은 제3자 평가자들이 회사 내부에서 AI 개발 과정을 살펴볼 수 있도록 하고 이들에게 직원과 비슷한 수준으로 데이터에 접근할 수 있도록 할 방침이다. 자체적으로 안전성을 평가하는 데 그치지 않고 외부에서 개발 과정을 검증할 수 있도록 하겠다는 것이다.

이번 공개는 실리콘밸리에서 AI 개발 속도를 둘러싼 논쟁이 확산하는 가운데 나왔다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 최근 최첨단 AI 개발의 속도를 조절하면서 안전장치를 강화해야 한다고 주장했다.

[실리콘밸리 원호섭 특파원]