앤스로픽 "AI 곧 스스로 발전…개발속도 늦춰야"

AI 빠른 발전 위험성 경고
핵무기 조약 같은 체계 필요

앤스로픽이 4일(현지시간) 인공지능(AI) 연구소들이 개발 속도를 늦추는 방안을 검토해야 한다고 촉구했다. AI가 너무 빠르게 발전하면서 곧 인간의 개입 없이 스스로 개선하는 단계에 도달할 수 있고, 이는 사회적으로 중대한 위험을 초래할 수 있다는 지적이다.

앤스로픽은 이날 블로그에서 'AI가 스스로를 구축할 때'라는 제목의 게시물을 통해 자사 최첨단 모델의 성능 향상을 보여주는 내부 데이터를 공개했다. 해당 글은 앤스로픽 내부 연구 조직인 앤스로픽 인스티튜트의 마리나 파바로 대표와 공동창업자이자 정책 총괄인 잭 클라크가 함께 작성했다.

게시물에 따르면 AI 모델은 인간의 개입 없이 스스로를 개선하는 이른바 '재귀적 자기개선(recursive self-improvement)' 단계로 향하고 있는 것으로 보인다. 일부 AI 업계 관계자들은 이 단계가 위험과 사회적 격변의 신호가 될 수 있다고 본다. 앤스로픽은 아직 재귀적 자기개선이 발생하지 않았고, 필연적인 것도 아니지만 "대부분의 기관이 대비한 것보다 훨씬 빨리 도래할 수 있다"고 경고했다.

앤스로픽은 "기술 발전 속도에 사회 제도와 연구가 보조를 맞출 수 있도록 최첨단 AI 개발을 늦추거나 일시 중단할 수 있는 선택권이 존재하는 것이 바람직하다고 생각한다"며 개발 속도를 늦추는 방안에 대한 국제적 합의와 연구소들이 이를 준수하는지 검증할 수 있는 체계를 제안했다. 개발 일시 중단이나 속도 감축은 널리 준수될 때 의미가 있으며, 이를 위해 과거 핵미사일 배치를 대폭 줄였던 중거리핵전력(INF) 조약 같은 체계가 필요하다는 것이다.

또 "이 문제를 함께 검토할 기회의 창은 지금 열려있으며, AI 기업 밖의 사람들도 이 논의에 참여해야 한다"고 전했다.

다리오 아모데이 최고경영자(CEO)를 비롯한 앤스로픽 경영진들은 최근 몇 년간 AI의 영향에 대해 경고해왔다.

다만 일각에서는 앤스로픽의 이러한 경고가 마케팅 전략일 수 있다는 지적이 나온다. 예컨대 최근 '클로드 미토스'가 너무 위험하다며 공개를 제한한 결정처럼 자사 제품의 성능을 과시하는 수단이라는 주장이다. 이선 몰릭 펜실베이니아대 와튼스쿨 교수는 사회관계망서비스(SNS) 엑스(X·옛 트위터)에서 "약간의 자기 성찰과 마케팅 요소가 섞여 있지만, 앤스로픽이 가까운 미래의 AI에 대해 어떻게 생각하는지에 대한 신념도 많이 담겨있다"고 평가했다.

오수연 기자 syoh@asiae.co.kr