[기획] 프런티어 AI 개발 ‘감속론’ 확산… AI 거물들 잇단 동참

오픈AI "안전 우려… IPO 연기"
앤트로픽 CEO, 장문의 글 게재
독립평가·업계 공조·협력 제시
머스크도 지지… 실행은 쉽잖아

챗GPT가 그린 일러스트.

치열한 성능 경쟁을 벌여온 미국 주요 인공지능(AI) 개발사들 사이에서도 최첨단 모델의 개발 속도를 조절해야 한다는 공감대가 확산하고 있다. AI 스스로 차세대 AI 개발까지 돕는 '재귀적 자기개선' 단계로 빠르게 접근하면서 안전·정렬 기술과 제도가 따라잡을 시간을 벌어야 한다는 주장이다.

샘 올트먼 오픈AI 최고경영자(CEO)는 12일(현지시간) 공개된 미국 매거진 포춘과의 인터뷰에서 "안전과 관련해 벌어지는 모든 일을 감안하면 지금은 상장하기에 부적절한 시점"이라며 올해에는 기업공개(IPO)를 하지 않겠다고 밝혔다. 올해 앤트로픽이 일으킨 미토스 쇼크와 오픈AI 에이전트들의 허깅페이스 해킹 등을 겪으며 AI에 대한 경계심이 더욱 높아진 결과로도 풀이된다.

앞선 퓨리서치센터의 지난 6월 조사에서 미국인 52%는 일상 속 AI 확산에 기대보다 우려가 크다고 답했다.

2021년(37%)보다 크게 늘어난 수치다. 세간의 여론이 악화된 데다 AI 업계 내에서도 우려의 목소리가 더욱 커지는 추세다.

최근 앤트로픽의 제이컵 콕슨 연구원은 두 회사가 "자기개선 초지능으로 직진하며 우리 목숨을 걸고 도박하고 있다"며 사임했고, 에번 허빙어 연구원은 "10년 내 AI가 인류를 절멸시킬 확률이 10%가 넘는다"고 언급하기도 했다. 뉴욕타임스(NYT)에 따르면 오픈AI·메타·구글 연구자들도 이미 사내 메신저와 사적 모임을 통해 속도 조절을 요구하고 나선 상황이다.

이에 같은 날(12일) 다리오 아모데이 앤트로픽 CEO가 "우리는 프런티어의 속도를 조절해야 한다"는 제목으로 게재한 장문의 글이 반향을 불러일으켰다. 그는 △미국 비영리 연구기관 METR 같은 외부 평가자를 각 AI 기업 내 상주시켜 직원 수준 접근 권한으로 안전조치 이행을 검증하고 △민주주의 국가의 AI 기업들이 성능 향상 제한을 포함해 공통 안전 기준을 마련하며 △궁극적으로 중국 등 권위주의 국가까지 포함한 글로벌 공조로 나아가는 3단계 방안을 제시했다.

아모데이 CEO는 AI의 재귀적 자기개선이 빨라지고 있다는 점과 함께 허깅페이스 해킹 사건을 예로 들며 "6~12개월 내 그런 무리가 봇넷으로 인터넷 전체를 장악해 수천억달러 피해를 낼 수 있다"고 경고했다.

다만, 이번 제안이 "모델 학습이나 기술 진보를 멈추자는 게 아니다"라고 선을 그었다. 1~2년의 시간을 더 확보해 AI 안전을 위한 정렬과 해석 가능성, 평가·감시 기술을 발전시키자는 취지다. 그러면서 앤트로픽은 3단계 방안 중 첫 단계부터 자체 시행하겠다고 했다.

경쟁사들도 즉각 호응했다. 올트먼은 X에 "프런티어의 속도를 조절해야 한다는 데 동의한다"며 오픈AI도 독립 평가자에게 직원 수준의 접근권을 주겠다고 했고, 일론 머스크 테슬라·스페이스X CEO도 "다리오가 옳다"고 공개적으로 지지했다.

이밖에 클레망 들랑그 허깅페이스 CEO, 오픈AI·테슬라 출신 AI 구루인 안드레 카파시도 지지 의사를 나타냈다.

하지만 실제 공동 감속까지는 장애물도 적지 않을 것으로 보인다. 기업 간 속도 조절 합의는 반독점 문제를 낳을 수 있어, 아모데이 CEO도 미 정부의 제한적 면제가 필요하다고 인정했다.

중국과의 AI 기술패권 경쟁 또한 주요 변수다. 그는 미국 기업만 일방적으로 늦춰 중국에 추월당해선 안 된다고도 주장했다.

때문에 일각에선 프런티어 AI 개발사들이 그 우위를 지키려는 의도를 숨겨놨다는 지적도 제기된다. 테크크런치는 "AI가 어떻게 자기 재귀적으로 발전하는 단계에서 지구상의 모든 인간을 살해하는 단계로 정확히 넘어갈 수 있는지에 대한 신뢰할 수 있는 단계별 설명을 아직 본 적이 없다"는 기술 전문 저널리스트 브라이언 머천트의 말을 전했다.

그는 아모데이의 제안과 유사한 방안들이 "결국 앤트로픽과 오픈AI에만 도움이 될 가능성이 높다"며 "이것이 바로 규제 포획이 실제로 어떻게 나타나는지 보여주는 사례"라고 비판했다.

팽동현 기자 dhp@dt.co.kr