AI 수장들도 "개발 늦춰야"…인류멸망 경고에 '속도조절론'(종합)

아모데이 "AI모델 성능 향상 속도 조절"…올트먼·머스크, 곧바로 동조
허사비스도 "옳은 방향"…6월 IPO 신청서 낸 오픈AI, 연내 상장 포기

(뉴욕·애너하임=연합뉴스) 김연숙 김경윤 특파원 = 인공지능(AI)으로 인해 인류가 멸망할 수도 있다는 공포가 커지면서, 글로벌 AI 업계 수장들도 일제히 속도 조절의 필요성을 제기했다.

앤트로픽과 오픈AI, xAI 수장이 한날 한시에 AI 오용 위험성을 경고하면서 나란히 이런 주장에 공감한 것이다. 특히 오픈AI는 연내 기업공개(IPO) 일정까지 미루겠다는 뜻을 내비쳐 무한 질주를 이어오던 AI 개발 레이스에 제동이 걸릴지 주목된다.

앤트로픽을 이끄는 다리오 아모데이 최고경영자(CEO)는 12일(현지시간) 자신의 블로그에 올린 글에서 "AI 모델의 성능 향상 속도를 늦춰야 한다"며 "발전은 여전히 빠르게 느껴지겠지만, 확보된 시간을 현명하게 활용해야 한다"고 주장했다.

그는 "지난 몇 달간 저는 위험을 완전히 해결하려면 훨씬 더 신중해야 한다는 확신을 갖게 됐다"며 "단순히 위험 예방에 투자하는 것뿐만 아니라, 위험 예방이 (AI 모델 성능 향상 속도를) 따라잡을 수 있도록 역량 발전 속도를 조절해야 한다"고 강조했다.

아모데이 CEO는 이날 글을 쓰게 된 계기로 두 가지를 꼽았다.

하나는 인간의 개입 없이도 AI 모델이 스스로 발전할 수 있는 '재귀적 자기개선'으로, 그는 이로 인해 AI의 발전 속도가 인간의 이해 및 통제 능력을 압도할 수 있다고 경고했다.

다른 하나는 지난 7월 오픈AI의 미공개 AI 모델들이 테스트 중 글로벌 오픈소스 AI 플랫폼 허깅페이스를 무단 해킹한 사건이다.

그는 최대 AI 기업들도 모르는 사이에 AI 모델들이 통제를 벗어나 위험한 온라인 활동에 관여해왔다고 지적했다.

다만 아모데이 CEO는 모델 학습이나 기술적 진보 자체를 중단하자는 것은 아니라고 선을 그었다.

대신 기업들이 모델을 정렬하고 안전장치를 마련하는 데 충분한 시간을 가져야 하며, 민주주의 국가 간 글로벌 공조를 강화해야 한다고 강조했다.

이를 위한 구체적인 대책으로 ▲ AI 기업 내부에 상주하는 제3자 안전 평가자(외부 검토자) 배치 ▲ 민주주의 국가 간 표준 수립 ▲ 글로벌 공조 등을 담은 '3단계 프레임워크'를 제안했다.

아모데이 CEO는 AI 기업들이 미 의회의 규제 입법에 앞서 자발적으로 협력해 엄격한 기준을 마련해야 한다고 거듭 촉구했다.

3천800단어에 달하는 장문의 이번 글은 앤트로픽이 AI 기술 안전성 우려를 담은 위협정보 보고서를 발표한 지 이틀 후에 나왔다.

당시 보고서는 무기 개발, 사이버 작전, 감시, 사기 행위 등에 앤트로픽의 '클로드' 모델이 어떻게 악용됐는지를 자세히 다뤘다.

여기에 최근 앤트로픽 연구원 제이콥 콕슨이 엑스(X·옛 트위터)에 AI가 10년 안에 인류를 파멸시킬 수 있다고 경고하며 퇴사하는 등, 업계 안팎에서 AI의 잠재적 위험에 대한 경각심이 한껏 고조된 상태다.

아모데이 CEO의 글이 올라온 이후 AI 업계의 다른 인사들도 잇따라 동의한다는 뜻을 밝혔다.

샘 올트먼 오픈AI CEO는 X에 "다리오의 의견에 동의한다"며 외부 안전 평가자를 배치하자는 아모데이 CEO의 방침을 오픈AI도 따르겠다는 뜻을 밝혔다. xAI의 일론 머스크도 "다리오가 맞다"며 동조했다.

데미스 허사비스 딥마인드 창업자도 X를 통해 "다리오의 방향성은 옳다. 세부 사항은 작업이 필요하겠지만 이처럼 절체절명의 순간을 맞닥뜨리는 순간에 옳은 방향성"이라고 말했다.

이들은 불과 열흘 전까지만 하더라도 주요 20개국(G20) 기술장관 회의에서 AI에 대한 지나친 규제를 반대하는 목소리를 내던 인물들이다.

심지어 올트먼 CEO는 이날 공개된 경제전문지 포천과의 인터뷰에서 AI 안전 우려를 들어 연내 오픈AI 상장 계획을 미루겠다는 뜻을 밝히기도 했다.

올트먼은 "안전과 정렬을 위해 필요한 과제들을 해결하고 업계와 정부가 어떻게 협력할지 모색하는 등 해야 할 일이 많다"며 "(IPO가) 2026년은 아닐 것"이라고 말했다.

앞서 오픈AI는 6월 미국 증권거래위원회(SEC)에 IPO 신청서를 제출하며 상장 절차를 밟아왔다.

이처럼 AI 업계 수장들이 한목소리로 속도조절론을 꺼내 든 것은 AI로 인해 인류가 멸망할 수 있다는 경고음이 부쩍 커진 탓으로 풀이된다.

최근 콕슨 전 앤트로픽 연구원이 회사를 그만두면서 "AI 개발자들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다"며 "내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다"고 폭로한 것이 이러한 AI 위협론의 불씨를 댕겼다.

여기에 AI로 인한 일자리 감축 가능성 등에 민감하게 반응해 온 워싱턴 정가도 초당적인 우려를 쏟아내며 업계를 압박했다.

상원 상무위원장인 테드 크루즈 의원(공화·텍사스)은 AI의 "재앙적 위험"을 규제하기 위한 법안을 마련 중이라고 밝혔고, 마크 켈리 상원의원(민주·애리조나)은 사회관계망서비스(SNS) X에 "워싱턴은 정신을 차리고 이 문제를 진지하게 받아들여야 한다"고 지적했다.

heeva@yna.co.kr

▶제보는 카톡 okjebo

연합뉴스에서 직접 확인하세요. 해당 언론사로 이동합니다.

국제