빅테크 거물들 “인류에 위협… AI 개발 속도 조절 필요”

앤스로픽 CEO 글에 올트먼 등 동조

다리오 아모데이 앤트로픽 최고경영자(CEO). / WEF 영상 캡쳐

인공지능(AI)발(發) 사이버 위협 가능성이 연일 높아지는 가운데, AI 업계 거물들이 “첨단 AI 개발에 속도 조절이 필요하다”는 공감대를 보이고 있다. 공통된 AI 개발 안전 기준을 마련하게 될지 전 세계 테크 업계가 주목하고 있다.

12일(현지 시각) 다리오 아모데이 앤스로픽 최고경영자(CEO)는 자신의 웹사이트에 ‘우리는 최첨단 AI의 속도를 조절해야 한다(We Must Pace the Frontier)’라는 글을 올렸다. 아모데이는 “인공지능은 인류를 발전시킬 최신 기술이지만 강력한 기술인 만큼 위험도 심각하다”면서 “AI 모델의 역량을 향상시키는 속도를 늦춰야 한다”고 주장했다.

샘 올트먼 오픈AI CEO, 다리오 아모데이 앤스로픽 CEO, 일론 머스크 테슬라 CEO. /AFP 연합뉴스

◇“1~2년 확보해 안전성 높이자”

아모데이 CEO의 글이 주목받는 이유는 최근 AI가 개발사의 통제를 벗어나 외부 사이트에 무단 접근한 사례가 잇따라 발견되고 있기 때문이다. 테크 업계에선 자칫 영화에서나 보던 ‘AI발 종말’과 비슷한 대혼란이 실제로 벌어질 수 있다는 반응이 나온다. 아모데이 CEO는 AI의 위협을 ‘AI 시스템 통제력 상실’ ‘사이버 공격 및 생물 테러에 AI가 악용될 가능성’ ‘심각한 경제적 혼란’ 등으로 꼽았다. 그는 “6~12개월 안에 에이전트 집단이 지속적인 봇넷을 구축해 인터넷 전체를 장악하고 수천억 달러의 피해를 입힐 수 있다고 우려한다”고 했다.

아모데이 CEO는 “가장 우려하는 점은 올여름 이후 AI 기술이 급격히 발전하고 있다는 것이고, 이는 주로 AI가 차세대 AI를 구축하는 능력이 향상되고 있기 때문”이라고 했다. 실제로 오픈AI·구글·앤스로픽·메타·xAI 등 주요 빅테크 기업이 내놓는 최첨단 AI 모델의 출시 간격이 갈수록 줄어 올 들어선 11일로 줄었다.

아모데이 CEO가 해법으로 주장하는 것은 1~2년간의 속도 조절이다. 구체적인 방안으로는 ▲외부 독립 기관에 AI 기업 내부 접근 권한을 주고 평가를 받는 것 ▲미국 등 민주주의 국가의 AI 기업들이 공통 안전 기준과 역량별 체크포인트를 마련하는 것 ▲중국을 포함한 글로벌 차원에서 AI의 생물무기 활용 금지, 재귀적 자기 개선 발전 속도 제한 등을 국제 합의로 만들자는 것이다. 아모데이 CEO는 “이는 냉전 시대 미국과 소련이 맺은 SALT(전략무기 제한 협상)와 유사하다”고 했다.

AI 개발 속도조절론 /챗GPT 생성

◇앙숙 올트먼도 “동의”

아모데이와 앙숙 관계인 샘 올트먼 오픈AI CEO도 “아모데이의 의견에 동의한다. 직원과 동일한 접근 권한을 가진 독립적 평가자를 두자는 제안은 매우 좋은 아이디어”라고 했다. 데미스 허사비스 구글 딥마인드 회장도 “크리티컬한 순간에 옳은 방향”이라고 공감했다. 평소 아모데이에게 비판적이던 일론 머스크 테슬라 CEO도 “다리오의 말이 맞는다”고 맞장구쳤다.

영향력 있는 AI 거물들이 AI 개발 속도 조절이 필요하다는 점에서 공감대를 이루면서 실제로 공통 안전 기준을 마련하는 논의로 이어질 수 있다는 관측이 나온다.

일각에선 미국 AI 기업들이 속도 조절에 들어가면 미·중 간 AI 격차가 좁혀지고 AI 패권을 중국에 내줄 수 있다는 우려도 있다. 반면 한국 같은 AI 후발주자 국가엔 추격 기회가 생길 수도 있다. ‘AI를 얼마나 빨리 개발할 것인가’에서 ‘안전장치가 따라잡을 수 있는 속도로 어떻게 경쟁할 것인가’로 경쟁 구도가 바뀌기 때문이다.