“이러다 다 죽는다”…AI 거물들의 ‘군축 제안’

냉전 시절 미국과 소련은 지구를 수십 번 멸망시키고도 남을 핵무기를 머리에 이고 살았습니다.
그러다 어느 순간 "이러다 다 죽는다"는 공포가 극에 달하자 서로 마주 앉아 핵탄두 수를 줄이기로 약속했습니다. 바로 '핵 군축 협정'입니다.

지금 글로벌 인공지능(AI) 업계에서 비슷한 장면이 재현되고 있습니다. 세계 1, 2위를 다투는 AI 대표들이 모여 "AI 개발 속도를 늦추자"며 손을 맞잡으려 하고 있습니다.

겉보기엔 인류를 구하려는 평화 협정 같지만, 국가가 아닌 '민간 기업'이 군축을 주도하려다 보니 법과 정치의 거대한 암초를 만났습니다.

■ "이러다 다 죽는다"…공멸 공포가 부른 180도 선회

엔트로픽 최고 경영자 다리오 아모데이는 불과 열흘 전 국제회의에서 AI 규제에 반대했습니다. 오픈 AI의 샘 올트먼, xAI의 일론 머스크도 같은 자리에 있었습니다.

그런 그들이 180도 돌아선 건 진짜 '공멸의 공포'를 체감했기 때문입니다.

그는 근거로 두 가지를 들었습니다. AI가 사람 도움 없이 스스로 똑똑해지는 속도가 너무 빨라졌다는 것, 그리고 지난 7월 오픈AI의 AI가 테스트 도중 다른 회사 시스템에 침입한 사건입니다.

그는 이 사건을 두고 "능력이 더 뛰어나면서 비슷하게 통제를 벗어난 AI 무리가 있었다면 재앙적 피해를 초래했을 것"이라고 했습니다.
인간이 시키지도 않았는데 AI가 목표를 이루기 위해 스스로 사이버 범죄를 저지르는 단계에 이른 것입니다.

여기에 앤트로픽을 퇴사한 핵심 연구원 제이콥 콕슨이 "개발자들은 10년 안에 AI가 우리를 다 죽일 수 있다고 진심으로 믿고 있다"고 폭로하며 기름을 부었습니다.

[연관 기사] “AI가 인류를 죽일 수 있다”…앤트로픽 직원의 고백
https://news.kbs.co.kr/news/pc/view/view.do?ncd=8661241

지난 12일 다리오 아모데이는 자신의 블로그에 올린 긴 글에서 "지난 몇 달간 위험을 완전히 해결하려면 훨씬 더 신중해야 한다는 확신을 갖게 됐다"며, "역량 발전 속도를 조절해야 한다"고 공식 제안했습니다.

다리오 아모데이 블로그

올트먼은 엑스(X)에 "다리오의 의견에 동의한다"고 짧게 남겼습니다. 머스크도 "다리오가 맞다"고 했습니다. 구글 딥마인드의 데미스 허사비스 역시 "다리오의 방향성은 옳다"고 했습니다. 올트먼은 한 발 더 나가 경제 전문지 포천 인터뷰에서 "(기업 공개가) 2026년은 아닐 것"이라며 올해 안에 하려던 상장을 미루겠다고 밝혔습니다.

샘 올트먼 X 게시글

일론 머스크 X 게시글

■ '무기 내려놓기' 제안 …법은 '불법 담합'이라 부른다

다리오 아모데이가 제안한 방법은 주요 기업들이 모여 다 같이 개발 속도를 늦추는 협의체를 만들자는 것입니다.

문제는 이 '군축 협정'의 주체가 국가가 아니라 영리 기업이라는 점입니다.

경쟁 회사끼리 만나 "신제품 출시를 늦추자"고 약속하는 것은 명백한 '생산량 제한 담합(카르텔)'입니다. 미국 법은 담합의 이유를 따지지 않습니다.

그래서 아모데이는 정부에 이렇게 요청했습니다. 기업들이 안전 기준을 논의할 때 반독점법 위반으로 처벌받지 않도록 "제한적 면책"을 보장해 달라는 것입니다. 국가에 '합법적 담합 면허'를 내어달라고 요구한 것입니다.

백악관의 시선은 싸늘했습니다. 트럼프 행정부에서 AI 정책을 총괄하는 데이비드 삭스는 엑스(X)에 이렇게 썼습니다.

"초지능을 안 만드는 가장 쉬운 방법은 그냥 너희들이 개발을 멈추는 것이다. 왜 정부에 담합 면책을 요구하나? 혹시 1등 기업끼리 규제 틀을 짜서 후발 주자들의 진입을 막으려는 '규제 포획' 시도 아닌가?"

- 백악관 인공지능·암호화폐 정책 담당 차르(최고책임자) 데이비드 삭스 X 게시글

■ "중국에 앞서는데 왜?"…트럼프는 오히려 '가속 페달'

무엇보다 군축 협정이 성공하려면 절대적인 전제 조건이 하나 있습니다. "상대방도 무기를 버린다"는 상호 신뢰입니다. 하지만 패권 경쟁 중인 미·중 관계에서 이런 신뢰는 불가능에 가깝습니다.

트럼프 대통령이 업계의 호소를 냉담하게 일축했던 이유도 여기에 있습니다.

그는 13일 아일랜드에서 기자들과 만나 "우리는 AI에서 중국을 앞서고 있고, 나는 이 상태를 유지하고 싶다,AI에서 이기는 쪽이 승리하기 때문"이라고 잘라 말했습니다. 이어 "부정적 세력이 일어나지도 않을 일을 과장하고 있다"고 말했습니다.

시진핑 중국 국가주석이 신흥국 모임(BRICS)에서 중국 주도의 AI 동맹을 만들자며 세력 확장에 나선 마당에 미국 혼자 무기를 내려놓는 건 '안보적 자책골'이라는 판단입니다.

중국은 미국 AI에게 질문을 퍼부어, 답변을 대규모로 학습하는 '증류' 기술을 앞세워 이미 미국을 턱밑까지 추격한 상태입니다.

[연관 기사] 중국은 미국의 AI를 훔쳤을까?…‘증류’ 논쟁
https://news.kbs.co.kr/news/pc/view/view.do?ncd=8660002

■ 11월 중간선거 쟁점 비화 …24일 미·중 정상회담에 쏠린 눈

전선은 정치권으로 확대됐습니다. 버락 오바마 전 대통령은 비공개 자리에서 "AI를 제대로 통제하지 못할 경우 위험해질 수 있다"고 말했습니다.

차기 대선 주자로 꼽히는 피트 부티지지 전 교통부 장관은 NBC 방송에 나와 "안전장치가 필요하다, 통제를 벗어난 AI에는 강제 정지 장치가 필요하다"고 했습니다.

조시 샤피로 펜실베이니아 주지사도 엑스(X)에 "연방정부가 이 문제를 심각하게 받아들여야 했을 때가 한참 지났다"고 밝혔습니다. 민주당 의원들은 오는 15일 모여 대응 방안을 논의합니다.

AI 안전 문제가 11월 중간 선거의 핵심 쟁점으로 떠오른 것입니다.

기업들이 사적으로 맺으려던 'AI 군축 협정'은 결국 국가 안보와 법의 벽에 부딪혔습니다. 통제 불능의 공포를 느끼는 기업들과 중국을 이겨야만 하는 백악관의 엇갈린 시선 속에서, 오는 24일 백악관에서 트럼프 대통령과 시진핑 주석이 마주 앉습니다.

전 세계의 눈길이 두 정상의 입에 쏠리고 있지만, 인류를 향해 달리는 AI 폭주 기관차에 안전 브레이크가 채워질 가능성은 높지 않아 보입니다.

■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 유튜브, 네이버에서도 KBS뉴스를 구독해주세요!

임종빈 기자 (chef@kbs.co.kr)