AI 총수들 “인류 위해 감속”···K반도체 영향은?

24일 트럼프·시진핑 회담서 AI 위험 논의 관심
업계선 후발주자 사다리 걷어차는 카르텔 비판도
과거 유사 논쟁 있었지만 중국 견제하며 산업 성장

다리오 아모데이 앤트로픽 CEO(왼쪽부터), 샘 올트먼 오픈AI CEO, 일론 머스크 스페이스X CEO, 데미스 허사비스 구글 딥마인드 CEO. AFP·AP 연합뉴스 자료사진.

인공지능(AI) 산업을 선도하는 글로벌 기업의 수장들이 ‘개발 속도 조절론’을 꺼내 눈길을 끈다. 개발을 멈추자는 것이 아니라 위험을 검증하고 통제할 시간을 확보하자는 것으로, AI 경쟁의 중심이 ‘누가 더 빨리 더 강한 모델을 만드느냐’에서 ‘누가 더 안전하게 통제하며 발전시키느냐’로 이동하고 있다는 분석이다.

하지만 도널드 트럼프 미국 대통령과 중국이 AI 감속론을 일축해 이들의 목소리가 현실화하기까지는 상당한 시간이 걸릴 전망이다. 과거에도 유사한 논쟁이 있었지만 AI 산업은 계속 성장했다. 핵무기와 달리 각국 기업들의 규제 이행 여부를 검증할 방법도 없는 상황이다.

미국 IT(정보기술)전문매체 디인포메이션은 13일(현지시간) “앤트로픽·오픈AI·구글이 최근 AI 속도 조절론이 제기되기 전부터 AI 업계를 위한 표준기구를 함께 만드는 방안을 논의해 왔다”고 전했다.

보도에 따르면, 지난 7월 이후 앤트로픽·오픈AI·구글의 최고경영자(CEO) 아래 직급으로 구성된 실무그룹이 표준기구 구상을 논의하기 위해 정기적으로 회동해 왔다. 이들의 물밑 움직임은 다리오 아모데이 앤트로픽 CEO가 지난 12일 발표한 AI 개발 속도 조절·독립 감독 구상과 궤를 같이한다. 그는 자신의 블로그를 통해 “AI 모델의 성능 향상 속도를 늦춰야 한다”고 제안했다. 단순한 위험 예방 투자를 넘어, 위험 예방이 성능 향상 속도를 따라잡을 수 있도록 AI 발전 속도 자체를 조절해야 한다는 것이다.

그간 더 강력한 AI를 내놓기 위해 속도전을 벌였던 경쟁사들도 이례적으로 호응했다. 샘 올트먼 오픈AI CEO는 엑스(X·옛 트위터)에 “다리오 의견에 동의한다”며 외부 안전 평가자를 배치하자는 아모데이 CEO의 방침을 오픈AI도 따르겠다고 했다. 데미스 허사비스 딥마인드 창업자도 X에 “세부 사항은 손질이 필요하지만 다리오의 방향성이 옳다”고 밝혔고, 일론 머스크 xAI CEO도 “다리오가 맞다”고 했다.

“초지능 향해 질주하며 생명 걸고 도박”

열흘 전까지만 해도 주요 20개국(G20) 기술 장관 회의에서 AI에 대한 과도한 규제를 반대하던 이들이 신중론으로 돌아선 데에는 통제 불능한 AI에 대한 위기감 때문이다. 아모데이 CEO는 AI 통제에 대한 우려를 뒷받침하는 근거로 두 가지를 제시했다.

첫 번째는 AI가 인간의 개입 없이 스스로 발전하는 ‘재귀적 자기개선’(recursive self-improvement) 단계에 돌입했다는 진단이다. AI가 다음 세대 AI를 스스로 만들며 성능이 빨라지는 현상으로, 발전 속도가 인간의 이해와 통제를 압도하고 있다는 것이다.

이는 최근 오픈AI의 AI 모델이 테스트 중 통제를 넘어 지시받지 않은 대상을 공격하고 자신을 평가하는 시스템까지 해킹하려 한 사건이 증명하고 있다. 앞서 앤트로픽이 무기 개발과 사이버 작전, 사기 등에 자사 모델인 클로드가 악용된 정황을 담은 위협정보 보고서를 발표한 것도 같은 맥락이다.

앤트로픽과 오픈AI에서 연구원으로 재직한 제이콥 콕슨은 지난 9일 X에 퇴사 소식을 전하며 “두 회사 모두 책임감 있게 행동하지 않고 있다”며 “자기개선형 초지능을 향해 질주하며 생명을 걸고 도박을 하고 있다”고 주장했다. 이어 “개발자들은 이 기술이 10년 내 모두를 죽일 수도 있다고 믿고 있으며 내년 말이면 상황이 통제 불능에 빠질 것”이라고 했다. AI 발전의 위험성을 보여주는 사건들이 실제로 벌어지자 통제 불능이 가상의 위험이 아니라는 인식이 확산하고 있는 것이다.

하지만 중국을 비롯한 국제 사회의 협력이 필요해 규제의 실효성을 확보하기가 쉽지 않을 것이라는 의견이 적지 않다. 월스트리트저널(WSJ)은 사설에서 “인간이 기계를 통제해야 한다는 주장은 타당하다”면서도 “이들 CEO가 자발적인 속도 조절을 제안함으로써 정부의 강제적인 규제 칼날을 피하려는 계산을 하고 있다”고 짚었다. 오픈AI나 앤트로픽이 진정으로 AI 기술이 위험하다고 판단했다면 책임감 있게 스스로 개발을 늦추면 되는데, 자신들의 목적을 위해 CEO들이 외부의 힘을 끌어들이려 한다는 주장이다.

그러면서 “AI의 위험성을 간과해서는 안 되지만 미국의 AI 리더십을 다른 국가에 넘기는 것 또한 위험을 안고 있다”면서 “AI 개발의 위험을 줄이려는 노력이 AI 리더십을 중국에 넘기는 위험을 키우는 결과를 초래하면 안 된다”고 했다.

트럼프 대통령도 취재진과의 문답에서 “AI 경쟁에서 승리하는 쪽이 결국 모든 것을 갖게 될 것”이라며 “부정적인 세력이 일어나지 않을 일들을 부각하고 있다”고 말했다. AI가 인간의 통제를 벗어날 수 있다는 위험보다 중국과 기술 패권 경쟁에서 미국의 우위를 지키는 것이 우선이라는 입장이다.

“개발을 가속하면 했지, 감속하지는 않을 것”

시진핑 주석은 AI 기업들의 경고에 대해 직접 언급하지는 않았지만, 개발도상국을 중심으로 자국의 영향력을 확대하겠다고 밝혔다. 시 주석은 인도 뉴델리에서 열린 브릭스(BRICS) 정상회의에서 “아시아와 아프리카, 남미 국가들이 글로벌 AI 거버넌스 표준을 수립하는 데 속도를 내야 한다”며 “중국이 AI 모델 개발과 생태계 조성을 지원하는 ‘브릭스 오픈소스 AI 커뮤니티’를 주도하겠다”고 했다.

AI를 둘러싼 이런 논쟁은 과거 냉전 시절 미국과 소련이 인류의 존립을 놓고 벌인 핵무기 개발 경쟁과 비교된다. 때문에 트럼프 대통령과 시진핑 주석이 오는 24일 열리는 백악관 미중 정상회담에서 AI 개발의 과열을 막을 최소한의 원론적 합의를 도출할 수 있을지 주목된다.

다만 업계에선 감속론이 오히려 기존 강자의 입지를 굳히는 명분에 그칠 수 있다는 ‘규제 포획(regulatory capture)’ 이 될 것이라는 회의론도 나온다. 까다로운 안전 규제가 대형 기업에는 감당 가능한 비용이지만, 후발 주자나 오픈소스 진영에는 넘지 못할 진입 장벽이 될 수 있어서다.

캐나다의 AI 스타트업 코히어의 에이단 고메즈 CEO는 뉴욕타임스(NYT) 기고를 통해 “AI 과점 소수 기업들이 이제 경쟁 규칙을 자신들에게 유리하게 바꾸고 다른 모든 이에게 적용될 조건도 좌지우지할 권한을 요구하고 있다”며 “이는 양의 탈을 쓴 늑대로, 이름만 다른 ‘카르텔’에 불과하다”고 주장했다.

이홍락 LG AI연구원 공동원장은 AI 토크 콘서트에서 “개발을 가속하면 했지, 감속하지는 않을 것”이라며 “모델 출시 등 관점에서 여러 검토가 필요하다는 정도로 이해하고 있다”고 말했다.

김두언 하나증권 연구원도 보고서에서 “AI 관련 논쟁이 데이터센터 투자나 반도체 주문의 변곡점을 만들었다는 증거는 없고 한국 반도체 수출과 글로벌 AI 공급망 매출도 확장 중”이라며 “신규 주문 축소와 메모리 가격 하락이 나타나면 경계해야 하지만 아직 징후가 없다”고 했다.

일각에선 기업들간 과도한 경쟁으로 개발 비용이 급증하자 속도 조절에 나선 것 아니냐는 지적도 있다. 그럼에도 AI 기업 총수들의 이번 결집은 글로벌 규제 논의에 영향을 미칠 것으로 보인다. 미국 의회에서는 재앙적 위험에 대응하기 위한 초당적 AI 안전 법안 논의가 시작됐고, 일부 의원은 초지능 AI 개발을 금지하는 입법도 거론하고 있다. 향후 이들 기업들이 AI 발전과 위험 검증·관리 체계의 균형을 이끌어낼 수 있는지가 감속론의 진정성을 가를 시험대가 될 것으로 보인다.

김은성 기자 kes@kyunghyang.com