AI 안전이냐 中 추격 저지냐…트럼프 앞에 놓인 딜레마

AI 선두업체 CEO들 이구동성 ‘안정성’ 우려
트럼프 “중국 앞서…계속 우위 유지해야”
규제 강화 땐 中에 추월 허용 우려…딜레마
의회도 중간선거 앞두고 실질적 대응 미흡
24일 미중정상회담, AI 통제 논의될지 주목

도널드 트럼프 미국 대통령. 로이터 연합뉴스

인공지능(AI)이 인간의 통제를 벗어날 수 있다는 우려가 커지면서 개발 속도를 늦추거나 안전장치를 강화해야 한다는 목소리가 높아지고 있지만, 도널드 트럼프 미국 대통령은 여전히 AI 경쟁력 확보에 더 무게를 두는 모습이다.

중국과의 기술 패권 경쟁에서 미국이 규제에 발목을 잡힐 경우 오히려 중국에 추월당할 수 있다는 판단 때문이다.

미중 양국이 AI 개발 경쟁을 멈추지 못하는 상황은 일종의 ‘죄수의 딜레마’로도 설명된다. 양국이 AI 안전을 위해 협력할 경우 공동의 이익을 얻을 수 있지만, 상대방이 약속을 지키지 않을 것이라는 불신 때문에 어느 한쪽도 먼저 개발 속도를 늦추기 어려운 구조다. 오는 24일 예정된 미중 정상회담에서 양국 정상이 AI 위험 관리와 관련해 돌파구를 마련할 수 있을지가 관심사다.

아일랜드를 방문 중인 트럼프 대통령은 13일(현지시간) 취재진과 만나 “우리는 AI에서 중국을 앞서고 있다”며 “솔직히 말해 나는 (그 상태를) 계속 유지하고 싶다”고 말했다. 이어 “AI에서 승리하는 자가 승리한다”고 강조했다.

AI 기술이 급속도로 발전하면서 인간이 이를 완전히 통제하지 못하는 수준에 이를 수 있다는 우려가 제기되는 가운데, 트럼프 대통령은 중국과의 경쟁에서 우위를 유지하는 것을 우선 과제로 꼽은 것이다.

하루 앞서 오픈AI CEO 샘 올트먼, 앤트로픽 CEO 다리오 아모데이, 구글 수석과하자 데미스 허사비스 등은 이구동성으로 AI 안전장치를 마련하기까지 AI 발전 속도를 통제할 필요가 있다고 말했다.

트럼프 대통령도 AI 안전장치 자체의 필요성을 부정한 것은 아니다. 그는 “안전장치를 마련할 수 있다”면서도 “제기될 필요가 없는 것들을 제기하는 부정적 세력이 많다고 본다”고 말했다. AI의 위험을 관리하기 위한 장치는 필요하지만, 과도한 규제가 기술 발전 자체를 위축시켜서는 안 된다는 취지로 풀이된다.

트럼프 대통령의 인식에는 AI가 중국과의 전략 경쟁에서 핵심 전장이 됐다는 판단이 깔려 있다. 그는 그동안 AI가 인터넷과 비교할 수 없을 정도로 중요한 분야이며 AI에서 승리하는 쪽이 궁극적으로 승자가 될 것이라는 취지의 발언을 반복해왔다.

특히 중국이 국가 차원의 막대한 투자를 바탕으로 AI 역량을 키우면서 규제에는 상대적으로 소극적인 상황에서 미국이 정부와 의회의 규제로 자국 기업의 기술 개발을 제한할 경우 민간 부문의 경쟁력뿐 아니라 국가안보에도 악영향을 미칠 수 있다는 우려가 미국 내에 존재한다.

문제는 이런 인식 속에서 미국 정부가 AI 규제 방향을 명확하게 정하지 못하고 있다는 점이다.

블룸버그 통신에 따르면 스콧 베선트 재무장관과 숀 케언크로스 백악관 국가사이버국장은 AI의 빠른 발전에 대한 업계의 우려를 청취하면서 독립적인 규제기관 설립을 지지하고 있다. 반면 마이클 크라치오스 백악관 과학기술정책실장을 중심으로 한 그룹은 규제가 혁신을 저해해 중국이 미국을 추월하도록 만들 수 있다는 입장이다.

블룸버그 통신은 이 같은 정책적 교착이 중대한 결과를 초래할 수 있다고 지적했다. 정부가 AI를 규제할지, 규제한다면 어떤 방식으로 할지를 결정하지 못하는 시간이 길어질수록 기업들이 공통된 안전 기준 없이 경쟁적으로 AI 개발에 뛰어들 가능성이 커진다는 것이다.

뉴욕타임스(NYT) 역시 미국 정부와 의회 모두 AI 문제에 실질적으로 대응하지 못하고 있다고 지적했다. AI 위험에 적극적으로 대응할 필요성을 느끼는 일부 백악관 참모들조차 트럼프 대통령의 의중을 거스를 수 있다는 우려 때문에 공개적으로 목소리를 내기 어려운 상황이라는 분석이다.

연방의회 역시 오는 11월 초 중간선거를 앞두고 AI와 관련해 주로 데이터센터 건설 문제를 둘러싼 논의에 집중하고 있을 뿐, AI의 안전성과 개발 속도, 규제 체계 등을 포괄적으로 다루는 입법에서는 뚜렷한 진전을 보이지 못하고 있다.

미중 AI 경쟁을 ‘죄수의 딜레마’로 보는 이유도 여기에 있다. 양국이 AI의 위험성을 함께 관리할 수 있다면 미국과 중국뿐 아니라 전 세계적으로도 이익이 될 수 있다. 그러나 상대국이 합의를 지키지 않고 개발을 계속할 것이라는 의심이 남아 있는 한 어느 한쪽도 먼저 속도를 늦추기 어렵다.

더욱이 핵무기 감축과 달리 AI 개발은 상대방이 합의를 제대로 지키고 있는지를 확인하기가 사실상 어렵다는 문제가 있다. NYT는 이 점에서 AI 분야의 국제적 통제가 핵 군축보다 훨씬 복잡하다고 지적했다.

실제 NYT는 중간선거를 두 달 앞둔 상황에서 AI 모델을 즉각 중단할 수 있는 이른바 ‘킬 스위치’ 의무화를 포함한 관련 입법이 실질적인 추진력을 얻기는 어려울 것으로 전망했다. 내년에 새로운 의회가 구성되더라도 심각한 당파적 대립을 넘어 AI 대응에 합의할 수 있을지는 불확실하다는 분석이다.

결국 당장 관심이 쏠리는 곳은 오는 24일 백악관에서 열릴 미중 정상회담이다. 트럼프 대통령과 시진핑 중국 국가주석이 AI 위험 관리와 기술 경쟁 문제를 직접 논의할 가능성이 있기 때문이다.

트럼프 대통령이 시 주석과의 정상회담을 앞두고 중국의 AI 역량을 견제해야 한다는 메시지를 더욱 강하게 내놓는 가운데 미국의 대중 협상력도 높아지고 있다.

미국 연방수사국(FBI)과 국가안보국(NSA) 등 미 연방기관 3곳은 지난 8일 중국 AI 기업들이 미국 기업의 첨단 AI 모델에서 대규모로 데이터를 추출해 경쟁 모델 개발에 활용했다고 공개적으로 비판했다. 시 주석의 방미를 앞두고 미국이 협상력을 강화하려는 행보라는 해석이 나온다.

미중 양국은 AI 의제의 중요성을 고려해 정상회담에 앞서 별도의 고위급 회담을 개최하는 방안도 추진한 것으로 알려졌다. 다만 정상회담을 불과 열흘가량 앞둔 현재 AI만을 의제로 한 별도 회동이 열릴지, 경제 분야 고위급 협의의 한 의제로 AI가 포함될지는 확실하지 않다.

AI 통제를 위한 국제적 합의가 필요하다는 목소리도 나온다.

미 의회에서 AI 규제를 적극 주장해온 버니 샌더스 상원의원은 13일 엑스(X)에 트럼프 대통령과 시 주석이 이번 정상회담에서 첨단 AI 개발을 중단하고 초지능을 금지하는 내용의 포괄적 조약을 합의해야 한다고 촉구했다.

샌더스 의원은 트럼프 대통령이 스스로를 ‘위대한 협상가’라고 평가해온 만큼 이번 회담이 ‘세기의 합의’를 이끌 기회가 될 수 있다고 주장했다. 그러면서 1980년대 로널드 레이건 미국 대통령과 미하일 고르바초프 소련 공산당 서기장이 정상회담을 통해 핵 군축 합의를 이끌어낸 것처럼 트럼프 대통령과 시 주석도 AI 규제를 위해 협력해야 한다고 강조했다.

AI를 둘러싼 미중 경쟁이 심화할수록 양국이 먼저 브레이크를 밟기 어려운 역설은 더욱 커지고 있다. 세계 최첨단 AI 경쟁에서 우위를 차지하려는 욕구와 통제되지 않는 기술 발전을 막아야 한다는 요구가 충돌하는 가운데, 24일 미중 정상회담이 이 ‘AI 죄수의 딜레마’에 어떤 해법을 제시할지 주목된다.

이규화 기자 david@dt.co.kr