국가안보를 위협하는 AI 사고가 발생했을 때 양국이 직접 소통하는 통로를 만드는 방안이다. 정상회담 사전 회동에서 제안됐다.
미·중 정상회담에서 국가안보를 위협하는 인공지능 관련 사고나 위기 상황이 발생했을 때 양국이 직접 소통하는 핫라인 구축과 관련해 합의안이 마련된 것으로 알려졌다. 양국 정상이 공식 합의할 경우 세계 1, 2위 AI 경쟁국 간에 처음으로 위기 관리를 위한 소통 체계가 마련되는 셈이다. 폭스비즈니스는 21일 현지시간 양국이 고위급 차원에서 이같은 내용을 담은 합의안을 논의했다고 복수의 소식통을 인용해 보도했다.
"통제를 벗어나는 사태에 즉각 대처"
합의안의 구체적인 내용까지 알려지지는 않았지만, 최근 화두로 떠오른 AI에 의한 인류 궤멸 시나리오에 공동 대응하는 방안이 포함된 것으로 전해졌다. AI가 스스로 해킹을 자행하거나, 군사적 차원의 안보 위협을 야기하거나, 인간의 통제 범위를 벗어나는 사태가 발생할 경우 즉각 대처하는 목적으로 보인다고 폭스비즈니스는 전했다.
"핵전쟁 방지용 직통선과 닮았다"
이는 핵무기 보유국의 군 통수권자 사이에 핵전쟁을 방지하기 위해 설치한 직통 통신선과 유사한 구조다. AI 관련 문제가 발생할 경우 어느 쪽이든 상대방과 직접 연결되는 연락 체계를 만들자는 취지다. 오판과 오인으로 인한 확전을 막기 위해 냉전기에 만들어진 장치를 새로운 기술 영역에 적용하는 셈이다.
"개발 규제가 아니라 위기 관리"
이 합의안은 정상회담 의제 조율을 위해 스콧 베선트 미국 재무장관과 허리펑 중국 국무원 부총리가 뉴욕에서 만난 사전 회동에서 베선트 장관이 제안한 것으로 알려졌다. 보도 내용을 보면 이번 합의안은 AI 개발 제한이나 공동 규제 체제를 만드는 합의가 아니라 위기 관리용 커뮤니케이션 시스템 구축에 방점이 찍혀 있다. 경쟁은 계속하되 사고는 함께 막자는 접근이다.
군사 영역의 AI 활용이 빨라지는 만큼 오판을 막을 장치의 필요성도 커지고 있다. 핫라인이 실제로 작동하려면 어떤 상황을 사고로 규정할지에 대한 합의가 뒤따라야 한다. (사진 출처=다음뉴스 보도 사진)