미·중 정상회담 뒤…미 의회서 AI 안전협정 요구

로 칸나 미국 하원, AI 개발 속도부터 출시 전 검사까지 공동기준 제안

(지디넷코리아=김동원 기자)미국과 중국 정상회담이 구체적인 인공지능(AI) 안전 합의 없이 끝난 가운데 미국 의회에서 양국 간 AI 안전협정 체결을 요구하는 목소리가 나왔다.

25일(현지시간) 액시오스에 따르면 로 칸나 미국 하원 미중전략경쟁특별위원회 민주당 간사는 마코 루비오 국무장관에게 보낸 서한에서 미국과 중국이 구속력 있는 AI 안전협정을 체결해야 한다고 촉구했다.

칸나 의원은 AI 개발 속도에 제동을 거는 방안을 제시했다. AI가 스스로 새로운 AI를 만들고 시험하며 성능을 높이는 '재귀적 자기개선'을 국제적으로 일시 중단하고 인간의 지적 능력을 크게 뛰어넘는 초지능 개발도 별도로 멈추자고 했다.

미국과 중국 정상회담이 구체적인 AI 안전 합의 없이 끝난 가운데 미국 의회에서 양국 간 AI 안전협정 체결을 요구하는 목소리가 나왔다. (사진=위키커먼스)

이미 개발된 AI를 통제할 장치도 요구했다. 첨단 AI에 문제가 생기면 작동을 강제로 멈출 수 있도록 미국과 중국이 '킬스위치' 운영 기준을 함께 만들고 AI 기업에는 새 모델 출시 전 안전성 검사를 의무화하자는 내용이다.

양국이 합의를 지키는지 확인하는 방안도 담았다. 이행 여부를 확인할 기술과 점검 체계를 만들고 미국과 중국 모두 신뢰할 수 있는 국제기구나 비정부기구가 이를 검증하자고 제안했다.

이 같은 요구는 고성능 AI 개발 속도가 빨라지면서 출시 전 검증과 사고 대응체계를 강화해야 한다는 논의가 확산하는 가운데 나왔다. 오픈AI는 최근 스스로 성능을 높이는 AI에 대비한 국제 기술 기준과 공통 측정 방식, 사고 보고 체계를 마련하자고 제안했다. 앤트로픽도 신모델을 내놓기 전 외부 안전기관 평가를 받는 등 검증 절차를 강화하고 있다. 

미국과 중국 사이에서도 AI 안전 문제는 정상회담 전부터 별도 의제로 다뤄졌다. 스콧 베선트 미국 재무장관은 허리펑 중국 부총리와 회담에서 중대한 AI 사고가 발생하면 상대국에 알리는 통보 체계를 제안하기도 했다.

다만 정상회담 이후 구체적인 AI 안전협정이나 사고 통보 체계 도입은 발표되지 않았다. 칸나 의원은 사고 이후 정보를 공유하는 데 그치지 않고 AI 개발과 출시 단계부터 양국이 공동 기준을 마련해야 한다고 요구했다.

그는 "미국과 중국은 인간이 AI에 대한 통제력을 잃지 않도록 해야 한다는 공동 이해관계가 있다"며 양국 합의를 실제로 확인할 수 있는 국제 검증체계도 마련해야 한다고 밝혔다.

김동원 기자(goodtuna@zdnet.co.kr)