AI 속도조절론 공방 속 22개국, “AI, 인간 통제 하에” 선언…선도국 미·중은 빠져

스마트폰 홈화면을 채운 생성형 인공지능(AI) 앱들. [AFP=연합뉴스]

핀란드·노르웨이 등 22개국이 인공지능(AI)은 인간의 지시·감독·통제 아래 있어야 한다고 선언하고 글로벌 차원의 AI 감독 체계를 구축하자고 제안했다. 최근 마이크로소프트·오픈AI·앤트로픽 등 글로벌 빅테크 수장들이 AI의 위험성을 경고하며 개발 속도 조절 필요성을 제기한 가운데, 각국 정부 차원에서도 AI의 급속한 발전에 대응할 안전장치 마련에 나서는 모습이다. 다만 AI 산업을 주도하는 미국과 중국은 이번 논의에 참여하지 않았다.

미 정치전문 매체 폴리티코는 21일(현지시간) “핀란드와 노르웨이 등의 주도로 AI에 대한 인간의 지시·감독·통제를 유지하기 위한 글로벌 감독 체계를 수립하자는 선언문이 채택됐다”고 보도했다. 선언문은 22일 미국 뉴욕에서 열리는 제81차 유엔 총회 고위급 회기를 계기로 마련됐다. 핀란드·노르웨이·독일·캐나다·호주·스페인·아일랜드·네덜란드·싱가포르·남아프리카공화국·케냐 등 22개국 정상과 우르줄라 폰데어라이엔 유럽연합(EU) 집행위원장 등이 서명했다.

선언문은 AI가 “삶을 개선하고 과학을 발전시키며 경제를 강화할 잠재력을 지녔다”라면서도 “첨단 AI 모델의 급속한 발전이 적절히 관리되지 않을 경우 안전과 안보에 심각한 위험을 초래할 수 있다”고 경고했다. 최근 AI 에이전트가 허깅페이스 플랫폼을 공격한 사건을 사례로 들며 AI 기업들이 투명한 안전 프로토콜을 마련하도록 의무화해야 한다고도 촉구했다. AI를 실제 배포하기 전에 의무적으로 안전성 테스트를 실시하고 독립적인 평가를 받도록 하는 방안 등이 포함됐다.

21일(현지시간) 미국 뉴욕주에 위치한 유엔 본부 전경. AP=연합뉴스

선언문은 또 “위험을 평가할 자격을 갖춘 전문가에게 충분한 접근권을 보장해야 한다”고 밝혔다. 각국이 공통의 안전 기준을 마련·조율하고 중대한 안전사고가 발생할 경우 관련 정보를 공동으로 보고하는 등 투명성을 강화해야 한다는 내용도 포함됐다.

AI를 감독할 국제기구 설립도 제안했다. 선언문은 “유엔 회원국들이 기존 국제기구와 제도를 토대로 AI 감독을 담당할 새로운 국제기구를 만드는 방안을 검토해야 한다”고 밝혔다. 선언문 작성에 주도적으로 참여한 알렉산데르 스투브 핀란드 대통령은 폴리티코에 “개인적으로는 유엔 체계 안에 국제원자력기구(IAEA)와 유사한 기구를 설립하는 방안을 선호한다”고 말했다. 다만 유엔에 회의적인 도널드 트럼프 미국 대통령을 의식한 듯 “유엔 체계 안에 있다는 이유만으로 사람들이 이를 거부하지 않도록 다양한 선택지를 열어둬야 한다”고 덧붙였다.

AI 개발 자체를 늦추거나 중단하자는 요구는 선언문에 담기지 않았다. AI의 발전을 막기보다는 개발과 활용 과정에 안전장치를 마련하고 국제적인 감독 체계를 구축하는 데 초점을 맞춘 것이다.

도널드 트럼프 미국 대통령(왼쪽)이 지난 5월 14일 중국 베이징 인민대회당에서 시진핑 중국 국가주석과 악수를 하며 인사를 나누고 있다. 로이터=연합뉴스

다만 세계 AI 연구·개발을 주도하는 미국과 중국은 이번 선언문 채택에 참여하지 않았다. AI 기술 경쟁이 가속화하는 가운데 주요 개발국과 규제·안전 강화를 주장하는 국가들 사이의 간극이 드러난 셈이다. 스투브 대통령은 “우리가 여기서 전달하려는 메시지는 인간의 개입이 필요하고 따라서 인간이 주도권을 가져야 한다는 것”이라며 “더 많은 국가와 주체가 참여하도록 ‘동력’을 만들어내기를 바란다”고 전했다. 그러면서 “중국과 미국 모두 어떤 형태로든 안전장치를 갖는 것이 이익이 될 것이라고 생각한다”고 강조했다.

이번 선언은 ‘AI 속도 조절론’이 글로벌 핵심 쟁점으로 부상한 가운데 나왔다. 지난 12일 다리오 아모데이 앤트로픽 최고경영자(CEO)가 ‘우리는 프런티어 개발 속도를 조절해야 한다’는 제목의 글을 올리면서 촉발된 논의는 이후 주요 AI 기업 CEO와 석학들이 잇따라 가세하며 찬반 논쟁으로 번졌다. 한편에서는 충분한 안전 검증이 없을 경우 AI가 통제 범위를 벗어날 수 있다고 경고하지만, 다른 한편에서는 AI 패권 경쟁에서 뒤처지면 안 된다고 주장하고 있다.

개발 속도를 둘러싼 논쟁이 정계·학계·업계 전반으로 확산하면서 AI의 혁신과 통제 사이 균형점을 어디에 둬야 할지를 두고 논의가 이어지는 양상이다. 유엔 디지털·신기술사무국(ODET)은 이날 미국 뉴욕 맨해튼에서 ‘디지털 협력의 날’ 행사를 열고 AI 관련 정책과 국가 차원의 대응 역량 등을 논의했다. 뉴욕타임스(NYT)에 따르면 아만딥 싱 길 유엔 사무차장 겸 신기술 특사는 AI를 ‘폭풍 같은 기상현상’처럼 부르며 책임을 회피하는 태도를 비판했다. 그는 “AI는 통제할 수 없는 자연의 힘이 아니라 인간이 통제할 수 있는 것”이라고 강조했다.

전민구 기자 jeon.mingoo@joongang.co.kr