오픈AI "美, AI 기술표준 주도해야"…韓·英 등 10개국과 협력 제안

"재귀적 자기개선·AI 연구 자동화 위험 관리 필요"

(서울=뉴스1) 장용석 기자 = 오픈AI가 미국이 재귀적 자기 개선(RSI)을 포함한 최첨단 인공지능(AI)의 국제 기술 표준 마련을 주도해야 한다고 촉구했다. AI가 AI 연구 자체를 수행하며 능력을 빠르게 향상할 가능성에 대비해 국가 간 공통 평가와 사고 보고 체계를 구축해야 한다는 것이다. 이를 위해 한국 등 10개국 연구기관과 협력 네트워크도 제안했다.

21일(현지시간) 로이터통신에 따르면 오픈AI는 유엔총회 고위급 주간을 맞아 이날 블로그에 게시한 글에서 "미국이 세계 각국과 함께 프런티어 AI에 대한 글로벌 기술 표준 개발 노력을 주도해야 한다"며 이같이 밝혔다. '프런티어 AI'란 현재 가장 성능이 뛰어난 최첨단 AI 모델을 뜻한다.

오픈AI는 특히 AI 시스템이 차세대 AI 개발 작업을 점차 맡으면서 스스로 연구·개선 과정을 가속하는 '재귀적 자기 개선' 가능성을 주요 관리 대상으로 꼽았다.

오픈AI는 또 AI의 연구·개발 자동화 수준과 인간 감독 정도를 공통 기준으로 측정하고, 어떤 상황에서 즉각적인 인간의 검토가 필요한지를 국제적으로 정해야 한다고 요구했다.

아울러 오픈AI는 AI 정렬(alignment)이나 자동화 연구 과정에서 심각한 문제가 발생할 경우 이를 분류·추적·보고하기 위한 공통 사고 등급과 신고 기준도 마련해야 한다고 제안했다.

국가마다 다른 평가와 신고 기준을 적용할 경우 AI의 새로운 능력과 국경을 넘는 위험을 파악하기 어려워질 수 있다는 이유에서다. 'AI 정렬'이란 AI가 인간의 의도, 가치, 목표에 부합하도록 행동하게 만드는 연구 분야를 뜻한다.

오픈AI는 AI가 더 자율화되고 AI 연구 자체에 깊이 관여할수록 인간의 통제를 유지하기 위한 정렬 연구와 공통 안전기준의 중요성이 커진다고 강조했다.

오픈AI는 이러한 표준 제정을 위해 한국을 비롯해 호주·캐나다·독일·프랑스·케냐·일본·싱가포르·인도·영국 등 10개국에 이미 설립된 AI 안전 관련 기관들의 네트워크를 활용하는 방안을 제시했다.

동시에 오픈AI는 자신들의 제안이 AI 개발 속도를 일률적으로 늦추자는 건 아니란 점도 분명히 했다. 오픈AI는 AI 개발의 '페이싱'(pacing)은 미리 정한 속도를 유지한다는 의미가 아니라 정렬 연구와 그 성과 적용이 AI 능력 향상보다 앞서 있도록 하는 것이라고 설명했다.

오픈AI는 "지금 주도권을 잡느냐에 따라 미국이 글로벌 AI 체계를 형성할지, 분열되고 불균등하며 갈등이 심한 체제가 자리 잡는 것을 지켜보게 될지가 결정될 것"이라고 강조했다.

도널드 트럼프 미 행정부도 중국과의 기술 격차가 좁혀질 수 있다는 우려에서 AI 개발을 일괄적으로 늦추는 데 부정적인 입장을 보여 왔다.

이런 가운데 샘 올트먼 오픈AI 최고경영자(CEO)는 오는 23일 유엔 안전보장이사회에서 AI와 국제 안보를 주제로 발표할 예정이다. 프랑스가 소집한 이번 회의는 장노엘 바로 프랑스 외무장관이 주재한다.

ys4174@news1.kr