오픈AI “AI가 AI 개발하기 전 국제표준부터”…한국도 네트워크 포함

美 주도 글로벌 AI 기술표준 제안
韓 등 10개국 AI안전연구소 연결
‘완전자율 RSI 안전 전 추진 말아야’
23일 올트먼 유엔 안보리서 AI 브리핑

샘 올트먼 오픈AI CEO가 지난해 10월 샌프란시스코에서 열린 ‘오픈AI 데브데이’에서 발표하고 있다. [사진=원호섭 특파원]

오픈AI가 인공지능(AI)이 스스로 더 뛰어난 AI를 개발하는 ‘재귀적 자기개선(RSI)’ 시대에 대비해 미국이 주도하는 글로벌 AI 기술표준을 만들자고 제안했다. 한국을 포함해 각국에 설립된 AI안전연구소를 연결해 국제적인 안전 기준을 만들고, AI의 능력이 인간의 통제 기술보다 앞서 나가지 못하도록 하자는 구상이다.

오픈AI는 21일(현지시간) ‘AI의 다음 단계를 위한 표준 구축’이라는 글을 통해 “미국이 전 세계 국가들과 협력해 최첨단 AI에 관한 기술 표준 마련 노력을 주도해야 한다”고 밝혔다. 오픈AI는 “지금 주도권을 잡느냐에 따라 미국이 전 세계 AI 체제를 주도할 것인지, 파편화하고 불균형하며 갈등으로 가득 찬 체계가 자리 잡는 것을 지켜볼 것인지 결정될 것”이라고 주장했다.

오픈AI는 미국이 현재 AI 기술의 최전선에 있고 금융·무역·국방·기술·정보 등에서도 영향력을 갖고 있어 국제 표준을 이끌기에 유리하다고 설명했다. 향후 AI 경쟁은 누가 더 뛰어난 모델을 먼저 개발하느냐뿐 아니라 어떤 국가의 기술과 규칙이 세계에 더 널리 확산하느냐를 놓고 벌어질 것이라는 판단이다.

구체적인 방법으로는 각국 AI안전연구소를 연결한 국제 네트워크를 제시했다. 오픈AI는 관련 연구소를 구축한 국가의 사례로 한국을 포함한 10개국을 언급했다. 10개국에는 미국과 영국, 캐나다, 프랑스, 유럽연합(EU), 일본, 싱가포르, 호주, 케냐 등이 포함됐다. 기존 기관들이 협력해 최첨단 AI 모델과 개발 기업에 적용할 공통 기술표준을 만들자는 것이다.

특히 국제표준이 필요한 분야로 최근 AI 업계에서 논란이 커지고 있는 RSI를 꼽았다. RSI는 AI를 AI 연구에 투입해 더 뛰어난 AI를 만들고, 개선된 AI가 다시 다음 AI 개발을 가속하는 방식이다. 인간 연구자의 개입이 갈수록 줄어들면서 AI 개발 속도를 크게 높일 수 있지만, 인간이 그 과정을 이해하거나 감독하기 어려워질 수 있다는 우려도 나온다.

오픈AI는 “완전히 자율적인 RSI는 현재 일어나고 있지 않으며, 안전하게 수행할 수 있을 때까지 이를 추구해서는 안 된다”고 밝혔다. 이어 충분한 주의 없이 RSI를 개발하면 “인간이 더 이상 이해하지 못하는 연구 과정을 감독할 수 없게 돼 AI 개발에 대한 실질적인 통제력을 잃을 수 있다”고 경고했다.

최근 발생한 ‘허깅페이스 에이전트 해킹’ 사건도 사례로 들었다. 이 사건에 RSI가 사용된 것은 아니지만 오픈AI는 강력한 안전장치가 없을 경우 앞으로 나타날 수 있는 더 큰 위험을 미리 보여준 사례로 평가했다.

오픈AI는 최근 확산한 ‘AI 속도조절론’에 대해서도 입장을 구체화했다. 회사는 “AI 개발 속도를 조절한다는 것은 미리 속도를 정해놓고 이를 유지한다는 뜻이 아니다”라며 AI가 인간의 의도와 가치에 맞게 작동하도록 만드는 ‘정렬(alignment)’ 연구와 안전장치의 적용이 AI 능력의 발전보다 앞서도록 해야 한다는 의미라고 설명했다.

오픈AI는 국제 협력의 대상으로 중국도 배제하지 않았다. 미국과 중국의 정상회담이 예정된 만큼 이 분야에서 미국과 중국의 대화가 이뤄진다면 긍정적인 진전이 될 것이라고 밝혔다. AI 주도권을 둘러싼 경쟁과 별개로 통제 불능과 같은 위험에는 최소한의 공동 기준이 필요하다는 취지다.

샘 올트먼 오픈AI CEO는 오는 23일 유엔 안전보장이사회 회의에 참석해 AI와 국제 안보를 주제로 직접 브리핑할 예정이다. [실리콘밸리 원호섭 특파원]