오픈AI·앤트로픽·구글, AI 자율규제기구 추진…"출시전 심사"

구글 허사비스 제안서 출발…美증권업계 금융산업규제국 방식
"최첨단 AI 출시 전 안전성 평가…업계 자금으로 인력 등 확보"

데미스 허사비스 구글 딥마인드 공동창업자. <자료사진> 2026.5.19 ⓒ AFP=뉴스1

(서울=뉴스1) 장용석 기자 = 챗GPT 개발사 오픈AI와 앤트로픽, 구글 등 세계 주요 인공지능(AI) 기업들이 최첨단 AI 모델의 안전기준을 마련하고 출시 전 성능과 위험성을 검사할 업계 표준기구 설립을 논의하고 있다.

15일(현지시간) AFP통신 등에 따르면 오픈AI는 AI 업계의 자율규제 성격을 띤 표준기구를 만드는 방안을 앤트로픽, 구글과 논의하고 있다고 밝혔다.

관련 논의는 데미스 허사비스 구글 딥마인드 공동창업자가 지난 7월 내놓은 제안에서 출발했다.

당시 허사비스는 미 증권업계의 자율규제기관인 금융산업규제국(FINRA)을 모델로 삼아 가장 강력한 '최전선 AI' 모델을 일반에 공개하기 전 안전성을 시험할 독립적인 표준기구를 만들자고 제안했다.

FINRA는 증권거래위원회(SEC) 감독 아래 미 증권사와 중개업체를 규율하는 업계 자율규제기관이다.

허사비스의 구상에 따르면 AI 기업들은 초기엔 새로운 최전선 AI 모델 출시 최대 30일 전 자발적으로 표준기구에 이를 제출해 안전성 검사를 받는다.

평가체계의 신뢰성이 확보되면 향후 미국 시장에서 AI 모델을 출시하기 위해 심사를 의무적으로 통과하도록 제도화하는 방안도 검토할 수 있다.

표준기구는 AI 기업들의 자금으로 운영하되, 독립적인 기술 전문가들로 구성하는 방안이 거론되고 있다.

허사비스는 "대규모 AI 시스템을 시험하려면 세계 최고 수준의 전문 인력과 막대한 컴퓨팅 자원이 필요하다"며 "업계가 상당 부분의 운영비를 부담해야 한다"고 주장했다.

오픈AI와 앤트로픽, 구글 관계자들은 이후 최근까지 실무그룹 형태로 관련 논의를 진행해온 것으로 전해졌으나, 아직 구체적인 조직 형태나 권한 등에 대한 합의가 이뤄지지 않았다.

AI 업계의 안전기구 설립 움직임은 최근 최첨단 AI의 위험성을 둘러싼 우려가 급격히 커지는 가운데 나왔다.

다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난 12일 AI 모델의 성능 향상 속도를 안전 연구와 검증이 따라잡을 수 있도록 업계가 개발 속도를 조절해야 한다고 제안했다. 샘 올트먼 오픈AI CEO와 허사비스, 일론 머스크 스페이스X CEO 등도 취지에 공감을 표시했다.

AI 개발 현장을 떠나며 공개적으로 위험을 경고하는 연구자들도 잇따르고 있다.

오픈AI와 앤트로픽에서 근무한 제이컵 콕슨은 지난주 앤트로픽을 떠나면서 주요 AI 기업들이 인간의 통제를 벗어날 수 있는 초지능 개발 경쟁을 벌이며 "우리 목숨을 걸고 도박하고 있다"고 비판했다. 빌랄 처그타이 전 구글 딥마인드 연구원도 최근 AI가 인류 전체에 치명적인 위험을 가져올 가능성이 있다고 경고했다.

그러나 대형 AI 기업들이 주도하는 자율규제 방식에 대한 반발도 나온다.

캐나다 AI 기업 코히어의 공동창업자 겸 CEO 에이단 고메즈는 13일 블로그를 통해 소수의 미국 대형 AI 기업들이 안전을 명분으로 자신들에게 유리한 규칙을 만들 가능성을 제기하며 이를 사실상의 '카르텔'이라고 비판했다.

도널드 트럼프 미 대통령과 젠슨 황 엔비디아 CEO는 AI 개발 속도를 늦추자는 주장에 반대하고 있다.

ys4174@news1.kr