"AGI까지 몇 년 안 남았다"…허사비스, 美 주도 AI 규제기구 제안

美 정부 통제·개입 속에 AI업계 절충안
中과 AI패권경쟁 위한 전략적 포석 겸해

데미스 허사비스 구글 딥마인드 CEO X 캡처

지난해 도널드 트럼프 2기 행정부 출범 뒤 규제완화 기조에 밀렸던 미국의 인공지능(AI) 안전성 논의가 최근 '미토스 쇼크'를 계기로 다시 급물살을 타고 있다. 미 정부가 수출통제와 사전평가 등 개입에 나서자 생성형 AI 선도기업들이 민관 공동규제 체계를 꾀하는 분위기다.

데미스 허사비스 구글 딥마인드 최고경영자(CEO)는 14일(현지시간) 자신의 소셜미디어 엑스 계정에 올린 글에서 "범용AI(AGI) 등장까지 불과 몇 년밖에 남지 않았다"며 미국 주도의 '프런티어 AI 표준기구' 신설을 제안했다.

AI모델 '알파폴드' 기반 연구로 2024년 노벨화학상을 공동 수상한 그는 "AGI의 파급력은 산업혁명의 10배 규모로, 10배 빠른 속도로 진행될 수 있다"며 "인터넷이나 모바일이 아니라 전기나 불의 발견에 비견되는 기술"이라고 언급했다. 불확실성과 위험이 큰 만큼 '신중한 낙관주의'가 올바른 전략이라고 강조했다.

이를 위한 기구로 허사비스는 미 증권거래위원회(SEC)의 감독 아래 증권업계를 자율 규제하는 민간 비영리기구 금융산업규제국(FINRA)을 모델로 제시했다. 다수의 독립적인 기술 전문가와 오픈소스 진영 대표 등이 이사회에 참여하고 재원은 주로 AI 업계가 부담하는 형태다. 연방기관·국립연구소와 협력해 사이버보안이나 생물학 위협 등 국가안보 영역에서 첨단모델을 평가하고, 안전장치 우회·기만이나 AI이미지 워터마킹 등에 대한 점검도 맡는 식이다.

초기에는 '프런티어 랩'들이 출시 최대 30일 전 자발적으로 모델을 제출하되, 평가체계의 효과와 견고성이 입증되면 미국시장 배포요건으로 의무화하자는 게 허사비스의 구상이다. 위험이 심각하다고 판단되면 프런티어 AI 기업들의 개발속도 조절을 업계 차원에서 조율하는 역할까지 맡길 수 있다고 제안했다.

이번 제안은 트럼프 행정부와 AI 업계 사이 긴장이 이어지는 가운데 나왔다. 미 상무부는 지난달 안보를 이유로 앤트로픽 미토스5·페이블5 모델에 대해 수출통제를 부과했다가 해제한 바 있다. 오픈AI도 미 정부 요구에 따라 GPT-5.6을 일부 파트너에 제한적으로 공개했다가 정부 테스트와 협의를 거쳐 정식 출시했다. 정부의 이런 임기응변식 개입은 평가 기준과 의사결정 과정이 불투명하고 기술 전문성이 충분하지 않다는 비판을 받았다.

AI 업계 수장들의 국제 감독체계 요구도 확산하는 추세다. 다리오 아모데이 앤트로픽 CEO와 허사비스 CEO는 지난달 프랑스에서 열린 주요 7개국(G7) 정상회의의 비공개 오찬에서 미국 주도의 AI 연합과 국제 공조를 제안했다. 특히 아모데이 CEO는 프런티어 모델에 대한 체계적인 접근과 중국을 제외한 AI 반도체·핵심부품 교역을 협력 의제로 제시한 것으로 전해졌다.

샘 올트먼 오픈AI CEO도 이달 초 파이낸셜타임스(FT) 기고에서 국제원자력기구(IAEA), 국제 항공안전·금융표준 등을 본보기로 "널리 수용되는 표준을 수립하는 미국 주도의 국제 포럼"을 제안했다. 다만, 이런 제안들에서 업계가 재원을 대고 평가기준 개발에도 관여하는 구조는 이해상충과 규제 포획 논란을 부를 수 있다는 지적도 받고 있다.

지난해 '딥시크 쇼크' 이후 중국 AI 모델들의 약진이 이어지면서 미·중 AI패권 경쟁도 격화하고 있다. 악시오스 보도에 따르면 허사비스 CEO는 수개월간 트럼프 행정부와 다른 AI기업 수장, 유럽 당국자 등을 상대로 물밑 조율을 벌였고 "매우 긍정적인 신호를 듣고 있다"며 연내 기구 출범을 희망했다. 그는 "미국에서 시작된 이번 노력이 프런티어 AI에 관한 공동의 국제표준을 만드는 강력한 출발점이 될 것"이라고 강조했다.

팽동현 기자 dhp@dt.co.kr