백악관, AI 기업들 불러 새 모델 시험 틀 짠다

[파이낸셜뉴스]

앤스로픽, 오픈AI, 구글 등의 주요 인공지능(AI) 모델 개발자들이 4일(현지시간) 백악관에서 최첨단 AI 모델이 정부의 사전 점검 대상인지를 판단할 수 있도록 하는 시험 틀에 관해 논의한다고 CNBC가 3일 보도했다. 로이터 연합

인공지능(AI) 빅테크들이 4일(현지시간) 미국 백악관에 모인다. 첨단 AI 모델의 사이버보안 능력을 점검하는 프레임워크에 대해 논의하기 위해서다.

CNBC에 따르면 백악관 관계자는 3일 이 내용을 확인하고, 백악관 회동에서 지난 6월 도널드 트럼프 대통령의 행정명령에 따른 빅테크들의 자발적인 사이버보안 점검 프레임워크를 논의할 것이라고 말했다.

소식통에 따르면 이 점검 회의에는 앤스로픽, 오픈AI, 알파벳 산하 구글 등이 참석한다.

앞서 트럼프 대통령은 지난 6월 2일 행정명령에서 연방 공무원들에게 특정 절차를 만들 것을 지시했다. AI 개발자들이 자사가 개발 중인 모델이 이른바 '커버드 프런티어 모델(covered frontier model)'로 분류될 수 있는지를 판단할 수 있는 절차를 만들라는 것이었다.

커버드 프런티어 모델은 현존하는 최고 수준의 AI로 고위험 사이버 역량을 보유해 정부의 사전 검토 대상에 포함되는 모델이다. 정부 사전 검토 대상인지를 개발자들이 판단할 수 있는 점검 틀을 만들라는 것이 당시 행정명령 내용이다.

이에 따른 자발적 프로그램에서는 프로그램 참가 개발자들이 '신뢰하는 파트너들'에게 AI 모델을 공개하기 전 정부에 최장 30일 동안 모델을 평가할 수 있도록 하고 있다.

트럼프 행정부는 조기 접근을 통해 새 AI 모델이 소프트웨어의 취약점을 발견하거나 정교한 사이버공격에 사용될 수 있는 능력을 갖고 있는지를 정부와 기술 업체들이 평가할 수 있다는 입장이다.

행정명령은 재무부, 국가안보국(NSA), 사이버보안과 인프라안보국(CISA)이 모델의 첨단 사이버 능력 평가를 위한 기준 틀을 만들도록 했다.

특정 모델이 점검 대상인지는 벤치마크와 기준점을 통과하는지에 따라 결정되지만 이 기준들은 공개되지 않았다.

다만 행정명령에서는 이 프로그램이 강제적인 연방 면허, 허가, 또는 사전승인에 활용되지는 못한다고 명시해 이 조처가 강제가 아닌 자발적인 조처라는 점을 강조했다.

dympna@fnnews.com 송경재 기자