美 빅테크들, ‘AI시스템 공개 평가’ 받는다…백악관 발표

구글, MS, 오픈AI, 엔비디아 등 7개 기업 거명
생성형AI 개발 기업들은 공개평가 참여해야
민간 전문기업인 스케일AI가 주관
미국 정부의 AI권리장전, 위험관리 부합하는지 점검받게돼
1860억 투자해 7개의 추가 국립AI연구소도 설립

[이데일리 김현아 기자]

구글, MS, 오픈AI, 엔비디아, 엔쓰로픽(Anthropic), 스태빌리티 AI(Stability AI), 허깅 페이스(Hugging Face) 등 미국의 7개 테크 기업은 자사의 AI시스템에 사용한 학습 데이터를 외부에 공개하고, 제3의 기관으로부터 미국 정부의 AI 위험관리 지침에 일치하는지를 평가받게 됐다.

백악관은 지난 4일(현지시각) 테크기업 CEO들을 백악관으로 불러 환담하기에 앞서, 책임 있는 AI 혁신을 위한 조치들을 발표했다.

발표 내용에는 △생성형 AI를 개발하는 기업들은 AI시스템에 대한 공개 평가에 참여해야 하며, 수천 명의 커뮤니티 파트너 및 AI 전문가가 모델 평가에 투입된다. 공개된 AI시스템이 미국 정부의 ‘AI 권리장전’ 및 ‘AI 위험 관리 프레임워크’ 청사진에 일치하는지 평가받는 것이다. 지난 2월, 바이든 대통령은 AI 등 신기술의 편향성을 제거하는 행정명령에 서명하기도 했다. 백악관은 테크기업들의 AI 제품이 지침과 부합하는지 확인할 예정이다.

평가는 스케일AI가 주관

평가는 민간 전문기업인 스케일AI가 주관한다. 외신에 따르면, 평가 결과는 오는 8월 10일~13일 라스베이가스에서 열리는 세계적 해커 행사 ‘데프콘 2023’의 부대행사인 ‘AI빌리지’에서 공유될 전망이다. AI빌리지는 데이터과학자와 해커들이 참여해 만든 비영리 커뮤니티로, 보안과 프라이버시와 관련한 AI의 오남용에 대응하기 위해 만들어졌다. 문제가 발견되면 AI 개발자들로 하여금 문제 해결에 나서도록 조치를 취한다.

테크기업들의 AI 시스템 외부 평가와 관련해 백악관은 “수천 명의 커뮤니티 파트너와 AI전문가들이 테크기업들의 AI 데이터가 바이든 행정부의 정책과 지침에 부합하는지 철저히 점검할 것”이라면서 “이들 AI모델의 영향에 대한 중요한 정보를 연구자와 대중들에게 알려주고, AI기업과 개발자들에게는 AI제품에서 발견된 이슈를 해결하는 조치를 취하게 해 줄 것”이라고 설명했다.

백악관 발표에는 △1억4천만 달러(1860억원)을 투자한 7개의 국립 AI연구소 설립과 △미국 정부의 AI 시스템 사용에 대한 정책 지침 초안 발표 계획도 포함됐다.

7개의 추가 국립AI연구소 설립 계획도 밝혀

백악관은 자국 AI 연구개발(R&D)에 힘을 실어주기 위한 새로운 투자로 국립과학재단을 중심으로 한 7개의 새로운 AI 연구소 설립 계획을 밝히면서, 이번 투자로 전국의 AI연구소 수는 총 25개로 늘어나고, 거의 모든 주에 관련된 조직의 네트워크가 확장될 것이라고 밝혔다.

AI 위험을 완화하고 AI 기회를 활용하기 위해 미국 정부의 AI 시스템 사용에 대한 정책 지침 초안을 발표할 것이라고도 예고했다.

김현아 (chaos@edaily.co.kr)