백악관 AI 행정명령 앞두고 ‘AI 세이프티 펀드 출범’ 구글, MS, 오픈AI, 앤스로픽과 에릭 슈미트 전 구글 CEO 등 기부
크리스 메세롤 프론티어 모델 포럼 사무국장. <사진=프론티어모델포럼>
구글, 마이크로소프트 등 인공지능(AI) 개발을 주도하는 빅테크 기업들이 1000만달러 규모의 ‘AI 세이프티 펀드’를 출범시켰다. AI의 위험성에 대한 우려가 커지면서 이에 관한 연구를 지원하기 위한 목적이다.
25일(현지 시간) 구글, 마이크로소프트, 오픈AI, 앤스로픽 등 현재 생성형AI를 개발을 주도하는 네 기업이 만든 ‘프론티어 모델 포럼’은 1000만달러 규모의 AI 세이프티 펀드를 출범한다고 밝혔다. 포럼 사무국장으로는 브루킹스연구소에서 AI 를 연구한 크리스 메세롤이 임명됐다.
‘AI 세이프티 펀드’는 AI 안전 분야를 연구하는 독립적인 연구자와 스타트업을 지원하는 목적의 펀드다. 4개 기업과 에릭 슈미트 전 구글 CEO 등 개인 기부자들이 참여해 펀드를 조성했다.
‘프론티어 모델 포럼’은 AI 기업들의 이해관계를 대변하는 산업계 단체다. 올해 초 4개 기업이 백악관에서 자발적인 AI 약속에 서명하면서 만들어졌다. 여기에는 제삼자가 AI 시스템의 취약점을 발견해서 보고할 수 있도록 촉진하겠다는 내용이 담겼다.
‘AI 세이프티 펀드’는 AI에 대한 각국 정부들의 규제와 연관되어있다. 액시오스의 보도에 따르면 백악관은 다음 주 ‘안전하고 신뢰할 수 있는 인공지능’과 관련된 행사를 열고 AI에 대한 바이든 대통령의 행정명령을 발표할 예정이다.
