AI 위험 경고한 미 정부 인사, 오픈AI재단 이사로

오픈AI 로고 [로이터 연합뉴스 자료사진. 재판매 및 DB 금지]

(서울=연합뉴스) 주종국 기자 = 인공지능(AI)의 위험성을 경고해온 미국 정부 고위인사가 오픈AI 지배권을 지닌 비영리 단체 '오픈AI 재단' 이사로 임명됐다.

오픈AI는 미 상무부 산하 AI 표준혁신센터(Caisi)에서 모델 안전성 테스트를 담당해온 폴 크리스티아노를 오픈AI 재단 이사로 임명한다고 9일(현지시간) 발표했다.

크리스티아노는 또 오픈AI PBC의 옵서버로도 활동하게 된다.

지난해 오픈AI는 공익법인 오픈AI PBC와 지배주주인 오픈AI 재단으로 지배구조가 변경됐다. PBC 지분 26%를 소유한 오픈AI 재단은 PBC 이사 임명권을 가진다.

크리스티아노는 이날 엑스(X·옛 트위터) 게시글에서 자신의 오픈AI 합류를 발표하며 AI 위험성에 대해 다시 경고했다.

그는 "더 강력한 안전장치 없이 초지능을 개발한다면 우리는 영구적으로 통제력을 잃게 될 것"이라며 "그런 일이 발생하면 대부분의 사람이 죽을 수 있다. 전 세계적인 일관성을 확보하고 위험을 허용 가능한 수준으로 줄이기 위해서는 국내외적인 협력이 필요하다고 생각한다"고 말했다.

그는 또 "AI 기술의 급속한 발전이 머지않아 치명적이고 돌이킬 수 없는 통제력 상실로 이어질 수 있다고 생각한다"면서 "오픈AI를 포함한 AI 업계 전반이 현재 이런 위험을 허용 가능한 수준으로 줄일 수 있는 방향으로 나아가고 있다고 생각하지 않는다. 오픈AI가 이 문제에 제대로 대처한다면 위험을 크게 줄일 수 있다고 믿기 때문에 합류하게 됐다"고 덧붙였다.

크리스티아노는 지금까지 AI 표준혁신센터에서 주요 기업의 최첨단 AI 모델에 대한 정부 테스트를 설계 및 실행하고 국가 안보 위험성을 평가하는 등 AI 안전성을 담당했다.

오픈AI는 크리스티아노가 AI 표준혁신센터 수석 기술 고문직은 유지하지만, 오픈AI와 관련한 모든 사안, 특히 모델 평가에서 스스로 물러날 것이라고 밝혔다.

오픈AI는 "폴 크리스티아노는 오픈AI 임무의 핵심인 거버넌스 결정에서 차별화되고 기술적으로 뒷받침된 관점을 제시할 것"이라고 덧붙였다.

파이낸셜타임스(FT)는 크리스티아노가 AI 커뮤니티 내 다수로부터 안전성 연구의 선구자로 평가받는다고 전했다.

satw@yna.co.kr

▶제보는 카톡 okjebo