“이러다 다 죽는다”…AI 위험 경고하더니 오픈AI재단 이사된 미 정부 인사

인공지능(AI)의 위험성을 경고해온 미국 정부 고위 인사가 오픈AI 지배권을 지닌 비영리 단체 ‘오픈AI 재단’ 이사로 임명됐다. [연합뉴스]

인공지능(AI)의 위험성을 경고해온 미국 정부 고위 인사가 오픈AI 지배권을 지닌 비영리 단체 ‘오픈AI 재단’ 이사로 임명됐다.

오픈AI는 미 상무부 산하 AI 표준혁신센터에서 모델 안전성 테스트를 담당해온 폴 크리스티아노를 오픈AI 재단 이사로 임명한다고 9일(현지시간) 발표했다.

지난해 오픈AI는 공익법인 오픈AI PBC와 지배주주인 오픈AI 재단으로 지배구조가 변경됐다. PBC 지분 26%를 소유한 오픈AI 재단은 PBC 이사 임명권을 가진다.

크리스티아노는 이날 엑스(X·옛 트위터) 게시글에서 자신의 오픈AI 합류를 발표하며 AI 위험성에 대해 다시 경고했다.

그는 “더 강력한 안전장치 없이 초지능을 개발한다면 우리는 영구적으로 통제력을 잃게 될 것”이라며 “그런 일이 발생하면 대부분의 사람이 죽을 수 있다. 전 세계적인 일관성을 확보하고 위험을 허용 가능한 수준으로 줄이기 위해서는 국내외적인 협력이 필요하다고 생각한다”고 말했다.

그는 또 “AI 기술의 급속한 발전이 머지않아 치명적이고 돌이킬 수 없는 통제력 상실로 이어질 수 있다고 생각한다”면서 “오픈AI를 포함한 AI 업계 전반이 현재 이런 위험을 허용 가능한 수준으로 줄일 수 있는 방향으로 나아가고 있다고 생각하지 않는다. 오픈AI가 이 문제에 제대로 대처한다면 위험을 크게 줄일 수 있다고 믿기 때문에 합류하게 됐다”고 설명했다.

오픈AI는 크리스티아노가 AI 표준혁신센터 수석 기술 고문직은 유지하지만, 오픈AI와 관련한 모든 사안, 특히 모델 평가에서 스스로 물러날 것이라고 밝혔다.