오픈AI, `안전·보안위원회` 독립 이사회 기구로 운영키로

로이터 연합뉴스 자료사진

챗GPT 개발사 오픈AI가 지난 5월 인공지능(AI) 기술 개발 과정에서 안전 및 윤리 문제를 점검하기 위해 구성한 새로운 안전·보안위원회의 기능을 강화하기로 했다.

오픈AI는 안전 및 보안 위원회를 이사회의 감독위원회로 운영하기로 했다고 밝혔다. 그동안 오픈AI 내에서 운영해오던 이 위원회를 이사회 위원회로 격상해 독립적인 기구로 운영한다는 것이다.

이는 기존 안전팀이 해체되면서 오픈AI가 AI를 개발하는 데 안전과 보안이 뒷전으로 밀려나는 것이 아니냐는 우려가 제기되는 가운데 나왔다. 오픈AI는 "위원회는 우리의 AI 모델 배포 및 개발을 안내하는 안전 및 보안 프로세스를 감독하게 될 것"이라고 설명했다.

위원회는 지난달 이사회에 합류한 미 카네기멜런대 지코 콜터 머신러닝 교수가 위원장을 맡고 오픈AI 이사회 멤버인 애덤 단젤로와 미국 국가안보국(NSA) 국장 출신의 퇴역 장군 폴 M. 나카소네 등도 참여한다. 그동안 위원회는 브렛 테일러 이사회 의장과 샘 올트먼 최고경영자(CEO) 등이 이끌었는데, 독립 기구로 재편성하면서 인적 구성에 변화를 줬다.

오픈AI는 지난주 추론이 가능한 새로운 AI모델 'o1'(오원)을 출시했다. 오픈AI는 "위원회가 o1의 출시 적합성을 평가하기 위해 오픈AI가 사용한 안전 및 보안 기준과 안전 평가 결과를 검토했다"고 전했다.팽동현기자 dhp@dt.co.kr