오픈AI, 집단정렬팀 발족...“시민 견해 직접 들어 AI 개발

오픈AI

오픈AI는 시민의의 견해를 듣고 이를 AI 모델에 반영하겠다고 17일(현지시간) 발표했다. 오픈AI는 이를 위해 연구원과 엔지니어로 구성된 새로운 ‘집단 정렬 팀(Collective Alignment team)’을 발족했다. 오픈AI 제품 및 서비스에 대중의 의견을 수집하고 ”코딩화“하는 시스템을 만든다는 구상이다. 오픈AI는 ”우리는 내외부 의견을 청취해 프로토타입을 포함한 파일럿을 실행할 것“이라면서 ”이 작업을 함께 구축할 다양한 기술 배경을 가진 연구 엔지니어들을 모집하고 있다“고 말했다.

집단 정렬 팀은 지난 5월에 시작된 오픈AI 공개 프로그램의 연장선이다. AI 시스템이 따라야 할 규칙에 대한 ‘민주적 과정’을 설정하기 위한 실험이며, 지원자에 자금을 지원했다. 목표는 AI 가드레일과 거버넌스에 대한 질문에 대한 개념 증명을 개발하는 것이다.

특히 비디오 채팅 인터페이스, AI 모델 클라우드 소싱, 감시 플랫폼, 모델 행동 파인튜닝등 다양한 아이디어가 쏟아졌다.

애초 오픈AI는 해당 프로그램을 자사의 상업적 이익과 분리해 운영하려고 했다. 하지만 오픈AI 최고경영책임자(CEO)인 샘 올트먼은 분리는 어렵다고 판단하고 있다. 앞서 올트먼과 그렉 브로크먼 회장, 수석 과학자 일리야 수츠케버는 AI 혁신 속도가 너무 빨라 정부 당국이 기술을 적절히 제어할 수 없다고 주장했다. 정부 대신 직접 시민 의견을 수렴하겠다는 방침이다.