오픈AI, 이사회 내 안전·보안위원회 마련…"차세대 프런티어모델 훈련 시작"

퇴사한 정렬총괄은 경쟁사 앤스로픽 합류

오픈AI 블로그 캡처

인공지능(AI) 안전성을 우선하지 않는다는 의혹의 눈길을 받아온 오픈AI가 새로운 안전장치를 마련했다. 이를 통해 차세대 AI모델의 안전성도 끌어올린다는 목표다.

오픈AI는 이사회에 안전·보안위원회(Safety and Security Committee)를 구성했다고 블로그를 통해 28일(현지시간) 밝혔다. 회사의 개발·운영 관련 안전·보안에 대해 이사회에 권고하는 역할이다.

안전·보안위원회는 브렛 테일러 이사회 의장, 샘 올트먼 최고경영자(CEO), 아담 디안젤로 이사, 니콜 셀릭먼 이사가 이끌게 된다. 첫 임무는 향후 90일간 오픈AI 프로세스와 안전장치를 평가·발전시키는 것이다. 이로써 마련된 권고안은 전체 이사회 검토와 업데이트를 거쳐 공개 예정이다.

이번 발표는 새로운 AI모델을 준비 중이라는 소식과 함께 전해졌다. 오픈AI는 "최근 차세대 프런티어 모델을 훈련하기 시작했다"며 "범용AI(AGI)로 가는 길에 한층 높은 역량을 제공할 것"이라고 기대감을 표했다. 구체적인 내용이 공유되진 않았으나, 향후 선보일 차기 플래그십 모델의 경우 성능뿐 아니라 안전성을 주요 강점으로 내세울 수도 있을 것으로 보인다.

앞서 오픈AI는 초지능(Super-intelligent) AI시스템 제어·관리를 위해 지난해 7월 발족했던 초정렬(Super-alignment)팀을 최근 해체, 팀원들을 재배치한 것으로 알려졌다. 초정렬팀을 이끌던 일리야 수츠케버 수석과학자 겸 공동창립자와 얀 라이카 정렬총괄도 이달 회사를 떠났다. 이에 AI안전성을 경시한다는 비판이 일자 그렉 브록먼 사장이 직접 해명에 나선 바 있다.

당시 "오픈AI에서 지난 몇 년 동안 안전 문화와 프로세스는 반짝이는 제품보다 뒷전으로 밀려났다"고 지적하며 떠났던 라이카 총괄은 이날 앤스로픽 합류를 발표했다. 오픈AI 창립자그룹 일원이었던 다리오·다니엘라 아모데이 남매가 AI안전성에 초점을 맞춰 설립한 경쟁사다. 라이카 총괄은 "초정렬 미션을 계속하기 위해 앤스로픽에 합류하게 돼 기쁘다"며 새로운 팀을 꾸린다고 밝혔다.

오픈AI는 최근 출시한 AI모델 'GPT-4o'의 음성 중 하나인 '스카이'가 미국 영화배우 스칼릿 조핸슨의 목소리를 도용했다는 논란에도 휩싸여있다. 영화 '그녀(Her)' 속 AI 목소리의 주인공인 조핸슨과 매우 흡사한 음성이라는 지적이 제기되자 조핸슨은 법적 대응을 시사했고, 오픈AI는 이 음성 사용을 중단하기도 했다.팽동현기자 dhp@dt.co.kr