오픈AI, 이사회 내 안전·보안위원회 마련…"차세대 프런티어모델 훈련 시작"

팽동현 2024. 5. 29. 11:31
자동요약 기사 제목과 주요 문장을 기반으로 자동요약한 결과입니다.
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.

인공지능(AI) 안전성을 우선하지 않는다는 의혹의 눈길을 받아온 오픈AI가 새로운 안전장치를 마련했다.

오픈AI는 이사회에 안전·보안위원회(Safety and Security Committee)를 구성했다고 블로그를 통해 28일(현지시간) 밝혔다.

첫 임무는 향후 90일간 오픈AI 프로세스와 안전장치를 평가·발전시키는 것이다.

오픈AI 창립자그룹 일원이었던 다리오·다니엘라 아모데이 남매가 AI안전성에 초점을 맞춰 설립한 경쟁사다.

음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

퇴사한 정렬총괄은 경쟁사 앤스로픽 합류
오픈AI 블로그 캡처

인공지능(AI) 안전성을 우선하지 않는다는 의혹의 눈길을 받아온 오픈AI가 새로운 안전장치를 마련했다. 이를 통해 차세대 AI모델의 안전성도 끌어올린다는 목표다.

오픈AI는 이사회에 안전·보안위원회(Safety and Security Committee)를 구성했다고 블로그를 통해 28일(현지시간) 밝혔다. 회사의 개발·운영 관련 안전·보안에 대해 이사회에 권고하는 역할이다.

안전·보안위원회는 브렛 테일러 이사회 의장, 샘 올트먼 최고경영자(CEO), 아담 디안젤로 이사, 니콜 셀릭먼 이사가 이끌게 된다. 첫 임무는 향후 90일간 오픈AI 프로세스와 안전장치를 평가·발전시키는 것이다. 이로써 마련된 권고안은 전체 이사회 검토와 업데이트를 거쳐 공개 예정이다.

이번 발표는 새로운 AI모델을 준비 중이라는 소식과 함께 전해졌다. 오픈AI는 "최근 차세대 프런티어 모델을 훈련하기 시작했다"며 "범용AI(AGI)로 가는 길에 한층 높은 역량을 제공할 것"이라고 기대감을 표했다. 구체적인 내용이 공유되진 않았으나, 향후 선보일 차기 플래그십 모델의 경우 성능뿐 아니라 안전성을 주요 강점으로 내세울 수도 있을 것으로 보인다.

앞서 오픈AI는 초지능(Super-intelligent) AI시스템 제어·관리를 위해 지난해 7월 발족했던 초정렬(Super-alignment)팀을 최근 해체, 팀원들을 재배치한 것으로 알려졌다. 초정렬팀을 이끌던 일리야 수츠케버 수석과학자 겸 공동창립자와 얀 라이카 정렬총괄도 이달 회사를 떠났다. 이에 AI안전성을 경시한다는 비판이 일자 그렉 브록먼 사장이 직접 해명에 나선 바 있다.

당시 "오픈AI에서 지난 몇 년 동안 안전 문화와 프로세스는 반짝이는 제품보다 뒷전으로 밀려났다"고 지적하며 떠났던 라이카 총괄은 이날 앤스로픽 합류를 발표했다. 오픈AI 창립자그룹 일원이었던 다리오·다니엘라 아모데이 남매가 AI안전성에 초점을 맞춰 설립한 경쟁사다. 라이카 총괄은 "초정렬 미션을 계속하기 위해 앤스로픽에 합류하게 돼 기쁘다"며 새로운 팀을 꾸린다고 밝혔다.

오픈AI는 최근 출시한 AI모델 'GPT-4o'의 음성 중 하나인 '스카이'가 미국 영화배우 스칼릿 조핸슨의 목소리를 도용했다는 논란에도 휩싸여있다. 영화 '그녀(Her)' 속 AI 목소리의 주인공인 조핸슨과 매우 흡사한 음성이라는 지적이 제기되자 조핸슨은 법적 대응을 시사했고, 오픈AI는 이 음성 사용을 중단하기도 했다.팽동현기자 dhp@dt.co.kr

Copyright © 디지털타임스. 무단전재 및 재배포 금지.

이 기사에 대해 어떻게 생각하시나요?