5일 天下, 오픈AI 쿠데타 전말

[박원익의 유익한 IT] 사람처럼 사고하는 AI 상용화 두고 의견 다툼

● 수츠케버와 사외이사진이 주도한 쿠데타
● “AI 수혜자는 오픈AI 투자자 아닌 인류”
● 올트먼 투자 스타트업과 이해관계 충돌 가능성도

[Gettyimage]

오픈AI 설립자 겸 CEO 샘 올트먼이 2023년 11월 17일(현지 시각) 급작스레 해임된 사건으로 실리콘밸리 AI 업계에는 거대한 폭풍이 몰아쳤다. 챗GPT 개발사이자 세계 최고 AI 기업으로 평가받는 회사의 설립자가, 그것도 사업이 순항하는 도중 쫓겨났기 때문이다.

올트먼을 해임한 오픈AI 이사회가 같은 달 21일 그의 CEO 복귀를 발표, 5일간의 드라마는 막을 내렸지만, 여진은 계속되고 있다. 오픈AI 이사회는 재편됐으며 12월 출시 예정이던 GPT 스토어 서비스는 2024년 초로 연기됐다.

더 중요한 사실은 이 사건이 오픈AI의 구조적 모순, AI 기술의 통제에 대한 남겨진 과제를 드러냈다는 점이다. 새롭게 구성된 이사회의 역할과 권한, 멤버 확장 및 방향성도 논의가 진행 중인 사안이다. 올트먼 CEO 해임 사유 조사와 더불어 AI 안전을 추구하는 진영, 효율성과 적극적 상용화를 추구하는 진영 사이의 논쟁도 계속될 전망이다.

안전 중시 vs 빠른 개발

비영리법인으로 출발한 오픈AI는 사내이사 3명(공동창업자 3인, 샘 올트먼, 그렉 브록만, 일리야 수츠케버), 사외이사 3명(애덤 디엔젤로, 헬렌 토너, 타샤 매카울리)으로 구성된 이사회가 영리 기업을 지배하는 독특한 구조를 취하고 있었다.

일리야 수츠케버와 사외이사 4인이 샘 올트먼, 그렉 브록만 공동창업자를 이사회에서 해임했지만 회사 직원, 투자자 및 파트너사와 충분한 상의 없이 갑작스럽게 단행된 의사결정 방식이 문제가 됐다.

결국 해임 직후 마이크로소프트에 합류하기로 잠정 합의한 올트먼은 오픈AI 직원 95% 이상이 참여한 복귀 요구, 투자자들의 설득과 중재에 힘입어 다시 오픈AI의 CEO로 돌아왔다.

샘 올트먼 오픈AI CEO가 해임당한 뒤 게스트 자격으로 오픈AI 사무실을 방문하며 공개한 사진. [샘 올트먼 X]

브록만에 따르면 올트먼은 오픈AI 이사진의 해임 통보 전날 밤 수츠케버로부터 다음 날 정오에 화상회의를 하자는 문자를 받았다. 올트먼은 요청대로 낮 12시 즈음 구글 미트(Google Meet·화상회의 솔루션)를 통해 회의에 참여했고, 브록만을 제외한 모든 이사회 멤버가 회의에 참석한 상태였다. 수츠케버는 올트먼에게 "당신은 해임될 것이고, 이 소식이 곧 발표된다"고 통보했다.

브록만이 이사회로부터 연락을 받은 건 이날 낮 12시 19분이었다. 수츠케버로부터 회의 요청 문자를 받은 그는 몇 분 뒤인 12시 23분 구글 미트에 접속했다. 회의에서 브록만은 "당신은 이사회에서 해임되지만, 회사에서 중요한 역할을 담당하고 있었기 때문에 사장(president) 직책은 유지된다. 샘 올트먼은 해임됐다"는 통보를 받았다.

거의 비슷한 시점에 오픈AI는 이런 내용을 담은 블로그 게시물을 대중에 공개했고, 깜짝 놀란 브록만은 올트먼과 연락을 취한 후 자신도 회사를 떠나겠다고 밝히기에 이른다. 브록만은 "전날 밤에 이 사실을 알게 된 미라 무라티 CTO(최고기술책임자)를 제외한 다른 경영진(the management team)은 이사회 발표 이후 이 사실을 알게 됐다"고 설명했다.

오픈AI의 전 사내이사이자 수석과학자인 일리야 수츠케버는 CEO인 샘 올트먼 해임을 주도한 것으로 알려졌다. [스탠포드]

효과적 이타주의 관철 의도?

업계에서 추측하는 해임 배경 중 하나는 'AGI(범용인공지능)를 둘러싼 이견'이다. 안전을 중요하게 생각하는 수츠케버 진영과 빠른 속도·성능·상용화를 강조한 올트먼이 충돌했고, 그가 밀려났을 것이란 추측이다.

실제로 오픈AI 이사회가 해임을 발표한 후 직원들을 안심시키기 위해 연 전 직원회의(all hands meeting)를 살펴보면 회사 내부에서 이와 관련된 갈등이 있었음을 짐작할 수 있다.

실리콘밸리 미디어 디인포메이션이 보도한 전 직원회의 녹취록에 따르면 최소 두 명의 직원이 수츠케버 공동창업자에게 "샘 올트먼의 해임이 쿠데타인지 알려달라"고 질문했고, 수츠케버는 "쿠데타라고 불러도 된다"고 답했다.

올트먼이 안전 문제를 희생하면서까지 챗GPT 상용화를 위해 너무 서두르고 있다고 판단, 수츠케버가 과감한 조치를 취했을 수 있다는 게 일부 직원들의 생각이다. 실제로 수츠케버는 과거부터 AGI의 위험성과 이를 위한 안전장치의 필요성을 수차례 언급해 온 바 있다. AI 안전 문제와 관련해 오픈AI 내부에 신설한 팀 '초정렬(Superalignment·초지능 제어)'을 이끄는 인물도 수츠케버다.

오픈AI의 독특한 지배구조도 재차 주목받고 있다. 회사 블로그에 공개된 바에 따르면 오픈AI를 지배하는 이사회는 비영리법인의 이사회이며 "각 이사는 공익을 추구를 위한 AGI 사명 달성 의무를 수행해야 한다"고 명시돼 있다.

오픈AI의 지배구조. 영리법인(OpenAI Global, LLC)은 비영리법인(OpenAI, Inc. 501c3)의 자회사다. [오픈AI]

또 "영리법인(OpenAI Global, LLC)의 수익 창출과 분배는 허용되지만, 이 사명에 따라야 한다. 주요 수혜자는 오픈AI 투자자가 아닌 인류"라고 못 박았다. CEO의 경영 방식이 회사의 비영리적 목적, 사명에 어긋난다고 판단될 경우 해임의 근거가 될 수 있는 셈이다.

이런 구조 때문에 비영리법인(OpenAI, Inc. 501c3)의 자회사(OpenAI Global LLC, 영리법인)에 110억 달러(14조3000억 원) 이상을 투자한 대주주 마이크로소프트조차 오픈AI의 경영에 전혀 관여할 수 없다. 투자에 따른 수익 상한도 투자금의 100배로 고정, 이를 초과할 수 없도록 돼 있다. 올트먼 역시 비영리법인 주식을 보유하고 있지 않다.

‘Q스타'가 뇌관?

오픈AI의 로고. [오픈AI]

올트먼의 해임을 의결한 일리야 수츠케버, 타샤 매카울리, 헬렌 토너, 애덤 디엔젤로가 '효과적 이타주의(effective altruism)' 운동과 관련 있다는 분석도 있다. 효과적 이타주의는 타당한 근거를 기반으로 해 이타주의를 실현한다는 사회운동이다. 사회 전체에 도움이 되는 행동을 효과적으로 해야 한다는 것이 이 운동의 핵심이다. 업계에서는 "자신에게 인류를 구원할 특별함이 있다고 믿는 효과적 이타주의자들은 극단적 행동을 서슴지 않는다"는 비판이 나왔다.

로이터 보도에 따르면 올트먼 해임 사태가 발생하기 전인 2023년 11월 14일 일부 오픈AI 연구원들은 경영진에 AI 개발 속도가 너무 빠르다고 경고하는 서한을 보냈다.

이 서한을 통해 AGI 개발을 앞당길 수 있다는 'Q*(큐스타)' 프로젝트의 존재가 알려졌다. 큐스타는 이전 AI 모델에서는 구현할 수 없던 수학 문제를 푸는 데 성공했다고 알려진 AI 모델이다. 올트먼 해임 전 오픈AI 내부에서 큐스타 시연이 이뤄졌고, 일부 연구자들이 이에 대한 우려를 표명한 것으로 알려졌다. 이 모델은 아직 외부에 공개되지 않았다.

수학은 생성형 AI 개발의 최전선으로 간주된다. 현재 생성형 AI는 다음에 이어질 단어를 통계적으로 예측해 글쓰기와 언어 번역에 능숙하다. 챗GPT 역시 텍스트 데이터를 주로 활용해 학습시킨 LLM(대규모 언어 모델) 'GPT' 기반으로 작동한다.

질문에 대해 확률적으로 정답에 가까운 답변을 내놓는 AI 챗봇은 사람과 비슷하게 느껴지지만, 잘못된 정보 '헐루시네이션(Hallucination·환각)' 역시 답변으로 제시한다. 정답이 단 하나뿐인 수학 문제를 풀 수 있다는 것은 AI가 인간의 지능과 유사한 추론 능력을 갖게 된다는 의미다.

업계에서는 Q스타가 LLM을 포함한 여러 인공신경망(Neural Network)을 활용하는 방식으로 작동할 것이란 추측이 나오고 있다.

이해관계 충돌 가능성

한편 지나치게 빠른 AI 개발, 상용화 계획 등 올트먼의 경영 방식과 이번 해임은 상관없다는 주장도 있다. 헬렌 토너 전 오픈AI 이사는 11월 29일(현지시각) X(옛 트위터)에 올린 게시물을 통해 오픈AI의 업무 속도를 늦추려는 의도가 없었다고 해명했다.

그는 올트먼의 해임에 찬성한 인물이다. "올트먼이 이사회와 일관되게 솔직한 의사소통을 하지 않았다"는 것 외에는 해임 배경에 대해 알려지지 않은 가운데, '효과적 이타주의자인 오픈AI 전 이사진이 샘 올트먼을 해임, AI 개발 속도를 늦추려 한 것 아니냐'는 추측이 나오자 본인이 나서 이를 부인한 것이다.

토너는 "저희의 결정은 이사회가 회사를 효과적으로 감독할 수 있도록 하는, 즉 저희의 역할과 책임에 근거한 것이었다"며 "여러 추측이 있었지만, 오픈AI의 업무 속도를 늦추려는 의도가 전혀 없었다"고 강조했다.

이와 관련, 실리콘밸리 관계자들은 '이해관계 충돌'이 배경일 가능성도 있다고 분석한다. 미국에서 CEO가 쫓겨나는 주요 사례는 주가 부진, 실적 악화로 주주와 이사회를 실망시킨 경우, 성추행 등 부적합한 행동을 한 경우, 혹은 CEO가 개인의 이익을 추구하며 회사의 이익에 반하는 행동을 했다는 사실이 밝혀지는 경우다.

올트먼은 실적 부진과 상관없고, 현재까지 부적합한 행동과 연루됐다는 사실도 밝혀지지 않았기 때문에 '이해관계 충돌' 가능성이 높다는 관측이다. 특히 그가 발굴하고 투자한 스타트업이 오픈AI와 경쟁하거나 오픈AI의 사명 혹은 이익에 반하는 결과를 초래할 수 있다는 우려가 제기됐을 수 있다.

실리콘밸리 미디어 '세마포(Semafor)'에 따르면 올트먼은 딥 테크(Deep tech)에 초점을 맞춘 새로운 벤처캐피털(VC) 펀드를 모금하고 있다. 스타트업 투자회사 와이콤비네이터(YC) 사장 출신인 올트먼은 오픈AI CEO로 재직하며 개인적으로 여러 스타트업에 투자하기도 했다.

AI 칩 스타트업 '레인AI(Rain AI)'은 올트먼이 개인적으로 투자한 대표적 스타트업이다. 블룸버그에 따르면 바이든 행정부는 최근 사우디 국부펀드 아람코(Aramco)에 대해 레인AI 지분을 매각하도록 강요했다. 미국 국가 안보를 위해 이런 결정을 했다는 게 미국 외국인 투자위원회의(CFIUS)의 설명이다.

사람 닮은 AI 규제 가능할까

오픈AI는 2023년 11월 29일(현지 시각) 회사 성명을 통해 샘 올트먼 CEO, 미라 무라티 CTO, 그렉 브록만 사장의 공식 복귀를 발표했다.

새롭게 구성된 이사회는 알려진 대로 브렛 테일러(의장) 세일즈포스 전 CEO, 래리 서머스 전 재무장관(하버드대 교수), 애덤 디엔젤로 쿼라 CEO 3인으로 확정됐다. 최대 투자자인 마이크로소프트는 의결권은 없으나 이사회 회의에 참여할 수 있는 참관인(non-voting observer) 지위만 얻었다.

올트먼은 공식 성명을 통해 앞으로 세 가지 우선순위에 입각해 회사를 경영하겠다고 밝혔다. 연구 계획을 발전시키고 안전에 집중한다는 원칙이 첫 번째, 제품을 지속해서 개선·배포, 고객에게 서비스를 제공한다는 게 두 번째다. 마지막 우선순위는 거버넌스 구조(지배구조) 개선이다.

올트먼은 "위기를 기회로 바꿀 것"이라며 "새 이사회는 최근 사건(자신의 해임)에 대한 독립적인 검토를 감독하는 매우 중요한 임무를 맡는다. 이들과 긴밀히 협력해 모두가 오픈AI의 안정성에 대한 확신을 가질 수 있기를 기대한다"고 했다.

그는 "세계 최고의 팀, 세계 최고의 사명을 가진 여러분과 함께 유익한 AGI를 구축할 수 있길 바란다"고 덧붙였다.

중요한 건 이로써 모든 문제가 해결된 건 아니라는 점이다. 공익을 앞세운 비영리법인이 영리법인을 지배하는 모순은 여전하며 이 구조가 추가적 갈등을 촉발할 가능성은 남아 있다. 테크 기업 저널리스트 벤 톰슨은 뉴스레터를 통해 "이번 사태의 가장 큰 손실은 '회사를 조직하는 올바른 방법은 영리법인뿐'이라는 일반적 개념을 깨지 못한 것"이라고 평가하기도 했다.

AI 기술 통제 문제도 마찬가지다. 미국 언론 스타트업 악시오스 창업자 짐 밴더하이는 샘 올트먼의 해임과 관련해 발행한 칼럼에서 "기업들은 AI 경쟁에 수조 달러를 쏟아붓고 있다. 정부는 AI 규제를 다루기에 지나치게 분열돼 있다"며 "생성형 AI를 실질적으로, 확실하게 규제할 수 있는 방법은 쉽게 나오지 않을 것"이라고 했다.

박원익 더밀크코리아 뉴욕플래닛장 wonick@themilk.com