오픈AI, AGI 안전성 우려속 전담팀 해체

오픈AI 자콥 파초키(왼쪽부터) 신임 수석과학자, 그렉 브록먼 사장, 일리야 수츠케버 전임 수석과학자, 샘 올트먼 CEO, 미라 무라티 CTO. 일리야 수츠케버 X 캡처

인공지능(AI) 안전성을 논하는 두 번째 글로벌 정상회의를 앞두고 생성형AI 선두주자인 오픈AI에서 또 한 번 잡음이 일고 있다.

주요 외신에 따르면 오픈AI는 초정렬(Super-alignment)팀을 사실상 해체하고 해당 팀원들을 재배치하고 있다. 지난해 7월 발족한 초정렬팀은 초지능(Super-intelligent) AI시스템이 인간 의도를 따르도록 제어·관리하는 핵심 과제를 해결하는 게 목표였다. 이를 위해 회사의 컴퓨팅자원 20%를 투입할 계획이었다.

이 가운데 이 팀을 함께 이끌었던 일리야 수츠케버 공동창업자와 얀 라이카 정렬 총괄이 모두 오픈AI를 떠났다. 수석과학자를 역임했던 수츠케버는 지난해 11월 닷새 만에 해프닝으로 끝났던 샘 올트먼 CEO 축출 사태의 주역 중 하나였다. 당시 AI 안전성을 문제로 이 같은 결정을 했지만 이후 후회한다며 사태 수습에 나섰고, 지난 14일에도 "오픈AI가 올트먼 등 리더십 아래 안전하고 유익한 AGI를 구축할 것이라 믿는다"며 떠났다.

다만 라이카는 X(옛 트위터)를 통해 직접 비판을 남겼다. 그는 "우리보다 똑똑한 AI를 조정·제어하기 위한 연구를 하기에 가장 좋은 곳이라 여겨 오픈AI에 왔지만, 회사의 핵심 우선순위에 대해 경영진과 오랫동안 이견이 있었고 마침내 한계에 달했다"고 토로했다. "몇 달 동안 우리 팀은 바람을 거슬러 항해해 왔다. 때때로 컴퓨팅 문제로 어려움을 겪었고 이 중요한 연구를 수행하는 게 점점 더 어려워졌다"며 "오픈AI에서 지난 몇 년 동안 안전 문화와 프로세스는 반짝이는 제품보다 뒷전으로 밀려났다"고 지적했다.

또한 "AGI의 영향에 대해 매우 진지하게 생각해야 할 시기가 한참 지났다. 최선을 다해 이에 대비하는 것을 우선순위로 삼아야 AGI가 모든 인류에게 혜택을 줄 수 있다"며 "오픈AI는 안전성을 우선하는 AGI 회사가 돼야 한다. 만들고 있는 것에 걸맞게 진중함을 갖고 행동해야 할 것"이라고 짚었다.

오픈AI가 AI 안전성 문제를 경시한다는 시선에 대해 샘 올트먼 CEO와 그렉 브록만 사장은 해명에 나섰다. 이들은 X를 통해 "우리는 전 세계가 더 잘 대비할 수 있도록 AGI의 위험과 기회에 대한 인식을 높여왔다. 점점 더 성능이 향상되는 시스템을 안전하게 배포하는 데 필요한 토대를 마련했다"면서도 "미래에 가능한 모든 시나리오를 상상할 수 없다는 것을 알고 있다. 따라서 매우 긴밀한 피드백 루프, 엄격한 테스트, 모든 단계에서의 신중한 고려, 세계 최고 수준의 보안, 안전과 기능의 조화가 필요하다"고 설명했다.

이어 "AGI로 가는 길을 탐색하는 방법에 대해 검증된 플레이북은 없다. 경험적 이해가 앞으로 나아갈 방향을 제시하는 데 도움이 될 수 있다고 생각한다"면서 "우리는 긍정적인 측면을 제공하는 동시에 심각한 위험을 완화하기 위해 노력하고 있으며, 우리 역할을 매우 진지하게 받아들이고 우리 행동에 대한 피드백을 신중하게 검토하겠다"고 덧붙였다.

한편 오는 21일 개막하는 'AI 서울 정상회의'와 'AI 글로벌 포럼'에 제이슨 권 오픈AI CSO(최고전략책임자)가 방한할 예정이다. 한국계인 그는 지난해 올트먼 축출 사태뿐 아니라 올해 초 일론 머스크 테슬라 CEO가 오픈AI 설립 취지를 어겼다며 올트먼을 상대로 소송을 냈을 때도 반박하며 올트먼을 적극적으로 지지해온 것으로 알려졌다.팽동현기자 dhp@dt.co.kr