오픈AI 뛰쳐나온 직원들 작심 토로… “안정성 뒷전, 직원들에 분열 조장”

수츠케버, 리이크 등 오픈AI 주역들 “안전성 뒷전” 비판
”AI 위험에 대비해야 인류에 혜택 줄 수 있어”
“기술 회사, 권력에 도전하는 직원들 분열시켜 무력화”

오픈AI에서 퇴사한 일리야 수츠케버 전 최고과학자./로이터연합뉴스

“오픈AI가 샘 올트먼 최고경영자(CEO)의 뛰어난 리더십으로 ‘안전’하고 유익한 범용인공지능(AGI)을 구축할 것으로 확신한다.”(일리야 수츠케버 전 오픈AI 최고과학자)

“지난 수년간 AI 안전성은 잘나가는 제품보다 뒷전으로 밀려났다.”(얀 리이크 전 오픈AI 안전팀 공동 리더)

오픈AI에서 안전팀 역할을 했던 ‘수퍼얼라인먼트(superalignment)’팀이 해체되자 소속 직원들이 줄줄이 퇴사하면서 쓴소리가 이어지고 있다. 수퍼얼라인먼트팀을 이끌었던 수츠케버와 리이크는 물론이고 일반 직원들도 한목소리로 오픈AI가 AI 윤리와 안전에 힘써야 한다고 주장하고 있다.

지난 14일(현지시각) 수츠케버는 공교롭게도 오픈AI가 ‘GPT-4o’를 공개하는 날 회사를 떠났다. 그는 이날 자신의 X(옛 트위터)에 “거의 10년 만에 오픈AI를 떠나기로 결정했다. 회사의 궤적은 기적에 가까웠다”면서 오픈AI가 ‘안전한 AGI’를 개발하길 바란다고 했다. AGI의 방향성을 두고 올트먼이 ‘성능’에 집중한다면, 수츠케버는 여전히 ‘안전’에 주목하고 있다는 의미로 해석된다.

수츠케버가 퇴사한 날 오픈AI는 GPT-4o 라이브 시연에서 음성 서비스 ‘스카이’를 공개했는데, 스카이가 영화 ‘그녀(Her)’의 AI 비서를 연기한 배우 스칼렛 요한슨 목소리와 유사해 논란이 일고 있다. 요한슨의 동의 없이 목소리를 베꼈다는 것이다.

수츠케버의 뒤를 이어 오픈AI를 떠난 리이크는 수츠케버보다 강도 높게 오픈AI를 비판했다. 그는 “지난 수년간 AI 안전성은 잘나가는 제품보다 뒷전으로 밀려났다”며 “오픈AI는 AI의 위험에 대비하는 것을 최우선으로 해야 하며 회사의 역량 중 많은 부분을 보안, 모니터링, 안전 등에 집중해야 한다. 그래야 AGI가 인류에 혜택을 줄 수 있을 것”이라고 했다.

수퍼얼라인먼트팀의 일원이었던 그레첸 크루거도 비판에 가세했다. 그는 자신의 X 계정에 “회사를 떠나는 것은 쉬운 결정이 아니었다”면서 “수츠케버와 리이크에 대한 소식을 듣기 몇 시간 전에 사임했다. 나는 그들의 우려를 공유한다”고 밝혔다. 그러면서 “오픈AI는 의사결정 과정에서 책임과 투명성을 갖춰야 하며 정책 집행, 기술 사용에 대한 주의, 불평등 등을 개선하기 위해 더 많은 조치가 필요하다”고 했다.

크루거는 “일반적으로 기술 회사가 (경영진에게) 책임을 묻고자 하는 사람들의 힘을 약화시키는 방법 중 하나는 권력에 도전하는 사람들 사이에 분열을 심는 것”이라며 “나는 이를 방지하는 데 깊은 관심을 갖고 있다”라고 적었다.

지난주와 이번주에는 안전팀의 또 다른 연구원인 다니엘 코코타일로와 윌리엄 손더스가 퇴사했다. 코코타일로는 “오픈AI가 AGI 시대에 책임감 있게 행동할 것이라는 믿음을 잃고 떠났다”고 토로했다.

- Copyright ⓒ 조선비즈 & Chosun.com -