“수익에 밀려난 안전”... 오픈AI, 인류 공격 막는 안전팀 1년만에 전격 해체

안전팀 공동 리더 얀 리이크도 사임
리이크, “AI 안전성, 잘나가는 제품에 밀려 뒷전”
오픈AI, 축출 사태 후 反 올트먼 세력 전멸

일리야 수츠케버 오픈AI 공동 창립자./오픈AI

오픈AI의 공동창립자 중 한 명이자 ‘천재 개발자’로 통하는 일리야 수츠케버 오픈AI 최고과학자가 회사를 떠나기로 한 가운데, 그가 이끌던 ‘수퍼얼라인먼트(superalignment)’팀이 전격 해체된 것으로 확인됐다. 이 팀은 미래에 고도로 발전한 AI가 인류를 해치지 않도록 AI를 통제하는 방법을 연구하는 일종의 ‘안전팀’이었다. 지난해 샘 올트먼 오픈AI 최고경영자가 축출 사태에서 전격 복귀하며, 자신을 내쳤던 ‘AI두머(위기론자)’ 들을 내보내기 시작한 것이라는 분석이 나온다.

◇오픈AI, 안전팀 해체

17일 IT전문매체 와이어드 등 외신에 따르면 지난해 7월 구성됐던 ‘수퍼얼라인먼트’팀의 팀원들은 팀 해체 후 여러 팀으로 재배치되고 있다. 앞서 오픈AI는 팀을 구성하며 “AI시스템을 스마트하게 조종하고 제어하기 위한 기술적 혁신을 연구하는 조직”이라며 4년에 걸쳐 자사 컴퓨터 성능의 20%를 이 계획에 투입한다고 밝혔었다. 하지만 불과 1년 만에 당장 수익을 내지 않는 안전팀을 해체시키고, 회사가 갖춘 컴퓨터 성능을 더 크고 빠른 신규 AI모델과 서비스를 만들어내는데 집중하기로 했다는 것이다.

오픈AI 안전팀 공동 리더인 얀 리이크가 사임하며 자신의 X에 '오픈AI에서 AI안전성은 잘나가는 제품에 밀려 뒷전'이라고 했다./얀 리이크 X 캡처

18일 이 팀의 공동 리더였던 얀 리이크(Jan Leike)는 사임을 발표하며 자신의 X에 “인간보다 똑똑한 기계를 만드는 것은 본질적으로 위험한 일이며, 오픈AI는 인류 전체를 대표해 막중한 책임을 지고 있다”며 “하지만 지난 수년간 AI 안전성은 잘나가는 제품보다 뒷전으로 밀려났다”고 지적했다. 그러면서 그는 자신의 팀이 우선순위를 잃었고, ‘중요한 작업을 수행하기 위해 컴퓨팅 및 기타 자원을 확보할 수 없었다고도 토로했다. 올트먼 복귀 후 사내 자원을 신제품 개발·출시로 몰아주는 바람에 안전 연구팀은 사실상 제대로된 연구를 할수 없었다는 것이다.

리이크는 이어 “오픈AI는 최선을 다해 (AI의 위험에)대비하는 것을 최우선으로 해야하며 회사의 역량 중 훨씬 많은 부분을 보안, 모니터링, 안전 등에 집중해야한다”며 “그래야만 범용인공지능(AGI)가 인류에 혜택을 줄 수 있을 것”이라고 했다.

◇공고해진 올트먼 리더십

테크 업계에선 ‘수츠케버와 리이크가 연이어 사임하며 오픈AI 내부에서 올트먼에 반대를 할 사람이 남지 않았다’는 우려가 나온다. 지난해 올트먼 축출사태를 주도했던 이사회 멤버와 수츠케버, 그들의 뜻을 따랐던 주요 인물들이 사태 발생 3개월만에 순차적으로 회사를 떠나게 됐기 때문이다.

안전을 중시하는 경영진들이 줄퇴사를 한 후 19일 그랙 브록먼 오픈AI 사장과 샘 올트먼 CEO는 “이들의 퇴임으로 인해 제기된 질문에 대해 몇가지를 설명하고 싶다”고 X에 긴 성명문을 게재했다. 성명에서 두 사람은 “우리는 AGI에 더 잘 대비할 수 있도록 글로벌 정부들에 거버넌스를 요구하고 있고, 점점 더 성능이 향상되는 시스템을 안전하게 배포하는데 필요한 기반을 마련해왔다”며 “미래 시나리오를 상상할 수 없다는 것을 알며, 안전 연구를 지속하고 정부 및 많은 이해관계자들과 지속적으로 협력할 것”이라고 했다. 오픈AI는 “안전팀을 독립체로 유지하기 보단 이 같은 목표를 달성하도록 연구 전반에 통합할 것이며, 공동 창업자 중 한명인 존 슐먼이 AI정렬연구를 이끌 것”이라고 밝혔다.

하지만 이 같은 성명에도 테크 업계에선 “오픈AI가 더더욱 상업적으로 변모할 것”이라는 우려가 나오고 있다. 실제로 오픈AI는 지난 13일 현재 시점에서 가장 앞서간 AI비서 신기능을 공개했다. 사람처럼 대화를 하고, 카메라를 통해 이용자와 같은 것을 보고 느끼는 ‘차세대 AI비서’인 것이다. 테크 업계 관계자는 “안전팀이 해체된 이상 오픈AI가 AI 안전에 대해 어떤 작업을 하고 있는지 알기 어려워졌다”고 말했다.