오픈AI, 인공지능 위험 대응 팀 출범 1년 만에 해체

[파이낸셜뉴스]

챗GPT를 공개해 인공지능(AI) 선두 주자로 부상한 오픈AI가 AI의 장기 위험을 낮추기 위해 신설한 대응 팀 슈퍼얼라인먼트 팀을 1년 만에 해체했다.

오픈AI 공동 창업자 일리야 서츠케버와 잰 라이케가 회사를 떠나기로 했다고 발표한 가운데 팀 해체 소식이 흘러나왔다.

CNBC는 17일(현지시간) 소식통을 인용해 오픈AI가 AI가 미칠 수도 있는 장기 위험에 대응하기 위해 만든 팀을 출범 발표 1년 만에 해체했다고 보도했다.

이 소식통은 팀원 일부는 회사 내 다른 팀으로 재배치됐다고 말했다.

서츠케버와 라이케 탈퇴는 AI 안전성을 놓고 샘 올트먼 최고경영자(CEO)와 공동창업자들 간 갈등에 따른 것으로 보인다.

라이케는 17일 오픈AI의 "안전성 문화와 절차들이 눈부신 제품들에 밀려 이선으로 후퇴했다"고 비판했다.

오픈AI는 지난해 "인류보다 훨씬 스마트한 AI 시스템을 조종하고, 통제하기 위한 과학적, 또 기술적 진전들"에 집중하는 슈퍼얼라인먼트 팀 신설을 발표한 바 있다.

당시 오픈AI는 앞으로 4년에 걸쳐 자사 컴퓨터 연산능력의 20%를 AI 조종, 통제를 위한 슈퍼얼라인먼트 팀에 배분하겠다고 약속했다.

그러나 이같 은 약속은 휴지 조각이 됐다.

올트먼이 지난해 사내 쿠데타를 진압하고 CEO로 복귀하면서 권력을 강화하고 있는 것과 연관이 있는 것으로 보인다. 올트먼은 그동안 공동창업자들을 비롯해 회사 안팎에서 AI의 보편적 가치 실현과 위험 견제보다는 이윤에 매몰돼 있다는 비판을 받아왔다.

서츠케버와 라이케는 이 같은 비판이 고조되는 가운데 지난 14일 소셜미디어 X를 통해 사퇴 사실을 공개했다.

라이케는 17일 이와 관련해 더 자세한 내막을 공개했다.

그는 "오픈AI가 이런(AI 위험 대응) 연구에 전 세계에서 최선의 장소라고 생각해 합류한 바 있다"면서 "그러나 지금은 오픈AI 지도부의 생각에 동의하지 않는다"고 밝혔다.

라이케는 "회사의 핵심 우선 사안에 대해 꽤 오랫동안 생각이 달랐다"면서 이제 그 한계에 봉착했다고 말했다.

그는 오픈AI가 보안, 감시, 준비, 안전, 사회적 충격에 더 집중해야 한다고 촉구했다.

라이케는 아울러 오픈AI가 안전을 우선으로 하는 범용AI(AGI) 업체가 돼야 한다고 호소했다.

그는 "인간보다 더 똑똑한 기계를 만드는 것은 본질적으로 위험한 노력"이라면서 "오픈AI는 모든 인류를 대신해 막대한 책무를 어깨에 지고 있다"고 말했다. 라이케는 그러나 "지난 수년 안전성 문화와 절차들은 반짝거리는 제품들에 밀려 뒷자리로 밀려났다"고 비판했다.

dympna@fnnews.com 송경재 기자

경제