인간보다 똑똑하게 될 AI가 두려운 머스크

/트위터

오픈AI의 연구자들이 인류를 위협할 수 있는 강력한 인공지능(AI) ‘큐스타(Q*)’를 발견한 것에 대해 경고하는 편지를 보낸 게 샘 올트먼 오픈AI CEO 해임의 기폭제 역할을 했다는 보도가 이어지는 가운데 오픈AI 창립 멤버인 일론 머스크 테슬라 CEO도 이에 대한 우려를 잇따라 내놓고 있다.

그는 23일(현지 시각) 자신의 엑스(옛 트위터)에서 ‘쿠데타’ 주역 일리야 수츠케버 오픈AI 최고과학자를 언급하며 “이 편지는 뭘 의미하느냐”고 질문했다. 머스크는 오픈AI 연구진들이 큐스타의 위험성에 대해 경고하는 편지를 이사회에 보냈고 이 편지가 이사회의 조치를 촉발했다는 내용의 로이터 보도를 함께 링크했다. 오픈AI 내부 관계자는 로이터에 “최근 큐스타는 초등학교 수준 수학 문제를 스스로 풀었다. 이는 AGI 개발의 돌파구가 될 수 있다”라고 했다. 큐스타 성과 보고를 받은 기존 이사회가 AI 개발에 특이점이 올 것을 대비하기 위해 올트먼에게 제동을 걸었다는 것이다. AGI란 AI가 인간의 개입 없이 스스로 사고하고 학습하는 단계를 뜻한다.

하지만 머스크의 질문에 대해 쿠데타의 주역인 수츠케버는 별다른 대답을 하지 않았다. 수츠케버 오픈AI 수석 과학자는 ‘딥러닝의 아버지’ 제프리 힌턴 토론토대 교수의 수제자로 AI를 경계해야 한다는 신념이 강해 그는 올트먼의 급격한 AI 사업화 행보를 거대한 위협으로 느낀 것으로 알려졌다.

구글에서 승승장구하던 수츠케버를 빼낸 것이 바로 오픈AI 초창기 창립 멤버였던 일론 머스크 테슬라 CEO였다. ‘안전한 AI의 발전’을 모토로 삼은 비영리 재단 ‘오픈AI’를 구상한 머스크에게 AI 안전에 관심이 많은 수츠케버는 빠져서는 안 되는 핵심 인재였다. 머스크는 수츠케버에게 “구글은 전 세계 AI 연구자 3분의 2를 보유하고 있지만, 안전에는 신경 쓰지 않는다”며 회유했고 수츠케버는 결국 오픈AI에 합류했다.