“더 나가면 통제 못합니다”...노벨상 수상자도 말리는 초지능 AI 개발

노벨 물리학상 수상 힌튼 등
AI 과학자들 공동성명 발표
“인간 통제 불능 위험 커”
英 해리왕자 등 3천명 동참

[이미지=픽사베이]

노벨상 수상자와 기술 거물, 전직 미국 고위 관리, 영국 왕실 인사들이 현존하는 인공지능(AI)보다 뛰어난 ‘초지능(superintelligence)’ 개발을 중단하라고 촉구했다. 인간의 모든 인지 능력을 넘어서는 AI의 등장이 통제 불능의 위험을 초래할 수 있다는 경고다.

22일(현지시간) 공개된 공동성명에는 리처드 브랜슨 버진그룹 창업자, 스티브 워즈니악 애플 공동창업자, 오슈아 벤지오 캐나다 몬트리올대 교수를 비롯해 작년 노벨 물리학상 공동 수상자인 제프리 힌턴 캐나다 토론토대 석좌교수 등 AI ‘대부’로 불리는 과학자들이 다수 이름을 올렸다. 이들은 “초지능은 인간의 경제적 역할과 자유, 존엄, 통제권을 잃게 할 뿐 아니라 국가안보와 인류 생존 자체를 위협할 수 있다”라며 “안전하게 설계, 통제할 수 있다는 과학적 합의와 사회적 지지가 형성되기 전까지 개발을 금지해야 한다”라고 주장했다.

이번 성명은 기술계뿐 아니라 정치, 종교, 언론계 인사 등 폭넓은 연대 속에 발표됐다. 전 합참의장 마이클 멀린, 수전 라이스 전 백악관 안보보좌관, 전 트럼프 보좌관 스티브 배넌, 방송인 글렌 벡, 해리 왕자 부부, 메건 마클 공작부인, 메리 로빈슨 전 아일랜드 대통령 등이 서명자 명단에 포함됐다. 서명자는 빠르게 늘어나면서 현지시간 22일 오후 9시 3200명을 넘어섰다.

오픈AI와 메타, xAI 등 기업들이 개발하고 있는 초지능은 모든 영역에서 인간을 뛰어넘는 지능을 가진 AI를 의미한다. 메타는 초지능 구축을 위해 지난해 150억 달러를 투입해 ‘초지능랩’을 신설했고 오픈AI는 최신 AI 모델인 GPT-5를 출시하면서 범용AI(AGI)를 향한 연구를 가속화하고 있다.

벤지오 교수는 성명에서 “몇 년 안에 AI가 대부분의 인지 영역에서 인간을 능가할 수 있다”라며 “이를 안전하게 발전시키려면 인간을 해치지 않는 구조를 과학적으로 증명해야 한다”라고 말했다. 그는 이어 “이 기술이 인류의 미래를 결정할 문제인 만큼 시민들이 더 강하게 목소리를 내야 한다”라고 덧붙였다.

한편 초지능 개발을 중단하라는 목소리가 터져 나온 날, 메타는 빠른 초지능 개발을 위해 AI 부문 인력 600명을 감원하는 조직개편을 시행했다. 알렉산더 왕 메타 최고 AI 책임자는 이날 직원들에게 보낸 내부 메모를 통해 “결정 과정의 속도를 높이고 각 인력이 더 큰 책임과 영향력을 갖도록 하기 위한 감축”이라고 밝혔다. 메타는 올해 초부터 AI 전략을 대대적으로 손질해왔다. 스타트업 스케일AI에 143억 달러를 투자했고 초지능 개발 전담 조직을 신설했다.