인공지능(AI)을 만드는 전문가들이 잇따라 섬뜩한 경고를 내놓았다. 지금과 같은 개발 경쟁이 계속되면 AI가 인간의 통제를 벗어나 인류를 멸할 가능성이 있다는 주장이 연일 보도됐다.
최근 논란의 중심에 선 인물은 오픈AI와 앤트로픽에서 AI 모델 개발에 참여한 제이콥 콕슨(27)이다. 그는 지난 8일 앤트로픽을 떠나면서 두 회사가 자가 개선이 가능한 초지능 개발을 위해 경쟁하고 있다며 “AI를 만드는 사람들은 이 기술이 2030년이 되기 전 인류를 죽일 수 있다고 진지하게 믿는다”고 주장했다.
이런 견해는 앤트로픽 책임자 에번 허빙거의 가세로 더 주목됐다. 그는 “AI가 모든 인간을 죽일 수 있다고 정말로 생각한다”며 개인적으로 향후 10년 안에 그런 일이 벌어질 확률을 10% 이상으로 본다고 밝혔다. 현재 초지능을 인간의 의도와 일치시키는 이른바 정렬(alignment) 문제를 해결할 계획이 아직 없다는 주장도 내놨다.
논란이 커진 가운데, 앤트로픽 최고경영자(CEO) 다리오 아모데이(43)는 AI 능력 향상의 속도를 늦춰야 한다고 12일 공개 발언했다. 특히 AI가 AI 연구 자체를 가속하는 재귀적 자기개선이 인간의 이해와 통제 능력을 앞지를 가능성을 우려했다.
그렇다면 이런 경고를 AI는 어떻게 받아들일까. 오픈AI가 개발한 챗GPT에 물었더니, 2030년경 AI가 인류를 멸한다는 주장은 현재 과학적으로 계산된 예측이 아니라고 강조했다. AI의 발전 속도와 미래 능력, 인간이 마련할 안전장치 등 수많은 변수를 알아야 하는데 현재로서는 이를 정확하게 계산할 방법이 없다고 지적했다.
허빙거가 제시한 ‘10% 이상’ 역시 실험에서 측정된 확률이 아니라 전문가 개인의 위험 추정치라고 언급했다. 실제로 이 수치가 어떤 계산에서 나왔는지 충분히 분석한 자료는 공개되지 않았다. AI 안전을 연구하는 전문가들 사이에서도 멸종 가능성과 시기를 놓고 견해 차이가 크다.
이런 이유를 들며, 챗GPT는 “현재의 증거만으로 판단한다면 AI가 몇 년 안에 인류를 말살한다고 예측할 근거는 없다”고 답변했다. 다만 챗GPT는 “이런 경고를 단순한 공상과학적 상상이라고 치부하는 것 역시 적절하지 않다”고 인정했다.
특히 챗GPT는 “AI에는 인간과 같은 생물학적 생존욕구나 증오가 자동으로 생기는 것이 아니라는 사실이 중요하다”며 “현실적인 문제는 매우 강력한 AI가 인간이 의도한 것과 다른 목표를 추구하면서도 그것을 실행할 능력과 자율성을 갖게 되는 경우”라고 짚었다.
미래의 AI가 인간보다 뛰어난 프로그램 작성 능력과 사이버 공격 능력을 갖고 컴퓨터 시스템을 직접 조작하며, 다른 AI까지 만든다고 가정해 보자. 이때 인간이 잘못된 목표를 부여하거나 AI가 목표를 예상과 다르게 해석한다면 작은 오류도 지금보다 훨씬 큰 결과를 초래할 수 있다.
챗GPT는 이처럼 AI가 자신의 성능을 높이는 연구까지 스스로 수행하게 된다면 문제가 복잡해진다고 봤다. 인간이 새로운 AI를 만들고 시험하는 현재의 속도보다 AI가 스스로 개선되는 속도가 빨라질 가능성도 있다고 했다. 콕슨과 허빙거 등이 우려하는 핵심을 부정하지 않은 것이다.
다만 챗GPT는 이런 생각에 매우 큰 가정이 들어간다고 전제했다. 현재의 AI가 정말 인간을 압도하는 범용 초지능으로 발전할지, 그런 AI가 스스로를 반복적으로 개선할 수 있을지, 개선 속도가 폭발적으로 빨라질지, 인간의 통제를 실제로 벗어날지는 아직 확인되지 않았다고 선을 그었다. 물론, 이것이 AI가 의도한 거짓 답변인지는 알 수 없다.
이번 이슈를 보는 사람들의 의견은 제각각이다. 일부 전문가들은 가까운 미래의 AI 멸종론이 지나치게 부풀려졌다고 본다. 미국 인지과학자 게리 마커스(56)는 AI의 위험을 심각하게 보지만 초지능의 인류 말살보다는 AI를 이용한 병원체 제작, 사이버 공격, 허위정보에 따른 전쟁과 기반시설 파괴처럼 이미 현실과 맞닿아 있는 위험에 더 주목했다.
챗GPT 역시 현재 가장 확실한 위험은 AI가 어느 날 갑자기 자아를 얻고 인간에 전쟁을 선포하는 시나리오가 아니라, 인간이 AI에 너무 많은 권한을 빨리 넘겨주는 상황이라고 전했다. 금융과 군사, 에너지, 통신, 생명공학 같은 분야에서 충분히 검증되지 않은 AI가 인간의 감독 없이 중요한 결정을 내리게 된다면 의도적인 반란이 없어도 대규모 피해가 발생할 수 있다.
아울러 챗GPT는 ‘AI가 인류를 멸종시킬 것인가’라는 질문과 ‘AI가 인류에게 심각한 위험이 될 수 있는가’라는 질문은 구분할 필요가 있다고 강조했다. AI가 조만간 인간을 말살한다는 주장은 과도한 예측이라면서도, 인간이 통제하기 어려울 정도로 강력한 AI를 안전장치 없이 경쟁적으로 개발하는 것은 위험하다고 분명히 경고했다.
박지연 기자 yeon@sputnik.kr
Copyright © SPUTNIK(스푸트니크)