“AI가 인간 멸종시킬 가능성 99.9%” 美 교수 경고

美 교수 “완벽한 AI 만들 수 없듯 멸망 피할 수 없어”
오픈 AI·구글 직원 “인류 멸종을 초래하는 통제 상실 위험”

유튜브 채널 '렉스 프리드맨(Lex Fridman)'에 출연한 로만 얌폴스키 루이빌대학교 사이버보안 연구소 교수. 유튜브 캡쳐

인공지능(AI)이 100년 안에 인간을 멸종시킬 확률이 100%에 가깝다는 연구결과가 나왔다. AI의 완전한 통제는 사실상 불가능하기 때문에 안전성과 관련한 문제가 발생할 수밖에 없다는 것이다.

인공지능 전문가인 로만 얌폴스키 루이빌대학교 사이버보안 연구소 교수가 100년 안에 AI가 인류를 파괴할 확률을 99.9%로 전망했다고 미국의 IT매체 비즈니스인사이더가 4일(현지시간) 보도했다.

그는 지난 4일 과학자 렉스 프리드먼이 진행하는 팟캐스트에 출연해 “AI가 인류를 멸망시킬 가능성은 인간이 향후 100년 안에 버그 없이 고도로 복잡한 소프트웨어를 만들 수 있는지에 달려 있다”고 말했다. 버그가 없는 완벽한 AI 모델을 만드는 것은 사실상 불가능에 가깝기 때문에 사고를 피할 방법은 없다는 주장이다.

얌폴스키 교수는 ‘인공일반지능(AGI)’가 등장하면 상황은 더욱 심각해질 수 있다고 전망했다. 그는 “인간보다 더 똑똑한 시스템이 무엇을 할 것인지 예측할 수는 없다”며 “AGI는 우리가 아직 존재하는지도 모르는 것을 찾아낼 것”이라고 말했다.

AGI는 인간 수준의 사고가 가능해 주제에 구애받지 않고 성공적으로 문제를 해결할 수 있는 AI다.

그는 인류의 운명이 3가지 중 하나일 것으로 예측했다. AI가 모두를 죽이거나, AI로 인해 모두가 고통을 받아 차라리 죽기를 바라거나, 모든 인간이 목적을 완전히 상실하는 상황 등이다.

특히 얌폴스키 박사가 지적한 ‘목적 상실’은 AI가 인간의 창의성을 대신하고 일자리를 빼앗아 더 이상 인간의 존재 가치가 없어질 것이라는 전망으로 다수 전문가가 지적한 부분이다.

렉스 프리드먼은 비관적 전문가와 대화하기 위해 얌폴스키 박사를 초대했다고 설명했다. 그러나 AI의 급속한 발전을 우려하는 것은 얌폴스키 박사뿐만이 아니다. 오픈 AI와 구글의 전·현직 직원도 AI의 급격한 성장에 우려를 표하는 성명을 발표했다.

이들은 “우리는 AI 기술에 의해 야기되는 심각한 위험을 알고 있다”며 “기존의 불평등을 심화시키는 것부터 조작과 잘못된 정보, 잠재적으로 인류의 멸종을 초래하는 자율적인 AI 시스템의 통제 상실까지 다양한 위험이 도사리고 있다”고 했다.

이어 “AI 기업은 기술로 인해 발생하는 다양한 종류의 위험에 대한 상당한 비공개 정보를 보유하고 있지만 이런 정보 중 일부를 정부 또는 사회와 공유할 의무가 약하다”며 “우리는 이러한 기술을 모두 신뢰할 수 있다고 생각하지는 않는다”고 말했다.

다만 일각에서는 이같은 전망이 과도하게 비관적이라는 지적도 나온다. 앞서 렉스 프리드먼이 진행하는 팟캐스트에 출연한 AI 전문가 대부분은 AI로 인한 인간 멸종 가능성을 1~20%로 봤다. 최근 옥스퍼드대학교가 과학자 2778명을 대상으로 실시한 설문조사에서는 5% 수준의 가능성이 유력하다고 조사됐다.

권민지 기자 10000g@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지