"100년 안에 인간 멸망시킬 가능성 99.9%"…섬뜩한 경고 날린 美 교수

"버그 없는 복잡한 프로그램 만들 수 있나"

인공지능(AI)이 1세기 안에 인간을 멸종시킬 가능성이 99.9%에 달한다는 학계의 전망이 나와 관심이 쏠린다.

4일(현지시간) '비즈니스 인사이더' 등 외신은 로만 얌폴스키 루이빌대 사이버보안연구소 교수의 발언을 인용해 "미래엔 AI가 인간을 반드시 해칠 수 있다"고 보도했다.

[이미지출처=아시아경제DB]

얌폴스키 교수는 "AI가 인류를 멸망시킬 가능성은 인간이 향후 100년간 버그 없이 매우 복잡한 소프트웨어를 만들 수 있는지에 달려 있을 것"이라고 설명했다. 즉 AI가 잘못된 판단을 내리지 않도록 안전장치를 마련하는 게 중요하다는 뜻이다. 그는 "AI 모델이 의도하지 않은 작업을 안전하게 수행하도록 만들 수는 없기에, 사고를 피할 가능성은 작다"고 경고했다.

이어 "AI는 이미 실수를 저질렀다. 사고, 탈옥을 경험하기도 하고, 개발자가 의도하지 않은 일을 성공적으로 수행한 대형언어모델(LLM)은 하나도 없을 것"이라고 강조했다.

그러면서 "인공일반지능(AGI)이 출연하면 문제는 더 커질 것"이라며 "인간보다 더 똑똑한 시스템이 무엇을 할 것인지 예측하는 건 더 어렵다"고 덧붙였다.

얌폴스키 교수는 이런 전망에 따라 앞으로 인류의 운명은 세 가지 가능성으로 압축할 수 있다고 덧붙였다. ▲AI가 인류를 멸종시키는 상황 ▲AI로 인해 모두 극심한 고통을 받는 상황 ▲모든 인간이 목적을 완전히 상실하는 상황이다.

결국 AI의 잠재적 위험을 줄이는 방법은 신뢰할 수 있는 안전장치를 개발하는 것이다. 이에 대해서는 AI 산업계 일선에서도 목소리가 나오고 있다. 매체에 따르면, 현재 생성형 AI 분야에서 가장 앞서 나간 오픈AI 및 구글 전 현직 직원들이 AI의 급속한 발전을 우려하는 성명을 발표했다.

이들은 "AI의 위험성은 원활하게 공유돼야 한다"며 "기업 내부 규제는 이윤 추구 목표 때문에 제대로 된 감독을 할 수 없다. 일반적인 내부고발자 보호도 불법 행위에 초점이 맞춰져 있으며, 우리 중 일부는 업계 전반에 걸쳐 고발 사례의 역사를 고려할 때 다양한 형태의 보복을 두려워한다"고 호소했다.

임주형 기자 skepped@asiae.co.kr