"AI가 인류 파괴할 가능성 99.9%"…근거는?

(지디넷코리아=이정현 미디어연구소)인공지능(AI) 전문가 로만 얌폴스키 교수가 100년 안에 AI가 인류를 파괴할 확률을 99.9%로 전망했다고 IT매체 비즈니스인사이더가 4일(현지시간) 보도했다.

미국 루이빌 대학교 사이버보안연구소 소장 로만 얌폴스키 교수는 최근 유명 컴퓨터 과학자 렉스 프리드먼의 팟캐스트에 출연해 AI에 대한 자신의 의견을 밝혔다.

그는 "AI가 인류를 멸망시킬 가능성은 인간이 향후 100년 안에 버그 없이 고도로 복잡한 소프트웨어를 만들 수 있는지 여부에 달려 있다"고 밝혔다. 하지만, "설계되지 않은 작업을 수행하려는 사람들로부터 완전하게 안전한 AI 모델이 없기 때문에 그럴 가능성이 낮다"고 설명했다.

사진=픽사베이

또, "그들은 이미 실수를 저질렀다"며, "우리는 사고를 당했고 탈옥을 당하기도 했다. 오늘날 개발자가 의도하지 않은 일을 성공적으로 수행한 대규모 언어 모델은 하나도 없다고 생각한다"고 밝혔다.

지난 2년 간 초기 AI 모델들 중 일부는 자료 오용이나 잘못된 정보에 대한 여러 위험 신호를 나타냈다. 딥페이크는 공인 여성의 가짜 포르노 이미지를 만들었고 바이든 대통령을 모방한 AI 자동녹음전화를 이용해 선거에 영향을 미치겠다고 위협하는 일도 있었다.

얼마 전 구글 I/O행사에서 공개된 제미나이 AI 모델을 기반으로 한 ‘AI 오버뷰’는 접착제로 피자를 만들 수 있다고 제안하는 등 말도 안 되는 답변을 내놔 주목을 끌기도 했다.

로만 얌폴스키 미국 루이빌 대학 사이버보안연구소 소장 (사진=로만 얌폴스키 엑스)

그는 “AI를 제어하려면 영구적인 안전 장치가 필요하다”고 밝히며, "더 똑똑한 시스템이 무엇을 할 것인지 예측할 수 없다"고 경고했다.

그가 예측하는 미래의 모습은 하나는 모든 사람이 죽는 것이고, 다른 하나는 모든 사람이 고통스러워하며 죽기를 바라는 것이며, 또 다른 하나는 인간이 목적을 완전히 상실하는 것이라고 설명했다. 

이에 대해 비즈니스인사이더는 대부분의 사람들은 AI에 어느 정도에 위험이 있다는 것을 인정하지만 상황이 아주 절망적일 가능성은 낮게 보고 있다며, 일론 머스크의 경우 AI가 인류를 파괴할 확률을 10~20%로 예측했다고 전했다.

에릭 슈미트 전 구글 최고경영자(CEO)는 최근 "거대언어모델(LLM)의 진정한 위험은 사이버 및 생물학적 공격이며 향후 3~5년 안에 이러한 공격이 찾아올 것"이라고 밝혔다.

이정현 미디어연구소(jh7253@zdnet.co.kr)