"10년 내 사람 죽이는 AI 로봇 등장"…끔찍한 예고한 'AI 대부' 누구?

제프리 힌튼 토론토대 명예교수, 인터뷰서 'AI 위험성' 경고…"AI에 인류 뒤처질 것"

(지디넷코리아=장유미 기자)인공지능(AI) 4대 석학으로 꼽히는 제프리 힌튼 캐나다 토론토대 명예교수가 향후 10년 내 자율적으로 인간을 죽이는 로봇 병기가 등장할 것으로 전망했다. AI가 인류 파멸을 가져올 수도 있는 만큼 앞으로 꾸준히 신중하게 관련 기술 개발에 나서야 한다는 주장이다.

힌튼 교수는 10일 니혼게이자이신문과의 인터뷰를 통해 이같이 강조하며 AI 위험성에 대해 경고했다.   

힌튼 교수는 "AI에게 목표를 주면 해결책으로 인간에게 나쁜 방법을 찾아낼지도 모른다"며 "예컨대 AI에게 기후변화를 막도록 지시하면 이 목적 달성을 위해 인간을 배제하는 게 필요하다고 생각하고 실행에 옮길 위험성이 걱정된다"고 우려했다.

제프리 힌턴 토론토대 명예 교수 (사진=로이터, 뉴스1)

딥러닝 창시자이자 AI 대부로 불리는 힌튼 교수는 요수아 벤지오 캐나다 몬트리올대 교수와 함께 대표적 AI 비관론자로 평가 받는다. 토론토대 교수 시절 창업한 AI업체 'DNN리서치'가 2013년 구글에 인수된 뒤 구글 소속으로 연구 활동을 이어오다 지난해 4월 AI의 위험성을 알리기 위해 퇴사했다. 현재는 캐나다 토론토에서 AI 개발 신중론을 펼치고 있다. 

반면 메타(옛 페이스북)의 수석 AI 과학자인 얀 르쿤 미국 뉴욕대 교수와 앤드루 응 스탠퍼드대 교수는 대표적인 AI 낙관론자다.

힌튼 교수는 지속적으로 AI 전투 로봇의 위험성을 강조해 왔다. 그러나 AI 킬러 로봇 등장 시점을 '10년 내'라고 구체적으로 언급한 것은 이번이 처음이다.

힌튼 교수는 "많은 사람이 AI의 폭주를 막으려면 전원을 끄면 되지 않냐고 말하지만, 인간의 인지를 넘어선 AI는 우리를 조종할 수 있을 것"이라며 "AI가 전원을 끄면 안된다고 적극적으로 설득할 것"이라고 말했다. 

이어 "AI는 지성뿐 아니라 감각까지 갖게 될 수 있다"며 "주관적인 경험이라는 관점에서 설명하자면 AI는 인간과 같은 감각을 가질 수 있다고 생각한다"고 덧붙였다.

힌튼 교수는 AI끼리 데이터센터 등 자원 쟁탈전을 벌이고 경쟁을 통해 진화하는 과정을 거칠 것이라고도 내다봤다. 또 더 똑똑해진 AI에 인류는 뒤처질 것이라고 경고했다.

그는 "누구도 AI가 지배하는 미래를 원하지 않을 것"이라며 "그 사실이 각국이 AI 병기 규제를 향해 보조를 맞추는 토대가 될 것"이라고 언급했다.

이어 "제1차 세계대전에서의 참화로 화학무기가 전 세계적으로 금지됐듯 AI 로봇무기도 조만간 규제할 수 있을 것"이라면서도 "하지만 (규제 시점이) 인류가 (AI 킬러 로봇의) 비참함을 인식한 후가 될 지 모른다"고 우려했다.

이에 대해 닛케이는 "AI가 인류를 지배할 것이라고 힌튼 교수가 예언하는 것은 아니지만, 미래가 불확실하다는 전제에서 장기적인 위험성을 호소하고 있다"며 "힌튼 교수의 경고를 받아들여 논의해 나갈 필요가 있다"고 밝혔다.

장유미 기자(sweet@zdnet.co.kr)