“자율형 살상 로봇, 10년 안에 등장”… AI 대부의 경고

제프리 힌턴 교수, 닛케이 인터뷰서
“화학무기 금지도 1차대전 후 합의”

기사의 이해를 돕기 위한 일러스트 이미지. 기사 내용과 직접 관련이 없습니다. 게티이미지뱅크

인공지능(AI) 개발 분야의 ‘대부’로 불리는 영국의 컴퓨터 과학자 제프리 힌턴 캐나다 토론토대 명예교수가 “인간을 자율적으로 죽이는 로봇 무기가 10년 안에 등장할 것”이라고 경고했다.

힌턴 교수는 10일 일본 니혼게이자이(닛케이)신문에 실린 인터뷰에서 첨단 AI의 군사 전용을 규제하기 위한 유엔 결의와 관련해 “화학무기는 제1차 세계대전에서 참화를 초래한 뒤 국제적인 합의로 금지됐다. 로봇 무기도 곧 규제될 수 있지만, 전장에서 사용돼 비참한 실상이 확인돼야 실현될지도 모르겠다”며 이렇게 말했다.

앞서 유엔은 지난해 12월 22일 총회에서 치명적인 자율무기 체계 위협에 대응해야 한다는 내용의 결의안을 152개국 찬성으로 통과시켰다. 러시아‧인도 등 4개국은 반대했고, 중국‧이란‧이스라엘 등 11개국은 기권했다. 안토니우 구테흐스 유엔 사무총장은 오는 9월 총회까지 회원국 의견을 취합해 보고서를 제출하게 된다.

힌턴 교수는 이런 인류의 공감대에서 AI 무기화를 억제할 가능성을 찾았다. 그는 “누구도 AI에 지배되는 미래를 원하지 않는다. 그 사실이 AI 무기 규제에 합의하는 밑거름이 될 것”이라며 “핵전쟁도 마찬가지였다. 모든 국가에서 해악으로 인식됐고, 미국과 옛 소련의 냉전기 핵전쟁을 피하는 합의에 이를 수 있었다”고 말했다.

힌턴 교수는 2013년부터 지난해까지 미국 빅테크 기업 구글에서 일하며 AI를 개발해왔다. 토론토대에서 창업한 AI 스타트업 ‘DNN리서치’가 구글에 인수되면서다. 구글 주도로 개발된 AI 딥러닝(심화학습)도 그의 작품이다. 하지만 그는 지난해 4월 AI의 위험성을 경고하며 구글에서 퇴사했다.

제프리 힌턴 캐나다 토론토대 명예교수가 지난해 3월 25일(현지시간) 미국 캘리포니아주 마운틴뷰의 구글 본사 앞에서 미소를 짓고 있다. 힌턴 교수는 그해 4월 AI의 위험성을 경고하며 구글에서 퇴사했다. AP뉴시스

수많은 AI 개발자들이 힌턴 교수를 거쳐 갔다. 생성형 AI ‘챗GPT’ 개발사인 미국 오픈AI를 샘 올트먼과 함께 공동 창업했고, 지난해 11월 그를 해임하려다 실패한 일리야 수츠케버도 힌턴 교수의 제자다. 힌턴 교수와 수츠케버는 모두 AI 회의론자로 분류된다.

힌턴 교수는 “나와 수츠케버는 과거에 모두 ‘AI가 인간만큼 뛰어나지 않다’고 생각했다. 수츠케버가 먼저 생각을 바꿨지만 나는 바로 동의하지 않았다”며 “지금은 그가 옳다고 생각한다. 그는 지금 AI의 위험성을 매우 걱정하고 있다”고 말했다.

힌턴 교수는 AI가 인간을 위협할 것이라는 판단의 근거로 “인간에게 해로운 방법도 목표를 이루는 해결책으로써 실행할 수 있기 때문”이라고 했다.

그는 “AI는 기후변화를 멈추라는 지시를 받는다면 그 목적을 달성하기 위해 인간을 없애야 한다고 판단할 수도 있다”며 “AI의 폭주를 막기 위해 전원을 끄면 되지 않느냐는 주장도 있다. 하지만 인간의 지능을 넘어선 AI가 전원을 끄지 않도록 우리를 설득할 수도 있다”고 지적했다.

또 “AI끼리 경쟁할 수도 있다. AI끼리 데이터센터를 포함한 자원 쟁탈전이 벌어진다면, 생물이 그랬던 것처럼 진화를 촉진하게 된다”며 “경쟁을 거쳐 더 똑똑해지는 AI에 인류가 뒤처질 수 있다”고 우려했다.

김철오 기자 kcopd@kmib.co.kr