'AI 개척자' 제프리 힌턴 "살인 로봇 병기 10년 안에 등장"

"1차대전 때 화학무기처럼 비참한 경험 뒤에야 규제할 것"
"AI 지배 원하지 않는다는 지점에서 규제 시작할 수 있다"
"전원 끄면 된다는 주장하지만, AI는 말로 인간 조종할 것"

[마운틴뷰=AP/뉴시스]'인공지능(AI)의 대부 제프리 힌튼이 2015년 3월25일 미 캘리포니아주 마운틴뷰의 구글 본사에서 포즈를 취하고 있다. 그는 이 주 초 구글에서의 일을 그만 두면서 이제 자신이 해온 일을 후회한다고 말하면서 "AI 챗봇의 위험성 중 일부는 매우 무섭다"고 밝혔다. 2023.05.05.

[서울=뉴시스] 이명동 기자 = 인공지능(AI) 분야 개척자로 알려진 제프리 힌턴 캐나다 토론토대 컴퓨터과학과 명예교수가 정보기술(IT) 발전에 따른 인간 사회가 처할 위험을 설명했다. 특히 "앞으로 10년 안에 자율적으로 인간을 죽이는 로봇 무기가 등장할 것으로 본다"고 예견했다.

힌턴 교수는 9일 공개된 니혼게이자이신문(닛케이)과 인터뷰에서 "제1차 세계대전에서 재앙을 불러온 화학무기는 그 뒤로 국제적인 합의로 금지됐다. 로봇 무기 역시 언젠가는 규제할 수 있을 것이다. 하지만 그 실현은 실제 전장에서 (로봇 무기가) 사용돼 인류가 그 비참함을 인식한 뒤가 될 것"이라고 경고했다.

그러면서 "아무도 AI가 지배하는 미래를 원하지 않는다. 그 사실이 각국이 AI 무기 규제를 위해 발맞추는 토대가 될 것"이라며 "핵전쟁과 마찬가지다. 모든 국가에 명백히 해로울 수밖에 없었기 때문에 미국과 구소련은 냉전 중에 핵전쟁을 피하기로 합의할 수 있었다"고 언급했다.

그는 무기 개발뿐 아니라 AI가 인류를 위협할 다양한 가능성을 전망했다.

힌턴 교수는 "AI에 목표를 줬을 때 인간에게 불편한 해결책을 찾아낼지도 모른다"면서 "가령 AI에 기후 변화를 멈추도록 지시했을 때 AI가 목적을 달성하기 위해 인간을 배제해야 한다고 판단하고 이를 실행할 위험이 우려스럽다"고 말했다.

이어 "앞으로 서로 다른 AI가 서로 경쟁하는 일이 벌어질 수도 있다. AI 사이에서 데이터센터 등 자원 쟁탈전이 벌어지면 이는 생물과 마찬가지로 진화를 촉진하는 과정이 된다. 경쟁을 거쳐 더 똑똑해지는 AI에 인류는 뒤처지게 될 것"이라고 내다봤다.

[서울=뉴시스] 아바타·터미네이터 시리즈의 감독 제임스 캐머런 감독은 "터미네이터 신작을 촬영하게 된다면 로봇보다는 AI에 집중할 것이다"라고 밝혔다. 사진은 캐머런 감독이 제작에 참여한 터미네이터: 다크 페이트의 한 장면 (사진=파라마운트 픽쳐스 SNS 갈무리) 2022.12.21. photo@newsis.com *재판매 및 DB 금지

뒤이어 "많은 사람이 AI의 폭주를 막으려면 전원을 끄면 된다고 주장한다. 하지만 인간 지능을 넘은 AI는 말로 우리를 조종할 수 있다. 전원을 끄면 안 된다고 설득하려고 할 것"이라고 경각심을 일깨웠다.

힌턴 교수는 AI가 발전된 지능뿐 아니라 감각까지 가지게 될 수 있다고 예상했다.

그는 "인간은 객관적 사실과 다른 사건도 경험한다"며 "주관적 경험이라는 관점에서 설명하면 AI는 인간과 비슷한 감각을 가질 수 있다고 생각한다"고 평가했다.

아울러 "많은 사람은 주관적인 경험이 고유한 인간의 것이라고 보고 AI는 세계를 이해하지 못한다고 생각한다"라면서 "이는 틀린 생각"이라고 덧붙였다.

힌턴 교수는 지난해 10년 동안 몸담은 AI의 위험성을 경고하기 위해 구글 인공지능 연구조직을 떠났다.

매체는 "(힌턴 교수는)AI가 인류를 지배할 것이라고 예언하는 것은 아니다"라면서도 "미래가 불확실하다는 전제 아래 장기적인 위험성을 호소하고 있다. 사회는 힌튼 교수가 울린 경종을 정면으로 받아들이고 논의할 필요가 있다"고 해설했다.

☞공감언론 뉴시스 ddingdong@newsis.com