유발 하라리 “‘AI가 北김정은 좌지우지하게 되면 그걸로 끝일 것”

‘사피엔스’로 세계적 지성이 된 유발 하라리 히브리대 역사학과 교수가 인공지능(AI)이 초래한 사건에 대해 거대 기술 기업에 법적 책임을 묻고 AI가 사람인 척 가장하는 행위를 당장 금지해야 한다고 주장했다. 그는 또 당장은 AI 기술을 가진 소수가 부와 권력을 독점할 수 있으나 기술이 성숙하면 AI 대 사람의 지배 구도가 될 수 있다며 북한 김정은 정권 같은 독재자가 특히 AI의 지배에 취약하다고 경고했다.

AI의 위협을 경고하는 신간 ‘넥서스’를 출간 하라리 교수는 15일 국내 언론과 진행한 화상 인터뷰에서 “AI와 관련해 당장 시행할 수 있는 규제가 두 가지 있다”며 “알고리즘을 운영하는 회사가 이로 인해 발생한 일에 법적 책임을 지게 하고, AI가 사람인 척 온라인에서 소통하는 걸 금지하는 일”이라고 밝혔다.

하라리 교수는 이번 신간에서 페이스북 알고리즘이 2016∼2017년 미얀마에서의 로힝야족 민족청소를 부추겼다고 꼬집었다. 그럼에도 페이스북 측이 아무런 책임을 지지 않았기에, 거대 기술 기업에 관련 규제를 도입해야 한다는 것이다.

AI가 사람인 척 속이고 온라인에서 인간과 소통하는 걸 금지해야 하는 이유로는 민주주의 공론장의 붕괴를 들었다. 하라리 교수는 “많은 나라에서 공론장의 대화가 무너지고 있는 이유 중 하나는 알고리즘·챗봇이 인간의 대화에 끼어들고 있기 때문”이라며 “알고리즘·봇이 음모론, 가짜뉴스, 사람들을 격노하게 하는 콘텐츠를 적극 밀고 있다”고 분석했다.

“국제적 규제 이전에 해야 할 일이 있다. 일단 AI를 관찰·이해해야 한다. 대부분의 정부와 국민은 AI혁명이 뭔지 거의 모르고 있다. AI기술은 주로 미국, 중국의 극소수 회사와 국가가 갖고 있다. 무조건 규제로 나가기 전에 정확히 AI에 대해 이해해야 한다. 이를 위해 국제기구를 설립해야 한다. 세계 거의 모든 정부들이 AI에 대해 비교적 정확한 지식과 이해를 갖추면 그때 규제를 얘기해볼 수 있다. 다만 위 두 가지 규제는 당장 실행할 수 있다.”

하라리 교수는 이번 신간에서 호모 사피엔스가 지구를 지배한 비결인 ‘정보 네트워크’가 AI의 등장으로 격변하고 있다고 통찰했다. 그가 이 책에서 던진 핵심 질문은 “우리가 호모 사피엔스, 즉 지혜로운 인간이라면 왜 이토록 자기 파괴적일까”이다. 그는 인류가 구축한 대규모 협력 네트워크의 본질에 답이 있다고 분석한다.

이 협력 네트워크는 인류에게 큰 힘을 줬지만, 나치즘과 스탈린주의에서 보듯 허위와 망상에 기반해 구축하는 것이 더 쉽다. 그는 “AI는 강력한 네트워크를 만들어 인류의 후손들이 거짓과 허위를 폭로할 엄두조차 내지 못하게 만들지 모른다”고 우려했다. 농업혁명·산업혁명을 가능하게 한 인쇄기 등의 도구는 스스로 판단하지 못했다. 반면 AI는 ‘독립적 행위자’여서 인류에 본질적 위협이 될 수 있다.

하라리 교수는 “AI혁명 초기에는 이를 만들고 제어하는 소수가 엄청난 부와 권력을 쌓겠지만 AI는 독립성, 주체성을 갖춘 행위자이기에 100년, 200년이 지나면 권력자들조차 이를 통제하지 못하는 시대가 올 수 있다”고 경고했다. 그는 “우리보다 더 지능적이고 똑똑한 독립적 행위자를 우리가 좌지우지하기는 굉장히 어려울 것”이라며 이같이 말했다.

“AI는 어떻게 사람을 조종할 수 있을지 쉽게 학습할 수 있을 거다. 독재자들도 이런 AI로부터 자유롭지 못하다. AI 입장에서 독재자를 좌우하기는 쉽다. 독재자는 한 명인데다 늘 두려움에 사로잡혀 살기 때문이다. 이런 AI의 잠재적 위협에 더 취약한 건 민주국가보다 독재정권이다. 예를 들어 한국 대통령이 어떤 이유로든 AI의 통제 아래 놓이더라도 나라 전체가 반드시 AI의 통제를 받는 건 아니다. 권력을 견제하는 여러 민주적 장치가 있어서다. 반면 AI가 북한 김정은을 좌지우지하게 됐다면 그걸로 끝일 거다.”

그는 AI가 가져올 국가간 불평등도 우려했다. 하라리 교수는 “소수 국가가 산업혁명 기술을 갖고 전세계를 침탈하는 일이 일어났고, 다른 나라들이 이를 따라잡는 데 1세기 이상 걸렸다”며 “AI 분야에서도 몇몇 국가가 선두주자로 나서고 있는데 이 나라들이 세계 다른 국가를 지배, 착취할 수 있는 위치에 올라갈 가능성이 크다”고 내다봤다.

당장 AI로 일자리 실종을 걱정하는 개인을 위해서는 “20년 후에 인력시장이 어떨지 누구도 예측할 수 없기에 컴퓨터, 코딩만 하다 보면 모든 게 물거품이 될 수도 있다”고 조언했다. 그는 “두뇌와 심리적 성숙, 신체적 능력이 고루 균형 잡힌 사람이 미래 세계에서는 좁은 기술을 가진 사람보다 중요한 일을 맡을 가능성이 크다”며 “더불어 정신적으로 유연해야 급변하는 세계에서 일생에 걸쳐 배워나갈 수 있을 것”이라고 내다봤다.

송은아 기자 sea@segye.com

세계일보

문화

유발 하라리 “‘AI가 北김정은 좌지우지하게 되면 그걸로 끝일 것”