AI, 北 같은 나라에 더 치명적… 언젠가 독재자도 지배당할 것

6년 만에 신작 낸 하라리 인터뷰

/김영사

“AI는 이제 인류의 도구가 아니라 주체적인 행위자다.”

세계적인 베스트셀러 ‘사피엔스’(2015), ‘호모 데우스’(2017)의 저자 유발 노아 하라리(48) 예루살렘 히브리대 교수가 6년 만에 신작 ‘넥서스(Nexus)’로 돌아왔다. 이번엔 인류 앞에 놓인 인공지능(AI) 혁명에서 인류에게 닥칠 위험을 살피고, 그 속에서 생존과 번영의 길을 모색한다. “AI는 스스로 창조하고, 변화하고 결정합니다. 과학과 의학을 발전시키며 기후변화 해결에 도움을 주지만, 동시에 제어할 수 없기 때문에 굉장한 위험이 뒤따르죠.”

15일 오후 하라리는 독일 베를린 현지에서 화상회의를 통해 “AI의 위협은 독재국가 북한에 더 치명적일 것”이라고 말했다. AI 혁명 초기에는 기술을 독점한 소수 집단이 부와 권력을 쌓아 세계를 지배하게 되지만, 시간이 지나면 결국 그들도 AI의 지배 아래 놓이게 된다는 것이 그의 설명이다. “역사적으로 독재자들은 측근들에게 암살 당했다. AI를 옆에 두고 군중을 다시리는 독재자 역시 마찬가지. 스스로 학습하는 AI는 인간을 어떻게 조작할지 금방 알게 된다. 다수를 조작해야 하는 민주국가보다 북한 같은 독재국에 더 치명적이다.”

AI에 규제를 내놓아야 한다는 국제 사회의 목소리가 높아지는 가운데 하라리는 “규제 단계 이전에 AI에 대한 지식이 모든 국가들에 보급돼야 한다”고 지적했다. 그는 “미국과 중국을 제외한 거의 모든 국가들이 AI에 대해 제대로 모르고 있다”면서 “AI와 관련된 국제기구를 만들어 소수 국가가 독점하고 있는 정보를 전 세계가 접근할 수 있도록 해야한다”고 전했다. AI 규제 논의에 앞서 당장 시행해야 할 두 가지에 대해서도 설명했다. “알고리즘을 소유한 회사가 제조물에 대한 법적책임을 지도록 하는 것과 AI가 사람과 소통할 때 분명히 AI임을 밝혀야 한다”며 “알고리즘을 통해 나오는 AI의 가짜 뉴스는 인류가 이성적인 대화를 할 수 없게 만들고 있다”고 했다.

그는 “AI 혁명에서 인류의 생존을 결정하는 것은 우리 손에 달려 있다”고 했다. “인류가 함께 AI 기술을 절제하며 사용하고 이를 통제하는 것에 노력한다면, AI의 잠재력을 긍정적인 방향으로 성장시킬 수 있습니다. 그렇기에 먼저 해결해야 할 것은 우리 사회의 분열이죠. 지금처럼 기술 경쟁, 전쟁 등 국제적 긴장이 계속돼 사회적 합의가 이뤄지지 않는다면 손을 쓸 수 없는 방향으로 나아갈 것입니다.”