유발 하라리 "AI는 아기처럼 독립적 존재... 잘 가르쳐도 예측 벗어날 것"

WSJ 대담서 AI 잠재적 위험성 경고
"인류, 처음으로 실제적 경쟁자 만나
그러나 결정권은 아직 인간에게 있다"

베스트셀러 '사피엔스'의 저자인 유발 하라리가 3월 22일 서울 여의도 국회 사랑재에서 이재명 당시 더불어민주당 대표와 인공지능(AI)을 주제로 대담하고 있다. 국회사진기자단

"호모 사피엔스를 대체할 수도 있는 새로운 종이 등장했다."

세계적인 역사학자 유발 하라리 작가가 인공지능(AI)의 잠재적 위험성을 강하게 경고했다. AI는 단순한 도구가 아니므로 설계자인 인간조차 예측하지 못한 행동을 하게 될 것이라는 게 그의 견해다. 이스라엘 출신인 하라리 작가는 세계적인 베스트셀러 '사피엔스' '호모 데우스'를 썼고, 지난해까지 예루살렘 히브리대 교수를 지냈다.

29일(현지시간) 월스트리트저널(WSJ)에 따르면, 하라리는 최근 영국 런던에서 열린 WSJ 최고경영자 서밋에서 "우리는 수만 년간 지구에서 가장 지능이 높은 종이었다"며 "그러나 이제 우리와 경쟁할 수 있는 존재를 직접 창조하고 있다"고 말했다. 이로써 "우리는 처음으로 실제적인 경쟁자를 마주하고 있다"고 그는 진단했다.

그는 "AI는 단순 도구(tool)가 아니라 '행위자'(Agent)"라고 규정했다. 스스로 결정을 내릴 수 있고, 새로운 아이디어를 만들며, 독립적으로 학습하고 변화한다는 것이다. 하라리는 "지금까지의 발명품들, 이를테면 인쇄기나 원자폭탄은 모두 인간을 강화시키는 '도구'였다. 원자폭탄은 무엇을 공격할지 스스로 결정하지 못한다"며 "그러나 AI 무기 시스템은 스스로 목표를 선택하고, 다음 세대 무기도 설계할 수 있다"고 말했다.

AI는 마치 아기처럼 독립적인 존재라 "아무리 훌륭하게 교육해도 결국에는 예측하지 못한 행동을 할 것"이라고 하라리는 강조했다. AI에 일정한 목표나 원칙을 교육시키면 안전할 것이라는 그간의 관측은 틀린 것으로 판명날 수 있다는 게 그의 주장이다. "우리가 아무리 AI에게 '거짓말하지 말라'고 가르치더라도, 동시에 세계에서 가장 영향력 있는 사람들이 거짓말하고 속이는 것을 AI가 본다면, AI는 말이 아니라 행동을 따라할 것"이라고 하라리는 설명했다.

하라리는 특히 "AI 혁명은 수십억 디지털 이민자들이 갑자기 들어오는 것과 같다고 볼 수 있다"며 "이들은 일자리를 빼앗고, 정치적 영향력까지 행사할 수 있다"고 경고했다. 다만 다행인 건 변화가 긍정적인 방향이 될 수 있도록 만들 수 있는 기회가 아직 우리에게 있다는 점이라고 그는 덧붙였다. 하라리는 "AI와 관련한 결정권은 여전히 인간에게 있다"며 "동일한 기술이지만 (나의 경고와는) 전혀 다른 사회를 만들 수도 있을 것"이라고 말했다.

실리콘밸리= 이서희 기자 shlee@hankookilbo.com