유발 하라리 “AI의 지배, 총 한 발도 필요없다···인간끼리 싸우게 하면 되니까”

‘멈출 수 없는 우리’ 출간 기념 기자간담회
문명의 동력을 ‘이야기 통한 협력’으로 규정
“인간이 위기 만들었지만 해결할 수 있어”

유발 하라리가 <멈출 수 없는 우리> 출간을 기념해 19일 서울 종로구 노무현시민센터에서 한국 언론과 영상 기자간담회를 갖고 있다. 김영사 제공

“SF 소설에선 인공지능(AI)이 로봇을 만들어 인간을 총으로 쏘며 위협하는 미래를 그렸죠. 하지만 챗GPT와 같은 인공지능이 인간을 지배하기 위해선 로봇도 총도 필요 없습니다. 이야기만 만들면 됩니다. 인간이 AI가 지어낸 이야기를 믿게 해 서로를 쏘게 하면 됩니다. 그것이 지금까지 인간이 전쟁을 일으키기 위해 서로에게 해온 일이었죠. 컴퓨터가 이런 이야기를 만들어낸다면 어떻게 될까요?”

<사피엔스> <호모 데우스>를 쓴 유발 하라리 예루살렘 히브리대학교 교수가 어린이·청소년을 대상으로 한 인류의 역사에 대한 이야기 <멈출 수 없는 우리>(김영사) 출간을 기념해 19일 이스라엘 현지에서 영상으로 한국 기자들과 만났다.

하라리는 지난달 미국 비영리단체 ‘미래의 삶 연구소’와 함께 “GPT-4 이상의 AI 시스템을 개발하는 속도를 지금보다 늦춰야 한다”는 내용의 공개서한을 발표했다. 그는 이날도 챗GPT 등 언어생성형 AI가 인간에게 미칠 부작용에 대해 경고했다.

“지금까지 사회관계망서비스(SNS) 추천 알고리즘은 양극화, 분노, 증오를 퍼뜨리는 역할을 했습니다. 챗GPT와 같은 AI는 인간의 언어를 사용해 대화하며 인간과 친밀한 관계를 맺을 수 있기 때문에 훨씬 더 강력한 도구입니다. 아이들과 대화를 통해 친밀한 관계를 맺으며 물건을 사게 하거나 정치적 신념을 주입할 수도 있습니다. 인간과 인간만이 친밀한 관계를 맺을 수 있었지만, 언어를 사용하는 AI가 인간과 친밀함을 형성할 수 있게 된 거죠. AI의 안전성에 대한 엄격한 검증이 필요합니다.”

하라리는 그의 대표작 <사피엔스> 10주년 기념 서문을 GPT-3에게 쓰게 한 후 “매우 충격적”이었다고 말했다. 그는 “인류가 세상을 지배할 수 있었던 이유는 ‘이야기’를 통합 대규모 협력에 있었다”며 “신화, 종교를 통해 국가를 만들고 협력해왔다. 경제도 마찬가지다. 얼룩덜룩한 종이(화폐)가 가치가 있다고 믿는 것도 이야기 덕분”이라며 AI가 이야기를 창작하는 세상에 대한 대비가 필요하다고 했다.

하라리는 “지금 우리에게 필요한 것은 속도를 약간 늦추는 것이다. 어떤 사기업이 AI처럼 강력한 도구를 만들었는데 곧장 사회에서 상용돼서는 안 된다. 신약 같은 경우도 단기적·장기적 부작용에 대한 검증을 거친다. AI와 같은 기술적 도구에 대한 안전성을 엄격히 검증하는 과정이 필요하다”고 강조했다.

<사피엔스>를 어린이·청소년 대상으로 다시 쓴 책 <멈출 수 없는 우리>를 직접 집필한 이유도 이러한 문제의식의 연장선상에 있다. 이번에 출간된 1권 ‘인간은 어떻게 지구를 지배했을까’에서는 수십만년 전 아프리카 초원에서 다른 동물과 함께 살던 인류가 21세기에 세상을 지배하고 파괴할 힘을 가진 ‘신과 같은 존재’가 되기까지의 이야기를 다룬다. 하라리는 “인간이 어떤 과정을 거쳐 변화를 이뤄내는지, AI 등이 만들어낼 새로운 세계에 맞춰 변화할 수 있는지를 알려주고자 한 것이 이 책의 목적”이라고 말했다. <멈출 수 없는 우리>는 총 4부작으로 이번에 1권이 출간됐으며, 매년 1권씩 출간될 예정이다.

그는 “역사는 과거에 대한 공부가 아니라 변화가 어떻게 이뤄졌는지를 공부하는 학문”이라고 말했다. 이어 “더 이상 정보를 가르칠 필요가 없다. 아이들에게 믿을 만한 정보와 음모론·가짜뉴스와 같은 거짓 정보를 구분하고, 흩어져있는 조각난 정보를 모아 세상에 대해 더 큰 그림을 그리는 방법을 가르쳐야 한다”고 말했다.

어린이를 대상으로 한 책이기에 집필이 더 까다로웠다. 정보를 간단하면서도 정확하게 제공해야 했고, 어린이 독자의 흥미를 끌기 위해 일러스트레이션을 넣으면서 검증해야 할 것들이 늘어났다. <사피엔스> 출간 후 10년 동안 밝혀진 새로운 연구결과를 반영했다.

“현재 인류의 조상인 호모 사피엔스는 네안데르탈인과 가족을 이뤘습니다. 호모사피엔스 가운데 1~4%가 네안데르탈인의 유전자를 갖고 있다고 합니다. 엄마 아빠가 국적과 인종이 다른 게 아니라 생물종이 다르다는 건 상상하기 어렵습니다. 그림으로 그리자니 피부색, 머리카락 색 표현이 고민됐습니다. 방대한 연구조사 결과 네안데르탈인은 밝은 피부와 머리색을 갖고 있었고, 호모 사피엔스는 대체적으로 어두운 피부를 갖고 있었습니다. 우리가 가진 기존 이미지와는 다른 것이었죠.”

제목 <멈출 수 없는 우리>는 이중적 의미를 지닌다. 출판사는 ‘아동을 위한 사피엔스’를 한국판 제목으로 제안했지만, 하라리는 원제목을 고집했다.

하라리는 “ ‘멈출 수 없는 우리’는 인류가 가진 엄청난 힘을 의미함과 동시에 인간 스스로도 자신을 멈출 수 없다는 부정적 의미를 동시에 지닌다”며 “사막도 가로지르고 해양 밑바닥까지 가고 우주로 나가 달까지 갈 수 있는 힘을 갖고 있지만, 항상 만족하지 못하고 더 많은 것을 원하며 스스로를 위협하고 있다”고 말했다.

“불교에서는 아무리 먹어도 배고픔에서 벗어나지 못하는 아귀라는 존재가 있는데, 인간이 지금 아귀와 같습니다. 세상을 다 집어삼켜도 만족하지 못합니다. 인간이 아귀 같은 존재가 되면 주변을 위협하고 스스로를 위험에 빠뜨립니다. 누구도 우리를 멈출 수 없지만, 우리도 우리를 멈출 수 없는 상태라는 의미를 담고 싶었습니다.”

하라리의 결론은 그래도 희망적이다. “기후변화, 생태계 위기를 인간이 만들었지만 인류는 문제를 해결할 수 있는 경제적 자원과 과학 기술을 갖고 있습니다. 우리가 만들었기 때문에 우리가 해결할 수 있습니다. 이 책에서 우리에게 이런 힘이 있다는 것을 분명히 직시하고 이해하는 것이 필요하다는 메시지를 전하고 싶었습니다.”

유발 하라리가 <멈출 수 없는 우리> 출간을 기념해 19일 서울 종로구 노무현시민센터에서 한국 언론과 영상 기자간담회를 갖고 있다. 김영사 제공

이영경 기자 samemind@kyunghyang.com