유발 하라리 “챗GPT가 이야기 만들어내 인간끼리 총 쏘게 할 수도”

청소년판 ‘사피엔스’인 신작 ‘멈출 수 없는 우리’ 출간
호모 사피엔스가 유일하게 살아남아 세계 지배자 된 힘
대규모로 협력하고 이야기 만들어내는 능력이 원천
챗GPT가 언어 통해 인간과 친밀한 관계 만들면 위험
아이들에게 믿을만한 정보 걸러내는 능력 가르쳐야

“공상과학 영화에서는 인공지능(AI)이 로봇과 총을 이용해 인간에게 도전할까봐 두려워했다. 하지만 이제 AI는 인간을 지배하기 위해 인간이 서로에게 총을 쏘도록 이야기만 만들면 된다.”

세계적인 베스트셀러 ‘사피엔스’의 저자 유발 하라리 예루살렘히브리대 교수는 19일 “지금까지 이야기를 만들 수 있는 존재는 인간밖에 없었고 그것이 우리 힘의 원천이었는데, AI가 인간의 이야기를 복사하는데 그치지 않고 직접 만들고 창작하면 세상은 어떻게 될까”라며 이렇게 말했다. 

유발 하라리는 19일 한국 언론과 온라인 기자간담회에서 “지금 우리는 인류 역사 200만년 중 가장 큰 존재론적 위기를 맞았다”며 “한편으론 인공지능이 다른 한편으론 환경이 우리를 위협하는 지금 스스로 보호하기 위해 인류가 하나로 뭉칠 때다. 우리가 역사를 공부하고 아이들에게 교육하는 것이 그 방법이 될 수 있다”고 말했다.

하라리 교수는 신간 ‘멈출 수 없는 우리① : 인간은 지구를 어떻게 지배했을까’(김영사) 출간을 기념해 이날 서울 종로구 노무현시민센터에서 온라인으로 한국 기자들을 만났다. 신간은 ‘사피엔스’의 어린이·청소년 버전이다. 

그는 책에서 여러 인류 중 인간의 조상인 호모 사피엔스가 유일하게 살아남은 이유는 협력하는 능력과 이야기를 상상하고 만들어내는 능력 덕분이라고 설명한다. 그 창조적이고 파괴적인 능력이 다른 동물들을 멸종시키고 기후변화 등 각종 위기를 불러왔지만, 회복하고 되돌리는 것 역시 우리 힘으로 할 수 있다고 역설한다. 

그러나 최근 챗GPT의 등장은 이야기를 만들어내는 것이 더이상 인간만의 능력이 아니라는 것을 의미한다. 지난해 ‘사피엔스’ 10주년 특별판 서문에 GPT-3가 자신을 흉내내 쓴 서문을 실어 화제를 모았던 하라리 교수는 “정말 충격적이었다”는 경험담을 털어놨다. 최근 비영리 단체 퓨처오브라이프 인스티튜트'가 모든 기업과 연구소에 챗GPT4보다 더 강력한 인공지능 시스템의 학습을 최소 6개월간 중단하자고 성명을 발표할 때 하라리 교수도 동참했다.

우리는 이미 소셜미디어 알고리즘의 부작용을 경험했다. 그는 “페이스북이나 트위터, 틱톡은 스스로 콘텐츠를 만들어내지 못하고 누구에게 무엇을 보여줄지만 결정하는 굉장히 원시적인 수준의 AI”라며 “그들은 사용자들을 그들의 플랫폼에 오래 머물게 해서 돈을 버는데 증오와 분노, 공포를 유발하는 콘텐츠일 수록 사용자들이 오래 본다는 것을 알고 그런 것들을 배치해 사회 양극화를 심화시켰다”고 비판했다.

새로운 AI는 더 위험하고 강력한 능력, 인간과 친밀한 관계를 만들 수 있다고 그는 경고한다. 사람 간의 친밀함은 언어로 만들어지고 인간만이 할 수 있었는데, 대화형 AI인 챗GP는 그런 친밀함까지도 만들 수 있다는 것이다. 하라리 교수는 “인간은 친밀함에 가장 영향을 받는다”면서 “AI가 언어를 사용해 아이와 친밀한 관계를 형성하면 아이로 하여금 물건을 사게 하고, 정치적 신념을 주입하고, 종교를 바꾸게도 할 수 있다”고 내다봤다. 

하라리 교수는 “AI 연구를 하지 말자는 게 아니다. 다만 약간 속도를 늦추자는 것”이라며 “기업이 신약이나 강력한 기술을 만들 때도 장·단기적으로 안전한지 철저하게 검증하듯이 AI도 그 영향을 엄격하게 체크하는 과정이 반드시 수반돼야 한다”고 강조했다. 

‘사피엔스’의 청소년판 신간 ‘멈출 수 없는 우리’. 김영사 제공

AI가 가져올 변화를 예측할 수 없기에 교육이 가장 중요하다고 그는 역설한다. 

하라리 교수는 “20년, 30년 후에 세상이 어떻게 변할지 아무도 모른다”며 “이제 아이들에게 더이상 정보를 가르칠 필요 없다. 믿을 만한 정보인지 가려내는 능력과 여기저기 흩어진 정보의 조각들을 맞춰 큰 그림을 그려내는 능력, 기술의 발달에 맞춰 계속 학습하고 변화하는 능력을 키워줘야 한다”고 말했다.

책을 쓴 이유에 대해서도 “수십 만년 전 아프리카 사바나에서  별볼일 없던 인간이 어떻게 세계의 지배자로 변모했는지를 살펴보고, 또 다른 변화에 어떻게 준비할 지를 얘기해보고 싶었다”고 설명했다. 

8∼12세 독자를 겨냥한 ‘멈출 수 없는 우리’는 총 4부작으로 구성된 시리즈로 올해 1권을 시작으로 매년 1권씩 출간될 예정이다. 출판사 측에서는 제목을 ‘어린이 사피엔스’로 하려고 했지만 하라리 교수는 ‘멈출 수 없는 우리(Unstoppable Us)’를 고수했다고 한다. 제목의 의미에 대해 그는 “두 가지 의미가 있다. 한 가지는 인류의 힘이 이만큼 엄청나서 어떤 동물도 우리를 멈출 수 없다”라며 “또 다른 의미는 조금 어두울 수 있지만 우리 스스로도 우리를 멈출 수 없다는 것이다. 더 많은 돈과 힘을 인류는 항상 원해왔고 만족하지 않았다”고 설명했다.

신간이 아닌 어린이를 위해 인류의 역사를 다시 쓴 이유에 대해서는 “사피엔스를 읽은 성인 독자를 만나 정치, 종교, 경제에 대해 이야기를 나눌 때 그들의 생각을 바꾸는 게 정말 어렵다는 걸 느꼈다”며 “그래서 선입견 없는 어린 독자들이 처음부터 과학과 역사를 기반으로 한 세계관을 기를 수 있도록 도와주고 싶었다”고 밝혔다.

김수미 선임기자 leolo@segye.com