유발 하라리 “AI가 이야기를 창조할 때, 인간은 서로를 쏘게 될지 모른다”

‘멈출 수 없는 우리’ 출간한
유발 하라리 히브리대 교수

유발 하라리 [김영사]

“SF소설에서는 인공지능(AI)가 인간에 도전하고 공격하는 걸 두려워하는 이야기가 많다. 그런데 AI는 인간에 총을 쏠 필요가 없다. 이야기를 만들어서 인간이 서로에게 공격하게 만들면 된다.”

세계적인 베스트셀러 작가 유발 하라리 히브리대 역사학과 교수(47)는 이렇게 경고했다. ‘사피엔스’ ‘호모 데우스’ 등의 저서를 통해 AI 기술의 위협에 대한 경고를 지속적으로 해온 하라리는 “인간이 국가와 종교와 화폐를 만들어 세상을 지배할 수 있었던 것은 이야기를 창작하는 능력 때문이었다. 그런데 AI가 스스로 이야기를 복사하는걸 넘어서 창작하는 세상이 왔다”면서 AI의 위험성을 강조했다.

하라리는 어린이, 청소년을 위한 새 책을 펴내며 19일 한국 기자들과 영상 간담회를 열고 챗GPT를 처음 썼을 때의 경험에 대해 “매우 충격적이었다”고 털어놨다. 그러면서 “지금 우리가 해야할 가장 중요한 질문은 우리가 보는 대부분의 글과 이미지와 영상을 AI가 만들어지는 세상에서 사는건 어떤 것일까다”라고 말했다.

신작은 어린이를 위한 ‘사피엔스’라고 설명할 수 있는 책이다. 총 4부작으로 기획된 신작 인류 이야기 시리즈 ‘멈출 수 없는 우리’(주니어김영사)의 1권은 세계 33개국에서 출간됐다. 아프리카 사바나의 유인원이었을 때부터, 비행기와 우주선으로 하늘을 날면서 거의 신처럼 되어 버린 현재까지 인류 역사를 알려준다. 하라리는 이 책에서 “우리가 살고 있는 세상은 죽은 사람들이 머릿속으로 그렸던 꿈”이라고 설명한다.

최근 ‘사피엔스’의 10주년 특별판 서문에 GPT-3가 자신을 흉내내 쓴 서문을 실어 큰 화제를 모았다. 최근 세계적으로 목소리가 나오고 있는 AI의 규제 촉구에 동참하며 비영리재단 생명의미래연구소(FLI)의 인공지능 연구 중단 선언에 일론 머스크 등과 함께 참여하기도 했다. 그는 “AI 연구를 다 없애자는게 아니다. 기술은 인간에게 유익하다. 의학, 교육, 기후변화 등에 좋은 연구를 할 수 있다. 멈추고 싶어도 가능하지 않을 것이다. 그럼에도 사기업이 이런 강력한 도구를 만들어 사회에 곧장 풀어버리는 건 위험하다. 신약 개발처럼 안전한지 검증하는 과정이 반드시 필요하다”라고 말했다.

챗GPT와 같은 새로운 AI의 가장 무서운 능력은 ‘친밀함’이라고 꼬집어 말했다. 그는 “과거의 AI는 알고리즘을 통해 플랫폼에 더 긴 시간 머물게하며 증오와 분노를 유발하는 수준이었지만, 이제는 언어를 통해 대화하며 사람과 친밀한 관계를 만들수 있다. 자라나는 세대가 AI와 친밀한 관계를 맺게 된다면 AI는 물건을 사게하거나, 정치적·종교적 신념을 주입할수도 있다. 친밀함만큼 무서운건 없다. 인간은 친밀함에 가장 큰 영향을 받는다”라고 말했다.

그는 지금과 같은 기술 발전으로 인해 혼란한 시대에 가장 중요한 능력은 ‘교육’임을 다시 강조했다. “계속 학습하고 계속 변화하는 능력을 우리는 배워야 한다. 기술이 너무 빨리 변하기 때문에 새로운 기술을 습득하고 새로운 직업을 가질 수 있는 변화의 능력을 배워야한다. 여기에 역사가 도움이 될 것이다. 변화가 어떻게 이루어졌는가를 공부하는 것이 역사다.”