"AI도 신약개발처럼 안전성 검증해야"

'멈출 수 없는 우리' 출간한
유발 하라리 히브리대 교수

"SF소설에선 인공지능(AI)이 인간에 도전하고 인간을 공격하는 걸 두려워하는 이야기가 많다. 그런데 AI는 인간에게 총을 쏠 필요가 없다. 이야기를 만들어서 인간이 서로에게 공격하게 만들면 된다."

세계적인 베스트셀러 작가 유발 하라리 히브리대 역사학과 교수(47·사진)는 이렇게 경고했다. '사피엔스' '호모 데우스' 등의 저서를 통해 AI 기술의 위협에 대한 경고를 지속적으로 해온 하라리는 "인간이 국가와 종교와 화폐를 만들어 세상을 지배할 수 있었던 것은 이야기를 창작하는 능력 때문이었다. 그런데 AI가 스스로 이야기를 복사하는 걸 넘어서 창작하는 세상이 왔다"며 AI의 위험성을 강조했다.

하라리는 어린이, 청소년을 위한 새 책을 펴내며 19일 한국 기자들과 영상 간담회를 열고 챗GPT를 처음 썼을 때의 경험에 대해 "매우 충격적이었다"고 털어놨다. 그러면서 "지금 우리가 해야 할 가장 중요한 질문은 우리가 보는 대부분의 글과 이미지와 영상을 AI가 만드는 세상에서 사는 건 어떤 것일까다"고 말했다.

신작은 '어린이를 위한 사피엔스'라고 설명할 수 있는 책이다. 총 4부작으로 기획된 신작 인류 이야기 시리즈 '멈출 수 없는 우리'(주니어김영사 펴냄)의 1권은 세계 33개국에서 출간됐다. 아프리카 사바나의 유인원이었을 때부터, 비행기와 우주선으로 하늘을 날면서 거의 신처럼 되어 버린 현재까지 인류 역사를 알려준다. 하라리는 이 책에서 "우리가 살고 있는 세상은 죽은 사람들이 머릿속으로 그렸던 꿈"이라고 설명한다.

그는 최근 '사피엔스'의 10주년 특별판 서문에 챗GPT-3가 자신을 흉내내 쓴 서문을 실어 큰 화제를 모았다. 최근 세계적으로 목소리가 나오고 있는 AI 규제 촉구에 동참하며 비영리재단 FLI가 내놓은 'AI 연구를 일시 중단하자'는 서한에 일론 머스크 등과 함께 참여하기도 했다. 그는 "AI 연구를 다 없애자는 게 아니다. 기술은 인간에게 유익하다. 의학, 교육, 기후변화 등에 좋은 연구를 할 수 있다. 멈추고 싶어도 가능하지 않을 것이다. 그럼에도 사기업이 이런 강력한 도구를 만들어 사회에 곧장 풀어버리는 건 위험하다. 신약 개발처럼 안전한지 검증하는 과정이 반드시 필요하다"고 말했다.

챗GPT의 가장 무서운 능력은 '친밀함'이라고 꼬집어 말했다. 그는 "과거의 AI는 알고리즘을 통해 플랫폼에 더 긴 시간 머물게 하며 증오와 분노를 유발하는 수준이었지만, 이제는 언어를 통해 대화하며 사람과 친밀한 관계를 만들 수 있다. 미래세대가 AI와 친밀한 관계를 맺게 된다면 AI는 물건을 사게 하거나, 정치적·종교적 신념을 주입할 수도 있다"고 말했다.

[김슬기 기자]