“아이들에게 정보 가려내는 힘 키워줘야”

청소년 신간 ‘멈출 수 없는 우리’ 펴낸 유발 하라리 교수
“AI가 이야기 직접 창작하면
인간끼리 총 겨누게 만들 수도
챗GPT 철저 점검… 속도 늦춰야”

“공상과학 영화에서는 인공지능(AI)이 로봇과 총을 이용해 인간에게 도전할까봐 두려워했다. 하지만 이제 AI는 인간을 지배하기 위해 인간이 서로에게 총을 쏘도록 이야기를 만들 수 있다.”

유발 하리리 교수

베스트셀러 ‘사피엔스’의 저자 유발 하라리 예루살렘히브리대 교수는 19일 “지금까지 이야기를 만들 수 있는 존재는 인간밖에 없었고 그것이 우리 힘의 원천이었는데, AI가 인간의 이야기를 복사하는 데 그치지 않고 직접 만들어내면 세상은 어떻게 될까”라며 이렇게 말했다.

하라리 교수는 신간 ‘멈출 수 없는 우리① : 인간은 지구를 어떻게 지배했을까’(김영사) 출간을 기념해 이날 서울 종로구 노무현시민센터에서 온라인으로 한국 기자들을 만났다. 신간은 ‘사피엔스’의 어린이·청소년 버전이다.

그는 책에서 여러 인류 중 인간의 조상인 호모 사피엔스가 유일하게 살아남은 이유는 협력하는 능력과 이야기를 상상하고 만들어내는 능력 덕분이라고 설명한다. 그 창조적이고 파괴적인 능력이 다른 동물을 멸종시키고 기후변화 등 각종 위기를 불러왔지만, 회복하고 되돌리는 것 역시 우리 힘으로 할 수 있다고 역설한다.

하지만 최근 챗GPT의 등장은 이야기를 만들어내는 것이 더 이상 인간만의 능력이 아니라는 것을 의미한다. 지난해 ‘사피엔스’ 10주년 특별판 서문에 GPT-3가 자신을 흉내 내 쓴 서문을 실어 화제를 모았던 하라리 교수는 “정말 충격적이었다”고 털어놨다.

그는 “우리는 이미 소셜미디어 알고리즘의 부작용을 경험했다”며 “페이스북이나 트위터, 틱톡은 사용자들을 플랫폼에 오래 머물게 하기 위해 증오와 분노를 유발하는 콘텐츠들을 배치해 사회 양극화를 심화시켰다”고 비판했다.

새로운 AI는 더 위험하고 강력한 능력, 인간과 친밀한 관계를 만들 수 있다고 하라리 교수는 경고한다. 사람 간 친밀함은 언어로 만들어지고 인간만이 할 수 있었는데, 대화형 AI인 챗GPT는 그런 친밀함까지도 만들 수 있다는 것. 그는 “인간은 친밀함에 가장 영향을 받는다”면서 “AI가 언어를 사용해 아이와 친밀한 관계를 형성하면 물건을 사게 하고, 정치적 신념을 주입하고, 종교를 바꾸게도 할 수 있다”고 내다봤다.

하라리 교수는 “AI 연구를 하지 말자는 게 아니라, 약간 속도를 늦추자는 것”이라며 “기업이 신약을 만들 때도 장·단기 안전성을 철저히 검증하듯 AI의 영향을 엄격하게 체크한 뒤 대중이 이용하게 해야 한다”고 강조했다.

AI가 가져올 변화를 예측할 수 없기에 교육이 가장 중요하다고 그는 역설한다. 하라리 교수는 “20년, 30년 후에 세상이 어떻게 변할지 아무도 모른다”며 “아이들에게 과거처럼 정보를 가르칠 필요 없다. 믿을 만한 정보인지 가려내는 능력과 여기저기 흩어진 정보의 조각들을 맞춰 큰 그림을 그려내는 능력, 기술 발달에 맞춰 계속 학습하고 변화하는 능력을 키워줘야 한다”고 당부했다.

김수미 선임기자 leolo@segye.com