유발 하라리 “AI, 사람인척 내버려둬선 안돼”

‘넥서스’ 출간 국내 기자 간담회서 경고

“가짜뉴스 엄단해야”

유발 하라리 교수가 15일 줌으로 진행된 기자 간담회에서 인공지능 위험을 경고하고 있다. <김영사>

“인공지능(AI)이 사람인 척 행동하는 것을 당장 못하게 해야 합니다. 챗봇들이 인간들이 하는 대화에 끼어들면 결국 이성적인 대화가 불가능해지고 민주주의 토대가 무너질 수밖에 없어요.”

초대형 베스트셀러 ‘사피엔스’를 쓴 작가 유발 하라리 예루살렘 히브리대 역사학과 교수(48)가 15일 오후 줌(zoom)으로 진행된 국내 언론과의 간담회에서 AI 규제 도입을 강력 촉구했다.

6년만에 신작 ‘넥서스’(김영사)를 펴낸 그는 “알고리즘이 가짜뉴스와 분노 콘텐츠를 밀고 사람의 감정을 건드리는 방식으로 많은 얘기를 하고 있다”며 “민주주의는 인간 사이의 대화를 기본으로 하는 건데, AI의 개입으로 이성적인 대화가 점점 불가능해지고 있다”고 꼬집었다.

현재 프랑크푸르트 도서전 참석차 독일에 체류 중인 그는 수년 전부터 여러 강연과 토론을 통해 AI혁명에 반기를 들었다. 그것이 역사학자의 의무라는 게 그의 소신이다.

그는 “AI는 하나의 도구가 아니라 스스로 배우고 결정하는 독립적인 행위자”라며 “국제사회 긴장이 계속된다면 AI 통제가 불가능해져 인간 종은 결국 종말을 맞이할 지 모른다”고 경고했다. 특히 “AI가 학습하는 모든 데이터는 이미 여성과 인종, 성적 소수자에 대해 편향된 정보를 갖고 있다”며 “이 오염된 정보를 가진 AI가 스스로 결정을 내릴 때 어떤 세상이 도래하겠느냐”고 반문했다. 그는 이어 “19세기 산업 혁명을 주도한 앞선 나라들이 전 세계를 침탈하고 지배했듯이, AI혁명을 주도하는 소수의 나라가 세계를 지배하고 착취할 가능성이 크다”고 지적했다. 미국과 중국을 제외한 다른 나라들은 사실상 무방비 상태라는 게 그의 진단이다.

하라리 교수는 북한의 독재체제를 거론하며 “AI가 북한의 김정은을 좌지우지하게 된다면 나라 전체가 끝장날 것”이라며 “독재자들도 AI 위험에서 자유롭지 않다”고 말했다. 당장 AI를 통제하며 부와 권력을 누린다 하더라도 관계 역전은 시간 문제라는 게 그의 분석이다.

그가 보기에 개인에게도 AI는 축복보다 재앙에 가깝다. 불안을 더 키울 수 있기 때문이다. 하라리 교수는 “인간은 낮과 밤, 계절 등 생체적인 주기로 살아가는데 AI는 주기가 없다. 쉼도 없이 늘 켜져 있다”고 말했다.

그 역시 바쁜 일상 속에서도 하루 2시간씩 명상을 하고 있다고 말했다.

“정보라는 게 마음이 먹는 음식입니다. 음식도 너무 많이 먹으면 안 되듯이 너무 많은 정보를 투입하는 것은 건강에 좋지 않아요. 마음의 음식도 먹고 소화하는 시간이 필요하죠.”