유발 하라리 "증오 유발하는 이야기 만들면···챗GPT, 인간에 큰 위협될 것"

[신간 '멈출 수 없는 우리' 출간 영상 간담회]
AI가 인간 수준 발전 예상 못해
충격 크지만 연구중단은 불가능
사용전 충분한 검토기간 거쳐야

19일 오후 서울 종로구 노무현시민센터 다목적홀에서 열린 영상 기자간담회에서 ‘사피엔스’의 저자 유발 하라리가 질문에 대답하고 있다. /최수문 기자

[서울경제]

“다른 신약이나 기술 제품처럼 챗GPT도 사용 허용 전에 충분한 검토와 조정 기간을 가져야 합니다. 민간기업에서 만든 물건을 아무런 공적 점검도 없이 그냥 사용하게 한다는 것은 허용될 수 없습니다. ”

이스라엘 출신의 세계적 석학인 유발 하라리 예루살렘 히브리대 역사학과 교수는 19일 서울 종로구 노무현시민센터에서 진행된 영상 간담회에서 요즘 국제적으로 큰 이슈가 되고 있는 생성형 인공지능(AI)인 챗GPT 논란에 대해 이렇게 말했다.

그는 최근 번역 출간된 ‘멈출 수 없는 우리(원제는 Unstoppable us)-①인류는 어떻게 지구를 지배했을까(김명주 옮김, 주니어김영사 펴냄)’와 관련한 기자 간담회를 가졌다. 이번 책은 4부작의 첫 번째로, 후속작이 이어질 예정이다.

이날 그는 챗GPT에 대해 “좀 쇼크인 것은 사실”이라며 “AI 기술이 이렇게 빨리 발전하면서 인간 수준으로 글을 쓰고 이미지와 동영상을 만들 줄은 미처 예상하지 못했다”고 인정했다. 다만 그는 “물론 그렇다고 해서 AI 연구를 그만하자는 것은 아니고 중단하는 것이 가능하지도 않다”며 “우리에게 필요한 것은 잠시 멈춰서 기술의 수준과 여파를 살필 시간을 갖자는 것”이라고 말했다.

AI와 관련해서 이탈리아 등 각국에서 규제 움직임이 있는 상황이다. 특히 비영리 단체 퓨처오브라이프인스티튜트는 모든 기업과 연구소에 최신작 GPT-4보다 강력한 AI 시스템의 학습을 최소 6개월간 중단하자고 요구했다. 이러한 호소에는 하라리 교수도 참여한 것으로 알려졌다.

챗GPT가 위협적인 것은 “스스로 이야기를 만들 수 있는 능력 때문”이라고 하라리 교수는 지적했다. 그는 전작인 ‘사피엔스’ 등을 통해 인간이 세계를 지배할 수 있었던 이유가 언어를 통해 공통된 이야기를 만들고 서로 협력할 수 있었다고 주장해 왔다. 그런데 이제 AI까지 이야기를 만들 수 있게 됐다는 것이다.

그는 “페이스북이나 트위터 등 SNS 플랫폼도 낮은 단계의 AI인 데 이들은 이야기를 모아 공급하며 사람들의 플랫폼 내 체류시간을 늘리는 것이 수익구조”라면서 “이런 과정에서 사람 간의 분노와 증오를 유발하는 이야기가 더 돈이 된다는 것을 알아냈다”고 주장했다.

그런 상황에서 챗GPT 자체가 분노와 증오를 유발하는 이야기를 만들어낼 경우 이는 인간에 대한 커다란 위협이 된다. 그는 “영화처럼 AI 로봇이 인간을 공격할 필요는 없다”며 “인간이 싸우도록 이야기만 만들면 된다”고 지적했다.

이어 “AI 든 무슨 문제든 우리 인간으로 인해 생겼으니 우리가 해결할 수 있다. 좋은 쪽이든 나쁜 쪽이든 인간은 무엇이든 할 수 있다는 힘을 우리는 인식해야 한다”고 강조했다.

신간 ‘멈출 수 없는 우리’는 사실상 어린이·청소년용 ‘사피엔스’라고 할 수 있다. ‘사피엔스’가 2011년 처음 출간된 이후 10여 년이 흘렀고 또 그동안 새 사실이 밝혀지고 저자의 인식도 바뀐 점이 있어 새로운 저작이 필요했다는 것이다 .

다만 이번에 어린이용을 쓴 데 대해서는 “편견과 그릇된 인식은 성년이 돼서는 고치기 힘들다”며 “어릴 때부터 정확한 과학적 사실을 알려줘야 한다는 점에서 이번 책을 만들었다. 전작인 ‘사피엔스’의 어린이판이 아니라 사실상 새 책이라고 할 수 있다”고 말했다. ‘사피엔스’처럼 인류의 서사시가 펼쳐져 있는데 대신 텍스트 뿐만 아니라 그림과 사진에도 상당한 비중이 두어졌다.

책 제목이 ‘멈출 수 없는 우리’가 된 이유에 대해 그는 “지구 상 어떤 생물도 인간을 억제하거나 멸망시킬 수 없다는 점에서 인간은 슈퍼파워라는 점과 함께 인간의 욕심은 끝도 없다는 2가지 의미를 담았다”고 설명했다.

최수문기자 기자 chsm@sedaily.com