[김병익 칼럼] 말하는 인공지능 앞에서

[김병익 칼럼]이제 사람 아닌 사물이 자기 말을 사용한다면? 제2의 인간이 출현하고 또 다른 사회가 형성되고 전혀 새로운 세계가 만들어질 것이다. 인간은 인간만이 전유하는 말을 통해 세계를 소유해왔는데, 그렇다면, 이제 인간이 아닌 어떤 것이 인간처럼 말을 사용해 또 하나의 사회, 또 다른 정신, 그리고 다시 새로운 세계를 구성해낼 것인가. 그때 당초의 우리 인간은 어떤 모습으로 존재, 혹은 잔존할 것일까?

김병익 | 문학평론가

인공지능(AI)이 말을 하기 시작했다는 기사를 보던 즈음, 뜻밖에 서강대 우찬제 교수의 메일이 왔다. 인공지능에 내 이름을 넣었더니 이런 소개가 나왔다며, 그 내용을 전하는 것이었다.

그 소개는 내 보기에 내 실재보다 내가 되었으면 하고 바라던 모습이어서, 공정하게 말해 반은 맞고 반은 지나친 것이었다. 이때의 나는 신문 기사로만 보고 나와는 인연 없는 사태라고 여겨온 인공지능이란 것에 우선 포박당하는 느낌을 받았고, 이어 그 기술적 공학적 과정과 원리를 이해하지 못한 채, 아마 모르기 때문에 더욱 심각하게, 인류의 발전 단계가 하나 더 올랐음을 진지하게 인정해야 했다. 피조물인 인간이 이제 조물주의 반열(!)에 올랐다는 것, 그것이 내 첫 소감이었다.

하긴 인간의 일을 대신 해줄 발명품은 매우 오래전부터 나타나 우리 삶 속에 축적되어왔다. 몽둥이가 주먹 대신 가축이나 적을 두드려 팼고 칼이 이 대신 과일과 고기를 잘랐다. 그 무기와 도구의 발전은 수천년을 거쳐 진행되면서, 총과 전차를 만들고 전기로 에너지와 빛을 얻고 기차와 자동차·비행기로 세상을 누볐으며, 로켓으로 우주를 날았고 원자력에서 그 동력을 찾았다. 마침내, 지능과 지력을 통해 인간만이 써왔던 말까지 사람 아닌 물건에 그 사용 능력을 심어준 것이다. 피노키오가 그 동화처럼 장난꾸러기 소년이 되고, 낭만주의 시대의 작가 셸리의 공상에서 나온 프랑켄슈타인이 실제로 존재하게 되면서 ‘비인간의 인간적 능력’을 보고 겪게 되었다.

아직은 이 인공의 언어가 인간의 언어를 따르지 못할 것이다. 내가 ‘사물의 언어’란 사건에 충격받고 두어권 책을 더듬어, 이해는 못 하면서 알게 된 점은 그랬다. 우선 그것은 어휘를 조립하여 제작된 것이어서 인간의 의식처럼 태어나 성장하지 않았다. 그렇기에 과거가 없고 인식과 그 가치를 갖추지 못한다. 챗지피티는 자기 말을 되풀이 인용할 수 있겠지만 그 지능을 얻기 전의 일을 회고할 수 없다. 그래서 생각과 반성이 없어 판단 기준도 없다. 말은 하지만 그 말이 진실인지 아닌지 판별할 능력이 당초부터 없다는 것은, 그것을 만든 인간에게 불행이기도 하고 다행이기도 하다. 그 피조물은 왜 나를 이렇게 만들었느냐고 항의하지도 보복하지도 않을 것이다.

챗지피티가 언어모델이지 사유모델이 아니라는 것이 그래서 다행이기도 하고, 인간보다 많이 부족한 점에 마음 놓이게도 한다. 키신저 등 <에이아이(AI) 이후의 세계> 저자들이 ‘생성형 사전 훈련 트랜스포머(GPT)'란 어려운 이름을 붙인 이 언어기계는 주어진 단어로 다음 단어를 연결하고 문장을 만들어 정보를 전하지만, 그 정보는 가치론적 사유 없이 언어 관계로만 이어져 말로서는 완벽하지만 그 말이 진실인지 거짓인지, 그게 어떤 의미를 갖는지에 개입하지 않는다. “인공지능은 인간의 지식을 확장하지만 이해를 확장하지 않는다.” 그것은 ‘생성된 지능’이지만 그 말의 유효성, 참됨을 판별하는 평가적 지능은 갖지 못한다. 말만 할 줄 알지 그 뜻을 모른다. 그러니까 그것은 사실을 전달하지만 가짜뉴스를 만들어낼 수도 있고 거짓말도 하지만 그게 가짜 혹은 헛말이라는 것을 모르는, 아니 애초부터 그 여부와 관계없는 존재이다.

<에이아이 이후의 세계>에는 재미있는 예시가 나온다. 2020년 초 미국 매사추세츠공과대(MIT) 연구진이 제작한 ‘지피티(GPT)-3’은 미완성 문장을 제시하면 완성된 문장으로 만들고, 말을 걸면 대화도 한다. 그 지피티-3에게 질문했다. “이 시스템이 실제로 뭔가를 이해할 수 있는가?” “네. 이해할 수 있습니다.” 다시, “지피티-3에 양심 혹은 덕성이 존재하는가?” “아니, 존재하지 않습니다.” 질문 3, “지피티-3은 독립적인 사고를 할 수 있는가?” 지피티-3은 그럴 수 없음을 자인하고 자기에겐 그럴 능력이 없다고 고백하며 이렇게 대답한다. “그 이유는 제가 여러분처럼 사고하는 기계가 아니라 언어모델이기 때문입니다.” 자기는 스스로 생각하고 의미를 만드는 사고의 존재가 아니라 어휘만 이어 문장을 만드는 언어생성모델이라는 것이다.

속사정은 모른 채 대충 짐작되는 내용이었다. 내장된 많은 어휘로 말을 만들 수 있지만 인간처럼 사유하고 판단하고 확인해서 발언하는 것이 아니라, 숱하게 떠도는 낱말들을 관련성으로 이어서 말로 만든다는 것이었다. 그 말 중에는 맞는 말도 있지만, 당연히 어이없는 말도 끼여 들 것이다. 비인간의 말이 인간보다 더 진실한 말을 할 수도 있지만, 그럼에도 턱도 없는 말, 이치에 닿지 않을 말이 더 많으리라는 것은 그래서 자연스럽다.

그럼에도 나는 그보다 더한, 더할 수 없는 두려움을 가지고 있다. 어쩌면 인류사는 거대한 획기에 처해 있는 게 아닌가 하는 놀라움이다. 사람은 말을 할 수 있기에 사피엔스가 되었다. 이제 사람 아닌 사물이 자기 말을 사용한다면? 제2의 인간이 출현하고 또 다른 사회가 형성되고 전혀 새로운 세계가 만들어질 것이다. 인간은 인간만이 전유하는 말을 통해 세계를 소유해왔는데, 그렇다면, 이제 인간 아닌 어떤 것이 인간처럼 말을 사용해 또 하나의 사회, 또 다른 정신, 그리고 다시 새로운 세계를 구성해낼 것인가. 그때 당초의 우리 인간은 어떤 모습으로 존재, 혹은 잔존할 것일까? 이 변혁은 구텐베르크의 인쇄기 발명이 일으킨 혁명을 돌이켜 보면 짐작이 된다. 단순히 문자의 빠른 보급 방법을 개발했을 뿐인데도, 그것은 종교혁명, 르네상스 등 인류사의 거대한 혁신을 불러왔다.

내 무지한 생각은 너무 나갔을 것이다. 예수의 제자 요한은 “태초에 말씀이 계시니라”며 복음서를 시작한다. 그런데 피조물인 인간이 “나는…” 하고 말씀을 떼는 기구를 제작했으니, 어찌 황당하지 않겠는가. 1시간 걸릴 일을 30초도 안 되는 순간에 치르는 이 인공지능은 가짜뉴스로 세상의 문리를 위협할 수도 있는데, 이때 세계는 정말 어디로 향할 것인가. 사람은 무엇이 되고 미래는 어떤 형상을 이룰 것인가. 코페르니쿠스가 이 지구를 밀쳐내고 태양을 세상의 중심에 옮겨놓았던 것 못지않은 변혁이 다가오는 게 아닐까. 우리는 언어의 발명, 문자의 발명에 이어 언어생성기의 발명으로 새로운 세계를 꺼내 오고 있는 것이 아닐까.