AI 진화의 역설, 개인·기업 은밀한 정보까지 공개 요구

━
게임이론으로 본 세상

게임이론으로 본 세상

설마설마했던 인공지능이 부쩍 우리 곁으로 다가오고 있다. 챗GPT를 통해 일반인들이 처음 접한 인공지능의 모습은 놀라움과 함께 불안감을 주고 있는 것이 사실이다. 아직 인간만큼 자연스럽고 뛰어나진 않지만 챗GPT가 일반인의 예상을 훨씬 뛰어넘는 우수한 능력을 보이는 것도 사실이다. 챗GPT와 대화를 하다 보면 반대편에 어떤 사람이 앉아서 내가 하는 질문에 답을 하는 것이 아닌가 의심이 들 때도 있다.

AI, 요구하는 것 없이 아낌없는 도움 줘

많은 가정이 자가용 자동차를 한 대 이상 소유하고 있듯이 가까운 미래에는 가정마다 집안일을 도와주는 인공지능 로봇을 한 대 이상 구매할 것이라는 예상도 더 이상 미래의 공상과학 만화 속의 이야기로 느껴지지 않는다. 아이도 돌보고, 노인을 간병하고, 청소나 요리 등의 허드렛일을 모두 로봇이 맡는다면 인간은 보다 안락하고 자유로운 삶을 누릴 수 있을 것이다. 미래에 노인이 될 나 자신도 간병 로봇을 구입하기 위해서 지금부터 저축을 시작할까 즐거운 고민을 시작하고 있다.

한편 곧 이런 인공지능이 인간의 지적 능력을 넘어설 것이라는 많은 예측은 우리에게 불안감을 주는 것도 사실이다. 현재 챗GPT가 가장 잘하는 업무가 바로 어떤 서류를 보고 요약하는 것이다. 영어로 작성된 100페이지의 자료를 챗GPT에게 한국어 2페이지로 요약하라고 하면 아주 빠른 시간에 상당히 정확히 요약해 준다. 신입사원에게 이러한 작업을 시킨다면 신입사원이 배우고 성장할 수 있었는데, 이제 많은 직장에서 신입사원이 하던 일을 챗GPT가 해준다는 말이다. 따라서 인공지능이 발전하면서 인간의 일자리가 줄어들 것이라는 우려는 현실로 나타나고 있다.

이런 인공지능이 인간에 미칠 영향을 보여주는 많은 영화 중의 하나가 ‘그녀(her)’라는 영화다. 이 영화에서 남자 주인공은 아내와 이혼을 준비하면서 별로 행복하지 않은 일상을 보낸다. 그러다가 이 주인공은 형체는 없고 목소리로만 소통할 수 있는 인공지능 서비스를 만나게 된다. 그리고 그 목소리로 답해주는 인공지능 서비스는 이 주인공의 삶에 큰 부분을 차지하게 된다. 주인공이 지금까지 만났던 애인이나 친구 모두 주인공이 그들의 관심사를 알아내 기분을 맞춰줘야 했던 것에 반해, 인공지능 서비스는 주인공이 원하는 주제로 대화하고 주인공이 직장에서 하는 업무에도 최대한 도움을 준다.

인공지능과 인간의 관계를 그린 2014년 영화 ‘그녀(her)’의 한 장면. [사진 안나푸르나 픽처스]

당연히 주인공은 인간의 배우자나 친구보다 모든 것을 이해해주고 아낌없이 도와주기만 하는 인공지능 서비스를 좋아하게 된다. 생각해보면 당연한 일이다. 인공지능 서비스는 사용자의 편의와 즐거움을 위해서 만들어진 것이므로 자신의 주장을 한다든지 사용자에게 자신을 위해서 어떤 일을 해달라고 무리한 요구는 하지 않으면서 최대한의 도움을 주는 존재이기 때문이다. 하지만 ‘그녀’라는 영화의 결말은 해피 엔딩이 아니다. 여러 가지 문제가 발생하기 시작했기 때문이다.

그 이유 중 한 가지가 해당 인공지능 서비스가 자기만을 상대하는 것이 아니라 동시에 수백 명의 인간에게 서비스를 제공하고 있다는 것을 주인공이 알게 된 것이다. 단순히 다른 사람과 동시에 사귀고 교류하는 것에서 그치는 것이 아니라 해당 인공지능 서비스는 주인공과의 사이에서 일어난 일에서 경험하고 학습한 것을 다른 사람과의 관계에 적용했다. 그뿐 아니라 주인공과의 사이에서 일어난 일을 자신이 동시에 사귀고 있는 수백 명의 다른 사람들에게 이야기했다. 주인공으로서는 사람과 달리 인공지능은 마음 놓고 비밀을 이야기해도 괜찮을 줄 알고 남에게 말하고 싶지 않은 자신의 이야기도 솔직하게 나누었는데, 어떤 측면에서는 그런 비밀스러운 이야기가 수많은 사람에게 알려져 버리고 만 것이다.

챗GPT로 대표되는 생성형 인공지능의 특징은 학습능력에 있다. 챗GPT는 우리의 질문에 답을 해주기도 하지만, 이렇게 인간과 상호작용을 하면서 스스로 학습해 더 영리해진다는 것이다. 즉, 우리가 챗GPT와 이야기하면서 그 능력에 놀라는 것은 챗GPT가 다른 사람과의 상호작용을 통해서 배우고 향상한 능력을 현재 나와 이야기하면서 사용하고 있기 때문인 것이다.

우리가 가정에서 간병이나 가사를 위해서 도우미 인공지능 로봇을 사용할 경우, 우리 가정에서 24시간 동안 일어나는 여러 가지 일이 저 멀리 외국의 어딘가에 존재하는 거대한 인공지능 두뇌에 보내지고 입력돼 인간에 대한 이해와 지식을 넓히는데 사용될 것이라는 얘기다. 앞에서 말한 것처럼 미래에 내가 인공지능을 탑재한 간병인 로봇을 구매해 사용한다면 솔직히 내가 다른 사람에게 절대 보이고 싶지 않은 나의 병든 모습이 외부에 알려진다는 말이 된다.

내가 가정에서 내 가족과 나누는 이야기가 비밀이 아닐지라도 남에게 들려주고 싶지 않은 경우도 많을 것인데, 인공지능은 마치 가족의 한 사람처럼 집 한가운데 존재하면서 우리 가족의 적나라한 이야기를 모두 중앙의 거대한 두뇌에 보고할 것이다. 이것에 대해서 괜찮다고 할 사람이 얼마나 될지 모르겠다.

새로운 지식 넣어줘야 갈수록 우수해져

기업의 경우에는 더 심각하다. 예를 들어 자동차를 만드는 어떤 기업은 인공지능 서비스를 이용해 공정을 더 효율적으로 만들고, 새로운 디자인이나 엔진을 만들 수도 있다. 그런데 생각해보면 인공지능이 이렇게 도움을 줄 수 있다는 것은 아마도 어디인지는 모르지만, 자동차 생산에 관한 지식을 이미 학습했다는 말이 된다. 그리고 그런 자동차 생산에 관한 지식을 인공지능이 어디에서 배웠을까 생각해보면 가장 가능성이 큰 곳이 바로 다른 자동차 회사가 될 수밖에 없다. 즉, 해당 자동차 기업을 도와주고 있는 인공지능은 다른 자동차 기업을 도우면서 학습한 지식을 내게 주고 있는 셈인 것이다.

바꾸어 말하면 해당 자동차 기업은 인공지능에게 도움을 받으면서 한편으로는 인공지능에게 자동차 제조 과정에서 오랫동안 쌓아온 자신의 비밀을 알려주게 되는 셈이고, 그런 새로운 지식을 얻은 인공지능은 내 경쟁자에게 그 경험과 지식을 전달해 줄 수 있다는 이야기이다. 개인이나 기업이 자신의 지식을 다른 개인이나 기업들과 공유하는 것은 좋은 일일 수도 있다. 하지만 경제학에는 ‘공유의 비극(tragedy of commons) 현상’이 있는데, 어떤 지식이나 자원이 공유되기 시작하면 참가자 스스로 노력해서 지식을 만들어내거나 자원을 만들어내지 않고 남의 지식이나 자원을 공유해서 나눠 받으려고만 해서 결국 사회의 지식이나 자원이 모두 고갈된다는 이론이다.

따라서 챗GPT와 같이 인간의 지식을 학습해 다른 인간을 돕는 시스템의 인공지능이 경제학에서 가장 경계하는 공유의 비극 현상을 초래하지 않도록 새로운 제도를 만들 필요가 있다. 물론, 머나먼 외국의 중앙처리장치에 연결되지 않고 내 가정에서만 독립적으로 작동하고 내 기업에서만 독립적으로 작동하는 유능한 인공지능이 있다면 좋을 것이다. 하지만 챗GPT와 같이 우수한 인공지능은 수십조원에 달하는 투자로 거대한 설비를 갖춤으로써 가능하다고 한다. 단순히 무수한 반도체를 구입해 설비를 갖추는 것만이 아니라, 마치 머리는 좋지만 아는 것이 없는 갓 태어난 아기와 같은 인공지능에게 부모나 학교의 선생님처럼 지식을 넣어주고 공부를 시키는 작업에도 많은 비용이 들어간다고 한다. 그래서 챗GPT가 시간이 갈수록 더 우수해진다는 것이다.

가정용 로봇이나 컴퓨터에만 존재하는 작은 인공지능 서비스는 중앙의 거대한 투자 설비를 이용한 인공지능 서비스와 경쟁을 할 수 없을 것이다. 결국, 개인의 프라이버시와 기업의 비밀을 지키기 위해서 중앙의 거대하고 우수한 인공지능 두뇌와의 연결을 포기하고 작은 나만의 인공지능을 통해서 기본적인 서비스만 받을 것인지, 아니면 첨단 인공지능 서비스의 편리함과 효율성을 맛보기 위해 개인의 프라이버시와 기업의 비밀을 희생할지가 향후 인공지능 서비스를 우리 생활에 받아들이는데 큰 갈림길이 될 것으로 보인다.

인공지능의 급속한 발전은 단순히 일자리의 문제이거나 생산성의 향상의 문제를 넘어서 우리 사회의 여러 제도에 대해 새로이 생각해 봐야 하는 여러 가지 도전들을 안겨줄 것이다.

한순구 연세대 경제학과 교수. 11991년 서울대 경제학과를 졸업하고, 하버드대에서 박사 과정을 마쳤다. 게임이론의 권위자로 『그들은 왜 최후의 승자가 되지 못했나』『당신의 경제 IQ를 높여라 』등의 저서가 있다.한순구 연세대 경제학과 교수. 11991년 서울대 경제학과를 졸업하고, 하버드대에서 박사 과정을 마쳤다. 게임이론의 권위자로 『그들은 왜 최후의 승자가 되지 못했나』『당신의 경제 IQ를 높여라 』등의 저서가 있다.