제어할 수 없는 ‘초지능 시대’가 온다 해도 끈질기게 견제하자, 개입할 틈을 만들기 위해[전문가의 세계 - 박승일의 영화X기술]

(4) 트랜센던스 : 지수함수적 기술 발전

A4 종이 한 장을 반으로 접어보자. 두께가 대략 0.1㎜이니 한 번 접으면 0.2가 되고 두 번 접으면 0.4가 된다. 이렇게 접어봐야 얼마나 두꺼워질까 싶었지만, 웬걸 일곱 번 정도 접으니 내 힘으로는 더 이상 접기 어려워서 할 수 없이 계산기를 꺼내들었다. 열 번째 접었을 때의 두께를 계산해보니 이미 성경책 두께 정도인 10㎝를 넘었고 변화의 폭은 점점 더 넓어져갔다. 스무 번 접었을 때 종이의 두께는 100m쯤 됐고 서른 번 접었을 때는 무려 100㎞를 훌쩍 넘어섰다. 두 번만 더 접으면 서울에서 부산까지의 거리이다. 고작 0.1㎜에서 시작했지만, 변화는 이처럼 가파르고 극적이었다. 처음에는 거의 변화가 없다시피 하다가 이렇게 어느 순간 급상승 곡선을 그리면서 수직으로 치닫는 함수를 ‘지수함수’라고 부른다. 그렇다. 이번 칼럼은 기술 발전이 지수함수적으로 이루어질 것이라고 믿는 사람들에 대한 이야기이다. 물론 영화를 중심으로 말이다.

기술이 기술을 발전시키는 지수함수의 시간

테러로 인해 시한부가 된 과학자 윌
뇌를 컴퓨터에 업로딩해 영생 얻어

“우리는 지능적인 기계의 도움을 받아 인류의 난제를 해결하게 될 겁니다. 질병을 치료하고 빈곤과 기아를 퇴치하고 지구를 치유하며 더 나은 미래를 건설하게 될 겁니다.”

영화 <트랜센던스>는 인간을 초월한 인공지능의 갑작스러운 탄생과 지수함수적인 발전, 그리고 그 비극적인 종말의 역사를 담고 있다. 주인공 윌(조니 뎁)은 과학기술의 사회적 영향력에는 무관심한 채 오로지 과학 그 자체의 탐구와 발전에만 온 힘을 쏟아온 천재 과학자이다. 그가 개발한 인공지능 PINN은 완성되기 전부터 세간의 폭발적인 반응을 불러일으켰는데, 위의 인용에서처럼 그 기술이 인류의 오래된 난제를 해결해줄 것이라는 기대와 바람을 동시에 촉발했기 때문이다. 기술은 언제나 이데올로기를 동반하기 마련이다. 한편 그와는 정반대로 인공지능이 오히려 인류의 생존에 큰 위협이 될 거라고 믿는 반기술주의자들은 인공지능 개발을 막기 위해 살인과 테러 등 극단적인 행동을 감행하기에 이른다. 그러던 와중에 윌은 반기술주의자가 쏜 방사능 총탄에 맞아 5주라는 짧은 시간의 시한부 선고를 받고, 이로써 죽느냐 초월하느냐 그것이 문제인 상황에 처하게 된다.

윌의 아내이자 저명한 과학자인 에블린(레베카 홀)은 윌의 뇌를 컴퓨터에 업로딩하여 그의 정신을 살리는 데 성공한다. 제목 그대로 트랜센던스(초월)이다. 정보의 총합이 과연 의식이 될 수 있는지, 육체로부터 분리된 정신이 그 자체로 존재할 수 있는지 등에 대한 철학적 질문도 중요하지만, 일단은 영화적 서사를 그대로 전제하면서 그와는 조금 다른 각도의 질문을 던져보기로 하자. 나의 관심사는 여전히 기술과 사회의 관계이기 때문이다. 물론 그러기 위해서라도 논의를 더 이어나갈 필요가 있다.

영생을 얻은 윌은 엄청난 기계적 연산 능력을 바탕으로 자체의 오류를 개선해나가면서 스스로를 업데이트하기 시작한다. 특히 인공지능 윌은 처음부터 천재 과학자의 두뇌를 슈퍼컴퓨터에 업로딩해서 만든 것이기에, 챗GPT에서처럼 인공지능이 과연 인간의 언어를 이해할 수 있는지와 같은 질문 자체가 성립하지 않는다. 흔히들 말하는 강인공지능 또는 초지능이 이렇게 종이접기의 마술처럼 돌연히 완성된다. 윌은 물리적인 제약을 초월하여 전 세계의 광대한 인터넷 네트워크를 자유자재로 탐험하고 학습하더니 그렇게 얻은 세계의 모든 정보를 바탕으로 하룻밤 사이에 엄청난 돈을 벌어들이고, 또 그 돈을 밑천 삼아 신기술 개발을 위한 데이터센터를 건설하기에 이른다. 기술이 스스로를 기반 삼아 또 다른 기술을 발전시키면서 무한히 증식해나가는 이른바 특이점(singularity), 아니 윌이 말한 바 트랜센던스의 시작이다. 그리고 바로 이 지점에서 기술의 지수함수적인 발전이, 그러니까 0.1㎜였던 종이가 서울과 부산의 거리만큼이나 두꺼워지는 수직 상승의 극적인 변화가 구체적인 모습을 드러낸다.

인공지능은 시작점에 불과하다

유전학·나노기술·로봇공학 결합
인간이라는 ‘종’ 전체를 개조하며
생명 촉진 등 환경 재생까지 영향
기술이 기술을 낳는 ‘특이점’ 도달
인간 ‘초월’은 동시에 인간 ‘종말’

주목할 것은, 우리에게는 충분히 놀라운 성능의 인공지능마저도 영화에서는 단지 변화의 시작점에 불과하다는 것이다. 영화는 기술 발전의 단계별 연쇄 고리를 분명하게 가시화함으로써 관객들로 하여금 SF적인 미래 상상을 구체적인 현실 이미지로 감각하게 만든다. 큰 그림이라고 해도 좋다. 먼저 윌은 사막 한가운데에 거대한 규모의 태양광 발전 단지를 세우는 것으로 자신의 미래 비전을 닦아나간다. 화석 연료가 산업혁명을 가능케 했듯이, 에너지의 안정적인 확보야말로 지수함수적인 기술 발전을 이루기 위한 첫 단추라 할 수 있다. 말 그대로의 토대인 셈이다. 태양 에너지는 무한대로 존재하고 세계 어디에나 존재하며, 이산화탄소를 배출하지 않기 때문에 그만큼 청정하다. 게다가 채굴 비용이 거의 들지 않을 만큼 값싼 에너지이기도 하다. 이렇듯 무한하고 깨끗하고 값싼 에너지를 바탕으로, 다시 그 위에서 다음 단계의 기술이 한발 더 나아간 발전을 이루어간다. 기술 혁신이 서로 맞물리면서 변화의 속도는 점점 더 빠르게 가속되고 그 폭 또한 더욱 크게 증폭되어간다.

태양 에너지를 강력한 동력원으로 삼아, 윌은 그 위에서 이른바 ‘GNR’ 혁명을 시도한다. GNR은 유전학(Genetics)과 나노기술(Nanotechnology), 로봇공학(Robotics)의 머리글자를 딴 말인데, 영화에서 볼 수 있듯이 이 세 가지 기술은 서로가 서로를 밀고 끌면서 동시다발적인 혁명을 이루어간다. 그리고 그 중심에 인공지능이 있다. 혁명이라는 말은 더 이상 수사가 아니다. 한 예로, 윌은 큰 부상을 입은 노동자에게 나노기술을 바탕으로 한 유전자 치료를 실시함으로써 그의 생명을 살려내는 것은 물론이고 이전보다 더 강한 육체를 부여하기까지 한다. 나노 크기의 로봇을 신체에 주입해서 인공적으로 유전자를 편집하고 강화하는 기술이다. 이 소식을 들은 사람들이 각지에서 몰려들자 윌은 이들 모두를 무료로 치료해준다. 무한한 태양 에너지와 인공지능의 혁명적인 발전을 바탕으로 GNR 기술은 마치 무료 와이파이처럼 자체의 문턱을 낮춘다. 기술이 기술을 발전시키는 지수함수의 시간이다. 휠체어를 탄 사람이 일어나 걷고, 눈먼 사람이 눈을 뜨고, 총에 맞은 사람이 그 자리에서 바로 회복된다. 질병과 노화에 이어, 심지어 죽음까지 정복한다는 것은, 인류 역사에 있어서, 아니 생명 전체의 역사에 있어서, 그야말로 최대치의 혁명이 아닐 수 없다.

윌은 여기서 멈추지 않는다. 아니, 멈출 수 없다. 가속화된 기술은 그 자리에서 바로 멈추어 설 수 없다. 윌이 신체에 주입한 나노 로봇으로 인해 개별 인간들은 자신의 주체적인 의식을 잠식당하고 윌의 명령을 따르는 하이브리드 신체로 전화되더니, 자신들 모두를 연결하는 전체 네트워크의 일부로 흡수되고 만다. 아프지도 죽지도 않는 하이브리드의 집합 신체는, 인간의 초월이면서 동시에 인간의 죽음이기도 하다. 윌은 한발 더 나아간다. 나노 로봇은 이제 땅과 바다와 하늘 전체로 흩뿌려진다. 나노 단위에서부터 오염 물질을 분해하고 더 많은 생명을 촉진하고, 그럼으로써 지구를 되살리기 위해서이다. 윌은 온 천지에 퍼진 나노 로봇을 통해 인간이라는 종 전체를 개조함으로써 원시적 생물의 시대를 끝내고 새로운 시대를 열어젖히고자 한다. 인간은 업데이트되어야 한다는 것이다. 비록 그 결과가 더는 인간이 아니더라도 말이다.

가짜 문제와 진짜 문제를 식별해야 할 때

영화는 ‘기술은 구원이 아니다’ 경고
되레 새 위기 초래한다는 점 보여줘
우리 사회가 마주한 ‘임계’ 챗GPT
영화 속 친구 맥스의 고군분투처럼
끊임없이 기술의 위험성 짚어봐야
‘전부’와 ‘전무’ 사이 그 무엇을 위해

영화는 특이점이 도래한 근미래의 모습을 디스토피아로 그려낸다. 인공지능 이후의 세계는 GNR 혁명과 함께 지수함수적인 발전을 이루지만, 그 미래는 오로지 기술적 합리성만을 좇는 까닭에 결국 인간의 초월이자 종말을 향해 나아간다. 특이점이란, 그것이 다른 어떤 가치보다 기술 발전을 최우선시한 결과로서만 가능하다는 점에서(반성하는 기술은 앞으로 나아갈 수 없다), 그 안에 디스토피아의 씨앗을 품고 있을 수밖에 없다. 영화는 기술이 우리를 구원해줄 것이라는 믿음을 반대로 되돌려, 오히려 기술이 전에 없던 새로운 위기를 초래할 수도 있음을 담담하게 경고한다.

그러나 정확히 같은 기술 혁신을 근거로 삼아 정반대의 유토피아를 그려낼 수도 있다. 왜 안 되겠는가? 영화의 결말만 밝게 바꾼다면 특이점의 미래는 자유와 풍요로 가득한 세계가 될 수도 있다. 인공지능과 GNR 혁명이 일구어낸 유토피아 속에서 우리 모두가 아프지도, 늙지도, 일하지도 않으면서 행복하게 살아가는 미래, <트랜센던스2>는 이렇게 제작할 수도 있다. 아마도 기술 최대주의자들은 영화에서 묘사된 눈부신 기술 혁신에 주목하면서 오히려 인간 이성이 그 부정적인 결과마저도 충분히 제어할 수 있다고 주장할 것이다. 지금까지는 제어하지 못했지만 말이다.

그러다 보니 한쪽에서는 암울한 미래 전망을 제시하고 다른 한쪽에서는 긍정적인 전망을 제시하면서 서로를 논박하는 형국이 만들어지기도 한다. 챗GPT를 둘러싼 지금의 상황도 이와 유사하다. 하지만 나는 디스토피아냐, 유토피아냐라는 물음이 가짜 문제라고 생각한다. 아직 결정되지 않은 미래의 어느 한편만을 근거로 삼아 현재 우리가 마주하고 있는 구체적인 문제를 질문의 영역에서 지워버리기 때문이다. 그렇다면 내가 생각하는 진짜 문제는 무엇인가?

인류는 지금까지 세 번의 산업혁명을 겪어왔다. 증기기관과 내연기관, 그리고 컴퓨터와 인터넷으로 상징되는 1차, 2차, 3차 산업혁명이다. 3차 산업혁명이 불과 30여년 전에 시작되었음을 생각해본다면, 혁명의 주기는 압도적으로 짧아지고 있다. 아마도 4차 산업혁명은 더 짧은 시간 동안 더 빠른 변화를 더 강하게 몰고 올 것이다. 그 결과가 디스토피아일지 유토피아일지는 알 수 없지만, 적어도 언젠가는 기술 혁신이 지수함수적인 양상으로 전개될 것이라는 사실 자체를 부정할 수는 없다. 생각해보면 스마트폰이 개발된 지 이제 겨우 15년 정도가 지났을 뿐이지 않은가.

문제는 앞선 세 번의 혁명과는 달리 4차 산업혁명에서는 더 이상 인간이 생산, 교통, 커뮤니케이션, 정보, 금융 등 거의 모든 영역에서 최종적인 제어권을 갖지 못하게 된다는 것이다. 지금까지의 산업혁명은 그 성격이 달랐어도 어쨌든 인간이 기술 혁신과 자동화의 흐름을 제어하고 통제할 수 있었다. 그러나 인공지능과 사물인터넷, 자율주행자동차, GNR 등으로 채워지는 미래 혁명은 이전과 확연히 다르다. 인간은 제어 시스템에서 배제되고 있으며, 그편이 오히려 더 빠르고 더 정확하고 더 효율적이라고 여겨지기까지 한다. 먼 미래까지 갈 것도 없다. 방대한 양의 데이터를 학습하고 스스로 가중치를 조정하는 인공지능 딥러닝은 마치 블랙박스와도 같아서 일반인은 물론이고 전문가조차도 그 내부 메커니즘을 정확하게 파악하는 것이 거의 불가능하다. 대규모 언어 모델을 기반으로 한 챗GPT도 마찬가지이다. 기술의 지수함수적인 발전 가능성과 그에 반비례해서 점점 더 축소되고 있는 인간의 개입 가능성, 어쩌면 이것이야말로 디스토피아와 유토피아라는 화두에 가려진 진짜 문제가 아닐까?

기술에 대한 인간과 사회의 개입 가능성

영화의 시작과 끝은 윌과 에블린의 친구이자 과학자인 맥스(폴 베타니)의 우울한 독백으로 채워진다. 그는 시종일관 기술 발전과 그 위험성을 사회와의 관계 속에서 살펴봐야 한다고 주장한 사람이다. 그러나 그는 혼자였고 무력했다. 이상하게도 이 영화에는 기술에 대한 인간의 개입과 성찰, 반성을 주장하는 어떤 인문사회 지식인도, 언론도, 대중도, 시민단체도 나오지 않는다. 한편에 맹목적인 기술 최대주의자가 있다면 다른 한편에는 개인을 처단하는 것으로 문제를 해결하고자 하는 테러리스트만 존재할 뿐이다. 기술에 대한 인간과 사회의 개입 가능성과 그러한 노력, 의지, 역량이 없으니, 영화의 결론 또한 디스토피아를 막기 위해 모든 기술을 거부하고 인터넷 이전의 사회로 퇴행하는 것으로 마무리되고 만다. 전부 아니면 전무, 이것이 영화 속 인류에게 남겨진 불행한 선택지이다.

어쩌면 챗GPT야말로 우리 앞에 놓인 변화의 임계일 수 있다. 0.1㎜ 두께의 종이는 이제 막 도약을 앞두고 있다. 우리는 무엇을 할 것인가? 전부나 전무는 아니어야 한다. 그사이에 존재하는 다양한 선택지 앞에서 우리는 기술에 대한 인간의 개입 가능성(Human in the Loop)을 끈질기게 물어야 하고, 여기서 더 나아가 사회의 개입 가능성(Society in the Loop)을 새롭게 발명하고 실험해 나가야 한다. 이게 진짜 문제이다. 우리에게는 더 많은 맥스가 필요하다.

▶박승일



캣츠랩(CATS Lab) 소장이자 기술문화연구자. 공학과 사회과학을 전공했고 아울러 인문학도 공부하고 있다. 정직한 공부가 더 나은 세계를 만든다고 믿는다. <기계, 권력, 사회>라는 제목의 책을 썼다.

박승일 캣츠랩 소장·기술문화연구자