핵이 부를 파멸 내다본 오펜하이머와 인공지능 개발 후회하는 힌턴…‘선지자의 반성’으로 역사는 쓰인다[전문가의 세계 - 박승일의 영화X기술]

(10) 오펜하이머

영화는 원자폭탄 위험성이 ‘연쇄반응’에 있다며 이를 원자핵의 핵 분열과 국가 간 핵 확산이라는 두 차원으로 나눠 보여준다
이는 인공지능이 내놓는 눈부신 결과와 기업 간 과열된 경쟁처럼, 인공지능에도 동일하게 적용해볼 수 있다
오펜하이머와 힌턴 후회는 비극이 아냐…선지자가 순교자가 될 때, 연쇄반응은 그 내부에서부터 동력을 잃게 된다…영화가 이를 웅변한다

영화 <블래스트>는 로맨틱 코미디 영화다. 한데 특이하게도 이 영화의 출발점은 핵전쟁에 대한 공포와 불안의 감각이다. 영화는 비행기 추락 사고를 핵폭발로 오인하고 지하 벙커에서 35년을 살아온 어느 가족의 이야기를 담고 있다. 미국은 터키에, 소련은 쿠바에 각각 핵미사일을 배치하던 당시였다. 서로의 코앞에까지 핵미사일을 들이대던 시절, 핵전쟁에 대한 공포는 그저 막연한 위기감이 아니었다. 그것은 자기 집 지하에 벙커를 건설하고 온갖 식료품을 비축한 채 앞으로의 생존 계획을 고심할 만큼, 즉 일상적인 생활 감각을 재편할 만큼 실제적인 위험으로 다가왔다. 단지 괴짜 가족만의 이야기일까? 물론 아니다. 수천 기의 핵미사일이 서로를 겨누고 있다는 대기적(atmospheric) 감각은 3차 세계대전이라는 사회적 상상력을 불러일으키면서 숱한 전쟁과 종말, 파국의 서사를 만들어냈다. 핵탄두를 탈취한 테러 집단의 음모나 핵전쟁을 막기 위한 영웅의 활약 등이 영화의 단골 주제가 되었으며, 당대의 사회적 상상력은 이러한 영화적 상상력과 때로 조응하고, 때로 보충하면서 그만큼 현실적이고도 구체적인 힘을 획득해나갔다. 영화 <오펜하이머>는 이 모든 사건이 역사 속에서 어떻게 만들어졌는지 그 연원을 파고 들어간다. 그렇다. 사건의 시작이다.

구원과 종말은 겹쳐져 있다

영화 <오펜하이머>에서 오펜하이머는 핵폭탄 개발 공로로 국가적 영웅이 됐다(위 사진). 영화는 핵실험 장면을 섬광과 굉음으로 묘사했다. 유니버설 픽처스

첫 칼럼에서도 말했지만 이 칼럼은 영화 비평이 아니다. 크리스토퍼 놀런 감독의 영상 미학과 사운드 디자인, 캐릭터 설정, 섬세한 연출, 서사 구조, 물리학 이론 등을 평가하고 논하기에는 아무래도 난 적임자가 아니다. 바꿔 말하면 이 칼럼은 철저히 영화가 말하고 보여주고 상상하는 기술만을 겨냥하며, 오히려 그 점에서 독자적이다. 영화로부터 영화 외부를 읽어내는 것, 즉 영화가 표상하는 기술 세계의 상상력과 가능성 또는 그 부정성을 살피고, 더 나아가 기술을 둘러싼 사회적 힘과 관계를 짚어내는 것이야말로 이 칼럼의 기획 의도이자 내 목적이기도 하다. 이런 이유에서 나는 영화 <오펜하이머>를 일종의 기술적 은유로 읽어내면서 그것을 인공지능이라는 현재적인 관점에서 재독해할 것이다. 이런저런 해석들은 이미 그 자체로 사유의 지평을 확장한다.

<오펜하이머>는 미국의 이론물리학자인 오펜하이머(킬리언 머피)가 제2차 세계대전 당시 ‘맨해튼 프로젝트’에 참여해서 원자폭탄을 개발하는 과정을 담은 전기 영화다. 영화는 오펜하이머의 인생 굴곡을 세 개의 시간대로 분절해서 각각을 입체적으로 교차시킨다.

첫 번째 시간대는 학창 시절부터 맨해튼 프로젝트가 성공하는 시점까지이다. 유럽에서 박사 학위를 받은 후 미국에 돌아와 별의 죽음과 블랙홀의 탄생을 연구하던 그에게, 미 육군 대령 그로브스(맷 데이먼)가 찾아와 핵무기 개발 계획의 총책임자 자리를 제안한다. 독일의 나치보다 먼저 원자폭탄을 개발해서 바로 그 압도적인 힘의 차이로 전쟁을 끝내자는 제안이었다. 오펜하이머는 이 제안을 받아들여 사막 한가운데 연구소를 차리고 당대 최고의 과학자들을 불러 모아서 원자폭탄 개발에 매진한다. 여기에는 나름의 명분이 있었는데, 전쟁을 빨리 끝내는 것이 전쟁에 참여한 수많은 젊은이의 목숨을 구하는 길이라는 믿음이 있었기 때문이다.

하지만 개발이 채 끝나기도 전에 독일은 항복을 선언하고, 이에 미국은 승리를 굳히기 위해 일본의 패색에도 불구하고 세계 최초의 원자폭탄 실험인 ‘트리니티’를 서둘러 감행한다. 지금까지와는 차원이 다른 폭발력. 영화는 원자폭탄의 압도적인 위력을 번쩍이는 섬광과 요동치는 화염, 벼락 같은 굉음, 지축을 뒤흔드는 진동으로 묘사한다. 그러나 이를 바라보는 오펜하이머의 얼굴은 차라리 두려움에 가까웠다. 아마도 그는 그 순간 직감했을 것이다. “나는 이제 죽음이요, 세상의 파괴자가 되었다”고 말이다. 구원은 종말과 정확히 겹쳐 있었다.

선지자와 순교자, 질문은 반복되고

두 번째 시간대는 그로부터 대략 10여년이 지난 1954년, 오펜하이머의 사상 검증 청문회를 다룬 시점이다. 히로시마와 나가사키에 떨어진 원자폭탄으로 전쟁이 끝났지만 도리어 오펜하이머는 이전과는 반대로 미국 정부가 추진하던 수소폭탄 계획에 부정적인 입장을 취하면서, 이렇게 핵 경쟁이 과열되면 결국 서로가 서로를 파멸시키는 연쇄반응이 시작될 것이라고 경고한다. 경쟁적인 핵 확산을 막기 위해서는 소련과 협력해야 할 뿐만 아니라, 더 나아가 세계기구를 통해 핵을 지속적으로 통제해야 한다는 게 그의 주장이었다. 그는 자신의 손에 묻은 피를 괴로워했고 어느 누구의 손에도 더 이상 피가 묻지 않기를 원했다. 이러한 입장 변화는 과거 그가 젊었을 때 공산주의에 관심을 가졌고 거기에 속한 친구들이 많았다는 사실과 맞물리면서 결국 그에 대한 사상 검증으로까지 이어지고 만다. 한때 미국의 영웅이었던 그는 이제 스파이라는 의심을 받으면서 국가로부터 철저히 버림받기에 이른다. 선지자는 순교자가 된다.

세 번째 시간대는 다시 그로부터 5년 후, 스트로스(로버트 다우니 주니어)의 상무부 장관 임명 청문회가 열리는 시점이다. 스트로스는 과거 오펜하이머가 자신을 공개적으로 모욕한 일에 앙심을 품고 그에 대한 복수로 오펜하이머를 매카시즘의 희생양으로 내몬 인물이다. 그는 오펜하이머가 자신의 죄악을 고백하는 위대한 순교자가 되려 한다면서, 오펜하이머의 이후 행보를 위선이라고 비아냥댄다. 과연 그럴까? 오펜하이머는 원자폭탄을 만든 기술적 선지자에 이어, 이를 회개하는 윤리적 순교자까지 되고자 했던 것일까? 질문을 현재 시점으로 바꿔보자. 인공지능의 아버지인 제프리 힌턴의 후회와 반성은 우리에게 어떤 의미로 읽혀야 할까? 그 역시 선지자에 이어 순교자가 되려 하는 것일까?

원자폭탄의 시대에서 인공지능의 시대로

시간은 흘러서 이제는 더 이상 원자폭탄이 공포와 불안의 근원으로 여겨지지는 않는 세상이 되었다. 핵무기의 위력이 약해져서가 아니라 핵 확산의 연쇄반응을 두려워한 세계 국가들이 이를 통제해야 한다는 데 동의했기 때문이다. 한편으로는 다행이지만 다른 한편으로는 그 위협이 다른 위협으로 대체되었을 뿐이라는 점에서 위태로움은 여전히 마찬가지라고도 할 수 있다. 어떤 위협일까? 냉전 종식 이후의 영화, 특히 인터넷 등장 이후의 영화에서는 금융과 통신망을 장악하거나 인공위성 네트워크를 악용하는 식의 일상적인 위협에 더해, 사이버 세계를 둘러싼 전쟁이나 인공지능 로봇의 반란, 초지능의 공격처럼 상상적인 위협을 다룬 영화들이 제법 많아지고 있다. 이는 징후적인데, 앞서 소개한 <블래스트>에서처럼 영화적 상상력은 그것을 둘러싼 당대의 사회적 상상력과도 결코 무관하지 않기 때문이다. 불안과 두려움은 보통 그에 대한 통제 불가능성을 함축하기 마련이다.

핵전쟁의 공포가 과거와 같지 않은 지금, 이 영화를 단지 과거의 영웅적 인물을 새롭게 조명하고 이를 통해 핵무기의 위험성을 재차 강조하는 정도의 메시지로 읽을 수만은 없다. 그런 것이라면 영화를 지나간 역사의 기록으로 한정하는 것이 되고 만다. 오히려 나는 이 영화를 현재 상황에 대한 아날로지(유비)로 읽어야 한다고 생각한다. <오펜하이머>가 역사의 새로운 시작점에 대한 성찰과 비판, 개입의 필요성을 정확히 그 실패의 역사를 통해 역설적으로 강변하고 있기 때문이다. 또한 그러한 필요성이란 비단 그 당시만이 아니라 현재에도 여전히 중요한 과업으로 남아있기 때문이다. 저 원자폭탄의 자리에 현재의 인공지능을 넣어서 다시 읽어야 할 이유가 여기에 있다. 인공지능이야말로 바로 현재의 시작점인 까닭이다.

통제 불가능한 연쇄반응

영화는 원자폭탄의 위험성이 무엇보다 그 연쇄반응에 있다고 말하면서, 이를 원자핵의 핵분열과 국가들 사이의 핵 확산이라는 두 차원으로 나누어 보여준다(이 둘은 유비적으로 연결되어 있다). 간단히 말해서 전자는 원자핵이 분열될 때 나오는 중성자가 다른 원자핵과 부딪히면서 연쇄적으로 핵분열을 일으키는 반응을 뜻하고, 후자는 원자폭탄의 위력을 확인한 많은 나라들이 원자폭탄 개발에 뛰어들면서 핵무기 경쟁이 과열되는 현상을 뜻한다. 물론 이 각각은 현재의 인공지능 상황에 대해서도 동일하게 적용해볼 수 있다.

인공지능 파라미터의 연쇄반응부터 살펴보자. 예컨대 챗GPT는 1750억개의 파라미터를, GPT4.0은 비공식적으로 1조개 이상의 파라미터를 활용했다고 알려져 있다. 정확한 가중치의 값을 찾는 딥러닝 학습 과정에서는 하나의 값이 다른 모든 값에 연쇄적으로 영향을 미치기 때문에 이 수많은 연쇄 조정의 과정을 인간이 통제하기란 거의 불가능하다. 이를 블랙박스 문제라고 부르는 이유는, 인공지능이 내린 최적의 결괏값이 도대체 어떤 과정을 거쳐 나온 것인지를 인간이 이해할 수도, 설명할 수도 없기 때문이다. 말인즉슨, 인간은 이 연쇄 과정을 정확히 통제하지 못하고 있으며, 이는 특히 그것이 오류와 왜곡, 편향과 같은 부정적인 결과를 산출할 가능성을 봉쇄하지 못한다는 점에서 더욱 문제적일 수밖에 없다. 과거의 우리가 원자핵의 핵분열이 만들어내는 거대한 파괴력 앞에서 입을 벌리고 놀라고만 있었다면, 현재의 우리는 인공지능이 내놓는 눈부신 결과 앞에서 마찬가지로 입을 벌린 채 놀라고 있을 뿐이다. 그 연쇄반응을 어떻게 이해하고 통제할 것인가가 예나 지금이나 우리에게 남겨진 긴급한 숙제라 할 수 있다.

인공지능을 둘러싼 기업들의 과열된 경쟁도 연쇄반응의 한 사례이다. 오픈AI, 구글, 페이스북에 이어 세계 각지의 기업들이 도전장을 내밀고 이 시장 한가운데로 뛰어든 상황이다. 물론 자본주의 경제체제에서 이런 과잉 경쟁은 그리 낯선 모습이 아니다. 다만 문제는 경쟁에서 이기기 위한 혁신 전략이, 마치 미국과 나치의 원자폭탄 개발 대결에서처럼, 오로지 승리를 쟁취하기 위한 맹목적인 경쟁으로 귀결되고 있다는 것이다. 마이크로소프트를 비롯한 빅테크 기업들이 인공지능 윤리팀을 해고하거나 그 규모를 축소했다는 소식은 그리 놀랍지도 않다. 인공지능 개발을 6개월 동안이라도 중단해야 한다는 집단적인 목소리가 그나마 고무적이었는데, 이는 사실상 모두를 배신하고 혼자만 개발을 멈추지 않은 기업이 유일한 승자가 될 가능성을 막지는 못한다는 점에서(그 유혹을 막지 못한다는 점에서) 미봉책에 불과하다. 성찰과 반성을 침묵시킨 기술 개발이 어떤 역사를 만들어왔는지를 우리는 여전히 깨닫지 못하고 있는 걸까?

무엇보다 인공지능이 국가 간 군비 경쟁의 연쇄반응을 새로이 촉발했다는 사실을 빼놓을 수 없다. 기업의 연쇄반응은 군산복합체를 통해 국가의 연쇄반응으로 고스란히 확장되고 있다. 미국은 1940년대의 핵무기 개발을 통해 압도적인 군사 우위를 확보하려 했고(1차 상쇄전략), 뒤이어 그 우위가 따라잡히자 1970년대에는 정밀유도 무기 등을 개발해서 다시금 우위를 지키고자 했다(2차 상쇄전략). 이 과정에 여러 국가가 경쟁적으로 참여하면서 세계의 군사화를 불러일으켰음은 주지의 사실이기도 하다. 이제 미국은 다시 한번 군사적 우위를 확보하기 위해 ‘제3차 상쇄전략’을 단행하고 있다. 그리고 그 초점은 단연코 인공지능을 향하고 있다. 독일과 소련이 아닌 중국이 이 게임의 상대가 되었다는 점만 다를 뿐, 인공지능을 둘러싼 무한 연쇄반응은 과거의 핵 확산만큼이나, 아니 그보다 더 무서운 기세로 타오르고 있다.

더 많은 선지자=순교자가 필요하다

인공지능(AI)의 대부라 불리는 제프리 힌턴은 구글을 퇴사하며 AI의 위험성을 경고했다. 경향신문 자료사진

인공지능의 아버지 제프리 힌턴은 구글을 떠나면서 “나의 일생을 후회한다. 내가 하지 않았다면 다른 누군가가 했을 일이라고 생각하며 스스로를 위로할 뿐”이라고 말한 바 있다. 오펜하이머의 후회와 반성은 80여년의 시차를 두고 그대로 반복되었다. 역사는 이렇게 비극적으로 반복되는 것일까? 우리는 아무것도 배운 게 없는 것일까? 아니다. 나는 오히려 작은 가능성을 본다. 선지자 중에서 순교자가 나왔기 때문이다. 더 많은 순교자가 나와야 한다. 다른 누구도 아닌 오펜하이머가 반성했기 때문에, 그리고 제프리 힌턴이 반성했기 때문에 변화는 그 한 걸음을 내디딜 수 있었고 또 내디딜 것이다. 전문 지식과 기술을 가진 선지자 집단이 도리어 자신의 지식을 비판적으로 성찰하고 반성할 때, 즉 스스로의 과업을 뒤돌아보는 윤리적 순교자가 될 때, 연쇄반응은 그 내부에서부터 동력을 잃게 된다. 영화가 이를 웅변한다. 아인슈타인을 만난 오펜하이머는 세계 각국의 핵 경쟁이 연쇄반응을 일으킬 것이라고 담담하게 말한다. 그리고 수많은 핵미사일이 지구를 불태우는 파멸의 환상을 본다. 그러나 역설적으로 오펜하이머라는 관찰자의 개입이 그 환상을 한낱 환상으로 만들어버렸다. 그의 환상을 보고 있는 지금 여기의 우리가, 바로 그 증거이다. 역사는 그렇게 새로 쓰인다.

박승일



캣츠랩(CATS Lab) 소장이자 기술문화연구자. 공학과 사회과학을 전공했고 아울러 인문학도 공부하고 있다.

정직한 공부가 더 나은 세계를 만든다고 믿는다. <기계, 권력, 사회>라는 제목의 책을 썼다.

박승일 캣츠랩 소장·기술문화연구자