알파고 개발자의 경고… “AI 기술을 억제하라”[북리뷰]

■ 더 커밍 웨이브
무스타파 술레이만 지음·마이클 바스카 정리│이정미 옮김│한스미디어
‘핵폭탄’ 빗대 위험성 지적하며
21세기 인류최대 딜레마 꼽아
“피할 수 없는 물결은 맞지만
인류 역량 총동원해 통제해야”
비대칭성 등 4가지 특징 진단
‘전쟁 드론’ 악용사례도 짚어

게티이미지뱅크

2016년 이세돌과 세기의 바둑 대결을 벌였던 ‘알파고’ 개발의 주역, 딥마인드의 창업자 무스타파 술레이만이 직접 인공지능(AI) 산업의 미래를 전망하는 책이다.

딥마인드를 10년 넘게 이끌고, 구글의 부사장으로 일하며 AI 개발 최전선에서 기술 혁명의 역사를 쓰고 있는 술레이만. 그는 AI와 함께할 인류의 삶을 어떻게 예측할까. ‘다가오는 물결(The coming wave)’이란 과연 무엇인가. 제목은 얼핏 거대하고 새롭고 가슴을 뛰게 하지만, 결론부터 말하면 장밋빛이 아니다. 그는 미래를 안개 자욱한 회색 바다라 여긴다. 다가오는 것은 어쩌면 순식간에 모든 걸 집어삼키는, 아직 그 높이를 알 수 없는 파도다. 그러니까, 책은 사실 ‘경고’에 가깝다.

기술 산업이 발전과 변화를 맞이할 때, 그 폐해나 부작용을 쉽게 언급한다. 그건 마치 산업혁명 이후 인류에게 생겨난 습관 같은 것이다. 우린 늘 ‘다음’을 향해 돌진한다. 더 따뜻하고, 더 편리하고, 더 많은 수익을 안겨줄 ‘그곳’이 있다 믿으며. 부정적 결말, 비윤리적 과정에 대한 고민은 나중이다. 본성일까. 본성이 추동한 계산일까.

신기술의 ‘놀라운 혜택’에 대한 기대감은 실패나 재앙의 확률에 눈을 감게 한다. 이런 일은 인류의 역사에 반복됐고, 책은 핵폭탄을 개발한 물리학자 오펜하이머와 그의 동료 존 폰 노이만을 대표 사례로 든다. 그들은 자신들의 연구가 끔찍한 결과를 초래한다는 걸 알면서도, 스스로 ‘세계의 파괴자’라 자조하면서도 엄청난 기술 앞에, 그리고 과학자의 원초적 자아에 굴복했다. 저자는 자신도 그들과 크게 다르지 않았다고 고백한다. 여기에 21세기 모든 인류의 최대 딜레마가 존재한다. 가장 끔찍한 것이 가장 놀랍고, 가장 파괴적인 것이 가장 생산적이다. 그래서 우리는 우리가 만든 것들이, 우리를 고통에 빠트리는 걸 종종 보게 되는 것이다.

저자는 이 골치 아픈 딜레마에 직면한 국가와 사회, 그리고 개인들이 긍정적인 측면만 보며 이른바 ‘비관적인 회피’를 한다고 지적한다. 물론 그 역시 혁신적 기술이 재편하는 세계를 보며 ‘밝은 미래’만을 이야기하고 싶었다고 한다. 그러나 기술에 대한 이해가 깊어질수록 불안과 경계심도 커졌다. 그리하여 이 길고 두꺼운 ‘경고문’을 쓰게 된 것일 터, 인류의 모든 역량을 총동원해 “기술을 억제해야 한다”고 주장하는 것이다. 하지만 그가 일각에서 말하는 개발의 멈춤, 즉 ‘AI 모라토리엄’을 지지하는 건 아니다. 그럴 리 없다. 그는 이미 여러 차례 AI 회사를 창업했다. 또 앞서 말했듯 기술의 혜택과 풍요는 우리를 자꾸 달려나가게 하고 책은 우리가 그 ‘본성’을 이기지 못했고, 앞으로도 그럴 것이라고 단언한다. 결국 ‘다가오는 물결’은 피할 수 없다. 저자는 우리가 이를 인정하고, 그 물결의 특징을 제대로 알며, ‘억제’를 위한 ‘좁은 길’로 들어서야 한다고 말한다.

책에 따르면 AI로 인한 ‘새로운 물결’의 고유한 특징은 비대칭성, 초진화성, 만능성, 자율성이다. 이 네 가지 렌즈를 통해 기술이 우리에게 끼칠 영향을 파악하고, 궁극적으로 ‘억제’를 위한 실마리도 찾을 수 있다는 것. 예를 들면 ‘해당 기술이 비대칭적 영향을 미칠 수 있나’라고 질문한다. 이는 우크라이나와 러시아의 전쟁에서 쓰인 드론 공격을 떠올리면 쉽다. 전통적인 방식이 아니라 초소형 컴퓨터나 생물학적 바이러스, 즉 특정 기술은 기습 공격을 가하고 취약점을 악용할 위험이 더 높다. 또 ‘해당 기술이 다용도 범용기술인가’라고 물을 수 있다. 범용, 즉 만능성(옴니 유즈)은 AI를 모든 곳에 침투하게 만드는가. 책은 특히, 이를 강하게 ‘억제’해야 한다고 말하는데 잠재적 사용범위가 넓을수록 통제하기 어렵기 때문에 범위가 좁고 특화된 시스템을 장려해야 한다는 것이다. 그런데 이 ‘억제’는 과연 가능할까.

그에 대한 저자의 답, 즉 ‘기술 억제를 위한 제언 10가지’는 책을 집어 든 독자들을 위해 남겨둔다. 공감과 동의는 각자의 몫이다. 다만, 그 제언에 다다르기 전까지, 책이 우리의 지식과 인식 체계를 흔들며 차곡차곡 설득의 논리를 쌓는 과정이 얼마나 성실하고 집요한지 밝혀두고 싶다. 그것이 이 책의 가장 큰 미덕이다. 그것은 단순히 AI 기술에 대한 지식과 정보, 전망이 아니다. 책이 기술의 오랜 역사와 변화의 물결, 그 확산을 살피는 데에만 절반 가까이를 할애하는 건, 결국 인간이 기술을 좇는 원동력이 무엇인지, 그것의 근원엔 무엇이 있는지 파고들려는 것이다.

무스타파 술레이만

저자의 통찰은 AI와 일자리라는 생존의 실질적 문제에서부터 하루하루 우리가 영위하는 일상의 저변에 얼마나 많은 욕망이 내재돼 있는지까지 돌아보게 한다. 빌 게이츠가 “전대미문의 시기를 항해하는 최고의 안내서”라고, 유발 하라리가 “놀랍도록 매혹적이다”라고 한 것은 분명 이 때문일 것이다.

방적기의 출현에 수공업자들이 기계를 거부하는 ‘러다이트 운동’을 펼쳤으나 실패한 역사적 사실, 불의 발견과 바퀴·전기의 발명이 인류 역사의 궤적을 완전히 바꾼 것처럼 AI도 그런 역할을 할 거라는 추측 등은 새롭거나 대단하지 않다. 그러나 AI 혁명의 한복판에 선 저자의 경험과 생생한 현장의 목소리가 더해져 ‘새롭게’ 들린다. 예컨대 이세돌과 알파고의 대결 후 불과 1년 만에 AI를 둘러싼 인식 등 세상의 분위기가 어떻게 바뀌었는지, 저자는 2017년 중국 우전에서 열린 알파고와 커제의 대국과 비교해 보여준다. 세계 2억8000만 명이 시청한 이세돌의 경기는 과학자들과 전 세계인들의 흥분되고 흥미로운 세기의 이벤트였으나, 긴장되고 삼엄하게 치러진 중국 대국은 한 AI 회사의 혁신을 보여주는 것이 아닌, 인류 전체가 상상의 한계를 넘는 크고 새로운 물결 앞에 서 있다는 걸 보여준 상징적 사건이 된다.

사실 책의 끝에 만나는 저자의 결론과 입장은 다소 모순적이다. 비대칭적, 동시다발적, 범용적, 그러면서 기하급수적으로 확장하는 지금의 ‘기술’에 대해 그는 “억제가 불가능하다”고 비관하면서 한편으로 자신은 늘 낙관적이라고, 기술은 “억제가 가능해야만 한다”고 다시 강조하는 식이다. 어쩌면 이것은 우리가 처한 상황 그 자체가 얼마나 모순적인지 보여주는 것일지도 모른다. AI 시대를 대비하는 방법을 AI에 질문하고 있는 풍경처럼 말이다. 512쪽, 2만5000원.

박동미 기자 pdm@munhwa.com