AI가 가져올 미래, 인류의 대응과 선택은

‘인플렉션 AI’ 창립자가 쓴 신간
AI기술, 불·바퀴·증기·전기처럼
인류의 운명 바꿔 놓을 새 전기
“무한 가능성 동시에 위험도 내재
피할 수 없는 변화… 억제 모색을”

더 커밍 웨이브/무스타파 술레이만/이정미 옮김/한스미디어/2만5000원

2016년 3월 서울 포시즌호텔에서 세계 챔피언 이세돌 9단과 인공지능(AI)기업 ‘딥마인드’가 개발한 ‘알파고’ 간 세기의 바둑 대결이 열렸다. 딥마인드는 이를 위해서 1년 전부터 바둑을 연구한 뒤 알파고가 무려 15만회 이상의 바둑 대국을 학습하도록 설계했고, 복사 프로그램까지 만들어 스스로 자가 대국을 수없이 반복하도록 해 수많은 가능성과 전략을 학습하도록 했다.

전 세계의 관심 속에 제1국에서 알파고가 승리한 뒤, 제2국에선 AI와 바둑의 역사에 길이 남을 장면이 연출됐다. 알파고가 제37수에 이해할 수 없는 반상 위에 돌을 놨다. 이세돌 9단은 이에 응수하느라 무려 15분이나 소요했다. 결국 알파고가 승리했고, 37수가 결정타였다는 사실은 나중에 드러났다. 알파고가 이세돌 9단을 최종적으로 4대1로 이기면서 AI가 세계에 분명히 각인된 순간이었다. 챗GPT를 비롯해 최근 생성형 AI의 등장 역시 이를 더욱 가속화하고 있다.

알파고 개발의 주역이자 세계적 AI기업 딥마인드 창립자로, 현재 진행 중인 AI혁명에 가장 가까이 있는 인물로 평가받는 저자가 AI 시대 인류의 대응 방안을 제시한 책이 나왔다. 사진은 알파고와 이세돌의 대결, 대표적 생성형 AI 챗GPT 개발사 오픈AI CEO인 샘 올트먼, 네이버의 초거대 인공지능 하이퍼클로바X 소개 모습. 세계일보 자료사진

앞서 3년 전인 2012년 가을 어느 날, 런던 블룸즈버리에 위치했던 딥마인드의 첫 번째 사무실에서 딥 큐 네트워크(DQN)라는 알고리즘이 브레이크아웃 게임을 학습하고 있는 모습을 직원들이 지켜보고 있었다. 이들은 범용 학습을 하는 인공지능을 만들기 위해서 연구를 집중하고 있었고, 이를 위해 알고리즘 DQN을 만들어 다양한 게임을 플레이하도록 훈련시키고 있었다.

그런데 새 알고리즘은 여러 시행착오를 거치면서 게임을 차츰 제어하고 점수를 얻어 가더니, 어느 순간 스스로 학습해 새 전략으로 게임에 대응하는 모습을 보여줬다. 직원들은 이 알고리즘의 진화에 경악을 금치 못했다. 다시 수개월간의 수정 작업을 거친 알고리즘은 초인 수준의 성능에 도달했다. 딥마인드가 최초로 AI의 가능성을 본 순간이었다.

첨단 AI와 생명공학 기술을 포함한 새로운 기술의 물결이 다가오고 있다. AI가 새로운 물결의 중심에 서면서 인류라는 종의 역사에서도 가장 중요한 변곡점의 한순간에 서게 될 전망이다. 역사를 보면 인류의 운명을 바꿔 놓은 전환점이 되는 순간들이 늘 있었다. 가벼운 손도끼와 불을 발견하고, 식물 재배 기술과 바퀴를 발명하고, 증기와 전기를 이용하게 된 순간들이야말로 그 순간들이었다.

알파고 개발의 주역이자 세계적 AI기업 딥마인드와 ‘인플렉션 AI’의 창립자로, 현재 진행 중인 AI혁명에 가장 가까이 있는 인물로 평가받고 저자가 신간 ‘더 커밍 웨이브’에서 AI 기술이 가져올 새로운 물결과 권력의 향방을 분석한 뒤 그것의 미래와 향후 대응 방안까지 제시한다.

저자는 다가오는 새로운 물결의 중심에는 엄청난 잠재력과 힘, 위험성을 지난 범용 기술인 인공지능과 합성 생물학이 자리하고 있다고 지적한다. ‘새로운 전기’인 AI와 합성 생물학 기술을 중심으로 로봇 공학과 양자 컴퓨팅과 같은 여러 기술이 복잡하고 격동적인 방식으로 발전할 것이라고 관측한다.

그러면서 편견이나 공정성, 법적 책임 등 여러 회의적인 시각에도 AI 산업은 광범위하고도 빠르게 발전하고 기존에 존재하지 않던 새 생물을 만들거나 관련 기능을 변형하는 합성 생물학과 함께 인간에 대한 정의를 새롭게 내리게 될 것이라고 관측한다.

저자는 다가오는 ‘새로운 물결’의 고유한 특징으로 균형적이지 않는 영향을 미치는 비대칭성, 매우 빠르게 진화하는 초진화성, 어디에나 사용이 가능한 만능범용성, 점점 더 자율화되고 있는 자율성 네 가지를 제시한다. 특히 ‘옴니유즈’라고 명명한, 많이 활용될수록 좋은 범용성을 주목한다.

“증기나 전기와 같은 옴니유즈 기술은 좁은 범위의 기술보다 사회적 영향과 파급 효과가 더욱 크다. AI가 진정 새로운 전기와 같은 기술이라면 전기처럼 일상생활, 사회, 경제의 거의 모든 측면에 스며들어 힘을 실어주는 맞춤형 유틸리티, 즉 모든 곳에 내장된 범용기술이 될 것이다. 이러한 기술을 억제하기란 의존성이 거의 없는 작은 틈새시장에 갇혀 있는 제한된 단일 작업 기술을 억제하는 것보다 훨씬 더 어려울 것이다.”

새로운 물결을 가져올 기술이 지닌 잠재적 혜택은 방대하지만, 다른 한편으로 이러한 기술이 지닌 잠재적 위험 역시 혜택 못지않게 심오하다. AI를 활용한 대규모 사이버 공격, 국가를 파괴할 수 있는 자동화된 전쟁, 인위적인 팬데믹 등등. 비할 데 없이 무한한 가능성을 지닌 미래와, 상상할 수 없을 정도로 위험한 미래 사이에서 선택을 내려야 하는 상황에 직면해 있다.

무스타파 술레이만/이정미 옮김/한스미디어/2만5000원

저자는 기술 권위주의적 디스토피아와, 개방에 의한 재앙이라는 두 가지 결과를 피해나갈 수 있는 ‘좁은 길’을 헤쳐 나가야 한다고 주장한다. 그것은 바로 불가능해 보이는 ‘억제’의 길로 나아가는 것이다. 다만 거대 기술 기업들은 물론 전 세계 국가들이 과거와 다름없이 사활을 걸고 AI 기술 개발에 나설 수밖에 없는 데다 핵무기와 달리 AI 기술은 범용적이고도 다양한 측면에서 활용할 수 있기 때문에 전통적인 방식으론 AI 기술을 규제하기 힘들다는 데 문제가 있다.

저자는 이에 따라 AI를 일일이 규제하기보다 AI를 적절하게 견제할 수 있는 각종 정책, 지배구조, 억제할 수 있는 기술들을 다각도로 모색하고 갖추자고 제안한다. 코드와 DNA 수준에서 국제조약 수준까지 10단계로 나눠 엄격하고 중첩된 제약 조건, 억제를 위한 전략적인 계획을 수립하는 방법을 제시한다. 기술 안전조치, 감사, 유예 제도, 제작자 규제, 기업의 조정, 정부의 관여, 국가간 동맹, 문화 조성 등등.

“억제가 불가능하다는 설득력 있는 증거에도 불구하고 나는 여전히 낙관론자다. 여기에 제시된 아이디어들은 앞으로 우리가 한걸음 한 걸음 그 길을 계속 걸어 나갈 수 있게 해 줄 도구와 수단, 어려운 여정을 헤쳐 나가는 데 필요한 등불과 밧줄, 그리고 지도가 되어 줄 것이다. 억제라는 정면 도전은 뒷걸음질할 명분이 아니라 우리 모두가 직면해야 할 세대적 사명인 행동을 요구하고 있다.”

김용출 선임기자 kimgija@segye.com