『더 커밍 웨이브』 무스타파 술래이만 “AI의 미래, 무한 가능성 동시에 위험도 내재…억제 모색하라” [김용출의 한권의책]

2016년 3월 서울 포시즌호텔에서 세계 챔피언 이세돌 9단과 신생 인공지능(AI)기업 ‘딥마인드’가 개발한 ‘알파고’간 바둑 대결이 열렸다. 딥마인드는 이를 위해서 1년 전부터 바둑을 연구한 뒤 알파고가 무려 15만회 이상의 바둑 대국을 학습하도록 설계했고, 복사 프로그램까지 만들어 스스로 자가 대국을 수없이 반복하도록 해 수많은 가능성과 전략을 학습하도록 했다.

전 세계의 관심 속에 제1국에서 알파고가 승리한 뒤, 제2국에선 AI와 바둑의 역사에 길이 남을 장면이 연출됐다. 알파고가 제37수에 이해할 수 없는 반상 위에 돌을 놨다. 이세돌 9단은 이에 응수하느라 무려 15분이나 소요했다. 결국 알파고가 승리했고, 37수가 결정타였다는 사실은 나중에 드러났다. 알파고가 이세돌 9단을 최종적으로 4대1로 이기면서 AI가 세계에 분명히 각인된 순간이었다. 챗GPT를 비롯해 최근 생성형 AI의 등장 역시 이를 더욱 가속화하고 있다.

앞서 3년 전인 2012년 가을 어느 날, 런던 블룸즈버리에 위치했던 딥마인드의 첫 번째 사무실에서 딥 큐 네트워크(DQN)라는 알고리즘이 브레이크아웃 게임을 학습하고 있는 모습을 직원들이 지켜보고 있었다. 이들은 범용 학습을 하는 인공지능을 만들기 위해서 연구를 집중하고 있었고, 이를 위해 알고리즘 DQN을 만들어 다양한 게임을 플레이하도록 훈련시키고 있었다.

그런데 새 알고리즘은 여러 시행착오를 거치면서 게임을 차츰 제어하고 점수를 얻어가더니, 어느 순간 스스로 학습해 새 전략으로 게임에 대응하는 모습을 보여줬다. 직원들은 이 알고리즘의 진화에 경악을 금치 못했다. 다시 수개월간의 수정 작업을 거친 알고리즘은 초인 수준의 성능에 도달했다. 딥마인드가 최초로 AI의 가능성을 본 순간이었다.

첨단 AI와 생명공학 기술을 포함한 새로운 기술의 물결이 다가오고 있다. AI가 새로운 물결의 중심에 서면서 인류라는 종의 역사에서도 가장 중요한 전환점의 한곳에 서게 될 전망이다. 역사를 보면 인류의 운명을 바꿔 놓은 전환점이 되는 순간들이 있었다.

간단한 손도끼는 동물을 더 효율적으로 도축하고 경쟁 상대와 싸울 수 있게 하면서 인류 역사에서 최초로 일어난 기술 물결의 일부를 형성했다. 불 역시 호모 에렉투스 이래 포식자의 공격에서 안전을 제공해주고 음식을 조리해 섭취하도록 해서 많은 영양이 필요한 뇌를 키우는 데 결정적인 영향을 미쳤다. 이 같은 새로운 물결을 타고 호모 사피엔스가 현생 인류가 됐다.

농업 혁명기에는 식물 재배와 동물 사육 방법이 등장해 식량을 구하고 저장할 뿐만 아니라 사회가 운영될 수 있는 규모 자체를 변화시키는 범용 기술이 됐다. 여기에 바퀴 기술까지 등장해 전차부터 마차, 방앗간, 인쇄기 등 많은 것의 구성요소가 되면서 새 물결을 일으킬 수 있는 토대가 됐다.

1700년부터 200여 년 동안 증기기관에서 전기에 이르는 여러 범용 기술이 등장해 1, 2차 산업혁명이 일어나면서 현대 문명을 형성할 수 있었다. 불을 발견하고, 바퀴를 발명하고, 전기를 이용하게 된 이 모든 순간들이 인류 문명을 변화시키고 역사 흐름을 바꿔 놨다.

알파고 개발의 주역이자 세계적 AI기업 딥마인드와 ‘인플렉션 AI’의 창립자로, 현재 진행 중인 AI혁명에 가장 가까이 있는 인물로 평가받고 저자가 신간 『더 커밍 웨이브』(이정미 옮김, 한스미디어)에서 AI 기술이 가져올 새로운 물결과 권력의 향방을 분석한 뒤 그것의 미래와 향후 대응 방안까지 제시했다.

저자는 다가오는 새로운 물결의 중심에는 엄청난 잠재력과 힘, 위험성을 지난 범용 기술인 인공지능과 합성 생물학이 자리하고 있다고 지적한다. ‘새로운 전기’인 AI와 합성 생물학 기술을 중심으로 로봇 공학과 양자 컴퓨팅과 같은 여러 기술이 복잡하고 격동적인 방식으로 발전할 것이라고 관측한다.

“AI와 합성 생물학이 앞으로 다가올 물결의 중심에 있는 범용 기술이지만, 양자 컴퓨팅, 로봇 공학, 나노 기술, 풍부한 에너지의 가능성 등 매우 강력한 파급 효과를 가진 기술들이 이 두 기술을 둘러싸고 있다.”(100쪽)

그러면서 편견이나 공정성, 법적 책임 등 여러 회의적인 시각에도 AI 산업은 광범위하고도 빠르게 발전하고 기존에 존재하지 않던 새 생물을 만들거나 관련 기능을 변형하는 합성 생물학과 함께 인간에 대한 정의를 새롭게 내리게 될 것이라고 관측한다.

저자는 다가오는 ‘새로운 물결’의 고유한 특징으로 균형적이지 않는 영향을 미치는 비대칭성, 매우 빠르게 진화하는 초진화성, 어디에나 사용이 가능한 만능범용성, 점점 더 자율화되고 있는 자율성 네 가지를 제시한다. 특히 ‘옴니유즈’라고 명명한, 많이 활용될수록 좋은 범용성을 주목한다.

“증기나 전기와 같은 옴니유즈 기술은 좁은 범위의 기술보다 사회적 영향과 파급 효과가 더욱 크다. AI가 진정 새로운 전기와 같은 기술이라면 전기처럼 일상생활, 사회, 경제의 거의 모든 측면에 스며들어 힘을 실어주는 맞춤형 유틸리티, 즉 모든 곳에 내장된 범용기술이 될 것이다. 이러한 기술을 억제하기란 의존성이 거의 없는 작은 틈새시장에 갇혀 있는 제한된 단일 작업 기술을 억제하는 것보다 훨씬 더 어려울 것이다.”

이 과정에서 억제되지 않는 기술의 물결이 불러올 거대한 권력 재분배의 정치적 함의에도 주의해야 한다. 국가는 새로운 형태의 폭력, 잘못된 정보의 홍수, 사라져가는 일자리, 치명적인 사고 등 새로운 물결로 증폭된 일련의 충격으로 더 악화할 가능성이 크다고, 저자는 내다봤다.

새로운 물결을 가져올 기술이 지닌 잠재적 혜택은 방대하지만, 다른 한편으로 이러한 기술이 지닌 잠재적 위험 역시 혜택 못지않게 심오하다. AI를 활용한 대규모 사이버 공격, 국가를 파괴할 수 있는 자동화된 전쟁, 인위적인 팬데믹 등등. 비할 데 없이 무한한 가능성을 지닌 미래와, 상상할 수 없을 정도로 위험한 미래 사이에서 선택을 내려야 하는 상황에 직면해 있다.

저자는 기술 권위주의적 디스토피아와, 개방에 의한 재앙이라는 두 가지 결과를 피해나갈 수 있는 ‘좁은 길’을 헤쳐 나가야 한다고 저자는 주장한다. 그것은 바로 불가능해 보이는 억제의 길로 나아가는 것이다.

다만 거대 기술 기업들은 물론 전 세계 국가들이 과거와 다름없이 사활을 걸고 AI 기술 개발에 나설 수밖에 없는데다가 핵무기와 달리 AI 기술은 범용적이고도 다양한 측면에서 활용할 수 있기 때문에 전통적인 방식으론 AI 기술을 규제하기 힘들다는데 문제가 있다.

저자는 AI를 일일이 규제하기보다 AI를 적절하게 견제할 수 있는 각종 정책, 지배구조, 억제할 수 있는 기술들을 다각도로 모색하고 갖추자고 제안한다. 코드와 DNA 수준에서 국제조약 수준까지 10단계로 나눠 엄격하고 중첩된 제약 조건, 억제를 위한 전략적인 계획을 수립하는 방법을 제시한다.

잠재적 피해를 완화하고 통제력을 유지하기 위한 기술안전 조치, 기술의 투명성과 책임성을 보장하기 위한 감사, 개발 속도를 늦추고 규제 기관과 방어 기술이 필요로 하는 시간을 확보하기 위한 ‘초크 포인트’, 책임 있는 개발자가 처음부터 적절한 통제장치를 기술에 통합하도록 보장하는 제작자 규제, 기술 배후에 있는 조직의 인센티브를 기술 억제에 맞춰 조정하는 기업, 기술을 구축하고 기술을 규제하고 완화 조치를 시행할 수 있도록 지원하는 정부, 법률과 프로그램을 조화롭게 조정하기 위한 국제 협력시스템 구축, 학습과 실패를 공유하고 해결 방법을 신속하게 전파하는 문화, 각 구성 요소와 수준에서 압력을 행사하고 책임을 묻는 적절한 수위의 대중 운동⋯.

“억제가 불가능하다는 설득력 있는 증거에도 불구하고 나는 여전히 낙관론자다. 여기에 제시된 아이디어들은 앞으로 우리가 한걸음 한 걸음 그 길을 계속 걸어 나갈 수 있게 해 줄 도구와 수단, 어려운 여정을 헤쳐 나가는 데 필요한 등불과 밧줄, 그리고 지도가 되어 줄 것이다. 억제라는 정면 도전은 뒷걸음질 칠 명분이 아니라 우리 모두가 직면해야 할 세대적 사명인 행동을 요구하고 있다⋯최악의 상황을 가정하고, 그에 대한 대비책을 세우고, 최선을 다해 노력해야 한다. 좁은 길을 계속 헤쳐 나가야 한다. 충분히 많은 사람들이 그 정의하기 어려운 ‘우리’를 만들어 나가기 시작한다면, 그 희미한 희망의 빛은 격렬한 변화의 불길이 될 것이다.”(468쪽)

김용출 선임기자 kimgija@segye.com

이 기사에 대해 어떻게 생각하시나요?

세계일보에서 직접 확인하세요. 해당 언론사로 이동합니다.