[이 책 어때]알파고 아버지의 경고 "통제 안 된 기술, 인류 무너뜨릴 수도"

딥마인드 설립자 술레이만
AI·합성생물학 새로운 물결
기술의 발전 통제 어려워
억제를 위한 10가지 제언

‘더 커밍 웨이브(The Coming Wave)’의 저자 무스타파 술레이만은 2016년 3월 바둑 기사 이세돌과 대결한 인공지능(AI) ‘알파고’의 아버지라고 할 수 있다. 술레이만은 2010년 영국 런던에서 데미스 허사비스, 셰인 레그와 딥마인드를 공동 설립했다. 알파고를 개발한 회사다.

술레이만이 언급하는 다가오는 새로운 물결은 AI와 합성 생물학이라는 두 가지 핵심 기술로 정의된다. 그는 이 새로운 기술들이 인류에 막대한 부와 여유를 가져다줄 수도 있지만 악의적인 행위를 저지르는 사람들에게 상상할 수조차 없는 규모의 혼란, 불안정을 초래할 수 있는 힘을 쥐여줄 수도 있다고 설명한다. 축복과 재앙, 두 갈래 길에서 술레이만은 재앙 쪽이 더 가깝다고 본다. 기술의 발전을 인류가 감당할 수 있는 수준으로 통제하기 힘들다고 보기 때문이다.

술레이만은 우리가 사는 세상을 매우 간단하게 표현할 수 있다며 흥미로운 방정식 하나를 제시한다. ‘현대 문명=(생명+지능)×에너지’.

AI를 지능, 합성 생물학을 생명으로 방정식에 도입하면 문명은 급속하게 팽창할 여건을 마련한 상태다. 이세돌과의 바둑 대결에서 AI의 뛰어난 학습 능력을 이미 확인했다. 술레이만은 당시 알파고의 승리를 확신하지 못했다며 지난 10년간 AI의 발전은 놀랍다고 고백한다.

방정식 속 생명이라는 변수도 합성 생물학의 발전으로 급속히 커지고 있다. 합성 생물학은 이미 박테리아의 유전체를 복사해 새로운 생명체를 만들고, 해조류에서 빛을 감지하는 단백질 유전자를 추출해 제한적으로나마 시각 장애인의 시력을 회복하고, 실험 용기에 일종의 뇌(시험관 내에서 자란 신경세포 다발)를 배양해 이 뇌에 게임을 가르치는 수준에 도달했다.

합성 생물학에서는 DNA도 일종의 시스템이다. 이미 DNA 시스템의 인코딩을 수정하고 의도대로 변화시킬 수 있는 수준이다. 생명 코드를 읽고 편집하고 쓸 수도 있는 상황에 이른 것이다. 게다가 AI 산업처럼 합성 생물학도 비용 감소와 역량 상승이라는 급격한 변화의 궤도에 올라서고 있다. 일례로 DNA 염기 서열 분석 비용은 2003년 10억달러에서 2022년 1000달러 미만으로 급감했다.

AI와 합성 생물학의 급속한 발전은 대규모 전력을 필요로 한다. 재생 에너지가 해법이 되고 있다. 술레이만은 태양광 에너지 비용이 2000년 W(와트)당 4.88달러에서 2019년 38센트까지 떨어졌다며 재생 에너지는 2027년 가장 큰 단일 전력 생산원이 될 것이라고 예상한다.

방정식 속 세 변수 지능, 생명, 에너지가 모두 급속하게 커지기 때문에 문명, 즉 우리가 사는 세상은 급속한 변화를 앞두고 있다.

술레이만은 급격한 변화를 일으키는 동인인 기술이 통제되지 않는다면 숱한 영화에서처럼 기술이 인류를 무너뜨릴 위험이 실제로 존재한다고 경고한다. 2018년 중국에서 유전자가 편집된 쌍둥이 ‘루루’와 ‘나나’가 태어난 것이 단적인 예다.

술레이만은 인간이 계속 주도권을 잡을 수 있을지 의구심을 품으며 이른바 ‘고릴라 문제’도 언급한다. 고릴라는 인간보다 육체적으로 강하지만 멸종 위기에 처했고 동물원에 갇혀 지낸다. 근육은 작지만 큰 뇌를 가진 인간이 고릴라를 가둔다. 술레이만은 우리보다 더 똑똑한 무언가를 만들어 냄으로써 우리가 먹이 사슬의 최상위 자리를 잃고 고릴라와 같은 입장이 될 수도 있다고 경고한다.

술레이만이 보기에 기술의 통제는 사실상 불가능한 상황이다. 전 세계가 이미 AI 기술 개발 경쟁에 뛰어들었기 때문이다. 심지어 술레이만은 딥마인드가 ‘AI의 맨해튼 프로젝트’로 불렸다고 고백한다. 맨해튼 프로젝트는 2차 세계대전 중 미국의 핵폭탄 개발 계획을 뜻하는데 강대국 간 핵무기 개발 경쟁의 의미를 내포하고 있다.

게다가 새로운 물결을 관리할 수 있는 유일한 주체인 국가의 힘은 약해졌다. 잇따른 경제위기, 쇼에만 집중하는 정치권 등의 요인으로 정부에 대한 신뢰는 바닥으로 떨어졌다. 또 많은 선진국이 인구 감소 위기에 직면해 있다. 인구 감소는 노동력의 상실, 정부 재정의 감소로 이어진다.

술레이만은 통제되지 않은 기술의 발전 속도를 억제하기 위한 노력이 필요하다는 점을 강조하기 위해 이 책을 썼다. 마지막 14장에서 새로운 물결 억제를 위한 10가지 단계를 제안한다. AI 안전 분야의 연구원과 투자를 늘리고, 기업이 이익을 추구하되 윤리 의식도 갖추도록 토대를 만들고, 시민운동도 필요하다고 강조한다. 국가를 강화하기 위한 노력이 있어야 한다며 이를 위해 자본에 초점을 맞춘 세제 개편도 주장한다.

술레이만은 최악의 경우 10가지 단계가 모두 실패할 수도 있다고 인정한다. 그러면서 최선을 다해 조금이나마 기술의 발전을 억제할 수 있는 여건을 마련하는 것이 중요하다고 역설한다. 그조차 억제가 가능할지 확신하지 못하는 상황에서 궁극적으로 이 책은 1955년 수학자 존 폰 노이만이 생의 마지막을 앞두고 쓴 에세이의 제목을 떠올리게 한다.

‘우리는 기술에서 살아남을 수 있을까?’

더 커밍 웨이브(The Coming Wave) | 무스타파 술레이만 지음 | 이정미 옮김 | 한스미디어 | 512쪽 | 2만5000원

박병희 기자 nut@asiae.co.kr