“내가 만들었지만 너무 위험해”…창조자마저 규제하라는 ‘이것’ [Books]

더 커밍 웨이브 / 무스타파 술레이만 지음 / 이정미 옮김 / 한스미디어 펴냄
인간처럼 읽고 창조하는 AI
초월적 지능 앞세워 인류 위협
핵무기보다 통제 어려울수도
생물학 등 첨단 AI기술에 경고

이세돌과 알파고 [사진 = 연합뉴스]

2010년 무더운 여름, 영국 런던 중부지역 러셀 스퀘어의 한 사무실에 세 남성이 앉아 있었다. 그들은 회사를 공동 설립했는데 그들의 목적은 하나였다. 인간을 하나의 독특한 종(種)으로 만드는 핵심요소인 ‘지능’을 복제하기. 세 남성이 세운 회사 이름은 ‘딥마인드’. 바둑기사 이세돌 9단에게 네 번의 패배를 안긴 ‘알파고’를 만든, 바로 그 인공지능(AI) 회사다.

초기엔 터무니없게만 보였던 ‘지능 복제’라는 세 남자의 상상은, 이제 현실이 됐다. 그런데 설립자 한 명인 저자 무스타파 술레이만은 신간 ‘더 커밍 웨이브’에서 “AI 기술의 억제가 필요하다”며 뜻밖의 문제를 제기한다. 돌, 불, 전기에 이어 인간이 당면한 최종 기술인 AI를 두고 기술 억제의 필요성을 호소한 것이다.

왜 그런가. 책이 말하는 물결(wave)이란 ‘사회에 중대한 영향을 미치는 하나 또는 여러 개의 새 범용기술이 한꺼번에 등장하는 현상’을 말한다. 현대는 새 기술의 물결이 몰려오는 시기다. 인간처럼 보고 읽고 창조하는 AI는 언어능력, 공감능력, 계획능력까지 호모 사피엔스를 빼닯았다. 언어 번역은 수많은 진화 단면일 뿐이다. 인지능력이 인간만의 것이란 생각은 구식 사고이며, 초지능이 인간을 대체 중이다.

딥러닝이란 새로운 인공지능(AI)이 만들어진 후 AI 기술은 급속하게 발전해 인간 지식의 한계를 넘어섰다. 사진은 2016년 이세돌이 AI ‘알파고’와 세기의 바둑 대결을 펼치는 모습. [AP = 연합뉴스]

초월적인 지능을 가진 AI는 뭐가 문제일까. 저자의 시선은 합성생물학과 전쟁기술 등의 오늘날 AI가 도입된 기술 풍경으로 향한다.

가격 2만5000달러짜리 ‘DNA 합성기’는 미국에서 이미 상용화됐다. 미국식 주택의 차고에도 설치 가능할 만큼 작은 DNA 합성기에선 생명 코드를 읽거나 편집하는 일이 가능하다. 심지어 새로운 분자까지 만들어낸다. 이때 AI가 생명공학, 분자생물학, 유전학과 결합하는 일이 가능해진다면 어떻게 될까.

2019년 미국의 한 회사는 루게릭병으로 온몸이 마비된 말기 환자가 뇌에 이식한 전극으로 “멋진 내 아들을 사랑합니다”라는 말을 전하는 기술에 성공했다. 인간의 정신이 컴퓨터 시스템에 연결된 것이다. ‘뉴럴링크’로 불리는 이 기술은 인간 정신과 클라우드의 연결이라는 가능성을 예고했다.

그뿐인가. AI는 전쟁과도 결합한다. 우크라이나는 러시아 침공 직후 탄약이 부족했다. 재래식 군사용 정밀 미사일은 하나에 수십만 달러였는데 맞춤형 소프트웨어와 3D프린팅 부품을 갖춘 AI를 일반 드론에 설치하면 가격은 고작 1만5000달러에 불과했다. 위장한 표적을 찾아내고 포탄을 유도하는 데 머신 러닝 시스템까지 결부시켰다. 그런데 만약 이 기술이, 선의 편에 서지 않고 악의 편에 선다면?

책은 AI와 핵무기도 비교한다. 1945년 7월 16일 지구상에선 첫 번째 핵폭발이 발생했다. 미국의 핵무기 개발 프로젝트인 ‘맨해튼 프로젝트’였다. 일본에서 핵무기가 사용된 이후 냉전 시대의 사람들은 처음엔 핵무기가 당연히 꾸준히 확산되리라고 믿었다. 그러나 한때 6만개에 달했던 핵은 1만개로 줄어들었다. 핵 강대국 9곳의 ‘억제’ 때문이었다. 그러나 저자는 AI기술이 핵무기 기술보다 억제하기 어려우리라고 진단한다.

양초를 켜고 마차를 타던 인간은 이제 우주정거장을 세우고 지능을 복제한 기술인 AI까지 만들어냈다. 그 기간은 고작 100년도 걸리지 않았다. 저자는 인간이 AI를 통제할 방법을 10개의 조항으로 나눠 설명한다. 기술 억제의 주체는 바로 국민국가이며, 이제 전 세계가 AI를 억제할 방법을 골몰해야 한다고 책은 쓴다.

저자는 성찰한다. 어느 문화권이든 고대 신화나 종교적 설화에서 인간은 물로 망했다. 힌두교에선 우주 최초의 인간 마누가 대홍수가 임박했다는 경고를 받았고, ‘길가메시 서사시’에선 신이 거대한 홍수로 세상을 멸망시켰다. 구약성경의 노아의 방주 이야기나 급류에 휩쓸려 사라진 아틀란티스 등 물은 언제나 이전 것을 무너뜨린다. 저자는 AI 기술의 새 물결을 억제할 방도를 찾으라고 간곡히 주장한다.

유발 하라리, 빌 게이츠, 누리엘 루비니, 제프리 삭스 등 세계 석학이 전부 찬사를 보냈다.