[책의 향기]“인공지능, 재앙 아닌 축복 되려면 국가가 통제해야”

알파고 개발-딥마인드 창립 저자… AI의 미래가 가져올 위험성 지적
사이버 공격-자동화 전쟁 위험 등 인류에 유례없는 피해 끼칠 수도
국가 권력, 가장 크게 흔들릴 것… 정부 주도적 기술로 역량 키워야
◇더 커밍 웨이브/무스타파 술레이만 지음·이정미 옮김/512쪽·2만5000원·한스미디어

‘더 커밍 웨이브’의 저자 술레이만은 AI가 가져올 수 있는 파국과 혼란을 방지하기 위해 국가가 능동적으로 대처해야 한다고 주장한다. 사진 출처 픽사베이

도구들로 세상을 바꿔 온 인간은 이제 ‘생각하는 기기’를 손에 넣었다. 인간 대신 컴퓨터 프로그램을 만들고, 집과 기계를 설계하고, 글을 쓰고, 그림을 그리는 인공지능(AI)이다. 일부에서는 편하고 값싼 비서나 디자이너, 자문역을 기대하며 환호하지만 다른 쪽에서는 대량 실직과 새로운 형태의 전쟁을 염려한다. AI가 가져올 새로운 세상은 축복일까 저주일까.

저자는 8년 전 이세돌과의 대결로 세계인의 시선을 모은 AI 바둑 프로그램 ‘알파고’의 개발자이자 AI 기업 딥마인드와 인플렉션AI의 창립자다. 딥러닝(컴퓨터가 스스로 데이터를 조합 분석해 학습하는 기술)을 창안한 주역이기도 하다. AI가 세계를 어떻게 바꾸고 우리는 어떻게 대비해야 할지 답하기에 맞춤한 인물이다.

책의 목적은 인공지능이 가져올 미래 세계와 일상의 여러 측면을 상세하게 그려 내는 데 있지 않다. 편의와 변혁을 가져올 인공지능이 갈등과 파괴를 가져올 수 있는 양날의 칼임을 설명하고, 암울한 시나리오를 미리 예방하도록 촉구하는 것이 저자의 의도다. 화려한 미래학적 예언이기보다는 나은 미래를 위한 협력을 촉구하는 수상록(隨想錄)에 가깝다.

저자는 인공지능이 손도끼와 불, 농경, 금속재료, 인쇄, 전기, 인터넷처럼 인류의 생활을 근본적으로 변화시켜 온 기술적 변혁 중 하나라고 본다. 이 같은 기술적 변혁은 비용이 하락하고 수요가 늘고 기능이 향상되면서 대규모로 확산된다. 혼란은 필연적이다. 수많은 사람이 일자리를 잃고 장기적으로는 새로운 일자리가 생기겠지만 제때 제공되지는 않을 것이다.

이 새로운 물결을 막을 것인가. 그것은 가능하지도 않고 바람직하지도 않다. 19세기의 기계화는 노동자들의 실직 같은 고통을 초래했지만 그 후손들은 생활수준 향상이라는 큰 혜택을 입었다. 문제는 AI의 위험은 한 번 발생하면 이전과 비교할 수 없는 엄청난 충격과 손실을 인류에게 입힐 수 있다는 점이다. AI가 설계한 사이버 공격이나 바이러스, 자동화된 전쟁이 인류를 멸망에 가까운 참화로 밀어 넣을 수도 있다.

저자는 AI 혁명의 큰 특징인 ‘권력 분산’과 ‘권력 집중’의 이중성에 주목한다. AI가 대중화되면서 누구나 적은 비용으로 최고의 변호사, 의사, 전략가, 협상가를 두는 것과 같은 힘을 얻게 된다. 반면 거대 기업들은 과거보다 더 크고 확고한 입지를 구축하며 엄청난 혜택을 입을 것이다.

가장 큰 도전을 받는 대상은 국가다. AI가 기존의 권력을 재분배하면서 국가 기능에 대한 사회적 대합의가 무너질 수 있다. 교육이나 국방, 통화(通貨), 사법 같은 국가의 영역을 기업이 대신 맡게 될 수도 있다. 그럼에도 저자가 마지막으로 희망을 거는 곳은 결국 국가와 정부다. “번영하기 위해서는 국가가 필요하다. 국가의 통제력은 탄력적인 사회 시스템, 복지, 보안, 거버넌스를 유지해야 하는 앞으로의 과제에 도움이 된다.”

이를 위해 저자는 AI에 대해 능동적인 정부를 주문한다. 단순히 서비스를 아웃소싱하거나 외부 기관 또는 기업의 기술에만 의존해서는 통제력을 행사할 수 없다. AI가 가져올 수 있는 위험을 극복하기 위해서는 정부가 기술을 직접 개발하고 자체 역량을 키워야 한다고 이 책은 역설한다. 아울러 국가 간의 협력을 구축해야 하며 시민들이 대중운동을 통해 직접 압력을 행사할 수 있어야 한다고 제안한다.

유윤종 문화전문기자 gustav@donga.com