[책의 향기]인공지능이 정해도 정말 괜찮을까

◇핸드오버/데이비드 런시먼 지음·조용빈 옮김/372쪽·1만9800원·와이즈베리

최근 뚜렷해진 인공지능(AI)의 존재는 낯설게 느껴진다. 그러나 인류가 AI의 기계적 사고방식과 공존하게 된 건 결코 어제오늘 일이 아니다. 영국 케임브리지대 정치학과 교수인 저자는 300여 년 전부터라고 말한다. 토머스 홉스가 ‘리바이어던’에서 국가를 ‘거대한 인공 인간’으로 묘사했을 즈음이다.

인류는 의사결정을 더 크고 기계적인 집단에 맡김으로써 보다 효율적으로 부와 안전을 구축했다. 국가는 헌법과 국채 등을 도구로 시장과 기업 생태계를 구축했다. 그런 기업들은 이제 ‘지속가능한 성장’을 표어 삼아 AI 개발에 자본을 들이붓는 중이다.

책은 열린 결말이다. AI가 지배할 세상을 구체적으로 예견하진 않는다. 그러나 국가와 기업이 그동안 인간에게 어떻게 군림해왔는지 설명함으로써 AI가 침투할 세계를 암시하고 경각심을 불러일으킨다.

총 8개의 장으로 이뤄졌고, 전체 분량 중 3분의 2 이상을 국가의 개념과 형성 과정, 기업의 발전 등 역사를 풀어내는 데 할애하며 AI의 속성과 연결짓는다.

국가와 기업, AI가 모두 ‘비인간적인 결정 대리인’이란 점에서 같다는 논지를 펼친다. 효율성이 핵심인 이들의 기계적 사고는 부작용을 가져왔다. 국가의 경우 팬데믹이 창궐하자 기술을 이용해 사회를 감시했고 오늘날 세계 곳곳에선 민주적 절차가 무시된 채 전쟁이 벌어지고 있다. 저자는 “그 속에서 우리에겐 스스로 선택할 기회가 없었다. 인공 대리인인 국가가, 기업이 대신 선택했다”며 “결정은 이들이 하는데 그 결과는 국민이 떠안아야 했다”고 말한다.

저자는 다가올 미래를 무심히 ‘착한 AI 개발’에 맡기는 것만으론 충분하지 않다고 강조한다. “국가가 할 수 있는 것과 원하는 것, 필요로 하는 것이 무엇인지 질문하는 것이 핵심”이라며 “AI 이후의 세상은 국가와 기업이 부여받은 권력을 어떻게 사용할 것이고 거기서 우리가 어떤 영향력을 행사할 것인지에 달려 있다”고 말한다.

이지윤 기자 leemail@donga.com