비행 중 긴급 상황… AI 부기장은 인간 조종사 판단 따를까

[책과 길] AI 이후의 세계
헨리 키신저·에릭 슈밋·대니얼 허튼로커 지음, 김고명 옮김
윌북, 296쪽, 1만9800원

‘AI 이후의 세계’를 함께 쓴 세 명의 미국인 저자들. 왼쪽부터 미국 MIT 슈워츠먼컴퓨팅대학 초대 학장을 지낸 대니얼 허튼로커, 미국 외교정책의 대부 헨리 키신저, 구글의 전 CEO 에릭 슈밋. 셋은 지난 몇 년간 정기적으로 만나 AI를 주제로 대화를 나눴고 그 내용을 책에 담았다. 윌북 제공

“행운일까, 아니면 불행일까? 우리는 역사상 몇 번 되지 않는, 인류의 운명을 좌우할 ‘변곡점’을 경험하고 있다. 생각하고, 글을 쓰고, 새로운 지식을 탐구하는 존재가 더 이상 우리 호모사피엔스만이 아닌 세계. 기계 역시 인간에게 필적하는 지능을 갖춘 ‘인공지능 이후의 세계’를 맞이할 첫 세대가 바로 우리다.”

뇌과학자인 김대식 카이스트 교수가 쓴 이 서문은 AI(인공지능)와 조우한 우리 시대의 감정을 적절하게 요약하고 있다. 챗GPT의 등장 이후 AI는 기술의 주제를 넘어 인간과 문명의 주제로 부상하고 있다. ‘AI 이후의 세계’는 근래 쏟아지는 AI 관련 책들 중에서 필자가 가장 돋보이는 책이다. 에릿 슈밋 전 구글 CEO, 헨리 키신저 전 국무장관, 대니얼 허튼로커 MIT 슈워츠먼컴퓨팅대학 초대 학장, 이 세 사람이 함께 썼다.

책은 AI 시대가 이미 시작됐다고 선언하고, AI 시대가 열어줄 가능성과 문제를 두루 진단한다. 인간이 완전히 이해하거나 통제할 수 없다면 AI를 막아야 한다는 의견에 반대하며 그럴 수도 없다고 본다. 대신 AI의 위험을 다룰 방법으로 규제를 강조한다. 규제를 강력하게 하면서 활용해 나가야 한다는 입장이다.

“우리 세 사람이 AI를 낙관적으로 보는 정도는 서로 조금씩 다르다. 하지만 AI가 인간의 사고·지식·지각·현실을 바꾸고 그에 따라 인류 역사의 진로가 바뀌고 있다는 데에는 이견이 없다.”

저자들은 AI를 ‘지적 혁명’으로 규정한다. 특히 AI를 통해 인간이 그간 탐지하지 못했고 어쩌면 영영 탐지할 수 없을 현실의 측면을 발견했다는 점에 주목한다. MIT가 AI를 이용해 기존의 항생제가 통하지 않았던 내성균을 사멸시키는 새로운 항생제 ‘할리신’을 발견한 사례가 대표적이다. “MIT의 AI는 인간이 인지하지도 규정하지도 못한 분자들의 새로운 속성을, 좀 더 구체적으로 말하자면 그 구조적 특성과 항생 능력 사이에 존재하지만 인간이 알지 못했던 관계를 탐지했다.”

AI는 지금껏 알지 못했던, 혹은 발견되지 않았던 현실의 중대한 측면을 밝히는 걸음이 될 수 있다. 그러므로 AI를 수행능력 차원에서 더 강력하거나 효율적인 수단으로만 봐서는 안 된다. AI를 통해 이전에는 없던 것, 인간이 이해하지 못하거나 상상하지 못했던 차원, 완전히 새로운 현실이 탄생하고 있다는 걸 봐야 한다는 게 저자들의 주장이다.

그런데 인간이 이해하지 못하는 사실에 우리가 의지할 수 있을까? 이것이 AI 시대의 딜레마가 된다. 예컨대, 항공기나 자동차에 긴급 사태가 발생했을 때 AI 부조종사가 인간의 판단을 따라야 하는가? 아니면 그 반대인가? AI가 더 많은 사람을 구하기 위해 적지 않은 국민의 생명을 희생시키라고 권고한다면 어떻게 해야 할까? AI의 결정이 어떤 논리에서 나왔는지 모를 때도 의심 없이 그 결정을 따라야 할까?

저자들은 “AI의 역동성과 창발성은 적어도 두 가지 측면에서 모호성을 낳는다”고 지적한다. “첫째, AI가 우리의 예상대로 작동하더라도 그 결과는 우리가 예상치 못한 것일 수 있다. 둘째 AI가 전혀 예상하지 못한 충격적 행동을 할 수 있다.”

그래서 AI의 등장을 15세기 인쇄술의 발명에 비유했던 저자들은 AI가 안보와 세계질서에 미칠 영향력을 논한 5장에서는 AI를 핵무기에 비유한다. AI는 안보와 전쟁의 개념을 근본적으로 바꿔놓을 수 있다.

“종래의 분쟁에서는 적의 심리에 초점을 맞춰 전략적 행동을 구상했다. 그런데 알고리즘은 제게 주어진 명령과 목적만 알 뿐 전의도, 의심도 없다. AI는 그때그때 인식되는 상황에 맞춰 대응법을 바꿀 수 있기 때문에 두 AI 무기 시스템이 맞붙는다면 어느 쪽도 그 대결의 결과나 부수적 피해를 정확하게 예측하기 어렵다.”

AI는 인쇄술이 될 수도 있고 핵무기가 될 수도 있다. 관건은 AI의 모호성과 의외성을 어떻게 통제할 것인가에 달려 있다. 저자들은 “인간은 기본적으로 윤리의 규제를 받는다. AI에게도 윤리가 필요하다”며 AI 시대의 길잡이가 될 윤리체계를 마련하기 위한 전 사회적 논의를 촉구한다.

김남중 선임기자 njkim@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지