우리는 미래를 가져다 쓰고 있다 | 장기주의적 선택이 세계의 운명을 좌우한다 [신간]

윌리엄 맥어스킬 지음/ 이영래 옮김/ 김영사/ 2만2000원

최근 생성형 인공지능(AI)인 챗GPT가 주목받으며 AI 시스템 개발 방향에 대한 논의가 활발히 진행 중이다. 시스템 탈선 위험을 관리할 수 있는 안전장치가 마련될 때까지 AI 개발을 일시 중단해야 한다는 주장도 제기된다. 주로 장기주의 관점에서 접근할 때 제기되는 주장이다. ‘장기주의’는 미래에 긍정적인 영향을 주는 것이 도덕적으로 가장 중요하다는 믿음에서 출발한다. 인류의 근사한 미래는 현 세대의 선택에 달려 있다는 논리다.

반면 장기주의를 바라보는 부정적인 시각도 있다. 흔한 비판 중 하나는 당장의 시급한 문제는 제쳐두고, 먼 미래를 상상하며 위험을 과대 포장한다는 사실이다. AI 발전이 과연 먼 미래 일인지를 두고도 의견이 분분하다. 전문가들은 머지않아 AI가 인간 수준까지 발전할 수 있다고 예측한다. 장기적 우려보다 당장 급한 AI 위협에 대처하는 문제를 먼저 고려해야 한다는 분석도 나온다.

그러나 옥스퍼드대 철학과 교수이자 비영리 단체 ‘기빙왓위캔(Giving What We Can)’ ‘8만시간(80000 Hours)’의 공동 설립자인 저자는 장기적인 접근이 결코 헛된 일이 아니라고 생각한다. 장기주의적 행동이 단기적으로는 이점도 지녔다는 이유에서다. 저자는 “미래 세대를 보호하는 일이 다른 것들보다 우선 돼야 한다”고 강조한다.

특히 현대인은 경제적·과학적·도덕적·환경적 변화가 이례적으로 빠른 시대에 살고 있다. 저자는 지금처럼 미래 궤도를 크게 바꿀 힘을 가진 세대는 과거에도 없었고, 앞으로도 없을 것으로 내다본다.

책은 지구 멸망 시나리오까지 가정하고 그 해결책도 제안한다. 저자가 우려하는 시나리오는 기후변화와 핵전쟁으로 문명이 붕괴되거나 유전자 조작으로 인한 전염병 때문에 인류가 멸종하는 상황이다. 또, 발전 속도 정체로 인해 전 세계적 장기 침체가 이어져, 인류 멸망과 문명 붕괴가 동시에 나타나는 시나리오도 가능하다. 저자는 “장기주의는 인류가 겪는 문제를 바라보는 관점과 문제 해결의 실마리를 제공한다”고 말한다. 책은 장기적으로 생각하고 행동해야 할 충분한 이유를 제시한다.

[본 기사는 매경이코노미 제2207호 (2023.05.03~2023.05.09일자) 기사입니다]