인공지능이 가져올 파국 막으려면…사이버네틱스 창시자의 경고 [책&생각]

사이버네틱스 창시자 노버트 위너. 위키미디어 코먼스

신 & 골렘 주식회사
사이버네틱스가 종교를 침범하는 특정 측면에 관한 논쟁
노버트 위너 지음, 한상필·김용규 옮김 l 지식의편집 l 1만5000원

노버트 위너(1894~1964)는 사이버네틱스를 창시한 미국의 수학자다. 18살에 하버드대학교에서 박사학위를 받고 38살에 매사추세츠공과대학(MIT) 정교수가 된 위너는 1940년대에 수학자·과학자들과 ‘메이시회의’를 조직해 사이버네틱스라는 새로운 학문 분야를 개척하고 1948년 자신의 혁명적 이론을 담은 저서 ‘사이버네틱스’를 출간했다. 위너가 세상을 떠나기 1년 전 출간한 ‘신 & 골렘 주식회사’(1963)는 사이버네틱스 창시자로서 지은이가 이 학문의 실천적 적용이 가져올 위험을 경고하는 책이다.

사이버네틱스는 20세기 후반 이후 과학기술혁명의 기폭제가 된 이론이다. 사이버네틱스의 핵심은 기계의 자기 제어와 자기 조절을 통한 자기 향상이라고 할 수 있다. 위너의 사이버네틱스는 애초 인간과 사회와 자연을 포함한 모든 시스템에 적용되는 학문이론으로 창안됐으나, 1950년대 이후 모든 관심은 이 이론을 적용한 첨단 기술 개발에 집중됐고, 오늘날 번창하는 인공지능 산업의 이론적 토대가 됐다. 위너는 사이버네틱스가 기술 개발에 맹목적으로 쓰이는 데 위기감을 느끼고 ‘인간의 인간적 사용’(1950)이라는 저작에서 사이버네틱스의 윤리적·사회적 영향을 살폈고, 다시 ‘신 & 골렘 주식회사’에서 더 강한 톤으로 사이버네틱스의 어두운 면을 부각했다.

이 책에서 위너는 먼저 세 가지 질문을 던짐으로써 사이버네틱스의 본질적 특성을 드러낸다. 첫째, 기계는 학습할 수 있는가. 둘째, 기계는 생물의 번식 과정에서 발견되는 메커니즘으로 자기 재생산을 할 수 있는가. 셋째, 기계가 학습할 수 있고 자기 재생산을 할 수 있다면 그 측면에서 인간의 능력과 동등하다고 할 수 있는가. 첫 번째 물음과 관련해 기계가 학습할 수 있다는 것은 더 거론할 필요가 없게 분명해졌다. 두 번째 물음에 대해 위너는 기계가 생물체와 똑같이 번식하는 것은 아니지만 생물체의 번식과 유사한 방식으로 자기를 재생산할 수 있다고 말한다. “기계의 재생산과 생물의 번식이 다를 수 있지만, 둘은 유사한 결과에 이르는 평행적 과정이다.”

세 번째 물음과 관련해 위너는 기계에 목적과 방법을 부여하는 것은 인간일 수밖에 없다는 전제 아래, 기계의 능력이 인간의 능력과 동등하거나 더 뛰어나다고 말한다. 문제는 그 목적을 달성하기 위해 기계가 선택할 수 있는 전략과 그 결과를 인간이 완전히 예측할 수 없다는 점이다. 그런 이유로 위너는 기계에 지나치게 의존하는 것은 위험하다고 말한다. 기계는 목적과 수단이 지닌 도덕적 쟁점에 무관심하므로 그대로 내버려 두면 무서운 결말을 낳을 수 있다는 것이다. 위너는 괴테의 시 ‘마법사의 제자’에 나오는 얘기, 곧 마법사의 제자가 마법을 부려 빗자루더러 물을 채우게 했으나 빗자루를 멈추게 하는 주문을 몰라 익사할 위기에 빠진다는 얘기를 들어 인공지능 개발이 가져올 수도 있는 파국을 경고한다.

그렇다고 해서 인공지능 개발을 무조건 금지하자는 것이 위너의 주장은 아니다. 이 책의 결론은 사이버네틱스 기술의 사회적·윤리적 위험을 미리 알고 거기에 충분히 대비하면서 인간과 기계가 협력할 길을 찾아야 한다는 것이다. 이 책의 제목은 그런 결론을 암시한다. 피조물을 창조한 신처럼 인공지능을 창조했다는 점에서 인간도 일종의 ‘신’이라고 할 수 있다. 또 ‘골렘’은 프라하의 랍비가 진흙으로 빚어 마법으로 생명을 불어넣어 만들었다는 생명체의 이름이다. ‘인간 곧 신’과 ‘골렘 곧 기계’가 윤리적 성찰 속에서 협력할 때 인류의 삶에 도움이 되는 길을 열 수 있음을 이 책은 이야기하고 있는 것이다.

고명섭 선임기자 michael@hani.co.kr