‘AI 파도’ 막을 10가지 방파제를 소개합니다[책과 삶]

픽사베이

더 커밍 웨이브

무스타파 술레이만 지음 | 이정미 옮김 | 한스미디어 | 512쪽 | 2만5000원

무스타파 술레이만은 ‘인간을 생산적이고 유능한 존재로 만드는 핵심을 소프트웨어, 즉 알고리즘으로 추출할 수 있다면 어떨까’라는 생각으로 두 친구와 함께 인공지능(AI) 회사인 딥마인드를 설립한다.

이세돌과의 바둑 대결로 한국인에게 두려움에 가까운 충격을 안겼던 ‘알파고’가 이 회사에서 탄생했다. 이후 구글 AI 제품 관리 부서 부사장이 된 그는 대화용 AI 시스템 ‘람다’ 개발에도 주역으로 참여한다.

그는 10여년 전 이미 “향후 수십년 동안 AI 시스템이 ‘지적 육체노동’을 (인간과) 거의 같은 수준으로 대체할 것”이라고 주장했다. 지난해 챗GPT로 대표되는 생성형 AI의 상용화로 우리는 그의 말이 실현되고 있다는 것을 깨달았다. 언젠가는 지능적인 존재의 출현으로 인간은 곧 스튜어트 러셀이 말한 ‘고릴라 문제’에 직면할지 모른다. 근육은 작지만 큰 뇌를 가진 인간이 고릴라를 동물원에 가뒀듯, 고차원 AI가 인간을 지금의 고릴라와 같은 입장으로 만드는 것 말이다.

인류가 기술 혁신의 물결을 막을 방법은 없어 보인다. 책의 말대로 “기술은 곧 생각이고, 생각은 결코 사라지지 않”기 때문이다. 그렇다면 중요한 것은 AI 기술을 어떻게 ‘억제’하며 제대로 사용할 것인가다. 억제가 쉽지는 않다. 개방성이 높은 현대 사회에서는 기술 역시 쉽게 복제되고 진화한다. 이쪽에서 통제 장치를 마련한다고 하더라도 “누군가는 다음 단계의 획기적인 기술을 발견할 수밖에” 없다.

억제를 위한 10가지 아이디어를 제시한다. 통제불능 상태에 빠질 위험이 있는 기술을 완벽히 차단할 ‘전원 스위치’의 구축 등 안전 장치 개발을 기술 개발과 함께해야 한다고 말한다. 발명가의 책임을 직시하게 할 실무 감각을 가진 비평가도 필요하다. ‘특정 재래식 무기 금지 협약’처럼 악의적 기술의 확산을 막는 국가적 동맹도 필수다.

지난해 9월 영국과 미국서 출간돼 화제를 모았다. 빌 게이츠, 유발 하라리, 누리엘 루비니, 알랭 드 보통, 에릭 슈미트, 앨 고어, 제프리 삭스 등 책을 추천한 인물들의 면면이 화려하다.

고희진 기자 gojin@kyunghyang.com