[중앙시평] 모래와 단백질의 경쟁

김대식 KAIST 교수

구글 인공지능을 총괄하는 데미스 허사비스의 이력은 화려하다. 이미 13살때 체스 마스터 수준에 도달한 그는 비디오게임 업계를 거쳐 영국 케임브리지 대학에서 컴퓨터과학을 전공한다. 졸업 후 다시 게임 개발로 돌아간 그는 고민에 빠진다. 게임 캐릭터들의 행동을 더 자연스럽게 구상하기 위해 인공지능 연구를 시작했지만, 아무리 복잡한 수식과 설명으로 행동을 설정해도, 케릭터의 행동은 너무나도 예측 가능했다. 진정한 의미에서 지능적이고 자율적인 행동은 어떻게 만들어지는 걸까? 인공지능을 만들기 전 인간의 지능을 이해하기로 결심한 허사비스는 런던대(UCL)에 진학해 MRI를 사용한 뇌인지과학으로 박사학위를 받는다. 본업이 뇌과학인 나에게 허사비스는 박사후연구원 시절 MIT와 UCL에서 발표한 논문들로 더 다가왔다. 충분히 뇌과학자로서도 ‘출세’할 수 있었던 그가 갑자기 딥마인드라는 인공지능 스타트업을 창업했다는 소식은 뇌과학 커뮤니티에서 작은 센세이션이었다. 당연히 대학교수가 될 거라고 믿었던 허사비스는 왜 창업의 길을 택한 걸까?

■

「 인류 지능, 능력 추월하는 AI 출현
인간이 초인공지능 제어할 수 있나
단백질로 이뤄진 뇌를 가진 인류가
모래로 만들어진 AI로 대체될 수도
」

뇌 전두엽 영역 보상 알고리즘에서 힌트를 얻은 허사비스는 비디오 게임을 자율적으로 하는 인공지능 개발을 시작하고, 구글의 투자와 인수 덕분에 2015년 알파고를 개발하는 데 성공한다. 이세돌과의 2016년 대결에서 승리한 알파고의 핵심기술인 심층강화학습 알고리즘을 고도화한 알파폴드는 생명과학계 핵심 난제 중 하나였던 단백질 폴딩 문제를 2020년 해결했고, 덕분에 허사비스는 2024년 노벨 화학상을 받게 된다. 컴퓨터 과학과 뇌과학을 전공한 그에게도 노벨 화학상 수상은 놀라운 결과였을 것이다.

그렇다면 허사비스가 생각하는 인공지능의 미래는 어떤 모습일까? 최근 프론티어 AI를 위한 프레임워크와 새로운 시대의 개막이라는 글에서 그는 인간의 모든 능력을 대체할 수 있는 범용인공지능(AGI)이 수년 내 가능할 것이라고 예측한다. 생산성을 폭발적으로 향상시키고, 인류가 풀지 못한 과학기술 난제들을 해결할 수도 있을 AGI. 하지만 최근 미토스 같은 프런티어 AI 모델들이 예지하듯, 대규모 사회 인프라 해킹과 생화학무기 개발 역시 가능해 보인다. 그렇다면 인공지능 기술의 기회와 리스크를 동시에 해결할 수 있는 방법은 없을까? 허사비스는 미 연방정부가 관리하는 프런티어 AI 모델 승인 제도를 제안한다. 마치 비영리 자율규제 기관인 ‘금융산업규제기구(FINRA)’를 통해 미국 정부가 증권사와 브로커들을 감독하듯, 인공지능 기술을 감독하는 자율규제 기관도 있어야 한다는 말이다.

하지만 AGI의 존재적 리스크를 빅테크들을 중심으로 한 자율규제 기관만으로 예방할 수 있을까? 싱크탱크인 AI퓨처스 프로젝트가 최근 공개한 ‘AI 2040’ 보고서에서는 자율규제를 넘어 미국과 중국 정부의 합의와 입법을 통한 글로벌 규제가 도입되어야만 인간의 가치에 부합하는 AI가 가능하다고 주장한다. 특히 글로벌 규제 없이 인공지능이 스스로를 개선하기 시작하면, AGI를 넘어 더 이상 인간의 가치와 부합하지 않는 ASI(초인공지능)까지도 등장할 수 있다.

ASI는 잠재적으로 인류 전체의 지능과 능력을 추월하는 인공지능이다. 그런 인공지능을 인간이 여전히 제어 가능할까? 또는 제어 가능하더라도, 누구의 가치를 기반으로 제어하겠다는 걸까? UN의 가치일까? 미국 정부의 가치일까? 아니면 데미스 허사비스 같은 빅테크 대표의 주관적 가치에 부합하는 인공지능일까?

오픈 AI는 AGI와 ASI의 등장을 막을 목적으로 2015년 비영리재단으로 시작했다. 당시 창업자들 사이에서는 데미스 허사비스 같은 한 명의 개인이 ASI를 기반으로 지구 전체 독제자가 되는 걸 막는 것이 오픈AI의 결과적 목표여야 한다는 말이 있었다. 그런데 어느덧 오픈AI가 직접 AGI를 개발하고, 그런 오픈AI의 도덕적 변질을 비판하며 경쟁기업 앤트로픽을 설립한 다리오 아모데이 역시 AGI를 개발하고 있다. 샘 올트먼, 일론 머스크, 데미스 허사비스, 다리오 아모데이 모두 자신은 독재자가 될 생각이 단 하나도 없지만, 다른 빅테크 창업자가 AGI를 개발하는 순간 그들이 독재자로 변질될 수 있기에, 그들보다 도덕성이 높은 자신이 가장 먼저 AGI를 개발해야 한다고 주장하고 있다.

지난 30만 년 인류역사 동안 지구에선 언제나 호모 사피엔스가 가장 똑똑했다. 그런데 이게 행운일까, 아니면 불행일까? 단백질 폴딩을 통해 만들어진 뛰어난 뇌를 가진 덕분에 지구의 주인이 될 수 있었던 인류는 머지않은 미래에 실리콘 반도체로 만들어진 인공지능으로 대체될 수도 있겠다. 실리콘은 해변가 모래를 녹여 만든다. 단백질로 만들어진 인간의 지능과 모래로 만들어진 기계의 지능. 모래와 단백질의 경쟁이 인류의 미래를 좌우하는 기괴한 미래를 우리는 경험하게 될 것이다.

김대식 KAIST 교수