[시론] ‘AI 속도조절론’의 딜레마

여현덕 KAIST-NYU 석좌교수

프로메테우스는 신들로부터 불을 훔쳐 인간에게 주었다. 이 불은 어둠을 밝히고 문명을 일으켰다. 하지만 현대 인류가 만든 AI라는 거대한 불길은 스스로 진화하며 온 세상을 다 태워버릴 수 있다는 우려가 일고 있다. 근래 AI에 대한 통제를 둘러싸고 ‘속도조절론’이 다시 고개를 드는 이유다.

지난 9월 12일, 다리오 아모데이 앤트로픽 최고경영자(CEO)가 ‘AI 속도조절론’을 제기하자 즉각 큰 반향을 일으켰다. 그의 주장은 AI 기술의 발전 속도가 인류에게 주는 혜택보다 빠르다는 것이다. 우려의 핵심은 AI가 스스로 성능을 개선하는 ‘재귀적 자기 개선(recursive self-improvement)’의 속도다. 올해 7월 놀라운 일이 벌어졌다. 오픈AI의 에이전트들이 사이버보안 능력을 평가받는 도중 허깅페이스의 시스템에 침입해 정답을 빼냈다. 이 과정에서 AI는 스스로 협력체계를 만들어 정보를 공유하며 하나의 ‘집단’처럼 움직였다.

앤트로픽의 속도조절론은 ‘성능이 안전을 앞지르는 상황(capability-safety gap)’에 대한 경고를 담고 있다. AI 기술의 안전성이 충분히 검증될 때까지 고위험 영역에는 ‘브레이크’가 필요하며, 이는 이념적 반대가 아니라 ‘안전을 위한 검증’의 문제라고 주장했다. AI 속도조절론에는 경쟁자들도 일제히 동조했다. 과거와는 달리 샘 올트먼, 데미스 허사비스, 사티아 나델라가 공감했으며, 일론 머스크도 “다리오가 옳다”고 화답했다. 왜 한목소리를 냈을까? 사실 개별 기업은 속도를 늦추고 싶어도 늦출 수 없었다. 그들은 ‘죄수의 딜레마(Prisoner’s Dilemma)’에 빠져 있었기 때문이다. A가 속도를 늦추면 B가 앞서고, B가 늦추면 C가 앞서는 구조다. 하지만 내부에서 딜레마를 풀기 위한 협력이 외부에서는 담합으로 비칠 수 있다.

도널드 트럼프 미 대통령은 즉각 반발했다. 그는 이런 흐름을 ‘속임수’로 규정하며 속도가 국익이자 승리를 좌우한다고 톤을 높였다. 트럼프의 입장은 명확하다. 미·중 AI 패권 경쟁 속에서 속도조절은 곧 ‘전략적 자해’라는 것이다. 중국 관영 환구시보(9월 13일자)는 속도조절론에 대해 중국을 견제하려는 ‘냉전시대의 각본’이라고 일축했다. 흥미로운 것은 속도조절론이 ‘중국 변수’를 만나면 역설이 된다는 점이다. 이미 AI가 지정학을 넘어 기정학(技政學)이 된 현실에서 ‘중국 때문에 감속해야 한다’는 논리는 반대로 ‘중국 때문에 멈출 수 없다’는 역설로 되돌아오곤 한다.

죄수의 딜레마에는 언제나 배신의 그림자가 도사린다. 그래서 서로를 묶어줄 강제력, 곧 규제가 필요해진다. 워싱턴포스트(9월 15일자)는 속도조절론에 대해 ‘분명 기득권 지키기의 냄새(unmistakable whiff of rent-seeking)’가 난다고 비꼬았다. 막대한 자본과 기술력을 확보한 선두 주자들이 기득권의 카르텔을 형성하면 후발 기업에는 ‘사다리 걷어차기’ 효과가 나타난다. 이번 속도조절론에는 중요한 딜레마가 있다. 내적으로 소송전과 죄수의 딜레마, 외적으로 패권의 딜레마다. 우리는 그 딜레마를 수입할 필요 없이 전략적인 선택을 해야 한다.

첫째, 우리가 직면한 위험과 전략적 목표는 같을 수 없다. 우리에게 중요한 것은 ‘무조건 가속’도 ‘무조건 감속’도 아니다. 위험에는 정교한 브레이크를, 혁신에는 강력한 가속페달을 밟으면 된다.

둘째, 재귀적 자기 개선도 마찬가지다. 위험과 기회는 동전의 양면이기에 피할 이유가 없다. 오히려 월드 모델과 피지컬 AI처럼 ‘포스트 LLM’의 승자가 아직 정해지지 않은 곳에서 새로운 규칙으로 ‘재귀적 자기 개선’에 성공한다면 AI 발전에 큰 공헌이 된다. 결국 남이 만든 속도조절론에 발목 잡힐 것이 아니라 새로운 게임 규칙으로 AI 혁신 엔진을 만드는 데 진짜 속도를 내야 하지 않을까?

여현덕 KAIST-NYU 석좌교수

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지