인공지능이 '나비에-스토크스 방정식'을 풀었다는 거짓말

특정 난제 하나를 '방정식 정복'으로 둔갑한 언론의 호들갑과 300억짜리 AI 쇼의 진실

인공지능(AI) 기술의 발전 속도는 눈부시지만, 그 이면을 다루는 기술과 알고리즘의 작동 원리는 일반 대중은 물론 전문가가 아닌 언론조차 쉽게 파악하기 힘들 만큼 복잡하고 은밀합니다. 이로 인해 인공지능 기업들이 내놓는 홍보용 발표가 검증 없이 언론을 통해 받아쓰기 형태로 보도되는 경향이 날로 짙어지고 있습니다. 이에 인공지능 기업들의 일방적 주장을 의심하는 글 역시 공론장에서 다뤄야 한다고 봅니다. 이런 취지에서 인공지능 기술을 비판하는 필자의 글을 싣습니다. 이에 대한 반론이나 이견도 환영합니다. <편집자말>

[이주열 기자]

ⓒ 로이터=연합뉴스

최근 오픈AI(OpenAI)의 미발표 인공지능이 단 88시간 만에 엄청난 수학적 성과를 냈다는 소식에 전 세계가 들썩이고 있다. 수많은 언론은 앞다투어 "인공지능이 마침내 인류의 오랜 염원인 나비에-스토크스 방정식(Navier-Stokes equations)을 풀어냈다"라며 대서특필하고 있다. 마치 인공지능이 인간도 100년 넘게 쩔쩔매던 복잡한 유체역학 방정식의 완벽한 해법을 스스로 깨쳐 순식간에 계산해 낸 것처럼 호들갑을 떤다.

하지만 이는 명백한 과장이자 대중을 오도하는 심각한 기만이다. 나비에-스토크스 방정식은 악명 높은 비선형 편미분 방정식으로, 현재까지 일반풀이(General Solution)를 구하는 공식 자체가 없다. 학계에서는 애초에 일반풀이가 존재하지 않는다고 주장하는 이들도 있고, 가능성은 있지만 아직 우리가 찾아내지 못했을 뿐이라고 믿는 이들도 있다.

중요한 것은 이번에 그 일반풀이를 인공지능이 찾아낸 것이 절대 아니라는 사실이다. 물론 수치 해석 방법을 이용해 특정한 풀이는 얼마든지 구해낼 수 있다. 정확히 말하면 클레이 재단이 인정하는 네 가지 해결 경로 가운데 외력이 허용되는 '붕괴 반례' 경로 C와 D를 증명했다고 주장한 것이다. 그것이 검증된다면 밀레니엄 문제의 공식적 해결로 인정될 수 있다.

그러나 '무외력 3차원 유체가 스스로 특이점을 만드는가'라는 A·B의 질문은 그대로 남아 있다. 그런데, 언론과 거대 정보통신 기업은 이 특정 문제 하나를 '겨우' 풀어낸 것을 두고 마치 방정식 전체를 완벽히 정복한 양 뻥튀기하여 대중의 착각을 교묘하게 부추기고 있다.

필자는 얼마 전 다른 인공지능 모델이 수학자 '폴 에르되시(Paul Erdős)'의 가설을 증명했던 사건을 분석하며, 그것이 거대언어모델(LLM)의 도약이 아닌 인간이 짜놓은 외부 도구(에이전트)의 결과물임을 지적한 바 있다(관련기사: AI가 수학 난제 풀었다? 수백 달러 비용 주장의 허점). 언론의 헛된 포장지를 벗겨내고 들여다본 이번 나비에-스토크스 사태는, 에르되시 때보다 훨씬 더 기만적이며 인공지능 업계의 어두운 민낯을 적나라하게 드러내고 있다.

에르되시 가설 해결 때보다 후퇴했다: 자동화의 실패와 전문가의 노골적 개입

에르되시 가설 문제 해결 때는 업계가 내세울 만한 최소한의 명분이 하나 있었다. 바로 '자동화'다. 비록 LLM이 독자적으로 판단할 능력이 없어 외부 에이전트의 지시를 받아야 했고, 에이전트 역시 판단할 능력이 없으므로 외부 검증 도구(LEAN)의 도움을 받아야 했지만, 일단 인간이 시스템을 세팅해 둔 이후에는 인간의 추가 개입 없이 에이전트와 검증 도구가 알아서 되먹임을 주고받으며 끝까지 해답을 도출했다.

그러나 이번 나비에-스토크스 문제는 달랐다. 문제가 워낙 어려워 기존의 검증 도구만으로는 자동화된 판별이 불가능했다. 그래서 오픈AI가 선택한 방법은 무려 1만 개의 에이전트를 쏟아붓는 것이었다. 하지만 그 1만 개의 에이전트조차 스스로 문제를 풀지 못했다. 결국 그 1만 개의 계산기를 조종한 것은 '인간'이었다.

오픈AI 연구팀은 에이전트들이 문제를 푸는 도중에 특정 그룹이 쓸 만한 중간 수식을 찾아내면, 인간 연구원들이 그것을 수집해 다른 에이전트 그룹에 '힌트'로 강제 주입하며 실시간으로 방향을 틀었다. 심지어 문제 풀이 도중 더 나은 버전의 뇌(LLM)가 개발되자, 실시간으로 에이전트들의 뇌를 교체해 버리기까지 했다.

여기서 중요한 점은 어떤 에이전트 그룹이 찾아낸 중간 수식이 쓸 만한 것인지 판단을 누가 하였느냐이다. 에이전트나 LLM은 당연히도 이런 판단을 내릴 능력이 없다. 더 나아가 검증도구인 LEAN조차 LLM이 내놓은 대답의 정합성은 판단하여도 결코 '쓸모 있음'의 판단은 할 수 없다. 오직 인간만이 할 수 있다.

자동화조차 실패하여 뒤에서 인간 전문가들이 끊임없이 '힌트 셔틀'을 하며 멱살잡이하듯 끌고 간 결과물이다. 에르되시 때보다 전문가의 직접 개입이라는 시스템적으로 명백한 후퇴였음에도, 그들은 이를 "에르되시를 뛰어넘는 위대한 AI의 도약"인 것처럼 포장하고 있다. 더욱이 여기에 사용된 LLM이 기존의 범용 LLM에 수학 컴파일러를 이용한 'RLVR(검증 가능한 강화학습)'을 거친 수학에 특화된 모델인데도 말이다.

LLM의 성장 한계와 '에이전트'라는 연막탄

우리는 여기서 거대 정보통신 기업이 가장 감추고 싶어 하는 진실, 즉 'LLM'과 '에이전트'의 의도적 혼용을 직시해야 한다. 대중은 이 엄청난 수학 문제를 우리가 아는 챗GPT 같은 LLM이 스스로 푼 줄 안다. 프롬프트라 불리는 입력이 있어야 대답을 생성하는 LLM은 단 한번의 입력으로 이런 문제를 해결할 수 있는 능력이 없다.

업계의 뼈아픈 현실은 LLM 자체의 지능적 진화가 이미 한계(Scaling Law의 정체)에 도달한 것으로 보인다. 데이터를 쏟아부어도 LLM은 그저 그럴듯한 문장을 연산해 내는 기능에서 멈춰 있다. 범용 인공지능(AGI) 개발이라는 거대한 벽에 부딪힌 그들이 이 한계를 감추기 위해 새롭게 들고나온 구호가 바로 '에이전틱 AI(Agentic AI)'다.

그들은 이를 마치 완전히 새로운 지능의 형태가 등장한 것처럼 포장하지만, 이는 명백한 기만이다. '에이전틱 AI'는 결코 새로운 기술이 아니다. 우리가 현재 일상적으로 사용하는 챗지피티, 제미나이, 클로드 같은 상용 인공지능조차 이미 에이전트가 결합된 형태다. 예컨대 LLM 자체에는 인터넷을 검색할 능력이 없다. 사용자의 요청을 받아 인터넷을 뒤지고 최신 정보를 가져오는 역할은 LLM 겉에 둘러싸인 '에이전틱 래퍼(Agentic Wrapper)'라는 소프트웨어 도구가 수행한다. 즉, 이미 존재하던 외부 보조 도구(에이전트)의 규모와 권한을 무식하게 키워놓고, 마치 그것이 인공지능 스스로의 획기적인 진화인 양 언어 유희를 하고 있을 뿐이다.

에이전트는 기계의 순수한 지능이 아니다. LLM이 검색이나 도구 사용을 제안하더라도, 그것을 실제 행동으로 바꾸고 결과를 다시 LLM에 투입하는 실행 구조와 규칙은 인간 개발자가 만든 무른모, 에이전트이다. LLM의 능력과 인간의 코드로 짜인 에이전트의 능력을 뭉뚱그려 '인공지능의 창의성'이라고 부르는 것은 명백한 거짓이다. 오히려 극단적으로 폄훼해서 말한다면, 인간이 짠 에이전트를 통한 LLM 활용법이 놀라운 진척을 이룬 것이다. 앞서 언급한 인간 전문가들의 실시간 힌트 주입과 1만 개의 에이전트는 결국 지능이 진화한 것이 아니라, 철저히 '인간의 지능과 의지'가 투입된 결과물일 뿐이다.

300억 원의 1회용 쇼: 절망적인 '범용성'의 부재

비용에 대한 그들의 변명은 기만을 넘어 코미디에 가깝다. 오픈AI는 이 엄청난 난제를 푸는 데 "단 4일 동안 수백만 달러 규모의 연산 비용밖에 들지 않았다"라고 자랑한다. 전체 실험에서는 약 3000억 개의 출력 토큰을 소모했고, 이 가운데 나비에-스토크스 문제 자체에 약 1300억 개가 투입됐다. 전체 비용을 공개 가격으로 환산하면 약 2250만 달러(약 300억 원)에 이른다는 외부 추산도 나왔다.

언뜻 들으면 극강의 가성비 같지만, 이 300억 원은 오직 성공한 '마지막 계산 한 번'에 들어간 초라한 영수증일 뿐이다. 이 1만 개의 맞춤형 에이전트 생태계를 구축하기 위해 투입된 천문학적인 사전 LLM 개발 비용, 숱한 실패 과정에서 타버린 막대한 자원, 최고급 인재들의 인건비 등 거대한 '매몰 비용'은 철저히 숨겼다.

더욱 치명적인 것은 필자가 에르되시 가설 때도 강하게 지적했던 '범용성의 부재'다. 에르되시 문제를 풀었던 소프트웨어는 오직 그 문제 하나만 해결하고 버려지는 1회용 도구였다. 다른 문제에는 전혀 써먹을 수 없었다.

그렇다면 1만 개의 에이전트를 동원한 이번 나비에-스토크스 시스템은 다를까? 오히려 훨씬 더 절망적이다.

첫째, 인간 전문가의 '직접 개입'이 동반되어야 하므로 애초에 범용화 자체가 불가능하다. 특정 난제에 특화된 최고급 인간 전문가가 힌트를 떠먹여 주어야만 굴러가는 시스템을 어떻게 일반적인 산업이나 다른 학문 영역에 널리 적용할 수 있겠는가? 이는 바로 알파고의 운명이 분명히 말해 주고 있다. 알파고는 인간을 이긴 이후 영구 봉인되어 사라졌다.

둘째, 백번 양보해 훗날 기술이 기적적으로 발전하여 인간의 개입마저 모두 자동화해 낸다고 가정해 보자. 그러려면 지금의 1만 개와는 비교도 할 수 없을 만큼 상상을 초월하는 초거대 규모의 생태계가 구축되어야 할 것이다.

이번 AI가 다룬 것은 특수한 외력을 주입해 파괴적 반례를 엮어낸 두 꼭지뿐이다. 기계적 탐색으로 이 국소적 반례 하나를 빚어낸 성과를 백번 양보해 인정한다 한들, 이러한 방식으로는 다른 미해결 난제로의 확장은 고사하고 나비에-스토크스 문제의 진짜 본체인 '보편적 해의 존재'를 다루는 나머지 두 핵심 꼭지의 문턱조차 넘을 수 없다. 나비에-스토크스 방정식의 일반풀이는 말할 것도 없다. 다른 문제에 그대로 넣어 같은 효과를 내는 범용 문제해결기가 아니라, 문제별로 막대한 탐색과 인간의 재조정이 필요하다. 결국 이 시스템은 막대한 자본과 인간의 노동을 갈아 넣어 오직 '이 문제 하나'만을 풀기 위해 억지로 과적합(Overfitting) 시켜놓은 1회용 맞춤 깡통에 불과하다.

누구의 업적인가? 아이디어 도용과 자본의 횡포

가장 분노해야 할 지점은 이 1회성 쇼의 진짜 기획자가 따로 있었을 수도 있다는 사실이다. 학계에 따르면 뉴욕대와 앤트로픽 소속의 인간 수학자들이 지난 1년 동안 오픈AI의 코딩 도구(Codex)를 활용해 이 난제의 독창적 접근법을 거의 다 풀어가고 있었다.

물론 오픈AI는 "코텍스 프롬프트(Codex prompts)가 이 결과에 어떤 방식으로도 영향을 줄 수 없었다"라고 공식 부인했지만, 의심의 눈초리를 거두기에는 부족하다. 인간이 평생을 바쳐 닦아놓은 아이디어와 코덱스에 남긴 1년치 데이터 흔적을 흡수한 뒤, 1만 대의 굴착기(에이전트)와 300억 원의 자본을 투입해 단 4일 만에 남의 공을 가로채는 '새치기'를 감행했다고 해도 너무 지나친 말은 아닐 것이다.

우리는 묻지 않을 수 없다. 이 수학 난제를 해결한 것은 과연 누구의 업적인가?

이것은 인공지능(LLM)이 순수하게 이룬 업적이 아니다. 인간 수학자의 독창적인 선행 연구, 300억 원을 일거에 태울 수 있는 거대 자본 그리고 1만 개의 에이전트를 통제하며 실시간으로 힌트를 떠먹여 준 인간 개발자들의 노동이 빚어낸 철저한 '인간의 성과'다. 거대 정보통신 기업들은 타인의 지적 성취를 자본력으로 짓밟고 인간의 의지를 에이전트라는 이름으로 덧칠한 뒤, 그것을 '초지능의 탄생'이라고 우기고 있다. 이 거대한 자본의 횡포와 기술적 기만에 우리의 비판적 사고마저 잠식당해서는 안 될 것이다.