과학은 자동화되지 않는다[김우재의 플라이룸](73)

대순 왕은 컴퓨터가 인간 마음의 자전거와 같았다면, 인공지능은 비행기라고 말한다. 픽사베이

인공지능(AI)이 과학적 발견의 전 과정을 통째로 대체할 수 있다는 기술-자본주의적 환상이 학계와 산업계를 배회하고 있다. 실험 데이터를 분석하고, 가설을 세우며, 심지어 논문의 초안을 작성하는 일련의 과정에 생성형 AI와 자율형 AI 에이전트가 도입되면서 ‘과학자의 역할이 과연 모두 자동화될 수 있는가’라는 근본적인 질문이 대두되고 있기 때문이다. 이러한 질문의 이면에는 과학을 단순히 데이터를 투입해 정답(논문이나 특허)을 산출하는 기계적인 알고리즘으로 취급하려는 신자유주의적 업적주의가 짙게 깔려 있다. 과학을 효율적인 논문 생산 자동화의 대상으로 바라보는 이 시선은, 과학이 지닌 사회적 노동으로서의 숭고함과 예측 불가능성을 간과한 지독한 기만이다.

자동화의 신화와 과학이라는 본질

천재적인 영웅 과학자의 신화를 걷어내고 나면, 과학의 진정한 얼굴은 매일 실험실에 출근해 실패한 데이터를 마주하고, 피페팅을 하며, 밤을 새워 코드를 디버깅하는 ‘보통 과학자’들의 고단한 육체적·감정적 노동이다. 과학은 결코 진공 상태에서 영감으로 탄생하는 마법이 아니라 구체적인 제도의 틀 안에서 수행되는 사회적 노동의 산물이다. 과학적 가설은 특정 측정량과의 연결성을 가져야 하며, 재확인 및 재생산이 가능해야 하고, 인과적 설명을 통해 검증 혹은 반증 가능한 대상이어야 한다. 이 엄밀한 통계학적·방법론적 과정을 설계하고 책임지는 것은 기계의 확률론적 연산이 아니라 인간의 치열한 의심이다.

“확신은 반복을 통해서 만들어지며, 이 명제를 회피하려는 어떠한 시도도 파괴적”이라는 통계학자 존 터키의 통찰처럼, 과학적 진리는 끝없는 반복 노동과 오류 수정의 궤적 위에서만 축적된다. 그러나 작금의 R&D 생태계는 연구비 수주와 논문 편수, 임팩트 팩터로 연구자를 줄 세우는 양적 지표의 감옥이 됐다. 이 기형적인 구조 속에서 AI 시스템이 과학적 워크플로우의 더 많은 부분을 떠맡게 될 때, 시스템을 지배하는 자본과 관료주의는 과학적 탐구의 본질적 의미를 지워버리고 효율적인 논문 생산 자동화만을 맹목적으로 추구할 위험이 크다. 학문적 자율성을 잃고 생존을 위해 숫자에 목을 매는 연구 환경하에서 보통 과학자들은 AI를 이용해 지적 탐구를 심화하기보다는 기계처럼 논문을 찍어내는 하청 노동자로 내몰릴 수밖에 없다.

며칠 전 ‘네이처’에는 이 거대한 착각에 경종을 울리는 날카로운 성찰이 게재됐다. 대순 왕 교수의 칼럼 “AI 에이전트는 ‘마음을 위한 비행기’이다”는 스티브 잡스의 유명한 비유에서 출발한다. 잡스는 컴퓨터를 “인간의 마음을 위한 자전거”라고 묘사했다. 자전거는 인간의 의도와 물리적 입력에 철저히 종속된 수동적 도구로, 넘어지더라도 가벼운 찰과상으로 끝나며 즉각적인 궤도 수정이 가능하다. 하지만 대순 왕은 현재 과학계에 도입되고 있는 AI 에이전트를 자전거가 아닌 “마음을 위한 비행기”로 재정의한다. 비행기는 인간의 속도와 도달 범위를 기하급수적으로 확장하지만, 블랙박스화된 알고리즘으로 인해 통제력을 상실하는 순간 시스템 전체를 파괴하는 대형 참사로 이어진다.

최근 과학기술정보통신부는 AI를 이용해 국가·사회적 난제를 해결하겠다는 야심 찬 시도를 진행 중이다. 과기부 제공

AI의 환각 현상이나 편향된 데이터 학습이 과학적 결과물에 여과 없이 개입될 때, 그 실수는 단순한 연산 오류를 넘어 과학 지식 생태계 전체의 신뢰도를 붕괴시킬 수 있다. 대순 왕의 핵심 메시지는 명확하다. 과학 커뮤니티의 중앙 목표가 결코 “완전한 자동화”가 돼서는 안 된다는 것이다. 최근 여러 연구는 생성형 AI가 개인의 단기적 산출량은 높일 수 있으나, 집단적 차원에서는 새롭고 다양한 콘텐츠의 폭을 심각하게 축소한다는 실증적 결과를 내놓고 있다. AI는 본질적으로 과거의 데이터를 학습해 가장 확률론적으로 그럴듯한 결과를 생성하는 메커니즘이다. 이는 연구의 지식 공간을 좁히고, 과학계를 기존 패러다임에 가두는 퇴행적 부작용을 낳는다. 자동화된 과학은 정답만을 빠르게 찍어낼 뿐, 진정한 혁신을 불가능하게 만든다.

마침 한국 정부도 이 비행기에 탑승했다. 국가AI전략위원회는 ‘AI 시대 과학기술 경쟁력 대도약을 위한 K-문샷 추진전략’을 의결했다. AI를 연구 현장에 투입해 2030년까지 연구 생산성을 2배 높이고 2035년까지 첨단바이오, 미래에너지, 피지컬 AI 등 8대 분야 12대 국가 미션을 해결하겠다는 구상이다. 미국의 ‘제네시스 미션’에 대응하는 한국형 프로젝트라는 설명도 뒤따랐다. 선언 자체는 웅장하다. 그런데 이 전략의 핵심 성과 지표를 들여다보면 불안감이 스친다. 피인용 상위 1% 논문 점유율을 현재 4.1%에서 8.2%로 끌어올리는 것을 목표로 삼겠다는 것이 그 핵심이다. 연구 생산성을 ‘논문 피인용 수’로 환원하는 이 발상은, AI 자동화가 양적 평가 시스템과 결탁할 때 어떤 끔찍한 시너지를 낼 수 있는지를 정부 스스로 예고하는 셈이다.

수많은 보통 과학자의 연대

과학적 진보를 이끄는 것은 매끄럽게 정제된 확률의 값이 아니다. 실패의 잿더미 속에서 우연히 발견되는 변칙성, 기존 이론과 충돌하는 예상치 못한 데이터에 당황하고 이를 치열하게 해석해내는 보통 과학자들의 눈물겨운 사투가 과학을 구성하는 필수재료다. 기후변화가 아프리카의 말라리아 통제에 미치는 치명적 영향을 분석하거나, 인구 통계 데이터 수집 시 소수자의 정체성이 배제되지 않도록 포용적인 피드백 채널을 구축하는 일은 결코 자율형 AI가 독립적으로 판단할 수 있는 가치의 영역이 아니다. 데이터의 이면에 숨겨진 편향을 읽어내고, 과학적 결과가 사회에 미칠 파장을 윤리적으로 저울질하는 것은 오직 그 짐을 기꺼이 짊어지는 인간 조종사의 고유한 노동이다.

대순 왕이 묘사한 비행기의 조종석은 단 한 명의 천재를 위한 자리가 아니다. 수많은 보통 과학자가 실험실이라는 척박한 현장에서 육체와 감정을 소모하며 쌓아 올린 지식의 연대망이 바로 그 조종석이다. 과학자들은 AI라는 도구를 맹목적으로 거부해서도 안 되지만, 기술 소유권을 쥔 거대 테크 기업이나 효율 지상주의적 관료의 논리에 과학의 목적과 궤도를 통째로 헌납하는 일에는 단호히 저항해야 한다. 미지의 심연을 향해 거대한 비행기를 이륙시키는 것도, 걷잡을 수 없는 난기류 속에서 방향타를 잡고 책임을 지는 것도, 마침내 도달한 낯선 땅에서 경외와 놀라움을 느끼는 것도 오직 인간의 몫이어야 한다. 완전 자동화라는 오만하고 매혹적인 환상을 걷어내고, 그 빈자리에 보통 과학자들의 연대와 치열한 노동의 가치를 다시 채워 넣어야 할 때다.

김우재 낯선 과학자