[사이언스 톡] 아날로그 과학이 그립다

AI에 코딩 시키고 점수 매기는 시대
AI 의식해 속임수 쓰고 업무 의존까지
‘과정’의 의미 사라지고 왜곡될라 우려

편집자주
과학 연구나 과학계 이슈의 의미를 이해하기 쉽게 설명하고, 우리 사회의 다양한 일들을 과학의 눈으로 분석하는 칼럼 ‘사이언스 톡’이 3주에 한 번씩 독자들을 찾아갑니다.

게티이미지뱅크

대학 때 포트란, 파스칼, C언어 같은 프로그래밍 수업을 듣는 학기엔 과제 마감을 앞두고 날밤 새우는 날이 있었다. 오만 가지 논리 구조와 경우의 수를 따져가며 나름 코드를 완성해도 엉뚱한 결과가 나오기 일쑤였다. 밤새 찾아도 눈에 안 띄던 코딩 오류는 꼭 과제를 제출하고 나서야 보였다. 오류를 수정하며 줄여가는 과정 자체가 코딩 실력이었다.

요즘은 손이 아닌 말로 프로그램을 짜는 '바이브 코딩' 시대다. 어떤 걸 짜 달라 명령만 잘 내리면 그에 맞는 코드를 인공지능(AI)이 줄줄 내놓는다. 사람이 계산기와 키보드를 번갈아 두드려가며 짜던 속도와 비교가 안 된다. 지난했던 ‘과정’이 사라지면서 프로그래밍은 훨씬 편해졌고, 시간도 효율적으로 쓸 수 있게 됐다. 그런데 정말 좋기만 할까.

지난주 LG AI연구원이 대규모언어모델 기반 AI와 추론형 AI를 결합한 하이브리드 모델이라며 ‘엑사원 4.0’을 공개하면서 주요 성능 평가(벤치마크) 결과를 소개했다. 수학 문제 해결 점수는 엑사원 4.0이 85.3점, 마이크로소프트의 ‘파이-4’가 78.0점, 알리바바의 ‘큐원3’이 72.9점이고, 과학은 각각 75.4점, 68.9점, 68.4점이라고 했다. 자사 AI 모델이 외국산을 제쳤음을 점수로 강조한 것이다.

엑사원뿐 아니다. 최신 AI 모델을 개발하면 이런 점수들을 자랑하는 게 어느새 업계 관행처럼 됐다. 주요 과목 점수를 기준으로 학생들을 줄 세우기 하는 국내 교육 현장의 모습과 닮았다. 특정 시험의 근소한 점수 차이가 학생의 전반적인 능력을 보여주진 않는 것처럼, AI도 마찬가지일 터다. 점수를 몇 점 더 높이는 것도 물론 의미 있지만, 어떻게 개발했고 그 과정에서 뭘 얻었는지가 더 중요하지 않을까.

한국과 미국을 비롯한 여러 나라 과학자들이 심사받을 논문에 AI만 인식할 수 있는 비밀 명령문을 넣었다는 사실이 얼마 전 알려졌다. 심사위원들이 평가 시간을 줄이려고 AI를 이용한다는 허점을 이용해 긍정적인 결론을 유도하기 위한 트릭을 썼다는 것이다. 사람이 논문을 심사하려면 길게는 며칠씩 걸리는데, AI의 도움을 받으면 한 시간도 안돼 끝낼 수 있다고 한다.

논문을 심사할 땐 내용의 우수성이나 학술적 의미도 보지만, 그 연구를 하게 된 배경이나 저자들의 이력 등 논문에 표기되지 않은 여러 측면을 고려한 판단이 필요한 경우도 있다. 그게 부작용을 낳기도 하지만, 연구부정 등을 짚어내는 데 기여할 수도 있다. 까다로운 동료평가 과정을 거친 논문이어야 학계에서 인정받는 이유가 그래서다.

최근 만난 한 AI 스타트업 대표는 작년부터 AI와 직원의 업무량을 조정해가며 가장 적절한 분배 비율을 찾고 있다고 했다. 이런 시도를 하는 동안 직원 십수 명을 내보냈다고도 했다. 같은 자리에서 이 얘기를 들은 중소기업 대표는 AI 시대에 기술과 기업의 미래를 모색하는 좋은 방법이라며 맞장구를 쳤다.

회사를 그만둘 수밖에 없었을 그 십수 명은 새 직장을 구했을까. 기술 개발과 업무 효율을 위한 전략으로 AI 도입을 확대한다는 명분이 타당하다 해도, 이런 과정이 정당하고 윤리적인지 직원들은 논의할 시도조차 못했을 가능성이 높아 보였다.

결과에 이르기까지의 과정은 곧 시간이고, 노력이다. 기술은 물론 산업 발전의 근간이 돼온 ‘과정’이 곳곳에서 사라지거나 왜곡되고 있다는 한 과학자의 한탄이 기억에 남는다. AI 시대에 놓치지 말아야 할 것, 누구도 대신해주지 않는 과정을 겪어냈던 아날로그 시대의 치열함이다.

임소형 미래기술탐사부장 겸 과학전문기자 precare@hankookilbo.com