[단독] 256장 쓰던 GPU, 지원 끝나자 2장…성과 낸 AI 모델 연구도 중단될 판

[성능 고도화 난항 겪는 연구현장]
한국형 알파폴드 표방 ‘K-Fold’ 등
과제기간 종료에 재학습도 역부족
일부 대학 자체 인프라 구축 나서
산학 특성 맞춘 투트랙 지원 필요

챗GPT 생성이미지

‘한국형 알파폴드’를 표방하며 개발된 바이오 인공지능(AI) 모델 ‘K-Fold’는 최근 그래픽처리장치(GPU) 2장으로 운영되고 있다. 모델을 개발한 한국과학기술원(KAIST) 연구진이 과학기술정보통신부 ‘AI 특화 파운데이션 모델’ 사업을 통해 약 10개월간 B200 GPU 256장 규모의 연산 자원을 제공받았지만 과제 기간이 이달 9일 종료됐기 때문이다. K-Fold는 개발 이후 연구자와 기업에 공개해 다양한 바이오 연구와 산업에 활용될 예정이다. 하지만 현재 보유한 GPU 2장으로는 이미 개발된 K-Fold를 구동해 단백질 구조 등을 예측하는 것만 가능할 뿐 새로운 데이터를 대규모로 학습시키거나 모델의 성능과 기능을 고도화하는 것은 사실상 불가능하다. 모델 개발을 이끈 연구팀은 “현재로서는 재학습과 모델 개선이 쉽지 않기 때문에 새로운 정부 과제에 참여해 GPU를 확보할 방법을 찾아야 한다”고 상황을 설명했다.

21일 과학기술계에 따르면 AI 연구에 필요한 연산 규모가 빠르게 커지면서 GPU 확보 여부가 AI 모델 연구의 지속성을 좌우하는 핵심으로 떠오르고 있다. 개별 연구실이 정부 지원으로 다양한 성과를 내고 있지만 과제 기간이 길지 않아 모델을 재학습하거나 성능을 고도화하는 후속 연구로 이어가는 데 어려움을 겪고 있기 때문이다.

정부는 지난해 추가경정예산 등을 통해 엔비디아 B200·H200 등 첨단 GPU 1만 3136장을 민관 협력으로 확보하기로 했다. 확보한 GPU는 독자·특화 AI 파운데이션 모델과 ‘모두의 AI’, 첨단 GPU 활용 지원, AI 연구용 컴퓨팅 지원 등 여러 사업을 통해 기업과 대학·연구기관에 공급하고 있다. 덕분에 대학 연구실과 정부출연연구기관도 정부 지원을 통해 자체적으로 확보하기 어려운 수십~수백 장 규모의 최신 GPU를 활용할 수 있게 됐다. ‘K-Fold’는 이 같은 정부 GPU 지원의 대표적 성과다.

문제는 과제 기간이 종료된 후다. 연구자는 사업에 선정돼 GPU를 배정받아 수개월간 사용한 뒤 지원이 종료되면 후속 연구를 위해 다른 사업에 다시 지원해야 한다. AI 모델은 새로운 데이터가 쌓일 때마다 재학습하고 성능을 개선해야 하는데 GPU 지원이 끊기면 대규모 연산이 필요한 후속 연구도 함께 멈출 수밖에 없다.

다른 연구 현장도 마찬가지다. 차세대 옴니모달 AI를 개발하고 있는 서울대 공과대학 연구팀은 정부가 추진한 ‘고성능 컴퓨팅 지원사업’ 등을 통해 GPU를 확보했지만 연구 기간이 끝나 현재 다른 국가사업을 알아보고 있다. 해당 연구는 한 번에 GPU 100장 안팎이 요구되는 대규모 사업이지만 연구실이 자체적으로 이 정도 규모의 연산 자원을 확보하기는 쉽지 않다. 연구진은 “작은 연구라면 GPU 한두 장으로도 가능하지만 100장 정도가 필요한 연구는 자원을 한꺼번에 확보하기 쉽지 않다”고 설명했다.

부족한 GPU를 민간 클라우드에서 자체 비용으로 조달하는 것도 쉽지 않다. AI 모델의 학습·추론 수요가 급증하면서 GPU 임대료가 상승세여서다. 수십~수백 장의 GPU를 동시에 장기간 이용해야 하는 대규모 연구에서는 사실상 연구비만으로 비용을 감당하는 것이 불가능하다.

그렇다고 한 번 선정된 연구팀에 국가가 수백 장의 GPU를 무기한 제공하는 것도 현실적인 해법은 아니다. 국가가 확보한 연산 자원은 한정돼 있고 새로운 연구팀에도 연구 기회를 제공해야 하기 때문이다.

이런 이유로 일부 대학들은 자체 인프라 확충에 나서고 있다. KAIST는 최근 대전 본원에 AI 데이터센터(AIDC)를 구축하기로 했다. 급증하는 교내 AI 연구 수요에 대응하고 연구자들이 상시 활용할 수 있는 자체 컴퓨팅 기반을 확충하기 위해서다. 특히 KAIST는 해당 AIDC를 장기적으로 최대 3개 동까지 확대할 계획이다. 현재는 1개 동의 설계만 확정했지만 향후 AI 연구 수요 증가에 맞춰 추가 2개 동을 증축할 수 있도록 단계적으로 인프라를 확대한다는 구상이다. 성균관대는 현재 엔비디아 A100 40장을 교내 공용 GPU로 운영하고 있으며 올해 학교 자체 예산 35억~40억 원을 투입해 B300 24장을 추가 도입할 예정이다. 성균관대 측은 “외부 GPU 지원 기간이 끝난 뒤에도 교내 연구자가 상용 클라우드 대비 약 30% 수준의 비용으로 공용 GPU를 계속 이용할 수 있다”고 설명했다.

다만 대학 자체 인프라만으로 수십~수백 장이 필요한 대규모 AI 연구까지 모두 감당하기에는 한계가 있다. 대학마다 최신 GPU 수백 장과 이를 연결할 서버·고속 네트워크, 전력·냉각시설까지 상시 구축하는 것은 비용과 활용 효율 측면에서 부담이 크다. 연구자들 사이에서는 이미 성과를 낸 연구가 다음 정부사업을 기다리는 동안 중단되지 않도록 후속 연구에 대한 연산 자원 접근 경로를 마련해야 한다는 요구도 나온다. 국내 주요 대학 AI 개발 연구자는 “정부가 GPU 확보를 위해 노력하고 있다는 점은 맞다”며 “기업의 사업화를 지원하는 것과 학계에서 새로운 모델과 기술을 만드는 연구를 지원하는 것은 기간과 비용 등을 다르게 하며 투트랙으로 운영할 필요가 있다”고 말했다.

서지혜 기자 wise@sedaily.com김기혁 기자 coldmetal@sedaily.com