"그 마저도 중고" 韓 최고라는 카이스트에 달랑 2대뿐…고성능 GPU '뺑뺑이'[AI인재양성 빨간불]

카이스트, 국가과제용 H100 서버 2대뿐
고려대 "부족한 GPU, 연구자들 돌려써야"
한국, 'AI인재 유출국' 오명
OECD 36개국 중 AI인재 유출 5번째
기업도 'AI 인력 부족' 최대 애로사항 꼽아

AFP연합뉴스

"대학들이 보유한 GPU(그래픽처리장치)는 대부분 저사양입니다. 최신 인공지능(AI) 연구에 필수적인 고성능 GPU인 엔비디아 H100 시리즈는 장당 수천만원이라 구매하기가 힘든 실정이에요. 한 연구실에서도 여러 개 프로젝트가 동시에 진행되고, 정부 과제와 개인 연구까지 하려면 H100이 부족하지요. 연구자들은 대기 명단에 이름을 써놓고 내 순서만 오길 기다리고 있습니다. 모자란 고성능 GPU를 여럿이 쓰다 보니 연구가 어렵습니다."(최병호 고려대 인공지능연구소 교수)

우리나라에서 AI 학과 교수를 구하기 어려운 주요 원인 중 하나는 대학의 연구기반 부족이다. 실력을 키우기에 턱없는 환경이다 보니 아예 대학으로 올 생각을 하지 않는 것이다. 최 교수는 10일 "연구자가 있어도 인프라가 없으면 못 만든다"며 "딥시크가 H100을 5만개 넘게 갖고 있다는 주장이 제기되는 이유도 그 정도는 있어야 이번에 내놓은 ‘R1’의 기반이 되는 ‘V3’ 같은 파운데이션 모델을 만들 수 있기 때문"이라고 했다.

국내 최고 이공계 대학으로 꼽히는 한국과학기술원(KAIST·카이스트)조차 AI 연구 환경은 열악하다. 국가 과제용 GPU 서버 40여대 중에서 고사양인 H100이 장착된 서버는 달랑 두 대뿐이다. 카이스트 관계자는 "최근에 GPU 서버를 기부받았는데 그것도 중고"라고 말했다.

학술 연구를 위한 AI 반도체 확보는 업계에서도 중요하다는 평가다. 오승필 KT 최고기술책임자(CTO)는 "GPU를 잘 구하는 교수가 유능한 교수라는 게 지금의 현실"이라고 꼬집었다. 최홍섭 마음AI 대표는 "AI 연구자는 GPU를 얼마나 많이 써봤는지가 커리어에서 중요하다"면서 "1년 매출을 다 털어 H100 100개를 확보했더니 좋은 연구자들이 커리어를 쌓으러 들어왔다"고 말했다.

AI 학과 교수들의 처우도 열악하다. 국가AI위원회 인재·인프라 분과위원을 맡은 김두현 건국대 컴퓨터공학부 교수는 "AI 대학원 10곳이 수년간 배출한 인력이 꽤 많았는데도, 해외 기업에 비해 연봉이 낮은 편이라 한국을 떠나는 경우가 많다"고 했다.

우리나라는 현재 ‘AI 인재 유출국’으로 분류된다. 경제협력개발기구(OECD) 조사에 따르면 2023년 기준 우리나라의 AI 기술인력 유출입 지수는 -0.3으로 집계됐다. OECD 산하 AI 정책관측소가 집계하는 이 지수는 AI 기술인력 1만명당 유출입 수를 기반으로 작성되는데, 값이 0보다 작으면 인력이 유출되고 있다는 걸 의미한다. 지수 집계를 위한 데이터는 구인·구직 전문 소셜미디어 ‘링크드인’을 통해 수집된다. 조사 대상 36개국 가운데 이스라엘, 그리스, 튀르키예, 헝가리에 이어 5번째로 낮다. 반면 인재 유입이 가장 많은 국가는 룩셈부르크, 스위스, 독일 등의 순이었다.

인력 유출은 곧바로 기업의 인력난으로 이어진다. 소프트웨어정책연구소가 2023년 진행한 인공지능산업실태조사에 따르면 국내 AI 기업의 인력 부족률은 14.3%에 달했다. AI 인력 가운데서도 고급 인력으로 꼽히는 AI 시스템 운영·관리자(22.9%)와 AI 컨설턴트(22.1%)의 부족률이 특히 컸다. 부족률은 전체 필요한 인원 대비 현재 부족한 인원수의 비율을 말한다.

기업들이 느끼는 애로사항에서도 ‘AI 인력 부족’이 가장 큰 문제인 것으로 나타났다. 같은 조사에서 ‘AI 인력 부족에 동의한다’는 응답은 81.9%(매우 그렇다 44.9%·그렇다 37%)에 달했다. AI 인력 부족 문제의 심각성을 5점 만점의 척도로 물어봤을 때도 평균 4.25점을 기록했다.

업계에서는 AI 반도체 기술발전 속도가 하루가 다르게 빨라지는 만큼, 서둘러 대응해야 한다고 강조한다. 문송천 카이스트 경영대학원 명예교수는 "기술의 세계는 놀라운 속도로 발전해 나간다는 점을 유의해야 한다"면서 "정부가 GPU 수만개를 확보했을 때 시장은 H100은커녕 블랙웰(엔비디아의 차세대 AI칩)도 구닥다리 기술로 보고 있을 것"이라고 경고했다.

이명환 기자 lifehwan@asiae.co.kr
박유진 기자 genie@asiae.co.kr
전영주 기자 ange@asiae.co.kr