[트렌드줌인] AI 발목 잡는 GPU 가격

인공지능(AI) 도입의 가장 큰 장애물로 그래픽처리반도체(GPU) 가격이 꼽혔다. GPU는 빠른 연산처리를 할 수 있어 AI가 많은 자료를 빠르게 분석하려면 반드시 필요하다. 그런데 GPU 수요에 비해 공급업체가 많지 않아 가격이 비싸다.

AI 및 클라우드 소프트웨어를 개발하는 신생기업(스타트업) 오케스트로가 최근 기업 및 공공기관 종사자 6,615명을 대상으로 '클라우드 환경에서 AI 활용방안'을 설문 조사한 결과 AI 도입의 가장 큰 제약 요인으로 GPU(23.5%)가 꼽혔다. GPU 투자 비용으로 대기업은 월 1억 원 이상(34.5%), 중견기업은 월 500만~2,000만 원대(33.3%)를 주로 꼽았다.

엔비디아의 AI 반도체 'H100'. 엔비디아 제공

대표적인 AI 반도체로 꼽히는 엔비디아의 GPU 'H100'은 가격이 개당 4,000만~5,000만 원대를 호가한다. 만약 H100을 8개 장착한 서버 1대를 사용해 AI를 가동하면 서버 비용만 3억~4억 원에 이른다. 지난해보다 H100 공급이 늘었지만 AI 개발업체들과 이용자들도 계속 증가하고 있어 가격이 좀처럼 떨어지지 않고 있다.

그렇다 보니 AMD 등 엔비디아의 경쟁사들도 GPU 가격을 최근 올리고 있다. AMD의 '인스팅트 MI300X'은 약 2,800만~3,000만 원에 팔린다. 특히 최근 개발한 '인스팅트 MI350'과 'MI355X'의 경우 이보다 높은 가격에 출시될 것으로 예상된다.

AI 반도체 가격 못지않게 전문 인력 부족(22.6%)과 자료 보안 우려(14.4%)도 AI 도입의 걸림돌이 되고 있다. 응답 기업의 49.1%가 외부 클라우드 서비스를 사용하면서 AI 이용 시 내부 자료가 외부 클라우드에 저장되는 등 보안 문제를 우려한다. 또 사용량을 토대로 AI 요금이 부과되면서 장기적으로 AI 사용이 늘면 비용도 덩달아 증가하게 된다.

따라서 AI 확대를 위해 비용 증가와 함께 보안 문제에 대한 우려를 씻어내는 것이 시급한 과제로 꼽혔다. 김범재 오케스트로 대표는 "GPU 도입과 자료 보안 우려가 있는 만큼 퍼블릭과 프라이빗 등 다양한 방식의 클라우드를 통합 관리하는 솔루션 등 실질적인 AI 도입 전략이 중요하다”고 강조했다.

최연진 IT전문기자 wolfpack@hankookilbo.com