AI에 치이고 끌려간 클라우드…새해에는 어떨까

[ZD리서치-2024 전망⑳ 클라우드] 생성 AI, 클라우드엔 위기이자 기회

(지디넷코리아=김우용 기자)올해 어려운 대내외 경제 여건 때문에 많이 힘드셨죠. 포스트 코로나 이후 완전히 다른 세상으로 새로운 패러다임을 고민하게 했던 2023년 한해도 서서히 저물고 있습니다. 새해 2024년에도 세계 경제가 녹록치 않아 기업들이 투자와 대응 전략 수립에 고민이 많습니다. 불확실한 미래를 전망하고 생각을 정립하기 위해 지디넷코리아가 2024년 ICT 분야 이슈 키워드와 기술·시장 트랜드를 미리 점검해 봤습니다. [편집자주]

올해 클라우드 시장은 인공지능으로 시작해 인공지능으로 끝났다. 오픈AI 챗GPT를 기폭제로 전세계 기업이 생성형 AI 프로젝트 수요를 일으켰고, 주요 클라우드 기업은 그 수요를 끌어오기에 열을 올렸다.

그런 가운데 각 클라우드 서비스 기업은 대규모언어모델(LLM)의 시장 선점 효과를 확보, 혹은 저지하는데 집중했다.

마이크로소프트는 생성 AI 시장을 열어젖힌 오픈AI에 선행투자한 덕에 GPT-4의 독점 효과를 톡톡히 누렸다. 불의의 일격을 당한 구글은 PaLM2, 제미나이 등을 발표하며 LLM 선도기업으로서 이미지를 회복하려 애썼다. 반면, 아마존웹서비스(AWS)는 LLM 개발스타트업 '앤트로픽'에 투자하며 어울리지 않는 '개방성'을 전면에 내세우면서 자체 개발 LLM인 타이탄을 강화하는 모습을 보였다.

한국 클라우드 기업도 생성 AI에 적극적인 행보를 보였다. 네이버클라우드는 모기업 네이버의 하이퍼클로바X를 기업용 서비스로 제공하고 있고, KT클라우드는 기업용 생성 AI 플랫폼 서비스를 제공중이다. NHN클라우드는 광주 국가 AI 데이터센터 운영을 시작했다.

(출처: 오픈AI 달리3)

■ 생성 AI는 올해 클라우드 기업에게 위기이자 기회였다

전세계적인 경기 침체에 대다수 기업이 클라우드 비용 최적화에 나섰다. 기업들은 신규 IT 인프라 투자를 생성 AI로 집중시켰다.

퍼블릭 클라우드 기업은 고객의 비용 최적화에 따른 수익 감소를 생성 AI 수요 확보로 메워야 성장을 유지할 수 있었다. 생성 AI 수요가 본격화되지 않았던 올해 상반기 주요 클라우드 기업의 실적은 성장률 감소를 보였고, 하반기 들어 본궤도를 회복했다.

지난 10월말 마이크로소프트, 구글클라우드, AWS 등은 연이어 분기 실적을 발표했다.

마이크로소프트는 마이크로소프트는 지난 2024 회계연도 1분기동안 매출 565억달러, 영업이익 268억 달러, 순이익 223억 달러(주당 2.99달러)를 기록했다고 지난달 24일 밝혔다. 이는 각각 전년동기대비 13%, 25%, 27% 증가한 수치다. 마이크로소프트는 실적발표와 컨퍼런스콜에서 생성 AI 수요를 매출 성장의 동력으로 꼽았다.

AWS 모기업 아마존은 2023 회계연도 3분기 실적발표에서 AWS 부문이 해당 기간동안 매출 230억6천만 달러, 영업이익 69억8천만 달러를 기록했다. 매출은 전년보다 12% 증가했고, 영업이익은 전년동기보다 29% 증가했다. 영업이익은 컨센서스 56억3천만 달러를 초과 달성했지만, 매출은 컨센서스 232억 달러에 못미쳤다. AWS의 영업이익률은 30.3%를 기록했다. 감원과 고용축소에 따른 영업이익 개선으로 설명됐다. AWS의 매출 성장률은 올해들어 20%대 아래로 내려왔다. 다만 6분기 연속으로 이뤄졌던 성장률 감소 흐름을 오랜만에 상승으로 반전시켰다.

AWS는 올해 생성 AI 마케팅 경쟁에서 경쟁사에 비해 한발씩 뒤처지는 모습을 보이고 있다. 거대언어모델(LLM)인 타이탄을 선보이고, 유명 파운데이션모델을 API로 호출해 애플리케이션에 연동하는 아마존 베드락과, 모델 개발과 파인튜닝을 위한 아마존 세이지메이커 점프스타트로 분위기를 조성하긴 했지만 경쟁사 대비 관심도는 떨어진다. 개발자를 위한 코드 생성 도구인 '아마존 코드위스퍼러'는 무료 서비스로 제공되고 있어 수익에 기여하지 않는다.

알파벳은 2023 회계연도 3분기동안 구글클라우드에서 매출 84억1천100만 달러, 영업이익 2억6천600만 달러를 기록했다고 발표했다. 매출은 전년동기보다 22% 성장한 것이다. 하지만 시장 예상치인 86억 달러에 못미쳤다. 영업이익률은 3%였다.

한편으로 고가의 AI 인프라를 빠르게 구축해야 하는 부담도 있었다. 대당 5천만원 내외를 보이는 엔비디아 GPU를 수만개 규모로 구입해야 했고, 그에 따른 설비 운영 비용도 급증했다. 튀어오른 인프라 수요를 공급이 따라가지 못하는 상황 속에서 구매비용과 운영비용 사이의 균형을 맞추는 게 쉽지 않았다. 직접 AI 애플리케이션 서비스를 해야 하는 경우 오히려 너무 많은 사용자가 몰리면 운영 적자 폭이 커지는 웃지못할 상황도 이어지고 있다.

에이미 후드 마이크로소프트 최고재무책임자(CFO)는 지난 실적발표 컨퍼런스콜에서 "예상대로 애저의 최적화 추세는 지난 분기와 유사했는데, 예상보다 높은 AI 소비가 애저의 매출 성장에 기여했다"며 "AI 서비스 매출이 3%포인트 증가했고, GPU 용량 증가와 예상보다 나은 AI 서비스의 GPU 활용도, 사용자 비즈니스의 예상보다 높은 성장에 힘입어 전망을 뛰어넘는 성장세를 보였다"고 밝혔다.

순다 피차이 알파벳 CEO는 당시 컨퍼런스콜에서 "전세계 1천대 기업 중 60% 이상이 구글클라우드 고객"이라며 "현재 자금 지원을 받는 모든 생성 AI 스타트업 중 절반 이상이 구글클라우드 고객"이라고 밝혔다

그는 "버텍스 AI 플랫폼의 활성 생성 AI 프로젝트 수는 7배 증가했다"며 "워크스페이스의 수천개 기업과 백만명 이상의 테스터가 듀엣 AI를 사용했다"고 덧붙였다.

클라우드 기업은 전세계 엔비디아 GPU 공급부족 현상을 부추기면서, 그 수혜를 얻는 모습을 보였다. 옴디아에 따르면, 지난 3분기동안 메타와 마이크로소프트는 엔비디아 H100 GPU를 15만대 구매했고, 구글, 아마존, 오라클, 텐센트 등이 5만대씩 구입했다고 한다.

엔비디아의 GPU 판매중 대부분이 하이퍼스케일러로 흘러들어갔다. 일반기업이나 군소 서비스업체는 구매를 예약하고 최대 1년가량 대기해야 하는 형편이다.

시중에서 GPU를 구할 수 없게 된 기업들은 직접구매보다 2.5~3배 비싼 퍼블릭 클라우드의 AI 인프라 서비스를 이용해야 했다. 혹은 H100보다 한단계 낮은 성능의 A100을 이용하는 수밖에 없었다.

대형 퍼블릭 클라우드 업체들은 생성 AI 관련 서비스를 영업과 마케팅의 전면에 걸었다. 마이크로소프트는 오픈AI의 언어모델을 독점 제공하고, 오피스와 다이나믹스 등 비즈니스 애플리케이션과 윈도11, 빙 등에 GPT-4 기반의 생성AI 기능 '코파일럿'을 붙여 시장에서 가장 큰 목소리를 냈다.

구글도 맞불작전에 적극적이었다. 마이크로소프트와 오픈AI가 새로운 서비스와 모델을 발표할 때에 맞춰 '듀엣AI', PaLM 2, 제미나이 등을 발표했다. 구글클라우드의 생성 AI 플랫폼 서비스인 '버텍스AI'를 계속 강화했다.

마이크로소프트와 구글은 경쟁적으로 생성 AI 메시지를 내보냈고, 이는 시장의 관심과 수요를 빠르게 끌어올리는 상승작용을 일으켰다. AWS, 오라클클라우드 등이 가세하면서 엔터프라이즈 기업의 생성 AI 수요가 전반적인 IT 시장을 활성화시켰다. 연말에 이르러 AWS는 연례 컨퍼런스 '리인벤트2023'에서 생성AI 내용에 상당부분을 할애하며 경쟁의 질주를 이어갔다.

엔비디아 DGX H100 서버

■ 새해 전망

새해에도 클라우드 시장은 AI에 좌우될 것으로 예상된다. 작년 상반기 붐업이 일어나 고객의 기대치를 끌어올렸다면, 하반기부터 본격적인 서비스 출시와 함께 생성 AI의 실적 영향력이 나타나고 있다. 각사는 올해 상반기 생성 AI 수요의 매출 기여도가 눈에 띄게 증가할 것으로 예상하고 있다.

생성 AI 주도로 IT 지출이 확대되는 현상은 내년에도 이어질 전망이다.

가트너는 지난 14일 2024년 전 세계 퍼블릭 클라우드 서비스에 대한 최종 사용자 지출액이 6천788억 달러에 이를 것이라고 발표했다. 이는 2023년 지출 전망치인 5천636억 달러보다 20.4% 증가한 수치다.

2024년에는 클라우드 시장의 모든 부문이 성장할 것으로 예상된다. 서비스형 인프라(IaaS)가 26.6%로 가장 높은 최종 사용자 지출 증가율을 보일 것으로 예상되며, 서비스형 플랫폼(PaaS)이 21.5%로 그 뒤를 이을 것으로 보인다.

생성 AI와 더불어 산업 클라우드 플랫폼의 지속적인 성장세는 클라우드 지출을 촉진하는 또 다른 주요 트렌드로 꼽힌다. 산업 클라우드 플랫폼은 기본적인  SaaS, PaaS, IaaS를 조합해 구성한 완제품 형태다. 가트너는 2027년까지 70% 이상의 기업들이 산업 클라우드 플랫폼을 사용할 것으로 예측했다. 올해는 15% 미만으로 예측됐었다.

생성 AI는 클라우드 시장에 또 다른 균열을 만들어내고 있다. 많은 기업이 생성 AI 프로젝트에 퍼블릭 클라우드를 이용하기보다 사내구축형으로 이용하는 쪽으로 판단하는 경향을 보이기 때문이다. 시기적으로 늦어질 수 있지만, 직접 구축하는 게 비용과 데이터 보안, 레이턴시 측면에서 유리하다고 보고 있다.

특히 AI 개발 프레임워크의 추상화 수준이 대폭 발전해 AI 모델의 이동성이 개선되고 있다. 이는 AI 워크로드의 더 빈번한 이동을 가능하게 하므로, 모델 학습과 개발은 퍼블릭 클라우드에서 단기간에 하고, 완성된 모델의 추론 인프라를 상대적으로 저렴한 온프레미스 환경으로 옮기려는 기업이 늘어나고 있다.

GPU 품귀 현상은 계속될 것으로 예상된다. 엔비디아의 생산 역량이 급팽창하지 않는 한 제한적 규모에서 수많은 구매 대기자가 여전하기 때문이다. 이에 퍼블릭 클라우드 업체는 GPU 부족 문제를 해결하기 위해 생성 AI 워크로드의 타 프로세서로 오프로드를 강력하게 시도할 것으로 보인다. 이미 주요 클라우드 3사는 자체 AI 전용칩을 보유했고, 내년부터 본격 상용화되는 인텔의 5세대 제온 프로세서(에메랄드래피즈)가 CPU에 AI 가속기를 내장해 비즈니스 애플리케이션에 페어링된 소규모 AI 모델을 흡수하려 하고 있다.

김우용 기자(yong2@zdnet.co.kr)