넥스트 엔비디아는 어디? 브로드컴, ‘이더넷 네트워크’ 대표 주자

ARM, 서버 CPU 공략…NPU 각광

뱅크오브아메리카는 차기 시가총액 1조달러 후보로 브로드컴을 꼽았다. (EPA)

인공지능(AI) 반도체를 만드는 엔비디아 주가가 파죽지세다. 하루가 멀다 하고 신고가를 갈아치우며 ‘넥스트 엔비디아’에 주목하는 시선이 확산하고 있다.

AI 공급망 지도를 그려보면 이렇다. AI 산업 공급망은 크게 칩 설계·IP, 부품, 제조, 네트워킹, 전력·열관리, 제조장비, 테스트·측정 등으로 그려진다. 엔비디아, ARM, AMD를 비롯한 주요 빅테크 상당수가 칩 설계와 IP 카테고리에 속한다. 부품 카테고리는 고대역폭메모리(HBM)가 대표적으로 삼성전자와 SK하이닉스 등이 여기에 속한다. 제조 카테고리는 AI 칩 부품·생산 등 영역으로 파운드리 세계 최강 TSMC가 대표 주자다.

네트워킹은 AI 데이터센터 안팎 원활한 데이터 전송을 위한 고속 네트워킹 장비가 포함된다. AI 데이터센터 네트워크 인프라 구축에 필수적이며 브로드컴이 간판 기업이다. 이외 전력·열관리 카테고리는 AI 데이터센터의 안정적인 전력 공급과 효율적인 열관리를 지원하는 기업을 포괄한다. 제조장비는 ASML 등이, 테스트·측정 등 카테고리에선 어드반테스트 등이 대표적이다.

이 가운데 ‘넥스트 엔비디아’ 기대감이 높은 AI 공급망 분야로는 크게 네트워킹, AI 데이터센터 전력·열관리 등이 첫손에 꼽힌다. AI 데이터센터 설비 투자 확대로 서버용 CPU 시장이 커지자 팹리스 기업 ARM도 영역을 확장 중이다. 이외 GPU값이 천정부지로 치솟자 NPU 등 AI 대체 칩 시장이 각광받는 가운데, 향후 AI가 적용될 ‘휴머노이드’까지 ‘넥스트 엔비디아’ 물망에 오른다.

AI 네트워크 인프라 전쟁

‘反엔비디아’ 이더넷 전선 구축

최근 월가 핫 키워드는 ‘이더넷 네트워크’다. 관련 산업 대장주로 꼽히는 브로드컴과 아리스타네트웍스 주가만 봐도 알 수 있다. 6월 18일 브로드컴 종가는 1802달러. 올해 초 1085달러와 비교하면 66% 올랐다. 아리스타네트웍스도 비슷하다. 연초 231달러 수준이던 주가는 6월 18일 종가 기준 340달러를 기록했다. 46% 상승이다. 미국 증권사 인터랙티브브로커스의 스티브 소스닉 수석전략가는 “대형 기술주 매그니피센트7 리스트에서 테슬라를 빼고 브로드컴을 넣어야 한다”며 “AI 시대 정신을 정확하게 포착하고 있는 기업”이라고 밝혔다.

이더넷 네트워크는 복잡한 개념이다. 이해하려면 AI 네트워크 구조를 알 필요가 있다. AI 네트워크는 크게 ① 서버 내부 연결 ② 서버 외부 연결 두 가지로 나뉜다. 먼저 ① 내부 연결은 AI 서버 내부의 반도체와 부품 등을 연결하는 형태다. 반도체업계에서 자주 언급되는 고속 데이터 전송 기술(PCIe)과 PCIe 기반 컴퓨트 익스프레스 링크(CXL), 엔비디아 자체 기술인 NVLink 등이 내부 연결 기술이다. 반면 ② 외부 연결은 데이터센터 내 서버와 서버 간 연결을 의미한다. 이를 위해선 인프라 구축이 필수인데, 두 가지 방법이 있다. 하나는 그래픽처리장치(GPU)를 구매하며 인프라 구축까지 ‘패키지 상품’ 형태로 구매하는 방식이다. 또 다른 하나는 GPU는 별도 구매하고 인프라 구축은 다른 업체 장비 등을 활용하는 형태다. 쉽게 말해 완제품을 사느냐 조립식을 사느냐의 차이다.

패키지 상품을 팔아온 곳이 엔비디아다. GPU와 함께 자사 네트워크 인프라 인피니밴드(InfiniBand)를 묶어 판매했다. 끼워팔기 비판이 나올 법한데, 불만 갖는 고객은 없었다. 네트워킹 기술 성능과 안정성 면에서 인피니밴드가 이더넷보다 앞선 것으로 여겨졌기 때문이다.

하지만 인피니밴드도 한계가 있다. 대형 AI 데이터센터가 지어지면서 서버가 늘고 이 과정에서 확장성 문제가 대두됐다. 인피니밴드의 핵심 콘셉트는 ‘RDMA(Remote Direct Memory Access)’와 ‘데이터 손실 최소화’다. 서로 다른 서버를 CPU 중개 없이 직접 연결해 속도를 개선하면서도 데이터 손실은 최소화한다는 의미다. 문제는 RDMA가 현재 수준의 대형 AI 데이터센터와 적합하지 않다는 점이다. 연결할 서버가 늘수록 과부하로 성능 저하가 불가피해졌다. 젠슨 황 엔비디아 최고경영자도 지난해 1분기 실적 설명회에서 인피니밴드가 대형 데이터센터를 겨냥한 게 아니라는 점을 밝힌 바 있다.

아리스타네트웍스(이더넷 기반 장비 생산)와 브로드컴(이더넷 장비 반도체 공급) 등 이더넷 진영은 이 지점을 파고들었다. 일단 RDMA와 유사한 ‘RoCE(RDMA over Converged Ethernet)’ 기술 표준을 채택했다. 덕분에 지원 가능한 대역폭은 이전보다 배로 높아졌다. RoCE v2가 적용된 아리스타네트웍스의 ‘7800R3 이더넷 스위치’는 인피니밴드와 유사한 수준의 대역폭을 지원한다.

이더넷 진영은 이에 더해 확장성과 가성비를 앞세워 존재감을 키웠다. IT업계에 따르면 이더넷 기반 장비 활용 시 인피니밴드 대비 50% 비용으로 인프라 구축이 가능하다. 고객인 빅테크 입장에서는 엔비디아 의존도를 낮추는 동시에 ‘확장성’과 ‘가성비’도 챙길 수 있는 셈이다.

마이크로소프트는 특수 AI 반도체를 탑재한 슈퍼컴퓨터와 이 슈퍼컴퓨터로 구성된 데이터센터를 구축하는 130조원대 프로젝트를 계획 중인데, 인피니밴드 대신 이더넷을 활용할 가능성이 높다. 제이스리 울랄 아리스타네트웍스 CEO는 지난 3월 모건스탠리 기술·통신 콘퍼런스에서 “우리와 접촉 중인 5개 고객사 중 4곳이 인피니밴드 대신 이더넷을 선택했다”고 말했다.

분위기 반전에 이더넷 진영에서도 자신감 섞인 전망이 이어지는 모습이다. 램 벨레가 브로드컴 코어스위치사업부 부사장은 지난 3월 ‘인프라 투자 설명회’에서 “18개월 전까지 인피니밴드가 세상을 지배하고 이더넷이 설 자리는 없다는 비판을 받아왔다. 하지만 최근 대형 서버를 구축하는 고객 중심으로 이더넷이 새로운 정답으로 올라섰다”고 말했다. 그러면서 “여전히 인피니밴드 고객들이 있지만 앞으로 1~2년 안에 많은 고객이 이더넷 전환을 결정할 수밖에 없다. 이더넷은 앞으로 대규모 머신러닝 클러스터의 표준이 될 것”이라고 강조했다.

AI 데이터센터 ‘픽앤쇼벨’

서버·PC로 영역 넓힌 ARM

빅테크의 최대 관심사는 AI 데이터센터다. 데이터센터는 모든 데이터를 저장·유통·처리하는 시스템이다. 쉽게 말해 정보를 한곳에 모아둔 건물이다. 도서관을 떠올리면 편하다. 다만 AI 시대로 접어들며 데이터 양은 늘었고 요구 처리 속도는 빨라졌다. 이에 맞는 데이터센터가 필요해진 상황. 결국 빅테크는 새로운 AI 데이터센터 구축에 나섰다.

문제는 비용이다. 챗GPT 출시로 AI 시대를 촉발시킨 오픈AI는 마이크로소프트와 함께 대규모 AI 데이터센터를 구축하는 ‘스타게이트’ 프로젝트를 추진 중이다. 투입 예정 비용만 6년간 1000억달러(약 135조원)다. 아마존도 15년 동안 데이터센터 건설에 1500억달러(약 205조원)가 필요할 것으로 예상했다. 빅테크가 지난해를 기점으로 엔비디아 GPU를 대체할 자체 칩 개발에 집중하는 배경이다.

하지만 아직까지 이렇다 할 성과는 없다. 이에 빅테크가 눈을 돌린 쪽은 서버용 중앙처리장치(CPU)다. 자체 CPU라도 만들어 비용 부담을 줄이고 인텔·AMD 의존도를 낮춰보자는 심산이다. 마이크로소프트는 지난 5월 연례 개발자 콘퍼런스 ‘빌드’에서 자체 개발한 서버용 CPU ‘코발트100’을 공개했다. 구글 클라우드도 지난 4월 기술 콘퍼런스를 열고 구글의 첫 서버용 CPU 악시온을 선보였다.

이 과정에서 주목받는 곳이 반도체 칩 설계 업체 ARM이다. 마이크로소프트 코발트100과 구글 클라우드 악시온 모두 ARM 설계 기반 CPU다. 만든 건 마이크로소프트와 구글 클라우드지만 칩 설계도(AP)를 제공한 건 ARM이라는 의미다.

ARM은 그간 모바일 시장에 집중해 칩 설계 분야를 사실상 독점해왔다. 모바일 시장을 제패한 ARM은 AI 시대로 접어들며 PC와 서버용 시장까지 노려보고 있다. 새로운 성장동력 확보에 나선 셈이다. 특히 서버용 시장 내 ARM 기반 CPU 점유율은 우상향 중이다. 대만 디지타임스 리서치 조사에 따르면 지난해 기준 서버용 시장 ARM CPU 점유율은 8.1%로 나타났다. 그간 점유율이 0~2% 수준이었다는 점을 고려하면 시장 침투율이 상당히 빠른 편이다. ARM 존재감은 주가에 드러난다. ARM 홀딩스는 6월 18일 종가 기준 174달러를 기록했다. 올해 초 68달러와 비교해 152% 상승했다.

AI 데이터센터 수요 증가로 전력 분야도 주목받고 있다. AI 데이터센터는 기존 데이터센터보다 더 빠르고, 더 많은 정보를 처리·보관하는 만큼 10배 이상 전력이 필요하다. 구글 검색에 필요한 전력은 평균 0.3Wh. 반면 생성형 AI 챗GPT는 2.9Wh의 전력이 요구된다. 일론 머스크 테슬라 최고경영자도 올해 초 “앞으로 우리가 마주할 부족한 자원은 전기”라며 “2025년 모든 빅테크의 AI 칩을 구동할 충분한 전력을 찾을 수 없을 것”이라고 경고했다.

추가적인 전력원으로 각광받는 게 태양광이다. 이유는 단순하다. 일단 빅테크와 가장 친숙한 신재생에너지다. 글로벌 투자은행 UBS 보고서에 따르면, 2019년부터 2023년까지 미국 태양광 수요의 80% 정도가 기업 대상 전력구매계약(PPA) 형태로 소화됐다. 구체적으로 기업 대상 PPA 대부분은 빅테크의 계약이었다. 아마존과 메타, 마이크로소프트 비중이 60%를 넘어섰다. 골드만삭스와 UBS 등 글로벌 투자은행이 미국 태양광 모듈 업체 퍼스트솔라를 ‘최우선 선호주’로 꼽는 배경이다. 브라이언 리 골드만삭스 애널리스트는 “데이터센터 투자가 늘고 있는데, 퍼스트솔라가 미국 최대 태양광 패널 제조 업체로 독보적 혜택을 볼 것”이라고 말했다.

국내 기업 중에서도 AI 데이터센터 수혜를 받는 곳이 있다. 전력기기 분야다. 관련 업계에서는 ‘슈퍼 사이클’ ‘본 적 없는 호황’이라는 말도 나온다. 데이터센터 건설로 초고압 변압기 수요 등이 늘면서 호황이 찾아온 것이다. 미국 내 생산 공장을 운영 중인 HD현대일렉트릭 등은 이미 수년 치 주문이 쌓였다는 분석이 나온다.

이상현 BNK투자증권 애널리스트는 “글로벌 전력 인프라 투자와 변압기 수요 증가 사이클을 고려할 때 주가 우상향 기조가 이어질 것으로 예상한다”면서 “대략 2년 치 이상의 수주 물량을 보유 중이고, 현재 받는 수주 납기는 3년 이후인 장납기 물량으로 파악된다”고 분석했다. 올해 3월 말 기준 HD현대일렉트릭 수주 잔고는 6조4972억원이다. 권덕민 신영증권 애널리스트도 “글로벌 AI 데이터센터 건설 증가에 따른 전력 수요 증가로 변압기 수요 또한 장기간 지속될 것으로 전망한다”고 설명했다.

대체 칩 NPU 뜬다

삼성전자, SK하이닉스 기대

GPU 대체 칩 등장 가능성이 높아진 점도 엔비디아에 위협 요인이다. 엔비디아가 뛰어난 매출총이익률을 보일 수 있었던 비결이 GPU 칩 희소성이라는 데 이견이 별로 없다.

그러나 엔비디아 GPU 가격이 천정부지로 치솟으며 대체 칩 개발이 활발하다. 업계에서는 생성형 AI 분야 신경망처리장치 NPU가 점차 GPU를 대체할 것으로 본다. NPU는 AI 핵심이라 할 수 있는 딥러닝 알고리즘 연산에 최적화된 반도체다. 범용성은 다소 부족하지만 딥러닝 연산에 특화해 GPU보다 빠른 연산 작업이 가능하고 전력 소모를 줄여 전성비도 개선할 수 있다. 글로벌 전략 컨설팅사 맥킨지에 따르면, 생성형 AI로 인한 글로벌 경제적 효과는 연간 최소 2조6000억달러(약 3393조원)에 이르며 한국에서 경제적 효과는 100조원 안팎으로 추산된다. 맥킨지는 GPU를 대체할 NPU에 주목할 필요가 있다고 진단했다. NPU 칩 제조사가 ‘넥스트 엔비디아’로 주목받는 이유다.

AI 서비스 전문화 추세에 맞춰 삼성과 SK하이닉스는 GPU를 대체할 수 있는 AI 칩 제조에 사활을 걸었다. 삼성전자는 지난해 12월 네이버와 손잡고 1년 동안 개발한 AI 반도체를 공개했다. KB증권에 따르면 삼성전자는 AI 추론칩 ‘마하1(Mach-1)’을 올 4분기부터 본격 생산할 것으로 전망된다. 마하1은 HBM 대신 저전력 D램을 탑재해 거대언어모델(LLM) 추론이 가능하다. 메모리와 GPU 사이 병목 현상도 8분의 1로 줄여 전력 효율이 8배 높게 설계됐다. 최근 마하2(Mach-2) 개발을 시작한 삼성전자는 올 4분기부터 네이버를 시작으로 데이터센터 업체에 본격 공급할 것으로 기대를 모은다.

SK하이닉스는 리벨리온-사피온 통합법인으로 승부수를 띄웠다. 최근 SK텔레콤은 사피온코리아와 리벨리온 합병을 추진한다고 밝혔다. 실사와 주주동의 등 후속 절차를 거쳐 올 3분기 중 합병 본계약 체결을 마무리하고, 연내 통합법인 출범이 목표다. 통합법인 경영은 리벨리온이 담당하고 대표 또한 박성현 리벨리온 대표가 맡는다.

AI에서 로봇으로

‘인간형 로봇’ 속속 투입

생성형 AI 고도화로 ‘인간형 로봇(휴머노이드 로봇)’ 기업도 엔비디아 열풍을 이을 유망주로 기대를 모은다. 생성 AI의 폭발적인 성장으로 이전보다 훨씬 개선된 인간형 로봇이 산업 현장에 속속 투입되고 있다. 테슬라, 아마존 등 주요 빅테크는 차세대 휴머노이드 로봇 도입에 속도를 붙였다.

최근 테슬라가 새삼 주목받는다. 테슬라는 지난 6월 11일 인간형 로봇 ‘옵티머스’ 2대를 자사 공장에 배치했다고 밝혔다. 이 소식이 전해진 뒤 기술 혁신 기대감을 타고 테슬라 주가는 재차 상승세를 탔다. 테슬라 측이 공개한 데모 영상이 시장에서 호평받은 덕분으로 풀이된다. 이 영상을 보면, 옵티머스는 미래 SF 영화에서 봐오던 미래형 로봇과 별반 차이가 없다는 평가다. 계란을 쥐는 등 섬세한 동작은 물론 산업장에서 자율적으로 멀티 업무를 수행하는 것도 가능할 것으로 기대를 모은다. 일론 머스크 테슬라 CEO는 지난 6월 13일 주주총회에서 옵티머스가 테슬라 시가총액을 현재의 약 44배인 25조달러로 끌어올리는 데 디딤돌이 될 것이라 주장했다. 테슬라는 이르면 내년부터 옵티머스 판매를 본격화한다.

테슬라뿐 아니라 상당수 빅테크도 진보된 AI 기술을 기반으로 인간형 로봇 도입에 속도를 낸다. 아마존은 지난해 10월부터 인간형 로봇 ‘디짓’을 자사 물류 창고에 배치했다. 현재 ‘디짓’은 상자 이동 등 단순 업무를 맡는 수준이지만 향후 업무 영역을 확장할 계획이라는 게 아마존 구상이다.

‘챗GPT’로 생성 AI의 새 장을 연 오픈AI도 지난 5월 로봇개발팀을 꾸려 인간형 로봇 개발에 뛰어들었다. 앞서 2020년쯤 오픈AI는 내부 AI 로봇 조직을 없애고 ‘피규어(Figure)’ 등 유망 로봇 스타트업에 투자하는 등 외부화를 검토했으나, 최근 로봇 전략이 180도 바뀌었단 평가를 듣는다.

인간형 로봇 산업의 성장 가시성이 높아진 것은 AI 기술 고도화 덕분이라는 데 이견이 없다. 오픈AI의 ‘GPT-4o’ 등 최신 AI는 그림, 영상, 소리, 언어 등 여러 형식의 ‘멀티모달’ 데이터를 학습해 여러 변수와 상황에 대한 대처 능력이 대폭 개선됐다. 하드웨어 인프라도 개선됐다. 가속기와 모터 등 인간형 로봇 핵심 부품은 소량 주문형 제작으로 손익을 통제하기 힘들었지만, 이제는 부품 표준화와 양산 기반 확충으로 비용 구조가 크게 개선됐다. 로봇이 다목적 작업을 할 수 있는 실질적인 기반을 닦은 셈이다.

[배준희 기자 bae.junhee@mk.co.kr, 최창원 기자 choi.changwon@mk.co.kr]

[본 기사는 매경이코노미 제2265호 (2024.06.26~2024.07.02일자) 기사입니다]