“GPU, 너만 바라보고 있을 순 없어”…확산되는 ‘탈엔비디아’ [뉴스 쉽게보기]

젠슨 황 엔비디아 최고경영자(CEO)가 지난 10월 31일 경주에서 열린 아시아태평양경제협의체(APEC)를 계기로 방한해 기자간담회에 입장하고 있다. <연합뉴스>

어느새 2025년의 마지막 달이에요. 올해 경제를 뒤흔들었던 여러 일들이 떠올라요. 우리나라는 혼란한 정국을 거쳐 새 대통령을 뽑았고, 미국 대통령은 상호 관세 정책으로 세계를 긴장하게 했네요.

산업 지형을 크게 바꿔 놓은 인공지능(AI) 기술을 빼놓을 수 없어요. 챗GPT가 세계를 사로잡은 뒤 엔비디아는 AI 학습과 운용에 필수적인 반도체인 그래픽처리장치(GPU) 시장을 선점하면서, 엄청난 성장을 이뤄냈어요. 올해 우리나라 주식시장 분위기가 좋았던 것도 AI 반도체 덕분이었죠. 이런 분위기는 쉽게 바뀔 것 같지 않았어요.

그런데 정말 세상에 영원한 건 없고, 돈이 되는 곳엔 금세 경쟁자가 등장하게 마련인가 봐요. AI 산업의 시장 구조에도 전환이 일어나기 시작했어요. AI 반도체 업계가 곧 전환기를 맞을 수 있다는 분석이 나와요.

동시에 일하는 ‘GPU’의 등장

엔비디아는 어쩌다 AI 산업계에서 가장 중요한 기업이 됐을까요? 엔비디아는 1993년에 젠슨 황 최고경영자(CEO)가 미국에서 세운 회사예요. 컴퓨터 게임을 즐겼던 젠슨 황은 게임의 그래픽이 점점 정교해지면서, 그래픽 성능이 좋은 반도체 수요도 늘어날 것으로 봤어요.

그래서 엔비디아의 가장 강력한 무기가 된 GPU를 만들기 시작했어요. 사실 당시 컴퓨터 업계에서 가장 중요하게 여겨졌던 건 CPU(중앙처리장치)였어요. CPU는 컴퓨터의 중심에서 모든 데이터를 계산하고 처리하는 반도체였으니까요.

하지만 CPU는 데이터 연산 능력이 뛰어난 대신, 한 번에 하나씩 일을 처리하는 방식이어서 모니터에 정교한 그래픽을 표시해 주는 데에는 불리했어요. 게임이나 영상을 모니터에 띄우는 건 컴퓨터가 연산한 값을 모니터에 표시하는 과정이에요. 모니터는 아주 작은 ‘화소(픽셀)’로 이뤄져 있고, 수백만 개의 화소 하나하나가 컴퓨터 신호를 받아들여 전체 이미지를 만들어 내요. 수백만 개의 화소에 동시에 신호를 보내기에 CPU의 ‘한 번에 하나씩’ 일 처리 방식은 잘 맞지 않겠죠.

젠슨 황은 CPU의 이런 약점을 고려해 GPU를 개발했어요. CPU에 비하면 비교적 단순한 일밖에 못 하지만 ‘동시에’ 많은 일을 할 수 있도록 설계했고, 수많은 화소에 동시에 신호를 보내기 쉽게 만든 거예요.

엔비디아가 GPU와 CPU의 차이점을 설명하기 위해 지난 2008년 시연한 ‘그림 그리기’ 동영상은 꽤 유명해요. 단순한 작업을 동시에 처리하는 GPU의 장점을 명확하게 보여주죠. CPU는 정확한 연산을 통해 물감을 한 번씩 쏴 나가고, GPU는 수많은 종류의 물감을 한 번에 발사해 그림을 완성해 버려요.

AI 시대를 선도한 GPU

고품질 그래픽의 처리를 위해 쓰이던 GPU는 AI 시대를 맞아 엄청난 주목을 받게 돼요. AI 학습 효율이 높았던 거예요. 사실 처음 GPU를 개발할 땐 누구도 생각지 못했던 부분인데요. 대규모 데이터를 반복 학습함으로써 정교해지는 AI 특성상 GPU의 ‘동시 처리 능력’이 안성맞춤이었어요. CPU에 비해 연산 정확도가 떨어지더라도, 수많은 문제를 동시에 풀어 더 많은 시행착오를 거칠 수 있으니까요.

GPU가 AI 학습과 운용에 적합하다는 사실이 알려진 후로는 그야말로 ‘엔비디아 천하’가 펼쳐졌어요. 주가 급등으로 순식간에 세계 시가총액(전체 주식 가치의 합) 1위 회사가 됐고, 전 세계 거대 기업들은 엔비디아의 GPU를 구매하려고 줄을 섰죠. 얼마 전 이재용 삼성전자 회장과 정의선 현대자동차그룹 회장이 서울의 한 치킨집에서 젠슨 황 CEO를 만난 뒤 대규모 GPU 우선 공급을 약속받았던 걸 기억하시는 분들 계실 거예요.

아시아태평양경제협력체(APEC) 정상회의를 계기로 한국을 찾은 젠슨 황 엔비디아 최고경영자가 지난 10월 30일 서울 삼성동 한 치킨집에서 이재용 삼성전자 회장과 정의선 현대차그룹 회장을 만나 ‘치맥 회동’을 가졌다. <연합뉴스>

물론 엔비디아 말고도 GPU를 만드는 기업들이 존재해요. 하지만 엔비디아가 GPU 개발과 함께 미리 조성해 둔 ‘GPU 개발 생태계’는 경쟁사들을 압도했어요. GPU를 사용해서 AI를 연구하고 개발하는 데 활용할 소프트웨어인 ‘쿠다(CUDA)’를 일찌감치 만들어 2006년부터 무료로 배포했기 때문이에요. 발 빠른 준비 덕에 수많은 개발자가 이 소프트웨어를 활용하게 됐고, 결국 웬만한 연구자는 모두 엔비디아에 의존하는 생태계가 형성됐어요. GPU의 성능도 주효했지만, 엔비디아의 오랜 준비가 빛을 발한 결과였어요.

독점을 싫어하는 세계

이렇게 엔비디아의 GPU 생태계는 마치 ‘AI 개발 시대의 독점 플랫폼’ 같은 위치를 차지하게 됐어요. GPU를 기반으로 만드는 AI 반도체 시장에서 점유율이 80~90%에 달했고, 고급 GPU는 1개당 가격이 3만~4만달러(약 4400만~5800만원)에 달할 정도로 비싸게 팔려나갔어요. 비싼 건 둘째 치고, 돈이 있어도 구하기 힘들 만큼 귀한 자원으로 여겨지기 시작했죠.

하지만 대규모 자본과 기술력을 갖춰 ‘빅테크’로 불리는 거대 정보기술(IT) 기업들은 이 상황을 그냥 두고 보지 않았어요. GPU에 의존하지 않고 맞춤형 반도체(ASIC)를 직접 개발해서 쓰기 시작한 거예요. ASIC(Application-Specific Integrated Circuit)는 특정 용도에 쓰기 위해 설계한 반도체를 말해요. GPU가 그래픽 처리를 위해 개발된 후 AI에 활용됐다면, ASIC는 처음부터 AI 학습에 쓸 용도로 만들 수 있어요.

최근 구글은 챗GPT의 성능을 따라잡은 것으로 알려진 AI 모델 ‘제미나이 3’를 공개해 주목받았는데요. 이때 AI 모델만큼 주목받았던 게 구글의 ASIC인 TPU(텐서처리장치)예요. 행렬이나 벡터 등을 아우르는 수학적 개념인 ‘텐서’가 AI 모델의 학습과 추론 과정에 중요한 역할을 하기에 이렇게 이름 붙인 것으로 보여요.

구글 7세대 TPU ‘아이언우드’. <자료=구글>

TPU는 구글이 10년 전쯤에 자체 AI 개발에 쓰려고 만든 반도체였어요. 엔비디아의 GPU를 이용해 여러 기업이 AI 개발에 나설 때, 구글은 TPU 성능을 개선해서 GPU 대신 쓰려고 노력해 왔어요. GPU는 애초에 범용 연산을 위해서 개발됐지만, TPU는 오직 AI 학습과 추론을 위해 만들었다는 게 특징이에요.

구글이 최근 공개한 7세대 TPU인 ‘아이언우드’는 업계 선두 주자인 엔비디아의 최신 GPU인 ‘블랙웰’보다 기술적으로는 뒤지지만, AI 개발에 쓸 때 효율이 높다고 해요. 최신 GPU와 비교해 비슷하거나 조금 낮은 성능에 전력은 훨씬 덜 쓴대요. AI 개발에 TPU를 쓰면, GPU 대비 35%~80% 비용이 절감된다는 분석도 존재해요.

탈엔비디아 겨냥한 ASIC

아마존웹서비스(AWS)의 최신 AI 칩 ‘트레이니엄3’ <자료=AWS>

구글 외에도 많은 빅테크 기업이 AI 개발에 쓸 자체 반도체인 ASIC 생산에 나서고 있어요. 자체 반도체인 ‘트레이니엄2’로 AI 데이터센터를 운영해 온 아마존웹서비스(AWS) 지난 2일(현지시간) 미국 라스베이거스에서 개최한 한 행사에서 신제품 ‘트레이니엄3’를 공개했어요.

AWS는 트레이니엄3의 특징으로 업계 최고 수준의 전력 효율을 꼽았어요. AI 모델의 학습과 운영 비용을 비교해보면, 엔비디아 GPU 대비 최대 50%까지 절감할 수 있다는 게 AWS의 설명이에요. 트레이니엄3는 최근 AWS의 일부 데이터센터에 설치됐고, 내년 초까지 빠르게 적용 규모가 늘어날 것이라고 해요. 차세대 제품인 트레이니엄4 개발도 이미 진행 중이래요.

이외에 챗GPT 개발사인 오픈AI는 반도체 기업 브로드컴과 손잡고 자체 반도체를 내년 말쯤 생산할 계획이에요. 메타는 자체 AI 반도체인 ‘MTIA’를 개발해 AI 개발과 서비스에 활용하고 있고, 알리바바와 바이두 등 중국 기업들 또한 미국 기업인 엔비디아에 의존하지 않으려고 자체 개발한 반도체로 AI 개발을 해왔어요.

이런 기업들이 직접 개발한 ASIC를 고도화하면, 자체 AI 개발이나 서비스에 활용하는 것을 넘어서서 주요 기업들에 판매할 수 있게 돼요. GPU가 너무 비싸진 데다, 전력 효율도 TPU가 더 좋으니까요. 비용이 최대 80%까지 싸다는 분석도 있는 만큼, 성능이 좋은 ASIC가 늘어날수록 엔비디아의 독보적 점유율은 점점 낮아질 가능성이 커요.

엔비디아 중심으로 굴러가던 AI 관련 반도체 생태계에도 변화의 바람이 불 수 있어요. 지금까지는 엔비디아가 설계한 반도체를 TSMC가 생산해서 두 기업의 지위가 독점적이었지만, 앞으로는 여러 업체가 강력한 경쟁자로 부상할 수 있겠죠.

삼성·SK는 걱정 없다?

반도체 생태계가 TPU 등 고성능 ASIC의 등장으로 급변하더라도, 한국 기업인 삼성전자와 SK하이닉스에는 나쁠 것 없다는 게 전문가들의 견해예요. 우선 GPU가 계속 독보적인 시장 점유율을 지켜나가는 경우, GPU에 들어가는 고대역폭메모리(HBM)를 생산하는 삼성과 SK의 지위는 유지될 것으로 보여요. 기존 주요 공급사인 SK하이닉스와 새로운 파트너로 부상하는 삼성전자 등 업체 간 경쟁이 치열해지긴 하겠지만 말이죠.

만약 TPU 같은 ASIC 생산과 판매 시장이 커지더라도, 대표적인 HBM 공급사인 SK와 삼성은 수혜를 입을 가능성이 커요. GPU처럼 TPU에도 여러 개(1개당 6~8개)의 HBM이 들어가거든요. 엔비디아의 주요 공급사로 자리 잡은 SK에 비해 HBM 시장에서 고전 중인 삼성전자 입장에선 더 좋은 기회로 작용할 수 있고요. HBM을 공급하는 방식이 아니라도, TPU 등 ASIC의 파운드리(위탁 생산)를 직접 수주할 가능성도 존재해요. 이미 세계 파운드리 1위인 대만 TSMC는 엔비디아의 물량 탓에 생산 여력이 없는 것으로 전해져요.

GPU가 세계를 지배한다는 말로 떠들썩했던 게 엊그제 같은데, 어느새 세계는 대안을 찾아 움직이고 있어요. 워낙 전문적인 분야여서 누구의 전망이 맞을지도 쉽게 예상하기 힘든데요. 우리 삶을 극적으로 바꿔 놓을 AI 생태계의 변화, 꾸준히 지켜볼 만하지 않을까요?

매일경제 ‘디그(dig)’팀이 연재하는 <뉴스 쉽게보기>는 술술 읽히는 뉴스를 지향합니다. 복잡한 이슈는 정리하고, 어려운 정보는 풀어서 쉽게 전달하겠습니다. ‘디그 구독하기’를 검색하고, 정성껏 쓴 디그의 편지들을 무료로 만나보세요. 아래 주소로 접속하시면, 디그 홈페이지로 연결됩니다. https://dig.mk.co.kr/