올해를 돌아보면 IT 업계의 주인공은 엔비디아를 꼽을 수 있습니다. 특히 주식 거래에 관심 있는 분들이 엔비디아의 미래를 많이 묻곤 합니다. 그도 그럴 것이 액면 분할가를 기준으로 2023년 초 15달러 수준이었던 주가가 올 초에 50달러 선으로 올라섰고, 숨 고를 겨를도 없이 주식의 가치를 쪼개면서 150달러를 넘보며 역대 최고가를 기록하고 있기 때문입니다.

감히 주식 시장을 예측할 수는 없지만 당분간 IT 업계에서 엔비디아의 수요는 줄어들지 않을 것 같습니다. 심지어 엔비디아의 고성능 AI 컴퓨터들을 위한 고대역 메모리(HBM, High Bandwidth Memory)는 반도체 시장의 열쇠가 되는 상황입니다. 과연 엔비디아는 왜 이렇게 유명해졌고, 큰 영향을 끼치는 회사가 되었을까요?

엔비디아는 낯설게 느껴질 수 있지만 사실은 아주 오랫동안 우리 옆에 있었습니다. 아마도 이 글을 읽는 디에디트 독자 중에 엔비디아의 칩을 한 번도 써보지 않은 사람은 없을 겁니다. 어떻게 단정을 짓냐고요? 그 이야기를 시작해 봅니다.

반도체 엔지니어들의 창업,
레드오션 CPU 대신 그래픽에 주목하다

자, 이야기는 아주 옛날로 거슬러 올라갑니다. 1993년, AMD의 엔지니어 세 명이 뛰쳐나와서 반도체를 설계하는 회사를 만들기로 합니다. 그중 한 명이 바로 지금의 CEO 젠슨 황입니다. 벌써 30년이 넘은 회사지만 처음 시작은 기술력 기반의 단출한 회사였지요.

90년대 중반까지 AMD는 반도체 시장에서 인텔의 곁을 맴돌고 있었습니다. 지금이야 자체 브랜드로 한창 잘 나가는 AMD지만 과거에는 인텔의 프로세서의 라이선스를 받아서 복제칩을 만들거나 이를 바탕으로 다른 특장점을 가진 칩을 만들기도 했습니다. 칩 설계에 대한 기술력은 갖고 있지만 PC가 중심인 시장에서 인텔의 PC용 프로세서인 x86의 특허 안에서 움직일 수밖에 없었습니다. 어떻게 보면 아직 기회가 남아 있었던 시장이기도 합니다.

<지난 2023년 컴퓨텍스 엔비디아 키노트. 최근 젠슨 황 CEO의 키노트는 발 디딜 틈 없이 꽉 찰 만큼 엄청난 인기를 누리고 있습니다>

그래서 AMD의 세 엔지니어는 인텔에 맞설 새 CPU를 만들자는 목표로 엔비디아를 세웠습니다. 하지만 CPU 시장은 PC와 맥으로 양분되어 있었고, 그중에서도 윈도우와 인텔 중심의 PC 시장에서는 AMD 이상의 비즈니스가 현실적으로 어려웠습니다. 엔비디아는 창업의 방향을 과감하게 틀어서 비디오 칩셋을 만들기로 합니다. 그리고 1995년 NV1이라는 첫번째 비디오 칩셋을 내놓습니다.

저도 이 칩은 잘 알지 못합니다. 당시 수없이 많았던 비디오 칩셋, 비디오 카드 제조사들 중 하나였을 뿐입니다. 당시에는 ATI나 매트록스, 허큘리스, 챙 같은 회사들이 시장을 쥐고 있었고 3D 그래픽을 가속하는 3Dfx의 부두 칩이 막 떠오르던 시기였습니다. 무엇보다 비디오카드, 그래픽카드는 지금처럼 성능이 아니라 색을 더 많이 표현하고, 높은 해상도를 만들어내는 말 그대로 컴퓨터가 만들어내는 ‘비디오’를 제대로 뿌려내는 역할이 더 크던 시절입니다. NV1은 소비자 입장에서 ‘그런 게 있었구나..’ 정도의 칩이었을 뿐이지요.

시간이 조금 더 흘러 1997년, 엔비디아는 리바 128 칩을 내놓습니다. 이때는 PC의 3D 게임이 막 떠오르기 시작할 때였습니다. 시장의 중심은 3Dfx의 부두였습니다. 부두는 글라이드(Glide)라는 이름의 화면을 그려내는 독자적인 규격을 갖고 있었습니다. 그래서 다른 칩들은 이 시장에 뛰어들기가 쉽지 않았습니다. 이때 PC 시장의 두 기둥이 나섭니다. 인텔은 MMX라는 가속 기술로, 마이크로소프트는 다이렉트X 라는 게이밍 그래픽 규격을 내놓으면서 3D 게임 시장에 나섰지요.

<리바128 그래픽카드. 부두 위주의 3D 가속기 시장에 의미있는 첫 파장을 일으킨 칩셋입니다.>

하지만 쉽지 않았습니다. 3D 그래픽의 처리는 CPU보다 외부의 칩으로 처리하는 것이 옳았고, 당시의 그래픽카드는 3D 처리 능력이 떨어졌습니다. 다이렉트 X도 완성되지 않은 데다가 이를 잘 이해하는 제조사가 없어서 부두 그래픽카드의 성능에 맞설 수는 없었습니다. 있으나 마나 한 제품들인 거죠. 우습지만 당시의 대세는 3Dfx의 그래픽카드를 에뮬레이팅하는 제품이 관심을 받을 정도였습니다.

엔비디아는 조금 다르게 접근을 했습니다. 리바 128은 성능을 중심에 두었고, 다이렉트 X의 명령어들을 모두 흡수해서 만들었습니다. 그러니까 마이크로소프트의 윈도우 PC 환경에 최적화된 3D 게이밍용 그래픽카드가 탄생한 것이지요. 성능도 부두와 견줄 만했습니다. 하지만 다이렉트 X가 완성되지 않았고, 게임도 만족스럽지 못했습니다. 그럼에도 다이렉트 X 진영에서는 가능성을 가장 적극적으로 보여준 사례였습니다. 실제로도 인기가 좋았습니다.

<밀레니엄을 앞두었던 그 시절, 인터넷 PC를 기억하신다면 그 안에는 이 시리즈의 저가형 라인인 ‘리바 반타’가 들어있었을 가능성이 아주 높습니다>

그래서 이듬해인 1998년 ‘리바 TNT’의 등장은 큰 기대를 모았습니다. 그리고 실제로 강력한 성능을 증명했고, 1999년 초 ‘리바 TNT2’까지 엔비디아는 돌풍을 일으킵니다. 아마 이때 당시에 우리나라에 열풍이 불었던 ‘인터넷 PC’를 사셨다면 그 안에는 거의 ‘리바 반타(Vanta)’라는 이름의 저가형 모델이 들어 있었을 겁니다. 이때부터 엔비디아는 세대와 칩의 성능에 따라 제품군을 가르는 방법을 썼던 셈입니다

지포스로 연 GPU의 탄생

그리고 사고는 1999년 10월에 일어납니다. 리바 TNT2의 인기가 한창일 때 엔비디아는 ‘지포스 256(Geforce 256)’이라는 이름의 GPU 칩셋을 공개합니다. 64비트로 작동하는 4개의 엔진을 통해서 이미지 렌더링을 높이는 것이 핵심이었습니다. 어려운 이야기지만 CPU의 듀얼코어, 쿼드코어처럼 연산을 맡는 코어 유닛이 기존보다 늘어나서 한 번에 더 많은 더 많은 3D 점을 찍을 수 있게 됐다고 설명할 수 있습니다.

<제가 갖고 있는 지포스 256 그래픽카드입니다. 저는 부두를 더 선호하던 시기이긴 했지만 엔비디아가 내놓은 GPU의 개념은 놀라웠습니다. 돌아보면 그게 지금의 AI 컴퓨팅까지 이어진 셈이고요>

지포스 256은 단순히 연산량을 늘린 것이 아니라 T&L이라는 연산 엔진을 더했습니다. T&L은 3D 게임의 특성상 물체를 회전하거나 구도가 바뀌는 경우가 많은데, 이때 빛이 비치는 각도를 계산하고, 입체 좌표 중에서 현재 우리가 보는 각도로 좌표를 변환하고 그 결과를 2D 화면의 모니터로 보여주는 것을 말합니다. 쉽게 이야기하면 화면 각도를 돌리는 것에 대한 계산을 하드웨어로 처리하는 기술이라고 보면 됩니다.

‘당연히 그래픽카드의 일이 아니야?’라고 생각할 수 있는데, 이전까지는 이게 CPU가 처리하던 일이었습니다. 그러다 보니 속도가 느리고, 과한 카메라 전환이 어려웠습니다. 엔비디아는 CPU가 하던 일을 그래픽카드에 더 가져가겠다고 선언한 것이고, 그 결과는 CPU가 소프트웨어적으로 처리하던 것에 비해 훨씬 뛰어났습니다. 단순히 3D 화면을 구성하는 폴리곤 계산기였던 ‘3D 가속기’에서 그래픽과 관련된 일들을 직접 맡게 되는 ‘그래픽 프로세서’로 거듭나는 순간인 것이지요.

<25년동안 엔비디아는 거의 매년 새 칩셋을 내놓았습니다. 돌아보면 지포스 RTX40 시리즈는 여러 가지 일을 해내고 있습니다>

이 지포스 256이 지난 10월 11일로 딱 25년을 맞았습니다. 이 지포스 256과 GPU의 개념은 PC의 3D 게임의 역사를 만들어오기도 했지만 지금 모두가 주목하는 AI 컴퓨팅의 기반이 되는 뿌리가 된 셈입니다. 당시에는 워낙 3D 그래픽 처리에 대한 시도가 많았고, 실제로 성공한 사례가 많지 않았기 때문에 ‘GPU라는 개념도 하나의 마케팅 용어가 아닌가’ 하는 의문도 있긴 했습니다.

하지만 엔비디아는 지포스 시리즈를 거듭하면서 픽셀 셰이더, 버텍스 셰이더, 등 더 많은 연산 처리를 가져왔고, 여러개의 연산을 동시에 처리하는 병렬 컴퓨팅의 기틀이 되는 렌더링 파이프라인과 CUDA 컴퓨팅도 확장해 나아갔습니다. 최근 게임 업계에서 가장 주목하는 광원 추적 기술인 레이트레이싱을 하드웨어로 처음 선보인 것도 엔비디아였습니다.

엔비디아의 시련, 그리고 새로운 기회

엔비디아도 늘 잘 나가기만 한 건 아니었습니다. 특히 쓴 맛을 본 것은 모바일이었습니다. 스마트폰 열풍이 불던 2010년대 초반, 엔비디아는 ‘테그라’라는 이름의 모바일 프로세서를 내놓았습니다. 이유는 명확합니다. 모바일에 대한 기대에 비해 초기 모바일 프로세서 성능은 부족했습니다. 엔비디아 입장에서는 CPU는 ARM의 기술을 라이선스해서 쓸 수 있었고, GPU는 엔비디아를 따를 기업이 없었으니 ‘모바일 컴퓨팅’ 시장에서 충분히 승산이 있다고 봤을 겁니다.

<LG전자는 첫 듀얼코어 안드로이드폰 옵티머스 2X를 내놓았었습니다. 평가는 썩 좋지 않았지만 엔비디아의 칩에 대한 기대감만큼은 대단했습니다. 보도사진도 예스럽네요.>

사실 젠슨 황 CEO를 비롯한 엔비디아의 창업자들은 AMD에서 인텔 x86 프로세서의 호환 프로세서를 설계하던 엔지니어였기 때문에 엔비디아는 지속적으로 컴퓨터 시스템에 대한 욕심을 내비쳤습니다. 그 첫 시도는 펜티엄 3 시절 엔포스(nForce)라는 이름의 PC용 메인보드 칩셋 설계였습니다. CPU는 인텔이나 AMD의 것을 쓰더라도 나머지 시스템을 통제하고, 주변기기를 연결하고, 그래픽 프로세서도 내부로 품는 통합형 PC 시스템의 기틀을 그린 것이었습니다.

PC 시장의 경쟁, 텃세를 뚫기는 쉽지 않았습니다. 메인보드 칩셋의 핵심 기술을 인텔과 AMD가 직접 통제하고 칩까지 만드는 방식을 쓰면서 CPU가 없는 엔포스 비즈니스는 사라질 수밖에 없었습니다. 그리고 찾아온 모바일 컴퓨팅 시장은 아직 절대 강자가 없는 상황이었습니다. 엔비디아는 GPU를 중심으로, 그러니까 모바일 게임이 차별성을 가질 것이라고 확신했습니다.

<엔비디아는 어떤 형태로든 부품이 아니라 컴퓨터 형태를 만들고자 했습니다. 자율주행을 위한 차량용 컴퓨터는 엔비디아의 좋은 시도였지요>

그렇게 등장한 테그라는 사실 괜찮은 시도였습니다. 지금 익숙하게 쓰는 CPU의 고성능, 고효율 코어를 분리해서 멀티 코어 성능을 높이는 기술도 적용했고, 엔비디아 특유의 GPU 성능이 더해지면 시장의 중심이 될 수 있을 것 같았습니다.

하지만 이 역시 쉽지 않았습니다. 실제 통합 모바일 칩의 설계와 생산은 매우 어려운 일이었고 기대에 미치지 못하는 경우도 많았습니다. 사실 이는 시간을 갖고 서서히 풀어내면 될 일이었습니다. 그런데 문제는 모뎀이었습니다. 스마트폰은 성능만큼이나 통신 성능이 중요했고, 이 모뎀은 사실상 퀄컴이 주도하는 시장이지요. 엔비디아도 직접 모뎀 기업을 인수해 개발하긴 했지만 주요 모바일 기업들은 그동안 오랫동안 쓰면서 검증된 퀄컴의 모뎀 대신 엔비디아의 것으로 바꾸는 모험을 할 이유가 없었습니다.

결국 엔비디아는 모바일 시장의 안착도 내려놓았습니다. 엔포스의 악몽과 겹쳐 보이기도 했지만 이 모바일 프로세서의 가능성은 스마트폰에 머무르지 않았습니다. 엔비디아는 이를 임베디드 시장으로 확장합니다. 그러니까 우리가 직접 칩을 사는 게 아니라 우리가 이용하는 각종 기기, 서비스들 안에 조용히 숨어서 일을 처리하는 소형 컴퓨터 자리를 노리는 것이지요. 서비스만 제대로 이뤄지면 내부에 뭐가 들어가는지 사람들이 관심을 가질 이유가 없는 폐쇄적인 환경이라고 볼 수 있습니다.

예를 들면 닌텐도의 게임기 ‘스위치’를 들 수 있습니다. 1억 4,000만 대가 넘게 팔린 이 게임기의 핵심이 바로 엔비디아의 테그라 X1입니다. 그리고 그 후속기에도 신형 테그라가 들어간다고 알려졌습니다. 초기 테슬라에도 테그라 프로세서가 쓰이기도 했지요.

<테그라는 스마트폰 시장에 안착하지는 못했지만 게임기, 자동차를 비롯한 임베디드 시장으로 영역을 넓혔습니다. 심지어 이를 이용한 AI 전용 컴퓨터 플랫폼도 만들었습니다. 스마트폰 시장이 아쉽지 않지요>

또한 엔비디아는 이 테그라와 고성능 GPU를 붙인 ‘드라이브 PX’라는 이름의 자율주행 차량용 컴퓨터를 내놓기도 했습니다. 실제로 적지 않은 차량들이 이 드라이브 PX로 자율주행을 실험했습니다. 저도 2017년 엔비디아가 개발하던 자율주행 차량을 타보고 깜짝 놀랐던 경험이 있는데, 자율주행은 현실화가 눈앞에 성큼 다가와 있네요.

결과적으로 스마트폰 시장에서는 주도권을 쥐지 못했지만 GPU 중심의 게이밍과 인공지능 시장이 떠오르면서 엔비디아는 새로운 국면에 접어들었습니다.

<엔비디아가 2017년에 공개한 자율주행 차량입니다. 테그라 기반의 드라이브 PX 컴퓨터가 차량에 달린 갖가지 센서를 통해 주변 상황을 읽고 스스로 움직입니다. 제가 처음 타본 자율주행 차량이었는데 그 충격이 지금도 생생하네요>

GPU, AI 컴퓨팅의 중심이 되다

엔비디아의 주가가 뛰어오르게 된 진짜 이유는 결국 컴퓨팅 기술에 있었습니다. 바로 블록체인과 인공지능입니다. 비트코인과 이더리움 등 암호화폐 시장이 커져가고 블록체인 컴퓨팅이 주목받으면서 이 블록체인을 구성하는 컴퓨팅 파워가 필요했습니다.

작은 연산을 여러 개의 코어로 나누어서 처리하도록 설계된 GPU는 한 번에 막대한 병렬 컴퓨팅 능력을 보여주었습니다. 게이머들이 그래픽카드를 구하지 못할 만큼 GPU 수요는 무섭게 늘어났고 가격도 높아졌습니다. 동시에 챗GPT나 스테이블 디퓨전 같은 생성형 AI 기술이 주목받으면서 이 역시 GPU의 수요를 자극했습니다.

<지금 인공지능 시장의 중심이 되는 H100입니다. ChatGPT를 비롯해 우리가 경험하는 인공지능 서비스 뒤에는 대부분 이 컴퓨터가 있다고 봐도 지나치지 않아요>

블록체인과 인공지능은 서로 달라 보이지만 작은 연산을 여러 개의 연산 유닛으로 쪼개는 병렬 컴퓨팅이라는 기술이 핵심이었습니다. 엔비디아가 당장 이 미래 기술을 내다보고 그동안의 기술을 준비하지는 않았을 겁니다. 하지만 CUDA라는 이름으로 이 병렬 컴퓨팅 시대를 준비해 왔고, 인공지능과 블록체인을 현실화하는 데에 이 기술이 최적의 선택이라는 시장의 결론을 만들어냈다고 볼 수 있습니다.

물론 엔비디아만이 인공지능과 블록체인의 열쇠는 아닙니다. 영원히 엔비디아에만 의지해야 하는 일도 아닙니다. 하지만 분명한 사실은 컴퓨팅의 다양성이 넓어졌다는 점이 엔비디아를 통해 증명되고 있다는 점입니다. CPU는 여전히 복잡하고 커다란 규모의 연산에 유리하고, 소프트웨어를 통해 다양한 종류의 일을 해낼 수 있습니다. 게임처럼 응용프로그램의 특성상 GPU가 더 잘 할 수 있는 일이 생겨났고, 이 병렬 컴퓨팅의 패러다임이 인공지능의 가능성을 자극하게 되면서 어떤 일은 CPU에게, 어떤 일은 GPU에게 맡길 수 있는 이종 컴퓨팅(Heterogeneous Computing), 이종 시스템 아키텍처(Heterogeneous System Architecture) 등이 자리를 잡고 있는 것이지요.

<사진첩을 뒤지다가 발견한 2009년 젠슨 황 CEO의 컴퓨텍스 키노트 사진입니다. GPU의 컴퓨팅이 시작되는 순간이었습니다>

이 역시 GPU가 CPU에게서 그래픽 연산을 넘겨받았듯 NPU(Neural Processing Units), 혹은 AI 가속기로 불리는 인공지능 전용 칩셋으로 언젠가는 대체될 수도 있습니다. 엔비디아 역시 그 부분을 잘 바라보고 있고요. 우리가 뉴스에서 흔히 보는 A100, H100 등의 인공지능 전용 솔루션 외에도 DGX 플랫폼으로 불리는 수억 원대 AI 슈퍼컴퓨터가 등장하고 있습니다.

엔비디아의 역사를 돌아보면 GPU에서 새로운 컴퓨팅 환경을 찾아가는 과정이었다고 해석할 수 있습니다. 비슷한 제품을 내놓는 수많은 기업들 사이에서 차별성을 갖게 되는 것은 오랜 기술 기반의 고집, 그리고 확장성에 대한 시야와 적절한 대응이었던 것이지요. 그리고 그 시작은 바로 GPU라는 개념이었습니다.