[사이언스프리즘] ‘어쩌면’을 위한 투자

엔비디아, 칩 설계 ‘그록’에 베팅
반응 속도 최대 100배까지 향상
AI 반도체 선두기업의 미래 투자
천재들의 혁신 촉진에 큰 마중물

2026년 3월, 엔비디아는 그록(Groq)이라는 인공지능(AI) 반도체 회사의 지식재산권과 인력을 무려 20억달러, 약 30조원에 가까운 금액을 지급하고 확보했다는 사실을 발표했다. 재미있는 사실은 엔비디아는 이미 AI 반도체 점유율 1위 기업이라는 것이다. 즉 세계 1위 AI 반도체 기업이 시장 점유율이 없는 기업에 무려 30조원을 지급했다는 것을 의미한다. 세계 최고 기업이 무엇이 아쉬워서 이런 큰돈을 지불한 것일까.

엔비디아의 큰 고민은 ‘미래 AI 반도체 시장’이다. 지금의 AI 반도체는 대부분 GPU이지만, 이는 그동안 AI의 발전 방향이 반도체의 처리량이 많을수록 유리해지는 구조였기 때문이다. 기본적으로 AI는 학습이라는 과정을 거쳐야 사용할 수 있는데, 학습은 매우 큰 데이터 처리량을 필요로 한다. 게다가 챗지피티와 같은 언어AI는 실전 배치된 뒤에도 그 이전 세대 AI보다 수백~수천배 높은 처리량을 요구한다. 즉, 뇌를 학습시키는 과정은 높은 처리량을 필요로 하는데 뇌 크기까지 매우 커진 상황이었던 것이다. GPU는 이 요구사항을 만족시킬 수 있는 반도체였다.

정인성 작가

문제는 AI가 빠르게 변화하고 있다는 것이다. 사용자가 늘어나고 AI를 다른 분야에도 적용하려는 사람들이 생겨나자 다양한 특징의 AI가 개발되기 시작했다. 일반적으로 사용자들이 사용하는 제미나이와 챗지피티 등 언어AI는 여전히 처리량을 중요시했지만, 이제 다른 특성을 요구하는 시장의 가능성이 보이기 시작한 것이다.

그록은 AI 반도체 중 반응 속도에 최적화된 반도체이다. 그록은 언어AI와 비슷한 구조를 가진 AI의 반응 속도를 높이기 위해 칩의 가격을 높이고 동시에 반도체를 극단적으로 단순하게 설계했다. 그록에 따르면, 반응 속도를 10배에서 최대 100배까지 개선할 수 있다고 한다. 엔비디아의 반도체를 사용할 경우 AI가 100명의 사람에게 초당 동시에 1의 속도로 대답할 수 있다고 하면, 그록 반도체를 사용하면 1명의 사람에게 100의 속도로 빠르게 대답할 수 있다는 의미이다.

혹자는 이런 기술이 무슨 의미가 있는지 반문할 것이다. 위 예에 따르면 두 반도체의 대답 생성량은 초당 100으로 동일한데, 그록 칩이 더 비싸니 가성비만 떨어지는 것 아닌가. 그런데 반응 속도는 큰 가치를 가질 수 있다. 요리사에게 아주 특별한 재료가 필요한데, 이 재료가 하루이면 상한다고 해 보자. 이 요리사에게 배송에 이틀 걸리지만 배송료가 무료인 택배 서비스가 의미가 있을까. 당연하지만 요리사는 유료이더라도 소요 시간이 하루 미만인 택배를 선호할 것이다.

이는 AI도 마찬가지이다. 특정 현장에서는 빠른 의사결정이 중요할 수 있다. 만약 공장 내에서 매우 빠른 속도로 물건이 움직이는데, 그 안에서 불량품을 걸러내야 한다면 어떻게 할 것인가. 똑똑한 AI가 있더라도 엔비디아 칩을 써서는 결국 공장의 목적을 이룰 수 없다. 이럴 때 이미 개발된 AI를 빠르게 돌아가게 해주는 것이 그록 칩이다. 공장은 ‘느린 속도로 돌아가는 컨베이어 벨트 여러 개’는 엔비디아 칩으로, ‘빠른 속도로 돌아가는 소수 공정’은 그록 칩을 사용함으로써 자동화율을 높일 수 있다. AI 시장도 단일한 영역이 아닌 것이다.

물론 위의 예는 가상의 예시에 불과하다. 실제로 혁신가들이 무엇을 원하는지는 아직 알 수 없다. 하지만 확실한 것은, 일단 반도체가 있어야 많은 천재가 혁신을 시도해 볼 수 있다는 것이다. 2000년도 중반, 엔비디아는 쿠다(CUDA) 생태계를 만들기 시작했고 이 생태계 덕분에 2012년에 AI 기술이 꽃필 수 있었다. 사실 쿠다는 물리학자와 시뮬레이션 개발자를 고객으로 예상했지만, 힌튼 박사 등 소수의 AI 천재가 사용했고 덕분에 대박이 터진 것이다. 이번 투자 역시 ‘어쩌면’ 나타날지 모를 천재를 위해 기꺼이 수십조원을 투자한 것이다. 이것이 AI 반도체가 아닌, 생태계 전체를 이끌어가는 선두 기업이 해야 할 일일 것이다.

정인성 작가