“AI 하나 만드는데 ○○조원 든다고?”...오픈AI가 AI칩을 만들려는 진짜 이유 [위클리반도체]

오픈AI, 브로드컴·TSMC와 맞손
칩 독립 선언, 엔비디아 탈피·자체 칩 꿈
2026년 목표로 AI 전용 칩 설계·생산
오라이온, 차세대 AI 모델 준비설 솔솔
“100조 파라미터 위한 GPU 확보전?”

: 샘 올트먼 오픈AI CEO(왼쪽)과 사티아 나델라 MS 회장

오픈AI가 브로드컴(Broadcom), TSMC와 손잡고 AI 전용 칩을 자체 개발하는데 나섰다는 소식이 있었습니다. 그동안 엔비디아(NVIDIA)의 그래픽처리장치(GPU)에 크게 의존했던 오픈AI가 칩 공급망을 다변화하고, 비용 절감을 꾀하기 위한 하나로 보이는데요. 로이터에 따르면, 오픈AI의 자체 칩은 2026년 출시를 목표로 하고 있습니다. 또 브로드컴이 설계를 돕고 TSMC가 생산을 맡게 될 예정입니다. 한때 오픈AI는 자체 칩을 위해 반도체 공장 설립을 추진했습니다. 샘 올트먼은 한국을 방문해 삼성전자, SK 등 한국 기업을 잇달아 탐방하고 협력 가능성을 타진한 바 있습니다. 하지만 비용과 시간 문제로 인해 직접 생산을 포기하는 대신 설계에 집중하기로 한 것으로 보입니다. 외신 보도에 따르면, 오픈AI는 이미 구글 텐서플로유닛(TPU) 개발에 참여한 엔지니어들로 구성된 팀을 꾸렸습니다. 한편 오픈AI는 MS와 함께 ‘스타게이트(Stargate)’ 프로젝트를 통해 수백만 개의 GPU를 확보하려는 사업도 벌이고 있습니다.

브로드컴(Broadcom)은 어떤 기업일까요. 브로드컴은 글로벌 반도체·통신 장비 회사로 유명합니다. 주로 반도체 칩을 설계하고 네트워크 장비용 칩, 스마트폰과 같은 모바일 장치, 저장 장치 및 통신 장비에 사용되는 반도체를 개발하고 있습니다. 브로드컴 역사는 다소 복잡합니다. 1991년 미국 캘리포니아 산호세에서 UCLA 출신 헨리 사무엘리와 헨리 니콜라스가 반도체 개발을 목적으로 브로드컴 코퍼레이션을 세웠는데요. 이후 1961년 휴렛팩커드(HP)의 반도체 사업부에서 독립한 아바고 테크놀로지(Avago Technologies)가 이 브로드컴 코퍼레이션을 2015년 인수·합병합니다. 그리고선 브로드컴 유한회사로 상호를 변경합니다.

네트워크 인프라의 핵심 브로드컴

브로드컴 코퍼레이션을 창업한 헨리 니콜라스

브로드컴의 반도체는 오늘날 네트워크 인프라의 핵심적인 역할을 하고 있는데요. 특히 ASIC(Application-Specific Integrated Circuit)과 시스템온칩(SoC·System-on-Chip) 설계에 강점을 지니고 있습니다. ASIC 칩은 특정 애플리케이션에 맞춘 맞춤형 칩인데요. AI 가속을 위해 브로드컴은 고성능 프로세서와 메모리를 단일 칩에 통합해, 복잡한 연산을 신속하게 수행할 수 있도록 설계하고 있습니다. 이러한 기술은 AI 모델 학습과 추론에 필요한 연산을 효율적으로 처리하는 데 적합하다는 평가입니다. 이 뿐 아닙니다. 브로드컴은 스토리지용 컨트롤러 및 인터페이스 칩도 개발하고 있는데요. 이는 데이터센터와 클라우드 인프라에서 대용량 데이터를 빠르게 처리하고 전송할 수 있도록 최적화돼 있습니다.

오픈AI가 브로드컴과 손을 잡은 것은 많은 것을 시사합니다. 앞서 오픈AI는 차세대 AI 모델인 ‘오라이온(Orion)’을 개발 중이라는 소식이 전해졌습니다. 오라이온은 마이크로소프트 애저(Azure) 데이터센터에서 호스팅될 예정인데요. 현재 일부 협력사에만 접근 권한이 부여될 것으로 알려졌습니다. 정보통신 매체인 더버지(The Verge)는 오라이온이 GPT-4의 후속작으로, 성능 면에서 GPT-4보다 최대 100배 강력할 것이라며 오픈AI 내부 임원들의 발언을 인용해 보도했습니다. 샘 올트먼 오픈AI CEO는 이에 대해 ‘가짜 뉴스’라며 강하게 부인했습니다. 올트먼은 오라이온 출시 계획을 “무작위 판타지”라고 표현하며, 현재로선 연내 공개할 계획이 없다고 밝혔습니다. 또 오픈AI 대변인은 오라이온의 연내 출시 계획은 없으며 대신 다른 혁신적 기술들을 준비하고 있다고 덧붙였습니다.

새 AI 모델 오라이언, 얼마나 많은 컴퓨팅 파워 필요하나

올트먼이 최근 X(옛 트위터)에서 겨울 별자리 ‘오라이온’을 언급한 것을 두고, 새로운 AI 모델에 대한 암시일 가능성도 제기되고 있다.

하지만 시장의 관심은 이미 오픈AI의 오라이온으로 향해 있습니다. 올트먼이 최근 X(옛 트위터)에서 겨울 별자리 ‘오라이온’을 언급한 것을 두고, 새로운 AI 모델에 대한 암시일 가능성도 제기되고 있기 때문입니다. 또 외신들은 오픈AI가 이미 9월까지 오라이온의 훈련을 완료한 것으로 파악했습니다. 오픈AI가 더 큰 언어 모델을 구축하면 할수록 방대한 컴퓨팅 파워가 필요합니다. GPT-3이 1,750억 개의 파라미터로 구성된 데 반해, GPT-4는 약 1조 개의 파라미터로 추정되고 있습니다. 만약 차세대 모델이 100배 이상 성능을 갖는다면. 이론적으로는 100조 파라미터를 확보해야합니다. 물론 100배 성능이 과장일 수는 있습니다. 하지만 방법이 없는 것은 아닙니다. 특히 MoE(Mixture of Experts) 모델을 도입할 가능성도 있습니다. 소규모 전문가 네트워크가 데이터에 맞춰 선택적으로 활성화되는 방법인데요. 예를 들어, 220억 파라미터로 구성된 전문가 네트워크 50개를 조합해 총 1조 1,000억 개의 파라미터를 구성하는 방법입니다. 필요에 따라 전문가 네트워크 AI가 활성화되기 때문에 한꺼번에 1조 1,000억 개 파라미터가 활성화 되지는 않습니다.

오픈AI가 차세대 AI 모델을 위해 요구하는 막대한 컴퓨팅 자원은, 그 규모가 상상을 초월합니다. 만약 GPT-5가 100조 개의 파라미터를 탑재한다면, H100 GPU를 최대 10만 대 정도 필요로 하게 됩니다. H100은 대당 2만5,000달러로 가정했습니다. 오픈AI의 보고서에 따르면, GPT-3.5는 약 3.14×10의23승 FLOPs(초당 부동소수점 연산)을 소모했으며, 100조 개 파라미터 모델은 약 1.79×10의26승 FLOPs의 연산이 요구됩니다. H100이 초당 약 60×10의12승 FLOPs를 처리할 수 있는 것을 고려할 때, GPT-5를 일주일간 학습시키기 위해서는 최소 4만9000(1회성)~10만대(반복학습)의 H100 GPU가 필요합니다. 한 화로 GPU 비용만 3조5,000억 원이 필요한 것입니다. 여기에 전력비, 냉각 시스템, 인건비 등을 합산하면 전체 운용 비용이 약 5조원이 훌쩍 넘을 것으로 보입니다.

자체 AI 가속기 이어 구독료 인상까지 검토

엔비디아 H100 텐서 코어 GPU

때문에 오픈AI는 막대한 컴퓨팅 자원을 확보하기 위해 구독료 인상까지 검토하고 있습니다. 오픈AI 기업가치는 현재 약 200조 원에 달하며, 이는 골드만삭스를 넘어서는 수준인데요. 최근 약 66억 달러(한화 약 8조7,000억 원)의 자금을 유치하면서, 기업가치를 1,570억 달러(약 208조 원)로 끌어올렸기 때문입니다. 8조원 이상을 투자 유치했지만 대규모 언어 모델 구현을 위해서는 부족한 자금입니다.

때문에 오픈AI는 현재 구독료를 월 20달러에서 연내 22달러로 인상할 계획이며, 5년 뒤에는 약 44달러(약 6만 원)까지 인상할 방침이라는 보도마저 있습니다. 현재 약 3억5,000만 명의 사용자가 오픈AI의 서비스를 이용 중이며, 이 중 유료 구독자는 약 1,000만 명입니다. 2025년에는 연매출 116억 달러, 2029년에는 1,000억 달러로 성장할 것으로 목표를 하고 있습니다. 물론 청사진입니다.

문제는 방대한 투자로 적자투성이라는 점입니다. 뉴욕타임스(NYT)의 보도에 따르면, 오픈AI의 연매출은 올해 37억 달러로 예상되며, 운영 손실은 50억 달러에 달할 전망입니다. 오픈AI가 한국의 반도체 기업이든, 브로드컴이든 손을 잡고 직접 컴퓨팅 파워를 구축하려고 하는 이유입니다.

■위클리반도체 매주 한편 반도체와 관련된 깊은 이야기를 전해드리는 매일경제의 프리미엄 콘텐츠입니다. 기자 개인 페이지를 구독하면, 보실 수 있습니다.