오픈AI "자체개발 칩, 엔비디아 칩 대비 작업량 1.9배"[글로벌AI브리핑]

[파이낸셜뉴스] 오픈AI가 자체 설계한 인공지능(AI) 추론 전용 칩 '할라피뇨(Jalapeño)'의 첫 성능 시험 결과 엔비디아의 칩 보다 월등한 성능을 나타냈다고 공식 발표했다.

오픈AI는 할라피뇨를 올해 말부터 실제 AI 인프라에 시범 적용하고 내년에는 본격 양산에 나서 AI 모델 개발에서 자체 칩 생산으로 생태계를 본격 확장할 계획이다.

25일(현지시간) 오픈AI는 미국 스탠퍼드대에서 열린 '핫칩스 2026'에서 브로드컴과 공동 개발한 첫 자체 AI 칩 '할라피뇨'를 세미애널리시스의 AI 추론 칩 벤치마크 플랫폼 인퍼런스X를 활용해 테스트한 결과, 엔비디아의 GB200·GB300 시스템 보다 전력 1kW당 처리하는 AI 작업량이 약 1.5~1.9배 많고, 전체 응답 지연시간이 약 1.7~3.6배 적은 것으로 나타났다고 발표했다.

기존 AI 인프라에서 동일한 전력량으로 더 많은 AI 요청을 처리하고, 동시에 응답 속도도 높일 수 있다는 것이다.

오픈AI가 지난 6월 브로드컴과 함께 '할라피뇨'를 공개한 뒤 구체적인 성능을 제시한 것은 이번이 처음이다.

오픈AI가 자체 설계한 인공지능(AI) 추론 전용 칩 '할라피뇨(Jalapeño)'의 첫 성능 시험 결과 엔비디아의 칩 보다 월등한 성능을 나타냈다고 공식 발표했다. 오픈AI는 할라피뇨를 올해 말부터 실제 AI 인프라에 시범 적용하고 내년에는 본격 양산에 나서 AI 모델 개발에서 자체 칩 생산으로 생태계를 본격 확장할 계획이다. /사진=뉴시스

오픈AI는 할라피뇨를 풀스택 전략​의 일환이라고 강조했다.

AI 모델뿐 아니라 칩, 컴퓨팅, 소프트웨어, 데이터센터까지 각 계층을 함께 최적화해 같은 컴퓨팅 자원으로 더 많은 '유용한 지능'을 제공하겠다는 것이다.

또 오픈AI는 "서로 다른 AI 작업은 서로 다른 하드웨어를 필요로 한다"며 "모든 연산을 하나의 칩으로 해결하기보다는 작업별로 가장 효율적인 컴퓨팅 자원을 선택하겠다"는 입장도 밝혔다.

할라피뇨가 학습용이 아니라 추론용 칩이라는 점에서 이미 학습을 마친 AI 모델이 이용자의 질문에 답하거나 에이전트 작업을 수행할 때 필요한 연산을 담당하도록 한다는 것이다.

이는 오픈AI가 엔비디아의 GPU를 한꺼번에 할라피뇨로 대체하는 것이 아니라, 챗GPT와 AI 에이전트 사용량 급증에 따라 커지는 추론 비용과 전력 부담을 낮추기 위해 특정 작업에 최적화된 자체 칩을 추가한다는 전략을 재차 확인한 것이다.

한편 앤트로픽 역시 AI 모델 클로드(Claude)를 구동할 맞춤형 칩을 설계하기 위한 사내 조직을 신설하고 자체 칩 설계를 본격화하겠다고 공식 발표한 바 있다.

글로벌 AI 기업들이 AI 모델 성능을 높이고, 추론 비용을 절감할 수 있는 자체 칩 개발에 잇따라 나서면서 글로벌 AI 시장 경쟁이 AI 모델과 에이전트, 하드웨어를 연결하는 풀스택 구축 경쟁으로 확장되고 있다는 관측이 확산되고 있다.

cafe9@fnnews.com 이구순 기자