오픈AI, 첫 AI 추론용 칩 ‘할라페뇨’ 공개…엔비디아 의존도 낮춘다

샘 올트먼 오픈에이아이 최고경영자(왼쪽)와 호크 탄 브로드컴 최고경영자가 새 인공지능칩 ‘할라페뇨’ 시제품을 들고 있는 모습. 오픈에이아이 누리집 갈무리

챗지피티(Chat gpt)개발사 오픈에이아이(AI)가 지난해부터 개발해 온 인공지능 추론 전용 반도체 칩을 내놨다. 오픈에이아이가 자체 칩을 내놓은 것은 이번이 처음이다. 인공지능 추론을 위한 연산 수요가 폭증하는 상황에서 인공지능 반도체 시장을 장악한 엔비디아의 그래픽처리장치(GPU) 의존도를 낮추려는 행보다.

오픈에이아이는 24일(현지시각) 자사 블로그에 브로드컴과 공동 개발한 인공지능 칩 ‘할라페뇨’를 공개했다. 그동안 오픈에이아이가 자체 칩을 개발 중이라는 사실은 알려져 있었지만, 실물 단계 결과물이 공개된 건 이번이 처음이다.

오픈에이아이는 대형언어모델(LLM)의 기본 원리에 대한 깊은 이해를 바탕으로 백지상태에서부터 할라페뇨 칩을 처음으로 설계했다고 했다. 데이터 이동과정에서 생기는 병목을 줄이고, 연산과 메모리, 네트워크 사이의 균형을 맞춰 이론상 최고 성능에 가깝게 활용률을 끌어올리도록 설계했다는 것이다. 오픈에이아이는 아직 최종 성능을 측정하는 단계이지만, 초기 테스트에선 현재 시중에 나온 타사 최첨단 제품보다 전력당 성능이 우수하다고 설명했다. 브로드컴의 탄 최고경영자(CEO)는 로이터와 한 인터뷰에서 “할라페뇨는 엔비디아의 블랙웰이나 구글이 설계한 텐서처리장치(TPU)에 못지않은 수준”이라고 했다.

특히 두 회사는 오픈에이아이 모델을 활용해 반도체 칩 개발 속도를 높였다고 설명했다. 할라페뇨 초기 설계부터 반도체 생산 공장에 이를 넘기는 ‘테이프아웃’ 단계까지 걸린 시간은 단 9개월로, 현재까지 고성능 반도체 개발 분야에서 가장 빠른 주문형 반도체(ASIC) 개발 주기라고 이들은 강조했다.

오픈에이아이의 자체 칩 개발은 폭증하는 추론 비용을 줄이고 그래픽처리장치 공급 병목을 줄이기 위한 첫 실물 결과물이다. 엔비디아 그래픽처리장치는 모델 훈련 등에 계속 쓰이겠지만, 반복적이고 대량으로 발생하는 추론 계산 과정에서 자체 칩으로 비용을 줄이고 공급망을 개선하겠다는 전략이다. 제미나이 등 인공지능 모델을 만드는 구글은 자체 데이터센터와 클라우드 서비스 중심으로 제공해오던 자체 칩 텐서처리장치를 외부 데이터센터에도 판매하는 등 엔비디아 아성에 도전장을 내민 상태다.

강재구 기자 j9@hani.co.kr