SK하이닉스, 美 ‘AI 하드웨어 서밋’ 참가...최신 가속기카드 AiMX 시연

GDDR6-AiM 칩 사용해
대규모 언어 모델에 특화
메모리 32GB로 2배늘고
‘멀티 배치’로 데이터 처리

9일 미국 캘리포니아주 새너제이에서 열린 AI 하드웨어 서밋 2024에 전시된 SK하이닉스 AiM 칩과 AiMX 카드<SK하이닉스>

SK하이닉스가 최근 미국 캘리포니아에서 열린 인공지능(AI) 기술 전시회에 참가해 최신 생성형 AI 가속기 카드인 AiMX를 포함해 혁신기술을 선보였다.

SK하이닉스는 9일~12일 미국 캘리포니아주 새너제이에서 열린 ‘AI 하드웨어 & 엣지 AI 서밋 2024’(이하 AI 하드웨어 서밋)에 참가해 ‘데이터센터부터 엣지 디바이스까지 AI 성능을 가속하는 AiM’이라는 슬로건을 내걸고 미래 비전과 AiM솔루션을 공개했다고 19일 밝혔다.

AI 하드웨어 서밋은 글로벌 IT 기업과 유망 스타트업 등이 참가해 최신 기술과 연구 결과를 공유하고 네트워킹을 통해 산업 협력 기회를 모색하는 자리다.

여기에서 SK하이닉스는 지능형 반도체 제품명인 AiM과 최신 가속기 카드인 AiMX 솔루션을 전면에 내세웠다. 이 제품들은 대규모 데이터 처리성능을 필요로 하면서 비약적으로 발전하는 생성형 AI를 위한 최적의 솔루션으로 평가받는다.

SK하이닉스는 자사의 AiM이 메모리 내에서 일부 연산을 수행해 기존 메모리 대비 높은 대역폭과 우수한 에너지 효율성을 보인다고 설명했다. 또 SK하이닉스는 AiM이 생성형 AI에서 요구하는 높은 컴퓨팅 성능을 더 경제적으로 구현할 수 있게 해준다고 덧붙였다.

이번에 공개된 SK하이닉스의 AiMX는 GDDR6-AiM 칩을 사용해서 ‘대규모 언어 모델(LLM)’에 특화된 AI가속기 카드 제품이다.

SK하이닉스 전시부스에서는 메타의 최신 LLM 모델인 ‘라마(Llama)3 70B’를 활용해 AiMX의 성능을 시연했다. AiMX는 메모리 용량을 기존 16GB(기가바이트)에서 32GB로 두 배로 증대시켰고 여러 데이터 그룹을 동시에 처리하는 기법인 ‘멀티 배치’(Multi-Batch)로 데이터를 처리해 주목받았다.

9일 미국 캘리포니아주 새너제이에서 열린 ‘AI 하드웨어 서밋 2024’에 참가한 SK하이닉스 전시부스 현장<SK하이닉스>

SK하이닉스는 엣지 디바이스에도 적용 가능한 AiM 솔루션을 공개했다. SK하이닉스 측은 “기존 엣지 디바이스의 메모리 인터페이스를 변경하지 않고도 성능을 높일 수 있는 것이 이번 솔루션의 강점”이라며 “모바일 D램을 SK하이닉스의 AiM으로 대체할 경우 기존 대비 최대 3배 이상의 LLM 속도 향상과 에너지 효율이 기대된다”고 밝혔다.

앞으로 SK하이닉스는 다양한 AiM 솔루션을 통해 글로벌 기업들과 협력해 차세대 AI 가속기 생태계를 구축하고 온디바이스 AI시장에서도 리더십을 강화해 나간다는 계획이다.