SK하이닉스 “AI 시대 LLM 데이터 처리량 급증… CXL 메모리 기술로 해결”
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
SK하이닉스가 인공지능(AI) 시대 급증하는 메모리 수요에 대응할 기술로 컴퓨트 익스프레스 링크(CXL)에 집중하고 있다고 27일 밝혔다.
이날 박경 SK하이닉스 시스템아키텍처 담당 부사장은 서울 강남구 한국고등교육재단빌딩에서 열린 최종현학술원 과학혁신 특별강연에서 "현재 AI 메모리는 곧 그래픽처리장치(GPU)인데, HBM 메모리가 그렇게 크지 않아 항상 '메모리 헝그리(hungry)' 할 수밖에 없다"고 했다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
SK하이닉스가 인공지능(AI) 시대 급증하는 메모리 수요에 대응할 기술로 컴퓨트 익스프레스 링크(CXL)에 집중하고 있다고 27일 밝혔다.
이날 박경 SK하이닉스 시스템아키텍처 담당 부사장은 서울 강남구 한국고등교육재단빌딩에서 열린 최종현학술원 과학혁신 특별강연에서 “현재 AI 메모리는 곧 그래픽처리장치(GPU)인데, HBM 메모리가 그렇게 크지 않아 항상 ‘메모리 헝그리(hungry)’ 할 수밖에 없다”고 했다.
그러면서 박 부사장은 “‘메모리 헝그리’한 XPU에 저희가 가진 CXL 메모리를 붙여서 해결할 수는 없을까 고민하게 됐고, CXL 메모리를 AI 쪽으로 튜닝하는 작업을 열심히 하고 있다”고 덧붙였다.
SK하이닉스는 올해 하반기 상용화를 목표로 DDR5 기반 96GB·128GB CXL 2.0 메모리 설루션 제품을 개발 중이다.
CXL은 고성능 컴퓨팅 시스템에서 중앙처리장치(CPU), GPU, 메모리 등을 효율적으로 연결하는 인터커넥트 기술이다. 기존 메모리 모듈에 CXL을 이용하면 용량을 두 배 이상으로 확장할 수 있다. 이에 CXL은 HBM과 함께 대용량·고대역폭 메모리가 필요한 기술이란 평가를 받는다.
박 부사장은 CPU가 시스템 성능을 주도한 기존 시스템과 달리 AI 시스템은 메모리가 시스템 성능을 주도할 것이라고 했다. 박 부사장은 “과거 D램은 CPU에 붙어 CPU가 하는 일을 도와주는 메모리였는데, AI 거대언어모델(LLM)은 메모리가 칩 옆에 가까이 붙어 최대한 데이터를 많이 ‘펌핑’해줘야 한다”고 설명했다.
그러면서 그는 “이런 형태로 시스템 구조가 바뀌고, 반도체부터 애플리케이션까지 한꺼번에 바뀌어야 문제가 해결된다”고 했다.
- Copyright ⓒ 조선비즈 & Chosun.com -
Copyright © 조선비즈. 무단전재 및 재배포 금지.
- [정책 인사이트] 서울 ‘산후 조리원’ 요금 최고 4000만원, 최저 200만원… “소득 따른 격차 줄여
- AI에 밀린 소프트웨어 엔지니어… 글로벌 시장서 채용 30% 줄어
- 구글 자율주행 로보택시 ‘웨이모’ 타보니… 승차감 좋지만 러시아워엔 교통지옥
- [비즈톡톡] 피자·도넛, 어려워진 왕년의 간식들… “이름값 소용 없네”
- [증시한담] 韓 반도체에 냉정한 모건스탠리… 어제오늘 일 아니네
- [시승기] 정숙하고 안정적인 수소차… BMW iX5 하이드로젠
- 잘 팔리는 韓방산, ‘빅3′ 목표주가도 더 높아졌다
- 삼성전자, 인도 법원에 ‘파업 근로자 접근 금지’ 가처분 신청
- 의협 부회장, 간호사 겨냥 “건방진 것들, 그만 나대” 발언 논란
- ‘200억 빌딩 현금 구매’ 유재석, 현미경 세무조사에도 ’혐의점 無'