고성능 연산 처리 가능한 반도체칩 ‘텐서 유닛’ 출시

스페인 세미다이나믹스 개발

반도체 설계 자산(IP)전문 기업 세미다이나믹스는 챗GPT 등 초고속 인공지능(AI)에 쓸 수 있는 오픈소스 반도체 IP ‘리스크파이브(RISC-V)’ 기반 텐서(tensor) 유닛을 출시했다고 27일 밝혔다. 세미다이나믹스는 스페인 바르셀로나에서 2016년 설립된 업체다.

세미다이나믹스에 따르면 텐서 유닛은 중앙처리장치(CPU) 내부에 서브시스템으로 기존에 존재하는 주소를 사용해 행렬곱 계산기를 동작시켜 프로그래밍이 훨씬 쉽다. CPU 코어의 캐시 메모리로 활용되는 S램만으로 동작해 신경망처리장치(NPU) 성능을 획기적으로 개선한 것이 특징이라고 세미다이나믹스는 설명했다.

세미다이나믹스 관계자는 “챗GPT 같은 최첨단 머신러닝 모델은 초당 수조 개의 작업을 처리하기 위해 대규모 연산능력을 필요로 한다”며 “낮은 전력 소비량을 유지하면서도 엄청난 성능을 제공하는 것이 하드웨어 설계에 있어 중대 과제로 떠올랐는데, 이에 대한 해결책으로 고성능 프로세스가 필요한 AI 애플리케이션에 행렬 곱셈 형태의 특화된 연산 하드웨어 텐서+벡터 유닛을 선보였다”고 설명했다. 이 관계자는 “대형언어모델(LLM) 같은 최신 알고리즘은 완전히 연결된 계층(fully connected layer)으로 계산을 마친 후 연산자 함수를 거쳐 다시 같은 크기의 계산을 해야 한다”면서 “텐서 유닛은 그 구조를 같이 묶어서 만들었다”고 말했다.

이승주 기자 sj@munhwa.com