최정환 오픈엣지 NPU 개발총괄 “서버와 엣지 AI, 기기 최적화가 핵심”

최정환 오픈엣지 NPU 개발팀장

“인공지능(AI) 핵심이 되는 신경망처리장치(NPU)는 서버와 엣지 시장 요구사항이 분명 다릅니다. 일례로 엣지 NPU는 전력과 연산 처리 효율성을 극대화해야하죠. 기기(디바이스)에 최적화한 연구개발(R&D)과 사업 전략이 필요합니다.

인공지능(AI)이 급부상하며, 두뇌 역할을 하는 AI 반도체에 대한 관심도 부쩍 늘고 있다. 거대 데이터를 연산하는 고성능 서버와 데이터센터에 투자가 한창이다. 그러나 AI는 서버나 데이터센터 같은 고성능컴퓨팅(HPC)으로만 작동하는 것이 아니다. 로봇이나 스마트폰처럼 개별 기기 안에서 스스로 판단하고 결정하는 AI도 빠르게 진화하고 있다. 이른바 '엣지(Edge)' AI다. 국내 대표 반도체 설계자산(IP) 기업 오픈엣지테크놀로지에서 NPU 개발을 진두지휘하는 최정환 오픈엣지 NPU 개발 총괄이 '서버'와 '엣지'에 대한 구별이 필요하다고 강조하는 배경이다.

최 총괄은 “서버 등 HPC용 AI 반도체 NPU는 성능이 최우선이지만, 엣지용 NPU는 기기의 크기와 전력 소비, 연산 효율성 등 환경에 따라 고려해야할 것이 많다”며 “최적화 포인트가 다른 만큼 시장 접근법도 달라야 한다”고 지적했다.

엣지 AI는 서버나 데이터센터를 통하지 않고 디바이스 단계에서 스스로 데이터를 처리·분석한다. 폐쇄회로카메라(CCTV)에 많이 활용됐지만 지금은 자동차, 로봇 등 우리 삶 전반에 녹아들고 있다.

그는 “엣지 AI는 무엇보다 실시간으로 데이터를 처리하는 것이 중요하다”며 “높은 연산속도(TOPS) 뿐 아니라 실시간, 그리고 효율적인 연산이 필요하다”고 강조했다.

서버 NPU와는 차별화된 가격 경쟁력도 확보해야한다고 부연했다. 적용되는 디바이스가 많기 때문에 너무 비싸면 시장성이 떨어진다.

최 총괄은 “AI 반도체가 엣지 디바이스 특성에 맞게 명확한 스펙으로 제품이 개발돼야 한다”면서 “아울러 엣지 AI 반도체의 표준이 없는 만큼 NPU 설계자산(IP) 개발부터 메모리 호환까지 전 영역에서 최적화를 위한 협력 체계가 필요하다”고 밝혔다.

오픈엣지는 2019년 국내 처음으로 NPU IP를 개발했다. 회사는 최근 '컨설팅' 비중이 더 커지고 있다. 고객인 반도체 팹리스가 어떤 제품을 만들어야 엣지용 AI 반도체 시장에서 경쟁력을 갖출 수 있는지 가이드라인을 제시하는 것이다. NPU 뿐만 아니라 시스템온칩(SoC)와 메모리 간 통신 역할을 하는 파이와 컨트롤러 등 메모리 분야에서 다년간 축적한 IP 개발 경험과 노하우도 이같은 컨설팅 효과를 배가하고 있다.

최정환 총괄은 “NPU와 D램(메모리) 간 데이터 전송을 효율화해 유휴 자원을 최소화하는 것이 엣지 NPU에서는 중요하다”며 “오픈엣지 파이나 메모리 컨트롤러 사업과 충분히 시너지를 내고 있다”고 말했다.

오픈엣지는 장기적으로 NPU와 메모리 IP를 플랫폼화해 '토털 솔루션'을 제공하는 사업을 구상 중이다. 그는 “팹리스 고객 입장에서는 AI 반도체 개발 속도를 단축, 시장 대응력을 키울 수 있을 것”이라고 말했다.

권동준 기자 djkwon@etnews.com