삼성전자가 상용화한 ‘온디바이스 생성형 인공지능(AI) 기술’이 ‘2025년 대한민국 임팩테크 대상’에서 대통령상을 수상했다. 온디바이스 생성형 AI 기술은 서버나 클라우드를 통하지 않고 모바일 기기 내부에서 생성형 AI를 구동한다. 삼성전자는 지난해 고성능-저전력 신경망처리장치(NPU) 설계 기술과 함께 대규모 AI 모델의 고효율 추론을 위한 경량화 모델 등의 ‘온디바이스 생성형 AI 기술’을 엑시노스 2400에 처음 적용했다. 엑시노스 2400은 생성형 AI 가속을 위한 고성능 연산기 채용을 통해 전작 대비 AI 성능을 14.7배 개선했다. 이종코어 구조로 고성능, 저전력의 강점을 동시에 확보했다.
단일 AI 모델로 복수의 기능을 지원하는 LoRA, 신경망 분할 컴파일러, AI 모델 경량화 및 최적화 소프트웨어 기술을 통해 사용자 기기의 제한된 연산자원과 메모리로 10억~20억개 파라미터를 가지는 생성형 AI 기능을 구현했다. 삼성전자 관계자는 “차별화된 신경망 가속기 설계 기술과 고효율 추론 소프트웨어 기술을 융합해 향후 범용 인공지능으로 빠르게 발전할 것으로 예상되는 온디바이스 AI기술의 한계를 극복해나갈 것”이라고 강조했다.
