'갤S24'가 펼친 온디바이스 AI 시대…저전력·고성능 AI 반도체도 뜬다

삼정KPMG, '생성형 AI에게 펼쳐진 새로운 무대, 온디바이스 AI' 보고서 발간

(지디넷코리아=장유미 기자)삼성전자 '갤럭시 S24' 시리즈 출시를 시작으로 데이터의 외부 이동 없이 기기 내에서 인공지능(AI) 서비스를 구현하는 온디바이스 AI 시장이 본격화되면서 기업이 이를 성공적으로 활용할 수 있는 전략이 제시됐다. 온디바이스 AI로 저전력·고성능 반도체 시장이 확대되고 이용자의 패턴을 자체적으로 학습해 필요한 서비스를 제공하는 '앰비언트 컴퓨팅' 시장도 커질 것이란 전망이다.

삼정KPMG는 25일 발간한 '생성형 AI에게 펼쳐진 새로운 무대, 온디바이스 AI' 보고서를 통해 온디바이스 AI를 기반으로 한 기업들의 기술 활용 전략을 분석했다.

온디바이스 AI는 이용자가 요청사항을 디바이스에 입력하면 기기 내에 탑재된 AI 모델과 반도체 등 자체 데이터 처리 시스템이 구동돼 데이터의 외부 이동 없이 구현되는 AI 서비스를 말한다. 기존 클라우드 기반 AI 서비스의 단점을 보완하는 기술로 주목 받고 있으며 최근 애플 '인텔리전스(Apple Intelligence)', 마이크로소프트 '코파일럿+PC' 등이 잇따라 등장하며 시장은 커지고 있다.

인천공항 제2여객터미널 3층에 위치한 '갤럭시 스튜디오'에서 여행객이 '갤럭시 S24 시리즈' 대여 서비스를 이용하고 있다. (사진=삼성전자)

또 온디바이스 AI를 기반으로 한 생성형 AI 서비스는 AI 모델의 분석 속도가 빠르고 시스템 운영 비용도 비교적 적다는 장점이 있다. 이용자가 입력하는 정보를 디바이스 외부로 내보내지 않는다는 점에서 개인정보 등의 민감한 데이터를 처리하기에 적합도가 높다. 데이터 처리를 위해 외부 네트워크 및 클라우드로의 전송을 위한 인프라 확보 부담이 적다는 점도 높은 평가를 받고 있다.

다만 온디바이스 AI는 디바이스 내 전력을 활용해 AI 모델을 운영하기 때문에 AI 서비스 운영 과정에서 소비되는 전력 소모를 적게 유지할 필요가 있다. 이에 보고서는 저전력으로 구동 시킬 수 있는 반도체 기술인 FPGA(Field Programmable Gate Array), ASIC(application Specific Integrated Circuit) 등이 2028년까지 연평균 40% 이상 크게 성장할 것으로 전망했다. 또 고성능 반도체는 클라우드와 데이터센터 등 전력 제약이 덜한 곳을 중심으로 시장이 확대될 것으로 봤다.

보고서는 이용자 주변에 있는 IT 디바이스가 이용자의 패턴을 자체적으로 학습해 디바이스가 알아서 필요한 서비스를 제공하는 '앰비언트 컴퓨팅' 시장에서도 기회를 모색해야 한다고 조언했다. 또 온디바이스 AI는 소형 AI 모델을 기반으로 서비스를 운영한다는 점에서 소형 AI 모델 시장이 본격 확대될 것으로 내다봤다. 소형 AI 모델은 스마트폰, 가전 등 AI 모델이 탑재되는 개별 온디바이스 AI용 디바이스에서 요구되는 결과값의 퀄리티를 높일 수 있도록 개발이 진행될 전망이다.

온디바이스 AI 시대 스케일업을 위한 전략 (이미지=삼정KPMG)

더불어 보고서는 디바이스 AI를 활용하면 이용자에게 즉각적으로 AI 분석 결과가 제공되는 형태로 이용자와 AI 모델 간의 거리가 더욱 가까워진다고 봤다. 이에 이용자의 혼란을 줄이고 AI 모델의 운영 안정성을 강화할 수 있는 '설명 가능한 AI(Explainable AI)' 기술 통제 방안을 마련해야 한다고 강조했다.

삼정KPMG AI센터 이준기 상무는 "생성형 AI 활용의 새로운 트렌드로 부상하는 온디바이스 AI를 중심으로 AI 생태계의 확장과 유스케이스(Use Case) 확보에 주력해야 한다"며 "온디바이스 AI의 장점을 효과적으로 활용할 수 있는 전략을 바탕으로 사용자경험을 강화하는 서비스를 개발함으로써 AI시장에서 차별화된 경쟁력을 확보하고 고객 가치를 제고한다면 새로운 비즈니스 잠재력을 확보하는 계기가 될 것"이라고 강조했다.

장유미 기자(sweet@zdnet.co.kr)