‘옷핀’ 모양 기기로 검색-통역… ‘온디바이스AI’, 일상 속으로

스마트폰 넘어 노트북-로봇 등으로
애플, ‘AI 연산처리’ 맥북에어 공개
데이터 주고받지 않아 보안 유리
다품종 소량생산 가능한 블루 오션

인텔의 중앙처리장치(CPU) 인텔 코어 울트라 가 탑재된 인공지능(AI) 노트북이 만든 이미지. 해당 작업은 인터넷이 연결되지 않아도 가능하다. 인텔 제공

인터넷과 연결할 필요 없이 기기 내부에서 인공지능(AI)을 구동하는 ‘온디바이스AI’가 스마트폰을 넘어 노트북, 로봇 등 다양한 곳에 스며들고 있다. 소비자들의 관심을 끌기 위한 글로벌 기업과 스타트업들이 새로운 제품과 서비스를 선보이며 치열한 경쟁을 벌이고 있다.

올해 초 삼성전자의 갤럭시 S24가 스마트폰에서 온디바이스AI 기기의 포문을 열었다면 지금은 노트북이 그 바통을 이어받고 있다. 지난해 AI 구동에 특화된 새로운 중앙처리장치 ‘코어 울트라 프로세서’를 출시한 인텔은 2025년까지 AI PC 1억 대 보급 목표를 세우고 삼성전자, LG전자, HP 등 전 세계 제조사와 함께 협력하고 있다.

애플도 4일(현지 시간) AI 연산 처리가 가능한 ‘M3’ 칩셋이 탑재된 맥북에어를 공개했다. 애플은 실시간 통역, 이미지 편집 등 AI 기능을 전면에 앞세웠다. 업계에서는 ‘AI 2등 기업’으로 평가받는 애플이 온디바이스AI를 역전의 발판으로 준비하는 것으로 전망하고 있다. 지난해 말 애플은 데이터센터가 아닌 스마트폰 등 조그만 기기에서 대형언어모델(LLM)을 구동하기 위한 아이디어를 담은 논문을 잇달아 발표하기도 했다.

지난달 스페인 바르셀로나에서 개최된 모바일월드콩그레스(MWC)에서는 스마트폰, 노트북 등 전통적인 디지털 기기가 아닌 옷핀, 로봇 등 보편적이지 않은 새로운 형태의 사물에서까지 온디바이스AI가 구동되는 사례가 소개됐다.

옷핀 모양 인공지능(AI) 비서 AI 핀 을 통해 근처 위치정보를 확인하는 모습. 이 기기는 통역 등 일부 기능을 인터넷 연결이 필요 없는 온디바이스AI 로 수행한다. 사진 출처 휴메인

미국의 AI 스타트업 ‘휴메인’이 개발한 ‘AI 핀’은 50g의 작은 옷핀 모양 기기로 사용자의 질문에 답하고, 검색이나 사진 촬영 등을 할 수 있다. 통역 등 일부 기능은 AI가 연결되지 않아도 가능하다.

국내 로봇 제작 스타트업 인티그리트는 백화점이나 호텔 카운터 등에서 고객 응대에 사용되는 로봇 ‘스텔라’에 온디바이스AI를 접목했다. 침입자 감지, 분실물 수색 등 주변 상황을 인지하는 로봇의 ‘눈’에 온디바이스AI를 탑재했다. 이창석 인티그리트 대표는 “퀄컴의 최신 칩셋과 메타의 대형언어모델을 탑재해 통역 등의 기능도 인터넷 연결 없이 가능한 새로운 모델을 5월에 출시할 것”이라고 말했다.

온디바이스AI는 데이터센터와 데이터를 주고받을 필요가 없어 지연율이 낮고 소모 비용이 적으며, 개인정보 등이 유출될 가능성도 낮아 보안에도 유리하다. 무엇보다 중소 규모 스타트업에 새로운 블루오션이 될 가능성이 높다. 온디바이스AI 반도체는 탑재되는 기기의 종류부터 환경, 원하는 기능 등이 제각각이라 다품종 소량생산이 가능하기 때문이다.

데이터센터용 AI 반도체 시장에서는 엔비디아가 점유율 90% 이상을 차지하고 있다. 하지만 시장조사업체 QY리서치에 따르면 온디바이스AI 반도체 시장에서 엔비디아 점유율은 약 30% 수준으로 시장 집중도가 낮다. 퀄컴, 삼성전자, 인텔 등 글로벌 기업과 중소 규모 기업의 경쟁도 치열하게 벌어지고 있다.

반도체 팹리스 스타트업 딥엑스 관계자는 “온디바이스AI 반도체 시장은 이제 막 열리고 있는 상황”이라며 “현금자동입출금기(ATM)는 물론이고 농기계까지 온디바이스AI 반도체 탑재를 문의할 만큼 반도체 수요의 범위가 다양하다”고 말했다.

LG전자 등과 함께 온디바이스AI를 개발 중인 개발사 업스테이지 관계자도 “온디바이스AI 시대가 열린다면 경량화, 소량화를 앞세운 작은 기업들에 새로운 기회가 될 것”이라고 말했다.

전남혁 기자 forward@donga.com