[피스앤칩스]삼성 반도체가 주목한 새 먹거리 '온디바이스 AI'

기기에서 AI 구현하는 '온디바이스 AI'
더 빠르고 작은 저전력 반도체 필요
삼성전자 "LLW D램 내년 양산 목표"

편집자주 - 현대 산업의 쌀로 불리는 반도체. 매일 듣는 용어이지만 막상 설명하려고 하면 도통 입이 떨어지지 않죠. 어렵기만 한 반도체 개념과 산업 전반의 흐름을 피스앤칩스에서 쉽게 떠먹여 드릴게요. 숟가락만 올려두시면 됩니다.

"생성형 AI가 서버 기반으로 발전하고 있지만 효율성과 보안 이유로 AI를 기기 자체에서 구현하는 온디바이스(On Device) AI도 확대 중이다." 김재준 삼성전자 메모리사업부 부사장이 지난주 2분기 실적 발표 후 진행한 컨퍼런스에서 한 말입니다. AI 시대를 맞아 추진하고 있는 메모리 사업을 소개하며 최근 주목하는 AI 큰 줄기로 온디바이스 AI를 짚었답니다.

앞서 경계현 삼성전자 DS부문장(사장)도 온디바이스 AI를 언급했습니다. 이달 자신의 소셜미디어 계정을 통해 "클라우드에서의 생성형 AI에서 출발해 엣지에서의 온디바이스 AI 논의도 활발히 진행되고 있다"며 "우리가 AI 판에서 가치 창출 및 획득을 위해 무엇을 더 해야 할지 진지하게 고민할 때"라는 의견을 밝혔죠. 온디바이스 AI가 무엇이길래 이렇게 언급되는 걸까요?

온디바이스 AI는 각종 기기에서 네트워크 연결 없이도 실행 가능한 AI를 말합니다. 우리가 일반적으로 알고 있는 AI 서비스는 고성능 서버에서 대용량 데이터를 처리하는 방식으로 구현되다 보니 네트워크 연결이 필수인데요, 온디바이스 AI는 서버를 거치지 않고 기기에서 자체적으로 데이터를 수집, 연산해 필요한 기능을 수행합니다. 그만큼 빠른 서비스가 가능해진다고 하네요.

또 데이터를 서버로 보내지 않아도 되니 개인정보나 민감 데이터 유출 등의 보안 문제를 해결할 수 있습니다. 각종 데이터를 서버에서 처리하면서 발생할 수밖에 없는 에너지 소모를 줄일 수도 있겠죠. AI 기술 발전으로 도래할 미래 모습을 실제 구현하려면 온디바이스 AI 확대가 필수라는 평가가 나오는 배경입니다.

최근 반도체 업계는 생성형 AI 효과로 늘고 있는 고성능 반도체 수요에 기대감이 큰데요, 온디바이스 AI도 못지않은 먹거리를 가져다줄 것으로 예상합니다. 일각에선 더 큰 시장을 형성할 수도 있다고 봅니다. "드론이나 로봇 청소기부터 자율주행 차량까지 네트워크가 끊긴 상태에서도 움직여야 하는 모든 기기에서 온디바이스 AI 중요도가 더욱 커질 것"이라며 관련 기술 개발에 힘쓰고 있죠.

각종 기기에서 온디바이스 AI가 잘 구현되려면 시스템 핵심에 있는 반도체가 제 역할을 잘해야 한다고 하는데요, 이를 위해서는 기존 제품보다 반응 속도는 더 빠르면서 전력 소모는 낮고, 크기도 더 작은 반도체 칩을 만들어야 한다고 합니다. 메모리 반도체 분야에서 보면 기존에 모바일용 D램에서 요구되던 기술 과제랑 비슷한 편입니다.

삼성전자의 경우 이번 컨콜에서 온디바이스 AI에 특화된 D램을 개발 중이며 내년 말 양산하겠다는 계획을 밝혔습니다. 바로 LLW(Low Latency Wide IO·저지연성와이드IO) D램입니다. 이 제품은 기존 모바일용 D램보다 대역폭이 월등히 높다 보니 기기에서 생성되는 데이터를 실시간 처리하는 데 이점이 크다고 합니다. 대역폭은 데이터가 들어오는 도로이며 고대역폭일수록 데이터를 빠르게 전송할 수 있다고 하네요. 온디바이스 AI와 함께 모습을 드러낼 새로운 반도체를 기대해봐야겠습니다.

이 기사는 아시아경제에서 매주 발간하는 [피스앤칩스] 입니다. 구독하기를 누르시면 무료로 기사를 받아보실 수 있습니다.

☞구독하기

김평화 기자 peace@asiae.co.kr