한국말 하면 영어로 자동번역 “이게 되네”…‘AI 스마트폰’ 성능에 깜짝 [홍키자의 빅테크]

해외 여행 갔다가 현지 맛집을 이용하고픈 때가 있습니다. 한국이라면 스마트폰 열고 클릭 몇번이면 예약이 완료되지만, 해외에서는 여전히 직접 전화로 예약을 걸어야 하는 경우가 많죠.

영어가 약한 이들에게 전화 예약은 늘 어렵습니다. 그런데 이제는 두렵지 않습니다. ‘실시간 통역’ 기능이 나온 스마트폰이 나왔기 때문입니다.

삼성전자의 에디터가 갤럭시S24 울트라 모델을 활용해 실시간 통역을 이용하고 있다. <사진=삼성전자뉴스룸>

삼성전자가 이달에 선보인 신형 플래그십 스마트폰 ‘갤럭시 S24 울트라’에는 실시간 통역 기능이 있습니다. “이번 주 목요일 1시 30분에 예약하고 싶은데요.”라고 한국어로 말하면, 영어로 곧장 “I’d like to make a reservation for this Thursday at 1:30”이라고 실시간으로 번역되는 것이죠.

이런 실시간 통역 기능이 가능한 것은 모두 ‘온디바이스 인공지능(AI)’ 시대가 개화하고 있기 때문입니다.

이번 ‘홍키자의 빅테크’에서는 생성형AI에 이어 새로운 개화기에 진입한 온디바이스(On-Device)AI 이야기를 나눠보려고 합니다.

온디바이스AI 시대 초입...‘내손안의 비서’ 나왔다

‘온디바이스’라는 표현도 생소한데, 삼성전자의 신형 갤럭시S24 시리즈는 ‘온디바이스AI폰’이라는 별칭이 새겨졌습니다.

노태문 삼성전자 MX사업부장 사장이 갤럭시 S24 시리즈를 손에 들고 있다.

지난해부터 화제가 됐던 생성형AI는 클라우드 서버 기반으로 작동됩니다. 개별 스마트기기에서 수집한 정보를 중앙의 클라우드 서버로 전송하고요. 이후 딥러닝(Deep-Learning) 등의 분석을 거쳐서 결과값을 다시 기기로 보내죠. 우리가 원하는 기능을 구현하는 기본적인 방식입니다.

이같은 방식은 우리가 어떤 스마트기기를 보유했느냐와 상관없이 클라우드의 역량에 따라 좌우됩니다.

쉽게 말해 우리가 구형 스마트폰을 가지고 있더라도, 연산을 클라우드가 커버하기 때문에 우리가 저렴한 비용으로 고성능의 AI 서비스를 제공받을 수 있는 것이죠. 챗GPT를 구형 아이폰이나 갤럭시 모델로도 충분히 작동시킬 수 있다는 얘깁니다.

<사진=게티이미지뱅크>

다만 문제가 있죠. 기기 자체가 네트워크에 연결돼있어야 하고요. 각종 단말기에서 만들어진 정보가 외부로 최소 한번 이상은 전송돼야 합니다. 내 기기의 정보가 노출될 가능성은 이론적으로 있다는 얘깁니다.

반면, 온디바이스AI는 다릅니다. 클라우드에 연결되지 않고도 스스로 작동하는 AI를 온디바이스AI라고 합니다. 스마트폰 등 단말기에서 자체적으로 정보를 수집한 뒤 연산해 답변해냅니다. ‘내 손안의 AI 비서’인 셈이죠. 갤럭시S24 신형 모델 자체에서 AI가 작동돼 실시간으로 통역을 해내는 것이고요. 이런 AI 기술을 구현하기 위해서는 저전력·저용량 메모리 반도체가 기기에 탑재돼있어야 하겠죠.

비행기 안에서 인터넷에 연결하지 않고도 스마트폰만으로 AI가 작동해 업무를 보는 게 온디바이스 AI가 발전하면 펼쳐질 미래입니다. 클라우드 서버를 통하지 않고, 보유한 기기 내에서 데이터를 처리하기 때문에 응답 시간이 줄어들고고요. 외부 서버를 거치지 않아 사생활 보호도 쉽습니다.

비용과 에너지도 획기적으로 줄일 겁니다. 통상 클라우드 구동에는 막대한 에너지와 비용이 듭니다. 오픈AI는 챗GPT 운영비로만 지난해 말 기준 하루 70만달러(9억원) 이상을 쓰는 것으로 전해졌습니다.

구글·애플 이 불러일으킨 ‘온디바이스AI’ 전쟁...연평균 20% 성장

온디바이스 AI에 대한 관심은 지난해 10월 구글이 자체 스마트폰 시리즈 픽셀8에 온디바이스 AI를 탑재했다고 밝히면서 커졌습니다.

구글은 온디바이스AI 칩인 ‘텐서G3’를 장착한 스마트폰 ‘픽셀8’을 선보였는데요. 픽셀8에는 AI 비서인 ‘구글 어시스턴트’와 생성형 AI ‘바드’를 결합한 ‘어시스턴트 위드 바드’가 적용됐습니다.

구글이 자체 스마트폰 픽셀8에 탑재한 온디바이스AI 칩 ‘텐서G3’. <사진=구글>

구글은 텐서G3 칩셋의 AI 성능은 1세대 텐서를 적용한 픽셀6보다 2배가량 우수하다고 강조했고요. 덕분에 픽셀8에는 픽셀7보다 150배 더 복잡한 생성형 온디바이스 AI를 채택할 수 있었죠. 단체 사진을 찍고나서 개인마다 가장 좋은 표정을 고를 수 있도록 해주는 ‘베스트 테이크’, 녹음할 때 원하는 소리 외에 모두 삭제해주는 ‘오디오 매직 이레이저’ 등이 온디바이스AI 작동의 예입니다.

이것만으로도 몇가지를 시사해주는데요. 구글이 이제 자체 반도체 칩을 만들고 있고, 실제로 자체 스마트폰에 탑재하면서 양산할 수 있다는 것을 보여줬다는 것입니다. 생성형AI와 함께 쌍두마차가 될 AI판이 벌어지고 있다는 것입니다.

시장분석기관 GMI는 글로벌 온디바이스 AI 시장 규모가 2022년 50억달러에서 연평균 20%씩 성장할 것으로 내다봤습니다. 2032년이면 700억달러(약 87조원) 규모입니다.

단순히 스마트폰에만 국한된 얘기가 아닙니다. 모바일 디바이스부터 PC, 웨어러블 기기, 드론, 자율주행 자동차, 혼합현실(MR) 헤드셋, 스마트홈, 로봇 등까지 여러 종류의 기기에 온디바이스 AI가 본격 도입될 수 있을 것으로 보입니다.

온디바이스AI 시장 주도하는 삼성전자...“스마트폰 사업 회복 이끌 것”

온디바이스AI 효과가 삼성전자의 글로벌 스마트폰 출하량 1위를 탈환할 것이라는 증권가 분석도 나옵니다.

김동원 KB증권 연구원은 리포트에서 “삼성전자는 온디바이스 AI폰 출하 확대를 기반으로 2024년 스마트폰 출하량이 지난해보다 7% 증가할 것”이라며 “삼성전자 주도 속에 온디바이스 AI폰의 글로벌 출하량은 연평균 83% 성장할 것”이라고 내다봤습니다.

앞서 삼성전자 MX사업부(전 무선사업부)는 지난 19일 기자간담회를 통해 “2024년 1억 대 수준의 갤럭시 AI폰 출하” 목표를 제시했습니다. 이번에 출시한 갤럭시S24(판매량 3600만 대, 전년 대비 16% 증가)를 포함해 지난해 출시한 갤럭시S23, 폴더블폰(Z폴드, Z플립) 등에도 AI 기능을 탑재하겠다는 것입니다.

이같은 삼성전자 주도 속에 온디바이스AI폰 시장은 연평균 83% 성장하고 2027년 5억 대까지 급증할 것이라는 관측도 나옵니다. 향후 4년 동안 누적 출하량이 11억 대에 이를 것으로 분석됐죠.

온디바이스AI 개념을 도입한 게 삼성이 처음은 아닙니다 애플이 ’아이폰15 프로‘ 모델에 채택한 A17 프로 뉴럴엔진은 출시 당시 성능이 기존보다 최대 2배 향상됐다고 밝혔죠.

아이폰15 프로. <사진=애플>

보안을 이유로 애플은 일찌감치 온디바이스AI 기술에 관심을 기울여왔는데요. iOS17에 강화된 자동수정, 받아쓰기, 라이브 음성메일 등 기능이 모두 온디바이스AI로 구현되는 것들입니다.

생성형AI와 함께 또다른 AI의 한축으로 온디바이스AI가 떠오르는 중입니다. 두 시장 모두 개화기인만큼 이 분야를 얼마만큼 이해하느냐에 따라 새로운 기회를 발견할 수 있을 것으로 보입니다.

‘홍키자의 빅테크’는 플랫폼, 테크, 이코노미와 관련된 각종 이슈 뒷얘기를 파헤칩니다. 지금 홍성용 기자의 기자페이지를 ‘구독’하시면 깊이가 다른 콘텐츠를 매주 만날 수 있습니다.