인터넷 끊겨도 실시간 통역 ‘술술’… 스마트폰도 PC도 스스로 학습
지난 10일(현지 시각) CES 2024가 열린 미국 라스베이거스컨벤션센터(LVCC). 스마트폰용 반도체 시장의 절대 강자 퀄컴 부스에는 인공지능(AI) 스마트폰이 전시돼 있었다. 퀄컴의 모바일용 AI 반도체 ‘스냅드래건 8 3세대’가 탑재된 샤오미 14 프로 스마트폰은 ‘비행기 모드’로 인터넷과 통신 연결이 전부 끊겨 있는 상태였다. 하지만 시연을 맡은 직원이 스마트폰에 탑재돼 있는 이미지 생성형 AI 앱 ‘스테이블 디퓨전’을 실행하고 ‘귀여운 강아지를 그려줘’라고 주문하자, 1초도 안 걸려 AI가 분홍색 꽃을 꽂은 크림색 푸들 사진을 만들어냈다. ‘라스베이거스에서 가볼 만한 명소 4개를 알려줘’라고 입력하자, AI 챗봇은 ‘일단 벨라지오 호텔의 분수 쇼를 보세요’라고 거침없이 답변하기 시작했다. 이 스마트폰에는 메타의 AI용 언어 데이터 세트 ‘라마 2′가 입력돼 있다. AI 반도체가 이 데이터를 기반으로 자유자재로 답변을 만들어낸다. 빅테크의 클라우드(가상 서버)와 연결된 상태에서만 가능했던 AI 서비스가 손바닥보다 작은 스마트폰만으로 가능해진 것이다.
◇안전한 온디바이스AI
챗GPT를 비롯한 AI 서비스는 질문이나 명령을 외부 클라우드로 보내고, 클라우드에서 연산을 마친 결과를 받아 개별 기기에서 보여주는 식으로 작동한다. 복잡한 연산이 필요한 데이터 분석 작업을 초고성능 반도체로 구성된 클라우드로 ‘외주’ 주는 형태였던 것이다. 하지만 고성능 AI 칩이 소형화되면서 개인용 기기 자체가 AI로 진화하는 이른바 ‘온디바이스(내장형) AI’ 시대가 열리고 있다. 테크 업계 관계자는 “데이터를 클라우드로 내보낼 필요가 없어 보안 측면에서 훨씬 안전한 방식”이라며 “앞으로의 AI 서비스 시장은 클라우드와 온디바이스 AI가 양분할 것”이라고 했다.
올해 CES에서는 ‘온디바이스 AI’ 시대가 시작됐다는 것을 전시장 곳곳에서 체험할 수 있었다. 팻 겔싱어 인텔 최고경영자(CEO)는 “클라우드 없이 AI 기능을 사용하는 PC가 등장하고 있고, 미래에는 PC에 인공신경망 기능을 직접 추가하는 방식의 AI PC가 나올 수도 있다”고 했다. 퀄컴은 AI 스마트폰 외에 협력사를 상대로 마련한 비공개 부스에서 차량용 AI 반도체를 미리 선보였다. 자동차도 AI 기기로 변신시키는 것이다. 삼성전자는 이달초 세계 첫 AI 노트북인 ‘갤럭시북4′를 출시했고, 오는 17일에는 퀄컴의 AI 칩이 탑재된 갤럭시S24를 공개한다.
◇개개인에 맞춰 진화
전문가들은 ‘온디바이스 AI’가 스마트폰과 PC 같은 기기를 사용하는 방식 자체를 바꿔 놓을 것으로 본다. 삼성전자는 갤럭시S24에 인터넷 연결이 필요 없는 실시간 통역 기술을 탑재할 예정이고, 노트북에는 다양한 그래픽을 생성해 주는 기능이 들어간다. 기기 기능을 단순히 열고 닫는 수준에 불과하던 AI 비서의 쓰임새도 훨씬 다양해질 전망이다. 온디바이스 AI가 사용자의 활용 방식에 맞춰 진화하기 때문이다.
크리스티아누 아몽 퀄컴 CEO는 CES 기조연설에서 “AI가 기기에 탑재된다는 것은 클릭 하나, 터치 하나가 모두 AI에 학습된다는 뜻”이라고 했다. 예컨대 사용자가 특정 요일엔 주로 몇 시에 자고 일어나는지, 특정 상대방에게 문자를 보낼 때 어떤 이모티콘을 자주 썼는지와 같은 디테일을 학습해 미리 알람을 설정해 놓거나 문자를 자동 완성시켜 줄 수 있다는 것이다. 개인 기기가 ‘온디바이스AI’로 넘어가며 기업과 IT 서비스의 모든 분야를 빨아들이던 클라우드 산업도 변화를 맞을 전망이다. 정우성 포스텍 산업경영학과 교수는 “개인의 일상에서 일어나는 데이터 처리는 자체 기기에서 해결하고, 클라우드는 기업이나 학교 등 단체 또는 연구 중심의 용도로 사용하는 식으로 각자 목표가 달라질 것”이라고 했다.
온디바이스 AI용 AI 칩은 기존 중앙처리장치나 모바일용 반도체와는 구조 자체가 다르다. 동시에 수많은 데이터를 처리해야 하기 때문에 고성능인 것은 물론 고용량 메모리도 함께 필요하다. 스마트폰이나 PC에 사용된다는 점을 감안하면 전력 소모는 최대한 줄여야 한다. 이 때문에 엔비디아, AMD를 비롯해 삼성전자, SK하이닉스 등 글로벌 반도체 기업들은 이번 CES에서 생성형 AI·온디바이스 AI 시장을 겨냥한 신기술과 신제품을 대거 선보였다. 반도체 업계 관계자는 “온디바이스 AI의 확대는 반도체 업계 입장에서는 도전이자 기회”라며 “현재는 반도체 업계가 각기 다른 AI 칩 방식을 채택하고 있지만, 머지않아 가장 뛰어난 방식이 무엇인지 가려지면서 대세가 될 것”이라고 했다.
☞온디바이스(On-Device) AI
온디바이스(내장형) AI는 별도 서버나 클라우드를 거치지 않고, 기기 자체에서 AI 반도체를 이용해 AI 서비스를 구현하는 기술이다. 비행기 안처럼 인터넷 연결이 어려운 상황에서도 실시간 번역, 챗봇, 이미지 생성 같은 AI 기능을 사용할 수 있다. 기기 내부에서 정보를 처리하기 때문에 속도가 빠르고 보안이 잘된다는 장점이 있다. AI 반도체가 개개인의 기기 활용 습관을 학습하면서 사용자에게 최적화된 기기로 진화한다.
[조선미디어그룹 CES 특별취재팀]
▲조선일보 ▷팀장=정철환 파리 특파원, 조재희·정한국·김성민·임경업·오로라·유지한·이해인 기자
▲TV조선 ▷김지아 기자
▲조선비즈 ▷팀장=설성인 IT부장, 최지희·고성민·권유정 기자
Copyright © 조선일보. 무단전재 및 재배포 금지.
- 러시아 특급, NHL 최고 레전드 등극하나
- 김대중 ‘동교동 사저’ 등록문화유산 등재 추진
- 국어·영어, EBS서 많이 나와... 상위권, 한두 문제로 당락 갈릴 듯
- 배민·쿠팡이츠 중개 수수료, 최고 7.8%p 내린다
- 다음달 만 40세 르브론 제임스, NBA 최고령 3경기 연속 트리플 더블
- 프랑스 극우 르펜도 ‘사법 리스크’…차기 대선 출마 못할 수도
- [만물상] 美 장군 숙청
- 檢, ‘SG발 주가조작’ 혐의 라덕연에 징역 40년·벌금 2조3590억 구형
- 예비부부 울리는 ‘깜깜이 스드메’... 내년부터 지역별 가격 공개
- ‘미사포’ 쓴 김태희, 두 딸과 명동성당서 포착 …무슨 일