"초거대 AI '가우스' 10분의 1로 줄여 갤 S24에 탑재"

◆김영집 MX사업부 언어AI팀장
32비트서 3~4비트로 온디바이스화
엑시노스 등 NPU 기기별 최적화도

김영집 삼성전자 MX사업부 언어AI팀장(부사장)이 18일(현지시간) 미국 실리콘밸리 마운틴뷰 삼성리서치아메리카(SRA)에서 가진 국내 기자 간담회에서 갤럭시AI를 소개하고 있다. 사진 제공=삼성전자

[서울경제]

“초거대 인공지능(AI) ‘가우스’를 10분의 1로 압축하는 한편 성능 손실을 최소화하기 위한 최적화(파인튜닝) 과정을 거쳐 ‘갤럭시 S24’에 탑재했습니다. 갤럭시AI를 온디바이스화화해 첫 AI폰으로 탄생시켰다는데 의미를 두고 싶습니다.”

김영집 삼성전자(005930) MX사업부 언어AI 팀장(부사장)은 ‘갤럭시 언팩 2024’ 하루 뒤인 18일(현지 시간) 미국 실리콘밸리 삼성리서치아메리카(SRA)에서 열린 기자간담회에서 “32비트(bit)로 개발한 가우스를 ‘가지치기(Prune)’한 후 다시 학습시키고 비트 수를 줄여 계산하는 양자화(Quantization) 과정을 거쳐 3~4비트로 압축시켜 최적의 온디바이스 AI를 구현했다”고 강조했다.

김 부사장은 갤럭시 S24의 대표 AI 기능인 실시간 통·번역 개발을 총괄했다. 그는 “기존 음성인식은 간단한 명령어에 집중했으나 갤럭시AI는 설계부터 다르다”고 강조했다. 일상 대화 인식을 위해 언어에 대한 기본적인 이해를 바탕으로 특정 언어를 교육시켰다는 것이다. 김 부사장은 “음성 인식은 물론 음성 재생도 보다 자연스럽게 들리도록 새로 설계했다”고 설명했다.

기기 자체적으로 AI를 고속 구현하기 위해서는 하드웨어 최적화 작업도 필수다. 김 부사장은 “갤럭시 S24에는 신경망처리장치(NPU) 구조가 다른 엑시노스 칩셋과 스냅드래곤 칩셋이 탑재돼 각각 최적화하는 과정이 필요했다”며 “칩 설계 초기단계부터 퀄컴과 함께해 갤럭시AI의 성능을 극도로 끌어올릴 수 있었다”고 전했다.

삼성전자는 갤럭시 S24를 시작으로 갤럭시AI의 적용 범위를 넓혀갈 계획이다. 우선 갤럭시 S23과 갤럭시Z 플립·폴드5 등 지난해 출시한 플래그십 기기에는 올 상반기 내 갤럭시AI가 적용된다. 김 부사장은 “갤럭시 S23에서는 S24와 동일한 기능을 지원하는 것이 목표”라며 “시작은 스마트폰이지만 가까운 미래에 노트북·태블릿·웨어러블까지 갤럭시AI를 지원할 것”이라고 말했다.

지속적인 기능 향상 의지도 내비쳤다. 김 부사장은 “현재 13개인 온디바이스AI 지원 언어를 빠르게 늘려가는 한편 구어체와 신조어 등의 학습 결과를 꾸준히 업데이트할 계획”이라고 밝혔다. 일각에서 우려하는 개인정보 수집과 관련해서는 “갤럭시 S24는 개별 사용자 패턴을 수집하지 않는다”며 “온디바이스AI는 기기 내에서 데이터가 모두 처리되기에 안전한 사용 환경을 제공한다”고 강조했다.

실리콘밸리=윤민혁 특파원 beherenow@sedaily.com