애플 AI 모델, 구글 자체 칩 TPU에서 훈련…엔비디아 대안 찾나

권성희 기자 2024. 7. 30. 10:03
자동요약 기사 제목과 주요 문장을 기반으로 자동요약한 결과입니다.
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.

애플이 29일(현지시간) 자사 AI(인공지능) 시스템인 AI 인텔리전스의 기반이 되는 AI 모델을 구글이 설계한 프로세서에서 사전 훈련했다고 밝혔다.

애플은 이날 '애플 인델리전스 파운데이션 언어 모델'(Apple Intelligence Foundation Language Model)이라는 기술 문서를 통해 AI 모델 훈련에 구글의 텐서 프로세싱 유닛(TPU)을 사용했다고 밝혔다.

음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

팀 쿡 애플 최고경영자(CEO)가 지난 6월 세계개발자회의(WWDC 2024)에서 애플 인델리전스에 대해 설명하고 있다. /AP=뉴시스


애플이 29일(현지시간) 자사 AI(인공지능) 시스템인 AI 인텔리전스의 기반이 되는 AI 모델을 구글이 설계한 프로세서에서 사전 훈련했다고 밝혔다.

이는 빅테크 기업들이 최첨단 AI를 훈련하는데 있어서 엔비디아 칩의 대안을 찾고 있다는 신호로 여겨진다.

애플은 이날 '애플 인델리전스 파운데이션 언어 모델'(Apple Intelligence Foundation Language Model)이라는 기술 문서를 통해 AI 모델 훈련에 구글의 텐서 프로세싱 유닛(TPU)을 사용했다고 밝혔다.

애플은 47쪽 분량의 이 문서에서 구글이나 엔비디아의 이름을 거론하지는 않았지만 애플 파운데이션 모델(AFM)과 AFM 서버가 "클라우드 TPU 클러스터"에서 훈련됐다고 밝혔다.

이는 애플이 구글 클라우드에서 TPU가 장착된 서버를 임대해 AI 모델을 훈련했다는 의미다. AFM은 애플 인텔리전스의 기반이 되는 AI 모델이다. 또 TPU는 구글이 AI를 구동하기 위해 자체 설계한 맞춤형 칩(custom chip)이다.

애플은 "이 시스템(TPU)은 우리가 AFM 온-디바이스와 AFM 서버, 그리고 더 큰 모델들을 포함한 AFM 모델들을 효율적이고 확장 가능하도록 훈련할 수 있게 해준다"고 설명했다.

애플은 AFM 온-디바이스가 2048개의 TPU v5p 칩들이 함께 작동하는 단일 기판에서 훈련됐다고 밝혔다. 이는 가장 진보된 TPU로 지난해 12월에 출시됐다. AFM 서버는 데이터센터 네트워크를 통해 8개의 기판이 함께 작동하도록 구성된 8192개의 TPU v4 칩들에서 훈련됐다.

구글 웹사이트에 따르면 구글의 최신 TPU는 3년 전에 예약할 경우 시간당 사용료가 2달러 미만이다.

구글은 2015년에 내부 작업용으로 처음 TPU를 도입했으며 2017년에 일반에 공개했다. TPU는 현재 AI를 위해 설계된 가장 성숙한 맞춤형 칩 가운데 하나로 꼽힌다.

다만 구글은 엔비디아의 주요 고객 중 하나다. 구글은 AI 시스템 훈련에 자체 칩인 TPU뿐만 아니라 엔비디아의 GPU(그래픽 처리장치)도 함께 사용하고 있으며 구글 클라우드에는 엔비디아의 GPU가 장착된 서버가 준비돼 있어 고객들이 이용할 수 있다.

애플은 이날 애플 인텔리전스도 개발자들에게 공개했다. 애플 인텔리전스는 음성 비서인 시리의 새로워진 모습과 더 나아진 자연어 처리, AI가 생성하는 텍스트 요약 등 몇 가지 새로운 기능을 포함하고 있다.

애플은 내년까지 이미지 생성과 이모지 생성, 앱 내에 있는 사용자의 개인정보에 접근해 필요한 조치를 취할 수 있는 더 강력한 시리 등을 포함한 새로운 기능들을 선보일 예정이다.

한편, 맥루머스 등 외신에 따르면 애플이 오는 9월에 아이폰 16과 함께 출시할 새 운영체제(OS)인 iOS18에는 애플 인델리전스 기능이 탑재되지 못하 것으로 보인다. 애플 인텔리전스는 오는 10월에 업데이트될 iOS 18.1부터 적용될 것으로 예상된다.

권성희 기자 shkwon@mt.co.kr

Copyright © 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지

이 기사에 대해 어떻게 생각하시나요?