MS, AI칩 전격 공개...“AI가속기·CPU 애저에 탑재”

AWS 구글 이어 자체 칩 보유
“일반 데이터보다 40% 성능 향상”

MS가 개발한 반도체

마이크로소프트(MS)가 자체 AI칩 가속기와 중앙처리장치(GPU)를 개발했다. 아마존 AWS, 구글 클라우드에 이어 MS까지 클라우드 3개사 모두 자체 프로세서를 보유하게 된 셈이다.

15일(현지시간) 마이크로소프트(MS)는 미국 워싱턴주 시애틀에서 연례 이벤트인 ‘이그나이트 2023’을 열어 이 같은 사실을 발표했다. 첫 실리콘 칩인 마이아 100(Maia 100) AI 가속기와 코발트 100(Cobolt 100) CPU다. 이들 칩은 AI와 범용 작업을 처리하기 위해 설계됐으며, MS 클라우드 플랫폼인 애저(Azure)에 탑재될 예정이다.

우선 애저 코발트 CPU는 128코어로 구성돼 있다. 또 Arm사의 네오버스 서브시스템(Neoverse CSS) 설계를 기반으로 했다. 애저 클라우드 서비스를 위해 만들어진 것이 특징이다. 고성능뿐만 아니라 전력 관리에도 중점을 두었다는 것이 MS의 설명이다. 코어별로, 가상머신별로 성능과 전력 소비를 제어할 수 있는 기능이 포함됐다. 현재 MS는 마이크로소프트 팀즈(Microsoft Teams), SQL 서버(SQL Server)와 같은 워크로드에서 코발트 CPU를 테스트 중이다.

초기 테스트 결과 “일반 Arm 서버를 사용하는 데이터 센터보다 최대 40%까지 성능이 향상됐다“는 것이 MS의 설명이다. 다만 전체 시스템 사양이나 벤치마크는 아직 공개하지 않았다.

마이아 100 AI 가속기(Myria 100 AI Accelerator)는 클라우드 AI 워크로드를 위해 설계됐다. 특히 대규모 언어 모델 학습과 추론에 적합하다. MS는 애저에 이 가속기를 장착한다. MS는 가속기의 설계와 테스트 단계부터 오픈AI와 협력했다. 마이아는 TSMC의 5나노미터 공정으로 제조됐으며 약 1050억개 트랜지스터를 탑재하고 있다. 이는 엔비디아(Nvidia)의 MI300X AI GPU에 탑재된 1530억개 트랜지스터보다 약 30% 적은 규모다. 다만 첫 걸음 치고는 나쁘지 않다는 평가다. 샘 올트먼 오픈AI CEO.는 “마이아 칩의 잠재력이 매우 크다”면서 “MS와 함께 칩의 설계를 개선하고 테스트하는 데 협력했다” 고 말했다.

또 MS는 대규모로 반도체를 구매하겠다는 뜻도 내비쳤다. 엔비디아(Nvidia)의 대표적 AI칩인 H100 텐서 코어 GPU와 같은 강력한 AI 칩을 구매 예정이며 내년에는 새로 나온 H200 텐서 코어 GPU를 추가해 더 큰 모델 추론을 지원한다는 방침이다. 아울러 AMD 반도체도 애저에 탑재하겠다는 뜻을 내비쳤다.

이날 MS가 두 개의 새로운 칩을 발표한 까닭은 클라우드내 불고 있는 자체 칩 제작 경쟁 때문이다. 이미 아마존 AWS나 구글 클라우드는 자체 프로세서를 출시한상태다. 아울러 오픈AI를 설계 단계때 부터 직접 참여시키는 방식으로, 향후 코파일럿 제품군의 확장을 염두에 둔 것으로 풀이된다. 현재 글로벌 클라우드 점유율은 AWS가 32%, MS 애저가 23%, 구글 클라우드가 10% 수준이다.