AI 데이터센터를 하나의 칩처럼…KAIST·파네시아·메타 새 구조 제시

AI 데이터센터 전체를 하나의 거대한 칩처럼 연결해 연산 속도와 효율을 높이는 구조가 제시됐습니다.

한국과학기술원(KAIST)은 전기및전자공학부 정명수 교수와 교원창업기업 파네시아 연구진이 메타 연구진과 함께 차세대 AI 데이터센터 설계 방향을 제시했다고 오늘(9일) 밝혔습니다.

최근 초거대 인공지능은 수백에서 수천 개의 가속기를 동시에 사용하는데 일부 장치의 데이터 전달이 늦어지면 전체 연산이 함께 느려지는 문제가 있습니다.

연구진은 CPU와 AI 가속기, 메모리를 빠르게 연결하는 국제표준 기술인 CXL(Computer Express Link)을 이용해 서버와 랙의 경계를 넘어 데이터센터 전체를 하나의 컴퓨팅 시스템처럼 연결하는 구조를 제안했습니다.

여기에 데이터 이동 경로와 처리 시간을 일정하게 만드는 전용 스위치와 가속 장치 등을 적용해 장치 사이의 속도 편차를 줄였습니다.

연구진이 제시한 구조에서는 CPU 하나가 직접 관리할 수 있는 가속기가 기존 2개에서 16개로 늘어납니다.

하나로 묶여 함께 동작하는 가속기도 최대 약 960개로 기존 NVLink 기반 랙보다 약 13배 확대할 수 있습니다.

장치 사이 데이터 접근 시간은 기존 네트워크 기반 구조의 마이크로초 수준에서 10분의 1 수준으로 줄일 수 있습니다.

고장이 발생해도 서버 전체가 아닌 문제가 생긴 장치만 교체할 수 있어 운영 효율도 높일 수 있다고 연구진은 설명했습니다.

연구진은 앞으로 전기 신호의 거리 한계를 넘기 위해 빛으로 데이터를 주고받는 CXL 광통신 기술로 적용 범위를 데이터센터 전체로 확대할 계획입니다.

이번 연구 결과는 국제학술지 '네이처 리뷰 일렉트리컬 엔지니어링(Nature Reviews Electrical Engineering)'에 지난달 10일 게재됐습니다.

[사진 출처 : 한국과학기술원 제공]

■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 유튜브, 네이버에서도 KBS뉴스를 구독해주세요!

전동흔 기자 (east@kbs.co.kr)