고속도로를 달리다 보면 항상 꽉 막히는 구간이 있습니다. 차선이 갑자기 줄어들며 차량들이 속도를 늦추는 '진출입로'입니다.
병(甁)은 물을 따를 때 물이 갑자기 쏟아지는 걸 막기 위해 일반적으로 목 부분을 좁게 만듭니다. 병이 크더라도 목 부분이 작으면 흘러나오는 물의 양이 제한되기 때문입니다.
'Bottleneck effect'라 불리는 병목 현상은 이런 상황을 빗대, 특정 요소로 인해서 전체가 제한을 받는 상황을 의미합니다.
컴퓨터나 AI 등 시스템 개발에도 이 원리가 그대로 적용됩니다. 가장 느린 구간 하나가 전체 성능을 낮추기 때문입니다.
KAIST 연구팀이 AI 반도체 기술 개발 과정에서 이 답답하게 꽉 막혔던 '병목 현상'의 난제를 속 시원하게 해결했습니다. KAIST 전기 및 전자공학과 정명수 교수 연구팀이 인공지능의 추론 속도를 획기적으로 높일 수 있는 새로운 AI 반도체 기술을 세계 최초로 개발한 겁니다.
KAIST의 오토GNN(AI 생성 이미지)
개인 계정으로 유튜브를 들어가면 흔히 '알고리즘'이라는 것에 의해 시스템이 스스로 시청자가 관심 있어할 만한 영상을 추천해 줍니다.
이런 기술의 핵심은 '그래프 신경망(GNN, Graph Neural Network)라고 불리는데요. 여기서 '그래프'의 의미는 곡선으로 이뤄진 수학적인 그래프 그림이 아니라, 사람과 사람 사이의 연결 관계를 의미합니다.
연구팀은 이 그래프를 제공하는 서비스 지연의 가장 큰 원인이 다름 아닌 '전처리' 과정에 있음을 밝혀냈습니다. 다시 말해, 인공지능 추론 자체보다 그 이전 단계인 '그래프 전처리(Graph Pre-processing)' 과정이 훨씬 더 오래 걸린다는 의미입니다.
이 전처리 과정은 전체 계산 시간의 70~90%까지 차지한다고 하는데, 결국 이 지점이 '병목'이었던 겁니다.
꽉 막히게 했던 '병목'을 찾았으니 해결을 해야겠죠?
연구팀은 분석해야 할 데이터의 연결 방식에 맞춰 반도체가 '스스로' 가장 효율적인 구조로 바뀔 수 있는 '적응형 AI 가속기 기술'을 개발했습니다.
쉽게 설명하면, 필요한 데이터만 골라내는 UPE 모듈과 이를 빠르게 정리, 집계할 수 있는 SCR 모듈을 반도체 안에 구현한 겁니다. 데이터의 양이나 형태가 바뀌게 되면 이에 맞춘 '최적'의 모듈 구성이 자동으로 되도록 했습니다.
'병목 현상'을 해결한 실제 성능 평과 결과는 어땠을까요?
이 AI 반도체 기술(오토GNN)은 무려 엔비디아의 고성능 GPU(RTX 3090)보다 무려 2.1배 빠른 처리 속도를 기록했습니다. 일반 CPU와 비교하면 무려 9배나 빠르다고 합니다.
꽉 막힌 걸 뚫었으니 에너지 효율도 좋아졌겠죠? 당연히 에너지 소모도 3.3배나 줄었습니다.
KAIST 전기 및 전자공학과 정명수 교수 연구팀
이번 기술 개발은 복잡한 관계 분석과 빠른 응답이 필요한 인공지능 서비스에 즉시 적용이 가능할 걸로 보입니다. 데이터 구조에 따라 스스로 최적화되는 AI 반도체 기술을 확보함으로써, 향후 대규모 데이터를 다루는 지능형 서비스의 속도와 에너지 효율을 동시에 높일 수 있는 기반이 마련됐다는 평가입니다.
이번 연구는 2026년 1월 31일부터 호주 시드니에서 열리는 컴퓨터 아키텍처 분야 최우수 국제학술대회인 제32회 ‘IEEE International Symposium on High-Performance Computer Architecture (HPCA 2026)’에서 2월 4일 발표됐습니다.
