[뉴테크] IBM, 22배 빠른 AI칩 개발…1㎠에 트랜지스터 2억7500만개 담았다

IBM, 뉴로모픽 AI칩 ‘노스폴’ 공개
저전력·고성능·소형화 모두 잡아
외부 정보 접근 제한은 한계…해결책 추가 연구

IBM이 개발한 인공지능(AI) 전용 칩 '노스폴(North Pole)'./IBM

IBM이 성능과 에너지 효율을 모두 20배 이상 높인 인공지능(AI) 전용 반도체를 공개했다. 회로의 밀도가 매년 두 배씩 증가하는 ‘무어의 법칙’을 실현하고, 빠르게 발전하는 AI 기술에 대응할 수 있을 것으로 기대된다.

다르멘드라 모다(Dharmendra Modha) IBM 인지컴퓨팅그룹 수석연구원은 AI 반도체 ‘노스폴(North Pole)’에 대한 연구 결과를 국제학술지 사이언스(Science)에 이달 19일 발표했다.

노스폴은 사람의 뇌가 정보를 처리하는 방식에서 영감을 받은 뉴로모픽(Neuromorphic) 반도체다. 뉴로모픽 칩은 많은 계산을 병렬로 실행하는 뉴런의 작동을 모방한다. 정보 전달과 계산, 저장을 뉴런처럼, 뉴로모픽 칩은 프로세서와 메모리를 통합해 컴퓨터가 데이터를 전송하는 데 손실되는 에너지와 시간을 줄인다.

노스폴은 2014년 출시된 IBM의 뉴로모픽 칩 ‘트루노스(True North)’의 후속작이다. 연구팀은 합성공 신경망(CNN)을 기반으로 하는 ‘레즈넷-50(ResNet-50)’이라는 이미지 분류 네트워크와 ‘욜로-v4(YOLO-v4)’라는 물체 감지 네트워크 시스템을 사용해 노스폴을 실험했다.

실험 결과, 노스폴은 현재 AI 시스템에 많이 사용되는 엔비디아의 그래픽처리장치(GPU) ‘V100′보다 1W당 에너지 효율이 25배, 속도는 22배 높았다. 개당 4000만원에 달하는 엔비디아의 H100과 비교했을 때도 에너지 효율이 다섯 배 더 높았다. 에너지 효율이 높아 부피가 큰 냉각 시스템 대신 방열판 정도만 사용하면 된다. 또 장치에서 칩이 차지하는 면적도 V100의 5분의 1 수준으로 소형화를 달성했다.

노스폴의 특징은 기존 중앙처리장치(CPU)나 GPU에서 발생한 폰 노이만 병목현상을 해결한 점이다. 폰 노이만 구조는 현재 사용 중인 컴퓨터의 기본 구조다. 메모리와 CPU, 입·출력 장치로 구성된 장치에 프로그램을 내장하는 방식인데, 모든 업무가 순차적으로 이뤄져 방대한 데이터를 처리할 때 병목현상이 발생한다.

노스폴이 폰 노이만 병목현상을 해결한 건 모든 메모리를 칩 자체에 내장했기 때문이다. 노스폴의 구조는 흔히 ‘메모리 내 컴퓨팅’이라고 한다. 디지털 메모리 내 컴퓨팅 시스템에서는 신경망의 가장 기본적인 계산인 곱셈 누적 연산을 실행하기 위해 많은 회로를 필요로 한다. 12㎚(나노미터·1㎚는 10억분의 1m) 노드로 제작된 노스폴은 80㎠에 220억개의 트랜지스터가 들어갔다. 손가락 마디 정도 크기인 1㎠에 2억7500만개의 트랜지스터가 있는 셈이다.

모다 수석연구원은 “구조적으로 노스폴은 컴퓨팅과 메모리 사이의 경계를 모호하게 만든다”며 “개별 코어 수준에서 노스폴은 컴퓨팅에 가까운 메모리로 나타나고, 칩 외부에서는 입출력 수준에서 활성 메모리로 나타난다”고 설명했다.

하지만 메모리를 칩에 내장한 노스폴의 장점은 곧 약점이 되기도 한다. 내장된 메모리에서만 쉽게 데이터를 가져올 수 있고, 외부 정보에 접근하면 칩의 속도가 줄어들기 때문이다. IBM 연구팀은 큰 신경망 네트워크를 하위 네트워크로 나누고 다수의 노스폴에 연결해 외부 정보를 활용하는 방안을 연구 중이다.

모다 수석연구원은 “노스폴은 실리콘 웨이퍼 거울에 뇌를 희미하게 표현한 것”이라며 “새로운 노스폴의 설계구조는 기존 시스템에 쉽게 통합할 수 있으며, 동시에 컴퓨터의 부하를 대폭 줄일 수 있다”고 말했다.

참고자료

Science, DOI: https://doi.org/10.1126/science.adh1174

조선비즈

IT/과학

[뉴테크] IBM, 22배 빠른 AI칩 개발…1㎠에 트랜지스터 2억7500만개 담았다