사람 개입 없이 AI만으로 설계… 반도체 초격차 이끈다

[연구 현장 Zoom-in] KAIST 테라랩

인텔을 창업한 고든 무어가 지난달 24일 세상을 떠났을 때, 반도체 회로의 집적도가 2년마다 2배씩 증가한다는 ‘무어의 법칙(Moore’s law)’이 다시 관심을 모았다. 반도체 혁신을 이끌어온 이 법칙은 이제 한계에 달했다는 지적도 받는다. 반도체 회로 선폭이 수나노미터(㎚·나노미터는 10억분의 1m)로 작아진 상황에서 더 이상 미세 소자 집적도를 높이기 어렵다는 것이다. 기존 기술력으로는 ‘무어의 법칙’을 이어가기 어려울 것이라고 예측해 온 연구실이 있다. 인공지능(AI)으로 반도체를 설계하는 ‘KAIST 테라랩’이다. 테라랩(TeraLab)은 ‘2나노 반도체’ 대량생산이 예상되는 2025년 이후로는 무어의 법칙이 끝날 것으로 내다본다.

카이스트 테라랩 연구진이 설계를 마친 반도체 패키지의 전기적 특성을 측정하고 있다. 테라랩은 인공지능(AI)이 인간을 대신해 반도체를 설계하는 자동화 기술을 연구·개발하고 있다. /KAIST

◇”반도체 층수 2년마다 2배 는다”

지난달 28일 KAIST 대전 캠퍼스 안에 있는 나노종합기술원. 건물 1층에 있는 테라랩으로 들어가니 연구원들 컴퓨터 모니터에 갖가지 반도체 설계 화면이 담겨 있었다. 이 가운데 일부는 계란·햄·치즈 등을 켜켜이 쌓아놓은 샌드위치처럼 여러 층으로 쌓아 올리는 반도체 구조 설계에 관한 것이다. 이러한 구조는 2차원 평면보다 데이터 처리에 필요한 공간과 시간을 대폭 줄일 수 있다. 예컨대, 프로세서 위에 메모리를 올리고 위아래를 연결하는 식의 ‘반도체 3차원 적층 구조’는 반도체로 고층 주상 복합 건물을 짓는 것에 종종 비유된다. 테라랩을 이끄는 김정호 KAIST 전기및전자공학부 교수는 이미 2016년에 “수직으로 적층되는 메모리 칩이나 셀의 층수가 2년마다 2배가 될 것”이라는 ‘김의 법칙(Kim’s Law)’을 세계 학계에 발표했다. 이는 무어법칙의 2차원(평면) 시야를 3차원(입체)으로 확장한, 반도체 설계의 패러다임 전환으로 평가된다.

테라랩이 일찌감치 D램을 여러 층으로 쌓아 올리는 HBM(High Bandwidth Memory·고대역폭메모리) 설계를 비롯해 AI 반도체 설계에 집중해 온 배경이다. 이는 챗GPT를 비롯해 초거대 AI에 사용되고 있다. 테라랩 손기영 연구원은 “HBM은 고속 엘리베이터가 설치된 초고층 건물처럼 메모리 반도체들을 ‘실리콘 관통 전극(TSV)’ 기술로 수직 방향으로 연결해 메모리 대역폭과 용량을 대폭 늘리면서도 전력 소모는 줄이는 장점이 있다”고 말했다.

◇AI가 자신의 두뇌(칩)를 설계

테라랩은 AI로 반도체를 설계하는 연구에 집중하고 있다. 데이터 처리 속도가 급격히 빨라지면서 전력선과 신호 무결성 등 안정적인 데이터와 전원 공급을 좌우하는 요소들이 중요해졌다. 반도체 설계가 갈수록 복잡해진다는 의미다. 손톱보다 작은 칩에 수많은 회로를 집적시키면서 고성능과 저전력을 구현해야 하는데, 이를 위한 설계에서 따져볼 반도체 소자 배치의 ‘경우의 수’는 무려 10의 9만 제곱에 달한다. 체스에서 경우의 수가 10의 123제곱, 바둑은 경우의 수가 10의 360제곱인 것과는 비교할 수 없을 정도로 복잡하다. 테라랩이 AI를 활용한 반도체 최적 설계를 연구해 온 배경이다. 테라랩 김혜연 연구원은 “다양한 AI 학습 방법 중 강화 학습과 모방 학습을 활용해 반도체의 신호, 전력, 열, 전자파 특성을 최적화하는 연구를 진행하고 있다”고 말했다. 알파고가 활용한 강화 학습을 반도체 설계에 적용한 것이다.

올해 테라랩은 반도체·패키지 설계 분야의 권위 있는 해외 학회 ‘디자인콘(DesignCon)’이 연 국제 학술 대회에서 최고 상을 휩쓸었다. 인텔·IBM·마이크론·AMD 등 세계 최고 회사들과 경쟁해 테라랩 연구원 4명이 AI를 이용한 반도체 설계 등으로 최우수 논문상을 탔다. 전체 최우수 논문상(8명)의 절반을 테라랩이 가져간 것이다. 또 테라랩 출신 연구원 100명 가운데 35명은 애플·구글·마이크로소프트·엔비디아·인텔 등 글로벌 빅테크에 취업해 근무 중이다.

전력·신호선·전자파·열·구조 설계를 AI로 최적화한 테라랩의 자동화 기술은 반도체 설계 분야에서 원천 기술로 인정받고 있다. 테라랩의 목표는 인간을 대신해 AI가 반도체를 100% 자동으로 설계하는 기술을 개발하는 것이다. AI가 자기 두뇌를 스스로 설계하는 시대를 앞당긴다는 의미다. 이렇게 되면 반도체 성능과 소비 전력 개선을 위해 전문가들이 몇 달 동안 설계해야 할 일도 AI가 며칠 만에 끝낼 수 있다.

김정호 교수는 “예컨대, 챗GPT 같은 초거대 AI가 고성능 반도체를 설계해 대량생산하는 자동화에 성공하면, 반도체 패권을 쥐는 초격차 기술이 될 것”이라고 말했다.