5월 과학기술인상에 김재준 서울대 교수…AI모델 경량화 성과

김재준 서울대 전기·정보공학부 교수. 과기정통부 제공

인공지능(AI) 모델 경량화를 통해 저전력 AI 기반 기술을 제시한 김재준 서울대 전기·정보공학부 교수가 '이달의 과학기술인상' 5월 수상자로 선정됐다.

과학기술정보통신부와 한국연구재단은 김 교수를 이달의 과학기술인상 5월 수상자로 선정했다고 30일 밝혔다. 이달의 과학기술인상은 우수한 연구개발 성과로 과학기술 발전에 공헌한 연구개발자를 매월 1명씩 선정해 과기정통부 장관상과 상금 1000만원을 수여하는 상이다.

챗GPT 등 대규모 언어모델(LLM) 기반의 AI 모델이 일상에 급속도로 확산되면서 막대한 컴퓨팅 자원이 사용되고 있다. 특히 급격한 전력 사용량 증가가 사회문제로 대두되고 있다. 

AI 모델 효율을 높이기 위해 AI 모델 크기를 압축하는 소프트웨어(SW) 중심의 경량화 기술과 경량화된 모델을 효율적으로 연산하는 하드웨어(HW) 중심의 반도체 가속기 기술이 주목받는다. 기존 연구에서는 소프트웨어와 하드웨어 연구가 독립적으로 진행돼 경량화된 AI 모델을 하드웨어에 적용할 때 오히려 연산 성능 저하가 일어나는 경우가 많았다.

김 교수팀은 SW와 HW를 통합적으로 연구해 돌파구를 찾았다. 하드웨어 특성을 고려한 경량화 기법을 개발하면서 동시에 경량화 AI 모델을 효율적으로 지원할 수 있는 전용 반도체 가속기 칩을 개발한 것이다.

김재준 서울대 전기·정보공학부 교수(뒤쪽) 연구팀. 과기정통부 제공

김 교수팀은 연산의 정확도 요구 수준에 맞춰 연산에 필요한 컴퓨팅 자원을 가변적으로 조절하는 AI 경량화 모델을 하나의 가속기 회로로 지원하는 설계 방식을 개발했다. 기존 설계 방식은 연산 정확도에 따라 가속기 회로를 각각 구현해야 했다. 김 교수팀은 전체 연산 순서를 조절하는 방법을 새로 적용해 연산 구조를 단순화했다.

공간을 넓게 차지하고 전력 소모가 큰 부동소수점 연산을 사용해야 한다는 통념을 깨고 작은 면적에서 전력 부담을 줄일 수 있는 정수형 연산을 도입한 것도 특징이다. 부동소수점은 소수점 위치를 고정하지 않아 넓은 범위의 수 표현이 가능하도록 하는 방식이다.

김 교수팀은 정수형 연산으로도 기존과 동일한 정확도를 달성할 수 있다는 것을 증명해 후속 AI 반도체 가속기 연구에 중요한 방향성을 제시했다는 평가를 받는다.

경량화 AI 반도체 연구성과는 2022년 6월 반도체회로설계 국제학술지 'JSSC'에 게재됐고 전력 AI 반도체 관련 성과는 2023년 5월 표현학습국제학회(ICLR)에서 발표됐다.

김 교수는 "소비전력을 최소화할 수 있는 저전력 집적 회로 설계 연구에 매진해 AI의 지속 가능한 발전에 기여하고 싶다"며 "연구결과가 전력 소모가 중요한 모바일 환경에서도 AI 연산을 가능하게 하는 핵심 원천 기술로 활용될 것으로 기대한다"고 밝혔다.

[이병구 기자 2bottle9@donga.com]