엔비디아 625배 효율!...세계 최초 '초저전력 AI 반도체' 개발

최소라 2024. 3. 7. 23:34
음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

기존 AI 반도체, 전력·크기↑…온 디바이스 불가
외부 연결 없이도 GPT2 초저전력·초고속 구동
엔비디아 A100 대비 소모전력 1/625·면적 1/41
DNN-to-SNN 등가 변환…각 방식의 장점만 취해

[앵커]

챗GPT와 같은 고도의 인공지능 서비스가 나오면서 인공지능을 구동할 수 있는 'AI 반도체' 개발 경쟁이 치열한데요,

국내 연구진이 인간 뇌를 모사해 전력 소모를 획기적으로 줄인 고성능 AI 반도체를 세계 최초로 개발했습니다.

최소라 기자입니다.

[기자]

스마트폰 등이 외부 서버를 통하지 않고도 스스로 인공지능을 구동하는 '온 디바이스 AI'.

보안이 우수해 차세대 IT 기기의 청사진이지만, 이를 구현하는 건 쉽지 않습니다.

복잡한 연산을 처리하는 만큼 AI 반도체는 전력도 많이 필요하고, 크기도 크기 때문입니다.

국내 연구진이 인간 뇌를 모사해 초저전력으로 인공지능을 구동하는 뉴로모픽 AI 반도체를 세계 최초로 개발했습니다.

가로·세로 4.5㎜에 불과한 칩입니다.

컴퓨터에 장착하고, GPT를 구동했더니, 외부 서버의 도움 없이도 글을 요약하거나 다른 언어로 번역하는 건 물론, 주어진 데이터를 학습한 뒤 요청에 맞는 답변을 생성해 냅니다.

일반 컴퓨터가 45분 걸리는 연산을 칩을 장착한 경우 단 3분 만에 처리하기도 합니다.

개발된 칩은 엔비디아의 GPU A100 그래픽카드와 비교하면 전력 소모가 625분의 1에 불과하고 칩 면적도 41분의 1로 작습니다.

[김상엽 / KAIST 전기·전자공학부 박사 : (PC뿐만 아니라) 갤럭시24 핸드폰 모델에서 저희 보드를 연결해 언어 작업들을 처리할 수 있도록 구현했습니다.]

초저전력·초소형화를 가능하게 한 건 두 가지 인공지능 방식을 장착하고, 각각의 장점을 취하도록 만든 덕분입니다.

입력된 데이터가 큰 경우, 연산 정확도가 높은 기존 AI 방식인 '심층 인공 신경망'이 활약하고, 연산량이 적으면 전력 효율이 우수한 '스파이킹 뉴럴 네트워크'가 데이터를 처리해 두 기술이 상보적으로 작동하도록 했더니 시너지 효과가 난 겁니다.

[유회준 / KAIST 전기·전자공학부 교수 : 사람이 생각을 많이 할 때는 에너지를 많이 소모하게 되고요. 그리고 생각이 적을 때는 에너지 소모가 적습니다. 뉴로모픽도 이와 동일합니다. 입력해야 할 것이 많으면 많이 돌리고 입력할 게 적으면 적게 돌립니다.]

뉴로모픽 기반의 반도체로 GPT와 같은 거대 언어 모델을 구동하는 데 성공한 건 이번이 세계 최초입니다.

연구팀은 현재 칩에 탑재된 GPT의 다음 버전인 GPT3.0을 탑재하는 연구를 진행 중이라며, 언어 모델 외에도 다양한 응용 분야로 연구범위를 확장하겠다고 밝혔습니다.

YTN 사이언스 최소라입니다.

YTN 최소라 (csr73@ytn.co.kr)

※ '당신의 제보가 뉴스가 됩니다'

[카카오톡] YTN 검색해 채널 추가

[전화] 02-398-8585

[메일] social@ytn.co.kr

[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]

Copyright © YTN. 무단전재 및 재배포 금지.

이 기사에 대해 어떻게 생각하시나요?