딥러닝에 빛을 비추다
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
빛을 이용해 인터넷 말단의 사용자 단말기에서도 인공지능(AI) 신경망을 저전력으로 빠르게 가동하는 기술이 개발됐다.
개별 사용자 기기나 센서가 AI와 결합해 강력한 기능을 발휘하는 엣지 컴퓨팅에 유용하게 활용될 전망이다.
이들은 AI 모델 작동에 필요한 방대한 메모리 처리 기능을 중앙의 대형 컴퓨터 서버에 몰아주고, 여기에 설치된 광통신 트랜시버가 AI 모델의 주요 정보를 인코딩해 광섬유망으로 사용자 기기에 전달하는 '넷캐스트(NetCast)' 아키텍처를 개발했다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
(지디넷코리아=한세희 과학전문기자)빛을 이용해 인터넷 말단의 사용자 단말기에서도 인공지능(AI) 신경망을 저전력으로 빠르게 가동하는 기술이 개발됐다.
스마트폰이나 스마트 스피커, 스마트 센서 등 스마트 기기가 늘고 있지만 이들 기기는 아직 AI를 충분히 활용하지 못 하고 있다. 기기 자체의 연산 성능이나 메모리에 한계가 있고, 멀리 떨어진 클라우드 공간의 AI 모델이 처리한 결과를 받아오느라 지연이 생기기 때문이다.
미국 MIT 연구진이 빛을 이용해 정보를 전송하는 포토닉스를 활용해 이 문제를 해결하는 방안을 제시했다. 개별 사용자 기기나 센서가 AI와 결합해 강력한 기능을 발휘하는 엣지 컴퓨팅에 유용하게 활용될 전망이다.
이 연구 결과는 20일(현지시간) 학술지 '사이언스'에 실렸다.
이들은 AI 모델 작동에 필요한 방대한 메모리 처리 기능을 중앙의 대형 컴퓨터 서버에 몰아주고, 여기에 설치된 광통신 트랜시버가 AI 모델의 주요 정보를 인코딩해 광섬유망으로 사용자 기기에 전달하는 '넷캐스트(NetCast)' 아키텍처를 개발했다. 사용자 기기에 설치된 광부품은 전달된 신호를 해독해 빠르게 연산을 수행한다.
AI에 많이 쓰이는 딥러닝은 여러 겹의 신경망을 두고 모델을 훈련시킨다. 이때 AI 모델은 정확한 결과를 얻기 위해 수십억 개 이상의 가중치 파라미터를 쓴다. 메모리에 저장된 방대한 파라미터를 불러와 연산 장치로 보내는 과정에서 막대한 에너지가 들고 처리 속도도 느려진다.
넷캐스트의 트랜시버는 0과 1이라는 이진법 전자 신호 형태의 파라미터 정보를 레이저를 켜고 끄는 방식으로 빛 신호로 바꿔 광통신망을 통해 주기적으로 사용자 기기에 보낸다. 따라서 사용자 기기는 중앙 서버에 쿼리를 보낼 필요가 없다.
사용자 기기에 설치된 광수신기는 파라미터 정보를 받아 빠르게 연산을 수행한다. 스마트 센서가 수집한 정보를 중앙에서 받은 가중치 파라미터와 결합하고, 이를 빛 신호 형태로 광수신기에 전달해 연산하는 식이다.
이같은 방식으로 에너지 효율은 높이고 지연은 줄여 성능이 낮은 컴퓨터로도 자율주행 차량의 실시간 판단을 개선하거나 우주선이 촬영한 영상을 빠르게 지상에서 받아보는 등의 활용이 가능할 것으로 연구진은 기대했다.
이 방식으로 연구진은 연산 한번 당 40아토줄의 에너지만으로 98.8%의 이미지 인식 성공률을 보였다. 연구진은 실험실에서 86㎞ 떨어진 MIT 링컨 연구소와도 연결해 결과를 실증했다. 논문 1저자인 알렉산더 슬러드는 "밀리와트 수준의 전력으로 초당 수조 번의 연산을 가능하게 하는 시스템을 개발했다"고 말했다.
한세희 과학전문기자(hahn@zdnet.co.kr)
Copyright © 지디넷코리아. 무단전재 및 재배포 금지.
- 개인정보 침해 문제 해결한 AI 반도체 개발
- MIT, 레고처럼 여러 센서 갈아끼는 뉴로모픽 칩 개발
- IBM, 우주에서 에지 컴퓨팅 실험
- "요즘 누가 새 차를 사"…자동차, 이젠 빌리는 시대
- '챗GPT 아버지' 샘 알트먼, 직접 입 열었다…GPT-5 연내 출시설에 '발끈'
- HPSP·예스티, 특허 심결 두고 입장차 '극명'…소송 연장전 돌입 예고
- 메타, 촉감을 느끼는 로봇 손 만든다…국내 업체도 참여
- 삼성, AI 넣은 90만원대 '갤럭시S24 FE' 출시
- LG엔솔 김동명 "美 대선 여파 없을 것"
- [1분건강] 단풍 보러 등산하다 낙엽밟고 ‘꽈당’