AI 딥러닝 '심층신경망' 구조·작동원리 규명

KAIST, 수학적 원리 적용 결과
정밀한 신경망 구현 오류 방지

화소의 80% 사라진 영상을 인공신경망을 통해 복원한 결과. 첫번째 행은 입력영상, 두번째는 기존 인공신경망을 이용해 복원한 결과, 세번째는 수학적 원리를 통해 구현한 인공신경망을 이용한 결과, 네번째는 원래 영상이다. 수학적 원리를 적용한 결과 영상이 훨씬 정밀하게 복원됨을 확인할 수 있다. KAIST 제공

국내 연구진이 인공지능(AI)의 핵심 기술인 딥러닝을 구현하는 '심층신경망'의 구조와 작동원리를 수학적으로 규명하는 데 성공했다. AI 실행 과정에서 예상치 못한 결과가 나오거나 작동오류가 생기는 문제를 해결하는 데 도움이 될 전망이다.

예종철 KAIST 석좌교수팀은 AI의 심층신경망 구조를 수학적 원리를 통해 규명하고 이를 이용해 정밀한 인공신경망을 구현하는 데 성공했다.

심층신경망은 딥러닝을 구현하는 대표적 방법으로, 이를 이용하면 영상·음성인식, 영상처리, 바둑, 체스 등 다양한 분야에서 AI를 구현할 수 있다. 하지만 그동안 정확한 작동원리가 밝혀지지 않아 예상치 못한 결과나 오류가 발생할 가능성이 있었다.

연구팀은 심층신경망 구조가 얻어지는 고차원 공간에서 기하학적 구조를 찾던 중, 고차원 구조(행켈구조 행렬)를 기저함수로 분해하는 과정에서 심층신경망 구조를 발견했다. 고차원 공간에서 신호가 단순한 구조를 가지기 때문에 인공신경망이 뛰어난 성능을 발휘할 수 있음을 확인한 것이다.

기존에 AI 심층신경망을 구현할 때 구체적인 작동원리를 모른 채 실험적으로 했다면, 이번 연구를 통해 이론적 구조를 확인했다는 데 의미가 있다. 연구팀은 이런 수학적 원리를 통해 제안된 인공신경망 구조를 영상 잡음제거, 영상 화소복원, 의료영상 복원 등에 적용한 결과 기존보다 성능이 훨씬 우수하다는 사실을 확인했다.

예종철 교수는 "시행착오를 반복해 설계하는 기존 심층신경망과 달리 원하는 응용분야에 따라 최적화된 심층신경망 구조를 수학적 원리로 디자인하고 영향을 예측할 수 있게 됐다"며 "의료영상 등 설명 가능한 인공지능(XAI)이 필요한 분야에 다양하게 적용할 수 있을 것"이라고 말했다.

이 연구는 과기정통부의 '중견연구자지원사업'과 '뇌과학원천기술사업'의 지원을 받아 이뤄졌으며, 한요섭 교수와 차은주 박사과정생이 참여했다. 연구결과는 응용수학 분야 국제학술지인 '사이암저널 온 이미징 사이언스' 온라인판에 최근 실렸다.

대전=이준기기자 bongchu@