KAIST, 딥러닝 창시자와 '인간 뛰어넘는 로봇 AI' 만든다

벤지오 몬트리올대 교수와
'프리프론탈 AI 연구센터' 설립
뇌의 전두엽이 맡는 추론·계산 등
사람의 고위 인지기능 구현 목표
신약·신소재 개발에도 활용 가능

KAIST가 추론, 계획 등 인간 뇌의 고위 인지기능을 구현할 새로운 인공지능(AI) 개발에 도전한다.

KAIST는 전산학부 안성진 교수(사진) 연구팀이 세계 최고 AI 귄위자인 요슈아 벤지오 캐나다 몬트리올대 교수와 함께 ‘KAIST-밀라(MILA) 프리프론탈 AI 연구센터’를 설립했다고 9일 밝혔다. 밀라는 벤지오 교수의 몬트리올 학습 알고리즘 연구소(MILA)의 약자다. 센터의 이름은 뇌의 고차원 인지 기능을 맡는 전전두엽(prefrontal cortex)에서 따왔다.

벤지오 교수는 딥러닝 기술의 창시자다. 딥러닝은 뇌의 뉴런-시냅스 구조를 모방한 인공신경망(ANN)으로 학습하는 과정을 말한다.

KAIST-밀라 프리프론탈 AI 연구센터의 기술 개발 목표 /KAIST 제공

ANN은 수많은 입력값(x)에 가중치를 부여해 출력값(y)을 생성한다. x와 y 사이엔 수많은 노드(node)와 레이어(layer)가 있다. 이런 모양을 ‘활성화 함수’라는 수학식으로 설계한다. x가 활성화 함수를 거쳐 y로 바뀐다. 다차원 선형대수로 구성된 함수를 편미분해 y와 실제 값의 차이(손실)를 최소화하는 지점을 찾는 것이 딥러닝이다.

대표적 딥러닝 알고리즘으로는 CNN(합성곱 신경망), RNN(순환 신경망), GAN(생성 적대 신경망) 등이 있다. GAN은 최근 심각한 문제로 떠오른 딥페이크 영상 등에 활용되는 알고리즘이다.

벤지오 교수는 제프리 힌턴 토론토대 컴퓨터공학과 명예교수와 함께 1990년대 CNN, RNN 기술을 완성했다. 2000년대 들어선 GAN 기술을 확장해 생성형AI의 토대를 놨다. 구글이 2017년 내놓은 트랜스포머에 관한 논문(Attention is all you need)에도 많은 영향을 줬다. 벤지오 교수는 이런 업적으로 2018년 컴퓨터과학계의 노벨상이라 불리는 튜링상을 힌튼 교수와 공동 수상했다. 이재용 삼성전자 회장의 AI 자문역이기도 하다. 벤지오 교수는 최근 새로운 생성 AI 모델인 지플로우넷(Gflownet) 연구에 집중하고 있다. 신약 후보물질이나 신소재 발견에 쓸 수 있는 최신 AI 알고리즘이다.

KAIST-밀라 프리프론탈 AI 연구센터의 목표는 추론, 발견 등 인간의 고위 인지 능력을 구현하는 이른바 ‘시스템 2’ AI를 개발하는 것이다. 시스템 2는 행동경제학을 창시해 노벨경제학상을 받은 대니얼 카너먼 프린스턴대 심리학과 명예교수의 ‘듀얼 프로세스’ 이론에서 제시된 개념이다.

카너먼 교수는 인간의 사고방식이 ‘시스템 1’과 ‘시스템2’로 나뉜다고 설정했다. 시스템1은 자발적 통제가 안 되는 직관적 사고 영역을 말한다. 시스템1을 묘사하는 단어는 무의식적, 자동적, 노력이 필요 없는, 암묵적 등이다. 시스템2는 복잡한 계산과 추론 등 의식적인 노력이 필요한 정신 활동을 지칭한다. 통제적, 인지적, 노력이 필요한, 명시적 등으로 묘사된다.

기존에 CNN RNN 등이 시스템 1 레벨의 AI라면, KAIST가 도전하는 프리프론탈AI는 시스템2 레벨의 AI라고 볼 수 있다. 프리프론탈AI는 뇌의 전두엽에서 이뤄지는 고차원 인지 기능을 구현하는 것을 목표로 세웠다. 최근 대형언어모델(LLM)이 많이 발전했지만 이런 고차원 인지 기능은 제대로 구현하지 못하고 있다. 프리프론탈 AI가 개발되면 이론적으로 인간을 뛰어넘는 로봇이 등장할 수 있다.

안 교수는 2015~2017년 몬트리올대 밀라에서 박사후연구원으로 일한 경험을 계기로 KAIST-밀라 프리프론탈 AI 연구센터 유치에 성공했다. 그는 벤지오 교수의 제자다. 과학기술정보통신부와 한국연구재단은 2028년 말까지 27억원을 이 센터에 지원한다. 해외우수연구기관 협력허브 구축사업의 일환이다.

안 교수는 “전두엽이 수행하는 고위 인지 기능을 구현한 딥러닝 알고리즘을 개발하고, 안전하고 신뢰할 수 있는 AI를 구현하는 토대를 마련하겠다”고 말했다. ’안전한 AI’는 벤지오 교수가 최근 강조하는 부분이다. 벤지오 교수는 작년 11월 영국과 올해 5월 서울에서 열린 AI 정상회의에 참석해 AI가 가져올 막대한 위험을 줄이기 위해 각국 정부와 기업이 함께 노력할 것을 촉구했다.

이해성 기자 ihs@hankyung.com