[노벨상 2024] 챗GPT 낳은 인공신경망 토대 구축 존 홉필드·제프리 힌턴 물리학상 영예(종합)

올해 노벨물리학상 수상자들. 왼쪽부터 존 홉필드 미국 프린스턴대 물리학과 교수, 제프리 힌턴 캐나다 토론토대 교수. 위키미디어 제공

올해 노벨 물리학상은 오늘날 인공지능(AI)이 지닌 계산능력의 핵심인 인공신경망(ANN)을 통한 기계학습(머신러닝)의 초기 모델을 고안한 과학자들에게 돌아갔다.

스웨덴 왕립과학원 노벨위원회는 존 홉필드(91세) 미국 프린스턴대 물리학과 교수, 제프리 힌턴(77세) 캐나다 토론토대 교수를 올해 노벨 물리학상 수상자로 선정했다고 8일 밝혔다. 노벨위원회는 "인공신경망을 통한 기계학습을 가능케 한 기초적인 발견을 한 공로"라고 설명했다.

인공신경망은 인공지능(AI)이 복잡한 계산을 하는 데 사용하는 알고리즘이다. 사람의 뇌 신경망이 작용하는 방식을 본따 만들었다. 주어진 데이터를 바탕으로 미래의 가능성을 예측하고 의사결정을 내리는 기계학습과 같이 복잡한 작업에 필수적이다. 인공신경망을 사용한 기계학습은 오늘날 사람마저 능가하는 AI 작업능력의 핵심요소로 꼽힌다.

AI 계산능력에서 핵심적인 역할을 하는 인공신경망을 구현하기 위해선 정교한 정보처리 알고리즘이 요구된다. 과학자들은 기존에 가장 정교한 계산 처리 능력을 가진 인간의 뇌 원형에 주목할 수밖에 없었다. 

인간의 뇌에서 정보를 주고받는 신경세포(뉴런)는 인공신경망에서 서로 다른 값을 가진 노드(연결점)가 된다. 각 노드의 연결은 신경세포 간 연결인 시냅스에 비유된다. 이러한 연결이 강해지거나 약해지면서 노드들은 서로에게 영향을 미치게 된다. 노드 연결이 정보를 처리할 수 있는 최적의 상태를 찾는 것은 AI 학계의 주된 과제였다.
 

홉필드 교수는 1980년대에 혁신적인 인공신경망 모델 '홉필드 네트워크'를 제시했다. 이전까지의 인공신경망 알고리즘은 계산이나 학습 과정이 일방향으로만 진행됐다. 반면 홉필드 네트워크는 정보가 지속적으로 피드백을 받으며 처리되는 비선형 구조를 가졌다. 정보에 대한 피드백을 지속적으로 반영하기 때문에 불완전하거나 왜곡된 정보도 정답에 가깝게 추측해낼 수 있다.

홉필드 네트워크의 이같은 작동 방식은 물리학에서 원자나 전자와 같은 작은 입자가 특정한 방향을 갖는 '스핀'이라는 특유의 상태에 착안했다. 왜곡되거나 불완전한 정보가 입력되면 노드들이 단계적으로 작동하면서 불완전한 정보와 가장 유사한 정보를 찾아내는 방식이다.

원자들이 최적의 상태를 유지할 수 있는 조건을 찾는 것은 물리학에서 유명한 '스핀 글라스' 문제다. 홉필드 교수는 인공신경망 알고리즘이 최적의 상태를 갖기 위한 방법을 찾는 데 스핀 글라스 문제를 활용할 수 있음을 제시한 선구적인 인물로 꼽힌다.

거미줄처럼 연결된 인공신경망의 노드를 표현한 이미지. 노벨재단 제공

힌턴 교수는 홉필드 네트워크를 발전시킨 '볼츠만 머신'를 고안했다. 이 알고리즘은 인공신경망에서 각각의 정보를 받아내는 연결점들을 복잡한 거미줄처럼 구성했다. 연결점들은 드러난 점과 숨겨진 점으로 구분된다. 볼츠만 머신은 숨겨진 노드를 활용해 알고리즘의 계산 효율을 높이고 네트워크가 최적의 상태를 유지할 수 있도록 했다. 

볼츠만 머신의 이름은 오스트리아 출신 물리학자 루트비히 볼츠만에서 따왔다. 볼츠만은 기체 분자가 어떻게 운동하는지에 대한 이론을 확률 분포의 도입으로 해결해 통계물리학의 시초를 만들어냈다. 볼츠만 분포를 나타내는 방식이 볼츠만 머신의 핵심 원리로 활용되면서 그의 이름이 붙여졌다.

조정효 서울대 물리교육과 교수는 "머신러닝에서 생성 모형은 어떤 데이터를 들여다봤을때 각 샘플이 나올 확률을 학습한다"며 "현재 널리 쓰이는 언어 모델 챗GPT나 디퓨저 모델처럼 이미지를 생성하는 모델은 다 생성 모형"이라고 말했다. 이어 "생성 모형의 기반이 되는 아주 고전적인 모델이 바로 볼츠만 머신"이라고 설명했다.
 

이들 과학자는 이후 AI 산업계에서 활발한 활동을 이어갔다. 특히 힌턴 교수는 직접 기계학습 업체 'DNN리서치'를 설립했다. 이후 2013년 DNN리서치가 구글에 인수되면서 그는 약 10년 간 구글의 AI 연구를 맡아왔다. 힌턴 교수는 2018년 컴퓨터 공학계의 노벨상으로 불리는 튜링상을 받기도 했다.

조정효 교수는 "힌턴 교수는 실제 뇌가 학습하는 원리는 뭘까 끊임없이 고민을 했던 것 같다"며 "성과보다도 실제로 우리 두뇌가 어떻게 작동하고 있는가에 계속 궁금해하고 연구를 하신 것 같다"고 말했다. 이어 "AI 분야에 겨울이 몇번 찾아왔는데도 꾸준히 인공신경망을 연구했던 그룹"이라며 "연구팀에서 계속 브레이크스루가 된 알고리즘이 나왔다"고 말했다. 

올해 노벨상 수상자에겐 1100만 스웨덴 크로나(약 14억3451만원)가 수여된다. 이번 물리학상 수상자 2명은 상금을 2분의 1씩 나눠갖는다. 

[박정연 기자 hesse@donga.com]