챗GPT 토대 만든 ‘딥러닝 대부’…노벨상 받고도 “AI 위협 우려”

AP뉴시스

올해 노벨 물리학상에 이변이 일어났다. 스웨덴 왕립과학원 노벨위원회는 8일(현지 시간) 노벨 물리학상 수상자로 존 홉필드 미국 프린스턴대 교수, 제프리 힌튼 캐나다 토론토대 교수를 선정했다.

노벨위원회는 “인공 신경망을 이용한 머신러닝(기계학습)을 가능하게 하는 기초적인 발견과 발명의 공로”라며 “수상자들은 컴퓨터로 우리 사회 많은 문제를 해결하도록 돕는 새로운 방법을 보여줬다”고 밝혔다.

그간 노벨 물리학상은 기초 물리학을 연구한 과학자에게 주로 주어졌지만, 올해는 챗GPT와 같은 생성형 인공지능(AI)의 기반을 마련한 두 과학자가 상을 수상했다. 특히 AI 4대 석학 중 한 사람으로 불리는 힌튼 교수는 물리학 전공이 아닌 컴퓨터과학자이자 신경과학자다. 수상자 발표 직후 노벨위원회와의 전화 연결에서 힌튼 교수는 첫 마디로 “무슨 일이 일어났는지 전혀 모르겠다”며 놀라워 했다.

● 컴퓨터가 뇌를 모방하다

두 과학자는 AI의 봄을 가져운 과학자로 불린다. 생성형 AI의 기반이 되는 머신 러닝(기계 학습)이 등장하기 전인 1970~1980년대는 그야말로 AI의 혹한기였다. 학계의 주목을 받던 AI가 예상보다 학습 효과를 보이지 못하고 하드웨어의 성능도 한계에 다다르며 이렇다 할 결과물을 내놓지 못했기 때문이다.

그러던 중 홉필드 교수가 제안한 ‘홉필드 네트워크’는 AI의 봄을 알리는 씨앗이 됐다. 홉필드 교수는 원자와 물질의 특성을 연구하던 고체 물리학자였지만 뒤늦게 생물학까지 관심의 범위를 넓혔다. 뇌가 어떻게 기억하는지를 연구하던 홉필드 교수는 뇌의 신경망 구조를 수학적 그래프로 표현한 ‘홉필드 네트워크’를 1982년 발표했다.

우리의 뇌는 뉴런이라는 신경 세포로 이뤄져있고, 뉴런 간의 연결이 강하냐 약하냐에 따라 기억의 강도가 결정된다. 홉필드 교수는 뉴런을 노드에 대입해 노드와 노드 사이의 관계를 설정했고, 이 과정에서 원자 내부의 스핀 시스템을 차용했다.

힌튼 교수는 홉필드 네트워크를 학습이 가능한 컴퓨터 알고리즘으로 승화시킨 업적을 인정받았다. 힌튼 교수는 홉필드 네트워크를 활용한 ‘볼츠만 머신’을 개발했다. 볼츠만 머신은 홉필드 네트워크를 ‘학습’하도록 만든 알고리즘이다.

쉽게 말해 홉필드 네트워크가 기억을 하는 패턴을 보여주는 모델이라면, 볼츠만 머신은 이 패턴을 학습해 최적화된 결과물을 내놓을 수 있는 알고리즘이다. 조정효 서울대 교수는 “볼츠만 머신이 없었다면 홉필드 네트워크가 지금의 AI 알고리즘으로 발전하지 못했을 것”이라고 했다

힌튼 교수의 볼츠만 머신은 생성형 AI의 기반이 되는 심층신경학습망(DNN·Deep Neural Network)으로 발전하는 기틀이 됐다. DNN은 여러 층으로 나눠 정보를 처리하는 방식이다. 정보를 처리할 때 노드 간의 신호 교환을 통해 이뤄지는데, 무작위하게 이뤄지는 것이 아니라 1층에서 중요한 정보를 걸러서 2층으로 올려주면 한 번 더 정보를 걸러 3층으로 올려보내는 식으로 진행하는 것이다. 힌튼 교수의 볼츠만 머신은 기존에 3층에 불과했던 DNN의 층수를 10층까지 확장하는 데 기여했다. 이는 이세돌 9단을 꺾은 알파고를 탄생시켰고, 지금의 챗GPT를 만들었다

● 노벨상 받고도 “AI 위협 우려”

‘딥러닝’의 대부로 불리는 힌튼 교수는 오픈AI, 구글, 메타 소속 주요 과학자들의 스승으로, 힌튼 교수 본인도 2012년 제자들과 구글브레인에 입사해 구글의 AI 개발을 도왔다. 그의 제자인 천재과학자 일리야 수츠케버는 오픈AI의 창업자다. 수츠케버는 오픈AI가 영리적으로 변했다며 샘 올트먼 최고경영자(CEO) 축출을 추진했던 인물이다.

힌튼 교수 역시 지난해 구글을 나와 AI가 통제 불능으로 진보하면 인류의 미래를 위협할 수 있다며 여러차례 경고해 왔다. 8일 수상자 발표 후 이뤄진 전화 기자 간담회에서 AI는 “산업혁명에 비견할 수 있다. 인간의 체력을 뛰어넘는 것이 아니라 지적 능력을 뛰어넘게 될 것”이라면서도 “우리는 또한 여러 가지 나쁜 결과, 특히 (AI가) 통제 불능 상태가 될 수 있는 위협에 대해 걱정해야 한다”고 밝혔다.

홉필드 교수와 힌튼 교수는 상금 1100 크로나(약 14억3400만 원)을 나눠 갖게 된다. 노벨 위원회는 전날 생리의학상을 시작으로 이날 물리학상, 9일 화학상, 10일 문학상, 11일 평화상, 14일 경제학상 수상자를 발표할 예정이다.

최지원 기자 jwchoi@donga.com
한종호 기자 hjh@donga.com