[김범준의 옆집물리학]노벨상을 받은 홉필드 연결망의 물리학

물리학자 김범준의 옆집몰리학 칼럼을 읽는 여러분, 반갑습니다! 다시 꼼꼼히 살펴보시길. 첫 번째 ‘물리’는 옳게 적혀 있지만 두 번째는 ‘몰리’라고 잘못 적혀 있다. 그런데도 이 문장에서 전혀 오류를 눈치 못 채는 사람이 많다. 우리는 낫 놓고 기역 자를 떠올리고, 몰리학을 봐도 몰리학을 떠올릴 수 있는 존재다. 우리는 없는 것도 볼 수 있고, 있는데도 보지 못하는 존재다. 방금 또 내가 ‘몰리학’이라고 틀리게 적었다. 혹시 눈치채신 분? 우리 뇌는 잘못된 외부 정보를 교정해 올바로 인식할 수 있다.

“1N73LL1G3NC3 15 7H3 4B1L17Y 70 4D4P7 70 CH4NG3”라는 재밌는 글귀를 본 적이 있다. 암호 같은 기호가 이어져 있는데도 많은 이가 “INTELLIGENCE IS THE ABILITY TO ADAPT TO CHANGE”로 읽어낼 수 있다. 적힌 내용처럼, 변화에 유연하게 적응할 수 있는 능력이 지성이다.

옆집몰리학이나 1N73LL1G3NC3나, 사전을 뒤적여서는 결코 찾을 수 없다. 우리 인간이 뇌에 정보를 저장하는 방식은 사전과는 무척 다르다는 이야기다. 도대체 뇌는 어떻게 정보를 저장해 처리하는 것일까? 우리 뇌에는 1000억개 정도의 신경세포가 있다. 한 신경세포가 발화해 전기신호로 만들어낸 정보는 시냅스라는 구조를 거쳐서 연결된 다른 신경세포로 전달되는데, 시냅스의 강도가 크면 두 번째 신경세포도 발화하게 된다. 우리 뇌에는 신경세포를 서로 연결하는 시냅스가 무려 100조개가량 들어 있다. 일부 예외가 있지만, 우리 뇌는 주로 정보를 시냅스에 저장한다. 성인의 뇌에서는 하루에 수만 개의 신경세포가 사멸하지만, 우리가 오래전 기억을 어느 정도 유지할 수 있는 이유는 뇌가 수많은 시냅스에 정보를 분산해서 저장하기 때문이다.

기억이 도대체 어떻게 시냅스에 담기는지도 알려져 있다. 김치찌개가 밥상에 놓이면 시각과 후각 정보가 동시에 우리 뇌에 들어온다. 김치찌개의 후각 정보로 신경세포 A가, 시각 정보로 신경세포 B가 발화한다는 극도로 단순한 가정으로 기억이 어떻게 형성되는지 설명해보자. 내가 김치찌개를 보면서 냄새 맡으면 A와 B가 함께 발화한다. 이처럼 두 신경세포가 함께 발화하면 둘을 연결하는 시냅스의 강도가 커진다는 것이 헵의 규칙(Hebb’s rule)이라고 불리는 기억의 미시적 형성 과정이다. 여러 번의 경험으로 A와 B가 함께 발화해 둘 사이 시냅스 연결이 충분히 강해지면, 결국 A가 발화하기만 해도 B도 발화하게 된다. 김치찌개 냄새를 맡으면 김치찌개의 모습도 아울러 저절로 떠올리게 되는 연합기억(associative memory)이 형성된다. 우리가 낫 놓고 기역 자를 떠올릴 수 있는 이유다.

2024년 노벨 물리학상을 받은 존 홉필드는 틀린 것을 보여줘도 옳게 인식하는 인간 뇌의 작동 방식을 인공 연결망의 형태로 구현했다. 홉필드 연결망은 우리 뇌의 신경세포 작동 방식을 단순하게 흉내 낸 여러 인공 신경세포를 연결망의 노드로 설정한다. 발화하는 노드에 +1, 발화하지 않고 있는 노드에는 0의 값을 부여한다. 학습시키고자 하는 패턴 안의 두 노드가 같은 상태인 경우 헵의 규칙을 따라 둘을 연결하는 링크의 강도에 +1을, 두 노드의 상태가 다른 경우에는 -1을 부여한다. 이렇게 패턴을 연결선의 강도로 구현해 학습시킨 홉필드 연결망은 입력패턴이 들어오면 노드 사이 상호작용으로 정의되는 전체 에너지를 줄여가는 방식으로 작동하게 된다.

여기저기 골짜기가 있는 복잡한 산의 지형을 떠올려보자. 만약 ‘물리’가 홉필드 연결망에 학습시킨 올바른 정보라면 ‘물리’는 에너지가 낮은 깊은 골짜기에 해당한다. 한편 ‘몰리’는 에너지가 높아서 ‘물리’ 근처 산비탈에 있다. ‘몰리’를 입력패턴으로 작동을 시작한 홉필드 연결망은 산비탈에서 출발해 에너지 바닥 상태인 ‘물리’에 한발 한발 다가서게 된다. 옆집몰리학을 봐도 옆집물리학으로 읽는 우리 뇌의 정보처리 과정을 인공 신경세포 연결망의 에너지 최소화 과정으로 구현한 것이 홉필드 연결망이다.

물리학자인 홉필드는 자성체가 어떻게 자성을 가지는지를 설명하는 통계물리학의 이징(Ising) 모형에 착안해 자신의 인공신경망을 고안했다. 신경과학과 물리학을 융합해 인공지능의 초기 발전에 막대한 기여를 한 업적으로 2024년 노벨 물리학상을 수상했다.

김범준 성균관대 물리학과 교수

김범준 성균관대 물리학과 교수