브라운 운동, AI 신경망의 열쇠가 되다 [AI가 바꾸는 세상]

편집자주
인공지능(AI) 혁명이 근미래도 아닌 지금 당장 시작됐다. AI 혁명에 뒤지지 않기 위해 알아야 할 관련 상식과 AI기술의 100% 활용법을 매주 연재한다.

2024 노벨 물리학상 수상자들. 노벨위원회 제공.

인공지능(AI) 기술은 하루가 다르게 발전한다. 그러나 그 바탕은 하루아침에 이뤄진 게 아니다. 오랜 기간 인류가 쌓아온 다양한 지식이 그 토대다. 2024년 노벨물리학상도 인공신경망 연구에 공헌한 두 명의 학자 존 홉필드(John Hopfield)와 제프리 힌턴(Geoffrey Hinton)에게 주어졌다. 물리학은 수학과 AI 발전에 큰 역할을 해왔다. 그 한 사례는 요즘 널리 이용되는 확산신경망이다. 확산신경망은 확산(diffusion)이라는 물리적 현상의 수리적 특성을 이용한 생성형 신경망이다.

가장 단순한 확산현상은 '브라운 운동'이다. 1827년 물에 떨어진 꽃가루가 퍼져 나가는 현상을 관찰하여 기록한 식물학자 로버트 브라운(Robert Brown)의 이름에서 유래한다. 19세기 말 이후 브라운 운동은 수학과 물리학의 중요한 연구 주제였고, 다양한 분야에서 인류가 개척한 지식 진보의 바탕에 브라운 운동이 있다. 그 사례는 너무 많다. 독일의 수학자 바이어슈트라스가 1872년 발표한 전역미분불가능함수는 브라운 운동의 시간적 경로함수가 된다. 1905년 아인슈타인은 이 운동의 분포적 성질을 시간과 공간에 관한 편미분방정식으로 기술하였다. 1908년 랑주뱅은 확산현상을 확률적 운동방정식 형태로 모형화했다. 1914년 포커와 플랑크는 확산현상의 분포적 성질을 시간과 공간에서의 편미분방정식으로 표현하는 방법을 고안하였다. 일본의 이토는 1944년 브라운 운동의 시간적 경로에 대하여 정의되는 확률적 적분법을 개발하였다. 머튼은 1973년 기하 브라운 운동(GBM)에 기반하여 블랙-숄즈 모형을 개발하였다.

생성형 신경망에서는 확률 난수를 뽑아 이를 신경망을 통하여 변환하는 방법으로 의미있는 결과를 생성한다. 이때 난수를 뽑는 공간은 다루기 좋은 형태의 공간, 말하자면 단정한 공간이어야 한다. 이 단정한 공간을 수월하게 구성하기 위해 이용하는 방법이 확산신경망이다.

확산신경망은 평균수렴성을 갖는 확산과정에서 시간적 경과에 따라 잡음이 계속 추가되면 그 결과로 생성되는 공간이 단정하게 된다는 수학적 성질을 이용한다. 확산신경망에서 인코더는 입력 데이터에 노이즈를 반복적으로 추가하여 공간을 단정하게 만들고, 디코더는 단정한 공간에서 선정된 난수에 인코더에서 추출한 시그널을 복구시켜, 입력 값과 유사하지만 입력 값과는 다른 새로운 결과를 생성한다. 인류가 오랜 기간 축적해 온 브라운 운동과 확산과정에 대한 지식이 신경망과 결합하여 인류의 기술적 지평을 넓히고 있다.

이윤동 서강대 경영학부 교수(통계학)