[김영훈의 과학 산책] 오직 모를 뿐

김영훈 고등과학원 수학부 교수

수학 연구를 할 때 결코 잊으면 안 되는 점은 편견을 갖지 않고 자연이 보여주는 그대로 진리를 발견해야 한다는 것이다. 자연은 연구자의 의도나 바람과는 상관없이 존재하며, 끈질기고 섬세한 탐구를 통해서만 그 신비한 모습을 조금씩 볼 수 있을 뿐이다. 그래서 좋은 연구성과는 늘 경이롭다. 잘못된 상식이나 편견을 파괴하고 참된 진리를 드러낸다. 최근 인공지능 챗GPT가 화제를 끌고 있다. 놀라운 점은 인간의 편견이나 고집까지 학습돼 근거가 빈약한 추론과 자신의 견해에 관한 집착까지 보여준다는 사실이다.

과학 산책

인공지능의 성공비결은 인간 두뇌를 모방한 신경망 모델이 제공하는 함수 공간의 수학적 특성이라 할 수 있는데, 이는 인공지능이 나오기 오래전부터 수학자들이 탐구해온 다양한 함수 공간에 관한 지식에 기반을 두고 있다. 시각세포를 통해 접수된 데이터는 신경망을 통하고 나면 책·가방·자동차와 같은 표상으로 분석되고, 다시 명품인지 아닌지 등의 이미지에 대한 갈망이 생겨나기도 한다. 6개의 감각기관에서 접수된 데이터 그 자체와 함께 표상·이미지가 계속 나타나는데, 이를 틱낫한 스님은 우주 만물의 18계라고 설명한다. 섬세하게 집중된 상태가 아니라면 데이터 그 자체는 놓치고, 표상과 이미지만 알아차리게 되어 챗GPT가 보여주는 것처럼 편견과 집착으로 이어지기 쉽다.

한국 불교를 세계에 널리 알린 숭산 선사는 ‘오직 모를 뿐’이라는 화두로 높은 경지에 이른 분이다. 삶에서 나온 고민이건, 난해한 수학 연구이건, 편견에서 벗어나 본질에 이르기 위해서는, 때때로 신경망을 끄고 데이터 그 자체를 바라봐야 한다. 내려놓는 바로 그 순간 오랜 세월 괴롭혀온 문제의 해답이 벼락처럼 떠오르는 행운이 찾아올 수 있음을 앙리 푸앵카레나 히로나카 헤이스케 같은 수많은 수학자가 증언하고 있다. 고대인들은 인간이 신이 될 수 있을까 물었다. 이제 현대인들은 기계가 인간이 될 수 있을까 묻는다. 오직 모를 뿐이다.

김영훈 고등과학원 수학부 교수