[박형주의 세나수 세상에 나쁜 수학은 없다]데이터에도 모양이 있다

최근 인공지능(AI)과 빅데이터가 세상을 바꾸고 있지만, 넘쳐나는 데이터에서 의미를 찾아내는 일은 점점 더 어려워지고 있다. 흥미롭게도, “쓸모없는 수학”으로 여겨지던 위상수학이 유력한 대안이 되고 있다.

위상수학은, 물체의 길이나 각도보다, 무엇이 본질적으로 같고 본질적으로 다른지를 탐구하는 학문이다. 고무공과 정육면체는 겉모습은 다르지만 찢거나 붙이지 않고 서로 변형할 수 있어서 위상적으로는 같은 공간으로 본다. 반면 도넛과 공은 구멍의 개수가 다르니 서로 다른 공간이다.

위상수학, 대체 어디에 쓰이는데요

사람을 구분할 때 이름이나 주민등록번호를 사용하듯이, 위상수학자들은 공간에 대해 불변량이라는 일종의 신분증을 사용한다. 공간을 늘리거나 구부려도 변하지 않는 값이어서, 불변량이 다른 두 공간은 결코 같은 곳에서 유래했을 리 없다. 18세기 수학자 오일러는 이러한 생각의 출발점을 마련했다. 그는 다면체를 변형해도 점(V), 선(E), 면(F)의 개수의 결과인 V-E+F는 항상 같은 값을 가진다는 것을 발견했다. 정사면체든 정육면체든, 위상적으로 같은 공간이라면 이 값은 변하지 않는다. 오일러 종수라고 불리게 된 이 수는 공간의 본질적 특징을 나타내는 중요 불변량으로 자리 잡았다.

20세기에 들어서는 더 강력한 도구가 등장했다. 바로 베티(Betti)수다. 베티수는 공간의 연결 성분 수와 구멍의 개수 등을 수치로 표현한다. 예를 들어 연결된 덩어리가 하나이고 구멍이 하나라면, 실제 모양을 보지 않아도 대략 도넛과 비슷한 구조를 상상할 수 있다. 이쯤 되면 마치 추리소설 같다. 범인을 직접 보지 못했지만 남겨진 흔적만으로 사건을 재구성하는 탐정처럼, 수학자는 몇개의 숫자만으로 공간의 모습을 역추적한다.

하지만 구멍의 개수를 세고 공간의 연결 구조를 따지는 게 현실과 무슨 상관이란 말인가. ‘오일러 종수’나 ‘베티수’가 중요한 이유는 공간의 겉모습이 아니라 정체성을 수치로 표현할 수 있다는 점 때문이다. 이 지점에서 위상수학은 순수수학을 넘어 데이터 과학과 만나게 된다.

흔히 데이터를 숫자의 집합이라고 한다. 은행 거래 기록, 유전자 정보, SNS 활동 내역까지 모두 숫자로 표현된다. 문제는 데이터가 너무 많아졌다는 것이다. 현대사회에서 생성되는 데이터의 규모는 인간이 직관적으로 이해할 수 있는 수준을 훨씬 넘어섰다.

그래서 수학자들은 “데이터에도 모양이 있을까?”를 질문하기 시작했다. 수많은 데이터점을 공간 속에 배치하면 특정한 패턴이 나타난다. 이런 관점에서 탄생한 위상수학적 데이터 분석(TDA)은 데이터를 숫자의 나열이 아니라 하나의 ‘형태’를 가진 공간으로 바라보고, 그 공간의 구조를 분석해서 숨겨진 패턴을 찾아낸다.

부분과 전체

TDA가 주목받는 이유는 ‘전체를 본다’는 점에 있다. 전통적인 인공지능과 통계 기법은 종종 데이터의 부분적인 특징에 집중한다. 예를 들어 사람은 판다 사진을 보면 전체 모습을 보고 판다라고 인식하지만, 인공지능은 귀의 모양이나 털의 질감 같은 국소적인 특징에 의존하는 경우가 많다. 그래서 인간의 눈에는 거의 구분되지 않는 작은 변화에도 엉뚱한 판단을 내리기도 한다.

그러나 위상수학은 데이터 전체의 구조를 이해하려 한다. 구멍의 개수나 연결 구조 같은 특성은 일부가 아니라 전체를 살펴야 비로소 드러난다. 수학자들이 ‘글로벌한 관점’이라고 표현하곤 하는 ‘데이터의 전체 구조를 이해하는 능력’이 미래 AI의 중요한 과제임은 점점 분명해지고 있다.

실제 활용 분야도 빠르게 늘고 있다. 바이오 데이터 분석, 건축·토목 분야의 구조 분석, 지하 공간 탐사 등 다양한 영역에서 TDA가 새로운 통찰을 제공하고 있다. 특히 금융 데이터는 흥미롭다. 정상 거래와 이상 거래를 완벽하게 구분하는 방법은 아직 존재하지 않지만, 위상수학은 거래 하나하나를 보는 대신 거래들이 이루는 전체 구조를 분석하고 기존 방법이 놓치던 새로운 패턴을 발견해, 금융 이상 거래 탐지에 사용되기 시작했다.

데이터가 세상을 움직이는 시대다. 어쩌면, 미래 경쟁력은 데이터를 얼마나 많이 모으느냐가 아니라, 그 데이터가 만들어내는 ‘모양’을 얼마나 잘 읽어내느냐에 달려 있을지 모른다. 한 걸음 물러나 전체의 구조를 바라보는 힘. 그것이야말로 오늘날 우리가 가장 필요로 하는 역량이지 않을까.

박형주 아주대 수학과 석좌교수

박형주 아주대 수학과 석좌교수