당신이 '='의 의미를 모두 안다고 생각한다면 '착각'

두 개의 대상이 서로 같다는 것을 나타낼 때 사용하는 기호 ‘=’를 '등호'라고 한다. 게티미지뱅크 제공

두 개의 대상이 서로 같다는 것을 나타낼 때 사용하는 기호 ‘=’를 '등호'라고 한다. 최근 컴퓨터로 수학 문제 증명을 시도하는 수학자들이 =의 의미가 불분명해 컴퓨터 증명에 어려움을 겪고 있다는 내용의 논문을 발표했다. '같음'의 정의에 대해 수학계에서 다시 한번 생각해봐야 한다는 메시지다.  

케빈 버자드 영국 임페리얼대 교수 연구팀은 지난달 논문 공개사이트 '아카이브'에 논문 형식의 결과 보고서를 발표했다. 버자드는 수학 역사상 가장 유명한 정리인 '페르마의 마지막 정리'를 컴퓨터 언어를 이용해 증명하고 있는 수학자로 유명하다. 정확히 말하면 1995년 영국의 수학자 앤드루 와일스가 증명한 내용 등을 '린(Lean)'으로 검증하고 있다. 린은 마이크로소프트 리서치팀이 2013년 개발한 수학 증명을 검증하는 소프트웨어다. 

버자드 교수는 린에 컴퓨터 언어인 '코드'로 증명 내용을 변환해 입력하는 과정에서 =를 컴퓨터에 이해시키는 것이 까다롭다는 사실을 발견했다. =를 수학자마다 혹은 분야별로 조금씩 다른 의미로 쓰고 있었기 때문이다. 지금까지 cm, km 같은 단위 기호처럼 수학기호의 의미를 전세계가 공식적으로 확정하는 절차가 없었다. 

=가 다양하게 쓰이는 이유는 근본적으로 같음에 대해 사람들의 생각이 다르기 때문이다. 예를 들어 '2+2=4'는 2+2와 4가 같다는 의미다. 대부분 동의하는 식이겠지만 형식과 모양을 판단 기준으로 한다면 두 개의 2가 +를 가운데 두고 있는 모양이 숫자 4가 하나밖에 없는 모양과 아예 다르다고 할 수 있다.  

이처럼 수학에서는 같음을 다양하게 정의할 수 있다. 예를 들어 수학의 한 분야인 '위상수학'에서는 도넛과 커피잔이 같으므로 도넛=커피잔이라고 쓸 수 있다.

위상수학은 단순히 길이나 크기 같은 직관적인 수치 비교를 넘어 추상적인 물체들의 성질을 연구하는 분야다. 위상수학에서는 구멍을 내거나 가위로 자르지 않고 어떤 도형을 찰흙처럼 주물러 다른 도형으로 만들 수 있으면 두 도형을 같다고 정의한다. 위상수학자들은 도형의 점, 선, 면의 위치 관계에만 관심이 있기 때문에 도넛과 커피는 구멍이 하나인 물체로 같다. 하지만 다른 분야에서 도넛과 커피잔은 다른 물체다. 

수리철학을 연구하는 최정담 '발칙한 수학책' 작가는 "{a, b, c}와 {1, 2, 3}은 '집합의 크기'에만 집중하는 수학자에게는 {a, b, c}={1, 2, 3}다"라면서 "누군가에게 '다름'인 명제가 누군가에겐 '같음'일 수 있다"고 설명했다. 버자드 교수는 과학 온라인 매체 '뉴사이언티스트'에 "현대 수학자들은 다소 느슨하게 =를 사용하고 있다"고 말했다. 수학자들이 =에 대한 개념 정의를 확실히 하지 않은 채 쓰고 있다는 말이다. 심지어 같음을 나타내는 기호도 = 외 여러 개 존재한다. 

이같은 이유로 버자드 교수는 =를 컴퓨터에 이해시키기 어렵다고 설명했다. 수학 증명의 문맥을 이해한 뒤 여기서 쓰인  =의 의미를 밝혀내고 컴퓨터에 입력해야 하기 때문이다.

버자드 교수의 논문이 주목받는 이유는 최근 수학계에서 인공지능(AI)이 수학 연구 방법을 완전히 바꿀 것으로 기대하고 있기 때문이다. 수학자가 AI 도구를 이용해 새로운 추측을 제시하고 린의 도움을 받아 정확히 증명하는 미래를 꿈꾸고 있다. 이를 위해서는 컴퓨터가 현재 수학의 내용을 완벽히 이해해야 한다. 버자드 교수의 이번 논문은 수학계가 앞으로 겪을 어려움을 미리 보여준다는 의미가 있다. 

[이채린 기자 rini113@donga.com]