中 수학자, 2000년 묵은 난제 '곡선 위 점의 비밀' 실마리 찾았다

수학 이미지. 게티이미지뱅크 제공

중국 수학자 3명이 곡선 위 유리수 점의 개수를 구하는 2000년 묵은 난제를 획기적으로 발전시켰다는 주장이 나왔다. 수학계에서는 놀라운 성과라는 평가가 이어지고 있다. 

신이 위안 베이징대 교수를 포함한 중국 수학자 3명은 방정식으로 나타낼 수 있는 곡선(대수 곡선) 위 유리점 개수의 상한 공식을 만들어 지난달 2일 논문 사전공개 사이트 '아카이브(arXiv)'에 발표했다. 상한 공식이란 유리수 점의 정확한 개수는 알 수 없어도 이를 넘지 않는 이론적 최대 한계를 알려주는 공식이다. 놀랍게도 4차 이상의 모든 곡선 방정식에 활용 가능하다.

고대 그리스 시대부터 수학자들은 곡선 위의 특별한 점을 찾아내려 애써왔다. xy좌표가 정수이거나 분수인 유리점에 주목한 것이다. 예를 들어 원의 방정식 X²+Y²=1에서 (1, 0)은 원 위의 유리수 점이다. 실제로 이런 점은 실생활에서도 유용하다. 타원 곡선 위의 유리수 점들이 암호학이라는 분야를 탄생시켰고 타원 곡선 암호는 현재 스마트폰은 물론 전자상거래까지 다양한 분야에서 활용된다.

수학자들은 유리수 점이 유한한지, 무수히 많은지 연구해왔고 이는 수를 연구하는 수론의 핵심 문제로 자리잡았다. 원 같은 특정 곡선은 유리수 점을 무한히 많이 가진다. 일반적으로 x나 y의 차수가 2를 넘지 않는 2차 방정식은 유리수 점이 전혀 없거나 무한히 많다. 3차 곡선은 유리수 점이 무한한 것도 있고 유한한 것도 있다.

1922년 영국 수학자 루이 모르델은 곡선 방정식의 차수가 4 이상이면 유리수 점의 개수는 항상 유한하다고 주장했고 61년 뒤 독일 수학자 게르트 팔팅스가 이를 증명해 1986년 필즈상을 받았다. '팔팅스 정리(Faltings's theorem)'로 불리는 이 결과는 4차 이상의 곡선 방정식에서 유리수 점이 유한하다는 사실을 밝혔지만 정확히 몇 개인지는 알려주지 못한다. 이후 수학자들은 개수를 알려주는 공식을 찾고자 노력해왔다.

중국 수학자들이 만든 공식은 곡선 방정식의 차수와 자코비안 다양체(Jacobian variety)라는  기하학적 구조를 기준으로 상한값을 정한다. 차수가 커질수록 상한값도 함께 커지는 경향을 보인다.

헥터 파스텐 칠레 교황청 가톨릭대 수학자는 미국 과학전문매체 ‘사이언티픽 아메리칸’에 "정말 놀라운 결과”이며 “연구의 기준을 한 단계 끌어올렸다"고 말했다. 

배리 메이저 하버드대 석좌교수 역시 같은 매체에 "유리수 점 개수 문제를 하나의 통합된 틀 안에서 이해할 수 있게 됐다"고 평했다. 

김완수 KAIST 교수는 "결과도 중요하지만 증명에 쓰인 방법론이 다른 문제를 푸는 데도 도움이 될 것"이라며 "수학 분야 특성상 학술지 게재까지는 시간이 걸리겠지만 증명의 큰 방향이 올바른 것으로 받아들여지는 주목할 만한 연구"라고 설명했다.

<참고자료>
arxiv.org/abs/2602.01820

[조가현 기자 gahyun@donga.com]