[주말N수학] 수학계가 시끌...이탕 장이 '리만 가설'을 풀었다고?

이채린 기자 2023. 1. 7. 06:00
음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

이탕 장 미국 캘리포니아대 산타바바라 교수. 수학동아 DB

수학계가 들썩이고 있다. 2022년 11월 중국계 미국인 수학자인 이탕 장 미국 산타바바라 캘리포니아대 교수의 논문 때문이다. 논문 사전 등록 사이트인 ‘아카이브’에 올라왔을 뿐, 검증도 안 된 이 논문 때문에 전 세계 수학자들은 온·오프라인을 가리지 않고 난상토론 중이다. 

도대체 왜 이렇게 시끌벅적한 걸까. 

수학계가 주목한 이유는?

● 2022년 10월 20일 기사 보도

2022년 10월 장 교수가 리만 가설과 관련된 문제를 풀었다는 내용의 중국 기사다. 수학동아 DB

시작은 2022년 10월 중국의 한 기사였다. ‘중국계 미국인 수학자 이탕 장이 리만 가설을 해결할 돌파구를 찾았다는 소문이 돌고 있다’는 내용이었다. 리만 가설은 수많은 천재 수학자들이 도전했지만, 150년 동안 풀리지 않아 100만 달러(약 13억 원) 상금이 걸린 난제다. 

결론부터 말하면 기사는 사실이 아니었다. 장 교수는 리만 가설이 아닌 ‘란다우-지겔 영점 문제’를 다뤘으며 이마저도 완전히 증명한 게 아니라, 수학적으로 말하면 ‘약하게’ 증명한 것이었다. 특정 조건에서만 증명이 성립되도록 풀었다는 말이다. 

조재현 UNIST 수리과학과 교수는 “란다우-지겔 영점 문제는 소수의 패턴을 탐구하는 문제라는 점에서 리만 가설과 같지만 아예 다른 문제다”라면서 “물론 만약 란다우-지겔 영점이 존재한다면 리만 가설이 틀렸다는 결론이 나오긴 한다”고 설명했다. 하지만 수학자 대부분은 이 영점이 없다고 생각한다. 장 교수가 증명했다고 주장하는 것도 특정 지점에서 영점이 없다는 것을 보인 것이기 때문에 더더욱 리만 가설과 관련이 없다.

란다우- 지겔 영점 문제란. 수학동아 DB

● 11월 4일 논문 공개

기사가 나가고 며칠이 지난 11월 4일 장 교수는 논문을 인터넷에 올렸다. 8일 장 교수는 중국 북경대에서 화상 회의를 통해 중국어로 논문 내용을 발표했다. 장 교수가 등판하자 전 세계에서 수학자들이 흥분하기 시작했다. 소셜 뉴스 웹사이트 ‘레딧’, SNS ‘트위터’, 수학 질의응답 웹사이트 ‘매스오버플로우’ 등에서 그에 대한 이야기가 쏟아졌다. 매스오버플로우에서 장 교수 논문 내용을 설명하는 글의 조회수는 2022년 12월 8일 기준 5만 회나 됐다. 이곳에 최근 올라온 글의 조회수는 많아야 몇 백에 불과했다. 

수학동아 DB

● 11월 11일 '네이처' 보도

이 와중에 세계적인 과학 학술지인 '네이처'의 기사가 논란이 되며, 토론에 불을 지폈다. 네이처는 11일 ‘장 교수가 란다우-지겔 영점 문제를 풀었다’는 식의 온라인 기사를 냈는데, 장 교수가 완전히 푼 건 아니라 오해의 소지가 있었기 때문이다. 미국 수리물리학자인 존 카를로스 바에즈 미국 리버사이드 캘리포니아대 교수가 자신의 트위터에 ‘장 교수는 란다우-지겔 영점 문제를 약하게 풀었다. 네이처 기사는 이를 불분명하게 남겼다’는 글을 올리자 많은 사람이 동조했다. 그러자 네이처는 14일 ‘장 교수가 증명한 건 란다우-지겔 영점 추측보다 더 약한 문제라는 걸 명확히 하기 위해 기사를 수정했다’는 사과의 글을 남겼다. 

● 11월 14일 오류 의혹

2006 필즈상 수상자인 테렌스 타오 미국 로스앤젤레스 캘리포니아대 교수도 자신의 홈페이지에 ‘장 교수 논문에 오류가 있으며, 수정하는 데 꽤 시간이 걸릴 것’이라는 내용의 논평을 냈다. 이에 네티즌들은 타오 교수의 글을 이곳저곳 퍼다 나르며 또 한 번 들끓었다. 

반면 세계적인 정수론 전문가인 앤드루 그랜빌 캐나다 몬트리올대학교 교수는 <수학동아>에 “실제로 논문에서 몇 가지 실수가 발견됐지만 당장 수정할 수 있어 좋은 학술지에 게재될 것으로 보고 있다”고 평가했다. 

● 수학계가 주목한 이유는?

수학자가 논문을 발표하는 건 지극히 일상적인 일. 그런데 왜 이렇게 많은 사람들이 여기에 주목하고 있는 걸까?

이유①  란다우-지겔 영점 문제의 중요성

란다우-지겔 영점이 있다면 소수 패턴을 탐구하는 여러 식에서 큰 오차가 발생하기 때문이다. 또 앞서 밝힌 것처럼 대부분 이 영점이 없다고 보고 있지만, 이 문제를 증명하기 워낙 어려워 기존에 이렇다 할 연구 결과가 거의 없었다. 그래서 장 교수의 이번 결과가 맞는다면 이것만으로도 큰 성과라 평가받고 있다.

이유 ②  이탕 장이니까

장 교수가 좋은 결과를 냈을 거라는 기대도 있다. 최영주 포스텍 수학과 교수는 “아무리 논문을 많이 발표해도 이 논문을 쓴 사람이 자주 틀린 이력이 있거나 혁신적인 논문을 낸 적이 없다면 관심을 많이 끌지 않을 것”이라면서, “장 교수는 2013년 ‘쌍둥이 소수 추측’에 관한 중요한 논문을 발표했고, 2007년에 란다우-지겔 영점 문제에 관한 논문을 냈을 정도로 이 문제를 계속 풀고 있다고 알려져 있다”고 설명했다. 

이탕 장에게 란다우-지겔 영점 문제란. 수학동아 DB
편견을 넘은 수학자 이탕 장 . 수학동아 DB

편견을 넘는 수학자

● 58세 전까지 고난의 연속

“이탕 장이 누구야?”

장 교수가 2013년 4월 수학계 최고 학술지인 '수학연보'에 논문을 발표하자 수학계가 술렁였다. 세상에 나온 지 170년이 훌쩍 넘은 난제 ‘쌍둥이 소수 추측(연속한 두 소수의 간격이 2인 소수쌍이 무한히 많다는 추측)’에서 괄목할 만한 결과를 냈을 뿐 아니라 당시 장 교수는 무명의 수학자였기 때문이다. 게다가 당시 나이가 58세로 적지 않은 나이였고 오랫동안 생활고에 시달렸음에도 수학 연구를 포기하지 않았다는 사연이 알려지며 단숨에 스타 수학자로 떠올랐다. 

1955년 중국 상하이에서 태어난 장 교수는 그저 수학을 좋아하는 어린이였다. 10살 무렵 그의 부모가 일 때문에 북경으로 떠나면서 할머니와 단둘이 살았고, 급기야 1966년 ‘*문화대혁명’이 일어나며 학교가 문을 닫았다. 결국 그 영향으로 15살 때 어머니와 시골 농장으로 끌려가 일을 했다. 이때 틈틈이 장 교수는 수학, 역사 등의 책을 읽었다. 

1976년 문화대혁명이 끝나자, 그는 마음속에 품어왔던 수학자란 꿈을 이루기 위해 공부를 다시 시작했다. 북경의 한 자물쇠 공장에서 일하며 입시를 준비했고 23살에 드디어 북경대학교 수학과에 진학했다. 29세에 같은 학교에서 석사 과정을 마친 뒤, 미국 퍼듀대학교에서 박사 과정을 밟았다. 

꿈을 이뤄가는 듯했으나 퍼듀대를 졸업한 뒤 또 다른 시련이 찾아왔다. 무려 7년 동안 연구가 가능한 안정적인 직장을 구하지 못했기 때문이다. 미국 곳곳을 전전하며 샌드위치 가게, 숙박 업소, 레스토랑 등에서 임시직으로 일하며 생활비를 벌었다. 집세를 내지 못해 한동안 친구의 차에서 지낸 적도 있다. 2015년 <콴타매거진>에 장 교수는 “내 성격이 조용하고 나를 알리는 것을 좋아하지 않았기 때문에 운이 없었다”고 밝혔다. 그런 와중에 일하지 않는 시간엔 항상 도서관에 가서 대수기하학과 정수론 학술지를 읽었다.

● 58세에 이룬 수학 결실

그러다 그가 44살이던 1999년 미국 뉴햄프셔대학교에서 수학 강사로 겨우 취직한다. 이곳에서 미적분 수업을 진행하며 학생들에게 인기를 끌었고, 수업과 관련된 시간이 아닐 때엔 계속 정수론 연구에 매진했다. 2010년부터 여러 정수론 문제 중 쌍둥이 소수 추측에 집중하다가 2012년 친구 집에서 머물던 중 문득 문제를 풀 수 있는 아이디어를 생각해 냈고, 2013년 그 유명한 쌍둥이 소수 추측 관련 논문을 '수학연보'에 발표했다. 

쌍둥이 소수 추측에 대한 논문은 2005년 이후로 한 건도 나오지 않았을 정도로 문제가 어렵기로 명성이 자자했다. '수학연보'는 오랜만에 관련 연구가 나오자 이례적으로 장 교수의 논문을 3개월 만에 검증해 실었다. 보통 검증은 세계적인 수학자 여러 명이 달려들어 논문에 쓰인 논증 하나하나의 의미를 해석하고 다시 증명하며 이뤄지기 때문에 검증 기간은 최소 1년에서 몇 년이 걸린다. 

하지만 장 교수의 논문은 워낙 잘 쓰여졌고 당시 큰 관심을 받았기 때문에 검증 기간이 짧았다. 당시 논문을 검증한 그랜빌 교수는 <수학동아>에 “장 교수 논문은 유난히 명료하게 쓰여 있어서 논증을 쉽게 따라갈 수 있었고, 오류조차 발견되지 않았다”면서, “내가 들어본 적 없는 사람이 수많은 연습 없이는 쓸 수 없는 어려운 도구를 이용해 훌륭한 논문을 냈다는 점에 크게 놀랐다”며 당시를 회상했다. 

이후 장 교수는 내로라하는 각종 수학 상을 휩쓸었다. 뉴햄프셔대에서 정교수로 바로 승진했고 전 세계를 돌아다니며 초청 강연했다. 수많은 학교에서 ‘우리 학교로 와달라’라는 요청을 받아 2015년 미국 산타바바라 캘리포니아대로 자리를 옮겼다. 

이윤복 인천대 수학과 교수는 “나이, 이력, 국적 등 모든 면에서 장 교수는 수학자가 성공하기 위한 조건에 대한 기존 편견을 깨는 수학자”라면서, “누구나 언제든 어떤 조건에서도 좋은 성과를 낼 수 있다는 희망을 주는 수학자”라고 설명했다. 

내가 기억하는 이탕장

Zala Films 제공
도리안 골드펠트 미국 컬럼비아대 교수. 컬럼비아대 제공

도리안 골드펠트 미국 컬럼비아대 수학과 교수

"그가 2013년 논문을 발표했을 때 장 교수의 이름을 처음 들었습니다. 곧 그에게 미국 컬럼비아대학교에 와서 논문의 내용을 1주일 간 강의해 달라고 요청했습니다. 그는 흔쾌히 수락했고, 그가 저를 만나서 처음 한 말은 “제 미국식 이름은 Tom이니 저를 Tom으로 불러주세요”라며 편하게 말한 것이었습니다. 그를 우리 집에 초대해 뉴욕 수학 커뮤니티의 많은 사람과 멋진 저녁을 보내기도 했지요. 아, 저는 2013년 포스텍에서 장 교수의 연구 결과를 소개하는 강의를 하면서 한국에 그를 처음 알린 바 있어요"

조지 치체리 다큐멘터리 감독. Zala Films 제공

조지 치체리 미국 다큐멘터리 감독

"그는 삶을 단순하게 만듦으로써 생각과 일이 방해받지 않도록 최선을 다합니다. 부나 대중에게 이름을 알리기 위한 욕구에 관심이 없는 단순한 삶을 추구하지요. 최근에 그와 5년만에 만나 식사를 했어요. 그동안 그가 꽤 유명해지고 일종의 스타가 됐음에도 불구하고 그에게서 어떠한 변화를 보지 못했습니다. 

저는 늘 그에게 이제 어떤 문제를 다룰 것인지 묻고 싶습니다. 분명 그는 몇 년 뒤 그 문제에 대한 결과를 낼 것이기 때문입니다. "

앤드루 그랜빌 몬트리올대 수학과 교수. 몬트리올대 제공

앤드루 그랜빌 캐나다 몬트리올대 수학과 교수

2014년 1월 미국 수학학회 연례 회의에서 그를 처음 만났습니다. 그곳에서 저는 그의 2013년 연구 결과에 대해 청중에게 설명했어요. 그 결과가 당시 수학계에서 가장 혁신적인 성과 중 하나였거든요. 그를 만나 보니 매우 조용한 사람이지만 누구에게나 친절했어요. 더불어 어떤 목표를 잡으면 어떻게든 이루려고 하는 야심찬 수학자라고 느꼈습니다. 란다우-지겔 영점 문제는 정수론 연구에서 가장 중요한 질문 중 하나입니다. 저는 평생 동안 이 질문에 대해 생각해 왔지만, 지금까지 아무 성과가 없었습니다. 그러나 그는 기존 아이디어를 영리하게 사용해 문제를 해결하는 합리적인 수학자이기 때문에 이번 결과 또한 훌륭할 것으로 예상합니다.

● 수학을 위해 태어난 사람

수학자 고드프리 해럴드 하디는 “수학은 다른 어떤 예술이나 과학보다 젊은이들의 놀이다”라는 말을 남겼을 정도로 수학에선 두뇌 회전이 빠른 젊은이들이 큰 성과를 낼 수 있다는 속설이 있다. 올해 장 교수의 나이는 68세. 그럼에도 그가 여전히 훌륭한 결과를 내는 비결이 뭘까. 

장 교수를 본 주변 사람들은 그를 ‘수학을 위해 태어난 사람’이라고 평가한다. 그조차도 “전 어렸을 때부터 언젠가 큰 수학 문제를 풀게 될 날이 올 것이라고 상상했고, 늘 자신감이 있었다”라며, “나이는 대체로 신경 쓰지 않는다. 젊으나 나이 들거나 큰 차이는 없다고 생각한다. 나는 여전히 내가 좋아하는 것은 무엇이든 할 수 있기 때문”이라고 2015년 <더 뉴요커> 인터뷰에서 밝힌 바 있다. 

장 교수는 학교를 오고 갈 때 버스에 앉아서, 복도를 걸을 때, 산책할 때도 수학 문제를 생각한다. 때때로 잠이 들 때 생각했던 수학 문제를 떠올리며 아침에 일어난다. 그리고 계속 질문하려고 노력한다. 당연해 보이는 문제를 계속 의심하다 보면 새로운 문제와 아이디어를 발견할 수 있다고 생각하기 때문이다. 

그렇다면 그의 목표는 무엇일까. 그가 최근 ‘지후’에 올린 글로 추측할 수 있다.

"계속 수학 연구를 할 거예요. 저는 제가 평생 동안 수학을 할 것이라고 내 별에 쓰여져 있을 것 같은 느낌이 듭니다. 수학이 아니면 무엇을 해야할 지 모르겠습니다. 언젠가 내가 정말 수학을 그만둔다면 그때 내 인생에서 무엇을 해야 할지 진정으로 모른다고 말하고 싶습니다."

강의하는 이탕 장 교수. 이탕 장 제공

▼ 용어 설명

*등차수열 : 어떤 수를 시작으로 수가 일정하게 커지는 수의 나열이다. 이때 일정한 수는 공차라 한다. 등차수열 1, 5, 9, 13...에선 공차가 4다. 란다우-지겔 영점 문제에서 D가 등차수열의 공차다.
*문화대혁명 : 중국에서 1966부터 1976년까지 자본주의적인 사상과 문화를 몰아내자며 벌어진 사회주의 운동이다. 이로 인해 많은 중국의 유적지가 파괴됐고 도시에 사는 청년들을 농촌으로 보내 육체 노동을 시킴으로써 사상을 개조해야 한다는 분위기가 생겨났다. 

※관련기사

수학동아 1월, [특집] 수학계가 시끌! 이탕 장이 라민 가설 풀었다고?

[이채린 기자 rini113@donga.com]

Copyright © 동아사이언스. 무단전재 및 재배포 금지.

이 기사에 대해 어떻게 생각하시나요?