[다산칼럼] 우리는 알아야 한다

'심화 수학'사라지는 고교 교육
"수학 쓸모없다"는 단견(短見) 탓
순수 학문 논쟁이 컴퓨터 잉태하듯
추상적 사고는 자주 현실에 유용해
이론과 실기, 생각과 관찰의 연결점
지속해서 확장하고 개선해야
복거일 사회평론가·소설가

2028학년도 대입제도 개편안이 대학수학능력시험에서 선택 과목들을 없애면서, 고교생들이 ‘심화 수학’을 배울 길이 사라졌다. 이공계 학생들이 미적분을 배우지 못한 채 대학에 들어간다는 얘기다. 이것은 작지만 심각한 사건이다.

1900년에 독일 수학자 다비트 힐베르트는 아직 풀리지 않은 23개 문제를 다루자고 수학자들에게 호소했다. 잘 짜인 공리 체계로부터 모든 수학이 도출되도록 함으로써 수학에 완벽한 논리적 바탕을 제공하자는 뜻이었다. 그의 야심 찬 계획에 온 세계의 수학자들이 호응해서 활발한 연구가 나왔다.

힐베르트는 이 과업에서 10번 문제가 핵심이라고 판단했다. 뒤에 결정 문제(Decision Problem)라 불리게 된 이 문제는 ‘어떤 진술이 보편적으로 타당한지 판정할 길이 있는가’ 묻는다. 1930년에 오스트리아 논리학자 쿠르트 괴델이 두 개의 정리로 이뤄진 불완전성 정리(Incompleteness Theorems)를 발표했다. 그는 형식 체계의 두드러진 특질들은 일관성과 완전성임을 지적하고 그것들로 형식 체계를 살폈다.

제1 불완전성 정리는 ‘만일 어떤 형식 체계가 일관적이면, 그것은 완전할 수 없다’이다. 제2 불완전성 정리는 ‘공리들의 일관성은 자체 안에서 증명될 수 없다’이다. 불완전성 정리는 힐베르트의 소망을 무너뜨렸다. 완전하고 자족한 수학 체계는 존재할 수 없다는 것이 드러난 것이었다.

1935년엔 영국 수학자 앨런 튜링이 결정 문제에 도전했다. 그는 자신의 논지를 증명하기 위해 문제를 풀어나가는 ‘이상화된 수학 기계’를 고안했다. 만일 이 기계가 어떤 문제를 풀어서 언젠가 멈춘다면 그 문제는 풀릴 수 있지만, 멈추지 않고 영원히 돌아간다면 풀릴 수 없다고 그는 지적했다. 즉 튜링은 결정 문제를 정지 문제(Halting Problem)로 바꿨다. 이어 그는 이 수학 기계가 다루는 문제가 풀릴 수 있는지 없는지 판정할 보편적 알고리즘은 없다는 것을 증명했다. 이렇게 해서, 튜링은 괴델과 같은 결론에 이르렀다.

튜링 기계라 불리게 된 이 수학 기계는 잘 알려진 것처럼 전자 컴퓨터의 원형이 됐다. 가장 추상적인 수학 문제를 푸는 일이 인류 역사에서 가장 혁명적이고 실용적인 발명인 전자 컴퓨터를 낳은 것이다. 실은 지구 생태계가 40억 년 전에 튜링 기계를 발명했다는 사실을 깨닫게 되면, 우리의 경탄은 더욱 커진다. 유전자의 DNA를 읽어 RNA로 전사(轉寫)하는 효소 RNAP가 바로 최초의 튜링 기계다.

이처럼 가장 추상적인 학문인 수학이 현실적으로 유용한 현상을 미국 물리학자 유진 위그너는 수학의 “이치에 맞지 않는 유효성(Unreasonable Effectiveness)”이라 불렀다. 이런 사정에 대한 유창한 설명을 우리는 힐베르트의 은퇴 연설에서 만난다. “이론과 실기를, 생각과 관찰을 조정하는 도구는 수학이다. 수학은 그것들을 연결하는 다리를 놓아서 그것들의 능력을 지속해서 향상시킨다.” 힐베르트의 묘비엔 그 연설의 마지막 구절이 새겨져 있다. “우리는 알아야 한다. 우리는 알 것이다.”

수능이 수학 교육을 방해하게 된 것은 교육부가 수능 자체에 가치를 두고서 최적화한 데서 나왔다. 그런 태도는 물론 수능이 교육부가 누리는 권력의 원천이라는 사실에서 나왔다. 본질적으로, 지금 대학 교육 제도는 우리 사회의 구성 원리인 시장경제에 어긋난다. 대학마다 자신의 처지에 맞는 교육을 고객인 학생들에게 제공하면서 발전할 길이 없다. 당연히, 대학도 대학생도 큰 손실을 보고 사회는 활력을 잃는다.

입학시험을 대학에 돌려주고 학과들의 설치와 폐지를 대학에 맡기고 등록금을 시장 가격으로 받도록 하는 대학 교육의 자유화는 현 정권에서 기대하기 어렵다. 정보기술 발전에 바탕을 두고 컴퓨터 과학과 인공지능 학습에 많은 사람이 편리하게 참여할 수 있는 미세학위(Nanodegree)와 같은 혁신은 요원하다.

그래도 학생들의 수학 교육을 방해하는 개편안만은 우리의 앞날을 어둡게 하는 재앙이 될 터이니, 결단코 막아야 한다. “우리는 알아야 한다.”

▶ 클래식과 미술의 모든 것 '아르떼'에서 확인하세요
▶ 한경 창간 60주년 구독신청 사은품 보기