수학을 ‘억수로’ 사랑한 판화가 에스허르

<span style="color: rgb(0, 184, 177);">연재 ㅣ 기적같이 수학 잘하는 법</span>

챗지피티로 그린 나선형계단

최우성 | 다산고 교장
·‘수포자도 수학 1등급 받을 수 있어’ 저자

‘극한 직업’이라는 TV 프로그램이 있다. 눈보라 속에서 전봇대에 오르거나, 하수구 깊은 곳까지 들어가 일하는 사람들을 보여주는데, 위험하고 힘들지만 누군가 꼭 해야 하는 일들이다. 여기서 말하는 ‘극한'은 ‘끝을 넘는 한계 상황'을 뜻한다. 놀랍게도 이 ‘극한’이라는 용어는 수학에서도 그대로 쓰인다.

수학에서 ‘극한’(limit)이란 어떤 수가 점점 어떤 값에 가까워지는 것을 말한다. 예를 들어 어떤 수가 0.1, 0.01, 0.001… 식으로 줄어든다면, 이 수는 ‘0에 한없이 가까워지는 극한’이라고 할 수 있다. 이 개념은 고등학교 수학에서 배우지만, 도로 설계, 온도 예측, 로켓 발사 등 실생활에서도 많이 쓰인다. 과학, 공학, 경제학에서도 빠지지 않고 등장한다.

빙글빙글 돌아가는 나선형 계단을 생각해보자. 위에서 내려다보면 점점 폭이 좁아지면서 마치 ‘끝’으로 향하는 것처럼 보인다. 이것이 수학에서 말하는 ‘극한’이다. 영화 ‘인셉션’에서는 위로 올라가도 결국 다시 제자리로 돌아오게 되는 무한 계단으로 표현된다. 현실에서는 존재할 수 없지만, 영화 속에서는 이 계단이 진짜처럼 보인다. 이 놀라운 착시 효과를 그림으로 표현한 사람이 있는데, 바로 수학을 ‘억수로’ 사랑한 네덜란드의 판화가 에스허르(Escher)다.

에스허르는 2차원 종이에 3차원의 공간을 마법처럼 그려낸 예술가다. 그는 눈으로 보면 당연히 이상한데, 그림 속에서는 너무 자연스럽게 느껴지는 ‘불가능한 세계’를 만들어냈다. 대표작 중 하나인 ‘끝없는 계단’(Relativity)을 보면, 계단을 계속 올라가는데도 제자리로 돌아오고, 다른 방향에서도 또 사람이 올라가고 있다. 어떻게 이런 그림이 가능했을까? 바로 ‘극한’을 활용했기 때문이다.

에스허르 작품 ‘천사와 악마\'. 에스허르 미술관 누리집 화면 갈무리

에스허르의 또 다른 대표작인 ‘악마와 천사’에도 수학적 개념이 녹아 있다. 이 그림을 가만히 들여다보면, 검은색 악마들이 쭉 이어져 있고, 하얀색 천사들도 빈틈없이 이어져 있다. 더 신기한 건, 악마의 윤곽이 천사의 윤곽이 되고, 천사의 모양이 악마의 모양이 된다는 사실이다. 이런 기법을 테셀레이션(tessellation)이라고 부른다. 욕실 바닥 타일처럼 한 모양을 반복해 빈틈없이 이어붙이는 방식이다. 초등 수학 시간에 배운 평행사변형이나 정육각형 타일도 사실 테셀레이션의 한 사례다. 에스허르는 이 테셀레이션을 예술로 끌어올린 천재였다. 같은 도형을 돌리고, 뒤집고, 확대하면서도 틈이 하나도 생기지 않게 구성했는데, 수학적인 계산 없이는 절대 불가능한 그림들이다.

에르허스의 명작 ‘그리는 손’(Drawing Hands)도 흥미롭다. 두 손이 서로를 동시에 그리고 있는데, 보다 보면 머리가 어질어질해질 정도로 복잡한 착시가 생긴다. 이 작품 역시 수학적 사고가 없었다면 탄생할 수 없었다. 반복, 대칭, 순환 구조 모두 수학적 패턴에서 나오는 개념이기 때문이다. 에스허르는 마치 수학 퍼즐을 푸는 것처럼 그림을 그렸고, 그 안에 계산된 각도, 정해진 비율, 반복되는 규칙을 적용했다.

수학과 예술은 동떨어진 것 같지만, 의외로 절친한 친구다. 아름다운 조각상이나 건축물에는 비례와 대칭, 곡선의 조화 같은 수학적 개념이 들어 있다. 그림이나 무늬에도 수열이나 기하학이 자주 숨어 있다. 미술가들도 “기하 도형은 아름다운 세계로 들어가는 입구”라고 말한다.

점, 선, 면, 각, 대칭 등 우리가 수학 시간에 배우는 이 모든 것이 바로 예술의 재료라는 뜻이다. 에스허르 역시 수학자가 아니었지만, 수학을 사랑한 예술가였다. 그는 복잡한 수식을 몰라도 수학적인 감각을 통해 놀라운 세계를 그려냈고, 많은 수학자들이 그의 그림을 보며 새로운 아이디어를 얻기도 했다.

수학은 단순히 계산하고 문제 푸는 도구가 아니다. 세상을 이해하고, 미래를 예측하고, 상상 속 세계를 현실처럼 그려내는 상상력의 날개이기도 하다. 그러니 다음에 수학 문제를 보게 된다면, 이렇게 한번 생각해보길 바란다. “이건 언젠가 내가 멋진 건물을 설계하거나, 특별한 무늬를 디자인하거나, 그림 속 무한한 세계를 표현할 때 쓰일지도 몰라!”