이성이 놓친 우주 삼라만상의 '빈틈'..발견하는 건 인간의 '감각'[전문가의 세계 - 박주용의 퓨처라마]

(32) 이성과 감각

프리즘을 통과한 빛이 다양한 색으로 갈라지는 모습. 위키피디아 제공

자신의 색 이론을 ‘확신’해버린 뉴턴…이성에 대한 숭배가 빚은 오류
‘자연과학’ 하면 정밀하게 맞아떨어지는 법칙·연구를 기대하지만
때론 괴테의 프리즘 실험처럼 감각 따라갈 때 새로운 결과 나오기도

자연과학자, 특히 필자와 같은 물리학자들은 우주를 바라보며 ‘끊임없이 작동하는 기계’를 상상하는 경향이 있다. 눈으로 볼 수 없는 아주 작은 입자들이 엄격한 규칙을 통해 시계의 톱니바퀴처럼 협동하고, 그것들이 모여 거대한 우주의 현재와 미래가 만들어지고 있다고 믿는 것이다. 이러한 관점에서 우주의 본질은 한 치의 오류도 허용되지 않는 정밀성에 있고, 과학이란 그 정밀한 규칙을 발견해나가는 것이라고 볼 수 있다. 뉴턴은 <프린키피아>라는 역작을 통해 그러한 기계적 우주관의 정수를 보여주었다.

물론 ‘바로 지금 우주의 상태를 알면 미래를 완벽하게 예측할 수 있다’는 뉴턴 시대의 기계적인 세계관에 대한 도전도 역사 속에서 끊임없이 이어졌다. 올해 노벨 물리학상을 받은 양자역학이 한 대표적인 예가 되겠는데, 양자역학은 뉴턴역학과는 달리 지금 우주의 상태는 우리가 완벽하게 알 수 없고, 따라서 우주의 미래 또한 완벽하게 예측할 수 없다고 가르치고 있다. 하나의 확실한 미래가 아니라 여러 가지 미래의 가능성이 각각의 확률을 갖고 존재한다는 이러한 양자역학의 함의를 아인슈타인은 “신은 주사위 놀이를 하지 않는다”며 받아들이기를 거부하였지만, 양자역학의 계속된 성공에 아인슈타인은 조금 더 절묘한 방법으로 자신의 기계적 세계관과 양자역학 사이의 타협점을 찾은 것으로 알려져 있다. 바로 “신은 주사위 놀이를 하긴 하지만, 그 주사위 놀이의 규칙은 아주 명확하다”, 즉 아인슈타인은 자신의 사고방식에 약간의 수정을 가하는 타협을 통해 자신의 신념과 부인하기 어려운 과학의 발전이 함께하는 ‘마음의 평화’라는 것을 얻고 행복을 조금이나마 되찾았을 것으로 생각된다.

과학자, 마음의 평화, 행복. ‘이성 우선주의’의 최첨단을 달리며, 비합리적인 세상에서 ‘이성의 지킴이(keeper of reason)’ 역할을 한다고 자부하는 과학자들-“제발 과학자의 말 좀 들어라!”라며 산 위에서 외치는 과학자들이 적지 않다- 안에도 ‘이성과 감각의 대결’이라는 게 있을까?

물리학자의 명성은 그 이름이나 업적이 얼마나 낮은 학년의 교과서에 등장하느냐로 알 수 있다는 우스갯소리가 있다. 그래서 중학교 교과서에 등장하는 ‘운동 3법칙’의 뉴턴보다 더 유명한 물리학자는 없다고 하기도 한다. 그런데 물리학 역사에서 뉴턴은 <옵틱스>, 영어로 ‘OPTICKS’라는 고색(古色)이 풍기는 철자로 쓰인 책에 담긴 광학, 즉 ‘빛의 연구’로 유명하기도 하다. 말로만 쉽지, 일상생활에서는 구현하기가 거의 불가능한 ‘마찰이 없는 표면’이 있어야 제대로 확인할 수 있는 운동 3법칙과는 달리, 삼각형 단면을 가진 프리즘 하나만 있으면 해볼 수 있는 실험으로 가득한 <옵틱스>를 그래서 더 대중적인 책이라고 평가하기도 한다.

그림 1. 뉴턴의 무지개 실험.

뉴턴의 <옵틱스>에서 제일 유명한 실험이 바로 우리가 잘 알고 있는 뉴턴의 무지개 실험이다(그림 1). 뉴턴은 밀폐되어 어두운 상자 한쪽 벽에 낸 동그란 구멍을 통해 들어온 빛이 프리즘을 통과한 다음 반대편 벽에 만드는 무늬를 관찰했는데, 들어올 때는 하얗던 빛이 일곱 가지 색으로 나눠지는 것을 관찰하였고(우리가 ‘빨주노초파남보’라고 하는 그것이고, 영어로는 Red-Orange-Yellow-Green-Blue-Indigo-Violet) 그것들을 빛을 이루는 기본 중의 기본 색이라고 불렀다.

뉴턴이 이 발견을 하던 당시 물리학계는 ‘빛’이라는 것이 물결과 같은 ‘파장(파도)’인가, 아니면 먼지와 같은 ‘알갱이’인가라는 논쟁이 한창이었다. 뉴턴에게 일곱 가지 기본 색들은 자신의 신념이던 알갱이론을 뒷받침하는 증거로 받아들여졌다. 즉 뉴턴은 이 일곱 가지 색은 서로 다른 굴절률을 가진 근원적인 ‘빛 알갱이’ 일곱 종류의 존재를 보여주는 것이라고 믿었고, 이로써 자신이 빛이라는 자연물체의 본질을 이해해냈다고 믿게 되었다. 이렇게 ‘빛은 알갱이’라는 지론에 척척 들어맞는 듯한 실험을 하고 나자 천하의 뉴턴도 “이제 다 됐다”는 마음의 평화를 얻게 된 것일까? 뉴턴은 흰빛을 이처럼 여러 가지 색으로 나눌 수 있다는 큰 발견을 하고 나서도, 색 자체에 대한 더 깊은 연구를 하지 않은 채 <옵틱스>를 마무리하게 된다. 물론 뉴턴의 색상고리(Newton’s color wheel)라는 개념을 내세우면서 각각의 색을 적당히 섞으면 다른 색을 만들 수 있다는 주장까지는 하였으나 어떤 색을 어떻게 섞어야 하는지에 대해서는 설명을 제대로 하지 않았고, 색과 같은 “자연을 이해하는 데 있어서 별로 상관없는 사소한 호기심의 대상”에 더 이상 시간을 쓰진 않겠다고 주장하고 마무리해버린다. 볼 수도 없는 물체들의 원리를 집요하게 파고들어 밝혀냈던 뉴턴답지 않은 냉담함에 살짝 놀라지 않을 수 없다. “내 이론이 또 한 번 맞았다”는 자신감이 주는 마음의 평화가 그의 눈을 가린 것인지, 아니면 마음의 평화를 깨고 싶지 않아 일부러 눈을 감아버린 것인지는 모르겠지만.

이러한 문제점에도 불구하고 뉴턴의 이름값 때문에 지금도 물리학 교과서에서는 고전 광학을 이야기할 때 뉴턴의 <옵틱스>만을 다루는 일이 잦다. 하지만 물리학 바깥 영역에서는 실제로 색을 이해하거나 사용하는 데 있어 <옵틱스>보다 더 중요한 기여를 한 것으로 평가받는 <색의 이론>이라는 책이 있다. 흥미롭게도 이 책의 저자는 바로 <파우스트> <젊은 베르테르의 슬픔>의 작가이자 철학자로 유명한 요한 볼프강 괴테(1749~1832). 대문호이지만 과학자는 아닌 괴테가 뉴턴과 비견될 정도의 업적을 남겼다? 도대체 어떤 이야기일까?

괴테는 한때 뉴턴의 <옵틱스>에 매료되었고, 뉴턴을 따라 프리즘과 빛을 갖고 여러 실험을 직접 수행해보았는데, 특히나 서로 다른 색으로 칠해진 표면이 만나는 지점을 프리즘을 통해 보았을 때 어떠한 모양이 되는지에 크게 관심을 가졌다.

여기에서 괴테는 뉴턴이 일곱 가지 색깔을 찾았다고 주장한 색 분리 실험의 큰 문제점을 깨닫게 된다. 즉 언제나 일곱 개의 색이 나타난다는 뉴턴의 주장과는 달리, 프리즘으로부터 상이 맺히는 반대쪽 벽까지의 거리에 따라 뉴턴의 띠와는 사뭇 다른 상들이 맺힐 수 있다는 것을 알게 된 것이다.

뉴턴 같은 꼼꼼한 과학자가 왜 저런 것을 발견하지 못했거나 빠트렸는지 이제는 알 수 없지만 자신의 이론이 증명되었다는 과학자의 허영심 같은 것을 갖지 않은 괴테의 순박함이 더 빛을 발하는 순간이 지금부터 시작된다. 즉 괴테는 순수한 호기심에서 프리즘에 들어오는 빛의 모양과, 프리즘과 반대 벽까지의 거리를 바꿔가면서 어떤 상이 맺히는지 끈질기게 실험하며 기록하게 되는데, 역시 뉴턴의 무지개는 아주 특별한 조건에서만 성립하는 것으로서 뉴턴의 주장처럼 ‘하얀빛은 일곱 가지 색으로 이루어져 있다’고 말할 수는 없다는 것을 증명해낸다.

괴테는 그림 2-1(위쪽)을 프리즘을 통해서 보면 2-2와 같은 띄무늬가 보이고, 여기에서는 뉴턴의 무지개에는 없는 심홍색(마젠타)이 존재한다는 것을 발견했다. 위키피디아 제공

괴테는 또 여기에서 멈추지 않고 여러 발자국 더 나아가 어두운 배경 속에 들어오는 한 줄기 밝은 빛뿐만 아니라, 어둡고 밝은 무늬가 만나는 경계선을 프리즘을 통해 관찰하는데, 이 경계선이 프리즘을 통과했을 때 아주 흥미롭고 다양한 빛의 띠가 생겨난다는 것을 깨닫게 되고, 이 가운데서는 뉴턴의 무지개에서는 볼 수 없는 색깔도 선명하게 존재한다는 것을 알게 된다(그림 2). 그 가운데 대표적인 것이 이른바 ‘심홍색’으로서, 컬러프린터의 잉크나 토너를 교체해봤던 현대인에게는 ‘M’으로 익숙한 Magenta이다. 보통 우리가 편의를 위해 빨강이라고 부르긴 하지만(“빨강 토너 주세요”) 뉴턴의 무지개 색 가운데 하나인 ‘R’(Red)과는 엄연히 다른 색으로서, 뉴턴의 일곱 가지 색깔 가운데 하나가 아니기 때문에 뉴턴에게는 ‘근본적인’ 중요한 색이 아니었지만 괴테의 실험을 통해 다른 색들과 동등한 지위를 갖고 존재하는 색으로서, 오히려 뉴턴 이론의 맹점을 보여주는 핵심적인 증거가 되었다. 또한 이 심홍색을 포함하는 괴테의 색상 고리는 프리즘 기반 색상 합성, 유채색의 그림 생성 등에 아직도 핵심적으로 사용되고 있다.

그림 3. 괴테의 감각 중심 색이론에 영감을 받은 조지프 터너의 ‘빛과 색-괴테의 이론’. 런던 테이트 브리튼 미술관

열린 마음으로 수행한 이러한 괴테의 색 연구는 영국 런던의 테이트 브리튼(Tate Britain) 갤러리에 걸려 있는 조지프 터너(1775~1851)의 ‘빛과 색-괴테의 이론(Light and Colour-Goethe’s Theory)’이라는 그림의 영감이 되기도 했다(그림 3). 이 그림은 빛과 어둠의 경계선에서 만들어지는 무한히 다양하고 변화무쌍한 색상을 탐구하고 추구하던 괴테의 철학을 표현한 명작으로서 지금도 사랑받고 있다.

그와는 달리 ‘자신의 이론에 맞추어’ 불변의 기본 색상이 있다고 선언하기 위하여 색을 예술로서, 감각을 자극하는 자연의 신비로서 이해하고 또 창조해내고 싶어 하던 다른 사람들의 욕망을 “중요하지 않은 사소한 호기심” 정도로 치부하고, 결과적으로 잘못된 근거에서 만들었던 뉴턴의 색상 고리는 그 어느 누구에게도 영감을 주지 못하는 쓸모없는 물건으로서 지금은 거의 사장되어 잊히고 말았다.

‘엄밀한’ 과학의 방법론적 입장에서 볼 때 사실 뉴턴의 연구는 흠잡을 데 없는 정통적인 방법으로 볼 수 있는 반면, 괴테는 그렇지 않았으므로 제대로 된 과학을 수행한 것이 아니라고 주장하는 사람들이 꽤나 존재한다. 20세기의 대표적인 과학철학자 칼 포퍼(1902~1994)에 따르면 ‘올바른 과학적 실험’이란 실험가가 갖고 있는 가설(‘과학적 이론’의 단초라고 볼 수 있는)을 지지하거나 배제시킬 수 있을 때만 가치가 있는 것인데, 뉴턴의 실험은 뉴턴의 알갱이론을 지지하는 결과를 생성하였으니 ‘올바른 실험’이었고 괴테의 실험은 그렇지 않다는 뜻이다. 그렇다면, 만약 괴테 실험의 목적이 ‘뉴턴이 틀렸다는 걸 증명하는 것’이었다면 차라리 과학적으로 더 가치가 있지 않았을까? 포퍼의 논리에 따르면 형식적으로는 그렇다고 볼 수 있겠지만, 실제로 그러했다면 우리에게 남은 건 터너의 아름답고 심오한 그림이나 새로운 색상을 만들어내는 실용적인 방법론이 아니라 “누가 더 옳았는가”라는 뉴턴과 괴테의 논쟁의 기록뿐이었을 것이다. 여러분은 정말로 이것이 더 과학적으로 가치 있는 일이었을 것이라고 생각하는가?

엄밀한 사고와 이성만을 좇아야 한다는 과학의 도그마에 구애받지 않고 자신의 감각의 만족을 위해 열린 마음으로 자연의 모습들을 찾고 따라가다보면 더욱 심오하고 유용한 발견을 할 수 있다고 하는 것을 보여준 괴테의 이야기는, 과학에 있어서도 감각 또한 이성만큼 중요한 역할을 할 수 있다는 것을 보여준다.

그런데 아마 괴테의 과학을 과학이 아니라고 하는 이성주의적 기계론자들도 그 사실을 마음 깊숙이는 알고 있지 않을까 싶다. 도그마에 과도하게 기대어 그릇된 길을 가면서도 자신의 ‘마음의 평화’를 위해 그 길에서 벗어나지 못하고 있는 것일 수도 있으니까. 자기는 과학자니까 옳다고 주장하는 사람들마저도.

▶박주용 교수



서울대학교 물리학과를 졸업하고 미국 미시간대학교(앤아버)에서 통계물리학으로 박사 학위를 받았다. 네트워크와 복잡계 물리학에 기반한 융합 데이터 과학 전문가로서 노트르담대학교, 하버드 의과대학 데이너-파버 암연구소 연구원을 거쳐 현재 카이스트 문화기술대학원에서 문화예술과 과학의 창의성을 연구하고 있으며, AI 이후 시대를 준비하는 카이스트 포스트AI 연구소 소장을 맡고 있다. 학창 시절 미식축구에 빠져 대학팀 랭킹 알고리즘을 고안한 뒤 지금도 빠져 있으며, 시간이 생긴다면 자전거와 모터사이클을 타고 싶어 한다.

박주용 교수