[사이언스N사피엔스] 불확정성 원리를 둘러싼 논란
양자역학은 잘 몰라도 '불확정성 원리'는 한번 쯤은 들어봤을 것이다. 독일의 이론 물리학자 베르너 하이젠베르크가 1927년에 주창한 이 원리는 양자역학이 지배하는 미시세계가 고전적인 거시세계와 근본적으로 어떻게 다른지를 극명하게 보여주는 대표적인 사례라 할 수 있다. 하이젠베르크가 처음 불확정성 원리를 구상했을 때에는 미시세계에서 관측행위와 관측대상 사이의 피할 수 없는 관계에 집중했다. 하이젠베르크는 ‘하이젠베르크 현미경’이라 불리는 사고실험을 통해 어떤 입자의 위치와 운동량을 동시에 정확하게 측정할 수 없다고 확신했다. 하이젠베르크의 논리는 이렇다.
우리가 무엇을 관측한다는 것은 그 대상에서 튕겨 나오는 빛, 즉 광자를 감지하는 것이다. 만약 전자의 위치를 관측하려고 한다면 전자에 빛을 쪼여 튕겨 나오는 광자를 포착해 정보를 얻으면 된다. 이때 전자의 위치에 대한 해상도를 높이려면 빛의 파장이 짧아야 한다. 여기서 문제가 생긴다. 파장이 짧은 빛은 에너지가 크기 때문에 관측 대상인 전자의 운동에 큰 영향을 끼친다. 그 결과 전자의 운동량에 큰 변화가 생긴다. 운동량은 고전적으로 물체의 질량과 속도의 곱으로 주어진다. 전자의 위치의 정확도를 높이려는 시도는 전자의 운동량을 크게 변화시킨다. 달리 말해 전자의 위치의 불확정성이 작아질수록 운동량의 불확정성이 커진다. 이 두 불확정성은 서로 반비례하는 관계에 있어서 두 불확정성을 곱하면 항상 플랑크 상수 정도의 값 이하로 작아질 수 없다.
만약 운동량의 불확정성을 줄이기 위해 전자에 쏘는 빛의 파장을 길게 하면 어떻게 될까? 이때는 빛의 에너지가 작으므로 전자의 운동량에 큰 변화를 주지 않겠지만 대신 전자의 위치에 대한 불확정성이 커진다. 그 결과 위치의 불확정성과 운동량의 불확정성의 곱은 여전히 어떤 값 이하로 내려갈 수가 없다. 위치와 운동량의 이런 독특한 관계는 시간과 에너지 사이에도 적용된다. 즉, 시간의 불확정성과 에너지의 불확정성의 곱은 특정값 이하로 작아질 수 없다. 하나를 무한히 정확하게 측정하려고 하면 다른 물리량의 불확정성이 무한으로 커진다.
사실 모든 물리량이 불확정성의 관계에 있는 것은 아니다. 위치와 운동량이라고 해도 두 방향이 다르면 불확정성의 원리가 성립하지 않는다. 예를 들어 x방향의 위치와 y방향의 운동량 사이에는 불확정성의 원리가 작동하지 않아서 두 변수의 불확정성을 동시에 임의로 작게 줄일 수 있다.
보어는 하이젠베르크의 논문을 처음 접했을 때부터 다소 탐탁지 않게 여겼다. 이 무렵 보어는 미시세계에서 입자적 성질과 파동적 성질이 혼재한 모습에 큰 혼란을 느꼈고 마침내 '상보성'이라는 개념으로 이 딜레마를 해결하고 있었다. 상보성이란 상호배타적인 성질이다. 미시세계의 전자는 입자의 성질을 보이기도 하고 파동의 성질을 보이기도 하지만 두 가지 성질이 동시에 드러나지는 않는다. 빛, 즉 광자도 마찬가지이다. 이처럼 상보성은 ‘그리고’가 아니라 ‘또는’의 성질이다. 불확정성의 원리도 상보성의 한 사례에 속한다. 위치와 운동량은 서로 짝을 이루며 상보적인 관계를 유지한다. 위치가 명확해지면 운동량이 모호해지고, 운동량이 명확해지면 위치가 모호해진다. 시간과 에너지도 마찬가지이다.
덴마크 물리학자 닐스 보어의 상보성 원리도 결과적으로 불확정성의 원리에 이르게 되지만 기본철학이나 결론에 이르는 과정이 미묘하게 달랐다. 보어는 하이젠베르크가 전자를 관찰하는 가상의 현미경을 이용한 사고실험에 문제가 있다고 생각했고, 하이젠베르크는 파동이나 입자라는 고전적인 개념에 기대어 미세세계의 새로운 원리인 불확정성 원리를 구축하는 것에 심한 거부감을 느꼈다. 하이젠베르크와 보어는 이 문제를 두고 심각하게 논쟁을 벌였으나 결국 적절한 선에서 합의에 이르기는 했다.
불확정성 원리는 실험기구나 기법의 한계가 아니다. 우리 우주의 근본적인 한계이다. 실험 기구와 기법이 아무리 발전하더라도 극복할 수 없는 장벽이다. 양자역학의 언어로 보다 정식화해서 말하자면, 교환가능하지 않은 두 연산자에 대해 그에 상응하는 불확정성 원리를 유도할 수 있다. 이는 고전역학의 정신에 정면으로 위배된다. 고전역학에서는 임의의 정밀도로 초기조건을 규정할 수 있고 이를 뉴턴 동역학에 때려 넣으면 임의의 미래를 임의의 정밀도로, ‘원리적으로는’ 예측할 수 있다. 불확정성 원리에 따르면 임의의 정밀도로 초기조건을 규정할 수 없을 수도 있다. 여기에다 파동함수를 확률론적으로 해석한 보른의 규칙까지 더하면 양자역학에서 진행되는 과정은 뉴턴역학의 결정론적 세계관과는 너무나 거리가 멀다.
양자역학의 파격적인 주장은 당연히 적잖은 반발을 불러일으켰다. 대표적인 인물이 바로 알베르트 아인슈타인이다. 20세기 물리학의 정초를 놓았다고 해도 과언이 아닐 아인슈타인은 그 자신이 상대성이론을 구축했고, 광전효과 등 양자역학의 발전에도 지대하게 공헌했으나 하이젠베르크와 보어에는 결코 찬성할 수 없었다.
보어와 아인슈타인이 크게 격돌한 것은 불확정성 원리가 발표된 1927년, 벨기에 브뤼셀에서였다. 그해 10월 브뤼셀에서는 제5회 솔베이 학회가 개최되었다. 솔베이학회는 벨기에의 사업가인 어니스트 솔베이가 후원한 학회로 1911년 첫 학회가 개최되었다. 이 학회는 현대물리학이 발전하는 데에 지대한 공헌을 한 것으로 평가받는다. 특히 1927년 열린 제5회 솔베이 학회는 아인슈타인과 보어가 양자역학을 두고 격돌한 것으로 유명하며 20세기 역사상 가장 중요한 학회 중 하나로 평가받는다.
이 학회에서 보어는 상보성에 관한 강연을 했다. 아인슈타인은 양자이론의 기본원리들에 회의적이었다. 아인슈타인이 공격하면 보어가 방어하는 식으로 토론이 진행되었다. 토론은 시간과 장소를 가리지 않고 숙소의 식당으로까지 이어졌다. 이때 아인슈타인은 불확정성 원리를 공격하기 위해 이중슬릿 실험을 사고실험으로 재구성해 보어와 그 일파에게 숙제를 던졌다.
이중슬릿, 또는 두 틈 실험은 고전역학에서도 빛의 파동성을 증명한 유명한 실험으로 양자역학에서도 양자세계의 오묘함을 이해하는 데에도 큰 도움이 된다. 빛과 같은 파동이 두 틈을 지나 멀리 있는 스크린에 도달하면 양쪽 틈에서 나온 빛이 간섭을 일으켜 스크린에 밝고 어두운 무늬가 반복되는 독특한 간섭무늬를 만든다. 입자는 결코 이처럼 밝고 어두운 곳이 반복되는 무늬를 만들지 않는다. 만약 전자가 프랑스 물리학자 루이 드브로이의 주장처럼 물질파를 가진다면, 그래서 보어의 주장처럼 전자가 상보성의 원리에 따라 입자의 성질을 드러내지 않고 파동의 성질만 드러낸다면 전자도 능히 간섭무늬를 만들 수 있다. 실제로 제5회 학회가 열렸던 1927년 클린턴 데이비슨과 레스터 거머는 우연히도 전자의 간섭무늬를 실험적으로 확인했다.
아인슈타인의 논리를 간단히 재구성하면 이렇다. 이중슬릿 앞에 특수 장치가 설치된 단일슬릿을 하나 더 설치한다. 전자는 단일슬릿을 지나 이중슬릿을 통과하고 마지막으로 스크린에 도달한다. 영리한 아인슈타인은 전자가 단일슬릿을 통과할 때 슬릿의 움직임을 분석해 전자가 슬릿에 전달한 운동량을 측정할 수 있도록 했다. 또한 전자가 야기한 슬릿의 움직임을 잘 분석하면 이 전자가 두 번째 이중슬릿의 어느 틈으로 지나갔는지도 알 수 있다. 이렇게 단일슬릿과 이중슬릿을 통과한 전자들이 마지막 스크린에 여럿 모이면 물질파로서의 전자들이 간섭무늬를 만들 것이다. 한편 전자가 이중슬릿의 두 틈 중에서 어느 틈을 통과했는지를 명확히 알 수 있기 때문에 전자의 명확한 궤적도 알 수 있다. 이렇게 되면 전자는 명확한 궤적을 가진 입자적 성질과 간섭무늬를 만드는 파동적 성질을 동시에 갖게 되므로 보어의 상보성의 원리를 깨뜨리게 된다. 뿐만 아니라 단일슬릿을 통해 전자의 운동량과 위치도 임의의 정밀도로 측정할 수 있어 하이젠베르크의 불확정성 원리도 깨뜨리게 된다.
보어는 첫 번째 단일슬릿에서 단일슬릿의 움직임으로부터 운동량을 정확하게 측정하는 것이 불가능하다고 주장했다. 슬릿의 움직임을 정확하게 측정하려면 슬릿의 위치를 관측해야 하고 이를 위해 빛을 쪼이면 광자의 운동량이 전해져 슬릿의 운동량에 영향을 주게 된다. 반대로 슬릿의 운동량을 정확하게 측정하려고 파장이 긴 빛을 사용하면 슬릿의 위치에 대한 불확정성이 증가한다. 따라서 어떻게든 정확한 운동량을 관측하기 어렵다. 또한 슬릿의 위치에 대한 불확정성이 커질수록 전자가 두 번째 이중슬릿의 어느 틈으로 지나갔는지를 판별하는 데에 어려움을 겪는다. 이 경우 운동량의 불확정성은 충분히 작아질 수 있어서 그 결과 최종 스크린에서 뚜렷한 간섭무늬를 구분할 수 있을 정도가 된다. 이는 전자의 파동성질이 살아나고 입자적 성질이 사라짐을 뜻한다.
반대로 전자의 위치에 대한 불확정성이 줄어들면 전자가 어느 틈으로 지나갔는지 그 경로를 명확하게 확인할 수 있다. 그러나 이 경우에는 운동량의 불확정성이 증가해 최종 스크린에서 간섭무늬를 확인할 수 없게 된다. 따라서 파동적 성질이 사라지고 입자적 성질만 남는다. 보어는 자신의 날카로운 분석으로 불확정성 원리와 상보성 원리를 모두 살릴 수 있었다. 아인슈타인은 신은 주사위 놀음 따위는 하지 않는다는 유명한 말을 내뱉었지만 이 학회에서는 보어가 판정승을 거두었다.
1930년에 있었던 제6회 솔베이 학회에서는 보어와 아인슈타인 사이의 2차전이 전개됐다. 이번에는 아인슈타인이 시간-에너지의 불확정성 원리를 공격하는 사고실험을 들고 나왔다. 이 사고실험에서는 광자가 가득 찬 상자에서 광자가 하나씩 빠져나가게 해 그 과정에서 광자가 탈출하는 시간과 광자의 에너지를 동시에 임의의 정밀도로 측정할 수 있다고 주장했다. 이것이 사실이라면 하이젠베르크의 불확정성 원리가 깨지게 된다.
2차전은 1차전보다 더 어려웠으나 보어는 다시 방어전에 성공하게 된다. 특히 이 과정에서 아인슈타인의 트레이드마크인 일반상대성이론의 성질을 결정적으로 활용했다. 일반상대성이론에서는 중력이 강할수록 시간이 빨라진다. 그러니까 광자가 가득한 상자의 수직위치가 조금씩 달라지면 지구에 의한 중력이 달라지니까 그 속의 시간이 달라진다. 여기서 아인슈타인이 생각지도 못한 시간에서의 불확정성이 개입하게 된다.
보어의 연전연승은 곧 양자역학의 승리이기도 했다. 물론 아인슈타인이나 다른 반대편의 과학자들은 여전히 양자역학의 모순을 찾는 일을 포기하지 않았다. 어쨌든 이런 일련의 과정을 겪으면서 양자역학의 모습이 틀을 갖춰나갔고 그 정형화된 모습을 어떻게 이해하고 받아들일 것인지에 대한 여러 ‘해석’들이 출현하기 시작했다. 가장 대표적인 해석이 바로 ‘코펜하겐 해석’이다.
※참고자료
짐 배것, 《퀀텀스토리》(박병철 옮김), 반니.
※필자소개
이종필 입자이론 물리학자. 건국대 상허교양대학에서 교양과학을 가르치고 있다. 《신의 입자를 찾아서》,《대통령을 위한 과학에세이》, 《물리학 클래식》, 《이종필 교수의 인터스텔라》,《아주 특별한 상대성이론 강의》, 《사이언스 브런치》,《빛의 속도로 이해하는 상대성이론》을 썼고 《최종이론의 꿈》, 《블랙홀 전쟁》, 《물리의 정석》 을 옮겼다. 한국일보에 《이종필의 제5원소》를 연재하고 있다.
[이종필 건국대 상허교양대 교수 jongphil7@gmail.com]
Copyright © 동아사이언스. 무단전재 및 재배포 금지.