실험으로 증명된 양자역학…아인슈타인의 ‘위대한 직관’에 패배 안기다[전문가의 세계 - 이종필의 과학자의 발상법]

(35) 2022 노벨물리학상 해설

일러스트 | 김상민 기자 yellow@kyunghyang.com

보어의 양자역학에 맞선 아인슈타인, 고전역학의 ‘국소성’에 기반한 ‘EPR 논문’으로 ‘불확정성 원리’의 모순점을 주장

모처럼 만난 알베르트 아인슈타인과 닐스 보어가 회포를 풀기 위해 보어의 단골 고깃집인 ‘양자(quantum)식당’으로 향했다. 음식을 주문할 때 아인슈타인은 보어에게 한 가지 재미있는 제안을 했다. 식당 입구에 고기메뉴 상자와 식사메뉴 상자를 하나씩 둔다. 고기메뉴 상자 속에는 ‘삼겹살’과 ‘갈비’를 적은 쪽지가 접힌 채로 하나씩 놓여 있고 식사메뉴 상자 속에는 ‘누룽지’와 ‘냉면’이 적힌 쪽지가 역시 접힌 채로 하나씩 놓여 있다. 아인슈타인과 보어는 고기메뉴 상자에서 쪽지를 하나씩 뽑고 또한 식사메뉴 상자에서 쪽지를 하나씩 뽑아 펴 보지 않은 채로 자리를 잡고 앉는다. 이제 메뉴 쪽지를 펴 볼 텐데, 양자식당에서는 고기메뉴 쪽지와 식사메뉴 쪽지가 동시에 펼쳐져 있으면 안 된다는 규칙이 있다.

양자식당의 메뉴 쪽지들은 신묘한 능력이 있어 쪽지를 펴서 직접 확인해 보기 전에는 두 메뉴, 예컨대 삼겹살과 갈비가 서로 섞여 있는 이른바 ‘중첩’ 상태에 놓여 있다. 중첩이란 마치 두 사람의 목소리가 합쳐져 화음을 내는 것과 비슷하다. 만약 누군가 쪽지를 펴 보면 그제야 둘 중 하나의 메뉴가 정해진다. 삼겹살이 나올지 갈비가 나올지는 오직 확률로만 정해진다. 여기서는 그 확률이 각각 50%씩이라고 하자. 이는 고전적인 물리학의 규칙과 다르다. 뉴턴역학에서는 누군가 상자에서 쪽지를 선택하는 바로 그 순간에 모든 것이 결정된다.

고기메뉴와 식사메뉴 쪽지를 동시에 펴 볼 수 없다는 규칙도 생뚱맞다. 이렇게 되면 고기메뉴와 식사메뉴를 동시에 정확하게 정할 수 없다. 고기메뉴를 먼저 선택하면 그 영향으로 고기메뉴와 어울리는 식사메뉴를 생각할 수밖에 없어 정말로 식사만으로 무엇을 먹고 싶은지 정할 수 없기 때문이라는 것이 양자식당의 논리이다. 따라서 고기메뉴가 정해지면 식사메뉴는 누룽지와 냉면의 중첩상태로 남아 있을 수밖에 없다. 반대의 경우도 마찬가지이다. 양자식당에서는 이 규칙을 ‘불확정성의 원리’라 불렀다.

불확정성의 원리가 작동하면 고기메뉴를 펴 봤을 때 펴 보지 않은 식사메뉴는 중첩상태에 놓이게 된다. 이때 고기메뉴를 다시 접어놓고 식사메뉴를 펴 보면, 식사메뉴가 하나로 결정되고 고기메뉴는 다시 중첩상태가 된다. 고기메뉴를 먼저 펴 봤다 하더라도 그걸 접어놓고 식사메뉴를 펴서 확인하는 순간 고기메뉴가 무엇인지 알 수 없는 상태가 된다는 것이다.

아인슈타인은 오랜 세월 보어에 맞서 고기메뉴와 식사메뉴의 불확정성을 깨뜨릴 수 있는 다양한 사고실험을 제안했지만 번번이 실패했다. 이번만은 달랐다. 자신의 동료인 포돌스키, 로젠과 함께 신무기를 장착했다. 세 명의 이름 첫 글자를 따서 이 신무기의 이름은 EPR이라 부른다. 독특한 메뉴 선택 방식이 그 출발점이다. 둘이서 종이쪽지를 하나씩 나눠 갖기 때문에 한쪽의 결과가 다른 쪽과 결부될 수밖에 없다. 이런 상태를 ‘얽힘(entanglement)’이라 한다. 이 효과를 극대화하기 위해 아인슈타인과 보어가 각자 자신의 쪽지를 갖고 아주 멀리 헤어지는 사고실험을 수행한다. 거리가 멀수록 좋다. 아인슈타인 자신은 지구에 남아 있고 꼴도 보기 싫은 보어를 아주 멀리, 지구에서 250만광년 떨어져 있는 안드로메다로 보낸다고 하자. 아마 보어도 좋아할 것이다.

아인슈타인의 논리는 이렇다. 아인슈타인이 고기메뉴를 펴 보면 그 결과로부터 안드로메다에 있는 보어의 고기메뉴를 알 수 있다. 아인슈타인이 삼겹살이면 보어는 갈비이고, 아인슈타인이 갈비이면 보어는 삼겹살이다. 양자식당의 규칙이 맞다면 이들의 얽힌 상태는 쪽지를 펴 보는 순간 결정된다.

이제 아인슈타인이 고기메뉴를 다시 접어놓고 식사메뉴를 편다. 그 결과로부터 역시 아인슈타인은 보어의 식사메뉴가 무엇인지 알 수 있다. 아인슈타인이 누룽지이면 보어는 냉면이고, 아인슈타인이 냉면이면 보어가 누룽지이다.

여기서부터 중요하다. 만약 양자식당의 규칙이 옳다면, 지구에 남아 있는 아인슈타인이 식사메뉴를 펴 보는 행위가 접혀 있는 고기메뉴의 상태에 영향을 줘서 고기메뉴를 다시 중첩상태로 바꾼다. 그 결과 아인슈타인은 고기메뉴와 식사메뉴를 동시에 정할 수 없다. 불확정성의 원리가 성립하는 것이다. 안드로메다에 있는 보어는 어떻게 될까? 아인슈타인이 고기메뉴를 폈다가 다시 접어놓고 그다음 식사메뉴를 펴 봤다는 정보가 안드로메다까지 가려면 아무리 빨라야 250만년 걸린다. 왜냐하면 아인슈타인의 특수상대성이론에 따르면 이 우주에서는 빛보다 빠르게 물리적 신호를 전달할 수 없기 때문이다. 그런데 아인슈타인은 지구에 가만히 앉아서 보어의 고기메뉴와 식사메뉴를 모두 알아버렸다! 아인슈타인의 행위가 광속으로 보어에게 전달된다 하더라도 250만년 뒤의 일이다. 그 전까지는 아인슈타인이 보어에게 어떤 영향도 미치지 않고서 보어의 고기메뉴와 식사메뉴를 알아낸 것이다. 이는 양자식당의 고기메뉴와 식사메뉴에 대한 불확정성의 원리가 성립하지 않는다는 뜻이다!

그러니까, 아인슈타인은 양자식당의 규칙이 완전하다면 그 식당이 내세운 중요한 원칙인 ‘불확정성의 원리’가 무너짐을 보인 것이다. 이는 모순이다. 따라서 아인슈타인은 양자식당의 규칙, 즉 양자역학이 불완전하다고 주장했다. 아직 인류가 알지 못하는 어떤 숨은 변수가 있어서 그걸 알아내면 양자식당의 모든 모호함도 사라질 것이라 주장했다. 이것이 1935년 아인슈타인, 포돌스키, 로젠이 쓴 이른바 EPR 논문의 주요 결론이다.

클라우저·아스페·차일링거, 일련의 실험으로 양자역학의 ‘비국소적 성질’ 검증…올해 노벨 물리학상 나란히 수상

EPR을 구성하는 중요한 요소 중 하나는 국소성(locality)이다. 한 곳에서 일어난 현상이 다른 멀리 있는 곳에 즉각적인 효과를 미치지 못한다는 성질이다. 이는 거시적인 직관경험이나 광속 제한이 있는 특수상대성이론과 잘 부합한다. 고전역학에서는 아인슈타인이나 보어가 상자에서 쪽지를 선택하는 순간 모든 상태가 다 결정된다. 그런 의미에서 고전역학은 국소적이다. 양자역학은 다르다. 쪽지를 펴 보지 않는 이상 둘이 250만광년이나 떨어져 있어도 고기메뉴나 식사메뉴의 상태가 정해지지 않는다. 한쪽에서 쪽지를 펴 보는 바로 그 순간 다른 쪽의 상태도 같이 순식간에 결정된다. 그런 의미에서 양자역학은 비국소적이다. 아인슈타인이 그렇게도 싫어하는, 뭔가 “유령 같은 원격작용(spooky action at a distance)”이 있었다는 말이다. 그 결과는? EPR의 결론에서 봤듯이 양자역학의 파멸이다.

보어는 큰 충격을 받았다. 이전 아인슈타인의 그 어떤 공격보다 강력했다. 이후 보어는 EPR에 답변하는 형식의 논문을 썼지만 EPR을 완전히 극복했다는 평가를 받지는 못했다. 과연 누가 옳을까? 과학에서 궁극적인 심판자는 자연 그 자체이다. 검증 가능한 실험이 누구의 결과와 일치하는지로 승패가 갈린다. 문제는 EPR의 주장을 실험으로 재현하기가 쉽지 않다는 점이었다.

획기적인 돌파구가 열린 것은 EPR이 나온 지 거의 30년이 지난 1964년이었다. 영국의 물리학자 존 스튜어트 벨은 EPR을 검증할 수 있는 하나의 부등식(벨 부등식)을 제시했다. 이 부등식은 EPR처럼 국소적인 숨은 변수이론이 옳다면 그대로 성립한다. 반면 양자역학처럼 비국소적인 이론에서는 성립하지 않을 수도 있다. 이 두 가지 선택지는 양립할 수 없다. 한쪽이 옳다면 다른 쪽은 기각된다.

벨 부등식을 실험적으로 검증하기 위한 최초의 시도는 1972년에 있었다. 그 주인공은 미국의 존 클라우저였는데 다소 미흡한 점은 있었으나 최초의 시도로서 의미가 있었다. 1980년대 초반에는 프랑스의 알랭 아스페가 일련의 다양한 실험으로 대단히 의미 있는 결과를 얻었다. 1990년대에는 오스트리아의 안톤 차일링거가 더욱 개량된 실험으로 벨 부등식을 검증했다. 또한 양자얽힘을 이용한 양자전송 실험에도 성공했다.

이들 및 다른 모든 실험 결과들은 한결같이 벨 부등식이 깨지는 결과였다. 그러니까, EPR이 틀린 것이다. 국소적인 이론으로는 실험 결과를 설명할 수 없었다. 설령 숨은 변수가 있다 하더라도 그 변수는 대단히 비국소적이어야만 한다. 놀랍게도 모든 실험 결과들은 양자역학의 예측과 일치했다. 달리 말하자면 양자역학의 비국소적 성질이 실험적으로 검증된 셈이다. 이 공로로 클라우저와 아스페, 차일링거가 올해 노벨 물리학상을 수상했다.

그렇다면 아인슈타인과 보어는 250만광년을 가로질러 초광속으로 정보를 주고받은 걸까? 벨 부등식이 깨지는 결과는 특수상대성이론의 광속 제한 조건을 깨는 게 아닐까? 아니다. 아인슈타인의 고기메뉴 쪽지와 보어의 고기메뉴 쪽지는 서로 얽힌 상태에 있다. 양자역학적으로 이들 두 쪽지의 상태가 어느 한쪽의 쪽지를 펴 보는 순간 ‘한꺼번에 세트로’ 정해진다. 아무리 멀리 떨어져 있어도 그렇다.

그러나 양자역학적 상태가 세트로 정해지는 것과 물리적인 정보가 전달되는 것은 다른 문제이다. 지구의 아인슈타인이 자신의 고기메뉴 쪽지를 펴 보았고 그 결과 보어의 고기메뉴가 그 순간 정해졌다 하더라도, 보어는 그 사실을 알 수가 없다. 아인슈타인이 식사메뉴가 아니라 고기메뉴를 펴 봤다는 사실을 알기 위해서는 최소한 250만년이 필요하다. 따라서 보어는 자신의 펴 보지 않은 고기메뉴 쪽지가 이미 양자역학적으로 정해졌는지 또는 아직 중첩상태로 남아 있는지 알 길이 없다. 만약 아인슈타인이 이미 고기메뉴 쪽지를 펴서 삼겹살이 나왔다면 보어가 쪽지를 펴 봤을 때 100%의 확률로 갈비가 나온다. 반면 아인슈타인이 고기메뉴 쪽지를 펴 보지 않았다면 보어가 쪽지를 폈을 때 갈비와 삼겹살이 5 대 5의 확률로 나올 것이다.

양자역학의 세계에선 인간의 직관경험과 어긋나는 일들 많이 벌어져…뇌의 생각회로 바꾼 ‘지성의 결정체’로 부를 만해

이처럼 양자역학의 세계에서는 인간의 직관경험과 어긋나는 일들이 많이 벌어진다. 현대 물리학이 위대한 이유는 호모 사피엔스의 직관경험에만 익숙한 뇌의 생각회로를 드디어 바꾸기 시작했기 때문이다. 그런 의미에서 양자역학이야말로 인간 지성의 결정체라는 말이 전혀 틀린 말도 아니다.

▶이종필 교수



1971년 부산에서 태어났다. 1990년 서울대 물리학과에 입학했으며 2001년 입자물리학으로 박사학위를 받았다. 이후 연세대·고등과학원 등에서 연구원으로, 고려대에서 연구교수로 재직했다. 2016년부터 건국대 상허교양대학에서 조교수로 재직 중이다. 저서로 <신의 입자를 찾아서> <대통령을 위한 과학 에세이> <물리학 클래식> <이종필 교수의 인터스텔라> <빛의 속도로 이해하는 상대성이론> 등이 있고, <최종이론의 꿈> <블랙홀 전쟁> <물리의 정석> <스티븐 호킹의 블랙홀> 등을 우리글로 옮겼다.

이종필 교수