상대론적 맥락에서의 파동함수 실재론

제77회 과학철학 읽기 모임 (2026.03.09)

Alyssa Ney, The World in the Wave Function, Ch. 4.

발제 : 정동욱

책의 4장 “상대론적 맥락에서의 파동함수 실재론”에서 앨리사 네이(Alyssa Ney)는 파동함수 실재론이 비상대론적 맥락에서만 성립한다는 비판에 대응하여, 상대론의 고려가 산출하는 다양한 어려움들(입자 수의 가변성 등)에도 분리성과 국소성을 유지할 수 있는 유연한 형이상학적 틀을 제시한다.

네이에게 파동함수 실재론은 단순히 비상대론적 배위 공간에 얽매인 견해가 아니다. 3N 차원 배위 공간은 비분리성을 해결하는 하나의 방법일 뿐, 파동함수 실재론의 본질적인 존재론이 아니다. 파동함수 실재론은 근본적인 분리가능성과 국소성을 추구하는 국소주의(Localism)라는 더 깊고 유연한 해석적 틀로서, 비상대론적 맥락에서는 고정된 입자 수에 기반한 배위 공간 모델을 제시하지만, 상대론적 맥락에서는 시공간의 장 연산자 할당 방식에 맞추어 다른 형태의 고차원 공간을 상정함으로써 이론적 변화에 유연하게 대응한다.

4.1 이상화의 제거

파동함수 실재론은 지금까지 주로 이상화된 비상대론적 양자역학의 맥락에서만 정립되고 옹호되어 왔다. 마이어볼드(Myrvold), 팀슨(Timpson), 월리스(Wallace)와 같은 비판자들은 비상대론적 이론이 제공하는 형이상학적 장점들이 상대론적 맥락으로 전이되지 않는다는 점을 지적하며, 이 이론이 세계의 근본적인 본성을 적절히 포착하지 못한다고 주장한다. 저자는 파동함수 실재론이 비상대론적 영역에서만 유효하더라도 충분한 해석적 가치를 지닌다고 보긴 하지만(상대론적 양자장론은 측정 문제에 대한 명확한 해법이 아직 정립되지도 않았기 때문에), 동시에 양자장론과 같이 일반적이고 덜 이상화된 상대론적 이론 체계에 이 틀을 적용했을 때 우리 세계의 근본적 구조에 대해 어떤 통찰을 얻을 수 있는지 본격적으로 탐구하고자 한다.

4.2 다섯 가지 비판

아래의 다섯 가지 비판은 대략 연대순.

1. [입자 수 가변성 비판] 첫 번째 비판은 월리스(Wallace)와 팀슨(Timpson)이 제기한 것으로, 상대론적 양자장론에서 입자 수가 보존되지 않는다는 점을 지적한다. 비상대론적 맥락에서는 고정된 입자 수(N)를 바탕으로 3N 차원의 배위 공간(configuration space)을 정의할 수 있지만, 입자가 생성 및 소멸되거나 입자 수 자체가 중첩 상태에 놓일 수 있는 양자장론에서는 유일하고 결정적인 배위 공간을 설정하는 것이 불가능해진다.
2. [시공간 역할 무시 비판] 두 번째 비판은 파동함수 실재론이 양자 이론에서 시공간이 수행하는 역할을 모호하게 만든다는 주장이다. 파동함수 실재론의 표상 방식은 배위 공간 내 파동함수의 진화에만 초점을 맞추는 반면, 표준적인 양자장론의 기술 방식은 장 연산자를 국소적인 시공간 영역에 할당하는 형식을 취한다.
3. [서사가능성 상실 비판] 세 번째 비판은 상대론적 공변성(relativistic covariance)을 유지하려 할 때 ‘서사가능성’이 상실된다는 점에 주목한다. 알버트(Albert) 등에 따르면 상대론적 맥락에서는 시공간을 어떻게 분할하느냐에 따라 파동함수의 진화 과정에 대한 유일한 이야기를 서술할 수 없게 되는데, 이는 분리가능한 근본 형이상학을 추구하는 파동함수 실재론에게 매우 당혹스러운 결과이다.
4. [파동함수 유도가능성 비판] 네 번째 비판은 마이어볼드(Myrvold)가 제기한 것으로, 파동함수가 시공간 구조에 의존하는 파생적 구조에 불과하다는 주장이다. 그는 양자장론에서 파동함수는 전역적인 상태와 진공 상태, 그리고 시공간의 점들과 결합된 장 연산자들을 통해 구성될 수 있음을 보여줌으로써, 파동함수가 시공간적 존재론보다 더 근본적이라는 실재론자의 믿음이 성립하기 어렵다고 비판한다.
5. [위치 기저 약점 비판] 다섯 번째 비판은 월리스가 다시 제기한 것으로, 위치 기저(position basis)를 특권화하는 문제와 관련이 있다. 파동함수 실재론은 위치 기저를 바탕으로 파동함수를 정의하지만, 양자장론에서는 운동량 기저가 더 일반적으로 사용될 뿐만 아니라 정확한 위치 상태를 표상하려 할 경우 로렌츠 공변성을 위반하는 수학적 결과가 초래된다는 점을 경고한다.

결론적으로 이러한 비판들은 파동함수 실재론이 비상대론적 양자 이론의 특수한 설정들에 지나치게 의존하고 있음을 지적하며, 시공간 영역에 값(연산자나 대수)을 할당하는 ‘시공간 상태 실재론’을 대안으로 옹호한다. 하지만 저자는 이러한 문제들이 파동함수 실재론의 핵심 전략인 분리가능성과 국소성을 포기해야 할 이유는 아니라고 보며, 이후 논의를 통해 상대론적 맥락에 맞는 더 유연한 파동함수 실재론의 형태를 모색하고자 한다.

4.3 상대론적 양자 이론을 위한 파동함수 실재론[의 가능성]

파동함수 실재론이 다른 실재론적 해석들에 비해 가지는 결정적인 장점은 근본적으로 분리가능성과 국소성을 모두 갖춘 형이상학을 제공한다는 점이다. 비상대론적 맥락에서 입자 수를 고려한 고차원 공간을 통해 이 논리를 전개했던 것과 마찬가지로, 상대론적 맥락에서도 얽힘으로 인해 서로 다른 시공간 위치에서 발생하는 사건들 사이의 상관관계를 고차원 틀 내의 근본적이고 분리가능한 존재론의 발현으로 파악한다.

월리스와 팀슨이 옹호하는 ‘시공간 상태 실재론’은 시공간 영역에 연산자나 대수를 할당하는 방식을 취하며, 이 과정에서 비분리적 형이상학을 받아들인다. 그들은 특정 시공간 영역의 상태가 그 하위 영역들의 상태에 의해 완전히 결정되지 않는다는 점을 인정하지만, 파동함수 실재론자는 이러한 비분리적인 구조를 거부하고 더 근본적인 수준에서의 분리가능성을 추구하기 위해 시공간 상태 실재론을 하나의 중간 단계로만 간주한다.

상대론적 파동함수 실재론의 전략은 비상대론적 사례에서 사용했던 전략과 유사하다. 비상대론적 사례에서 3차원 공간의 국소적 하위 시스템들로부터 고차원 배위 공간을 상정했듯이, 상대론적 사례에서는 국소적 시공간 영역에 할당된 장 연산자들의 비분리적 존재론에서 출발하여, 각 점이 전체 4차원 시공간의 장 연산자 할당 배치에 대응하는 더 근본적인 고차원 공간을 상정한다.

입자 수의 가변성

그림 4.1과 4.2

특수상대성이론에 따르면 시간적 사실은 절대적이지 않으며 관찰자의 기준틀에 의존하므로, 시공간적으로 떨어진 사건들(II, IV 영역)의 순서가 달라질 수 있고 이는 입자 수의 가변성이나 불확정성으로 이어진다(그림 4.1과 4.2). 그림 4.1의 기준틀에서는 단일 입자가 정지해 있다가 지점 A에서 방향을 틀고, 지점 B에서 정지하는 과정으로 보이지만, 그림 4.2의 기준틀에서는 지점 B가 A보다 먼저 일어나기 때문에, 지점 B에서 두 개의 입자가 생성되어 그중 하나는 정지하고, 나머지 하나는 왼쪽으로 가다가 지점 A에서 원래 있던 입자와 충돌해 쌍소멸하는 것으로 묘사된다.

물론 위의 그림들은 입자가 빛의 속도보다 빨리 움직이는 상황을 그리고 있다는 점에서 이상한 사고실험이긴 하지만, ‘상상 가능한’ 모든 기준틀에서 일관된 '입자 수'를 확정할 수 없다는 점을 보여준다는 점에서 유효한 사고실험을 제공한다.

포크 공간과 장 연산자

이러한 상대론적 특징을 포섭하기 위해 양자장론에서는 진공 상태(|0〉), 단일 입자 상태(|p₁〉), n개의 입자 상태 및 여러 종류의 여러 입자들의 중첩 상태(|𝜙(p₁), … 𝜙(p₁), 𝜓(p_n+1), … 𝜓(p_n+m)〉), 게다가 입자의 생성과 소멸까지 다룰 수 있는 포크 공간(Fock space, 일종의 단일한 무한 차원 공간)을 도입한다. 이러한 포크 공간 내에서 입자 수의 가변성은 생성·소멸 연산자(a†(p), a(p))를 사용하여 쉽게 다룰 수 있다.

한편 양자장론은 국소적 관측가능량(local observables)을 통해 자연의 상호작용을 묘사하며, 이는 인과적 영향이 빛보다 빠르게 전달되지 않아야 한다는 벨(Bell)식 국소적 인과성 조건을 충족하기 위함이다. 가장 단순한 형태인 스칼라 장 연산자 (x)는 이러한 국소적 관측가능량의 기초가 되며, 시스템의 상호작용과 진화를 기술하는 해밀토니안을 구성하는 토대가 된다.

입자간 상호작용과 비분리성

그림 4.4 파인만 다이어그램들

두 입자의 상호작용의 확률을 계산하는 S-행렬 이론(|<(𝜓(k₁), 𝜓(k₂)|S|(𝜓(p₁), 𝜓(p₂)>)과 파인만 다이어그램은 시스템이 다양한 경로(채널)의 중첩 상태에 있음을 보여준다(그림 4.4. 두 입자가 충돌하여 산란되는 과정은 세 가지 파인만 다이어그램으로 표현될 수 있으며, 실제 시스템은 이 세 가지 경로의 중첩 상태에 있다. 여기서의 각 상호작용 점들은 그림 4.3과 같이 𝜙장(점선) 하나와 𝜓장(실선) 두 개가 만난다). 이러한 중첩에 의한 얽힘은 시공간적으로 멀리 떨어진 위치들에서의 운동량들 사이의 환원불가능한 관계를 유발하며, 이는 저차원의 시공간 표상 내에서는 필연적으로 비분리성을 초래하는 것으로 나타난다.

파동함수 실재론의 해법

저자가 보기에, 저차원 시공간 이미지에서 나타나는 비분리성은 분리가능한 고차원 공간 모델의 출발점을 제공한다. 즉 전체 영역에 대한 장의 할당을 하나의 점으로 나타내는 고차원 공간을 상정하기만 하면 되는 것이다. 파동함수 실재론자는 시공간의 모든 점에 대한 장 연산자의 할당 상태를 고차원 공간의 점으로 대응시킴으로써, 상대론적 맥락에서도 근본적으로 분리가능성을 유지하는 형이상학적 구조를 회복할 수 있다.

4.4 해석과 해석적 틀

파동함수 실재론은 단순히 비상대론적 배위 공간에 얽매인 견해가 아니다. 3N 차원 배위 공간은 비분리성을 해결하는 하나의 방법일 뿐, 파동함수 실재론의 본질적인 존재론이 아니다. 파동함수 실재론은 근본적인 분리가능성과 국소성을 추구하는 국소주의(Localism)라는 더 깊고 유연한 해석적 틀로서, 비상대론적 맥락에서는 고정된 입자 수에 기반한 배위 공간 모델을 제시하지만, 상대론적 맥락에서는 시공간의 장 연산자 할당 방식에 맞추어 다른 형태의 고차원 공간을 상정함으로써 이론적 변화에 유연하게 대응한다. 결국 파동함수 실재론은 특정 이론의 수학적 구조에 고착되지 않고, 다양한 양자 이론 체계에서 분리성과 국소성을 갖춘 일관된 세계관을 구축할 수 있는 포괄적인 형이상학적 틀을 제공한다.

4.5 비판에 대한 답변

저자는 파동함수 실재론을 향한 다섯 가지 비판에 하나씩 답변하며, 이 이론이 단순한 ‘배위 공간 위의 파동함수’ 모델에 고착된 견해가 아니라, 근본적인 분리가능성과 국소성을 추구하는 광범위한 해석적 전략인 국소주의임을 분명히 한다.

A. 입자 수 가변성 비판에 대한 답변

입자 수 가변성 비판에 대해, 저자는 앞서 논의된 그림 4.1과 4.2의 사례를 환기한다. 기준틀에 따라 입자가 1개로 보이기도 하고(그림 4.1), 여러 개로 보이기도 하는(그림 4.2) 상대론적 현상은 비상대론적 배위 공간의 한계를 보여준다. 그러나 저자는 이것이 파동함수 실재론 자체의 실패가 아니라, 변화하는 물리 이론의 특징에 맞춰 모델을 확장해야 함을 시사할 뿐이라고 답변한다. 이에 대응하여 저자는 상대론적 양자장론의 포크 공간 표상을 활용한 새로운 고차원 공간을 제안한다. 이 모델은 입자 수의 변화와 중첩을 포용하면서도, 각 점이 전체 시공간 영역에 대한 연산자 할당 상태에 대응하도록 설계되어 파동함수 실재론자가 중시하는 근본적 분리가능성을 유지한다.

B. 시공간 역할 무시 비판에 대한 답변

시공간의 역할을 모호하게 만든다는 비판에 대해, 저자는 파동함수 실재론이 표준적인 시공간 표현을 부정하는 것이 아님을 강조한다. 저자는 시공간적 묘사를 더 근본적인 고차원 실재로부터 도출되는 ‘파생적 실재’로 보며, 이는 비국소적 상관관계를 근본 수준에서 제거하기 위한 정당한 형이상학적 선택이다.

C. 서사가능성 상실 비판에 대한 답변

그림 4.5 서사가능성의 실패

서사가능성의 상실은 그림 4.5의 사례로 구체화된다. 이 사례에서, 네 입자가 이동하며 P와 Q 지점에서 교차할 때, 어떤 기준틀에서는 P와 Q가 동시에 일어나지만 다른 틀에서는 순서가 바뀌어 시스템의 진화에 대해 유일한 이야기를 서술할 수 없게 된다.

그러나 저자는 이러한 서사가능성의 부재가 오직 파생된 시공간 내에서의 분리가능성 부족을 의미할 뿐이라고 반박한다. 비판자들이 지적하는 혼란은 저차원의 시공간 이미지에 머물 때만 발생하며, 고차원 공간에서의 근본적 분리가능성을 상정하면 이러한 상대론적 특징들을 일관되게 포용할 수 있다.

D. 파동함수 유도가능성 비판에 대한 답변

마이어볼드는 양자장론에서 파동함수가 시공간 구조로부터 수학적으로 유도될 수 있다는 점에 근거하여 [고차원] 파동함수의 존재론적 우선성을 부정한다. 그러나 수학적 유도 방향과 형이상학적 근본성은 별개의 문제이며, 파동함수 실재론자는 고차원 실재를 우선시함으로써 비국소적 관계를 설명하려는 입장을 유지할 수 있다.

또한 저자는 비상대론적 배위 공간 모델이 여전히 유효한 형이상학이라는 점을 강조한다. 이는 더 근본적인 상대론적 존재론으로 나아가는 과정에서의 적절한 이상화로 이해되어야 하며, 파동함수 실재론은 양자 중력 이론과 같은 더 근본적인 탐구에서도 유효한 틀을 제공할 수 있다.

E. 위치 기저 약점 비판에 대한 답변

위치 기저(basis)를 특권화한다는 비판에 대해서는, 파동함수 실재론이 특정 수학적 도구에 얽매이지 않는 유연한 틀임을 강조한다. 만약 상대론적 영역에서 위치 기저 표현이 로렌츠 공변성을 위반한다면, 저자는 운동량 기저 등 다른 기저를 바탕으로 고차원 표현을 구축함으로써 상대론적 표준과 일치시킬 수 있다고 답변한다.

4.6 물리 이론화의 한계에서 파동함수 실재론

파동함수 실재론의 전략이 단순히 덜 이상화된 이론을 넘어, 탐구의 극한에 도달했을 때 마주할 '최종적인 양자 이론'에서도 유효할까? 파동함수 실재론의 전략이 상대론적 맥락에서 성공했다고 해서 앞으로 마주하게 될 최종 이론에서도 성공적일까? 저자는 최종 이론이 존재할 것이라는 낙관론에 회의적이다. 물리학은 완결에 도달하기까지 우리가 인식하지 못할 정도로 급격한 혁명을 여러 번 거칠 수 있으며, 따라서 현재 우리가 가진 최선의 양자 이론을 분리성과 국소성이라는 방법론적 원칙에 따라 최선을 다해 해석하는 것이 우리가 할 수 있는 최선이다.

그런데 어떤 이들은 파동함수 실재론이 궁극적으로 부적절할 수밖에 없다는 점을 지적하기 위해 이 이론이 특정한 ‘기저’에 의존한다는 점을 지적한다. 비상대론적 맥락에서는 위치 기저를, 상대론적 맥락에서는 운동량이나 포크 기저를 특권화하는데, 비판자들은 객관적인 근본 구조라면 마땅히 기저 독립적이어야 한다고 주장한다.

이에 대한 대안으로 숀 캐럴 등은 ‘힐베르트 공간 내의 광선(ray-in-Hilbert-space)’ 견해가 제시된다. 이 관점은 세계를 단순히 거대한 힐베르트 공간을 가로지르는 벡터로 보며, 이는 어떤 기저를 선택하느냐와 상관없이 동일한 형태를 유지하는 기저 독립적 존재론을 지향한다. 또 다른 대안인 ‘시공간 상태 실재론’ 역시 부분 추적(partial trace) 연산을 통해 도출된 밀도 행렬을 사용함으로써 좌표 독립적인 성격을 띤다. 비판자들은 파동함수 실재론이 이러한 추상적이고 객관적인 표상들보다 열등하다고 지적하며, 기저 의존적인 존재론을 근본적이라고 보기 어렵다고 주장한다.

파동함수 실재론자는 두 가지 이유로 이를 거부한다. 첫째, 힐베르트 공간 견해나 시공간 상태 실재론은 모두 파동함수 실재론의 핵심 동기인 분리성과 국소성을 확보하지 못한다. 만약 이 두 성질을 포기한다면, 굳이 복잡한 고차원 실재론을 유지할 형이상학적 이유가 사라지게 된다. 둘째, 근본 존재론은 우리가 경험하는 거시적 세계(책상, 의자, 사람 등)를 구성할 수 있는 토대를 제공해야 한다. 힐베르트 공간의 광선과 같은 극도로 추상적인 표상은 수학적으로는 우아할지 모르나, 그것이 어떻게 구체적인 물질적 대상들을 형성하는지에 대한 구성적 연관을 제시하지 못한다.

결론적으로 저자는 파동함수 실재론이 기저 의존적이라는 사실이 결점이 아니라고 주장한다. 고차원 공간의 점들을 저차원의 물리적 배치와 연결하는 기저의 선택은, 추상적 이론과 우리가 이해하고자 하는 경험적 세계 사이의 구성적 연결을 유지하여 경험적 이미지를 회복하는 데 필수적이기 때문이다.

토론거리

• 저자는 파동함수 실재론이 비상대론적 영역에서만 유효하더라도 충분한 해석적 가치를 가진다고 주장하면서, “측정 문제에 대한 해법들이 비상대론적 맥락에서만 분명하고 적절하게 작동해 왔다”는 점을 마치 그 주장에 대한 근거처럼 적고 있다. 어떻게 그럴 수 있는가?
• 시공간적으로 분리된 영역의 얽힘을 거대한 고차원의 한 점으로 묘사할 수 있다는 것으로부터 얻을 수 있는 우리의 인식적, 형이상학적 이득은 무엇인가? 국소성과 분리성을 얻을 수 있으나… 그게 얼마나 대단한 설명적 이득인가? 만약 반실재론자들처럼 설명 자체를 거부한다면? 또한 실재론자라 하더라도, 파동함수 실재론자는 국소적 상호작용을 궁극적 실재로 선택한 것이라면, 다른 실재론자라면 다른 것을 궁극적 실재로 선택하여 그로부터 설명하려고 할 텐데…
• 미래에 어떤 모습의 이론이 등장하든 분리가능한 존재론을 얻기 위한 고차원 공간을 언제나 만들 수 있을까? 또한 항상 그럴 수 있다고 자신한다면, 그러한 해석적 틀은 경험과 무슨 상관이 있는가? 혹시 그것은 경험적 이론의 토대라기보다 거기에 덧씌운 포장지에 불과한 것 아닐까?
• 저자는 기저 의존성이 오히려 장점이라고 주장하지만, 파동함수 실재론은 향후 나타날 이론의 형태에 따라 자신의 기저를 이리저리 바꿀 수 있다는 점에서 결국에는 세계의 참된 모습에 대해서 별 주장을 안하는 것 아닌가? 비상대론적 맥락에서의 해법과 상대론적 맥락에서의 해법이 다른 기저를 쓴다면, 결국 향후에 등장할 다른 이론의 맥락에서는 또 다른 기저를 이용한 해법을 쓸 수도 있다는 것 아닌가? 이는 모종의 이론에 기생하는 것이지, 이론에 대한 형이상학적 설명은 아니지 않은가?

관련 항목

• 양자역학의 형식적 구조
• 과학철학 읽기 모임