이론미결정성과 반실재론

이론미결정성과 반 프라센의 반실재론 논변

이론미결정성은 중세 유명론자 이래로 오랫동안 반복된 주장으로, 19세기 말 뒤앙에 의해 정식화되었으며, 20세기 중반 콰인에 의해 재천명된 논제이다. 뒤앙에 따르면, 결정적 실험은 불가능하다. 특정한 실험에 의해 긍정적으로 판단된 이론이라 하더라도 완전한 승리로 인정되기는 어려운데, 왜냐하면 대안적 설명 가설은 언제나 존재할 수 있기 때문이다. 역으로 결정적 반박도 불가능하다. 이론이란 수많은 보조가설과 함께 관찰 귀결을 내는데, 그 관찰 귀결이 잘못으로 판명난다 하더라도 우리는 이론이 틀렸는지 보조가설이 틀렸는지 알 수 있는 방법이 없기 때문이다. 이 경우 보조가설의 적절한 수정을 통해 이론이 구제될 가능성은 충분히 있다.

반 프라센은 위의 주장 중 전자의 주장을 활용하여 반실재론을 옹호하는 데 사용한다. 반 프라센이 보기에, 실재론이란 관찰 가능한 영역에서의 증거를 기반으로 관찰 불가능한 영역의 정당성을 확보하고자 하는 시도이다. 그러나 반 프라센의 입장에서 이러한 월경은 인식론적으로 정당화되지 못한다. 왜냐하면, 관찰 가능한 영역에서는 동등(경험적 동등성)하지만 관찰 불가능한 영역에서는 양립 불가능한 이론이 항상 가능하기 때문이다. 이 경우 경험적으로 동등한 이론들은 모두 인식론적으로 동등한 자격을 가지게 되며, 이 상황에서 우리는 그 이론에 존재론적 주장을 할 수 없게 된다. 이러한 고찰을 토대로 반 프라센은 참인 이론이 아니라 경험적으로 적합한 이론을 제시하는 것이 과학의 정당한 목표라고 주장한다.

보조가설의 문제와 증거적 차별 가능성

첫째, 경험적으로 동등한 이론이라는 말은 애초에 성립하지 않는다. 반 프라센은 이론이 독자적으로 관찰 가능한 귀결을 가지는 것처럼 얘기하고 있지만, 사실 이론은 보조가설과 결합되지 않은 상태에서는 경험적 귀결을 가지지 않는다. 이론의 경험적 내용이 확정되지 않은 채로 남기 때문에, 경험적으로 동등한 이론이라는 말은 애초에 성립하지 않는다.

둘째, 경험적 동등성을 인정한다고 하더라도 이론 미결정성은 발생하지 않는다. 만약 경험적 동등성을 이야기하고자 한다면, 경험적으로 동등한 이론+보조가설로 바뀌어야 할 것이다. {T1+A1}과 {T2+A2}가 경험적으로 동등한 관찰 귀결을 가지고 있다고 해보자. 만약 우리가 두 보조가설 A1과 A2 사이에 더 신뢰할 만한 보조가설을 구분할 수 있다면, T1과 T2의 인식론적 동등성은 깨질 수 있다. 만약 A1은 그동안 안정적으로 쓰여 오면서 신빙성을 인정받은 보조가설인데 반해 A2가 아직 신빙성을 평가받지 않은 보조가설이라면, 우리는 A1과 결합해서 관찰 귀결을 내는 T1에 더 신뢰를 줄 수 있을 것이다. 즉 {T1+A1}과 {T2+A2}가 경험적으로 동등하더라도 T1과 T2는 “증거상으로 동등할 수 없다.” 즉 경험적 동등성이 인정된다고 하더라도, 증거상의 차별불가능성이 보장되지 않으므로, 이론 미결정성은 발생하지 않는다.

관찰가능/불가능 구분의 문제

반 프라센의 논변은 관찰가능/불가능 구분에 의존하고 있다. 그러나 이 구분은 확실한가? 맥스웰은 관찰 가능/불가능의 구분이 인위적이라 비판했다. 맨눈/안경/돋보기/현미경.. 또 현미경의 배율을 점점 높여서 관찰하기를 생각해 보자. 어디서 구분을 해야 하는가? 맥스웰은 이러한 관찰행위의 연속성으로부터 둘의 구분 경계선을 그으려는 시도는 임의적일 수밖에 없다고 주장한다.

반 프라센은 이에 대해, 존재론적인 구분은 인위적이겠지만, 인식론적인 구분은 의미가 있다고 반박한다. 그러면서 그 둘의 구분을 다음과 같이 제안한다. ‘어떤 x가 내 앞에 놓였을 때 (도구의 도움 없이) 그것을 관찰할 수 있으면 관찰 가능하다.’ 이러한 구분에 따르면, 은하계 바깥의 별은 관찰가능하며, 주라기의 공룡도 관찰가능하지만, 미시적 입자들은 관찰 불가능하다.

그러나 왜 하필 인간의 맨 감각에 의한 것만을 신뢰하는가? 우리의 감각도 의심할 수 있지 않은가? 우리의 맨 감각이 어떻게 세계의 실재를 보여준다고 말할 수 있는가? 반 프라센은 우리의 감각이 아주 오랜 기간에 걸쳐 신뢰할 만하게 잘 시험된 것으로 볼 수 있다고 말할지 모른다. 그렇다면 도구들도 오랜 기간 시험된다면 그것들로 본 것도 꽤 신뢰할만한 관찰로 여겨질 수 있지 않을까? 때로 우리 눈은 착시를 일으키기도 하는데, 그 때 우리는 우리 눈보다 도구를 이용하여 혼란을 제거하기도 한다. 그런 도구는 오히려 객관적이고 신뢰할 만한 도구이지 않을까?

현미경과 같은 도구는 수많은 조작과 교차 시험을 통해 그 신빙성을 보장받을 수 있다. 또한 현미경이 신뢰할 만한 이유는 광학이론에 거의 의존하지 않을 수 있다. 우리는 대물렌즈 아래에 놓인 대상을 이렇게 저렇게 조작하면서 도구가 신뢰할 만한 것을 보여주고 있다는 것을 확인해 나갈 수 있다. 또한 전자현미경의 신뢰성은 전자이론에 거의 의존하지 않고 어느 정도 확보될 수 있는데, 그것은 광학현미경이 보여주는 상과의 교차 비교를 통해서도 얻어진다.

이러한 방식으로 도구의 신뢰성을 인정하게 된다면 이론 미결정성 논변이나 반실재론 논변에 어떤 영향을 미치게 될까? 도구로 볼 수 있는 것들은 실재하는 것으로 인정받을 수 있게 되는 것인가? 보는 것을 실재하는 것으로 간주하는 것이 정당화된다면 그럴 수 있겠지만, 나는 그 관계가 그렇게 간단하지는 않다고 생각한다. 실재성의 정도를 구분할 수 있다면, 한 대상을 눈이나 신뢰할 수 있는 도구를 통해 볼 수 있게 되면 볼 수 없을 때보다는 실재성의 정도가 꽤 높아진다고까지는 말할 수 있지 않을까 생각한다.

한편 도구의 신뢰성을 인정하게 되면, 도구의 발전과 함께 관찰 가능 영역과 불가능 영역의 구분 경계선이 변경될 것이다. 이는 이론 사이의 경험적 동등성을 시간적으로 국소화시킬 가능성이 높다. 현재는 경험적으로 동등했던 두 이론이, 도구의 발전에 의해 경험적으로 동등하지 않은 것으로 판명날 수 있게 될 수 있는 것이다. 그러나 내가 보기에 도구 발전에 의한 경험적 동동성의 시간적 국소화는 관찰가능/불가능 경계를 문제 삼지 않더라도 발생하는 것 같다.

보조가설에 의한 경험적 동등성의 국소화

내가 보기에 관찰가능/불가능 구분에 대한 반 프라센의 견해를 받아들이더라도, 관찰도구나 탐지도구의 발달은 이론 사이의 경험적 동등성을 깰 수 있는 듯 보인다. 관찰도구로 보는 것은 실제 관찰은 아니라고 했기 때문에 반 프라센은 이에 대해 그 가능성을 무시할 수도 있다. 그러나 실상은 그렇지 않다.

예컨대 세포 수준에서는 양립 불가능하지만, 맨눈으로 보기에는 동등해 보이는 두 생물학 이론을 상상해보자. 두 이론은 정말로 경험적으로 동등한가? 그렇지 않다. {T1+광학이론}과 {T2+광학이론}은 우리 맨눈으로 보기에 다른 관찰 귀결을 낸다. 세포 수준을 볼 수 있는 현미경과 그에 대한 광학이론과 덧붙여진 두 이론은 서로 다른 것이 보일 것이라고 예측할 것이다. 따라서 두 이론은 경험적으로 동등하지 않다.

아원자 수준에서는 양립 불가능하지만, 우리가 현재의 최고의 현미경으로 볼 수 있는 수준에서는 양립 가능한 두 이론이 있다고 해보자. 분명 두 이론은 현재 경험적으로 동등하다. 두 이론은 현미경에 대한 이론을 보조가설로 덧붙여도 경험적으로 동등한 귀결을 갖는다. 그러나 만약 새로운 기술을 이용한 특급 현미경이 발명되어 아원자 수준을 보거나 혹은 특정한 속성을 탐지할 수 있게 되었다고 해보자. 우리가 아원자 수준을 “진정으로 본다”고 생각할 필요는 없다. 그럼에도 두 이론은 특급 현미경에 대한 이론, 새로운 보조가설과 결합하여 우리 맨눈에 서로 다른 것이 보일 거라고 예측할 것이다. 즉 두 이론은 새로운 도구 및 새로운 보조가설과 결합하여 경험적 동등성이 깨지게 된다.

즉 도구로 보는 것이 진정으로 보는 것이 아니라 하더라도, 이론 미결정성은 일시적인 수준에 머물기 쉽다. 새로운 도구의 발명과 함께 그 도구에 관한 이론을 보조가설로 추가함으로써, 두 이론 사이의 경험적 동등성이 깨지기 때문이다.

경험적 동등성이 시간적으로 국소화되었을 때, 실재론의 위상은 어떻게 되는가? 여기서 보인 것은 경쟁에서 영영 판가름이 나지 않는 두 이론이란 존재하기 어렵다는 것뿐이다. 이 근거만으로는 우리는 현재의 이론이 참이라거나 참에 가깝다고 말하기 어렵다. 왜냐하면 다른 이론이 나타나 현재의 이론을 뒤엎을 수 있기 때문이다. 다만 이러한 실재론에 대한 위협은 이론 미결정성에 의해서 생기는 것이 아니라 라우든 식의 비관적 귀납 때문에 발생하는 것이다.

반 프라센이 도구 발전에 의한 경험적 동등성의 국소화 가능성을 막고자 한다면, 어떠한 도구의 발전에도 경험적 동등성이 깨지지 않으면서 양립 불가능한 복수의 이론의 가능성을 제시해야 할 것이다. 그러나 그런 것이 가능하다는 말은 내게 매우 이상하게 들리며, 내가 보기에 그 가능성은 매우 희박해 보인다. 반 프라센은 아래의 사고 실험을 증거로 그것이 가능하다고 주장하려 할 수도 있지만, 나는 그것이 반실재론에 큰 보탬이 되지 않는다고 생각한다.

반 프라센의 사고 실험

반 프라센은 어떤 도구의 발명에도 불구하고 경험적으로 동등한 두 이론이 가능하다는 것을 보인 바 있다. 그의 사고 실험에 따르면, 태양이 고정된 뉴턴 체계와 태양이 일정 속도로 직선 운동하면서 나머지도 그와 함께 수평 이동하는 뉴턴 체계는 경험적으로 절대로 구분될 수 없다. 전자기 이론이 추가되어도 둘의 구분은 불가능하다. 어떤 도구가 발명되더라도 둘 사이의 경험적 동등성이 깨지는 것은 상상할 수 없다. 이는 매우 성공적인 이론 미결정성의 사례처럼 보인다.

그렇다면 태양이 고정되어 있는지, 일정 속도로 직선 운동하는지 실재론적으로 얘기할 수 없다고 하는 것이 맞다고 인정해야 할 것이다. 그러나 딱 거기까지이다. 두 이론은 태양의 속도를 제외한 그 나머지 부분에 대해 똑같은 설정을 했기 때문에, 태양의 속도를 제외한 뉴턴 체계의 다른 부분까지 미결정되는 것은 아니다. 즉 이러한 종류의 국소화된 미결정은 실재론에 별 위협이 되지 못한다. 왜냐하면 태양의 속도는 뉴턴의 이론에서 정당하게 주장할 부분이 아니라고만 하면 되기 때문이다.

사실 반 프라센이 고안한 사례는 뉴턴 본인이 절대 공간을 상정하면서, 관성 및 운동의 상대성을 동시에 원리로 채택했기 때문에 발생한 이론 내적인 문제이다. 반 프라센은 뉴턴 체계의 내적인 긴장을 드러낸 것뿐이다. 결국 언뜻 보기에 매우 이상적인 미결정성의 사례처럼 보였던 반 프라센의 사례는 사실 실재론에 큰 타격을 주지 못했다. 미결정성은 부분적이었고, 그 부분은 이론에서 잘라내면 그만인 부분이었다.

이론미결정성이 성립한다고 하더라도, 반실재론자들에게 일방적으로 유리하지는 않다

반 프라센은 경험적으로 적합한 이론을 제시하는 것을 과학의 목표라고 생각하고 있다. 그렇다면 반 프라센이 실재론에 가하는 공격은 반 프라센 본인에게도 적용될 수 있다. 반 프라센은 실재론이 관찰가능한 영역에서의 증거를 기반으로 관찰불가능한 영역에 대한 정당성을 확보하려는 시도라고 생각하면서, 그 월경이 정당화되지 못한다고 했다. 그렇다면, 경험적 적합한 이론의 추구는 관찰가능한 영역에서의 증거를 기반으로 아직 관찰하지 않은 관찰가능한 영역에 대한 정당성을 확보하려는 시도이므로, 그 월경 또한 정당화되지 못한다. 왜냐하면 이론의 경험적 적합성은 분명 지금까지의 증거에 비추어 미결정되기 때문이다.

물론 반 프라센은 실재론자들보다 자신의 주장이 증거에 비추어 옳은 확률이 높은 안정한 주장이기 때문에, 반실재론을 선택하는 것이 합리적이라고 반박할 수 있다. 그러나 확률을 이용한 가설 평가에 대해 동의하지 않는다면 다른 선택도 가능하다. 기어리는 의사결정 이론을 이용하여 실재론을 선택하는 것도 반실재론을 선택하는 것만큼 정당화될 수 있음을 보이면서, 경우에 따라 실재론이 반실재론보다 더 적합한 선택일 수 있다는 주장으로 나아갔다. 예컨대 거대한 입자가속기를 만드는 활동은 그 입자들이 실재한다고 상정하지 않으면 납득하기 어렵다는 것이다. 그러나 내가 보기에 기어리의 이 예시는 이론이나 존재자의 실재론/반실재론에 대한 철학적 논변이 아닌 것처럼 보인다. 기어리가 보인 것은 과학자가 실재론적 태도를 취하는 것이 때로 좋은 성과를 낼 수 있다는 것뿐이기 때문이다.

결론

지금까지의 논의를 종합했을 때, 이론 미결정성을 이용한 반 프라센의 반실재론 논변은 애초의 의도만큼 힘을 발휘하긴 어려워 보인다. 첫째, 보조가설의 존재는 경험적으로 동등한 이론 사이의 신빙성을 평가할 수 있는 수단을 제공한다. 다만 보조가설이 만들어 주는 이론 간의 차별화가 얼마나 그 평가에서 결정적일 수 있는지는 미지수이다. 둘째, 도구의 발전에 따라 경험적 동등성은 대부분 깨지기 마련이며, 이로 인해 이론 미결정성은 국소화되기 쉽다. 셋째, 원리적으로 경험적으로 동등하면서 양립불가능한 이론의 가능성은 의심스러우며, 그러한 사례가 진짜로 있다면 면밀히 검토되어야 한다. 특히 반 프라센이 직접 든 사례는 반실재론에 큰 보탬이 되지 않는다. 넷째, 이론 미결정을 이용한 반 프라센의 실재론 공격은 반 프라센의 반실재론까지도 위협한다.

내가 보기에 이론 미결정성을 통한 반실재론 논변은 상당히 약화되었지만, 이것만으로 실재론이 옹호될 수 있는 것은 아니다. 실재론에 대한 라우든 식의 역사적 비판은 매우 강력하기 때문이다. 실재론을 옹호하고자 한다면 독자적인 옹호논변이 필요한데, 해킹의 ‘조작 가능성’과 같은 기준은 이에 대한 하나의 해법이 될 수 있을 거라 생각한다.

관련 항목

• 바스 반 프라센, 과학적 실재론에 대한 논증들