[과학철학] 인식론적 한계와 환원: 이해, 의미, 실재성의 문제를 중심으로

ps_paper_2004_2.hwpmemo.hwp 과학철학 연습 기말보고서

과학사 및 과학철학 협동과정 2004-20309 정동욱 | 담당교수 : 조인래 | 제출일 : 2004. 12. 10

1. 문제제기

오늘날 과학은 과학의 수많은 분과에 걸친 이론간의 복잡한 망을 형성해 가고 있다.  Rohrlich (1988), p. 295 이러한 이론들은 더 근본적인가 덜 근본적인가에 따라 분류되곤 하며, 흔히 더 근본적인 이론이 덜 근본적인 이론에 비해 우월하며 덜 근본적인 이론의 역할을 대신할 것이라 여겨지곤 한다.
퍼트남과 오펜하임, 처칠랜드, 김재권 등의 (제거적) 환원주의자들은 그러한 입장을 강하게 주장하고 있다. 그들은 다음과 같은 인식을 공유하고 있다. 첫째, (언젠가는) 더 근본적인 이론(또는 존재론적으로 하위에 있는 이론)이 덜 근본적인 이론(또는 존재론적으로 상위에 있는 이론)들을 환원 또는 대체할 수 있다.  Oppenheim & Putnam (1958) 둘째, 궁극적으로는 가장 근본적인 이론(또는 존재론적으로 가장 하위에 있는 이론)만이 진정 과학으로서의 지위를 갖고, 나머지는 과학으로서의 지위를 빼앗기거나  김재권은 심리적 상태에 대한 복수실현 논변을 역이용하여 심리학이 통일된 대상과 주제를 갖춘 과학일 수 없다고 주장했다. 김재권 (1992) 참조 기껏해야 실용적인 차원에서만 의미를 가지게 될 것이다.
처칠랜드는 마음-뇌의 통합이론의 가능성에 대한 반대자들이 마음상태에 대한 상식적인 이해를 옳다고 가정하고 있는 것을 문제삼으면서, 마음-뇌의 통합과학에서 동일시를 고집하다보면 신경과학의 발전을 막게 된다고 주장했다.  Churchland, Patricia (1986) 이러한 주장은 통속 심리학(folk psychology)의 신경과학으로의 제거적 환원가능성을 강하게 시사하고 있다. 이와 유사하게, 김재권은 심리적 상태가 법칙적 종(kind)이 아니며,  김재권 (1992) 더 나아가 인과적, 기능적 역할에 의해 정의되는 이차적 속성을 가리키는 ‘개념’에 불과하기 때문에 그 인과력의 진정한(물리적) 실현자를 찾는 작업을 통해 (제거적으로) 환원이 가능하다고 말했다.  김재권 (1998)
이들은 이미 환원된 이론은 생각해볼 여지도 없고, 아직 환원이 되지 않은 이론에 대해서도 결국에는 (제거적으로) 환원가능하며, 그로써 환원되는 이론들이 과학으로서의 지위를 상실할 것임을 강하게 시사하고 있다.
그러나 뉴턴 역학 및 중력 이론은 양자역학 및 상대성 이론에 의해 이미 환원되었음에도, 현재까지도 많은 영역에서 활용되고 있으며 과학의 학습 과정에서 필수적으로 학습되고 있다. 왜 잘못된 이론을 이용하거나 가르치고 있는가? 이러한 상황을 단지 실용적인 차원의 문제로만 볼 수 있을까?
고전 역학 이론(입자 이론 및 파동 이론)은 세계의 사실들과 부합하지 않는다는 문제를 안고 있다. 반대로 그러한 문제를 해결함과 동시에 고전 역학 이론을 환원한다고 여겨지는 양자역학 이론에서는 해석의 문제가 야기되곤 한다. 양자역학적 상태 ψ에 대한 해석은 양자역학의 수학적 구조가 완성된 지 70년이 지난 지금도 합의되지 않고 있다. 보어의 상보성 원리는 이러한 난처함을 잘 보여주는 사례라 할 수 있다. 양자역학적 상태는 입자도 아니고 파동도 아닌 무언가라는 것이 잘 알려져 있지만, 이를 정확히 이해하기 위해서는 먼저 고전 역학적인 입자와 파동의 개념을 이해하고 난 후, 다시 이를 부정해야만 하는 괴이한 과정이 필요하다. 즉 양자역학에 대한 이해는 그 이론 자체만으로는 불가능하고, 오직 ‘잘못된’ 고전 역학과의 비교 및 부정을 통해서만 가능하다는 딜레마에 빠지는 것이다.
위의 간단한 사례는 보다 근본적인 이론이 덜 근본적인 이론의 지위를 빼앗고 그 자리를 대신한다는 (제거적) 환원주의의 구도가 생각만큼 간단치 않음을 보여준다. 그리고 이는 일차적으로 우리의 인식론적 한계 때문에 비롯되는 것으로 보인다.  환원과 관련된 여러 난제들이 세계 자체의 존재론적인 문제에 기인할 수도 있겠지만, 그러한 논의는 여기서 다루지 않을 것이다.  이 글에서는 우리의 인식론적 한계가 과학활동에 가하는 본질적인 제약에 초점을 맞출 것이며, 그러한 제약으로부터 출발하여 환원 논제의 의의와 한계를 지적할 것이다. 여기서 핵심 키워드는 ‘이해’이다.

2. 다층적인 인지적 수준

장회익에 의하면, 우리는 사물을 관찰하는 데 그 대상이 어떤 보편적 현상의 특수한 경우라는 관점을 택하여 이해하려 하며, 보편과 특수라는 구분은 인간의 사물 이해에 대한 기본 바탕을 이루는 관념이라고 말한다.  장회익 (1990) p. 19 이에 따르면, 일상적 수준의 이해를 추구하든 과학적 수준의 이해를 추구하든, 대상에 대한 이해는 특정한 개념체계와 함께 이루어지게 된다. 여기서 관심을 끄는 문제는 하나의 대상에 대해서도 복수의 개념체계를 통한 이해가 가능하다는 점이다.
일상세계에 대한 존재론은 책상, 빨강, 고양이, 빛 등의 여러 추상적 개념들에 대한 지식으로 이끄는 데에 반해, 일상세계에서의 직접적인 경험을 넘어서는 경우 우리는 분자, 원자, 장(field), 전자기파, 블랙홀 등의 색다른 개념들을 접하고 이해하게 된다. 즉, 세계에 대한 우리의 지식은 자연스럽게 여러 ‘수준들’로 분화된다는 것이다. 분화된 ‘수준들’은 각각의 과학활동의 영역들을 구축하게 된다. 이렇게 분화된 수준에서의 과학활동은 독자적인 인지적 이해방식을 갖추게 되는데, 롤리히는 이를 ‘인지적 수준(cognitive level)’이라 불렀다.  Rohrlich (1997), p. S347
예를 들어, 기체 상태에 대한 이해는, 미시수준에서 볼 것인지 거시수준에서 볼 것인지에 따라 완전히 다른 개념체계를 구성하게 된다. 미시수준에서는 개별 분자들의 역학적 상태만을 다루는 가역적인 개념체계를 구성하지만, 거시수준에서는 온도, 엔트로피 등을 다루는 비가역적인 개념체계를 구성한다. 비가역성을 세계의 실재하는 속성을 볼 것인지, 단지 개념으로만 볼 것인지는 논쟁의 소지가 있으나, 여기서는 이에 대해 다루지 않을 것이다. 나정민 (2004), pp. 24-25, 31-32, 41-42 참고
한편, 생명현상이 발생하고 있는 상황을 물리적인 측면에서만 본다면, 그 과정 하나하나는 완전히 물리적 법칙만을 순응하여 발생하는 물리적 현상으로 간주될 수 있다. 장회익 (1990) p. 156 하지만 생명현상으로 간주되는 물리적인 상황을 기술할 경우, 그 결과는 아무리 정확한 기술이라 할지라도 여전히 물리적인 상황일 뿐 애초에 ‘생명’이라 불렀던 (일상적) 의미를 가지기는 어렵다.
위의 예들만으로는 인지적 수준에 대한 오해가 있을 수 있다. 인지적 수준들이 꼭 부분-전체 관계(mereological relation) 예를 들어, 기체의 거시상태와 미시상태가 맺고 있는 관계 또는 생명과 그것을 구성하는 물질 사이의 관계 등이 이러한 관계에 해당된다.를 맺는 존재적 수준들에 의해서 규정될 필요는 없다. Rohrlich (1997), p. S347 부분-전체 관계를 맺지 않는 이론 사이에도 서로 다른 인지적 수준이 존재할 수 있다. 예를 들어, 중력은 뉴턴적 수준(힘)에서도 또는 아인슈타인적 수준(시공간의 곡률)에서도 이해될 수 있다. 그리고 뉴턴 중력 이론과 일반 상대성 이론은 부분-전체 관계를 맺고 있지 않다. 그럼에도 두 이론은 인지적으로 완전히 다른 수준에 속해 있다.
한편, 롤리히는 여러 논문들(1988, 1994, 1997)에서 인지적 수준을 <높은수준/낮은수준> 또는 <거친수준/고운수준> 등 여러 구분법을 사용함으로써 혼동을 야기하고 있다. 특히 <높은수준/낮은수준>의 구분은 인지적 수준의 의미를 정확하게 표현해내지 못하며 오해를 초래할 소지가 다분하다. 이후 혼동을 줄이기 위해, 용어를 통일할 필요가 있다. 내가 보기에 인지적 수준은 인지적 접근도에 따라 <얕은(가까운)수준/깊은(먼)수준>으로 나누거나, 인지적 상태에 따라 <거친(coarse)수준/고운(fine)수준>으로 나누는 것이 적절해 보인다. 이후부터는 인지적 수준을 <얕은수준/깊은수준>으로 통일적으로 구분하여 쓸 것이다.

3. 과학적 물음에 대한 설명과 이해

과학적 설명이라고 하면, 보통 헴펠(Hempel)의 DN 모형이 떠오른다. 그러나 단순한 연역적 설명 과정에서는 이해가 자동적으로 따라오지 않는다. 다음의 예를 보자.
(Q) 구리는 열에 의해 팽창한다. 왜 그러한가? (a) 모든 금속은 열에 의해 팽창한다. (b) 구리는 금속이다. (c) 따라서 구리는 열에 의해 팽창한다.
위의 설명과정에서 이해가 발생했는가? 롤리히에 의하면, ‘왜’ 또는 ‘어떻게’라는 질문은 보통 인과적 메커니즘을 묻고 있는데, 위의 설명은 원인에 대한 아무런 해명도 제공해주지 않고 있기 때문에 이해가 발생하지 않는다고 말한다. Rohrlich (1994), pp. 70-71
롤리히의 논의에 덧붙여, 어떠한 현상에 대한 인과적 메커니즘의 해명은 언제나 현상 그 자체에는 없는 새로운 요소의 도입을 필요로 한다. 자기 자신이 스스로의 원인이 될 수는 없기 때문이다. 위의 예에서, ‘모든 금속은 열에 의해 팽창한다’는 명제를 ‘구리는 열에 의해 팽창한다. 철도 그렇다. 아연도 그렇다. …’와 똑같거나 혹은 그의 귀납을 통한 명제라고 해석하면, 위의 설명과정은 ‘왜 P인가에 대해 P이기 때문에 P이다’라고 설명한 꼴이다. 예외적으로 위의 설명과정에서 이해가 발생한다고 생각하는 사람이 있을 수 있다. 이 경우, 그는 위의 명제들을 다른 방식으로 해석해야 한다. (a)의 명제 ‘모든 금속은 열에 의해 팽창한다’를 단순한 귀납에 의한 명제가 아니라 ‘금속이란 특정한 구조를 가진 물질로서 그 구조에 따르면 금속은 열의 의해 팽창할 수밖에 없다’는 의미를 함축하고 있는 명제라고 해석하는 사람이 있다면, 그에게는 위의 설명과정이 이해를 동반한다고 생각할지도 모른다. 왜냐하면, 그에게는 구리가 금속이라는 점이 그것이 열에 의해 팽창하는 이유가 되기 때문이다. 물론 그가 암묵적으로 전제하고 있는 금속에 대한 개념이 명시적으로 서술된다면, 그 경우에는 거의 모든 사람에게 이해를 제공해주는 충분한 설명이 될 수 있을 것이다.  
이번엔 좀더 전형적인 사례분석을 통해 이해가 정확히 어느 지점에서 발생하는지 확실히 짚고 넘어가고자 한다. 케플러의 법칙들이 뉴턴의 중력 이론에 의해 설명되는 경우, 현상론적인 이상기체 상태방정식이 기체분자들의 운동학 이론(kinetic theory) 이를 통계역학으로 착각하는 경우가 많은데, 이는 통계역학의 가장 초보적인 형태에 불과하다. 이 이론은 기체분자들의 무작위적인 3차원 운동을 가정하여 분자들의 평균운동에너지와 압력 및 부피의 관계를 얻어내며, 그 이후 분자들의 평균운동에너지를 온도와 대응시킴으로써(교량법칙) 이상기체 상태방정식을 도출해낸다. 진정한 의미의 통계역학은 멕스웰, 볼츠만에 이르러서야 완성되며, 기체분자의 운동학 이론과는 사뭇 다른 형태의 이론을 구성한다. Brush (1976) 참고에 의해 설명되는 경우, 기하 광학 이론이 전자기 이론에 의해 설명되는 경우 등이 대표적으로 많이 언급되는 전형적인 사례로 볼 수 있다. 이들은 흔히 많은 환원 논의에서 법칙의 환원으로 불린다. 그러나 롤리히는 법칙과 이론을 엄격하게 구분해야 하며, 법칙의 이론을 통한 설명은 환원이라기보다는 현상의 이론을 통한 설명에 가깝다고 말한다. 롤리히에 의하면, 법칙은 (x)(Fx→Gx)의 형태의 명제이지만, 이론은 법칙뿐만 아니라 의미론, 존재론, 원리, 타당성 영역 등을 가진 복잡한 구조(scheme)이다. 이렇게 이론과 법칙을 구분하는 이유는 이후 4절의 마지막 부분에서 해명될 것이다. Rohrlich (1988), Rohrlich (1994) 참고
그 중 케플러 제 1법칙의 사례를 자세히 살펴보도록 하자. 먼저 우리가 보통 던지는 질문에서 시작해보자. “지구는 왜 태양을 초점으로 하는 타원궤도를 도는가?”와 같은 질문에 대해 우리는 어떻게 대답을 해야할까? 먼저 케플러의 제 1법칙으로부터 연역적으로 설명할 수 있을 것이다. 그러나 위에서도 언급했듯이 이러한 설명방식은 인과적 메커니즘을 제공하지 않으며 이해를 발생시키지 않는다. 또한 케플러의 제 1법칙은 단순한 귀납적 추정에 불과하기 때문에, 아직까지 관찰하지 못한 새로운 행성이 관찰되어 법칙을 따르지 않을 가능성을 배제할 수 없다. 따라서, 케플러의 제 1법칙이 정말 보편적인 법칙으로 확립되길 기대한다면 그것의 인과적 메커니즘을 찾아야 할 것이다. 이것이 이론적 설명의 출발지점이다. 특정한 인과적 메커니즘을 찾는다면 성공이고 못한다면 실패이다.
케플러의 제 1법칙을 설명하기 위해 롤리히는 세가지 단계가 필요하다고 말한다. Rohrlich (1994), pp. 71-73 첫째, 이론을 선택해야 한다. 우리는 뉴턴의 중력 이론을 선택할 수도 있고, 아인슈타인의 일반 상대성 이론을 선택할 수도 있다. 위에서 언급했지만, 뉴턴의 중력 이론과 아인슈타인의 일반 상대성 이론은 인지적 수준이 다르다. 여기서 이론을 선택한다는 것은 이론 내의 법칙들뿐만 아니라 그것이 함축하고 있는 의미론, 존재론 등을 모두 선택한다는 의미이다. 일단 뉴턴의 중력 이론을 선택했다고 하자. 둘째, 모형을 구성해야 한다. 여기서는 질점(point mass)으로 이상화된(idealized) 태양과 하나의 행성만이 있는 모형을 고려하면 된다. 셋째, 추론과정이 필요하다. 이는 수학적이고 논리적인 추론과정으로, 우리는 주어진 모형 하에서 케플러의 제 2법칙을 수학적으로 도출해 낼 수 있다.
모형 하에서의 수학적 도출과정만을 고려하면, 케플러 제 1법칙을 뉴턴의 이론으로 설명하는 과정은 다분히 형식적인 과정으로만 여겨질 수 있다. 그러나 롤리히는 이러한 형식적인 과정에 (뉴턴 동역학적인 인지 수준에서) 세계가 어떻게 작동하는가에 대한 질적인 그림(qualitative picture)이 숨겨져 있다고 말한다. Rohrlich (1994), p. 72 뉴턴 동역학이 기반하고 있는 인지적 수준에서, 힘(force)은 물체의 운동 변화의 원인(운동의 제1,2법칙)으로 작동한다. 즉, 뉴턴 이론을 통한 설명과정에서 인과적 메커니즘은 바로 뉴턴의 운동법칙에 함축되어 함께 제공되는 것이다. 그리고 이해는 그러한 인과적 메커니즘을 깨닫는 순간 발생한다. 수식과 기호들의 형식 그 자체에서는 ‘왜’라는 질문도 그에 대한 답도 영원히 등장하지 않는다. ‘왜’라는 질문의 답은 오직 그것들의 의미를 해석하는 과정에서만  나올 수 있다. 이론의 선택이 이론 내의 법칙들뿐만 아니라 그것이 함축하고 있는 의미론, 존재론 등을 모두 선택하는 것이라고 했던 이유는 바로 이러한 상황을 염두에 두었던 것이다.
결론적으로, 연역적 설명이 곧장 이해를 동반하는 것은 아니다. 또한 이해는 연역의 형식적인 과정보다는 오히려 비형식적인 부분에 의존한다. 이해는 완전히 형식논리적인 형태에서는 발생하지 않으며, 오히려 그것의 의미를 해석하는 과정에서 발생한다. 그리고 그 의미를 해석하는 과정에서 만족스런 인과적인 메커니즘이나 개연적인 스토리를 찾을 수 없는 한, 이해는 동반되지 않는다.
더 나아가, 연역적 설명은 이해의 필요조건도 아니라는 점을 이야기할 필요가 있다. 예를 들어, A는 P의 성질을 띠고 있다. B도 P의 성질을 띠고 있다. 그런데 B의 P라는 성질은 특정한 인과적 메커니즘이 작동한 결과이다. 이 경우, 우리는 A가 P의 성질을 띠는 이유도 B의 메커니즘과 유사할 것이라 짐작하곤 한다. 이러한 유비에 기초한 설명은 대부분의 환원적 설명의 마무리를 담당하며, 이에 대해서는 4절의 NGT와 EGT의 관계에 대한 분석을 참고하시오 또한 모든 과학적 설명의 마무리를 담당한다. 다음을 생각해 보자.
애초에 던졌던 “왜 지구는 태양을 초점으로 하는 타원궤도를 도는가?”라는 질문에 완전하게 대답하기 위해서는 롤리히가 제시한 3단계에 추가적으로 1단계가 더 필요하다. 추가적으로 필요한 마지막 1단계는 모형과 현실세계와의 연결이다. 애초의 질문은 현실세계 여기서 현실세계란 이중의 의미를 가진다. “왜 지구는 태양을 초점으로 하는 타원궤도를 도는가?”라는 질문은 일상적인 인지적 수준에서 던진 질문임과 동시에, 실재하는 세계를 염두에 둔 질문이기도 하기 때문이다. 그런데, 뉴턴 이론의 인지적 수준은 일상적인 인지적 수준 사이에는 그리 큰 간극이 존재하는 것은 아니다.(엄밀히 따지면 차이가 없는 것은 아니다) 따라서 지금의 질문과 관련해서는, 뉴턴 이론의 모형과 실재하는 세계 사이의 연결만이 중요한 문제가 된다.에 대한 물음이었다. 그러나 뉴턴 이론에 기반한 모형과 추론규칙을 통해 도출한 결과는 여전히 모형을 벗어나지 못했다. 따라서 모형에서 현실세계로 돌아오기 전까지는 설명이 완결되지 않는다.
3단계를 거친 설명의 결과가 여전히 모형을 벗어나지 못했다는 것은, 너무 단순한 모형을 채택했기 때문만은 아니다. 달과 나머지 여덟 행성을 추가하고, 더 나아가 전체 우주의 모든 물질들을 대입한다고 하더라도 여전히 모형이라는 혐의는 벗기 어렵다. 이론의 완전한 참을 확신할 수 없는 한, 그 이론에 기반한 모형이 현실세계 자체와 동일시될 수는 없다. 뉴턴 이론 내의 관계식들과 물리량 및 힘, 질량 등이 개념이 실재하는 현실세계 그 자체와 ‘정확히’ 같다고 생각할 이유는 어디에도 없다. 뉴턴 이론에 포함되어 있는 관계식, 물리량, 힘, 질량 등은 ‘추상적인 개념들 및 그들 사이의 규칙’이며, 추상적 개념과 실재하는 현실세계와의 연결은 논리적이라기보다는 직관적이다. 이러한 의미에서, 설명에 사용된 뉴턴의 이론 대신 아인슈타인의 이론을 사용한다고 해도 사태는 달라지지 않는다. 이와 관련된 논의는 Bridgman (1951) 참고 더군다나 뉴턴 이론은 이미 반증된 이론이다. 이러한 상황에서 우리는 보통 ‘모형이 (완전하진 않지만 일정정도) 현실세계를 반영한다’는 직관에 의존하게 마련이다. 그리고 이 직관은 모형과 일상적인 수준에서 파악한 현실세계와의 유사성에 대한 믿음에 의존한다. 따라서, 완전한 설명은 불만족스럽더라도 “현실세계도 모형의 인과적 메커니즘과 유사하게 작동할 것이다”로 마무리될 수밖에 없다.
이러한 불만족스러움은 우리의 인식론적 한계에 기인한다. 우리는 대상을 보고 순식간에 그 ‘본질’을 꿰뚫을 수 있는 능력을 타고나지 않았다. 우리는 다만 현상을 통해서만 대상의 본질을 간접적으로 파악할 수 있을 뿐이다. 또한 그렇게 알아낸 본질이 정말 대상의 본질인지를 검증하는 완벽한 방법도 존재하지 않는다. 우리가 파악한 본질을 검증하기 위해, 우리는 다시 현상적인 영역을 거쳐야만 한다. 이러한 검증 방법이 완전할 리는 만무하다. 즉, 아무리 현상적인 영역에서 설명과 예측력이 뛰어난 이론이라 할지라도, 그 이론이 그리고 있는 개념적인 세계가 현실세계의 참모습인지는 확신할 도리가 없다는 것이다.
한편, 우리가 파악해 낸 (불완전한) 본질은 보통 개념체계의 형태로 변환되는데, 이 불완전한 개념체계는 다시 대상의 이해에 필수적인 요소가 된다. 이러한 기반 위에서 우리가 세계를 어떻게든 이해하고자 한다면, 이론이 그리고 있는 개념적인 세계와 실재하는 세계를 ‘직관적으로’ 연결하는 방법 외에는 없다. 브리지만은 수학이 실세계와 완전하게 대응한다고 생각하는 것은 잘못이라 지적한다. 그는 수학을 세계에 적용할 때에는 언제나 논리적 비약(jump)이 불가피하며, 그 적용에 엄격한 정당화는 존재하지 않는다고 말했다. Bridgman (1951) 보통 일상적인 수준 또는 뉴턴적인 수준의 개념체계와 실재하는 현실세계와의 연결은 너무 당연해 보이기 때문에, 둘 사이에 간극이 있다는 것을 미쳐 깨닫지 못하는 경우가 많지만, 양자역학과 같은 깊은 수준의 개념체계에 이르면 이를 실재하는 현실세계와 연결하는 일은 간단한 직관에 의해 이루어지지 않는다. 현상적인 수준에서 너무 멀어지면 현상을 통해서만 파악할 수 있는 실재의 모습과도 멀어지는 듯한 인상을 주기 때문이다. 이에 대한 자세한 논의는 5절에서 하도록 하겠다.

4. 이론간 환원과 인지적 창발

이 절에서는, 지금까지의 논의를 기반으로 이론간 환원의 ‘과정’에서 벌어지는 일들을 논의하려 하며, 그 과정을 ‘인지적 창발(cognitive emergence)’이라는 개념을 이용하여 재해석하려 한다.
환원과 관련하여 여기서는 성숙한(mature) 이론 또는 확립된(established) 이론에 대해서만 다룰 것이다. 롤리히에 의하면, 이론은 ‘수용된 이론’, ‘성숙한 이론’, ‘확립된 이론’으로 구분한다. 이론이 수용된 이후, 수학적으로 정교화되고, 많은 증거로부터 경험적으로 뒷받침되고, 다른 이론들과의 정합성이 인정되면 그 이론은 성숙한 이론이 된다. 이 성숙한 이론이 그의 타당성 한계가 알려질 때, 그 이론은 확립된 이론이 된다. 현재의 뉴턴 역학은 확립된 이론으로 볼 수 있으며, 양자 역학이나 상대성 이론은 성숙한 이론으로 볼 수 있다. Rohrlich (1988) 참고 현재의 과학 연구 활동뿐만 아니라 과학 학습 과정에서조차 완전히 사라져버린 플로지스톤 이론이나 악귀 이론과 같은 것들은 취급하지 않겠다는 것이며, 처칠랜드는 이러한 이론들도 제거적으로 환원된 경우로 보고 있다. 처칠랜드는 환원의 스펙트럼이 매우 ‘부드러운(smooth) 환원’에서부터 매우 ’엉성한(bumpy)‘한 환원까지 다양하며, 환원관계에서 동일시가 꼭 필요한 것은 아니라고 말한다. 플로지스톤 이론이나 악귀 이론의 경우, 현재의 이론에서 플로지스톤이나 악귀와 동일시할 수 있는 무언가는 필요하지 않으며, 그냥 그러한 것은 없다고 말하는 것이 낫다고 말한다. Churchland, Patricia (1986) 참고 처칠랜드의 용어를 사용하자면, ― 적어도 한계조건, 극한 가정 및 교량원리 등에 의해 두 이론이 연결될 수 있는 ― 부드러운(smooth) 환원에 대해서만 다룰 것이다.
환원의 과정을 인지적 창발의 개념으로 재해석하기 위해서는, 우선 인지적 창발(cognitive emergence)이란 개념을 정확히 정의할 필요가 있다. 롤리히에 의하면, ‘인지적 창발’은 다음과 같이 정의된다.
정의 : 개념 X의 인지적 창발이란, 주어진 인지적 수준에서 출발하여, (a) X가 연상될 것이라 기대되지 않았고 (b) X는 더 높은 인지적 수준에 속해 있으며, (c) X는 출발한 수준과 공약불가능함에도, X가 연상되는 정신적 과정이다. Rohrlich (1997), p. S350, 앞에서 지적하였지만, 여기서 ‘높은수준’이란 ‘얕은수준’과 동일한 의미이다.
예를 들어 종이에 여러 개의 점들이 분포되어 있다고 하자. 그것을 아주 가까이에서 볼 때는 점들의 분포로밖에 보이지 않겠지만, 점점 거리를 두다 보면 어느 순간 명암이 인식되고, 더 거리를 두다 보면 어느 순간 (예컨대) 링컨의 얼굴이 인식된다. 여기서 점의 분포는 절대 명암 또는 링컨의 얼굴이라는 일상적인 개념을 알려주지 않는다. 그럼에도, 대상에 대해 거리를 점점 두는 연속적인 과정에서 대상에 대한 질적으로 다른 여러 개의 인식결과를 얻게 된다. Rohrlich (1997), p. S349 이러한 과정이 바로 인지적 창발이다.
인지적 창발은 (직관적인) 연상작용(closure)에 의존한다. 즉, 깊은 인지적 수준으로부터 얕은 인지적 수준의 개념이 창발된다는 것은, 깊은 수준에서의 세밀한(fine) 인식 결과를 거칠게(coarsely) 뭉뚱그려서 보거나 혹은 색다른 측면에서 볼 때, 그와 유사하게 보이는 얕은 수준의 특정 개념이 직관적으로 연상된다는 것이다. 이를 위해서는 얕은 수준의 특정 개념을 사전에 알고 있을 필요가 있다. 얕은 수준의 특정 개념을 모르는 상태에서 그것을 연상해낼 수는 없기 때문이다.
이제 흔히 환원이라 여겨지는 과정을 인지적 창발의 개념으로 재해석해 보도록 하겠다.
뉴턴의 중력 이론(NGT)은 아인슈탄인의 중력 이론(EGT)의 사례를 살펴보자. 아래의 수학적인 과정 서술은 Rohrlich (1997) pp. S350-S354를 요약한 것이다. NGT는 EGT의 극한 연산에 의해 도출된다고 알려져 있다. 그런데, NGT와 EGT의 인지적 수준은 완전히 다르다. EGT는 중력에 대한 기하학적 해석을 제공한다. 즉, 질량들(masses)은 4차원 시공간의 곡률(curvature)을 만들어내고, 을 제외한 모든 질량들에 의해 만들어진 곡률은 의 궤도(trajectory)를 결정한다. 반면, NGT에서는, 질량들은 주어진 평평한 시공간(flat spacetime)에 그냥 존재하며, 서로가 서로를 직선적으로 잡아당긴다. 즉, 만유인력에 의해 특성화된 인력은 3차원 유클리드 공간의 원거리에서 작용하는 벡터이며, 그 벡터작용을 받는 은 뉴턴의 운동방정식에 의해 그 운동이 결정된다. 특히, EGT의 시공간의 곡률(curvature)과 NGT의 힘(force)은 공약불가능하다. 두 이론의 순수한 형태에서 볼 때, 시공간의 곡률은 NGT의 개념이 아니고, 힘은 EGT의 개념이 아니다. 그렇다면, 어떻게 EGT로부터 NGT가 도출될 수 있으며, 더군다나 곡률과 힘과 같은 공약불가능한 용어 사이의 인지적 간극이 어떻게 연결될 수 있는가? 과학자들은 둘을 쉽게 ‘교잡(hybrid)’할 수 있으며, 필요에 따라 둘 사이를 자유롭게 넘나든다. 이제 그 과정을 살펴보자.
EGT와 NGT에는 각각 근본적인 방정식이 두 개씩 있다. EGT의 경우엔, 장 방정식(질량들의 분포로부터 시공간의 곡률 결정)과 최단거리(geodesic) 방정식(주어진 곡률에서 특정 물체(test mass)의 운동 결정)이 있다. NGT의 경우엔, 수학적으로 포아송 방정식으로 형태를 띤 중력 위치에너지 방정식(중력은 중력 위치에너지 방정식으로부터 간단하게 도출됨)과 운동방정식(주어진 중력으로부터 물체의 운동 결정)이 있다.
EGT에서 NGT로의 수학적 도출과정에서, 질량(masses)의 정지에너지에 비해 전체에너지가 작다는 가정이 필요하며, 이 가정은 휘어진 시공간이 평평한 시공간과 크게 다르지 않다는 것을 함축한다. 수학적 근사에 의해, EGT의 첫 번째 장 방정식은 다음과 같은 간단한 포아송 방정식을 산출한다.
여기서 G는 중력 상수를 뜻하고, 는 질량밀도를 뜻한다.          (1)
그런데 이 방정식은 물리학자들에게 잘 알려진 NGT의 위치에너지 방정식을 연상시킨다.
여기서 는 중력 위치에너지를 뜻한다.        (2)
이 순간, 환원주의자는 갑자기 자신이 EGT로부터 NGT의 방정식을 도출했다는 것을 깨닫는다. 그러나 환원을 위해서는 에 대한 새로운 해석을 주는 일이 필요하다. 즉, 라는 동일시(identify)가 필요하다. 환원주의자의 용어에 의해 ‘교량법칙(bridge law)’이라 불리는 이러한 동일시는 전적으로 자의적(ad hoc)으로 보인다.
EGT의 두 번째 최단거리(geodesic) 방정식에 대해서도 같은 시도를 해보자. EGT의 최단거리 방정식은 위와 같은 가정에 의해 아래의 간단한 방정식이 만들어진다.
                (3)
이 방정식 또한 NGT의 유사한 방정식을 연상시킨다.
                (4)
EGT의 첫 번째 방정식에서와 같이, 환원을 위해서는 이라는 재해석의 과정이 필요한데, 이 과정 역시 두 공약불가능한 개념들을 연결하는 자의적인(ad hoc) 동일시에 불과해 보인다. 여기까지는 롤리히의 글을 요약한 것이며, 아래부터 나의 생각이다.
엄밀히 말해, 위의 수학적 과정에서, EGT의 뭉뚱그려진 방정식은 그와 유사한 NGT의 방정식을 연상시켰을 뿐이며, 따라서 둘은 직관적인 수준에서만 연결된다. 여기서 두 이론이 논리적으로 연결된다거나 EGT가 NGT를 설명한다고 하는 것은 위의 과정을 결과적인 측면에서만 볼 때에 드는 착각이다.
그럼에도, 위의 과정은 특정한 이해를 산출한다. NGT에서 제기될 수 있는 “왜 모든 물체는 서로를 잡아당기는가?”라는 질문에 대해, EGT는 ‘동어반복적이지 않은’ 새로운 차원의 ― 물질과 4차원 시공간의 관계에 의한 ― 개연적인 스토리를 제공해준다고 할 수 있다. 그러한 설명이 가능해지는 이유는 역설적으로 NGT와 EGT가 공약불가능한 다른 인지적 수준에 있기 때문이다.
NGT 내에서는 ‘중력의 원인’이 절대 해명될 수 없다. NGT의 중력법칙은 이론 내에 내장된 인과원리의 종착점이기 때문에, NGT로서는 중력의 원인에 대해 동어반복적인 설명(P이므로 P이다)만 할 수 있을 뿐이다. 결국, 중력의 원인을 해명하기 위해서는 다른 인과원리를 가진 이론이 반드시 필요하다. 그러하기에, 명백히 다른 인과적 메커니즘을 내장하고 있는 EGT는 NGT에 등장하는 ‘중력’의 원인을 해명하는데 성공할 수 있는 것이다. 단, 두 이론은 여전히 직관적으로만 연결되어 있을 뿐이며, EGT의 ‘중력’에 대한 설명은 EGT의 방정식과 NGT의 방정식의 유사성에 의존해 이루어진다. 여기서 조심해야할 부분은 EGT가 설명한 것은 뉴턴 중력 ‘이론’이 아니라, ‘중력이 왜 발생하는 원인’ 뿐이다.
결론적으로, NGT는 EGT에 의해 환원된다기보다는, 인지적으로 창발된다. EGT가 한계조건, 극한가정 및 교량법칙을 통해 NGT를 환원한다고 많은 사람들이 얘기한다. 그러나 그러한 환원은 결과적으로 보이는 수학적 도식 상에서만 그러하다. 특히, EGT의 뭉뚱그려진 방정식과 NGT의 방정식을 비교함으로써만 떠오를 수 있는 교량법칙을 NGT의 도출을 위한 보조가설이라고 말하는 것은, 실제의 사고 과정을 완전히 거꾸로 만듦으로써, 인간의 사고과정에 대한 오해를 초래한다.
인지적 창발에 대한 이해를 높이기 위해서 한 가지 재밌는 사례를 간단하게 살펴보는 것이 좋겠다. 통계역학과 열역학의 관계에 대해서 살펴볼 것이다. 다음을 보자. 아래의 수학적 과정은 Rohrlich (1997) pp. S354-355에서 참조했다. 볼츠만의 유명한 공식 (5)를 미분하면 (6)의 식이 나오며,
                        (5)
        (6)
(6)의 식을 보는 순간, 그와 유사한 다음의 열역학 공식이 연상되게 마련이다.
                        (7)
그러면, 자연스럽게 다음의 식이 있으면 좋겠다는 생각이 들 것이다.
                (8)
위의 과정은 EGT와 NGT의 사례에서처럼 연상작용에 의한 인지적 창발의 과정으로 이해될 수 있다. 또한 많은 이들이 지적해 왔지만, (8)에 등장하는 온도 와 압력 는 열역학 내에서 가졌던 의미와 다른 의미를 가지게 된다. 인지적 창발 과정과 더불어 그에 덧붙여지는 해석 과정에서 얕은 이론 내에 있던 개념이 의미 변화(switch)를 겪게 된다는 것이다. 이러한 점은 그동안 많은 철학자들에 의해 지적되어 온 것이기 때문에 상술은 생략하겠다. Feyerabend (1962), Rohrlich (1997) 참고
이와 더불어 내가 더 지적하고 싶은 부분은, 위의 과정에 의해 어떻게 가역적인 미시상태으로부터 비가역적인 거시상태에 대한 설명이 가능해지는가에 대한 부분이다. 2절에서 이미 언급했지만, 미시수준에서는 개별 분자들의 역학적 상태만을 다루는 가역적인 개념체계를 구성하지만, 거시수준에서는 온도, 엔트로피 등을 다루는 비가역적인 개념체계를 구성한다. 둘의 질적인 간극을 어떻게 메울 것인가. 이 작업의 핵심은 바로 미시적 상태에 대한 확률적 해석에 있다. 나정민 (2004) pp. 31-32, 41-42 참고 EGT가 한계 조건과 극한 가정을 통해 자신을 뭉뚱그릴 때 비로소 NGT가 연상될 수 있듯이, 미시상태에 대한 역학 이론은 확률적으로 뭉뚱그릴 때 ― 이것이 바로 통계역학 ― 비로소 거시상태의 비가역성을 연상할 수 있게 되는 것이다. 이러한 논의는 재밌는 함축을 담고 있다. 인지적으로 얕은 수준의 의미들은 인지적으로 깊은 수준의 모든 세밀한 사항들을 보려고 하면 나타나지 않고, 오히려 그것의 뭉뚱그림을 통해서만 나타난다는 점이다. 데이터의 정확한 나열에서는 아무런 의미도 나타나지 않는다. 케플러가 브라헤의 관측 데이터를 완전하게 살려가면서 일반화를 하려 했다면 그의 세가지 법칙은 영영 세상의 빛을 볼 수 없었을 것이다. 그가 타원궤도를 얻어낼 수 있었던 것은 오히려 데이터들을 뭉뚱그렸기 때문이다. 한편, 우리가 대상으로부터 추상적인 개념을 뽑아내는 작업은 항상 단순화, 이상화(idealization)와 연결된다는 점을 상기해보는 것도 좋겠다. 어쩌면 이러한 모든 것이 우리의 인식론적 특성에 기인하는 것으로도 보여진다. 그러나 이에 대한 자세한 논의는 이 논문의 범위를 벗어나므로 짧게 마치겠다.
두가지 사례에 대한 분석에서 보듯이, 얕은 수준의 이론에서 제기되는 ‘궁극적인 물음’ 해당 이론이 제공하는 인과적 메커니즘의 종착점에서 제기되는 질문을 일컫는다.은 보다 깊은 수준의 이론에 의해서 설명될 수 있으며, 보다 깊은 수준의 이론에 의해 이해의 폭이 넓어진다는 것은 부정할 수 없는 사실이다. 그러나 이를 환원이라 부르는 것이 적절치 못하다는 것은 이미 사례 분석 과정에서 밝혔다. 그렇다면 이를 어떻게 보아야 할 것인가. 롤리히는 ‘환원’과 ‘환원적 설명’을 구분함으로써 이를 해결한다. 즉 한 이론이 다른 이론에 의해 설명된다고 주장하는 ‘환원’은 불가능하지만, 한 이론에서 제기되는 ― 속성, 현상, 법칙에 대한 ― 물음들이 다른 이론에 의해 설명될 수는 있다는 것이다. Rohrlich (1997), p. S356-S357 나는 롤리히의 주장이 지극히 타당하다고 여겨진다.

5. 깊은 인지적 수준의 이론에 대한 해석의 문제

이 글의 서두에서 문제제기했던 부분을 이제야 다룰 수 있을 것 같다. 서두에서 문제제기를 했던 것처럼 양자역학을 해석하는 일은 현재에도 많은 물리학자와 철학자들의 논란거리가 되며, 양자역학적 상태 에 대한 해석은 그 수학적 구조가 완성된지 70년이 지난 지금까지도 합의되지 않고 있다. 왜 이러한 문제가 발생하는가?
흔히 이론내의 개념들은 이론 내의 맥락 속에서만 이해될 수 있다고 말한다. 뉴턴 역학에 등장하는 질량, 힘의 의미는 뉴턴 역학의 수학적 구조 등 전체 이론 내의 맥락 속에서만 정확히 이해될 수 있으며, 마찬가지로 양자역학에 나오는 ‘양자역학적 상태’의 의미는 양자역학의 수학적 구조 등 전체 이론의 맥락 내에서만 정확히 이해될 수 있다. 이와 관련된 내용은 Bridgman (1951) 참고.
그러나 ‘상태’ 를 말로 표현하려 하거나, 가시적인 무언가로 나타내려고 하면, 무척 난감해진다. 그렇게 하려는 순간 상태의 의미가 왜곡될 수 있기 때문이다. 한편, 양자역학의 특별한 난제는 양자역학적 상태가 현실에서 절대 관측될 수가 없다는 점에서 기인한다. 따라서, 양자역학에서는 ‘상태’와 현상(물리량의 관측)을 잇는 이른바 해석규칙이 필요해진다. 그런데, 실제로 관측되는 물리량이란 것은 입자적인 위치와 운동량이거나 파동적인 진동수와 파장이다.
따라서 우리는 양자역학적 상태를 머리 속에서 그려보고자(visualizing) 할 때 항상 입자와 파동이 맴돌게 되는 상황에 맞닥뜨리게 된다. 이것이 바로, 양자역학적 상태를 ‘파동과 입자의 중첩 상태’로 도식화한 보어의 상보성 원리가 처한 상황이라 할 수 있다.
그러나 엄밀히 말해, 양자역학적 상태는 파동도 입자도 아닌 무언가이며, 대상이 물리량을 지닌다는 관념 자체가 문제일 수 있다. 장회익은 보어의 상보성 원리가 봉합 이론에 불과하며, 오히려 지적 혼란을 부추기는 결과를 초래했다고 말한다. 장회익 (2003), pp. 102-103 참고 그러나 이 말이 무엇을 의미하는지를 정확히 이해하기 위해서는 먼저 고전 역학적인 입자와 파동의 개념을 이해하고 난 후, 다시 이를 부정해야만 하는 과정이 반드시 필요하다. 즉 양자역학에 대한 이해는 그 이론 자체만으로는 불가능하고, 오직 ‘잘못된’ 고전 역학과의 비교 및 부정을 통해서만 가능하다는 것이다. 알고 보면, 이러한 사태는 상당히 흔한 일이다. 인간은 생소한 개념을 접하면 일단 자신이 일상적으로 사용하던 의심스럽지 않은 언어를 통해 이해하려 하거나, 시각적인(visual) 증거를 통해 이해하고자 하는 경향도 가지고 있다. 또한 인간은 어떠한 대상에 대해 그것과 비교할 수 있는 것이 있으면 훨씬 수월하게 이해를 하곤 한다. 물론 이러한 이해 방식이 애초에 이해하려 했던 개념의 의미를 왜곡시킬 수 있긴 하다. 그렇지만, 만약 왜곡된 이해의 상황에서 그것의 한계를 느끼고 그것을 뛰어넘는 데 성공한다면, 비로소 진정한 이해를 얻을 수 있을 것이다.
한편, 보다 깊은 수준의 이론이 꼭 실재와 가까워지는 것은 아니다. 양자역학이 고전역학에 비해 보다 추상적이고 보다 보편적이고 보다 예측력이 뛰어남에도, 실재와 가까워졌다는 직관이 생기진 않는다. 우리는 항상 세계의 본질 또는 실재를 현상에 대한 관찰을 통해서만 파악할 수 있는데, 양자역학은 오히려 그러한 현상관찰의 수준과 너무 멀어졌기 때문이다. 한편, 우리가 일상적인 수준에서 던진 질문을, 양자역학적으로 설명하려 한다면, 설명결과(슈뢰딩거 방정식의 해)를 일상적인 언어로 해석이 뒤따라야 한다. 따라서 그 해석에는 계속 고전 역학 등의 일상적인 수준에 가까운 이론들이 항상 개입될 수밖에 없다.
즉, 고전 역학은 양자역학이나 상대성 이론이 등장한 이후에도, 버려지지 않고 여전히 자신의 역할을 다 하고 있다. 고전 역학은 양자역학이나 상대성 이론의 등장으로 자신의 타당성 한계를 명확히 규정받게 되었지만, 타당성 한계 내에서는 오히려 전보다 믿음직스러워졌다. 즉, 확립된 이론으로서의 고전 역학은 여전히 많은 현상에 대한 과학적 설명의 도구로서 자신의 역할을 충실히 수행하고 있으며, 보다 깊은 이론에 대한 이해로 진입하는 관문으로서 또는 보다 깊은 이론의 일상적인 수준으로의 해석장치로서의 역할도 수행하고 있다. 이같은 상황을 종합해볼 때, 고전역학 등의 얕은 수준의 이론들은 과학으로서의 지위를 지금도 유지하고 있으며 앞으로도 계속 유지할 것으로 예견된다.

6. 결론

이상의 논의를 통해, 언젠가는 더 근본적인 이론이 덜 근본적인 이론들을 모두 환원 또는 대체할 수 있으며, 궁극적으로는 가장 근본적인 이론만이 진정 과학으로서의 지위를 갖게 되고 나머지는 과학으로서의 지위를 갖고, 나머지는 과학으로서의 지위를 빼앗길 것이라는 주장은 정당화되기 어렵다.
인간의 인식론적 본성 또는 한계로 인해, 우리는 다층적인 인지적 수준 모두를 필요로 한다. 그리고 각 수준에 기반한 이론들은 각기 세계의 다른 측면들을 표상하면서 서로를 보완해주는 역할을 한다. Rohrlich (1994), p. 76
또한 흔히 이론간 환원이라고 불리는 과정을 세밀히 살펴볼 때, 그 과정은 환원이라기보다는 연상작용에 의한 인지적 창발로 보는 것이 적절하다. 한 이론이 다른 이론을 설명하는 환원은 일어나지 않는다. 엄밀히 말해, 한 이론에서 발생한 질문을 다른 이론에 의해 설명하는 ‘환원적 설명’만 가능할 뿐이다. □

참고문헌

김재권 (1992), “Multiple Realizability and the Metaphysics of Reduction”, Philosophy and Phenomenological Research 52: pp. 1-26
김재권 (1998), “Chapter 4. Reduction and Reductonism: A New Look”, Mind iin a Physical World, MIT, pp. 89-120
나정민 (2004), “자연과학 이론들에 나타난 자연관”, 과학철학 7-1, pp. 23-56
이상욱 (2003), “환원주의는 전체론에 밀려날 낡은 패러다임인가?”, 자연과학 15호, pp. 126-137
장회익 (1990), 과학과 메타과학
장회익 (2003), “양자역학은 고전역학을 부정하는가?”, 자연과학 15호, pp. 98-104
Bridgman, P. W. (1951), “The Nature of Some of Our Physical Concepts. I”, BJPS, Vol.1, pp. 257-272
Brush, S. G. (1976), “Statistical Mechanics and the Philosophy of Science: Some Historical Notes”, PSA, pp. 551-584
Churchland, Patricia (1986), Neurophilosophy, pp. 277-367
Feyerabend, P. (1962), “Explanation, Reduction & Empiricism”, MSPS III, pp. 28-97
Nagel, E. (1961), The Structure of Science, pp. 332-365
Oppenheim, P. & Putnam, H. (1958), “Unity of Science as a Working Hypothesis”, MSPS II, pp. 3-36
Rohrlich, F. (1988), “Pluralistic Ontology and Theory Reduction in the Physical Sciences”, BJPS, Vol.39, pp. 295-312
Rohrlich, F. (1994), “Cognitive Emergence”, PS, V.64, pp. S346-S358
Rohrlich, F. (1994), “Scientific Explanation: From Covering Law to Covering Theory”, PSA, pp. 69-77
Sklar, L. (1999), “The Reduction(?) of Thermodynamics to Statistical Mechanics”, Philosophical Studies 95: pp. 187-199

댓글 남기기

이메일은 공개되지 않습니다. 필수 입력창은 * 로 표시되어 있습니다.