개념 체계와 추론에 대한 인지적 접근

정동욱, 「개념체계와 추론에 대한 인지적 접근 : 유사성과 사례/모형 기반 추론을 중심으로」, 『철학연구』 (철학연구회) 142집 (2023년 9월), 1-23쪽.

초록. 토머스 쿤이 남긴 개념체계와 추론에 대한 개요는 인지과학의 성과에 힘입어 더욱 정교한 이론으로 발전했으며, 이러한 인지적 접근은 그동안 해명하기 어려웠던 과학 활동의 동학을 설명하는 데 매우 유용한 틀을 제공하고 있다. 이러한 접근은 그동안 강조되어 왔던 규칙과 정의 및 정언적 합리성의 역할을 축소시키는 한편, 그 자리에 유사관계에 의거한 개념체계와 사례/모형 기반 추론을 채우고, 과학 활동의 핵심에 과학의 ‘내용’이 아닌 과학을 수행하는 ‘인지적 행위자’를 둠으로써, 과학 활동의 양식과 내용의 변화를 유연하게 설명하는 데 상당한 성과를 내고 있다. 그러나 일반적인 인간의 인지적 능력만으로는 과학 연구의 방향이 결정되지 않으며, 그렇기에 부각되는 것이 ‘과학자가 어떤 문제를 풀고 있는가’와 ‘그가 동원할 수 있는 자원이 무엇인가’이다. 이점에서 과학은 경로 의존성을 가지게 되며, 과학의 역사적, 사회적 차원은 과학 활동을 설명하기 위한 중요한 자원이 된다.

주요어. 토머스 쿤, 정상과학, 개념체계, 인지과학, 유사성, 사례 기반 추론, 모형 기반 추론, 패턴매치

A Cognitive Approach to Conceptual Scheme and Reasoning: Focusing on Similarity and Case/Model-Based Reasoning

Abstract. The sketch of conceptual scheme and reasoning drawn by Thomas S. Kuhn became a fine theory supported by recent fruits of cognitive science. The cognitive approach to science, which cuts down the roles of rule and definition, emphasizes the roles of similarity relation and case/model-based reasoning, and puts 'cognitive actors' not 'contents' into the core of scientific practice. In this way, this approach succeeds in flexible explaining the dynamics of scientific practice. However, the direction of scientific research is not solely determined by the general cognitive abilities of humans. Therefore, It should be highlighted "what problems the scientists are trying to solve" and "what resources they can mobilize." In this regard, science acquires path dependence, and the historical and social dimensions of science become important resources for explaining scientific activities.

Keywords. Thomas S. Kuhn, Normal Science, Conceptual Scheme, Cognitive Science, Similarity, Case-Based Reasoning, Model-Based Reasoning, Pattern Match

본문

개념체계와 추론에 대한 인지적 접근

유사성과 사례/모형 기반 추론을 중심으로

정동욱

1. 머리말

토머스 쿤(Thomas S. Kuhn)은 『과학혁명의 구조』에서 개념체계와 추론에 대한 인상적이지만 초보적인 이론을 남겼다. 그가 제안한 개념체계과 추론의 원리는 그의 직관과 경험 및 초보적인 인지 심리학에 의존하고 있었다. 쿤 본인은 당시의 규칙에 편향된 인지과학과 연구의 초보성 때문에 그 길을 꾸준히 밀고 나가길 포기하고 언어적 문제에 관심을 돌리게 되었다. 그러나 인지심리학, 신경과학, 인공지능의 연구에서 괄목할만한 성과가 알려지면서, 80년대 중반부터 쿤의 제안은 집중적으로 재조명받게 되었다.

기어리(Ronald N. Giere), 너세시안(Nancy J. Nersessian), 첸(Xiang Chen), 바커(Peter Barker), 안데르센(Hanne Andersen), 니클즈(Thomas Nickles) 등은 쿤의 초창기 암시적이고 선언적이었던 제안을 명료화하고 엄밀하게 검토하면서 발전적인 통찰을 만들어내고자 노력했으며, 과학사를 통한 인상적인 사례연구들도 제시했다. 이들은 공통적으로, 과학자를 ‘평범한’ 인간의 인지적 능력을 가진 행위자로 보고, 인간이 보편적으로 가진 인지능력이 무엇인지 밝혀내어 그것을 이용해 과학 활동을 묘사하고 설명하는데 주목하고 있다.

이 글에서는 쿤이 제시했던 개념과 추론의 상을 검토해본 후, 인지과학 연구의 성과가 쿤의 설명을 어떻게 뒷받침하고 있는지, 그리고 과학 활동을 묘사하고 설명하는 데 그것이 어떻게 쓰일 수 있는지 살펴볼 것이다. 그리고 그 잠재력과 보완지점에 대한 짧은 코멘트로 글을 마무리할 것이다.

2. 쿤의 개념에 대한 이론과 유사관계

쿤은 과학적 개념들의 의미에 대해 깊은 관심을 가졌다. 그는 기존 과학철학자들의 의미론에 회의적인 입장을 취했고, 독자적으로 개념에 대한 이론을 구축했다. 그의 이론은 분류체계에 대한 이론에 가까웠고, 이는 그의 유명한 공약불가능성 논제로 이어진다. 그의 이론은 완전히 독자적인 것은 아니었다. 『과학혁명의 구조』에서도 언급했듯이, 그는 비트겐슈타인의 ‘가족 유사성’의 원리를 개념체계의 형성에 가장 중요한 원리로 채택했지만, 비트겐슈타인과 달리 그는 유사관계의 인식을 위해 대조집합의 필요성을 추가적으로 강조했다. 한편, 대상의 인식에 모종의 선험적인 범주가 필수적이라는 그의 생각은 칸트로부터 영향을 받았지만, 칸트와 달리 그는 그러한 범주가 가변적이라고 생각했다.

그는 과학적 개념의 본성을 추출해내기 위해 일상적 개념에서부터 출발했다. 또한 과학적 개념의 본성에서 출발하여 과학적 지식의 발전과 변화까지도 설명하고자 했다. 이를 위해, 그는 과학의 실제 학습과정과 일상적인 언어습득 과정에 주목하였고, 범례에 기초한 문제 풀이와 그 과정에서 습득되는 유사관계가 일상적 개념 형성과 과학적 개념 형성에서 핵심적인 역할을 한다고 보았다.

2.1. 일상적 개념

개념은 어떻게 형성되는가? 우선 가위, 책상, 오리 등의 일반명사로 대표되는 종(kind) 개념부터 생각해보자. 어떠한 종의 예들은 동일한(혹은 유사한) 특징들을 공유한다. 그래서 전통적인 과학철학자들은 그 종의 필요충분조건을 통한 정의로 그 종의 개념을 밝히고자 했다. 그러나 학습과정에서 그러한 필요충분조건이 역할을 하는가? 또는 필요한가? 쿤은 이에 대해 회의적이었다.

쿤은 어떠한 종에 대한 개념을 획득하기 위해서는 몇 개의 예시를 통해 그 대상들 간의 유사/비유사 관계를 확인하는 것만으로도 충분하다고 말한다. 그는 어린아이가 다양한 물새들의 개념을 학습하는 과정을 간단하게 보여준다. 동물원의 물새들을 직접 지시하며 ‘저것은 백조야. 이것은 오리야. 또 저것은 거위야’ 하는 훈련만으로도, 아이는 물새들 간의 유사/비유사 관계를 확인함으로써 각 물새들의 개념을 쉽게 터득할 수 있다는 것이다. 이 과정에서 백조에 대한 필요충분조건이나, ‘모든 백조는 희다’와 같은 보편명제는 필요하지 않다.

위와 같은 유사/비유사 관계를 통한 대상의 구분은 세계에 대한 일정한 개념체계와 구조를 형성하는데, 이러한 방식은 다음과 같은 특징을 담고 있다.

첫째, 위와 같은 방식에 의하면 오리, 백조, 거위의 분류에 성공한 사람들이라도 동형의 개념구조를 가질 필연성이 없다. 물새들 간의 분류를 위해 동일한 특징을 뽑아내지 않을 수 있기 때문이다. 우리는 오리와 백조의 구분을 위해 ‘목의 길이’에 주목할 수도 있지만, ‘소리’에 주목할 수도 있다. 이러한 특징 추출에서의 다양성은 비트겐슈타인이나 쿤에게는 별 문제가 되지 않는다. 왜냐하면, 분류에서의 애매하지 않은 합의가 목적이지 동일한 개념구조가 목적이 아니기 때문이다. 내가 보기에 개념 구조의 다양성에 대한 허용은 쿤에게도 환영할 일일 것이라 생각된다. 하나의 개념에 대한 다양한 해석의 가능성은 변화의 잠재력이 될 수 있기 때문이다.

둘째, 유사관계의 획득은 항상 또다른 대상과의 차이의 확인을 동반한다. 모든 것은 모든 것에 유사하다고 할 수 있지만, 반대로 유사하지 않다고도 할 수 있다. 따라서, x’과 x의 유사성은 y와의 차이에 상대적이다. 쿤에 의하면 유사관계를 통한 개념정립은 3자관계이다. 여기서 쿤은 대조집합이라는 개념을 제시한다. 대조집합은 관심대상과 상위개념을 공유하지만, 관심대상과는 특정한 측면에서 차이를 보이는 집합이다. 이러한 대조집합의 도입은 개념간의 위계질서를 함축한다. 즉, 유사관계의 확인은 위계적인 분류체계를 만들어낸다.

셋째, 분류의 성공은 ‘빈 지각 공간(empty perceptual space)’의 확보에 의존한다. 만약 각 개념의 외연이 끝나고 시작하는 지점이 연속적이라면, 유사성에 의한 종 구분은 애매함의 문제에 시달리게 될 것이기 때문이다. 이러한 원리는 최소한 대조집합간의 무중첩(No-overlap)의 원리를 함축한다. 만약 그동안 두 대조집합 사이에 ‘빈 지각 공간’이라고 생각했던 영역에서 새로운 사례가 발견되는 일은 개념체계의 변화와 새로운 개념체계의 재정립을 추동하는 원동력이 된다.

2.2. 이론적 개념

쿤이 유사관계의 파악을 통한 일상적 개념획득 방식을 강조한 이유는, 동일한 방식이 과학의 맥락에서도 적용된다고 보았기 때문이다. 그는 학생들이 과학을 학습하는 과정을 보여준다. 학생들은 범례를 통해 학습하며, 새로운 문제를 접할 때마다 이미 풀었던 문제와 유사하게 보는 방법을 찾음으로써 문제를 해결한다. 이 때 F=ma와 같은 법칙적 표현(law sketch)은 문제들 간의 유사관계를 파악하는 지침으로 이용된다. 이렇듯 문제 상황은 분명 이전 문제와의 유사관계를 통해 파악될 수 있지만, 그 속의 개념들은 어떻게 되는 것일까? 이에 대해 쿤은 “뉴턴의 역학을 공부하는 학생이 ‘힘’, ‘질량’, ‘공간’ 그리고 ‘시간’과 같은 용어의 의미를 깨우치는 경우, 대개 이들 개념을 문제 풀이에 적용시켜서 관찰하고 관여함으로써 알게 되는 것이지, 교재에 실린 불완전하지만 때로는 도움이 되는 정의로부터 터득하는 것은 훨씬 작다”고만 말했을 뿐이다. 당시의 쿤은 ‘유사성에 의한 개념 획득’과 ‘문제 상황과 함께 이루어지는 개념 획득’ 사이에 잠재된 긴장을 인식하지 못한 듯하다.

비판가들은 이 점을 파고들었다. 힘, 질량 등의 이론적 개념들은 오리, 거위 등의 일상적 개념들과 달리 직접적인 지시나 유사관계를 통해 획득될 수 없다. 즉, 쿤이 일상적 개념과 이론적 개념 사이의 차이를 경시했다는 것이다. 쿤은 이러한 비판을 수용하면서, 법칙적(nomic) 개념과 일상적(normic) 개념의 구분을 제시한다. 법칙적 개념은 힘, 질량 등의 이론적 개념과 유사한데, ‘일반화가 예외 없는 자연법칙적인 개념들’을 지칭한다. 너세시안에 의하면, 이러한 법칙적 개념은 유사성 집합으로 획득될 수 없다. 노믹 개념은 그 개념들(힘, 질량, 가속도 등)이 함께 작동하는 법칙(뉴턴의 2법칙)을 예화하는 여러 상황(범례)을 통해서만 학습될 수 있다고 말한다(Andersen & Nersessian 2000, pp. S228-S230). 여기서 그들은 법칙적 개념을 명료하게 다루기 위한 단초를 찾는다. 법칙적 개념은 유사관계 집합을 통해 획득될 수 없더라도, 그 개념과 연관된 문제 상황은 유사관계를 포착할 수 있기 때문이다.

2.3. 인지과학 연구로부터의 증거

1970년대 로쉬(Eleanor Rosch) 등에 의해 진행되었던 연구에 의하면, 쿤의 개념 이론은 상당한 지지를 받는 듯하다. 로쉬 등의 연구에 의하면, 인간은 ‘등급이 매겨진 (개념) 구조(graded structure)’를 가진다. 쉽게 말해, 인간은 하나의 개념에 대해 좋은 사례와 덜 좋은 사례를 구분한다는 것이다. 이 점은 개념을 정의 또는 논리 규칙에 의해 규정지으려는 시도에 대해 상당한 반박근거가 된다. 왜냐하면, 필요충분조건에 의해 정의된 개념 하에서는 그 개념의 모든 예화는 동등해야만 하는데, 하나의 개념 하에서도 사례 사이의 등급이 매겨진다는 사실은 그에 위배되기 때문이다.

한편, 로쉬의 연구는 개념에 대한 원형(prototype)을 통한 표상을 상정하게 된다. 사례마다의 등급이 매겨진다는 것은 가장 좋은 사례가 있다는 것이고, 그 사례는 원형을 내포하게 된다. 역으로, 어떤 대상을 하나의 분류에 집어넣는 일은 각 종의 원형과 유사성 또는 차이를 비교함으로써 이루어지게 된다. 이러한 사실은 쿤에게 좋은 소식이 된다. 왜냐하면, 유사집합으로서의 개념체계를 제시했던 쿤의 이론과 잘 맞아떨어지기 때문이다.

그러나 정의를 통한 개념 이론을 주장하는 사람은, 그것이 옳은 개념인가 하고 물을 수 있을 것이다. 이에 대해서는 다음과 답할 수 있을 것이다.

첫째, 정의가 가능한 개념도 있지만, 분류의 성공에 이르는 데 필수적인 것은 아니며, 큰 역할도 하지 않는다. 이러한 이유 때문인지, 개념에 대한 정의는 항상 사후적으로 규정되는 경향이 있다. 더구나 이론적 개념 및 인공적 개념을 제외하고는 사후적으로라도 정의가 가능한 개념은 극히 드물다. 예컨대 어떠한 생물학적 종도 필요충분조건으로는 정의될 수 없다. DNA로부터의 정의 또한 불가능하다. 같은 종의 생물일지라도 그 DNA는 각각 다르며, 어디까지 같아야 같은 종이라고 말할 수 있는 기준은 세워질 수 없기 때문이다. 엄밀하게 말해 생물학적 종은 여러 변이들의 집합으로밖에 볼 수 없으며, 이는 유사관계로서의 개념과 잘 어울린다.

둘째, 원형과 유사집합을 통한 개념이 대상에 대한 개념 부여에 더 효과적이다. 원형은 구체 사례들의 수많은 특징 중 매우 작은 몇 가지 특징에 대해서만 디폴트값을 부여하여 만들어진다. 우리는 새로운 대상을 접할 때, 그 몇 가지 특징만을 원형과 비교확인(패턴매치)하면 되는 매우 간단한 과정만을 필요로 한다. 즉, 매우 경제적이다. 그러나 정의에 따라 새로운 대상을 파악하려면 모든 필요충분조건을 따져야만 하는 비경제적인 과정을 거치게 된다. 다만, 완전한 정의가 아닌 ‘부분적 정의’의 경우에는 조금 더 유연하게 적용될 수 있을 것이다.

셋째, 정의에 의한 개념은 개념의 역사적 변화를 설명하기 어렵다. 정의된 개념과 사례는 ‘예화’라고 하는 논리적이고 비대칭적인 관계를 갖는다. 정의된 개념은 새로운 사례에 맞추어 변화할 수 없으며, 그 자체로 정적일 수밖에 없다. 만약 정의가 바뀌더라도 그것은 합리적이기보다는 규약적으로 보일 수밖에 없으며, 그 정의 변화의 메커니즘은 설명되기 어렵다. 그러나 원형과 유사집합으로서의 개념은 새로운 사례에 대해 적응적이다. 원형과 새로운 사례의 비교(패턴매치)는 원리적으로 상호적이기 때문이다. 따라서 원형과 그 유사집합으로서의 개념은 새로운 사례와 더불어 조금씩 변화할 수 있다.

이렇듯 정의에 의한 개념은 실제적인 역할도 적을뿐더러 옳다고도 보기 어렵다. 다만, 정의는 개념을 명료하게 만드는 데 사후적으로 보조적인 역할은 할 것으로 보인다. 정의 또는 규칙은 기존 개념체계의 위기 상황 또는 애매한 범주의 경우에 중요한 역할을 하곤 하는데, 즉 규칙의 명시화는 위기상황을 명료화하고 이를 해결하고자 하는 인간의 의식적 노력을 반영한다고 할 수 있다.

3. 쿤의 퍼즐 풀이와 사례 기반 추론

쿤은 과학 활동을 매우 독특하게 묘사한 것으로 유명하다. 그의 과학 활동에 대한 상은 정상과학에 대한 묘사에서 잘 드러난다. 쿤은 정상과학을 매우 틀에 박힌 활동으로 묘사했다. 그럼에도 그 과정은 방법론적 규칙에 따라 이루어지는 것으로 여기지 않았다. 규칙적이지 않으면서 틀에 박힌 활동이 어떻게 가능한가?

쿤은 정상과학을 퍼즐 풀이의 과정으로 묘사했다. 과학자가 풀기 위해 골몰하는 문제는 언제나 과거의 문제 풀이 성과를 적용함으로써 해결되는 것으로 상정되며, 새로운 문제 풀이는 패러다임의 핵심을 부수기보다는 패러다임을 명료화하는 과정으로 묘사된다. 과거의 성공적인 풀이는 범례(examplar)로서 패러다임을 구성하며, 과학자의 훈련 과정은 그 범례들을 익히고 사용하는 방법을 배우는 과정이 된다. 성공적인 훈련을 마친 과학자는 이러한 범례들에 기반하여 아직 풀리지 않은 문제들을 푸는 일, 즉 퍼즐 풀이에 나서게 된다.

이렇게 볼 때, 정상과학은 규칙 의존적이지 않으면서도 틀에 박힌 활동이 된다. 그러나 틀에 박힌 활동이 상당히 성공적이라는 점과 종국적으로는 파국과 혁명을 부른다는 점은 여전히 의아할 수 있다. 이에 대한 설명을 위해서는 다음의 두 가지 질문에 답을 하는 것이 중요하다. 첫째, 범례는 문제 풀이에서 어떠한 역할을 하는가? 둘째, 그리고 문제 풀이는 범례에 어떠한 영향을 주는가?

3.1. 범례는 문제 풀이에서 어떠한 역할을 하는가?

쿤에 대한 니클즈의 해석에 따르면, 패러다임은 많은 잠재적 문제들을 부적절한 것으로 보게 만들며, 적절해 보이는 문제더라도 그에 대한 적합한 범례가 없다는 사실은 아직 풀 수 없는 것으로 포기하게 만든다. 이렇게 문제들을 거르는 과정을 통해 패러다임은 적은 수의 문제만을 돌출된 것으로 보이게 만들고, 과학자들은 이 소수의 제한된 문제들을 놓고 씨름하게 된다.

그렇다면 어떠한 문제가 돌출되어 보이는가? 첫째, 풀 수 있는 문제이다. 풀 수 있다는 것은 기존의 범례들의 조합된 적용으로 풀릴 것으로 기대되는 것을 말한다. 이러한 문제들은 훈련과정에서 풀었던 예제와 연습문제들의 연속선상에 있는 문제라 할 수 있다. 다만 아직 풀리지 않은 차이가 있을 뿐이다. 둘째, 좋은 문제는 패러다임을 더 명료하게 만들 문제이다. 사소한 문제는 패러다임을 명료화해주지 못한다. 과학자들은 그 문제를 해결하는 것이 다음 단계를 위한 더 세련된 범례를 산출할 것이라는 믿음을 주는 문제를 중요하게 여기게 된다.

이렇게 볼 때, 범례는 가치론적, 규범적·평가적 기능까지도 담당한다. 범례는 이미 명료화된 것, 따라해야 할 것으로서 좋은 문제에 대한 예시가 되며, 새 문제를 풀기 위해 맞추어볼(match) 자원이기도 하다. 니클즈의 분석에 따르면, 즉, 범례는 문제에 대한 발견과 문제 풀이에 대한 정당화의 기능을 동시에 담당한다.

여기서 전통과 혁신 사이의 ‘본질적 긴장’이 발생한다. 좋은 문제와 풀이는 전통을 너무 벗어나도 안 되고 너무 비슷해도 안 된다. 전통을 너무 벗어나면 부적절하거나 이해 못할 문제와 풀이로 간주되며, 전통을 벗어나지 않은 문제는 혁신을 만들어내지 못하며, 패러다임의 명료화에 기여하지 못한다. 문제의 선택과 풀이는 전통과 혁신 사이의 긴장에서 위태로운 줄타기를 해야 하며, 선두에서 이루어지는 연구는 이러한 임무를 인식하는 것이 중요하다. 물론, 이러한 임무를 모든 과학자가 성공적으로 수행하는지는 의문의 여지가 있다. 과연 “지금 물리학회지에 실린 수많은 논문 중 얼마나 많은 수가 후대에까지 중요하게 여겨질 것인가?” 이러한 질문은 과학 활동이 개인만이 아닌 집단적인 활동임을 암시한다.

그런데, 여전히 정상과학적인 문제 풀이 활동은 사소하게 보일 여지가 있다. 문제 풀이 활동은 다음과 같은 전제를 깔고 있다. 첫째, 우리는 이미 답을 함축적으로 알고 있다. 둘째, 문제 풀이를 위한 모든 자원은 알려졌다. 셋째, 옳은 답은 함축적인 것을 명시적으로 표현하는 것만으로 해결된다.

니클즈는 이러한 쿤의 태도를 메논 역설(Meno’s paradox)에 대한 플라톤의 답과 비교한다. 정상과학적 문제 풀이에 대한 쿤의 얘기는 플라톤의 상기설을 연상시킴에도 그와 똑같을 수 없다. 쿤의 지식은 변화하지만 플라톤의 지식은 이데아에 항상 머물러 있을 뿐이기 때문이다. 그렇다면, 쿤의 문제 풀이는 플라톤의 답과 무엇이 다르며, 문제 풀이는 어떤 점에서 사소하지 않을 수 있는가?

첫째, 과학자들은 범례의 모든 함축을 알지 못한다. 논리적인 맥락에서조차 우리는 하나의 전제가 함축하는 모든 귀결을 알 수 없다. 하나의 귀결을 도출하는 데에는 시간이 걸리며, 도출이 끝나고 나서야 우리는 그 귀결을 확인할 수 있다. 이와 마찬가지로 우리는 범례의 모든 함축을 알지 못하며, 새 문제에 대한 범례의 적용가능성을 암묵적으로 깨닫더라도 이를 확인하기 위해서는 실제로 풀어보는 수밖에 없다.

둘째, 쿤의 문제 풀이는 논리 또는 규칙에 의존하기보다는 범례 또는 사례에 의존하며, 문제에 적용할 범례를 찾아내는 일은 절대 사소한 일이 아니다. 따라서 “물리학을 배우는 학생들은 보통 교과서의 한 장을 다 읽고 완전히 이해하고 나서도 그 장의 마지막에 나오는 문제들을 푸는 데 어려움을 느낀다고 토로한다.” 게다가 과거의 사례는 현재의 문제에 정확히 들어맞지 않을 수 있다. 따라서 새로운 문제 풀이를 위해서는 과거의 문제 풀이를 새 문제에 맞게 변형하는 과정이 수반되곤 한다. 이러한 과정은 문제 풀이가 이전의 범례로부터 (논리적으로) 사소하게 도출되지 않는다는 점을 암시한다. 그리고 이러한 ‘사례의 변형’은 정상과학의 발전, 그리고 더 나아가 위기의 초래를 설명하기 위한 중요한 단초이다. 메논 역설에 대한 플라톤의 답은 발전과 위기를 설명하지 못한다.

3.2. 문제 풀이는 범례에 어떤 영향을 주는가?

새로운 문제 풀이 중에서 패러다임을 명료화하는 데 기여한다고 여겨지는 것은 새로운 범례가 되어 범례집합에 추가되며, 새로 추가된 범례로 인해 쓸모가 없어진 몇몇 과거의 범례들은 집합에서 축출된다. 이러한 과정을 통해 정상과학은 패러다임을 명료화하고 문제 풀이 능력을 향상시키는 방향으로 누적적으로 발전하는 것처럼 보인다.

그러나 문제 풀이를 범례에 대한 패턴 매치(pattern match)의 과정으로 보았을 때, 패턴매치는 언제나 상호적이다. 새로운 문제는 범례들의 조합으로도 정확히 맞지 않을 수 있는데, 문제가 범례의 적용으로 풀 수 있는 형태로 바뀔 수도 있지만, 범례가 문제에 맞게 변형될 수 있다. 이것이 가능한 이유는 범례에 대해 어느 정도 다양한 해석이 허용되기 때문이다. 예컨대, V=IR을 인정한다고 할 때, 그것을 경험적 일반화로 해석해야할지, 저항에 대한 정의로 해석해야할지는 불분명했고, 그 해석에 있어서 전자에서 후자로의 변형은 전기 이론에 상당한 변화를 초래했다. 또 다른 예로, 맥스웰의 전자기장 이론의 탁월성에 대해서는 당시 과학자들 사이에 합의가 이루어졌지만, 그 이론의 물리적 모형에 대해서는 합의가 이루어지지 않았다. 헤르츠의 “맥스웰의 이론은 곧 맥스웰의 방정식이다”라는 말은 이런 상황을 반영한다.

그런데 앞서 말했듯이 우리는 범례의 모든 함축을 알지 못한다. 따라서 과거의 범례에 미묘한 변형을 가한 새로운 범례가 가진 모든 함축 또한 알지 못한다. 그 함축이 과거의 범례와 모순을 초래할지라도! 즉, 범례 상에서의 미묘한 변화조차도 혁명적인 함축을 가질 수도 있으며, 그 함축이 명시화되는 순간에서야 우리는 혁명을 인식할 수 있다.이는 다시 말해 어떠한 문제가 혁명을 초래할지는 풀기 전까지는 알 수 없으며, 더군다나 풀고 나서도 모를 수도 있다는 것이다.

예컨대 쿤은 양자역학을 탄생시킨 것으로 알려졌던 흑체복사 문제는 당시 물리학자들이 씨름하던 여러 문제 중 하나일 뿐이었으며, 플랑크의 가설이 본질상 고전적인 것이었을 뿐만 아니라 자신의 가설이 지닌 혁명적 함축 또한 알지 못했다고 주장했다. 쿤은 이어서 그 혁명성을 명시화시킨 장본인은 플랑크가 아니라 또다른 문제를 놓고 씨름을 하던 아인슈타인과 에른페스트이며, 그들은 플랑크의 작업을 ‘오독’함으로써 혁명적 해석을 탄생시켰다고 주장했다.

이렇듯, 과학 활동은 작은 변화들이 종국의 예측치 못하는 귀결을 만들어내는 비선형성을 특징으로 한다. 문제 풀이 과정은 과거의 범례의 새로운 문제로의 적응과 재해석을 요구한다. 범례의 해석에 대한 용인된 변이들은 경우에 따라 과학의 변화와 발전에 큰 또는 예측치 못한 역할을 하게 된다.

니클즈가 강조하기를, 교과서 속의 범례는 순수히 과거의 것이 아니다. 우리가 접하는 범례는 “후대의 사람들에게 재해석되어 살균되고 이상화되어 역사적 맥락이 제거된 역사적 사례이다.” 이러한 점에서, 쿤의 나쁜 역사서로서의 과학 교과서와 나쁜 역사가로서의 과학자는 역으로도 이해될 수도 있다. 어쩌면 좋은 과학자가 되기 위해서는 나쁜 역사가가 되어야 할 수도 있다. 이러한 과학자들의 역사 왜곡과 범례의 변형 속에서, 어떤 범례들은 도태되고, 어떤 범례들은 환경에 적응하며 살아남아 지금까지 전수된다. 이러한 점에서 범례는 스스로의 역사를 가지게 된다. 그리고 이러한 그리고 범례의 변화와 역사는 항상 각각의 과학자들이 씨름하던 문제가 무엇이었는가에 관련된다.

4. 모형 기반 추론

문제 풀이가 과거의 사례에 의존한다고 해서, 과거의 사례는 구체적인 형태로 바로 문제 풀이에 이용되진 않는다. 과거의 사례는 일정하게 추상화된 형태로 문제 풀이에 이용되며, 앞서 지적했듯이 사례 기반 추론이 용량초과를 초래하지 않고서 효율적으로 작동하기 위해서라도 일정한 추상화는 필수적이다. 이러한 추상화된 형태의 문제 풀이는 너세시안이 제기한 모형 기반 추론(model-based reasoning)과 연결된다.

니클즈는 모형을 사례로 인정한다면 모형 기반 추론과 사례 기반 추론은 큰 충돌이 일어나지 않는다고 말하면서, 특히 정상과학 기에 과학자들은 그 둘의 차이를 거의 느끼지 못할 것이라 말한다. 그러나 새로운 문제를 풀기 위해 더 이상 패러다임 내의 모형 중에서 알맞은 모형을 찾지 못한다면? 그 때에는, 패러다임 외부에서 알맞은 모형을 찾거나 상당히 생경한 모형을 만들어야 할 수도 있다.

너세시안과 기어리는, 모형 기반 추론이 이미 널리 사용되고 있는 매우 일반적인 추론 형태라고 말한다. 심적 모형화(mental modeling)라는 능력은 진화의 산물로 인간이 아닌 많은 동물에게도 있다고 가정된다. 다만, 인간은 지각과 언어를 통해 모형을 산출하는 능력을 가지고 있으며 더 나아가 과학적 추론과 같은 난해한 상황에까지 그것을 사용할 수 있다고 말한다.

4.1. 모형 기반 추론의 본성

모형 기반 추론은 심적 모형화와 추론과정으로 구분될 수 있다. 심적 모형화 과정에서는 실제 세계 또는 상상적인 상황, 사건, 프로세스에 대한 구조적 또는 기능적 유비가 동원되어 모형의 기본 골격을 형성한다. 심적 모형은 사건과 존재자에 관련한 두드러진 공간과 시간 관계 및 인과구조에 대한 표상을 부여받는다. 실제 대상으로부터 상속되는 제약들도 유비를 통해서 들어온다. 마지막 남은 추론과정은 모형의 구조적, 인과적, 기능적 제약에 따라 직접적 조작을 가하는 일이다. 예컨대, 꺾여 올라가는 좁은 계단에서 부피가 큰 가구를 운반할 때, 사람들은 가구를 단순한 기하학적 입체로 가정하여 머릿속에서 이리저리 회전시켜보면서(시뮬레이션) 알맞은 각도를 찾아낸다(심적 모형화). 이것이 머릿속에서 잘 안될 때는, 주머니에서 작은 입체도형을 꺼내 이리저리 회전시켜봄으로써 문제를 해결할 수 있다(외부 모형화).

모형화에서 첫 번째 기초는 추상화이다. 먼저 심적 모형은 대상, 상황, 과정의 특징에 대한 ‘선택적’ 표상이다. 심적 모형화에 의한 표상은 실세계의 여러 차원 중 (문제 풀이의) 추론 과정에서 두드러지는 차원에 대해서(만) ‘동형’인 경향이 있다. 즉, 추상화가 동반된다는 것인데, 예를 들어 물리학에서 스프링에 대한 표상은 3차원이라기보다는 1차원에 가깝다. 이는 추론과 이해에서 ‘유연성’을 부여해준다. 심적 모형에 기반한 문제 해결은 매우 효과적이며, 일상적인 영역에서 이러한 추론은 대부분 성공적이다. 다만, 과학과 같은 복잡한 상황에서는 이러한 추론이 꼭 성공하리라는 보장이 없으며 평가의 과정을 거치게 되고, 주요한 성공 사례는 일종의 표준으로 자리잡게 된다. 이것은 범례로서 앞서 묘사한 사례 기반 추론의 기초가 될 수 있다.

모형화의 두 번째 기초는 유비이다. 너세시안에 의하면 유비란 추론의 길잡이일 뿐만 아니라 추론의 산출에도 기여한다. 전기 현상에 대한 문제 풀이에서 보통 우리는 흐르는 물과 같은 유비를 쓰고, 기체 현상을 다루면서 우리는 당구공과 같은 유비를 도입하여 문제상황을 모형화한다. 개념적 혁신은 이러한 유비과정에서 잘 드러난다. 동떨어진 두 영역의 ‘잠재적 유사성’을 인식하는 것은 종종 새로운 개념과 산출에 핵심적인 역할을 하곤 한다. 뉴턴의 혁신은 무엇인가? 그것은 천상계의 행성과 지상계 투사체의 ‘잠재적 유사성’을 인식하여 새로운 모형화에 성공했다는 점이다.

새로운 모형화에 성공하기 위해서, 과학자는 심적 모형뿐만 아니라 마음 외부의(external) 모형도 사용한다. 외부 모형 역시 문제해결을 위해 두드러진 차원만을 추출하여 만들어지며, 보통 다이어그램과 문자, 기호들이 동원된 시각적인 모형을 구성한다. 외부 모형화는 특정한 측면에 대한 집중과 추론의 조직화 및 모형의 저장과 지속적인 수선에서 핵심적인 역할을 한다. 또한 외부 모형은 모형화의 개인적 성공을 뛰어넘도록 해준다. 외부 모형은 공동체 내부에서 공유된 내부 모형을 구성하도록 도모하고 과학적 모형을 널리 퍼지도록 만듦으로써, 과학의 성과가 사회에서 소통, 비교, 평가되어 다음 단계로 이전할 수 있도록 하는 매우 중요한 밑천을 형성한다.

4.2. 혁신적 모형의 기원

혁명기의 (또는 정상과학 시기에서라도) 혁신적인 모형은 어디서 오는가? 이에 대한 포괄적인 답변을 여기에서 제시할 수는 없다. 다만 여기서는 단순히 그와 관련된 몇 가지 요소들을 제시하고자 한다. 첫째, 혁신적 모델링은 인간의 인지적 추론능력에 달려있다. 둘째, 어떤 문제를 풀고 있었는가에 관련되어 있다. 셋째, 동원할 수 있는 자원은 무엇인가에 달려있다.

첫째, 혁신적 모형은 인간의 인지적 추론능력에 달려있다. 그러나 앞에서 전제했듯이, 모형 기반 추론, 사례 기반 추론 등은 모든 인간이 이미 사용하고 있는 능력이다. 물론, 사람마다의 능력 차이가 하나도 없다고 말하긴 어렵지만, 어느 분야에나 능력이 좋은 사람과 나쁜 사람은 고르게 분포하기 나름이며, 과학자 사회가 뛰어난 능력의 소유자로만 구성되어 있다고 보긴 어렵다. 인간의 인지적 추론능력은 혁신적 모형을 만들어낼 수 있는 공통의 전제 정도로 보는 것이 타당할 것 같다.

둘째, 어떤 문제를 풀고 있었는가에 관련되어 있다. 아인슈타인은 다른 인과력(로렌츠의 힘/기전력)에 의해 동일해 보이는 현상(회로에서의 전류 발생)이 발생하는 문제, 즉 비대칭적 설명의 문제를 놓고 씨름한 결과 에테르가 없는 모형을 만들어냈다. 반면 당대의 최신 실험과 관측 결과를 설명하는 미시전자이론을 완성하고자 노력했던 로렌츠는 그와 같을 수 없었다. 한편, 카르노는 열기관에 대한 공학적인 문제를 놓고 씨름을 하다 카르노 싸이클과 열역학 제 2법칙에 대한 모형을 만들어냈다. 만약 공학적인 문제, 즉 열기관의 효율을 어떻게 극대화할 수 있을까의 문제에 관심이 없었다면, 현재의 열역학은 형성될 수 없었을 것이다. 즉, 카르노가 품고 있었던 칼로릭 이론보다도 그가 다루었던 문제가 혁신적 모형을 가져다준 원천이라고 보아야 할 것이다. 앞에서 지적했듯이, 범례가 문제를 제약하기도 하지만, 다른 문제에 매달리고 있다는 것은 과거의 범례를 활용하는 방식도 다르게 만든다.

셋째, 동원할 수 있는 자원이 무엇이었는가에 관련되어 있다. 정상과학 또는 사례기반 추론에 의하면, 문제 풀이에 동원되는 자원은 보통 과거의 성공적인 사례, 즉 범례이다. 패러다임을 구성하는 범례는 문제 풀이에 동원되는 자원 중 가장 대표적인 것이긴 하지만, 그것이 전부는 아니다. 왜냐하면, 앞서 이야기했듯이 새로운 문제를 풀기 위해서는 과거의 범례를 변형시키는 과정이 필요하며, 그 과정에서 다른 영역의 분과 또는 과학 외부의 자원들도 유비 등의 기법에 의해 함께 동원될 수 있다. 맥스웰의 전자기장 이론은 패러데이의 이론뿐만 아니라 (패러데이는 몰랐던) 다양한 수학적 모형을 추론의 자원으로 사용할 수 있었기에 만들어질 수 있었다. 또한 니클즈는 미개척의 영역에서 활동하는 과학자의 경우, 그가 자원으로 동원하는 사례는 꼭 학습과정에서 배웠던 범례들일 필요는 없다고 말하면서, 닐스 전(Nils Jerne)이 면역시스템에 대한 모형을 만드는데 길을 가다 번뜩 떠오른 메논 역설이 중요한 역할을 했다는 얘기를 전해준다. 한편, 역사학자 아이젠슈타인에 의하면, 르네상스 중기 활판인쇄가 보급되면서 범람한 문헌들 속에서, 코페르니쿠스는 이전과는 달리 대규모의 문헌연구를 할 수 있게 되었다. 코페르니쿠스는 닥치는 대로 천문 관측 기록을 수집하였고, 과거의 특정 관측 기록의 일시나 장소를 측정하는 경우 동료들의 적당주의를 엄정히 비판했으며, 과거 보고서에서 모순을 발견하는 등의 예리한 통찰력을 발휘했다. 또한 엄청난 천체 관측 자료로부터 그는 과거 천문학자로서는 할 수 없었던 장기적 주기에 관한 여러 가지 기술적(technical) 문제에 정열을 쏟을 수 있었다. 또한 코페르니쿠스는 ‘입수 가능한 모든 철학서’를 읽어댔으며, 지명, 달력, 연표, 주화 등까지 조사했다. 한편, 당시 등장한 새로운 학술서와 수학 제표 또한 코페르니쿠스가 사용할 수 있었던 자원이었다. 과연 이러한 넘쳐나는 자원이 없었더라도 코페르니쿠스는 자신의 성과를 이루어낼 수 있었을까?

5. 인지적 접근이 과학철학에 주는 시사점

지금까지 살펴본 인지적 접근은 그동안 해명하기 어려웠던 과학 활동의 동학(dynamics)을 설명하는 데 매우 유용한 틀을 제공하고 있다. 이러한 접근은, 그동안 강조되어 왔던 규칙과 정의 및 (정언적) 합리성의 역할을 축소시키는 한편, 그 자리에 유사관계에 의거한 개념체계와 사례/모형 기반 추론을 채우고, 과학 활동의 핵심에 과학의 ‘내용’이 아닌 과학을 수행하는 ‘인지적 행위자’를 둠으로써, 과학 활동의 양식과 내용의 변화를 유연하게 설명하는 데 상당한 성과를 내고 있는 것으로 보인다.

물론 인지적 접근이라는 공통된 방향성을 공유한 여러 시도들이 통일된 체계를 구성하고 있지는 않으며, 이들 사이에는 여전히 갈등의 소지가 남아 있다. 따라서 이들 사이의 관계를 해명하고 서로간의 잠재적 갈등을 해소하거나 절충하는 비판적인 작업이 요구되는 것이 사실이지만, 일단 이 논문에서는 인지적 접근을 추구하는 연구자들이 주목해야 할 일반적인 사항을 지적하는 것으로 글을 끝맺고자 한다.

과학 활동에는 평범한 인간의 인지적 능력만으로는 설명되지 않는 부분이 남아있다. 자연법칙만으로는 자연 현상이 완전히 결정되지 않는 것처럼, 범례와 인지적 능력만으로는 그 결과가 결정되지 않는다. 그렇기에 중요하게 부각되는 것이 ‘과학자가 어떤 문제를 풀고 있는가’와 ‘그가 동원할 수 있는 자원이 무엇인가’이다. 이 점에서 과학은 경로 의존성을 가지게 되며, 역사는 과학 활동을 설명하기 위한 중요한 자원으로 들어와야 한다.

또한 나는 여기에 과학이 사회적 활동이라는 점이 명확해질 필요가 있다고 생각한다. 동물이 하지 못하는 과학을 인간이 할 수 있는 이유는 무엇이겠는가? 그 물음에 답하기 위해 인간의 뛰어난 인지능력, 특히 고수준의 추상화 능력을 들 수도 있겠지만, 더 중요한 것은 그 성과가 축적될 수 있다는 것이다. 과거의 성과를 볼 수 없다면 그것은 자원으로 활용될 수 없고, 우리의 능력은 세대가 거듭되더라도 제자리걸음을 할 수밖에 없다. 그 제자리걸음을 끊는 고리는 사람들과의 소통과 내용의 축적이며, 그것을 가능케 하는 것은 바로 언어, 그림, 표 등의 외부 표상들이다.

어쩌면 언어라는 것을 다양한 외부 표상들 중 하나로 접근한다면, 그것의 중요성을 새롭게 이해할 수 있을지 모른다. 인지적 접근을 표방하는 많은 연구자들은 사례/모형 기반 추론에서 언어의 역할이 거의 없다고 주장한다. 그러나 심적 모형을 자기만의 것이 아닌 사회적인 자산으로 만들어 축적을 가능케 하는 외부 모형들의 역할, 특히 그 중 가장 대표적이라 할 수 있는 언어의 역할은 이러한 새로운 시각에서 재검토되어야 할 것으로 보인다.

참고문헌

• 아이젠슈타인, E. L. (1991), 『인쇄 출판 문화의 원류』, 법경출판사.
• 정동욱 & 정원호 (2020), ｢위기 없는 혁명: 코페르니쿠스 혁명을 중심으로｣, 『과학철학』 23(2), pp. 1-51.
• 천현득 (2013), ｢토머스 쿤의 개념 이론｣, 『철학』 115, pp. 111-141.
• 천현득 (2014), ｢과학적 개념에 대한 인지적 메타정보 이론｣, 서울대학교 박사학위논문.
• 천현득 (2023), 『토머스 쿤, 미완의 혁명: 역사주의자의 언어적 전회와 자연주의적 재구성』, 서울대학교출판문화원.
• 하만, P. (2000), 『에너지, 힘, 물질: 19세기의 물리학』, 성우.
• 홍성욱 (1999), ｢문화로서의 과학, 과학으로서의 역사 - 쿤 다시 보기｣, 『생산력과 문화로서의 과학 기술』, 문학과 지성사, pp. 149-170.
• Andersen, H. & Nancy J. Nersessian (2000), “Nomic Concepts, Frames, and Conceptual Change”, Philosophy of Science 67, pp. S224-S241.
• Baltas, A., K. Gavroglu & V. Kindi (2000), “A Discussion with Thomas S. Kuhn”, in Thomas S. Kuhn, The Road since Structure, eds. J. Conant and J. Haugeland, Chicago: University of Chicago Press, pp. 255–323.
• Barker, P., X. Chen & H. Andersen (2003), “Kuhn on Concepts and Categorization”, in Thomas Nickles (ed), Thomas Kuhn, Cambridge University Press, pp. 212-245.
• Cardwell, D. S. L (1971), From Watt to Clausius: The Rise of Thermodynamics in the Early Industrial Age, Cornell University Press.
• Chen, X., H. Andersen & P. Barker (1998), “Kuhn's Theory of Scientific Revolutions and Cognitive Psychology”, Philosophical Psychology 11, pp. 5-28.
• Chen, X. & P. Barker (2000), “Continuity Through Revolutions: A Frame-Based Account of Conceptual Change During Scientific Revolutions”, Philosophy of Science 67, pp. S208-S223.
• Cheon, H. & E. Machery (2010), “Creating Scientific Concepts, by Nancy J. Nersessian”, Mind 119, pp. 838-844.
• Gentner, D. & A. L. Stevens (1983) (eds.), Mental Models. Lawrence Erlbaum Associates.
• Giere, R. N. (1988), Explaining Science: A Cognitive Approach, The University of Chicago Press.
• Giere, R. N. (1990), “Implications of the Cognitive Sciences for the Philosophy of Science”, PSA 1990, pp. 419-430.
• Giere, R. N. (1996), “The Scientist as Adult”, Philosophy of Science 63, pp. 538-541.
• Johnson-Laird, P. N. (2006), How We Reason. Oxford University Press.
• Kuhn, T. S. (1977), “Second Thoughts on Paradigms”, in The Essential Tension: Selected Studies in Scientific Tradition and Change, The University of Chicago Pres.
• Kuhn, T. S. (1996), The Structure of Scientific Revolution, 3rd edition, The University of Chicago Press.
• Kuhn, T. S. (2022), The Last Writings of Thomas S. Kuhn: Incommensurability in Science, The University of Chicago Press.
• Nersessian, N. J. (1990), “Barriers and Models: Comments on Margolis and Giere”, PSA 1990, pp. 441-444.
• Nersessian, N. J. (1995), “Opening the Black Box: Cognitive Science and History of Science”, Osiris, 2nd Series, Vol. 10, pp. 194-211.
• Nersessian, N. J. (2003), “Kuhn, Conceptual Change and Cognitive Science”, in Thomas Nickles (ed), Thomas Kuhn, Cambridge University Press, pp. 178-211.
• Nersessian, N. J. (2008), Creating Scientific Concepts. Cambridge, MA: MIT Press.
• Nickles, T. (2000), “Kuhnian Puzzle Solving and Schema Theory”, Philosophy of Science 67, pp. S242-S255.
• Nickles, T. (2003), “Normal Science: From Logic to Case-Based and Model-Based Reasoning”, in Thomas Nickles (ed), Thomas Kuhn, Cambridge University Press, pp. 142-177.
• Rosch, E. (1978), “Principles of Categorization”, in E. Rosch and B. B. Lloyd (eds.), Cognition and Categorization, Hillsdale, NJ: Lawrence Erlbaum Associates, pp. 27-48.
• Rosch, E. and C. B. Mervis (1975), “Family Resemblances: Studies in the Internal Structure of Categories”, Cognitive Psychology 7(4), 573-605.

관련 항목

• 쿤, 과학혁명의 구조