Ellery Eells and Branden Fitelson, □Comments and Criticism: Measuring Confirmation and Evidence□, The Journal of Philosophy 97 (2000), pp. 663-672.

베이즈주의에서 가장 표준적인 입증도 측정 방식은 차이 측정이며, 그 외에도 로그-비율 측정, 로그-가능도 측정도 제안된 바 있다. 이는 아래와 같다.

차이 측정(difference measure) : [eqn: d(h,e) = p(h|e) - p(h)]

로그-비율 측정(log-ratio measure) : [eqn: r(h, e) = log [p(h|e)/p(h)]]

로그-가능도-비율 측정(log-likelihood-ratio measure) : [eqn: l(h,e) = log[p(e|h)/p(e|LNOT h)]]

크리스텐슨(David Christensen, 1999)은 오래된 증거의 문제([eqn: p(e) simeq 1])와 거의 확립된 가설의 문제([eqn: p(h) simeq 1])를 통해 위의 측정 방식을 비판하고, 그에 대한 해법으로 규격화된 차이 측정 [eqn: S]를 제안한다.

규격화된 차이 측정(normalized difference measure) :

[eqn: S(h, e) &= 1 over {p( LNOT e)} d(h,e) = p(h|e) -p(h| LNOT e), ~\where~ p(e) neq 1]

) 이에 대한 증명은 아래와 같다.

[eqn: S(h, e) &= 1 over {p( LNOT e)} d(h,e)~~(\where ~p(e) neq 1)# # &= 1 over {p(LNOT e)} [p(h|e) - p(h)]# # &= 1 over {p(LNOT e)} [p(h|e) - \{ p(h|e)p(e)+p(h|LNOT e)p( LNOT e) \} ]# # &= 1 over {p(LNOT e)} [p(h|e) \{1 - p(e) \} - p(h|LNOT e)p( LNOT e) ]# # &= 1 over {p(LNOT e)} [p(h|e)p(LNOT e) - p(h|LNOT e)p( LNOT e) ]# # &= {p(LNOT e)} over {p(LNOT e)} [p(h|e) - p(h|LNOT e)]# # &= p(h|e) -p(h| LNOT e)]

그러나 그는 그것마저도 완벽하지 않다면서 입증도 측정을 정의하는 문제에 대해 회의주의적인 결론에 도달한다. 엘즈(Ellery Eells)와 피텔슨(Branden Fitelson)은 크리스텐슨이 제기한 문제들이 베이즈주의의 표준적인 측정 방식을 이용해서도 해결 가능하며, 크리스텐슨의 개선책 [eqn: S]는 오래된 증거의 문제도 완벽히 해결하지 못할 뿐 아니라 그 자체의 약점도 가지고 있다고 말한다. 그들이 보기에 오래된 증거 또는 확립된 가설의 문제는 입증도 측정 방식에서 기인한 것이 아니라 배경지식을 다루는 방법에 기인한다.

1. 오래된 증거와 가설에 대한 지지

오래된 증거의 문제는 [eqn: p(e)=1]인 상황에서 등장한다. [eqn: p(e)=1]일 때 세 가지 입증도 측정([eqn: d, r,l])은 모두 0이 된다. 크리스텐슨은 이 오래된 증거의 문제를 [eqn: p(e)]가 1로 근접할수록 입증도가 0에 가까워지는 문제로 변경한 후, 자신의 입증도 측정 방식 [eqn: S]가 그에 대한 부분적인 해결책이 될 수 있다고 말한다. 왜냐하면 [eqn: S]는 오래된 증거 [eqn: e]의 입증도를 0으로 만들지 않기 때문이다.

) 토톨로지가 아닌 명제에 대해서는 확률값을 1로 줄 수 없다는 원칙 하에서, 이는 정당화될 수 있다.

) 이는 다음과 같이 증명될 수 있다. 만약 [eqn: e]가 [eqn: h]에 대한 연역적인 증거로 [eqn: p(e|h) = 1]이라고 하면,

[eqn: S(h,e) &= 1 over {p(LNOT e)} [ p(h|e) - p(h) ] # # &= 1 over {p(LNOT e)} left[ p(e|h) over p(e) p(h) - p(h) right]# # &= p(h) over {p(e) p(LNOT e)} [p(e|h) - p(e)]# # &= {p(h) \{1-p(e) \} } over {p(e) \{1-p(e) \} }# # &= p(h) over p(e)# # &neq ~0]

크리스텐슨은 오래된 증거의 문제를 통시적(diachronic) 문제와 공시적(synchronic) 문제로 구분한다. 다시 말하자면, 증거 [eqn: e]가 가설 [eqn: h]를 실제로 입증하게 된 역사적 사건(historical accident confirming h)은 [eqn: e]가 현재 [eqn: h]의 증거가 되는 것(being evidence for h)과 구분된다. 예컨대 어떤 증거 [eqn: D]와 [eqn: A]가 순차적으로 들어왔다고 할 때 가설 [eqn: h]는 순차적으로 증가할 텐데, 만약 [eqn: D]에 의해 [eqn: p(h)]가 이미 1에 근접해버렸다면 [eqn: A]는 [eqn: h]의 신임도를 별로 증가시키지 못할 것이다. 그러나 직관적으로 볼 때 [eqn: A]는 분명 [eqn: h]에 대한 중요한 증거가 될 수 있다. 현재적(공시적) 관점에서 어떤 증거가 가설에 대한 중요한 증거냐 아니냐의 문제는 그 증거의 순서와는 상관이 없기 때문이다. 크리스텐슨이 보기에, 증거의 (현재적) 중요도 문제는 증거의 역사적 입증도 문제와 별개로 다루어져야 한다. 즉 후자는 표준적인 입증도 측정 방식 [eqn: d]에 의해 측정될 수 있을지 모르지만, 전자를 측정하기 위해서는 다른 측정 방식(e.g.,[eqn: S])이 필요하다는 것이 크리스텐슨의 주장이다.

엘즈와 피텔슨은 크리스텐슨의 문제를 배경지식의 문제로 돌려서 풀고자 한다. 그들이 보기에, 통시적 입증도와 공시적 증거도는 측정방식의 차이가 아니라 배경지식의 차이이다.

증거가 [eqn: e_1 , e_2 ,][eqn: e_3 ,][eqn: cdots,][eqn: e_i , cdots , e_N] 순서로 들어온다고 할 때, [eqn: e_i]에 의한 □입증□과 □입증도□는 다음과 같이 정의될 수 있다.

정의 : [eqn: e_i]은 [eqn: h]를 입증한다 iff [eqn: p_i (h) ( = p_i-1 (h|e_i ) ) > p_i-1 (h)] ; 시점 [eqn: t_i]에 [eqn: e_i]가 [eqn: h]를 입증하는 정도는 두 확률의 차이, 즉 [eqn: p_i (h) - p_i-1 (h)]이다.

증거의 (역사적) □입증도□는 □그 시점의□ (실제) 배경지식에 의존한다. 위에서 언급했던 사례에서, 증거 [eqn: A]가 들어온 시점에는 이미 [eqn: D]에 대한 배경지식이 있었기 때문에 (즉, 그 배경지식으로 이미 [eqn: p(h)]가 1에 근접해 버렸기 때문에) 그 시점에서 증거 [eqn: A]는 가설 [eqn: h]를 그다지 입증해주지 못한다.

증거의 (현재적) □중요도□ 문제를 다룰 때 배경지식은 약간 다른 방식으로 다루어질 수 있다. 우리는 이렇게 말할 수 있다. 배경지식을 지운 상태에서라면 [eqn: D]와 [eqn: A]는 모두 [eqn: h]에 대한 중요한 증거가 될 수 있다. 또 배경지식 [eqn: D]에 상대적으로, [eqn: A]는 [eqn: h]에 대한 사소한 증거이다. 또 배경지식 [eqn: A]에 상대적으로, [eqn: D]는 [eqn: h]에 대한 사소한 증거이다. 즉 증거의 중요도 문제는 증거가 들어온 실제 순서와는 무관하며, 우리의 배경지식 □선택□에 의존한다. 이를 일반화하면 다음과 같다. 배경지식 [eqn: B]를 증거 [eqn: e_i]를 제외한 나머지 증거 집합[eqn: \{ e_1 , cdots , e_i-1 , e_i+1 , cdots , e_N \}]의 임의의 부분집합이라고 할 때, [eqn: e_i]의 □증거됨□과 □증거적 지지도□는 다음과 같이 정의될 수 있다.

정의 : [eqn: B]에 상대적으로 [eqn: e_i]는 [eqn: h]에 대한 증거이다 iff [eqn: p_0 (h|B \& e_i ) > p_0 (h|B)] ; [eqn: B]에 상대적으로 [eqn: e_i]의 [eqn: h]에 대한 증거적 지지도는 두 확률의 차이, 즉 [eqn: p_0 (h|B \& e_i ) - p_0 (h|B)]이다.

어떤 증거 [eqn: e]가 가설 [eqn: h]를 입증하는지를 물을 때, 이 질문은 증거의 (역사적) 입증도를 묻는 것일 수도 있고, 증거의 지지도를 묻는 것일 수도 있다. 전자의 경우 그 입증도는 그 시점의 실제 배경지식에 의해 결정되지만, 후자의 경우 그 지지도는 배경지식의 선택에 따라 달라질 수 있다.

이렇게 입증(입증도)와 증거(지지도)를 구분하고 후자의 측정을 배경지식의 선택 문제로 돌림으로써, 엘즈와 피텔슨은 크리스텐슨의 새로운 입증도 측정법 [eqn: S]를 사용하지 않고서도 오래된 증거의 문제를 어느 정도 해결한 셈이다. 이 해결방식은 크리스텐슨의 □그럴듯한 가설의 문제□, 즉 [eqn: p(h)]가 1에 근접할수록 [eqn: e]의 입증 위력이 소멸하는 문제도 쉽게 해결할 수 있다. 이들의 해법에 따르면, [eqn: p(h)]가 1에 근접할수록 소멸되는 것은 [eqn: e]의 (역사적) 입증도일 뿐, [eqn: e]의 증거적 지지도가 아니다. 증거적 지지도는 실제 역사적 사실에 구애받지 않으며, 그 값은 배경지식의 자유로운 선택에 달려 있다.

2. 측정방식[eqn: S]와 크리스텐슨의 회의적 결론에 대한 평가

앞의 절에서는 크리스텐슨의 [eqn: S]를 쓰지 않고도 가설에 대한 증거의 (공시적) 지지도를 측정할 수 있음으로 보였다. 이 절에서는 [eqn: S]에 대해 직접적인 평가를 시도한다. 크리스텐슨은 가설과 증거 사의의 증거적 관계 측정에서 배경지식의 영향을 끊는 방법을 찾고자 했다. 기본적으로 크리스텐슨은 다음의 두 기준을 이용하여 [eqn: d]와 [eqn: r]을 비판하고 [eqn: S]를 제안했다고 할 수 있다.

[eqn: D_1] : [eqn: p(e)]가 1에 가까워진다고 꼭 [eqn: c(h,e)]가 0에 근접해서는 안 된다.

[eqn: D_2] : [eqn: p(h)]가 1에 가까워진다고 꼭 [eqn: c(h,e)]가 0에 근접해서는 안 된다.

[eqn: d]와 [eqn: r]은 위의 두 기준을 만족하지 못 한다. 그러나 크리스텐슨도 인정했듯이, [eqn: S]뿐 아니라 [eqn: l]도 위의 기준을 만족시킨다.(정말?) 이에 대해 크리스텐슨은 다음 세 번째 기준을 이용하여 [eqn: S]를 옹호한다.

) 아래의 증명에 의하면 [eqn: l]은 [eqn: D_1]을 만족시키지 못한다.

[eqn: l (h,e)&= log left[ p(e|h) over {p(e| LNOT h) } right] # # &= log left[ p(e|h) {p(LNOT h)} over {p(e)-p(e|h)p(h)} right]# # &= log left[ p(e|h) {1-p(h)} over {p(e)-p(e|h)p(h)} right] &<= log left[ 1-p(h) over p(e)-p(h) right] ~( \p(e|h)=1인~경우의~l(h,e)) # # &&-> `log 1 =0 ~( \where~p(e) -> 1 )]

[eqn: D_3] : [eqn: p(h)]가 1에 근접하지 않은 경우, [eqn: p(e)]가 1에 근접한다고 꼭 [eqn: c(h,e)]가 0에 근접해서는 안 된다.

[eqn: l]은 위의 기준 [eqn: D_3]를 만족시키지 못하지만, [eqn: S]는 이를 만족시킨다. 그러나 엘즈와 피텔슨은 이를 근거로 [eqn: S]를 옹호하는 것은 성급한 결론이라고 말한다. [eqn: d]를 [eqn: p(LNOT e )]로 나누어 규격화시켜서 [eqn: S]를 만들었듯이, [eqn: l]도 규격화시켜 아래와 같은 [eqn: iN]을 만들어 사용할 수도 있는 것 아니냐고 반문할 수 있기 때문이다.

[eqn: lN(h,e) = 1 over { p( LNOT e) } l(h,e)]

엘즈와 피텔슨에 따르면, [eqn: lN]은 크리스텐슨의 기준 [eqn: D_1]~[eqn: D_3]를 모두 만족시키며, 더구나 [eqn: p(h)]나 [eqn: p(e)]의 변화에 [eqn: S]보다도 덜 민감하다. 특히 [eqn: lN]은 다음의 기준을 만족시키지만, [eqn: S]는 만족시키지 못한다.

) 각주 7에서 보였듯이, [eqn: h]가 [eqn: e]를 함축하는 경우 [eqn: S(h,e) = p(h) over p(e)]가 된다. 이는 [eqn: D_4]를 위배하게 된다.

[eqn: D_4] : [eqn: p(h)]가 0에 근접하고, [eqn: p(e)]가 1에 근접한다고 필연적으로 [eqn: c(h,e)]가 0에 근접해서는 안 된다.

엘즈와 피텔슨은 이 경우 [eqn: lN]이 [eqn: S]보다 훨씬 큰 값을 가질 수 있다고 주장하면서 [eqn: lN]을 옹호하는데, 내가 보기에 둘의 단순비교는 위험해 보인다. 그럼에도 엘즈와 피텔슨의 주장에는 일리가 있는데, [eqn: lN]은 [eqn: D_4]의 경우 0이 아닌 양수로 수렴하게 되기 때문이다.

) 이에 대한 증명은 다음과 같다. [eqn: p(e|h) =1]인 경우로 한정시켜 보면,

[eqn: lim_{p(h)->0,p(e)->1} lN(h,e) &= lim_{p(h)->0,p(e)->1} 1over {p(LNOT e) } log left[ 1-p(h) over p(e)-p(h) right] # # &= lim_{p( LNOT h)->1,p(LNOT e)->0} 1 over {p( LNOT e)}log left[ {p(LNOT h)} over {p( LNOT h) - p(LNOT e)} right]# # &= lim_{p(LNOT e)->0} 1 over {p(LNOT e)} log left[ 1 over {1-p(LNOT e)} right]# # &= lim_x->0 1 over x log left[ 1 over 1-x right] = lim_x->0 log left[ 1 over 1-x right]^{1over x} ~( \where~ x= p( LNOT e) )# # &= lim_y->inf log left[ 1 over {1 - 1 over y } right]^y = lim_y->inf log left[ y over {y - 1 } right]^y ~left( \where~ y= 1 over x right)# # &= lim_z->inf log left[ z+1 over z right]^z = lim_z->inf log left[ 1+ 1 over z right]^z ~( \where ~z = y-1)# # &= log e # # &= 1]

규격화는 위와 같은 장점을 가지는 동시에 단점도 가지고 있다. 많은 (거의 대부분의) 베이즈주의자들은 까마귀 역설과 다양한 증거의 문제를 푸는 데 아래의 가정에 의존한다. 이 때 [eqn: d,r,l]은 아래를 만족시키는 반면, 규격화된 측정 방식인 [eqn: S]와 [eqn: lN]은 아래의 가정을 만족시키지 못한다.

[eqn: D_5] : If [eqn: p(h|e_1 ) > p(h|e_2 )], then [eqn: c(h, e_1 ) > c(h,e_2 )].

크리스텐슨이 종국에 [eqn: S]를 포기하고 회의적 입장을 취한 이유는, 여전히 [eqn: S]가 자신이 제기한 조건(증거의 순서와 무관한 입증도의 측정)을 완전히 만족시키지 못하기 때문이었다. 예컨대 [eqn: D] 이후에 등장한 [eqn: A]의 가설 지지도는, [eqn: S]를 이용해 계산해도 ([eqn: D] 이전에 등장한 [eqn: A]의 지지도에 비해) 작아진다. 배경지식으로서의 과거 증거 [eqn: D]는 여전히 증거 [eqn: A]의 증거적 지지도에 영향을 주고 있다. 크리스텐슨은 배경지식의 영향을 배제하고 증거와 가설 사이의 증거적 관계만 포착할 수 있는 측정 방식을 고안해내려 했지만, 그럴 수 없을 것으로 결론 짓고 자신의 시도를 포기하고 만다.

) 이 경우 [eqn: p(h|A)]는 1에 근접하게 된다.

엘즈와 피텔슨은 이와 같은 크리스텐슨의 결론에 대해, 공시적 증거적 지지도를 □순수히 공시적 방법□으로 측정하려고 했던 시도 자체가 잘못이라고 평가한다. 배경지식은 증거적 관계에서 완전히 배제될 수 없다. 그렇다면 오히려 문제는 (1절에서 제시했듯이) 증거적 지지도를 □언제나 배경지식에 상대적으로□ 측정될 수밖에 없는 것으로 간주함으로써 해결될 수 있을지 모른다. □입증□은 실제 역사적 배경지식에 의해, □증거□는 우리가 선택한 배경지식에 의해 서로 다르게 결정된다고 함으로써 말이다.