확률 : 빈도주의와 베이즈주의

확률에 대한 가장 상식적인 견해는 확률을 주어진 사건의 상대 빈도로 간주하는 빈도주의이다. 이에 따르면, 주사위를 던져 1이 나올 확률이 1/6이라고 말하는 것은, 만약 주사위를 수없이 많이 던질 경우 1이 나오는 상대 빈도가 1/6에 가까워질 것이라고 주장하는 것과 같으며, 그 값은 개인의 믿음과는 무관하게 세계의 상태에 의해 결정된다. 다만 이러한 확률은 주사위를 던지는 것처럼 동일한 종류의 시행이 나열될 수 있을 때에만 정의될 수 있는데, 그러한 동일한 종류의 시행들을 묶어 ‘준거집합’이라고 부른다.

빈도주의에서 확률은 준거집합의 원소가 하나일 경우 정의될 수 없으며, 준거집합을 명확히 규정하기 어려울 경우 그 값이 모호해지는 문제가 있다. 예를 들어 ‘오늘 비가 올 확률’의 준거집합은 어떻게 설정될까? 준거집합에 오늘만 포함시킨다면, 그 확률은 정의될 수 없다. 대신 준거집합을 ‘오늘과 비슷한 조건의 날들’로 설정할 경우, ‘오늘 비가 올 확률’은 오늘과 비슷한 조건의 수많은 날들 중 비가 오는 날의 상대 빈도를 의미하게 된다. 그러나 이 확률의 준거집합은 ‘오늘과 비슷한 조건’에 무엇을 포함시킬지에 따라 달라지며, 참된 준거집합을 알아내기 전까지 그 확률값은 확정될 수 없다.

이에 대한 대안으로 제시된 베이즈주의에서는 확률을 주어진 명제에 대한 믿음의 정도로 간주한다. 이에 따르면, 주사위를 던져 1이 나올 확률이 1/6이라고 말하는 것은, “주사위를 던지면 1이 나온다”는 명제에 대한 어떤 사람의 믿음의 정도가 1/6이라고 주장하는 것과 같다. 이러한 확률은 개인의 주관적인 믿음의 정도일 뿐이므로, 참된 준거집합을 규정하기 어려운 단일 사건뿐 아니라 심지어 세계에 대한 가설에도 부여될 수 있다. 따라서 베이즈주의에서는 ‘오늘 비가 올 확률’이나 ‘지구가 태양을 중심으로 공전하고 있을 확률’도 문제없이 정의될 수 있다.

그러나 빈도주의와 달리 베이즈주의에서는 확률이 개인마다 다르게 부여될 수 있다. 대신 그 확률은 새롭게 들어오는 정보를 통해 합리적으로 갱신될 수 있다. 그 갱신 규칙은 모든 사람에게 보편적으로 적용되며, 다음과 같이 표현될 수 있다. 만약 주어진 명제가 참이라면 일어날 가능성이 명제가 참이 아니라면 일어날 가능성보다 높은 어떤 사건이 나타나면 그 명제에 대한 확률을 올리고, 반대의 사건이 나타나면 확률을 내린다. 예를 들어, A라는 사람과 B라는 사람이 ‘지구가 태양을 중심으로 공전한다’라는 가설에 대해 처음에 각각 0.7과 0.2의 확률을 부여했다고 해보자. 만약 지구가 태양을 공전하지 않고서는 나타나기 어려운 일인 연주시차가 발견됐다는 것을 알게 되면 A와 B는 모두 그 명제에 대한 확률을 올린다. 그러나 지구의 공전과는 무관한 일인 오늘 비가 온 것을 알게 된 것으로는 그 명제에 대한 확률을 변경하지 않는다.

베이즈주의의 확률 갱신 규칙은 누적되는 증거에 따라 가설에 대한 믿음을 변경하는 과학자의 활동을 흉내 낼 수 있으며, 이 때문에 베이즈주의 확률은 증거와 가설 사이의 관계를 이해하기 위한 도구로도 이용되고 있다. 그러나 처음의 확률값을 개인마다 마음대로 부여할 수 있다는 점은 여전히 심각한 논란거리가 되고 있다.

관련 항목

• 베이즈주의 과학철학
• 입증