세 개의 문이 있습니다. 한 문 뒤에는 자동차가 있고 나머지 두 문 뒤에는 염소가 있습니다. 참가자가 문 하나를 고르자 진행자는 남은 두 문 가운데 염소가 있는 문 하나를 열어 줍니다. 이제 닫힌 문은 두 개입니다. 처음 고른 문을 그대로 유지해야 할까요, 아니면 다른 문으로 바꿔야 할까요?
정답부터 말하면 문을 바꾸는 편이 유리합니다. 처음 선택을 유지하면 자동차를 받을 확률은 1/3이고, 문을 바꾸면 2/3입니다. 문을 바꾸는 전략의 당첨 확률이 유지 전략의 두 배인 셈입니다. 다만 이 결론은 진행 방식이 정해진 표준 몬티 홀 문제에서만 성립합니다. 진행자가 어떤 정보를 알고 어떤 규칙에 따라 문을 여는지가 핵심입니다.
몬티 홀 문제의 규칙부터 정확히 확인하기
확률을 계산하기 전에 다음 조건을 모두 확인해야 합니다. 이 가운데 하나라도 달라지면 답이 달라질 수 있습니다.
- 자동차는 세 문 가운데 한 곳에 같은 확률로 배치됩니다.
- 참가자는 세 문 가운데 하나를 먼저 고릅니다.
- 진행자는 자동차의 위치를 알고 있습니다.
- 진행자는 참가자가 고른 문을 열지 않습니다.
- 진행자는 남은 문 가운데 반드시 염소가 있는 문을 엽니다.
- 진행자는 문을 연 뒤 참가자에게 항상 교체 기회를 줍니다.
진행자가 우연히 문을 열었는데 염소가 나온 상황과는 다릅니다. 표준 문제의 진행자는 자동차가 있는 문을 피해서 일부러 염소 문을 엽니다. 진행자의 행동에는 자동차의 위치에 관한 정보가 반영돼 있습니다.
첫 선택의 당첨 확률은 처음부터 1/3입니다
세 문 가운데 자동차가 있는 문은 하나뿐입니다. 아무 정보 없이 문 하나를 고르면 첫 선택이 정답일 확률은 1/3입니다. 반대로 첫 선택이 틀렸을 확률은 2/3입니다. 여기까지는 어렵지 않습니다.
중요한 점은 진행자가 염소 문을 열었다고 해서 처음 고른 문의 확률이 1/2로 바뀌지 않는다는 사실입니다. 처음 선택은 세 문 가운데 하나를 고른 것이므로 당첨 확률이 여전히 1/3입니다. 처음 선택하지 않은 두 문이 자동차를 포함하고 있을 확률은 합쳐서 2/3였습니다. 진행자는 그 두 문 중 염소가 있는 문 하나를 제거합니다. 그러면 선택하지 않은 문 두 개에 걸려 있던 2/3의 확률이 마지막으로 닫혀 있는 한 문에 모입니다.
따라서 선택지는 실제로 다음 두 묶음 사이의 비교입니다.
- 처음 고른 문 하나: 자동차가 있을 확률 1/3
- 처음 고르지 않은 문 묶음: 자동차가 있을 확률 2/3
진행자가 염소 한 마리를 보여 준 뒤 문을 바꾸는 행동은 처음 선택하지 않았던 두 문의 묶음을 선택하는 것과 같습니다. 진행자가 그 묶음 안의 오답을 알고 제거해 주기 때문입니다.
세 가지 경우를 전부 적어 보면 답이 선명해집니다
참가자가 항상 1번 문을 먼저 골랐다고 가정해 보겠습니다. 자동차가 놓일 수 있는 위치는 1번, 2번, 3번 문이며 각 경우의 확률은 똑같이 1/3입니다.
자동차가 1번 문 뒤에 있는 경우
첫 선택이 이미 정답입니다. 진행자는 2번과 3번 문 가운데 염소 문 하나를 엽니다. 이때 문을 유지하면 자동차를 받고, 바꾸면 염소를 받습니다. 유지 전략이 이기는 경우입니다.
자동차가 2번 문 뒤에 있는 경우
첫 선택인 1번 문은 오답입니다. 진행자는 자동차가 있는 2번 문을 열 수 없으므로 3번 문을 열어 염소를 보여 줍니다. 참가자가 남은 2번 문으로 바꾸면 자동차를 받습니다. 교체 전략이 이깁니다.
자동차가 3번 문 뒤에 있는 경우
첫 선택인 1번 문은 오답입니다. 진행자는 2번 문을 열어 염소를 보여 줍니다. 참가자가 3번 문으로 바꾸면 자동차를 받습니다. 이 경우에도 교체 전략이 이깁니다.
가능한 세 경우 가운데 처음 선택을 유지해서 이기는 경우는 하나이고, 바꿔서 이기는 경우는 두 개입니다. 세 경우가 각각 1/3의 확률을 가지므로 유지 전략의 당첨 확률은 1/3, 교체 전략의 당첨 확률은 2/3입니다.
문이 두 개 남았는데 왜 1/2 대 1/2가 아닐까요?
닫힌 문이 두 개만 보이기 때문에 각각의 확률이 절반이라고 생각하기 쉽습니다. 하지만 선택지가 두 개라는 사실만으로 두 선택의 확률이 같아지지는 않습니다. 동전을 공정하게 던졌을 때 앞면과 뒷면의 확률이 같은 이유는 가능한 결과가 두 개여서가 아니라 두 결과가 같은 확률로 나오도록 실험이 구성돼 있기 때문입니다.
몬티 홀 문제에서 남은 두 문은 같은 과정을 거치지 않았습니다. 한 문은 참가자가 아무 정보 없이 처음 고른 문입니다. 다른 문은 진행자가 자동차의 위치를 확인하고 염소 문을 제외한 뒤 남겨 둔 문입니다. 겉으로는 문 두 개가 똑같이 닫혀 있어도 그 문들이 남게 된 과정에는 차이가 있습니다.
진행자가 제공한 정보도 무시할 수 없습니다. 진행자는 아무 문이나 연 것이 아니라 자동차가 없는 문만 골라 열었습니다. 첫 선택이 틀린 2/3의 상황에서는 진행자가 열 수 있는 염소 문이 사실상 하나뿐입니다. 그래서 처음 선택이 틀렸다면 남은 닫힌 문에는 반드시 자동차가 있습니다. 문을 바꾸는 전략은 바로 이 2/3의 상황에서 승리합니다.
100개의 문으로 늘리면 왜 바꿔야 하는지 더 잘 보입니다
같은 문제를 문 100개로 넓혀 보겠습니다. 자동차 한 대와 염소 99마리가 각 문 뒤에 놓여 있습니다. 참가자가 먼저 문 하나를 고릅니다. 첫 선택으로 자동차를 맞힐 확률은 1/100이고, 틀릴 확률은 99/100입니다.
자동차의 위치를 아는 진행자가 참가자의 문을 제외한 99개 문 가운데 염소가 있는 문 98개를 모두 엽니다. 이제 참가자가 처음 고른 문과 진행자가 남겨 둔 문, 두 개만 닫혀 있습니다.
이 상황에서 처음 선택을 유지하면 당첨 확률은 1/100입니다. 처음에 자동차를 맞힌 경우에만 이기기 때문입니다. 반면 문을 바꾸면 처음 선택이 틀렸던 모든 경우에 이깁니다. 그 확률은 99/100입니다. 진행자가 98개의 염소 문을 열어도 첫 선택의 확률이 갑자기 1/2로 커지지는 않습니다.
세 문 문제도 구조는 같습니다. 첫 선택이 맞을 확률 1/3과 첫 선택이 틀릴 확률 2/3을 비교합니다. 문을 유지하는 전략은 첫 선택이 맞았을 때 이기고, 문을 바꾸는 전략은 첫 선택이 틀렸을 때 이깁니다.
유지와 교체는 서로 반대되는 전략입니다
표준 몬티 홀 문제에서는 결과를 더 간단히 표현할 수도 있습니다.
- 첫 선택이 정답이면 유지 전략이 이기고 교체 전략이 집니다.
- 첫 선택이 오답이면 유지 전략이 지고 교체 전략이 이깁니다.
처음 선택이 정답일 확률은 1/3이고 오답일 확률은 2/3입니다. 따라서 교체 전략의 승률은 첫 선택이 오답일 확률과 같은 2/3입니다. 진행자가 어느 번호의 문을 열었는지 하나씩 계산하지 않아도 전체 교체 전략의 승률을 구할 수 있는 이유입니다.
진행자가 열 수 있는 염소 문이 두 개일 때 어느 쪽을 고르는지에 관한 규칙은 특정 문이 열렸다는 사실만 놓고 조건부확률을 세밀하게 계산할 때 필요합니다. 그러나 참가자가 매번 무조건 바꾸는 전략의 전체 승률은 진행자가 항상 염소 문을 열고 항상 교체 기회를 준다는 조건 아래 2/3입니다.
100만 번 모의실험을 하면 어떤 결과가 나올까요?
이론값은 반복 실험으로도 확인할 수 있습니다. 자동차 위치와 참가자의 첫 선택을 각각 0, 1, 2 가운데 하나로 균등하게 정하고 다음 규칙을 적용하면 됩니다. 첫 선택과 자동차 위치가 같으면 유지 전략이 이기고, 서로 다르면 교체 전략이 이깁니다.
재현할 수 있도록 초기값 20260922를 사용한 의사난수 생성기로 1,000,000회 모의실험을 실행했습니다. 그 결과 유지 전략은 333,744회 승리해 승률 33.3744%를 기록했고, 교체 전략은 666,256회 승리해 승률 66.6256%를 기록했습니다. 이론값인 33.333…%와 66.666…%에 가까운 결과입니다.
모의실험의 횟수가 유한하므로 결과가 정확히 1/3과 2/3으로 나뉘지는 않습니다. 확률 2/3은 세 번 할 때마다 반드시 두 번 이긴다는 뜻이 아닙니다. 같은 조건의 실험을 매우 많이 반복했을 때 승리 비율이 2/3에 가까워진다는 뜻입니다. 한 번의 게임에서는 자동차를 받거나 받지 못하는 두 결과 중 하나만 일어납니다.
진행자가 규칙을 모른다면 같은 답을 쓸 수 없습니다
몬티 홀 문제의 2/3 결론은 진행자의 행동 규칙에 의존합니다. 예를 들어 진행자가 자동차의 위치를 모르고 참가자가 고르지 않은 문을 무작위로 열었다고 가정해 보겠습니다. 이때는 진행자가 자동차 문을 열어 버릴 수도 있습니다. 우연히 염소가 나왔다는 조건을 확인한 뒤의 확률은 표준 문제와 다른 방식으로 계산해야 합니다.
진행자가 첫 선택이 정답일 때만 교체를 제안하거나, 상황에 따라 교체 기회를 주지 않는 경우도 마찬가지입니다. 참가자는 교체 제안을 받았다는 사실 자체에서 추가 정보를 얻게 됩니다. 진행자의 선택 규칙을 모르면 그 정보가 어떤 확률을 뜻하는지 하나로 정할 수 없습니다.
실제 미국 TV 프로그램 ‘Let’s Make a Deal’의 진행 방식과 수학 문제의 고정 규칙도 완전히 같지는 않았습니다. 수학 문제는 TV 프로그램에서 이름과 설정을 가져왔지만, 분석을 위해 진행자가 따라야 할 절차를 고정한 모형입니다. 그러므로 현실의 게임이나 다른 퀴즈에 2/3이라는 숫자를 그대로 적용하기 전에 진행자가 정답을 알고 있는지, 항상 오답을 제거하는지, 매번 선택 변경을 허용하는지부터 확인해야 합니다.
몬티 홀 문제는 어떻게 알려졌을까요?
‘몬티 홀 문제’라는 이름은 미국의 게임 쇼 ‘Let’s Make a Deal’의 진행자 몬티 홀에서 왔습니다. 통계학자 스티브 셀빈은 1975년 학술지 The American Statistician에 ‘A Problem in Probability’라는 제목의 편지를 실었고, 같은 해 후속 편지 ‘On the Monty Hall Problem’에서 진행자가 자동차의 위치를 안다는 조건과 확률 계산을 설명했습니다.
이 문제는 1990년 미국 잡지 Parade의 ‘Ask Marilyn’ 칼럼에서 다시 소개되며 널리 알려졌습니다. 칼럼니스트 메릴린 보스 사반트는 문을 바꾸면 당첨 확률이 2/3이라고 답했습니다. 직관과 다른 답 때문에 큰 논쟁이 벌어졌지만, 표준 조건 아래에서는 문을 바꾸는 전략이 맞습니다.
여기서 역사적 배경과 수학적 모형을 구분할 필요가 있습니다. 실제 방송을 그대로 통계화한 것이 아니라 방송의 문 선택 장면을 바탕으로 규칙을 고정한 확률 문제입니다. 그래서 문제를 풀 때는 ‘방송에서 진행자가 어떻게 행동했을까’가 아니라 문제에 명시된 진행 규칙이 무엇인지를 살펴야 합니다.
자주 묻는 질문
문을 바꾸면 무조건 당첨되나요?
아닙니다. 문을 바꾸면 당첨 확률이 2/3로 높아질 뿐, 한 번의 게임에서 당첨을 보장하지는 않습니다. 처음 선택이 이미 자동차 문이었다면 바꿀 때 염소를 고르게 됩니다. 이런 경우의 확률이 1/3입니다.
진행자가 문을 연 뒤 처음 선택을 다시 무작위로 한 것과 같지 않나요?
같지 않습니다. 진행자는 자동차가 없는 문을 알고 제거합니다. 남은 문을 만드는 과정이 무작위 재선택과 다릅니다. 처음 고른 문은 여전히 최초 선택의 확률 1/3을 가지며, 바꿀 문은 처음 선택이 틀렸던 경우에 해당하는 2/3의 확률을 가집니다.
진행자가 어느 염소 문을 열지 마음대로 골라도 2/3인가요?
참가자가 매번 무조건 다른 문으로 바꾸는 전략이라면 전체 승률은 2/3입니다. 첫 선택이 틀렸을 때는 진행자가 자동차 문을 열 수 없으므로 남은 자동차 문으로 바꾸게 됩니다. 다만 ‘진행자가 3번 문을 열었다’처럼 특정 행동을 조건으로 확률을 계산하려면 진행자가 선택 가능한 두 염소 문 중 어느 문을 얼마나 자주 여는지까지 알아야 합니다.
문을 유지하는 전략과 매번 동전을 던져 결정하는 전략은 어떤가요?
유지는 1/3, 교체는 2/3입니다. 두 전략을 각각 절반의 확률로 무작위 선택하면 전체 당첨 확률은 1/2입니다. 계산은 (1/2 × 1/3) + (1/2 × 2/3) = 1/2입니다. 이 전략은 항상 유지하는 것보다는 낫지만 항상 바꾸는 것보다는 불리합니다.
결론: 남은 문의 개수가 아니라 정보가 만들어진 과정을 보세요
몬티 홀 문제의 답은 처음 선택이 맞았는지 틀렸는지로 정리됩니다. 처음 선택이 맞을 확률은 1/3이며 이때는 유지해야 이깁니다. 처음 선택이 틀릴 확률은 2/3이며 이때는 바꿔야 이깁니다. 따라서 표준 규칙을 따르는 몬티 홀 문제에서는 문을 바꾸는 전략의 당첨 확률이 2/3입니다.
진행자가 문 하나를 열었다는 사실보다 더 중요한 것은 그 문을 어떤 정보와 규칙에 따라 열었는지입니다. 진행자는 자동차의 위치를 알고 오답만 제거했습니다. 그 결과 처음 선택하지 않은 두 문에 있던 2/3의 확률이 마지막 닫힌 문 하나로 좁혀집니다. 두 문이 남았다고 해서 자동으로 1/2 대 1/2가 되지 않는 이유입니다.