재미있는 확률

상트페테르부르크의 역설(St. Petersburg Paradox): 기댓값은 무한대이지만 아무도 큰돈을 걸지 않는 동전 게임

첫 앞면이 늦게 나올수록 상금이 두 배가 되는 동전 게임의 기댓값은 왜 무한대일까요? 상트페테르부르크의 역설을 확률 계산과 기대효용으로 설명합니다.

모두의 계산기2026년 9월 21일8분 읽기

공정한 동전을 앞면이 처음 나올 때까지 던지는 게임이 있습니다. 첫 번째에 앞면이 나오면 2원을 받고, 두 번째에 처음 앞면이 나오면 4원, 세 번째면 8원을 받습니다. 앞면이 늦게 나올수록 상금은 2배씩 커집니다.

이 게임의 상금 기댓값을 계산하면 무한대로 발산합니다. 단순한 기대금액 원칙만 따르면 어떤 유한한 참가비를 내더라도 게임에 참여할 가치가 있다는 결론이 나옵니다. 참가비가 1만 원이나 1억 원이어도 이론상 무한대보다 작기 때문입니다.

하지만 한 번 참여하기 위해 전 재산에 가까운 돈을 내는 선택을 받아들이는 사람은 거의 없습니다. 계산은 무한대를 가리키는데 실제 의사결정은 낮은 참가비에 머뭅니다. 이 충돌을 ‘상트페테르부르크의 역설(St. Petersburg Paradox)’이라고 합니다.

이 역설은 기댓값 계산이 틀렸다는 뜻이 아닙니다. 확률분포의 꼬리가 매우 두꺼울 때 금전적 기댓값만으로 한 번의 위험한 선택을 평가하면 어떤 문제가 생기는지를 보여 줍니다. 또한 기대효용, 위험 회피와 한계효용이라는 경제학 개념이 발전하는 데 중요한 역할을 했습니다.

상트페테르부르크 게임의 규칙

현대에 널리 쓰이는 표준형 게임의 규칙은 다음과 같습니다.

공정한 동전을 던집니다.
앞면이 나오면 게임을 끝냅니다.
뒷면이 나오면 다시 던집니다.
첫 앞면이 n번째 던지기에서 나오면 2ⁿ원을 받습니다.

첫 앞면이 나오는 시점과 상금은 다음처럼 늘어납니다.

1번째에 첫 앞면: 확률 1/2, 상금 2원
2번째에 첫 앞면: 확률 1/4, 상금 4원
3번째에 첫 앞면: 확률 1/8, 상금 8원
4번째에 첫 앞면: 확률 1/16, 상금 16원
10번째에 첫 앞면: 확률 1/1,024, 상금 1,024원
20번째에 첫 앞면: 확률 1/1,048,576, 상금 1,048,576원

상금 단위를 원으로 적었지만 실제 화폐가치와는 관계없는 수학적 예입니다. 문헌에 따라 첫 상금을 1로 놓거나 앞면과 뒷면의 역할을 바꾸기도 합니다. 첫 상금이 1인 형태는 각 항의 기대 기여도가 1/2이지만 무한히 더하면 역시 발산합니다. 이 글에서는 계산이 간단한 2ⁿ원 규칙을 사용합니다.

기댓값은 왜 무한대가 되나요?

기댓값은 각 결과의 금액에 그 결과가 발생할 확률을 곱한 뒤 모두 더한 값입니다. 첫 앞면이 n번째에 나올 확률은 앞의 n-1번이 모두 뒷면이고 마지막이 앞면일 확률입니다.

P(첫 앞면이 n번째) = (1/2)ⁿ

그때 받는 상금은 2ⁿ원입니다. 따라서 각 n이 기댓값에 더하는 금액은 항상 1원입니다.

(1/2)ⁿ × 2ⁿ원 = 1원

첫 번째 결과는 1원, 두 번째 결과도 1원, 세 번째 결과도 1원을 기댓값에 보탭니다. 가능한 던지기 횟수는 끝없이 이어지므로 전체 기댓값은 다음과 같습니다.

E(X) = 1 + 1 + 1 + 1 + ⋯ = ∞

상금이 커질수록 당첨 확률은 정확히 같은 비율로 작아집니다. 그래서 아주 드문 결과도 기댓값에 똑같이 1원씩 기여합니다. 확률이 거의 0에 가까워져도 항의 기여도가 줄지 않으므로 합계가 유한한 값에 수렴하지 않습니다.

확률의 합은 1인데 기댓값은 무한대일 수 있나요?

가능합니다. 모든 가능한 게임 종료 시점의 확률을 더하면 1입니다.

1/2 + 1/4 + 1/8 + 1/16 + ⋯ = 1

게임은 확률 1로 유한한 횟수 안에 끝납니다. 영원히 뒷면만 나올 확률은 0입니다. 개별 게임에서 받는 상금도 항상 어떤 유한한 수입니다.

그러나 확률의 합이 1이라는 사실과 상금의 기댓값이 유한하다는 사실은 별개입니다. 기댓값에는 각 확률뿐 아니라 그 경우의 상금도 곱합니다. 확률이 절반으로 줄 때 상금이 두 배로 늘기 때문에 각 항의 곱이 줄지 않습니다.

즉 실제 한 번의 결과가 무한대인 경우는 없습니다. 유한한 상금만 가능한 분포에서도 극단적으로 큰 상금이 충분한 속도로 늘어나면 평균인 기댓값은 발산할 수 있습니다.

대부분의 상금은 매우 작습니다

기댓값은 무한대지만 가장 자주 받는 상금은 2원입니다. 첫 번째 던지기에서 앞면이 나올 확률이 1/2이기 때문입니다.

누적확률을 보면 실제 게임의 전형적인 모습이 더 분명해집니다.

2원을 받을 확률: 50%
4원 이하를 받을 확률: 75%
8원 이하를 받을 확률: 87.5%
16원 이하를 받을 확률: 93.75%
1,024원 이하를 받을 확률: 약 99.902%

상금의 중앙값으로 2원을 선택할 수 있습니다. 전체 결과의 절반이 2원이고 나머지 절반이 4원 이상입니다. 반면 평균은 무한대로 발산합니다. 중앙값과 기댓값이 극단적으로 다른 분포인 셈입니다.

상금이 최소 2²⁰원, 즉 1,048,576원 이상이 되려면 처음 19번이 모두 뒷면이어야 합니다. 그 확률은 1/2¹⁹로 약 52만 4,288분의 1입니다. 매우 큰 상금이 기댓값을 계속 올리지만 한 번의 게임에서 그런 결과를 경험할 가능성은 작습니다.

무한 기댓값과 참가비의 충돌

위험이 없는 거래에서 받을 금액의 기댓값만 비교한다면 참가비가 기댓값보다 낮을 때 참여하는 규칙을 생각할 수 있습니다. 상트페테르부르크 게임의 기댓값은 무한대이므로 모든 유한한 참가비가 그보다 낮습니다.

이 원칙을 그대로 적용하면 참가비가 보유 자산 대부분을 차지해도 참여해야 한다는 결론이 나옵니다. 그러나 참가비는 확실히 지불해야 하고 상금의 절반은 2원에 그칩니다. 거액을 내고 한 번 참여하면 큰 손실을 볼 확률이 높습니다.

예를 들어 참가비가 1,000원이라면 이익을 내려면 상금이 1,024원 이상이어야 합니다. 첫 앞면이 10번째 이후에 나와야 하므로 그 확률은 1/2⁹, 즉 약 0.195%입니다. 나머지 약 99.805%에서는 받은 상금이 참가비보다 작습니다. 기대 상금이 무한대라는 사실과 한 번의 게임에서 이익을 볼 확률이 낮다는 사실은 동시에 성립합니다.

이 계산은 참가비 1,000원이 적절한지 판단한 결과가 아닙니다. 무한 기댓값이 승리 확률이나 전형적인 결과를 직접 말해 주지 않는다는 점을 보여 주는 예입니다.

누가 이 역설을 처음 제시했나요?

상트페테르부르크의 역설은 니콜라우스 베르누이(Nicolaus Bernoulli)가 1713년에 제시한 문제에서 시작됐습니다. 그의 사촌 다니엘 베르누이(Daniel Bernoulli)는 이 문제를 분석해 1738년 상트페테르부르크 제국과학원 학술지 Commentarii Academiae Scientiarum Imperialis Petropolitanae에 ‘Specimen Theoriae Novae de Mensura Sortis’를 발표했습니다.

역설의 이름은 게임의 배경 도시에서 나온 것이 아니라 다니엘 베르누이의 논문이 실린 상트페테르부르크 제국과학원 학술지에서 유래했습니다. 해당 논문은 1954년 ‘Exposition of a New Theory on the Measurement of Risk’라는 영어 번역으로 Econometrica 제22권 제1호 23~36쪽에 다시 실렸습니다.

수학자 가브리엘 크라메르(Gabriel Cramer)도 1728년 서신에서 돈의 가치를 그대로 더하지 않는 해결 방향을 제안했습니다. 크라메르는 돈의 제곱근 형태의 효용과 효용에 상한을 두는 방안을 논의했고, 다니엘 베르누이는 부가 증가할수록 추가 금액의 효용이 줄어드는 로그 효용을 제시했습니다.

다니엘 베르누이의 해법: 기대효용

베르누이는 사람들이 돈의 기대금액 자체보다 돈에서 얻는 효용의 기댓값을 고려한다고 설명했습니다. 같은 100만 원이라도 자산이 거의 없는 사람과 자산이 매우 많은 사람에게 주는 경제적 의미가 다를 수 있다는 생각입니다.

그가 제시한 대표적인 형태는 부 W의 효용을 로그로 나타내는 함수입니다.

U(W) = ln(W)

로그 함수는 부가 늘수록 계속 증가하지만 증가 속도는 점점 느려집니다. 부가 100에서 200으로 늘 때의 효용 증가와 1,000,100에서 1,000,200으로 늘 때의 효용 증가는 같지 않습니다. 동일한 금액의 추가 이익이 기존 자산이 클수록 더 작은 효용 증가를 준다는 한계효용 체감입니다.

상금이 2ⁿ으로 커지면 로그 효용은 대략 n에 비례해 증가합니다. 발생 확률은 1/2ⁿ으로 감소하므로 기대효용의 항은 n/2ⁿ과 같은 속도로 작아집니다.

1/2 + 2/4 + 3/8 + 4/16 + ⋯

이 급수는 유한한 값에 수렴합니다. 따라서 금전적 기대 상금은 무한대여도 로그 효용의 기댓값은 유한할 수 있습니다. 참가자가 지불할 최대 금액도 기존 자산과 효용함수에 따라 유한하게 계산됩니다.

한계효용 체감은 무엇을 설명하나요?

한계효용은 재화나 자산이 한 단위 늘어날 때 추가되는 효용입니다. 한계효용 체감은 보유량이 많아질수록 같은 추가 금액이 주는 효용 증가가 작아지는 성질입니다.

이 성질을 가진 오목한 효용함수를 사용하면 확실한 금액과 같은 기대금액을 가진 위험한 선택의 가치가 다를 수 있습니다. 위험한 결과의 기대효용이 확실한 결과의 효용보다 낮다면 위험 회피적인 선택이 나타납니다.

다만 모든 오목한 효용함수가 모든 형태의 상트페테르부르크 게임을 자동으로 해결하는 것은 아닙니다. 보상 구조를 효용함수보다 더 빠르게 증가시키는 변형 게임을 만들면 기대효용도 다시 발산할 수 있습니다. 상트페테르부르크의 역설은 어떤 의사결정 원칙과 효용 조건이 필요한지에 관한 논의를 계속 만들어 냈습니다.

따라서 ‘로그 효용이 유일한 정답’이라고 말할 수는 없습니다. 베르누이의 제안은 금전적 기대값 대신 개인의 부와 한계효용을 반영하는 기대효용 접근을 제시했다는 역사적 의미가 있습니다.

확실성등가는 무엇인가요?

확실성등가(certainty equivalent)는 위험한 게임과 같은 효용을 주는 확실한 금액입니다. 기대효용 이론에서는 게임의 기대효용을 먼저 계산한 뒤 그와 동일한 효용을 주는 확실한 보상을 찾습니다.

위험 중립적인 사람에게는 확실성등가가 기대금액과 같을 수 있습니다. 위험 회피적인 사람에게는 보통 확실성등가가 유한한 기대금액보다 낮습니다. 상트페테르부르크 게임에서는 로그 효용을 적용하면 금전적 기댓값이 무한대여도 확실성등가는 유한해질 수 있습니다.

참가비의 적정 수준은 모든 사람에게 하나의 숫자로 정해지지 않습니다. 초기 자산, 효용함수, 게임이 자산 전체에 미치는 비중이 다르면 기대효용과 확실성등가도 달라집니다. 베르누이의 모형이 거액 자산가와 생계 자금을 가진 사람이 같은 게임에 서로 다른 금액을 지불할 수 있다고 설명하는 이유입니다.

현실의 카지노는 무한한 상금을 지급할 수 없습니다

수학적 게임은 상금에 상한이 없고 약속된 모든 상금을 확실히 지급한다고 가정합니다. 현실의 운영자는 유한한 자산만 보유합니다. 세계에 존재하는 자원과 화폐도 유한하며 게임을 진행할 시간에도 한계가 있습니다.

첫 앞면이 30번째에 나오면 상금은 2³⁰원, 즉 1,073,741,824원입니다. 40번째라면 2⁴⁰원으로 약 1조 995억 원입니다. 횟수가 조금만 늘어도 상금은 운영자가 지급하기 어려운 규모가 됩니다.

운영자의 자금이 부족해 지급하지 못할 가능성이 있다면 원래 게임의 확실한 지급 가정이 깨집니다. 참가자는 약속된 숫자뿐 아니라 거래 상대방의 지급 능력과 계약 조건도 고려해야 합니다.

현실의 게임에 최대 상금이나 최대 던지기 횟수를 두는 순간 확률분포는 달라지고 기댓값은 유한해집니다. 따라서 제한이 있는 실제 게임과 무제한인 수학적 상트페테르부르크 게임을 같은 상품처럼 비교하면 안 됩니다.

게임을 N번에서 끝내면 기댓값은 N원입니다

첫 앞면이 나오기 전에 최대 N번까지만 던지고, N번 모두 뒷면이면 상금을 지급하지 않는 제한 게임을 생각해 보겠습니다. 첫 앞면이 1번째부터 N번째에 나오는 각 경우는 기댓값에 1원씩 기여합니다.

제한 게임의 기댓값 = 1원 × N = N원

최대 10번 던지는 게임의 기댓값은 10원입니다. 최대 상금은 1,024원이지만 10번 모두 뒷면이면 상금은 0원입니다.

최대 30번 던지는 게임에서는 최대 상금이 약 10억 7천만 원이어도 기댓값은 30원입니다. 매우 큰 최대 상금이 광고에 보이더라도 그 상금의 확률과 상금이 지급되지 않는 종료 조건까지 포함해야 실제 기댓값을 계산할 수 있습니다.

상금을 일정 금액으로 단순히 고정하는 규칙, 마지막 횟수에 도달하면 무조건 상금을 주는 규칙, 지급 불능 시 일부만 주는 규칙은 각각 다른 기댓값을 만듭니다. ‘상한이 있다’는 정보만으로는 부족하고 정확한 종료 및 지급 규칙이 필요합니다.

1,000만 번 모의실험에서는 어떻게 보였나요?

무한 기댓값 분포의 표본평균이 실제 계산에서 어떻게 움직이는지 확인하기 위해 가상 모의실험을 실시했습니다. 공정한 동전을 사용하고 첫 앞면이 n번째에 나오면 2ⁿ원을 지급했습니다. 결과를 재현할 수 있도록 난수 생성 시작값을 20260922로 고정했습니다.

10회 후 평균 상금: 3.6원, 최대 상금 16원
100회 후 평균 상금: 9.18원, 최대 상금 256원
1,000회 후 평균 상금: 10.574원, 최대 상금 1,024원
1만 회 후 평균 상금: 약 79.974원, 최대 상금 524,288원
10만 회 후 평균 상금: 약 27.257원, 최대 상금 524,288원
100만 회 후 평균 상금: 약 21.597원, 최대 상금 1,048,576원
1,000만 회 후 평균 상금: 약 23.843원, 최대 상금 8,388,608원

1만 회 구간에서 한 번의 큰 상금이 표본평균을 약 79.974원까지 끌어올렸습니다. 이후 평범한 결과가 많이 추가되자 평균은 다시 낮아졌고, 더 큰 상금이 등장할 때 다시 영향을 받았습니다.

이 결과는 하나의 고정된 난수열에서 나온 설명용 모의실험이며 이론적 증명의 대체물이 아닙니다. 시작값을 바꾸면 구체적인 평균과 최대값도 달라집니다. 다만 유한평균을 가진 일반적인 분포처럼 표본평균이 하나의 유한한 모평균 주변에 안정되는 모습을 기대할 수 없고, 드물게 등장하는 최대 상금이 평균을 크게 움직인다는 특징을 보여 줍니다.

많이 반복하면 무한 기댓값을 실현할 수 있나요?

게임을 반복할수록 매우 긴 뒷면 행렬을 만날 기회는 늘어납니다. 하지만 무한한 기댓값은 유한한 횟수 안에 무한한 돈을 받는다는 뜻이 아닙니다. 어떤 유한한 횟수만큼 게임을 해도 관찰되는 모든 상금과 총액은 유한합니다.

참가자가 게임을 반복하려면 매번 참가비를 낼 자금과 충분한 시간이 필요합니다. 운영자도 약속된 상금을 지급할 능력이 있어야 합니다. 거액의 참가비로 반복하면 큰 상금이 나오기 전에 자금이 소진될 수 있습니다.

일반적인 큰수의 법칙은 독립적이고 같은 분포를 따르는 확률변수의 평균이 유한한 기댓값으로 수렴한다는 조건에서 사용됩니다. 상트페테르부르크 상금은 기댓값이 유한하지 않으므로 그 형태의 결론을 그대로 적용할 수 없습니다.

평균, 중앙값과 최빈값은 서로 다른 질문입니다

기댓값은 같은 확률 구조를 수학적으로 가중 평균한 값입니다. 위험을 비교하고 장기간 손익을 분석할 때 중요한 기준이지만 분포의 전형적인 한 번을 항상 잘 나타내지는 않습니다.

중앙값은 결과를 크기순으로 놓았을 때 가운데에 해당하는 값입니다. 상트페테르부르크 게임에서는 2원을 중앙값으로 선택할 수 있습니다. 최빈값은 가장 확률이 높은 값이며 역시 2원입니다.

기댓값이 무한대이고 중앙값과 최빈값이 2원이라는 사실은 모순이 아닙니다. 기댓값은 확률이 작은 거액 상금의 영향을 끝없이 받지만 중앙값과 최빈값은 분포의 중심과 가장 흔한 결과를 설명합니다.

게임을 평가할 때는 다음 질문을 분리해야 합니다.

평균적으로 가중한 상금은 얼마인가요?
절반 이상의 경우 받을 수 있는 상금은 얼마인가요?
참가비보다 많은 상금을 받을 확률은 얼마인가요?
감당할 수 있는 최대 손실은 얼마인가요?
운영자가 모든 상금을 지급할 수 있나요?

한 지표가 이 질문에 모두 답하지는 않습니다.

상트페테르부르크의 역설이 알려 주는 통계 원리

첫째, 기댓값은 분포 전체의 정보를 한 숫자로 요약하지만 전형적인 결과와 다를 수 있습니다. 꼬리가 매우 두꺼운 분포에서는 드문 극단값이 평균을 지배합니다.

둘째, 확률이 작다는 이유만으로 결과를 무시할 수는 없습니다. 상트페테르부르크 게임에서는 확률이 줄어드는 속도와 상금이 커지는 속도가 정확히 상쇄되어 모든 단계가 같은 금액을 기댓값에 더합니다.

셋째, 수학적 모형의 가정을 확인해야 합니다. 무제한 지급 능력, 무한한 가능한 횟수와 확실한 계약 이행이 빠지면 원래의 무한 기댓값 계산도 달라집니다.

넷째, 금전적 기대값과 의사결정의 가치는 같은 개념이 아닐 수 있습니다. 개인의 자산, 위험 감수 능력과 효용을 반영하면 같은 게임의 가치가 사람마다 달라질 수 있습니다.

자주 묻는 질문

상트페테르부르크 게임에서 실제로 무한한 돈을 받을 수 있나요?

아닙니다. 게임은 확률 1로 유한한 횟수 안에 끝나고 실제 상금도 항상 유한합니다. 무한대인 것은 모든 가능한 상금을 확률로 가중해 더한 기댓값입니다.

기댓값 계산이 잘못된 것인가요?

아닙니다. 상한이 없는 표준 게임에서 기댓값이 발산한다는 계산은 수학적으로 맞습니다. 역설은 이 계산과 사람들이 큰 참가비를 지불하지 않는 의사결정 사이의 충돌입니다.

무한 기댓값이면 참가비를 얼마든지 내도 유리한가요?

금전적 기댓값만 비교하는 단순 원칙은 그렇게 말합니다. 그러나 한 번의 게임에서 참가비보다 적게 받을 확률, 개인의 유한한 자산, 한계효용 체감과 운영자의 지급 능력을 포함하면 결론이 달라집니다.

1,000원을 내면 이익을 볼 확률은 얼마인가요?

상금이 1,000원을 넘어야 하므로 첫 앞면이 10번째 이후에 나와 1,024원 이상을 받아야 합니다. 그 확률은 1/2⁹로 약 0.195%입니다. 이는 이 글에서 정의한 2ⁿ원 규칙을 적용한 계산입니다.

평균 상금이 무한대인데 중앙값은 왜 2원인가요?

첫 번째 던지기에서 앞면이 나올 확률이 50%이므로 결과의 절반이 2원입니다. 기댓값은 아주 드문 거액 상금에도 영향을 받지만 중앙값은 결과를 순서대로 나눈 가운데 위치를 나타냅니다.

현실에서 같은 게임을 만들면 기댓값도 무한대인가요?

운영자가 상금에 상한을 두거나 최대 던지기 횟수, 지급 한도, 파산 조건을 설정하면 분포가 달라져 기댓값이 유한해집니다. 현실의 계약이 수학적 표준 게임과 완전히 같은 조건을 보장할 수 있는지도 확인해야 합니다.

로그 효용이 역설의 완전한 해결책인가요?

로그 효용은 표준 게임의 기대효용을 유한하게 만들고 한계효용 체감을 반영합니다. 그러나 다른 효용함수와 변형 게임에서는 문제가 다시 나타날 수 있어 의사결정 이론에서는 여러 해법과 해석이 계속 논의됩니다.

결론: 무한한 평균과 작은 전형적 결과는 함께 존재합니다

상트페테르부르크 게임은 첫 앞면이 n번째에 나올 확률 1/2ⁿ과 상금 2ⁿ을 곱하면 모든 단계가 기댓값에 1원씩 기여하도록 설계됩니다. 가능한 단계가 무한하므로 금전적 기댓값도 무한대로 발산합니다.

동시에 첫 게임에서 받을 상금의 중앙값과 최빈값은 2원이고 75%의 결과는 4원 이하입니다. 참가비가 1,000원일 때 상금이 참가비보다 클 확률은 약 0.195%입니다. 무한 기댓값이 큰돈을 받을 높은 확률을 뜻하지 않는다는 사실을 분명히 보여 줍니다.

다니엘 베르누이는 돈의 가치가 자산과 무관하게 일정하다고 보지 않고 로그 효용과 한계효용 체감을 적용했습니다. 이 접근에서는 금전적 기대 상금이 무한대여도 기대효용과 지불 의사는 유한해질 수 있습니다.

현실에서는 운영자의 자금, 지급 한도와 시간도 유한합니다. 이런 제한을 넣으면 게임 자체가 달라지고 기댓값도 유한해집니다. 상트페테르부르크의 역설은 평균만 볼 것이 아니라 분포의 꼬리, 중앙값, 손실 확률, 효용과 모형의 가정을 함께 확인해야 한다는 고전적인 사례입니다.