확률이라는 개념은 놀랍도록 단순해 보이지만, 이 단순함 뒤에 가장 자주 오해되는 영역이 있다. 바로 기대값과 실제 결과의 관계다. 기대값(expected value)은 수학적 평균이다. 그러나 이 수학적 평균이 실제 세계의 경험으로 번역될 때 간극이 발생한다. 이 간극을 인식하지 못하면 확률을 ‘아는’ 사람도 확률 앞에서 반복적으로 실패한다.
의료·보험·금융·도박 등 확률이 지배하는 모든 영역에서 이 구분은 결정적이다. 기대값이 양수인 결정을 반복한다고 해서 개별 시행이 양수 결과를 낸다는 보장은 없다. 반대로 기대값이 음수인 결정을 반복하면 단기 승리 몇 번은 있어도 장기 총계는 필연적으로 마이너스로 수렴한다. 이 글은 기대값(expected value)이라는 수학적 도구가 실전에서 어떻게 작동하는지, 왜 사람들이 이것을 꾸준히 오해하는지를 다룬다.
기대값의 수학적 정의
기대값은 가능한 결과 각각에 그 확률을 곱하고 모두 더한 값이다. 동전 던지기에서 앞면이 나오면 10만 원을 받고 뒷면이 나오면 5만 원을 잃는 게임의 기대값은 (10만 × 0.5) + (-5만 × 0.5) = 2만 5천 원이다. 이 게임을 반복하면 매 시행 평균 2만 5천 원씩 누적된다는 뜻이다.
평균이라는 추상
그런데 이 ‘평균’이 개별 시행에서 실현되지는 않는다. 동전 던지기 한 번에 2만 5천 원을 받는 결과는 존재하지 않는다. 실제로는 10만 원 또는 마이너스 5만 원, 둘 중 하나다. 기대값은 개별 경험이 아니라 무한 반복의 극한에서 수렴하는 추상적 평균이다. 이 추상성을 잊으면 ‘기대값이 양수니까 이 게임에서 이겼어야 한다’는 착각이 생긴다.
대수의 법칙이라는 약속
기대값이 실제 경험과 수렴하는 과정을 통제하는 법칙이 ‘대수의 법칙(Law of Large Numbers)’이다. 시행 횟수가 충분히 많아지면 표본 평균이 기대값에 점점 가까워진다는 수학적 정리다. 여기서 ‘충분히 많은’이 얼마만큼인지가 실전의 핵심이다. 100번의 시행으로는 수렴이 거의 보이지 않고, 1만 번은 되어야 기대값 근처에 안정된다. 이 시행 횟수 요구량이 확률 이론과 현실 판단 사이의 가장 큰 간극이다.
단기 분산이라는 현실
기대값이 양수인 결정을 반복하더라도 단기 구간에서는 얼마든지 연속 손실이 발생한다. 이 단기 변동을 ‘분산(variance)’ 또는 ‘분산도(volatility)’라 부른다. 분산이 큰 게임일수록 단기 결과가 기대값에서 멀리 벗어날 수 있다.
분산이 만드는 심리적 왜곡
승리 편향의 함정
연속 3회 이긴 사람은 ‘자신의 판단이 옳다’고 느낀다. 실제로는 기대값이 음수인 게임에서 운 좋게 단기 분산의 상단에 걸린 것일 수 있다. 이 상황에서 승리 경험이 쌓이면 행동이 강화되고, 결국 기대값이 실현되는 긴 시행에서 큰 손실로 돌아온다. 카지노 산업이 유지되는 근본 메커니즘이 이 승리 편향에 있다.
손실 회피의 왜곡
반대로 연속 3회 진 사람은 합리적 기대값 계산을 포기하고 ‘이제 이겨야 할 차례’라고 느낀다. 이 결정 피로와 휴리스틱의 확장된 형태가 ‘도박사의 오류’다. 독립 시행에서 과거 결과는 미래 확률에 영향을 주지 않지만, 인간 뇌는 그 독립성을 감각으로 받아들이지 못한다. 이 오류가 손실을 회수하려는 베팅 증액으로 이어져, 파산에 이르는 전형적 경로를 만든다.
양의 기대값 찾기의 어려움
이론적으로는 간단하다. 양의 기대값을 가진 결정만 반복하면 장기적으로 이긴다. 문제는 현실의 시장·게임·상황 대부분이 음의 기대값으로 설계되어 있다는 것이다. 보험회사가 수익을 내고 카지노가 운영을 유지하고 증권사가 수수료로 매출을 올리는 것은 모두 양의 기대값을 자신들이 가져가기 때문이다.
시장 효율성이 의미하는 것
일반 참여자가 양의 기대값 기회를 찾기 어려운 이유는 시장이 꽤 효율적이기 때문이다. 정보 비대칭이 없는 상황에서는 모든 참여자의 집단적 판단이 가격에 반영되어 기대값이 거의 0에 수렴한다. 진정한 양의 기대값은 정보 우위·분석 우위·실행 속도 우위 중 하나를 확보해야 가능하다. 이 세 가지가 없으면 확률 게임은 장기적으로 수수료만큼 잃는 구조가 된다.
실전 판단의 네 원칙
기대값 개념을 실전에 적용할 때 유용한 네 가지 원칙이 있다.
원칙 1: 개별 시행의 결과로 판단하지 않는다
승패가 아닌 기대값으로 평가하라
이번 베팅에서 이겼다고 판단이 옳았던 것이 아니고, 졌다고 판단이 틀렸던 것도 아니다. 판단의 품질은 기대값이 양수였는지 음수였는지로만 평가된다. 이 평가 기준을 체화하지 못하면 단기 결과에 흔들려 판단 구조 자체가 붕괴한다.
원칙 2: 분산의 크기를 항상 계산한다
단기 연패의 범위를 미리 예측하라
기대값이 양수여도 분산이 크면 단기 연패가 길어진다. 10연패가 가능한 게임인지, 20연패도 가능한 게임인지 사전 계산하고 자금 구조를 거기에 맞춰야 한다. 이 계산이 없으면 기대값이 실현되기 전에 자금이 바닥난다.
원칙 3: 음의 기대값 상황을 인식하고 회피한다
대부분의 도박·복권·단기 주식 트레이딩은 음의 기대값이 구조화된 영역이다. 이 사실을 명확히 인식하고 수수료 구조와 변동성을 계산해보면, 장기 참여의 결과가 예측 가능해진다. 음의 기대값 게임에 참여할지 여부는 ‘재미로 돈을 쓰는 것’과 ‘투자’가 완전히 다른 카테고리임을 아는 데서 시작한다.
원칙 4: 시행 횟수를 충분히 확보할 수 있는 규모만 감당한다
기대값이 실현되려면 충분한 시행이 필요하다. 전 재산을 한 번의 기대값 양수 베팅에 투입하면 분산이 자신을 파괴할 수 있다. 자금을 잘게 나누어 많은 시행을 거쳐야 기대값이 현실로 수렴한다. 이 원칙이 모든 전문 투자 전략의 근본 축이다.
수학적 진실과 경험적 진실의 간극
기대값은 수학적으로 엄격한 개념이지만, 인간 경험은 개별 시행의 합으로 구성된다. 이 둘 사이의 간극은 영원히 사라지지 않는다. 확률을 이해한다는 것은 이 간극 자체를 다룰 줄 안다는 뜻이지, 간극을 없앨 수 있다는 뜻이 아니다. 단기 분산 앞에서 흔들리지 않고 기대값 기반 판단을 유지하는 능력, 그것이 확률이 지배하는 세계에서 살아가는 성숙의 지표다.
자주 묻는 질문
Q. 기대값이 양수인데 왜 저는 계속 잃고 있나요?
두 가지 가능성이 있습니다. 첫째는 실제 기대값이 양수가 아닌데 자신이 그렇게 계산했을 가능성, 둘째는 기대값이 실제로 양수지만 시행 횟수가 부족해 분산 구간에 있을 가능성입니다. 수수료·세금·운영비를 누락하고 계산하면 기대값이 실제보다 높게 보이는 흔한 오류가 있습니다. 자신의 계산 전제를 다시 점검하는 것이 첫 단계입니다.
Q. 몇 번의 시행이 충분한 수렴을 만드나요?
게임의 분산 크기에 따라 다릅니다. 분산이 작은 게임(예: 동전 던지기)은 수백 번이면 기대값 근처에 수렴하지만, 분산이 큰 게임(예: 슬롯 머신)은 수만 번의 시행이 필요할 수 있습니다. 실전에서는 ‘평생에 걸쳐 충분한 시행을 할 수 있는가’를 먼저 계산한 뒤 게임 참여를 결정해야 합니다.
Q. 음의 기대값 게임에 참여하는 것이 항상 비합리적인가요?
순수 경제적 관점에서는 그렇지만, 인간의 효용은 경제적 가치만으로 구성되지 않습니다. 오락·사교·경험 자체가 가진 가치가 손실액을 상쇄할 수 있다면, 그 범위 안에서의 참여는 합리적입니다. 핵심은 ‘손실을 예상하고 그만큼을 기꺼이 지불하겠다’는 자기 인식입니다. ‘이길 수 있다고 믿고 참여하는 것’과 ‘잃을 것을 알고 즐기는 것’은 전혀 다른 행동입니다.