大数定律：频率为什么会稳定在概率附近

大数定律 · Law of large numbers

硬币没有记忆，为什么抛的次数越多，正面的比例就越接近一半？

三组记录下来的 1000 次抛硬币（或掷骰子）一开始忽高忽低，后来逐渐挤向 p。画板在 1000 组试验里数出每个 n 时仍偏离 p 超过 0.05 的有多少组，再和由方差推出的上界 p(1 − p)/(nε²) 比较。

高中
频率与概率
平均值的方差 p(1 − p)/n
切比雪夫不等式
赌徒谬误

\text{试验}

硬币 p = 1/2

六点 p = 1/6

\text{档位}

P(|\bar X_n - p| \ge \varepsilon) \to 0

$n$: 100
$\bar X_n\ \text{（蓝线）}$: 0.5500
$\sqrt{p(1-p)/n}$: 0.0500
$\text{偏离} \ge 0.05\ \text{的组占比}$: 0.382
$\dfrac{p(1-p)}{n\varepsilon^2}$: 1.000

实测占比 ≤ 上界成立

跟着走一遍

1抛 10 次说明不了什么
抛 $10$ 次后，三组的正面比例是 $0.7$ 、 $0.3$ 、 $0.4$ 。 $1000$ 组里有 $73.1\%$ 偏离 $\tfrac12$ 达到 $0.05$ 以上。上界 $\frac{p(1-p)}{n\varepsilon^2}=10$ 虽然成立，但还没有任何约束力。
2抛 100 次
$n=100$ 时，典型偏离 $\sqrt{p(1-p)/n}$ 是 $0.05$ ，仍有 $38.2\%$ 的组偏离这么多。上界降到了 $1$ 。
3抛 1000 次
$n=1000$ 时三组分别是 $0.526$ 、 $0.514$ 、 $0.49$ ， $1000$ 组里没有一组偏离到 $0.05$ 。上界只保证不超过 $10\%$ ，实际要好得多。波动按 $\frac1{\sqrt n}$ 缩小：次数变成 $10$ 倍，波动大约只剩三分之一。
4换成骰子也一样
改成数六点， $p=\tfrac16$ 。掷 $1000$ 次后三组是 $0.161$ 、 $0.173$ 、 $0.158$ ，都在 $0.1667$ 的 $0.05$ 以内，上界是 $0.056$ 。 $p(1-p)$ 越小，漏斗越窄。

讲解

1
定律说的是什么
把成功概率为 $p$ 的试验独立重复，记前 $n$ 次中成功的比例为 $\bar X_n$ 。对任意给定的误差 $\varepsilon>0$ ，
$P\big(|\bar X_n-p|\ge\varepsilon\big)\to0\quad(n\to\infty)$
它没有说某一组试验一定会到达 $p$ ，只是说偏离 $p$ 很远的可能性可以小到任意程度。
2
第一步：平均值的波动变小
由二项分布一章，成功次数的方差是 $np(1-p)$ 。除以 $n$ ，方差就除以 $n^2$ ：
$D(\bar X_n)=\frac{np(1-p)}{n^2}=\frac{p(1-p)}{n}$
所以与 $p$ 的典型距离是 $\sqrt{p(1-p)/n}$ ，画板上的虚线漏斗就是它的 $\pm2$ 倍。
3
第二步：切比雪夫不等式
方差是 $(\bar X_n-p)^2$ 对所有结果的平均。把离 $p$ 不到 $\varepsilon$ 的结果都扔掉，剩下的每个结果至少贡献 $\varepsilon^2$ ，所以
$\frac{p(1-p)}{n}=D(\bar X_n)\ge\varepsilon^2\cdot P\big(|\bar X_n-p|\ge\varepsilon\big)$
整理得
$P\big(|\bar X_n-p|\ge\varepsilon\big)\le\frac{p(1-p)}{n\varepsilon^2}\to0$
证明就这么多。画板把这个上界和 $1000$ 组模拟的实际结果比较：上界始终成立，而且通常很宽松。
4
不需要记忆：赌徒谬误
连续五次反面之后，下一次正面的概率并不会变大，硬币不会"找补"。比例之所以稳定，是因为早先的偏差被稀释了，而不是被纠正了：多出来的 $5$ 次反面在 $10$ 次里占很大比例，在 $10\,000$ 次里几乎可以忽略。正反面次数之差通常还会按 $\sqrt n$ 增长，但比例却收敛了。
画板上的几组试验是用固定种子生成的伪随机模拟记录，所以每个人看到的都是同样三条线，测试也能重新跑一遍核对。

随堂检测

Q01

均匀硬币连续 $5$ 次反面，下一次是正面的概率是多少？

Q02

要让样本比例的典型误差减半，样本量需要：

Q03

均匀硬币， $n=500$ ， $\varepsilon=0.05$ ，切比雪夫不等式能保证什么？

继续探索

把这个实验做成讲解视频以这个实验为脚本，生成一段可以分享的配音讲解视频。下面的提示词会带到视频生成器里，你可以先改再生成。

生成视频

VIEW · 显示设置