掷一颗骰子：每个面的机会相同，概率图是平的。掷两颗并相加：和为 7 最可能，图变成三角形。掷十颗、三十颗、一百颗：和的图形逐渐变成一口钟的形状。如果把骰子换成硬币、轮盘或测量误差，也是一样。这个令人惊讶的事实就是中心极限定理。

棣莫弗与拉普拉斯

1733 年，亚伯拉罕·棣莫弗对硬币证明了这一现象：多次抛掷中正面的次数，其分布接近曲线 $e^{-x^2}$。拉普拉斯在 1810 年的一篇论文中把结果推广到任意偶然量之和，只要它们相互独立，且没有哪一个压倒其他。

用现代语言说：设 $X_1, X_2, \ldots, X_n$ 是独立的偶然量，分布相同，均值为 $\mu$，方差为 $\sigma^2$。和 $S_n = X_1 + \cdots + X_n$ 的均值为 $n\mu$，标准差为 $\sigma\sqrt{n}$，而

$$\frac{S_n - n\mu}{\sigma\sqrt{n}}$$

在 $n$ 很大时，其分布越来越接近标准正态分布，密度为 $\frac{1}{\sqrt{2\pi}}e^{-x^2/2}$。

骰子

对一颗骰子，$\mu = 3.5$，且

$$\sigma^2 = \frac{1^2 + 2^2 + \cdots + 6^2}{6} - 3.5^2 = \frac{91}{6} - \frac{49}{4} = \frac{35}{12}.$$

$n$ 颗骰子之和的均值为 $3.5\,n$，标准差为 $\sqrt{\frac{35n}{12}}$。下图把和的精确分布与均值、标准差相同的正态曲线作比较。拖动滑块，可以看到只用几颗骰子，两者就几乎重合：

用 100 颗骰子时，均值为 350，标准差为 $\sqrt{\frac{3500}{12}} \approx 17.1$。和落在 330 到 370 之间——两侧各约 1.2 个标准差——的概率大约是 76%。没有人需要去数那 $6^{100}$ 种可能的组合。

误差为什么是正态的

拉普拉斯在这个定理中看到了一个天文学事实的解释。每次测量都有误差，而误差是许多小原因之和：仪器的抖动、空气、观测者的眼睛、温度。如果每个原因都独立地贡献一点，定理就说明总误差服从正态曲线，不论每个原因的分布如何。1809 年，高斯在假设误差服从正态分布的前提下论证了最小二乘法；第二年，拉普拉斯的定理为这个假设提供了理由。

《概率的哲学随笔》第 90 页，拉普拉斯在这里不用公式描述了“由大量观测所指示的结果的概率的一般规律”。
《概率的哲学随笔》第 90 页，拉普拉斯在这里不用公式描述了“由大量观测所指示的结果的概率的一般规律”。Pierre-Simon Laplace · Wikimedia Commons · 公有领域

在证明中，拉普拉斯使用了一件新工具：他不直接处理概率，而是处理概率的一种变换，也就是今天所说的特征函数。独立和的变换等于各变换的乘积，而乘积比和更容易控制。拉普拉斯的证明没有今天的严格性；确切的条件是由亚历山大·李雅普诺夫在 1901 年和亚尔·林德伯格在 1922 年确立的。

练习：一百枚硬币

抛 100 枚均匀硬币。用中心极限定理估计正面次数落在 40 到 60 之间的概率。

每枚硬币记 1（正面）或 0（反面），$\mu = \frac{1}{2}$，$\sigma^2 = \frac{1}{4}$。和的均值为 50，标准差为 $\sqrt{100 \cdot \frac{1}{4}} = 5$。从 40 到 60 是从 $-2$ 到 $+2$ 个标准差，正态分布在这个区间给出约 95%。数组合得到的精确值是 96.5%；如果用 39.5 到 60.5 的区间，考虑到和只取整数值，差别会缩小。

练习：多次测量的平均

某仪器测量长度的误差标准差为 2 毫米。25 次独立测量的平均值的标准差是多少？

25 次测量之和的标准差为 $2\sqrt{25} = 10$ 毫米。平均值是和除以 25，标准差也除以 25：$\frac{10}{25} = 0.4$ 毫米。一般地，$n$ 次测量的平均值的标准差为 $\frac{\sigma}{\sqrt{n}}$：想多得一位小数的精度，就得多测一百倍。

来源： Pierre-Simon Laplace，“Mémoire sur les approximations des formules qui sont fonctions de très grands nombres et sur leur application aux probabilités”，Mémoires de la classe des sciences mathématiques et physiques de l’Institut（1809，1810 年出版） · Abraham de Moivre，Approximatio ad summam terminorum binomii (a+b)ⁿ in seriem expansi（1733） · George Pólya，“Über den zentralen Grenzwertsatz der Wahrscheinlichkeitsrechnung und das Momentenproblem”，Mathematische Zeitschrift 8（1920） · Hans Fischer，A History of the Central Limit Theorem（2011）。

拉普拉斯的全部主题 · ← 古典概率与高斯积分 · 明天太阳还会升起吗？继承法则 →

图片来源.