数学概率始于赌博游戏，始于 1654 年帕斯卡与费马之间的通信，又因雅各布·伯努利的大数定律得到第一个伟大定理。拉普拉斯把它变成了一套完整的理论。他关于这一主题的第一篇论文写于 1774 年；1812 年的《概率的解析理论》汇集了将近四十年的研究；1814 年的《概率的哲学随笔》则不用公式，向公众解释了这一切。

1840 年版《概率的哲学随笔》的扉页。
1840 年版《概率的哲学随笔》的扉页。Pierre-Simon Laplace · Wikimedia Commons · 公有领域

古典定义

机遇的理论在于：把同一类的所有事件归结为一定数目的同等可能的情形，也就是我们对它们是否发生同样无法确定的情形；然后确定对所求概率的事件有利的情形数。

— 皮埃尔-西蒙·拉普拉斯，《概率的哲学随笔》（1814）

这就是学校里教的定义：

$$P = \frac{\text{有利情形数}}{\text{可能情形数}}.$$

微妙之处在于“同等可能”这几个字。掷两颗骰子，点数和有 11 种可能，从 2 到 12，但它们并不同样可能。同等可能的情形是 36 个有序对（第一颗，第二颗）。和为 7 出现在其中 6 个里，从 (1, 6) 到 (6, 1)，所以概率是 $\frac{6}{36} = \frac{1}{6}$；和为 2 只出现在 (1, 1) 中，概率是 $\frac{1}{36}$。

e 的负 x 平方次幂的积分

研究许多偶然量之和时，拉普拉斯需要一个在整个统计学中处处出现的积分：

$$\int_{-\infty}^{\infty} e^{-x^2}\,dx = \sqrt{\pi}.$$

亚伯拉罕·棣莫弗在 1733 年已经以数值形式用过这个结果；拉普拉斯在 1774 年给出了证明。最漂亮的证明是一个技巧：不直接算积分 $I$，而是算 $I^2$，它是平面上的积分：

$$I^2 = \int_{-\infty}^{\infty}\int_{-\infty}^{\infty} e^{-(x^2+y^2)}\,dx\,dy.$$

在极坐标下，$x^2 + y^2 = r^2$，面积元是 $r\,dr\,d\theta$：

$$I^2 = \int_0^{2\pi}\int_0^{\infty} e^{-r^2}\,r\,dr\,d\theta = 2\pi \cdot \left[-\frac{e^{-r^2}}{2}\right]_0^{\infty} = 2\pi \cdot \frac{1}{2} = \pi.$$

所以 $I = \sqrt{\pi}$。正是这个积分使正态曲线下的面积恰好等于 1。

近似巨大的数

拉普拉斯发展了一种方法，用来估计那些有一个又高又窄的峰的函数的积分：在峰附近，所有这样的函数都像 $e^{-x^2}$。这种拉普拉斯方法可以得到例如阶乘的斯特林公式：

$$n! \approx \sqrt{2\pi n}\left(\frac{n}{e}\right)^n.$$

$n = 10$ 时公式给出约 $3\,598\,696$，精确值为 $3\,628\,800$：误差 0.8%。而且 $n$ 越大，相对误差越小。有了近似的阶乘，拉普拉斯就能计算涉及成千上万种情形的概率，这是任何人都无法手工数出来的。

练习：两颗骰子和为 10

两颗骰子点数和为 10 的概率是多少？至少为 10 的概率呢？

和为 10：(4, 6)、(5, 5)、(6, 4)，36 种中有 3 种，即 $\frac{1}{12}$。和为 11：(5, 6)、(6, 5)，2 种。和为 12：(6, 6)，1 种。至少为 10：$\frac{3 + 2 + 1}{36} = \frac{6}{36} = \frac{1}{6}$。

练习：改变尺度

利用 $\int_{-\infty}^{\infty} e^{-x^2}\,dx = \sqrt{\pi}$ 计算 $\int_{-\infty}^{\infty} e^{-x^2/2}\,dx$。

令 $x = \sqrt{2}\,u$，则 $\frac{x^2}{2} = u^2$，$dx = \sqrt{2}\,du$：

$$\int_{-\infty}^{\infty} e^{-x^2/2}\,dx = \sqrt{2}\int_{-\infty}^{\infty} e^{-u^2}\,du = \sqrt{2}\sqrt{\pi} = \sqrt{2\pi}.$$

这就是标准正态密度前面有因子 $\frac{1}{\sqrt{2\pi}}$ 的原因。

来源： Pierre-Simon Laplace，“Mémoire sur la probabilité des causes par les événements”，Mémoires de mathématique et de physique présentés à l’Académie 6（1774） · Pierre-Simon Laplace，Théorie analytique des probabilités（1812） · Pierre-Simon Laplace，Essai philosophique sur les probabilités（1814） · Stephen M. Stigler，The History of Statistics（1986） · Anders Hald，A History of Mathematical Statistics from 1750 to 1930（1998）。

拉普拉斯的全部主题 · ← 行列式的拉普拉斯展开 · 中心极限定理 →

图片来源.