伯努利

1713年，在雅各布·伯努利（Jacob Bernoulli）去世8年后，他的《猜度术》（Ars Conjectandi）终于出版。在这本书中，伯努利阐明了前辈们的做法。全书的第一部分引述并评论了惠更斯的成果。一个事件的概率被明确地定义为发生该事件的（等概率）情况数量与（等概率）情况总数之比。比如，从一副扑克牌（不含大小王）中抽出一张梅花牌的概率是13/52。此外，伯努利还将条件概率（conditional probability），即第二个事件B在第一个事件A已经发生的条件下的发生概率，定义为两个事件均发生的情况数量与发生第一个事件的情况数量之比：

概率（A发生条件下B的发生概率）=。

如果抽到的是一张梅花牌，那么这张牌是Q的概率为1/13。

在这些定义的基础上，伯努利指出互斥事件的概率可以相加，以及概率满足乘法法则，即P(A∩B)=P(A)P(B/A)。这些简单的法则构成了所有概率计算的核心。

不过，伯努利的主要贡献是把概率和频率紧密地联系在一起，并称为他的黄金定理。在此以前，人们只是猜测这两者之间存在联系。

伯努利举了一个例子。假设一只罐子中装有3 000块白色鹅卵石和2 000块黑色鹅卵石，从罐子中抓取鹅卵石的行为相互独立，而且每次取出一块鹅卵石后会向罐子中补充一块同色的鹅卵石。那么，在抓取鹅卵石的行为进行了一定的次数之后，我们是否“确有把握”（moral certainty）使取出的白色鹅卵石与黑色鹅卵石的数量之比接近3∶2？如果确有把握，这个抓取次数到底是多少？伯努利选定了一个高概率作为“确有把握”的衡量标准，并确定了所需的抓取次数。然后，他阐明了弱大数定律：

对于概率（在本例中等于3/5）周围尽可能小的任意区间，以及无限接近确定值1 –e的近似值，都存在数N，使N次尝试中取出白色鹅卵石的相对频率落在该区间的概率至少是1–e。

我们在后文中讨论频率时会详细阐述这个定律。