Ross随机过程笔记（一）: 概率论引论

type

status

date

slug

summary

🔏快速回顾

1 样本空间的定义，事件的定义。

2 事件的交、并。不可能事件、独立事件、事件互补相容的条件。

3 事件的八大运算规则：交换率、结合率、分配率、同一律、互补率、吸收率、双反率、对偶率。

4 事件上概率的定义、古典概型的定义、对立事件的概率。独立事件的概率。

5 容斥恒等式、布尔不等式.

6 全概公式，贝叶斯公式

1 样本空间和事件

样本空间()：一个试验所有可能结果的集合

事件（event, ）：样本空间的任意子集称为一个事件。

例1: 如果试验由投掷一颗骰子构建，那么样本空间

代表骰子点数为1的事件

代表骰子点数为奇数的事件

例2: 如果试验由投掷两个骰子构成，那么样本空间由以下36个点组成

代表两个点数和为7的事件

例3：如果试验由测量一辆汽车的寿命所构成，那么样本空间由所有非负实数构成

代表一辆汽车耐用2年到6年的事件。

事件的交（intersection)记作定义为这样一个事件：它由中共同结果所构成。

事件的并（union）记作定义为这样一个事件：它由至少包含于一个的所有结果所构成。

不可能事件（null event）记作，表示事件的发生可能性为0。如果两个事件的交为不可能事件，则称这两个事件互不相容（mutually exclusive）。如则互不相融。

对立事件(complement) ：样本空间中不属于当前事件E的所有结果构成对立事件，记作。显然

1.1事件的运算

根据前面的定义，事件的实质是集合，因此适用集合的运算规律。记S为样本空间，E,F,G为该样本空间的事件。

1 交换率

2 结合率

3 分配律

4 同一律

5 互补律

6 吸收率

7 双反律

8 对偶律(De Morgan律)

2 定义在事件上的概率

考察一个以为样本空间的试验。对于样本空间S的每一个事件，若满足

(1)

(2)

(3) 对任意互不相容的事件序列，即当时的事件序列，有

则将称为事件的概率。

古典概型是古典概率模型的简称，若随机试验满足一下两个特点

有限性。随机试验只有有限个可能的结果，即有限个样本点。

等可能性。即每一个样本点发生的概率是等可能的。

称满足上述两个条件的实际试验为古典概型。

2.1 对立事件的概率

由，有性质2，3有

2.2 容斥恒等式

通过数学归纳法，可证：

2.3 几个常用不等式

布尔不等式(Bool's inequality)

证明：

当时，显然成立

假设当成立，当时

证得当上式也成立，根据数学归纳法得证。

邦费罗尼不等式（bonferrouis's inequality）

3 条件概率

假定试验由投掷两个骰子构成，那么样本空间由以下36个点组成。

记事件代表投掷的第一个骰子是4的事件。

记事件代表两个骰子的和为7的事件。

显然:

现在我们看当事件以发生，事件E的概率

当事件发生时，此时为新的样本空间，此时事件。

下面我们进一步推出条件概率的公式。

当发生时，为了发生，实际出现的结果必须是即在中又在中的结果，也就是必须在中的结果。现在当发生，成为新的样本空间，因此事件发生的概率等于的概率相对于的概率，也就是

注意，上式只有当才有定义。

对于事件,有

4 独立事件

如果),那么事件和事件称为独立事件(independent)。显然对于独立事件。不独立的事件称为相依（dependent）。

独立性也可以推广到多于两个事件的情形。若事件独立，那么对于这些事件的每个子集也是独立的，有

注意：两两独立推不出联合独立。

假定随机试验：从号码分别为1，2，3，4的四个球中随机抽取一个，每个球抽到的概率是等可能的样本空间：

假定事件

因故两两独立。

但。

因此，两两独立推不出联合独立。

5 贝叶斯公式

假定样本空间，是该样本空间的两个事件。

根据对立事件的定义：

根据事件运算的同一律：,因此

因此

上式还可以进一步推广

假定互不相同，且构成样本空间，即当，且。根据事件运算同一律

因此

通过上式，事件的概率可以表示事件的加权平均。

若事件发生，我们想知道事件是由那个导致的

将上述方程称之为贝叶斯公式（Bayes' formula）。