Ross随机过程笔记（三）: 随机过程

type

status

date

slug

summary

🔏快速回顾

1 随机过程的定义，离散随机过程、连续随机过程、随机场 2 随机游走 3 随机过程有限维分布定义、性质（对称性，相容性）、Kolmogorv定理 4 随机过程数字特征。均值函数、协方差函数、方差函数、二阶矩过程定义。 5 随机过程基本类型。平稳过程（严平稳过程、宽平稳过程定义）、独立增量过程、平稳增量过程、独立平稳增量过程。

1 什么是随机过程

1.1 随机过程定义

随机过程是概率空间上的一族随机变量。简而言之，随机过程是随机变量的一个集合，对每一个，是随机变量，该符号也有时记为

常常解释为时间，为此随机过程的指标集（index set）。可以视作随机过程在时间的状态(state)。所有的可能取值定义为随机过程的状态空间（state space）。

当为可数集时，随机过程称为离散时间（discrete time）过程；为实数区间时，随机过程称为连续时间（continue time）过程。当是高维向量时，则称该随机过程为随机场。

我们知道随机变量是定义在样本空间的实值函数。即，其中。因此随机过程可以看成定义在的二元函数，即

当样本点固定时（随机性固定），就是定义在上的一个函数，称为的一条路径或一个样本函数或一条轨迹。当时间固定后，随机过程就成了一个随机变量。

1.2 随机过程例子——随机游走

一个醉汉在路上直线行走，以概率前进一步，以概率后退一步，每一次前进后退的步长均为1。以记他时刻的位置，则就是描述这个人在路上直线行走的随机过程

当时间固定时，随机过程就成了一个随机变量，概率分布如下表

	样本空间	state space	分布（概率质量函数）
1	{"向前走"， “向后走”}
2	{"向前走"， “向后走”}
3	{"向前走"， “向后走”}		p
...	ㅤ	...	...

当样本点固定时（即每一个时间步确定了向前或向右走），就是定义在上的一个函数，或一条轨迹。下图为仿真得到的三条轨迹。

代码实例：

2 随机过程有限维分布与`Kolmogorv`定理

2.1 随机过程有限维分布

2.1.1 有限维分布定义

对于随机变量而言，只要知道了累积分布函数就能完全了解一个随机变量（一个随机变量和其累积分布函数是一一对应的）。

对于随机变量的累积分布函数定义为：

表示随机变量取一个小于或等于的值的概率。具有以下性质：

（1）是的非减函数

（2）

（3）

对于随机变量的所有概率问题都可以用分布函数回答。如对于所有的，我们有

从随机过程的定义中我们知道，随机过程是随机变量的集合，并对每一个，是随机变量。类比随机变量累积分布函数的定义，定义随机过程的一维分布：

由于不同时间，是随机变量，有的时候我们想要研究不同时刻的相互依赖关系，由此定义随机过程的维度分布

其中

将随机过程所有一维分布、二维分布、维分布的集合称为随机过程的有限维分布函数族

2.1.2有限维分布性质

（一）对称性

对的任意排列有

（二）相容性

对于,有

记：，当，带入上式

2.2 `Kolmogorov`定理

Kolmogorov定理：若分布函数族满足上述对称性和相容性，那么必定存在一个随机过程，使得

恰好是的有限维分布族。

Kolmogorov定理的意义：Kolmogorov定理告诉我们随机过程的有限维分布族是随机过程概率特征的完整描述，是证明随机过程存在性的有力工具。但在实际过程中，我们难以获得随机过程的全部有限维分布。因此人们想到用随机过程中的某些数字特征来刻画随机过程。

3 随机过程数字特征

随机过程期望函数定义：设是一随机过程，若对于任意实数，如果期望存在，则称的期望为过程的期望函数

二阶矩过程定义： 设是一随机过程，若对于任意实数，如果期望存在，则称随机过程为二阶矩过程。

此时过程的协方差函数定义为：

过程的方差函数定义为：

过程的自相关函数定义为：

4 随机过程的基本类型

4.1 平稳过程

4.1.1 严平稳过程

严平稳过程定义：如果随机过程对任意的和任意的增量（满足，如果与具有相同的联合分布，则称是严平稳的，记为：

对严平稳过程而言，有限维分布关于时间是平移不变的。这个条件很强，且不易验证，故引入宽平稳过程（或二阶平稳过程）

4.1.2 宽平稳过程（二阶平稳过程）

宽平稳过程定义：将满足以下两个条件的二阶矩过程称为宽平稳过程。

1）均值函数为常数，即

2）协方差仅与时间差有关。

由于，因此可以将记为

例子：设随机过程满足，其中和为常数，，判断是否为宽平稳过程

均值函数：

协方差函数

根据方差函数定义：

故得到二阶矩

由于存在，根据二阶矩过程的定义，随机函数是二阶矩过程。

由于该二阶矩过程的均值函数为，且协方差函数只与时间差有关，满足宽平稳过程的定义，故是宽平稳过程

例题：, 独立同分布，且，都服从，为实数，有

验证是否是宽平稳过程。

, 独立同分布，有

，都服从，有,

根据方差定义：，有

均值函数：

协方差函数:

根据方差函数定义：

故得到二阶矩

由于存在，根据二阶矩过程的定义，随机函数是二阶矩过程。

由于该二阶矩过程的均值函数为0，且协方差函数只与时间差有关，满足宽平稳过程的定义，故是宽平稳过程

4.2 独立增量过程

独立增量过程定义：如果对任意，随机变量是相互独立的，则称随机过程是独立增量过程。

从上述定义可见，独立增量过程定义在不重叠的时间间隔上，如和时相互独立的，但和是不独立的

4.3 平稳增量过程

平稳增量过程定义：若对一切，增量的分布只依赖,则称是平稳增量过程。显然，对于平稳增量过程

4.4 平稳独立增量过程

同时满足独立增量过程和平稳增量过程的随机过程称为平稳独立增量过程。泊松分布、布朗运动就是平稳独立随机过程。

5 参考书目

《随机过程及其应用》孙玉东，西北工业出版社

《应用随机过程》张波，商豪等，中国人民大学出版社

《随机过程》方兆本，科学出版社

《应用随机过程》肖宇谷，高等教育出版社

《应用随机过程》钱伟名，高等教育出版社