第五章 节 2，3（柯尔莫哥洛夫微分方程）.pptVIP

应用例 解上述微分方程得 * * 信息工程学院四系三教 六、平稳分布 1、状态互通的定义 定义5.4 设 为连续时间马尔可夫链的转移概率，若存在时刻 和 ，使得 则称状态 i 与 j 是互通的。若所有状态都是互通的，则称此马尔可夫链为不可约的。 * * 信息工程学院四系三教 六、平稳分布 定义 称概率分布 为连续时间马氏链　　　　　　的平稳分布 若 注意和离散时间马氏链平稳分布的比较 * * 信息工程学院四系三教 六、平稳分布 定理5.7 设连续时间的马尔可夫链是不可约的，则有下列性质： （1）若它是正常返的，则极限 存在且等于 。这里 是方程组 的唯一非负解。 * * 信息工程学院四系三教 六、平稳分布 此时称 是该过程的平稳分布，并且有 （2） 若它是零常返的或非常返的，则 * * 信息工程学院四系三教 知识回顾 定理5.3 设 是齐次马尔可夫过程的转移概率，则下列极限存在 称qij为齐次马尔可夫过程从状态i 到状态j 的转移速率或跳跃强度。 * * 信息工程学院四系三教 知识回顾 定义：称矩阵 为转移概率矩阵 的密度矩阵。 * * 信息工程学院四系三教 知识回顾 定理5.4 （柯尔莫哥洛夫向后方程） 假设 则对一切i, j 及 , 有 矩阵形式： * * 信息工程学院四系三教 知识回顾 定理5.5 （柯尔莫哥洛夫向前方程） 设对给定的 ，有 且 关于 一致成立，则 矩阵形式： * * 信息工程学院四系三教 七、应用举例 例5.2 考虑两个状态的连续时间马尔可夫链，在转移到状态1之前链在状态0停留的时间是参数为 的指数变量，而在回到状态0之前它停留在状态1的时间是参数为 的指数变量。 求此链的转移概率及平稳分布。 * * 信息工程学院四系三教 七、应用举例 解：显然该链是一个齐次马尔可夫过程，由题设知 从而 由定理5.3知 故其状态转移概率为 * * 信息工程学院四系三教 七、应用举例 由柯尔莫哥洛夫向前方程　　　　　　　得 * * 信息工程学院四系三教 七、应用举例 由 得 于是 * * 信息工程学院四系三教 七、应用举例 若记 则 而 故 * * 信息工程学院四系三教 七、应用举例 由对称性知 转移概率的极限为 由此可见，当 时， 的极限存在 且与i无关。 * * 信息工程学院四系三教 七、应用举例 由定理5.6知，平稳分布为 若取初始分布为平稳分布，即 则过程在时刻t的绝对概率分布为 * * 信息工程学院四系三教 在h时间内，机器从有故障经修复后正常工作的概率为 七、应用举例 例5.3 机器维修问题。设例5.2中状态0代表某机器正常工作，状态1代表机器出故障。状态转移概率与例5.2 相同，即在h时间内,机器从正常工作变为出故障的概率 试求在t＝0 时正常工作的机器，在 t＝5时为正常工作的概率。 * * 信息工程学院四系三教 七、应用举例 解: 由例5.2已求得该过程的 矩阵为 根据题意，要求机器最后所处的状态为正常工作，只需计算 即可。 由例5.2知 * * 信息工程学院四系三教 第五章 连续时间的马尔可夫链 连续时间马氏链的的定义及性质 1 柯尔莫哥洛夫微分方程 2 3 * * 信息工程学院四系三教 生灭过程 5.3 生灭过程 一、生灭过程的定义 生灭过程是连续时间马尔可夫链的一类特殊情形，它的特征是在很短的时间内，系统的状态只能从状态i转移到状态 或 或保持不变。 过程的状态通常看作某个群体的总量