浙江大学研究生《人工智能引论》演示课件.pptVIP

浙江大学研究生《人工智能引论》课件;内容提纲;7.1 何谓贝叶斯网络？;贝叶斯网络的由来 ;B. 贝叶斯网络的定义 ;C. 贝叶斯网络的别名 ;D. 独立和条件独立;E. 贝叶斯网络示例;7.2 贝叶斯网络的语义;贝叶斯网络的语义公式计算示例： ;贝叶斯网络的特性： ;贝叶斯网络的构造原则： ;贝叶斯网络中的条件独立关系： ;U1;U1;7.3 条件概率分布的有效表达 ;包含连续变量的贝叶斯网络－Hybrid BN;线性高斯分布：;7.4 贝叶斯网络中的精确推理;（1）通过枚举进行推理;已知，一个事件e = {JohnCalls = true, and MaryCalls = true}，试问出现盗贼的概率是多少？ 解：P(X|e) = ?P(X,e) = ??yP(X,e,y) 而P(X,e,y)可写成条件概率乘积的形式。 因此，在贝叶斯网络中可通过计算条件概率的乘积并求和来回答查询。 P(Burgary | JohnCalls = true, MaryCalls = true)简写为： P(B | j, m) = ?P(B, j, m) = ? ?e?aP(B, e, a, j, m) = ? ?e?a P(b)P(e)P(a|b,e)P(j|a)P(m|a) = ?P(b) ?e P(e) ?a P(a|b,e)P(j|a)P(m|a);+;P(B | j, m) = ?P(B, j, m) = ? ?e?aP(B, e, a, j, m) = ? ?e?a P(b)P(e)P(a|b,e)P(j|a)P(m|a) = ?P(b) ?e P(e) ?a P(a|b,e)P(j|a)P(m|a) = ??0.001?{[0.002?(0.95?0.9?0.7 + 0.05?0.05 ?0.01)] + [0.998 ? (0.94 ?0.9 ?0.7+0.06 ?0.05 ?0.01)]} = ?? 0+;P(~B | j, m) = ?P(~B, j, m) = ? ?e?aP(~B, e, a, j, m) = ? ?e?a P(~b)P(e)P(a|~b,e)P(j|a)P(m|a) = ?P(~b) ?e P(e) ?a P(a|~b,e)P(j|a)P(m|a) = ??0.999?{[0.002?(0.29?0.9?0.7 + 0.71?0.05 ?0.01)] + [0.998 ? (0.001 ?0.9 ?0.7+0.999 ?0.05 ?0.01)]} = ?? 0.0014919 因此，P(B|j, m) = ? 0 0.0014919 ? 0.284, 0.716 即在John和Mary都打电话的条件下，出现盗贼的概率约为28%。;【课后习题1】;已知：一个事件e = {学校政策U = true, and 工作压力大 = true}， 请根据上述枚举法计算出现过劳死的概率。 （2）变量消元算法 消除重复计算，提高枚举算法的效率 保存中间结果，以备多次使用 从右到左（在树结构中为自底向上）的次序计算BN的计算公式 算法过程：参见《人工智能：一种现代方法》中的第14章14.4.2节;（3）Clustering算法（Joint Tree算法） 单独节点联合起来形成Cluster节点，使得BN结构成为一棵多树（Polytree） 多树——单连通网络，即任何两节点间至多只有一条路径相连 概率推理包含命题逻辑推理作为其特殊情况，故BN的推理是一个NP问题 在多连通的BN结构中，及时每个节点的父节点个数有固定的界限，在最坏的情况下，变量消元算法仍可能具有指数级时间和空间复杂度;多连通网络及其CPT：;等价的联合树及其CPT：;7.5 贝叶斯网络的近似推理; 直接采样方法： 直接采样算法 拒绝采样(Rejection sampling)算法 似然加权(Likelihood weighting)算法 上述方法的详细步骤请参见： 《人工智能：一种现代方法》第14章14.5.1节 Berkeley大学Russell等人制作的PPT /;马尔可夫链蒙特卡罗（MCMC）算法思想： 对前一个事件进行随机改变而生成事件样本 BN为每个变量指定了一个特定的当前状态 下一个状态是通过对某个非证据变量Xi进行采样来产生，取决于Xi的马尔可夫覆盖中的变量当前值 MCMC方法可视为：在状态空间中—所有可能的完整赋值空间—的随机走动—每次改变一个变量，但是证据变量的值固定不变。; MCMC算法