主观训练样本在贝叶斯模型选择中的应用.pdf

主观训练样本在贝叶斯模型选择中的应用 华鹏 （山东科技大学 信息科学与工程学院 山东 青岛266510） 摘要：本文主要讨论了贝叶斯因子模型选择问题，利用期望-后验先验给出模型参数的先验 分布，通过一种基于训练样本的新样本-主观训练样本，解决了贝叶斯因子中边际分布难以 计算的问题，并给出了期望-后验先验的模拟算法。 关键词：贝叶斯因子；期望-后验先验；主观训练样本。 1 引言 [1] 众所周知，训练样本 的应用十分广泛，在聚类、判别、稳健性、交互有效性、模型选 [2] [3] 择等多种统计理论方法中都扮演重要角色。在贝叶斯模型选择理论 中，贝叶斯特征因子 [4] 和期望-后验先验 是的必威体育精装版发展。这两种方法通过利用训练样本将非正常的主观先验转化 为模型选择所需的正常分布。本文给出了一种基于训练样本的新样本-主观训练样本，利用 主观训练样本对贝叶斯模型选择问题进行了讨论。 2主观训练样本的贝叶斯因子 Y i?1, 2,?, k 设Y? (Y,Y,?,Y) 为样本空间 的随机变量,待定模型为M ， 。对模型 1 2 n i Y M ，设 f(y? ) 为相应的 的密度函数，? (?) 为未知参数? 的先验密度，? ?? ，? i i i i i i i i i 为参数空间，模型先验概率为p，Y的边际密度m(y) ? f(y?)? (?)d? ，则模型M i i ? i i i i i i 对M 的贝叶斯因子为： j m(y) B (y) ? i ij m (y) j 后验模型概率为： m(y) p k p ?1 p(M y) ? i i ?{1?? i B (y)} i k ij ?m (y) p j?i pj j j j?1 对贝叶斯因子B (y) 来说，其边际分布m(y) 的计算往往是很困难的，因为通常要考虑的参 ij i 数空间都是高维的，而且需要考虑的模型数量不是有限的。本文结合期望-后验先验法和主 观训练样本，给出了主观训练样本贝叶斯因子，解决了模型选择中的问题。 * * *