隐马尔可夫模型报告-read.docVIP

隐马尔可夫模型报告 学生姓名： 完成时间：2008.12.14隐马尔可夫模型 1.专题背景 HMM(Hidden Markov Model, 隐马尔可夫模型) 是马尔可夫链的一种，它的状态不能直接观察到，但能通过观测向量序列观察倒每个观测向量都是通过某些概率密度分布表现为各种状态，每一个观测向量是由一个具有响应概率密度分布的状态序列产生。它是一种用参数表示的用于描述随机过程统计特性的概率模型，是一个双重随机过程,由两个部分组成:马尔可夫链和一般随机过程。其中马尔可夫链用来描述状态的转移，用转移概率描述。一般随机过程用来描述状态与观察序列间的关系，用观察值概率描述。 对于HMM模型，其的状态转换过程是不可观察的，因而称之为“隐”马尔可夫模型。 HMM定义如下： (1) 代表一组状态的集合，其中，状态数为N，并用来表示t时刻的状态。虽然状态是隐藏的，但对于很多应用来说，有一些物理的意义都和状态或者状态集相关。状态内部的联系就是从一个状态可以到其它状态。 (2) 代表一组可观察符号的集合，M是从每一状态可能输出的不同的观察值的数目。 (3) 状态转移概率分布，这里。特殊情况下，每个状态都可以一步到达其它任何状态，这时对任意有。对于其他的HMM，可能有(对于一对或多对i, j)。 (4) 状态j的观察概率分布，表示状态j输出相应观察值的概率，其中。 (5) 初始化状态分布，。 由上，HMM可以定义为一个五元组： 或简写为 上面所述HMM的三个关键元素实际可以分成两部分，其一为Markov链，由、A描述，另一部分是一个随机过程，由B描述。 HMM的三个基本问题： (1)估值问题。 给定观察序列和模型，计算。即给定模型和输出观察序列，如何计算从模型生成观察序列的概率。可以把它看作是评估一个模型和给定观察输出序列的匹配程度，由此可以用来在一系列候选对象中选取最佳的匹配。 (2) 解码问题。 给定观察序列和模型，求在某种有意义的情况下最优的相关状态序列。该可以理解为对输出观察的最佳“解释”，它试图揭示模型的隐藏部分，比如说查找“正确”的状态序列，在应用中，通常都使用一个优化策略来最大可能的解决这个问题。 (3) 学习问题。 如何调整模型参数，对于一个给定的观察序列，使得最大。它试图优化模型的参数来最佳的描述一个给定的观察序列是如何得来的。2.发展历程 马尔可夫模型是由Andrei A Markov于1913年提出来的，隐马尔可夫模型是对马尔可夫模型的一种扩充。隐马尔可夫模型作为一种统计分析模型，创立于20世纪60年代末70年代初。80年代得到了传播和发展，成为信号处理的一个重要方向，HMM最初被应用于语音识别。到了80年代后期，HMM开始应用到生物序列尤其是DNA的分析中。从那时后起，在生物信息学领域HMM已经变得无从不在。到了90年代，HMM还被引入计算机文字识别和移动通信核心技术“多用户的检测”。20世纪90年代中期以后，隐马尔可夫模型被引入到图像处理和识别的研究中，并取得了一些初步的研究成果。HMM现已成功地用于语音识别，行为识别，文字识别以及故障诊断等领域。 3.特点 （1）HMM具有强有力的时间序列建模能力，在应用与模式识别时具有一些独特的优势，主要体现在整体和局部都具备平移不变性。HMM的核心是有限状态自动机，这赋予了它解决局部平移问题的能力。 （2）HMM体现了类似结构方法的一些特点，从而可能具备结构方法的部分优点。作为一种统计模型，隐马尔可夫模型仍然是基于特征以及贝叶斯决策进行判别，但是与一般统计方法和模型不同，它需要根据先验知识和对随机信号结构的分析构造一个合适的有限状态自动机作为其隐含层的拓扑结构，这种有限状态自动机实际上描述了信号的发生机制，因此，它的拓扑结构包含了信号的部分结构信息。 4.适用对象 HMM在生物信息科学、故障诊断、天气预测、机器视觉、语音识别、行为识别、文字识别、人脸识别、图像处理等领域有着广泛的应用。 几个典型的应用： （1）语音识别 已知标准语音序列w1w2…wn，求待测序列c1c2…cn的含义 HMM模型：将每句话为理解为状态；将输入的待测样本为理解为观测值。 训练：统计状态转移矩阵和语言序列到观测序列的输出矩阵。 求解：采用Viterbi算法 步骤：声音采样——傅立叶到频域——频域特征向量提取——输入样本——构造HMM——输入声音——求解模型 （2）疾病分析 已知疾病序列w1w2…wn，求表征序列c1c2…cn对应状态转移过程。 HMM模型：将每种疾病为理解为状态；将输入的表征现象为理解为观测值。 训练：统计从一种疾病转变到另一种疾病的概率转移矩阵和某