2模式识别与机器学习思考题.docVIP

模式识别与?机器学习 思考题 1：简述模式识?别与机器学?习研究的共?同问题和各?自的研究侧?重点。 模式识别和?机器学习都?是信息科学?和人工智能?的重要组成?部分。 一、模式识别(Patte?rn Recog?nitio?n)是指对表征?事物或现象?的各种形式?的(数值的、文字的和逻?辑关系的)信息进行处?理和分析,以对事物或?现象进行描?述、辨认、分类和解释?的过程。 模式识别主?要的研究领?域有：（1）计算机视觉?医学影像分?析，光学文字识?别；（2）语音识别；（3）手写识别；（4）生物特征识?别：人脸识别，指纹识别，虹膜识别；（5）文件分类；（6）互联网有哪些信誉好的足球投注网站?引擎；（7）信用评分。 模式识别研?究主要集中?在两方面,一是研究生?物体(包括人)是如何感知?对象的，属于认识科?学的范畴,二是在给定?的任务下,如何用计算?机实现模式?识别的理论?和方法。前者是生理?学家、心理学家、生物学家和?神经生理学?家的研究内?容,后者通过数?学家、信息学专家?和计算机科?学工作者近?几十年来的?努力,已经取得了?系统的研究?成果。 二、机器学习(Machi?ne Learn?ing)是研究计算?机怎样模拟?或实现人类?的学习行为?，以获取新的?知识或技能?，重新组织已?有的知识结?构使之不断?改善自身的?性能。它是人工智?能的核心，是使计算机?具有智能的?根本途径，其应用遍及?人工智能的?各个领域，它主要使用?归纳、综合而不是?演绎。 机器学习的?研究领域有?：（1）计算机视觉?；（2）语音和手写?识别；(3)生物特征识?别（4）有哪些信誉好的足球投注网站引擎（5）医学诊断（6）检测信用卡?欺诈（7）证券市场分?析（8）DNA序列?测序；（9）战略游戏和?机器人运用? 模式识别与?机器学习都?对计算机视?觉、语音识别、手写识别、生物特征识?别有重要的?应用。 三、模式识别与?机器学习各?自的研究侧?重点不同。 模式识别侧?重研究计算?机如何模拟?人类的感知?识别能力，主要集中在?两方面,一是研究生?物体(包括人)是如何感知?对象的, 属于认识科?学的范畴；二是在给定?的任务下,如何用计算?机实现模式?识别的理论?和方法。模式识别是?机器学习的?一个主要任?务。前者是生理?学家、心理学家、生物学家和?神经生理学?家的研究内?容, 后者通过数?学家、信息学专家?和计算机科?学工作者近?几十年来的?努力, 已经取得了?系统的研究?成果。模式识别主?要有两种基?本的方法, 即统计模式?识别方法和?结构( 句法) 模式识别方?法, 与此对应的?模式识别系?统都由两个?过程所组成?, 即设计和实?现。此外, 还有其他诸?如模板匹配?的方法和神?经网络方法?等。 机器学习侧?重研究计算?机如何模拟?人类的学习?行为，主要在以下?三个方面进?行：一是面向任?务的研究—研究和分析?改进一组预?定任务的执?行性能的学?习系统；二是认知模?型—研究人类学?习过程并进?行计算机模?拟；三是理论分?析—从理论上探?索各种可能?的学习方法?和独立于应?用领域的算?法。 2：列出在模式?识别与机器?学习中的常?用算法及其?优缺点。 1. k-近邻法 近邻法是一?种最简单的?非参数模式?识别方法中?的模式匹配?法,它主要依据?样本间的多?维空间距离?来实现分类?.其基本规则?是，在所有N个?样本中找到?与测试样本?的k个最近?邻者，其中各类别?所占个数表?示成ki, i＝1，…，c。定义判别函?数为： gi(x)=ki, i=1, 2,…,c。 决策规则为?： 优点：算法简单，易于理解和?分析，分类效果好?, 在训练样本?趋于无穷大?时接近最优?。 缺点：可以明显看?出它需要的?计算量大，存储容量大?；没有考虑到?决策的风险?；对于近邻法?错误率的分?析都是建立?在样本数趋?向于无穷大?的假定上的?，而这在实际?应用时是很?难实现的。而对有限样?本集的情况?，又缺乏理论?上的分析。 2. 贝叶斯决策?理论 贝叶斯决策?理论是主观?贝叶斯派归?纳理论的重?要组成部分?，是基于概率?统计的基本?的判别函数?分类理论。 贝叶斯决策?就是在不完?全情报下，对部分未知?的状态用主?观概率估计?，然后用贝叶?斯公式对发?生概率进行?修正，最后再利用?期望值和修?正概率做出?最优决策。 贝叶斯决策?理论方法是?统计模型决?策中的一个?基本方法，其基本思想?是： 已知类条件?概率密度参?数表达式和?先验概率 利用贝叶斯?公式转换成?后验概率 根据后验概?率大小进行?决策分类 设D1，D2，……，Dn为样本?空间S的一?个划分，如果以P(Di)表示事件D?i发生的概?率，且P(Di)0(i=1，2，…，n)。对于任一事?件x，P(x)0，得到贝叶斯?公式： 优点： （1）算法简单，易于理解和?