03第3章节非参数判别分类方法3-1—3-2.pptVIP

第三章 非参数判别分类方法 非参数判别分类方法是当前模式识别中主要使用的方法，并且涉及到人工神经元网络与统计学习理论等多方面，是本门课最核心的章节之一。 通过本章学习掌握模式识别中最重要的非参数判别分类法的原理。 §3.1 引言 按贝叶斯决策理论设计分类器的步骤 非参数判别分类方法的两个过程 线性判别函数的一般形式 向量W的意义 向量W的意义 广义线性判别函数 1. Fisher准则函数 样本在d维X空间的一些描述量 样本在一维Y空间的一些描述量 Fisher准则的函数形式 2. 最佳W值的确定 最佳法线向量 3. 判别函数的确定 *中国矿业大学 计算机科学与技术学院 第三章 非参数判别分类方法 学习指南 非参数判别分类方法的核心是由训练样本集提供的信息直接确定决策域的划分方法。 本章最重要的概念是分类器设计用一种训练与学习的过程来实现。机器自动识别事物的能力通过训练学习过程来实现，其性能通过学习过程来提高，这是模式识别、人工神经元网络中最核心的内容。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 学习这一章要进一步体会模式识别中确定准则函数并实现优化的计算框架。 由于决策域的分界面是用数学式子来描述的，如线性函数，或各种非线性函数等。因此确定分界面方程包括选择函数类型与确定最佳参数两个部分。一般说来选择函数类型是由设计者确定的，但其参数的确定则是通过一个学习过程来实现的，是一个叠代实现优化的过程。因此本章从最简单的函数类型讲起，再扩展到非线性函数。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 数学是模式识别中不可缺少的工具，希望大家学习时，遇到的数学方面的内容要通过再学习、复习等进一步掌握，如线性代数、矩阵的特征值分解与特征向量等概念的运用上起到很重要的作用。通过这门课学习，加深对这些数学工具的理解与运用熟练程度是会终身受益的。对于数学推导理解程度的要求，对增强同学分析问题解决问题的能力有好处。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 学习目的 掌握机器自学习的原理，自学习功能已不仅在模式识别中应用，目前经常用的机器学习这个词已涉及更为广泛的内容。 学习线性分类器的三种典型算法，这三种算法各自形成体系，分别形成了传统模式识别、人工神经元网络以及统计学习理论。 用近邻法进行分类。 通过相应数学工具的运用进一步提高运用数学的本领。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 本章重点 1、非参数判别分类器的基本原理，与参数判别分类方法的比较。 2、线性分类器的三种典型方法——以Fisher准则为代表的传统模式识别方法，以感知准则函数为代表的机器自学习方法，以及支持向量机代表的统计学习理论。 3、近邻法的工作原理及其改进。 4、线性分类器扩展到非线性分类器，两类别分类方法与多类别分类方法。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 1、Fisher准则函数，其中用到向量点积，带约束条件的拉格朗日乘子法以及矩阵的特征值、特征向量等数学工具。要求对这些数学工具较深理解。 2、感知器准则函数提出利用错误提供信息实现叠代修正的学习原理。 3、支持向量机方法设计约束条件为不等式的极值优化问题。 本章难点 4、三种不同典型方法的优缺点比较。 5、近邻法的改进。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 1、机器能否像人类一样通过例证教育认知事物，修正观念中的错误的成分? 2、机器学习过程中有教师吗？