模式识别理论.pptx

数字图像处理;第10章 模式识别的理论和方法;10.1模式识别的概念;10.1模式识别的概念--什么是模式;10.1模式识别的概念模式与模式类;10.1模式识别的概念--模式类;10.1模式识别的概念--目标;10.1模式识别的概念 --学习问题;10.1模式识别的概念--识别系统;数据获取和预处理(data acquisition and preprocessing) ：测量，采样和量化，去噪，复原 特征提取与选择(feature extraction and selection) 分类决策 (classification decision);10.1模式识别的概念 –识别方法;10.1模式识别的概念--模版匹配 ;10.1模式识别的概念-模版匹配;10.1模式识别的概念-统计模式识别;10.1模式识别的概念-统计模式识别;Preprocessing;许多复杂的模式可以分解为简单的子模式，这些子模式组成所谓 “基元” 每个模式都可以由基元根据一定的关系来组成 基元可以认为是语言中的词语，每个模式都可以认为是一个句子，关系可以认为是语法 模式的相似性由句子的相似性来决定 优点：适合结构性强的模式 缺点：抗噪声能力差，计算复杂度高;方法;;进行大规模并行计算的数学模型 具有学习、推广、自适应、容错、分布表达和计算的能力 优点：可以有效的解决一些复杂的非线性问题 缺点：缺少有效的学习理论;Problem;模式识别的一个实例;如何识别鲈鱼和鲑鱼?;采用长度作为分类特征;采用平均亮度作为分类特征;错分的代价;采用多个特征进行分类;分类边界;选用多少特征以及采用哪些特征?;维数灾难;模型的复杂性;推广性;10.1 模式识别的概念- 相似与相似性度量;10.2 模式识别方法--引言;10.2 模式识别方法--基本概念;10.2 模式识别方法-- 决策;10.2 模式识别方法-- 决策准则;10.2 模式识别方法—判别函数;10.2 模式识别方法—决策规则 ;10.2 模式识别方法—分类器设计;10.2 模式识别方法— Bayes决策;Bayes公式： 假设已知先验概率P(ωi)和观测值的类条件分布p(x|ωi)，i=1,2;比较大小不需要计算p(x)：;对数域中计算，变乘为加：;两类细胞识别问题：正常(ω1)和异常(ω2) 根据已有知识和经验，两类的先验概率为： 正常(ω1)： P(ω1)=0.9 异常(ω2)： P(ω2)=0.1 对某一样本观察值x，通过计算或查表得到： p(x|ω1)=0.2， p(x|ω2)=0.4 如何对细胞x进行分类？;利用贝叶斯公式计算两类的后验概率：;最小错误率决策;条件错误率：;最小错误率决策;Bayes最小错误率决策使得每个观测值下的条件错误率最小因而保证了（平均）错误率最小。 Bayes决策是一致最优决策。;设t为两类的分界面，则在特征向量x是一维时，t为x轴上的一点。两个决策区域:R1~(-∞，t)和R2~(t，+∞);10.2 模式识别方法— Bayes决策;10.2模式识别方法—基于最小风险的Bayes决策;损失矩阵;期望条件风险与期望风险;基于最小风险的Bayes决策;最小风险决策的计算;两类问题最小风险Bayes决策;Bayes最小风险决策例解;Bayes最小风险决策例解（2）;最小风险决策的一般性;Bayes决策中，类条件概率密度的选择要求： 模型合理性 计算可行性 常用概率密度模型：正态分布 观测值通常是很多种因素共同作用的结果，根据中心极限定理，服从正态分布。 计算、分析最为简单的模型。;一元正态分布;观测向量：实际应用中，可以同时观测多个值，用向量表示。多元正态分布：;多元正态分布的性质;参数μ和Σ完全决定分布;等概率密度轨迹为超椭球面;多元正态分布的任意两个分量互不相关，则它们一定独立;观测向量的类条件分布服从正态分布：;第一种特例：;10.2 模式识别方法—Bayes决策;最小距离分类器与线性分类器;10.2 模式识别方法—Bayes决策;10.2 模式识别方法—Bayes决策;第二种特例：; 线性分类器的决策边界是由线性方程 所确定的一个超平面。在各类特征的协方差矩阵相等情形下，该方程可写为：;10.2 模式识别方法—Bayes决策;正态分布的最小错误率Bayes决策;;正态分布下的几种决策面的形式;两类问题正态模型的决策面： 决策面方程：g1(x)=g2(x) 两类的协方差矩阵相等，决策面是超平面。 两类的协方差矩阵不等，决策面是超二次曲面。;正态分布的Bayes决策例解;正态分