模式识别-2 判别函数.pptVIP

第二章 判别函数 § 2-1、判别函数 § 2-2、线性判别函数 § 2-3、广义线性判别函数 § 2-4、非线性判别函数 § 2-2 线性判别函数 我们现在对两类问题和多类问题分别进行讨论。 (一)两类问题 即: 1. 二维情况 ：取两个特征向量 这种情况下 判别函数: 2. n维情况 现抽取n个特征为： 判别函数： 另外一种表示方法： (二) 多类问题 例：已知三类ω1,ω2,ω3的判别函数分别为： 因此三个判别边界为： 问当x=(x1,x2)T=(6,5)T时属于那一类 结论： g1(x) 0 ， g2(x) 0 ， g3(x) 0所以它属于ω2类 判别函数： 判别边界： 判别条件： 问:未知模式X=(x1,x2)T=(4,3)T属于那一类 代入判别函数可得: 把下标对换可得: 因为 结论：所以X 属于ω3类 3。第三种情况 判别函数： 判别规则： 判别边界： gi(x) =gj(x) 或gi(x) -gj(x) =0 就是说，要判别模式X属于那一类，先把X代入M个判别函数中，判别函数最大的那个类别就是X所属类别。 类与 类之间的边界可由 gi(x) =gj(x) 或gi(x) -gj(x) =0来确定。 3。第三种情况（续） 结论：不确定区间没有了，所以这种是最好情况。 §2-3、广义线性判别函数 1.分段线性判别函数（用线性无法分开,可用分段线性判别函数） ①、基于距离的分段线性判别函数。（用均值代表一类，通过均值连线中点的垂直线分开） 把ωi类可以分成li个子类: ∴ 分成l个子类。 现在定义子类判别函数： 在同类的子类中找最近的均值。 判别规则： 这是在M类中找最近均值。则把x归于ωj类完成分类。 ②、基于函数的分段线性判别函数 利用均值代表一类有时有局限性，如图所示。若用 线性判别函数代表一类，就会克服上述情况。 ③、基于凹函数的并分段线性判别函数（针对多峰情况） 设li子类判别函数，i=1,2,…..r则分段线性判别函数有如下特性： 例、设如图 1、分段线性判别函数（续） (a)：l1,l2,……lr都是分段线性判别函数 (b)：若A,B都是分段线性判别函数，则： A∧B ，A∨B也是分段线性判别函数。 A∧B取最小 ，A∨B取最大。 (c)：对任何分段线性函数都可以表示成如下二种形式： 1)、析取范式(这是经常采用的形式) P=(L11∧L12∧…∧L1m)∨…∨(Lq1∧Lq2∧…∧Lqm) 2)、合取范式 Q= (L11 ∨ L12 ∨ … ∨ L1m) ∧ … ∧(Lq1 ∨ Lq2 ∨ … ∨ Lqm) 每个(L11 ∨ L12 ∨ … ∨ L1m) 都称为凹函数。 1、分段线性判别函数（续） 对于多峰二类问题：设第一类有q个峰，则有q个凹函数。 即P=P1∨P2∨……∨Pq 每个凹函数Pi由m 个线性判别函数来构成。 ∴Pi=Li1∧Li2∧…∧Lim 假设对于每个子类线性判别函数Lij都设计成： 1、分段线性判别函数（续） ∴P=(L11∧L12∧ L13 ∧ L14 ∧L15) ∨(L21∧L22∧ L23 ∧ L24) ∨(L31∧L32∧ L33 ∧ L34) * 假设对一模式X已抽取n个特征，表示为： 模式识别问题就是根据模式X的n个特征来判别模式属于ω1 ,ω2 , … , ωm 类中的那一类。 § 2-1 判别函数 例如下图：三类的分类问题，它们的边界线就是一个判别函数 §2.1 判别函数（续） 判别函数包含两类： 一类 是线性判别函数： 线性判别函数 广义线性判别函数 （所谓广义线性判别函数就是把非线性判别函数映射到另外一个空间变成线性判别函数） 分段线性判别函数 另一类是非线性判别函数 §2.1 判别函数（续） 在两类别情况，判别函数 g (x) 具有以下性质： 这是二维情况下判别由判别边界分类. 情况如图： 1. 二维情况 模式分类： 当 g1(x) =WTX=0 为判别边界 。当n=2时，二维情况的判别边界为一直线。当n=3时，判别边界为一平面，n3时，则判别边界为一超平面。 2. n维情况 对于多类问题，模式有 ω1 ,ω2 , … , ωm 个类别。可分三种情况： 1。第一种情况：每一模式类与其它模式类间可用单个判别平面把一个类分开。这种情况，M类可有M个判别函数，且具有以