模式识别-第7讲-非线性判别函数精要.ppt

第1章 绪论 * * * * * * * * 中间绿色区域：g120,g130,g230 决定符号：看原点位于什么区域 * * * * * 只考虑作为各类或各子区域代表点所提供的信息是很不够的。如何利用整个样本集所提供的全部信息， 是个需要考虑的问题。 * * 例：已知三类ω1,ω2,ω3的判别函数分别为： 因此三个判别边界为： 1。第一种情况（续） 作图如下： 1。第一种情况（续） 对于任一模式X如果它的 g1(x) 0 ， g2(x) 0 ， g3(x) 0 则该模式属于ω1类。相应ω1类的区域由直线-x2+1=0 的正边、直线-x1+x2-5=0 和直线-x1+x2=0的负边来确定。 1。第一种情况（续） 如果某个X使得=2个判别函数 gi(x) 0 ,则此模式X就无法作出确切的判决,如图中IR1,IR3,IR4区域。 另一种情况是IR2区域，判别函数都为负值。IR1，IR2，IR3，IR4。都为不确 定区域。 1。第一种情况（续） 问当x=(x1,x2)T=(6,5)T时属于那一类 结论： g1(x) 0 ， g2(x) 0 ， g3(x) 0所以它属于ω2类 1。第一种情况（续） 再麻烦一些的方法是用c(c-1)／2个线性判别函数，把样本分为c个类别，每个线性判别函数只对其中的两个类别分类，如p112图4.14(b)所示。 2。第二种情况： 这样 有 M(M _ 1)/2个判别平面。 对于两类问题，M=2，则有一个判别平面。 同理，三类问题则有三个判别平面。 判别函数： 判别边界： 判别条件： 2。第二种情况： 每个模式类和其它模式类间可分别用判别平面分开。 判别函数性质： 假设判别函数为： 判别边界为： 2。第二种情况（续） 用方程式作图： 问:未知模式X=(x1,x2)T=(4,3)T属于那一类 代入判别函数可得: 把下标对换可得: 因为 结论：所以X 属于ω3类 结论：判别区间增大，不确定 区间减小，比第一种情况小的多. 2。第二种情况（续） 这两种方法都会产生如图中的阴影区域，对这个阴影区域中的点，无法确定其类别。 3。第三种情况 判别函数： 判别规则： 判别边界： gi(x) =gj(x) 或gi(x) -gj(x) =0 就是说，要判别模式X属于那一类，先把X代入M个判别函数中，判别函数最大的那个类别就是X所属类别。 类与 类之间的边界可由 gi(x) =gj(x) 或gi(x) -gj(x) =0来确定。 每类都有一个判别函数,存在M个判别函数 右图所示是M=3 的例子。对于ω1类模式， 必然满足g1(x) g2(x) 和 g1(x) g3(x) 。 假设判别函数为： 则判别边界为： 3。第三种情况（续） 结论：不确定区间没有了，所以这种是最好情况。 用上列方程组作图如下： 3。第三种情况（续） 问假设未知模式x= (x1,x2)T= (1,1)T ，则x属于那一类。 把它代入判别函数： 得判别函数为： 因为 所以模式x= (1,1)T属于 类。 3。第三种情况（续） 多类分类器的设计 非线性判别函数 1.分段线性判别函数（用线性无法分开,可用分段线性判别函数） ①、基于距离的分段线性判别函数。（用均值代表一类，通过均值连线中点的垂直线分开） 把ωi类可以分成li个子类: ∴ 分成l个子类。 现在定义类判别函数： 在同类的子类中找最近的均值。 判别规则： 这是在M类中找最近均值。则把x归于ωj类完成分类。 非线性判别函数 Ⅱ Ⅲ 非线性判别函数（续） 例：未知x,如图： 先与ω1类各子类的均值比较，即 ，找一个最近的 与ω2各子类均值比较取最近的 因 g2(x) g1(x) ，所以x∈ω2类 。 多类分类器的设计 设ω＝ ω1, ω2 ,……ωm 而每一类又可以分为 子类。 对每个子类定义一个线性判别函数为： 则定义ωi类的线性判别函数为： ②、基于函数的分段线性判别函数 利用均值代表一类有时有局限性，如图所示。若用 线性判别函数代表一类，就会克服上述情况。 分段线性判别函数 在各子类中找最大的判别函数作为此类的代表，则对于M类，可定义M个判别函数gi(x),i