广义线性.分段线性.模式空间和权空间.pptVIP

广义线性判别函数 出发点 线性判别函数简单，容易实现； 非线性判别函数复杂，不容易实现； 若能将非线性判别函数转换为线性判别函数，则有利于模式分类的实现。 广义线性判别函数 基本思想 设有一个训练用的模式集{x}，在模式空间x中线性不可分，但在模式空间x*中线性可分，其中x*的各个分量是x的单值实函数，x*的维数k高于x的维数n，即若取 x* = (f1(x), f2(x), …., fk(x)), kn 则分类界面在x*中是线性的，在x中是非线性的，此时只要将模式x进行非线性变换，使之变换后得到维数更高的模式x*，就可以用线性判别函数来进行分类。 [描述] 广义线性判别函数 广义线性判别函数的意义 [线性的判别函数] [fi(x)选用二次多项式函数] [x是二维的情况] [x是n维的情况] [fi(x)选用r次多项式函数， x是n维的情况] [例子] [d(x)的总项数] 说明 d(x)的项数随r和n的增加会迅速增大，即使原来模式x的维数不高，若采用次数r较高的多项式来变换，也会使变换后的模式x*的维数很高，给分类带来很大困难。 实际情况可只取r=2，或只选多项式的一部分，例如r=2时只取二次项，略去一次项，以减少x*的维数。 广义线性判别函数 [例子：一维样本空间 -〉二维样本空间] 分段线性判别函数 出发点 线性判别函数在进行分类决策时是最简单有效的，但在实际应用中，常常会出现不能用线性判别函数直接进行分类的情况。 采用广义线性判别函数的概念，可以通过增加维数来得到线性判别，但维数的大量增加会使在低维空间里在解析和计算上行得通的方法在高维空间遇到困难，增加计算的复杂性。 引入分段线性判别函数的判别过程，它比一般的线性判别函数的错误率小，但又比非线性判别函数简单。 分段线性判别函数 图例：用判别函数分类 可用一个二次判别函数来分类 也可用一个分段线性判别函数来逼近这个二次曲线 分段线性判别函数 分段线性判别函数的设计 采用最小距离分类的方法 [最小距离分类] 分段线性判别函数 图例：分段线性分类设计 模式空间和权空间 [分类描述] 模式空间 对一个线性方程w1x1+w2x2+w3x3=0，它在三维空间(x1 x2 x3)中是一个平面方程式，w=(w1 w2 w3)T是方程的系数。 把w向量作为该平面的法线向量，则该线性方程决定的平面通过原点且与w垂直。 模式空间和权空间 模式空间 若x是二维的增广向量，此时x3=1，则在非增广的模式空间中即为{x1, x2 }二维坐标，判别函数是下列联立方程的解 w1x1+w2x2+w3=0 x3=1 即为这两个平面相交的直线AB 此时，w =(w1 w2)T为非增广的权向量，它与直线AB垂直；AB将平面分为正、负两侧，w离开直线的一侧为正， w射向直线的一侧为负。 模式空间和权空间 模式空间 增广向量决定的平面 非增广向量决定的直线 模式空间和权空间 权空间 若将方程x1w1+x2w2+w3=0绘在权向量w=(w1 w2 w3)T的三维空间中，则x=(x1 x2 1)T为方程的系数。 若以x向量作为法线向量，则该线性方程所决定的平面为通过原点且与法线向量垂直的平面，它同样将权空间划分为正、负两边。 在系数x不变的条件下，若w值落在法线向量离开平面的一边，则wTx0，若w值落在法线向量射向平面的一边，则wTx 0。 模式空间和权空间 权空间中判别界面的平面示意图 * * * * * * * *