第5章补充材料.pdfVIP

第5 章补充材料  支持向量机的学习 x z 给定两个类别的训练样本集D x ,z ,, x ,z ， 为训练样本的特征矢量， 是  1 1   n n  i i 样本的类别标识： 1, x   i 1 z i  1, xi 2 I ．线性可分的情况 我们先来讨论样本集D 是线性可分的情况。作为最优分类超平面来说，首先需要能够对 样本集D 正确分类，亦即需要满足： t zi w xi w0 0 ，i 1,,n （1） 由于： t  t  w x   w x   zi  i w0  min z j  j w0  bmin 0 1 j n   b w 是训练样本集中距离分类超平面最近样本的函数间隔。当权值矢量 和偏置 同 w min 0 时乘上一个正数1 b 时，对应超平面的位置是不会发生变化的，因此（1）式的条件可以重 min 写为： t zi w xi w0 1 ，i 1,,n （2 ） 这样做的好处是通过适当调整权值矢量和偏置，使得最优超平面到样本集的函数间隔b 变为了1，亦即支持面与分类界面之间的函数间隔为1。 最优分类超平面的第 2 个条件是要使得与样本集之间的几何间隔 最大，在函数间隔 为1 的条件下有： 1 