线性规划支持矢量机在水中目标识别中的应用.pdfVIP

线性规划支持矢量机在水中目标识别中的应用 田娜 王海燕 (西北工业大学航海工程学院 710072) LinearProgrammingSupportVectorMachineandItsApplicationin UnderwaterTargetRecognition TIANNa,WANGHai-yan (CollegeofMarineEngineeringofNorthwesternPolytechnicalUniversity,710072) 1引言 在水中目标识别与分类技术的发展过程中，人们对机器智能的研究主要是基于数据的机 器学习问题。其目的是设计某种 (某些)方法，使之能够通过对己知数据的学习，找到数据 内在的相互依赖关系，从而对未知数据进行预测或对其性质进行判断等。 由Vapnik等人发展起来的统计学习理论1,〔2]，通过引入结构风险实现对目标函数集的控 制，从而使学习机在经验风险和过拟合之间取一个折衷，获得了较好的推广能力。在此基础 上产生了一种优秀的机器学习模型一一支持矢量机 ((SW ，〕〔。传统用二次规划 (Quaqratic Programming，简称 QP)计算支持矢量的SVM有非常完善的理论基础，并且对于不是很大的训 练数据集有极佳的实用效果。然而当数据集很大时 (比如大于2000点)，用标准算法和程序 就很难解决QP问题。最近，用线性规划(LP)实现支持矢量选择的方法受到广泛关注9]‘。该方法 与标准SVM学习的细微差别在于其依据最小化权向量w的L，范数}IWIh，而标准方法则依据最 小化的Lz范数}}WII2。 2线性规划支持矢量机 传统支持矢量机 的求解为一线性约束 凸二次规划 (即最大化边界 1子112 二 m in一 1 1W _i (p表示训练样本数))，其计算的时间和空间复杂度很大。而根据 及今州!Pl 一 P=, 统计学习理论提出的线性规划支持矢量机，能够大大降低求解的复杂度。 2.1线性规划支持矢量机 理论已证明，SVM包含的优化问题能够很容易地转化为标准线性规划形式。首先，对于 y=Gw,miniwlil:一min艺WIA，代换、和}、.如下: P=1 W，一WP+一WP (la) I__} _十 .__一 (1b) IWPI=W，一WP i0。要解决的问题转化为:寻找一对(W+,W)，使 嵘和W石是两非负变量，即W二i0,W二 176 了二 _、 .c}l +wp) 钾 ，w )=argmin乙 俨， p=l 护 了 、 . 勺 . . . ‘ a . 、 户 s.t.，一:1、Gw(一w)、，+El, 、 矛 、 . ‘ 勺 b .