支持向量机要点分析.docVIP

摘 要 支持向量机(Support Vector Maclline，SVM)是一种基于统计学习理论(StatiStical LeanliIlg Theo吼SLT)的新数据建模方法。它建立在VC mpnil(一Chen，onenl（is Dhension) 维理论和结构风险最小原理基础上，能较好地解决小样本、非线性、高维数和局部极小点等实际问题，同时能获得较好的泛化能力。SVM在工业领域的应用研究相对来说不多，鉴于化工领域小样本统计的特点，它在化工领域中有较大的应用前景。本文针对支持向量回归机(Support、Ktor Re伊ession，SVR)算法，从算法性能与推广能力两方面对其展开研究，并将其应用于工业双酚A生产过程软测量建模中。 在详细分析SVR算法及其属性的基础上，了解到应用单个核函数的局限性，提出了采用混合核支持向量机来对工业生产进行建模的方法，以提高模型的泛化能力和精度。本文中的混合核函数由一个局部核函数和一个全局核函数线性组合而成，并可以通过参数来调节局部核和全局核对混合核的作用。双酚A软测量建模的仿真研究表明，该混合核支持向量机软测量模型具有较好的泛化能力。 SVM中参数的寻优一般只针对惩罚系数C和核参数仃，而混合核的引入，使SVM又多了一个可调参数所。以往加是取经验值，不能确保该参数为最优。本文提出了基于混沌粒子群(Chaotic Panicle S咖O硼miz鲥on，CPSO)算法的混合核支持向量机参数综合寻优方法，以七一．删交叉验证误差函数为目标函数来寻找满足条件的最优参数组合{c，盯，所}，从而提高模型的精度。通过对双酚A软测量建模的仿真研究表明，混合核参数优化后的模型比经验模型效果要好，泛化能力有所提升。 SVM算法在理论上的发展还包括与数据预处理方法的结合，就是将数据中脱离领域知识的信息即数据本身的性质融入SVM算法中从而产生新的算法。作为数据预处理常用的模糊C一均值聚类(Fuzzy C．meaIlS clustering，FCM)算法在聚类后各类别边界信息间存在干扰，使模型的精度不能得到很好的改善。而线性判别分析(Lillear Discrjmin锄tAnalysis，LDA)方法是一种用于扩大样本间界限的有效方法，能扩大类别间的距离，使聚类更为精确。FCM与改进的LDA结合然后再通过多模型融入到SVM算法中，这正好是算法间的补充和扩展。通过对双酚A软测量建模的仿真研究表明，该方法具有一定的实用性。 关键词：支持向量回归；数据建模；模式识别；泛化性能 1 1.1课题研究背景 1 1.2国内外研究的状况及成果 1 1.3课题研究目的 2 1.4课题研究使用的开发工具 2 第二章支持向量机回归原理 3 2.1支持向量机 3 2.1.1VC维数 3 2.1.2结构风险最小化 4 2.2支持向量回归 5 2.2.1线性支持向量回归 5 2.2.1非线性支持向量回归 6 2.3支持向量回归核函数 6 2.4 松弛变量及惩罚因子 7 2.4.1松弛变量 8 2.4.2惩罚因子 8 2.5支持向量回归算法 9 2.5.1算法遵循的一些基础 9 2.5.2回归算法 11 2.5.3关于算法的几点说明 12 第三章系统的总体设计 14 3.1总体设计思想 14 3.2功能模块的划分及相关流程图 14 3.2.1主要功能模块的划分 14 3.2.2实现程序的主要框架图 14 3.2.3支持向量回归机模型的总流程图 16 第四章基于支持向量回归模型的实现 17 4.1实现的模型的功能描述 17 4.2 系统运行结果 18 4. 3系统的性能分析及结论 25 4.3.1实现系统主要函数的功能说明: 25 4.3.2 系统性能分析与结论 25 结 束 语 28 致 谢 29 参 考 文 献 30 第一章绪论 支持向量机(SVM)是在统计学习理论基础上提出的一种新的学习方法。支持向量机（ SVM ）是一种比较好的实现了结构风险最小化思想的方法。它的优点是理论完备、训练时间短、全局优化强、适应性好、泛化性能好等。SVM已经成为目前国内外研究的热点。本课题研究的SVR是支持向量机在函数回归中的应用。 1.1课题研究背景 基于支持向量的学习是现代智能技术中的重要方面，研究从观测数据（样本）出发寻找规律，利用这些规律对未来数据或无法观测的数据进行预测.包括模式识别、神经网络等在内，现有支持向量机器学习方法共同的重要理论基础之一是统计学.传统统计学研究的是样本数目趋于无穷大时的渐近理论，现有学习方法也多是基于此假设.但在实际问题中，样本数往往是有限的，因此一些理论上很优秀的学习方法实际中表现却可能不尽人意.　　与传统统计学相比，统计学习理论（Statistical Learning T