维数简约算法.docVIP

摘要

机器学习、模式识别、信息检索和生物信息中面临着一个主要的问题：维数灾难，因此维数约简方法的研究越来越有必要。本论文以合成孔径雷达〔SAR〕图像目标识别、高光谱图像分类与人脸识别为应用背景，针对谱聚类算法自身具有的维数约简特性，研究基于谱聚类的维数约简算法。结合国家自然科学基金工程和国家部委科技工程，将所提出的方法应用于SAR图像目标识别、人脸识别和高光谱遥感图像分类中。

本论文主要工作概括如下：

〔1〕基于经典NJW谱聚类算法构造了一种谱特征分析方法，在此根底上对尺度参数进行研究，提出了一种基于多参数自调节谱聚类维数约简算法，并将其应用于手写体数字识别和SAR图像目标识别。多参数自调节谱特征与传统特征变换方法得到的特征相比，提高了后续识别精度。此外，自调节参数防止了手动调节全局尺度参数的麻烦，由于自调节尺度参数考虑了各个样本点自身的邻域统计信息，比给所有的样本点赋予相同的全局尺度参数更合理。

〔2〕在构造谱聚类图切判据的过程中参加类别样本点的类别信息，提出了一种基于新的谱聚类图切判据——标度切判据的监督维数约简算法。同时，为了降低计算复杂度，提高算法的推广性能，在构造切判据的过程中只考虑k-近邻之间的类间和类内不相似性，这样能放松数据的类内方差，增大数据的类间边缘，从而获得更合理的投影矩阵。从人脸识别及高光谱遥感图像分类实验结果可以看出，基于局部标度切判据监督维数约简算法提取的特征能得到更好更稳定的识别结果。在局部标度切判据监督维数约简算法根底上，借鉴最优维数判别分析方法思想，提出了最优维数标度切判据分析方法。实验结果说明，最优维数判别分析方法能够获得满意的结果。

〔3〕基于标度切判据监督维数约简算法，使用核技术提出了一种核标度切判据监督维数约简算法，从而扩大了其应用范围。当原始特征维数大于样本数时，线性标度切判据监督维数约简方法会出现奇异问题，而该方法防止了此问题，对原始数据的原始特征维数没有限制。将基于核标度切判据的监督维数约简方法用于SAR图像目标识别，实验结果验证了该方法在SAR图像目标识别领域的应用潜力。

关键字：维数约简谱特征图切判据SAR目标识别高光谱图像分类

目录

TOC\o1-3\h\z\u摘要 1

ABSTRACT 3

第一章 绪论 1

研究背景和意义 1

研究背景 1

研究意义 2

维数约简国内外研究现状 3

论文的主要工作 5

第二章 维数约简算法的研究 7

维数约简根本概念 7

PCA和KPCA 7

LDA和KFDA 9

MDS和ISOMAP 10

LLE 11

本章小结 11

第三章 基于多参数自调节谱聚类维数约简的图像目标识别 13

引言 13

谱聚类算法简介 13

多参数自调节谱聚类 14

基于多参数自调节谱聚类的维数约简算法的构造 15

训练样本的维数约简 15

测试样本的维数约简 17

算法步骤 17

基于多参数自调节谱聚类维数约简的图像目标识别 18

UCI数据分类 18

手写体数字识别 20

SAR图像目标识别 24

本章小结 29

第四章 基于局部标度切的监督维数约简及其应用 31

引言 31

标准切与Fisher准那么 31

标准切 32

Fisher准那么 32

基于局部标度切的监督维数约简 33

标度切的构造 33

局部标度切 34

基于局部标度切的监督维数约简 35

最优维数标度切判据分析方法 36

实验及结果分析 37

UCI数据分类 37

人脸识别 40

高光谱遥感图像分类 41

本章小结 43

第五章 基于核标度切监督维数约简的图像目标识别 45

引言 45

基于核标度切判据的监督维数约简算法 46

实验结果及分析 47

UCI数据分类 47

SAR图像目标识别 48

本章小结 51

总结与展望 53

致谢 55

参考文献 57

研究成果 65

绪论

研究背景和意义

研究背景

目前，众多领域的数据获取具有如下特点：首先，对于一些领域一次实验的费用十分昂贵，而对大量观察数据无法直接判断其价值；其次，两次观察之间不独立或属性之间不独立；此外，噪音数据不一定独立于问题世界；但是，相对而言，数据的存储比拟廉价，所以人们不得不被动的记录所有的观察数据，这样的后果就是数据的维数巨大REF_Ref247383015\r\h[1]。

如果将这些