《模式识别》教学中线性鉴别分析的探讨.pdfVIP

!甏ij 巷 j惫j％。j堪|；‰l麓j：琶琶ij赣j|≯iji镰≥遵 《模式识别》教学中线性鉴别分析的探讨 陈小潘，朱小柯，郑珊珊 (河南大学计算机与信息工程学院河南开封475004) 【摘要】：本文结合作者个人教学经验，对《模式识别》教学过程中学生不太容易掌握的线性鉴别 分析进行了分析和探讨，得出了一些有益的教学经验，并取得了良好的教学效果。 【关键词】：线性鉴别分析；模式识别；Fisher准则 1引言 1 f ^，， 随着人工智能在日常生活中的广泛应用，《模式 s。击善M(鼍一_)(墨一i)7。击善善(％一面(％一两7 识别》这门课程已经成为各个高校计算机专业一门重 (4) e(％一z+i—i)％一i+z—i)7 =面1备L善M 要的基础课。而在模式识别的教学中，线性鉴别分析 属于非常重要但又比较难理解的一个知识点。如果无 法正确地理解它，就会对课程中后续内容的学习造成 S。+最 一定的困难。本文结合个人多年的教学经验对线性鉴 Discriminant 阵。由线性代数的知识可以得出：当S。可逆时，与S。 别分析(Linear Analysis，LDA)进行了分 析探讨，从基本原理的详细推导，到目标函数求解，最 均为正定矩阵。 后总结人脸识别应用，给出常见的详细实现步骤，使 通过上述分析证明，学生能够更容易理解S。，S。 学生能够更好地掌握和应用线性鉴别分析。 和s：之问的关系及学会简单推导。 2线性鉴别分析的基本原理 3Fisher线性鉴别法 现有教材在介绍LDA时，往往都是只给出公式， Fisher线性鉴别法是线性鉴别分析中最常用也是 很少给出公式推导的过程，这也导致学生经常不理解 最重要的一种实现形式，本节主要介绍教学中对于 为什么能得到这个公式。所以，在教学中作者对LDAFisher线性鉴别法的理解。 中的一些公式给出了详细的推导和证明，使学生更容 经典的Fisher线性鉴别分析[L2]就是要通过最优 易理解其原理。为了后面讨论的方便，首先定义如下 化函数(5)式找到一个最优的投影矩阵形。。 符号。设共有M张训练样本，训练样本共有L类，每类 以形)：掣 f51 一 分别有胆张训练样本，S。代表类问协方差矩阵，S。代 l彬‘S。∥l 表类内协方差矩阵，S。代表总体协方差矩阵，五代表 在实际的应用中，经典的Fisher线性鉴别分析最 图像矩阵4。展开的列向量，4代表所有训练样本的平 优投影轴族，即最优的投影矩阵形。。的列向量¨，，¨： …¨。一般取为广义特征方程S描=AS。x的d个最大的 均样本，4i代表第i类的平均样本。那么S。、、S。的表 特征值所对应的特征向量。即¨。，¨。…№满足以下条 示分别如公式(1)、(2)、(3)所示。 件 Sb2善等(x，爿)(x，《)7 … S6胁