一点线性代数知识-主成分分析 基础知识24.ppt

一点线性代数知识 矩阵 一组有关系的数即可形成一个矩阵 身高（cm） 体重（weight） 张小山 1.75 68 赵戴文 1.71 70 李小龙 1.65 65 王雷雷 1.69 61 1.75 68 1.71 70 1.65 65 1.69 61 A= = a11 a12 a21 a22 a31 a32 a41 a42 这里称A为4*2矩阵， aij是矩阵的元素。如果行数和列数相等，则称为方阵。常见方阵有协方差矩阵V和相关系数矩阵R： 几个特殊矩阵： 0阵：所有元素都是0的矩阵。 单位阵I：一个方阵中的对角线元素全为1而其余元素都是0. 对称阵：以对角线为轴上下对称的方阵，如R阵。 I= 0 0 0 1 0 0 0 1 向量：只有一行或一列的矩阵。 矩阵的加减法：当两矩阵行数和列数相等时，每两个对应位置的元素相加。 一个数k与矩阵相乘：将矩阵中每个元素乘以该数k。 矩阵乘矩阵：一个m*n矩阵A与一个n*p矩阵B相乘，记为AB=C，C是一个m*p矩阵。计算方法为用A阵的第i行每个元素乘以B阵的第j列相对应元素并求和得到C阵的元素cij。 任一矩阵和单位阵相乘等于原矩阵。 矩阵的逆： 一个方阵A，如存在一个方阵B，使得 AB=BA=I （单位阵）， 则称A为B的逆阵，B为A的逆阵。 A=B-1 矩阵的转置 设A为m×n阶矩阵（即m行n列），第i 行j 列的元素是a(i,j)，即：A=a(i,j) A的转置定义为这样一个n×m阶矩阵B，满足B=a(j,i)，即 b (i,j)=a (j,i)（B的第i行第j列元素是A的第j行第i列元素），记A’=B。(或记为AT=B） 直观来看，将A的所有元素绕着主对角线作镜面反转，即得到A的转置。 矩阵的特征值与特征向量 对于一个给定的线性变换，它的特征向量x经过这个线性变换之后，得到的新向量仍然与原来的x保持在同一条直线上，但其长度也许会改变。 一个特征向量的长度在该线性变换下缩放的比例称为其特征值。如果特征值为正，则表示x在经过线性变换的作用后方向也不变；如果特征值为负，说明方向会反转；如果特征值为0，则是表示缩回零点。 在一定条件下（如矩阵形式为实对称矩阵的线性变换），一个变换可以由其特征值和特征向量完全表述。 矩阵的特征值与特征向量 一个方阵A如存在常数λ及非零向量x，使下式成立 Ax= λx 则称λ为A的一个特征值，x称为A的特征向量。 一般来说，1个n阶方阵有n个特征值及相对应的n个特征向量。 对应于不同特征值的特征向量相互正交。 对于Ax= λx，在等式两边的左侧乘以单位矩阵I，得到 IAx= Iλx Ax=(λI)x (A-λI)x= 0 一旦找到特征值λ，相应的特征向量就可以通过求解如下方程得到： (A-λI)x= 0