矩阵分解在优化方法中的应用.docVIP

矩阵分解以及矩阵范数在数值计算中的应用 张先垒 （自动化与电气工程学院 控制科学与工程 2012210186） 【摘要】矩阵的分解是将一个矩阵分解为较为简单的或具有某种特性的若干矩阵的和或者乘积，这是矩阵理论及其应用中比较常见的方法。由于矩阵的这些特殊的分解形式，一方面反映了矩阵的某些数值特性，如矩阵的秩、特征值、奇异值等；另一方面矩阵的分解方法与过程往往为某些有效的数值计算方法和理论分析提供了重要的依据，它是应用于解最优化问题、特征值问题、最小二乘方问题的主要数学工具。 关键词 ： 矩阵分解 对角化 逆矩阵 范数 条件数 引言 矩阵分解在工程中的应用主要是在解线性方程组中,而这主要就是关系到储存和计算时间的问题上面,如何实现最小的储存和最少的计算时间是在工程计算中的头等问题。在这方年就牵涉到很多对矩阵进行怎样的分解，这篇文章介绍了基本的关于三角分解相关的内容以及关于界的稳定性的考虑。 矩阵的三角分解求解线性方程组 数值求解线性方程组的方法中有一个主要是直接法，假设计算中没有舍入误差，经过有限次算术运算能够给出问题的精确解的数值方法。其中高斯消去法就是利用矩阵的分解实现的。矩阵论一种有效而且应用广泛的分解法就是三角分解法，将一个矩阵分解为一个酉矩阵（或正交矩阵）与一个三角矩阵的乘积或者三角矩阵与三角矩阵的乘积。（见课本P93例4.3）考虑一般的线性方程组，设其中的系数矩阵是可逆的， （1-1） 设矩阵的第一列中至少有一个是非零元素（否则就是奇异矩阵）不妨设为若一般的记初等矩阵如1-2式及矩阵论课本上的Givens矩阵。 （1-2） 根据矩阵理论的知识我们知道矩阵左乘矩阵，作用就是对换的第和第行，右乘的作用是对换第和第列。因此通过取，则矩阵中的。用第一行与其他行的线性组合可以将第一列对角线以下部分全部变为0。这一过程写成矩阵形式即 （1-3） 其中 （1-4） 这里，注意到 （1-5） 并且该矩阵仍然是可逆矩阵。所以中至少有一个不为0，设。 同理取，令如此逐步消元可得到 （1-6） 若再假设，取对换行，即可得该矩阵的形状为 （1-7） 在（1-6）中，这里，如果记则 （1-8） 很显然对任意的看，都有，所以他们都是非奇异的矩阵，而且他们的逆矩阵分别是 （1-9） （1-10） 经过步消元法的得到矩阵 （1-11） 是一个上三角矩阵。如果记 （1-12） 则显然线性方程组 （1-13） 与原方程组同解的。通过以上变换实质上就是矩阵的分解假设消去过程中不实施矩阵行的交换，这时 （1-14） 由（1-11）经过消去过程后，矩阵就是一个上三角矩阵记则 （1-15） 而由（1-10）可知每个都是一个下三角矩阵。容易验证 （1-16） 是一个下三角矩阵，如果记则可验证（1-16）的矩阵为 （1-17） 最后得到 （1-18） 其中是一个下三角矩阵，是一个上三角矩阵这样线性方程组就等价于依次求解方程组 （1-19） 这样就可以得到原方程组的解。（见课本P93例4.3） 2.线性方程组的解的稳定性判定 线性方程组解的稳定性。对于线性方程组 ， （1-20） 如果解关于问题（即矩阵和向量）的微小变化（即舍入误差）不敏感，则（1-5）就是一个“好”问题，反之就是“坏”的或病态的问题。而对求解上述方程组的一个算法，如果关于问题的“微小”变化（即误差的传播在一个可以接受的范围内），则算法成为稳定的算法（即好的），反之就是一个不稳定的算法。有了范数的工具，就可以讨论线性方程组的“好坏”以及求解线性方程组的优劣问题。定义1 设是可逆矩阵，称是矩阵相对矩阵范数的条件数。考虑到 （1-21） 即由于右端的扰动引起解的变化，比较它与原有问题 （1-22） 解的差异。由（1-6