最小二乘法的基本原理和多项式拟合.docVIP

数值分析

2013年12月

最小二乘法的根本原理和多项式拟合

摘要：

随着科技开展和社会进步，尤其是计算机大范围的普及，计算机应用逐渐由大规模科学计算的海量数据处理转向日常学习中遇到的小型数据的处理与计算，这就产生了解决各种实际问题需要的各种应用程序，特别是在电磁检验实验中的应用更为广泛。最小二乘法〔又称最小平方法〕是一种数学优化技术，是利用最小化误差的平方和寻找数据的最正确函数匹配的一种计算方法[1]，本文对最小二乘法进行了深入细致的研究，利用Matlab语言编制程序和数学知识相结合，通过实验数据的输入，实现多项式和曲线拟合的输出，并利用设计的程序实现了一些实际问题的求解和处理。

关键词：最小二乘法，曲线拟合，多项式

一、前言

曲线拟合又称作函数逼近，是求近似函数的一类数值方法．它不要求近似函数在每个节点处与函数值相同，只要求其尽可能的反映给定数据点的根本趋势以及某种意义上的无限“逼近”．在需要对一组数据进行处理、筛选时，我们往往会选择合理的数值方法，而曲线拟合在实际应用中也倍受青睐．采用曲线拟合处理数据时，一般会考虑到误差的影响，于是我们往往基于残差的平方和最小的准那么选取拟合曲线的方法，这便是经常所说的曲线拟合的最小二乘法．通过对一些文献的分析和整理，不仅有数据处理〔数据采集〕，还有模型建立，可以了解到曲线拟合的最小二乘法的应用领域较为广泛。

二、最小二乘法法的介绍

1〕，最小二乘法的根本原理

从整体上考虑近似函数同所给数据点(i=0,1,…,m)误差(i=0,1,…,m)的大小，常用的方法有以下三种：一是误差(i=0,1,…,m)绝对值的最大值，即误差向量的∞—范数；二是误差绝对值的和，即误差向量r的1—范数；三是误差平方和的算术平方根，即误差向量r的2—范数；前两种方法简单、自然，但不便于微分运算，后一种方法相当于考虑2—范数的平方，因此在曲线拟合中常采用误差平方和来度量误差(i=0，1，…，m)的整体大小。

数据拟合的具体作法是：对给定数据(i=0,1,…，m)，在取定的函数类中,求,使误差(i=0,1,…,m)的平方和最小，即

=

从几何意义上讲，就是寻求与给定点(i=0,1,…,m)的距离平方和为最小的曲线〔图6-1〕。函数称为拟合函数或最小二乘解，求拟合函数的方法称为曲线拟合的最小二乘法。

在曲线拟合中，函数类可有不同的选取方法.

6—1

2〕，多项式拟合

假设给定数据点(i=0,1,…,m)，为所有次数不超过的多项式构成的函数类，现求一,使得

(1)

当拟合函数为多项式时，称为多项式拟合，满足式〔1〕的称为最小二乘拟合多项式。特别地，当n=1时，称为线性拟合或直线拟合。

［显然

为的多元函数，因此上述问题即为求的极值问题。由多元函数求极值的必要条件，得

(2)

即

(3)

〔3〕是关于的线性方程组，用矩阵表示为

(4)

式〔3〕或式〔4〕称为正规方程组或法方程组。

可以证明，方程组〔4〕的系数矩阵是一个对称正定矩阵，故存在唯一解。从式〔4〕中解出(k=0,1,…，n)，从而可得多项式

(5)

可以证明，式〔5〕中的满足式〔1〕，即为所求的拟合多项式。我们把称为最小二乘拟合多项式的平方误差，记作

由式(2)可得

(6)

多项式拟合的一般方法可归纳为以下几步：

(1)由数据画出函数粗略的图形——散点图，确定拟合多项式的次数n；

(2)列表计算和；

(3)写出正规方程组，求出；

(4)写出拟合多项式。

在实际应用中，或；当时所得的拟合多项式就是拉格朗日或牛顿插值多项式。

3〕，最小二乘拟合多项式的存在唯一性

定理1设节点互异，那么法方程组〔4〕的解存在唯一。

证由克莱姆法那么，只需证明方程组〔4〕的系数矩阵非奇异即可。

用反证法，设方程组〔4〕的系数矩阵奇异，那么其所对应的齐次方程组

〔7〕

有非零解。式(7)可写为

〔8〕

将式〔8〕中第j个方程乘以(j=0,1,…，n)，然后将新得到的n+1个方程左右两端分别相加，得

因为

其中



所以

(i=0,1,…,m)

是次数不超过n的多项式，它有m+1＞n个相异零点，由代数根本定理，必须有，与齐次方程组有非零解的假设矛盾。因此正规方程组〔4〕必有唯一解。定理2设是正规方程组〔4〕的解，那么是满足式〔1〕的最小二乘拟合多项式。

证只需证明，对任意一组数组成的多项式，恒有

即可。

因为(k=0,1,…，n)是正规方程组〔4〕的解，所以满足式〔2〕，因此有

故为最小二乘拟合