2 基于最小二乘法的曲线拟合理论

在本章中，我们主要介绍了基于最小二乘法的曲线拟合原理。通过数学公式的推导，我们对最小二乘法有了深入的了解。同时，我们介绍了MATLAB软件的基本情况。通过几个曲线拟合的例子，我们对MATLAB软件的工具箱函数有了更深入的了解。

2。1 最小二乘法曲线拟合的原理

在利用曲线拟合的方法时，我们在得到这些变量之间的近似函数表达式之后，我们需要从整体上考虑近似函数同所给数据点之间误差的大小，付艳茹。[14]在《基于MATLAB曲线拟合的应用研究》一文中给出了常用的三种衡量误差的方法]：

（1）误差绝对值得最大值，即误差向量的无穷范数。

（2）误差绝对值的和，即误差向量r的1范数。

（3）误差平方和的算数平方根，即误差向量r的2范数。

前两种方法计算简单，但不便于微分运算。后一种方法相当于考虑2-范数的平方，因此在曲线拟合中常采用误差平方和来度量误差的大小。从几何意义上讲，就是寻求与给定点的距离平方和为最小的曲线，函数称为拟合函数或最小二乘解，求拟合函数的方法称为曲线拟合的最小二乘法。

2。2直线拟合

2。2。1 直线拟合的思想

当所给的数据点，(i=0,1,。。。,n),的分布大致成一条直线时，我们可以用这条直线来拟合这些数据点，当然这条拟合直线不一定要通过所有的数据点，只要求满足即可。而对于直线方程，我们只需要两个点即可确定该直线方程的未知参数，也就是说数据点的数目往往远超于待定参数的数目，那么拟合直线的构造本质就是解矛盾方程的代数问题。

2。2。2 直线拟合问题的数学描述

对于给定的数据点 ，当所求拟合直线能够使得总误差

则称此时的直线为所求的最小二乘拟合直线。此时，问题转化为求解方程（2。1），求得系数，即可。下面我们求解该方程：

由微积分求极值的方法可知，为使Q达到极值，参数，应满足：，且，即文献综述

，

。

通过求解该方程组即可求得参数a，b。继而得到拟合直线方程。

2。3多项式拟合

在用最小二乘法拟合曲线时，如果拟合函数为多项式，我们称其为多项式拟合。现求一函数，使得：

如果满足（2。2）式，则称为最小二乘拟合多项式。显然为的多元函数，因此上述问题转换为求I的极值问题，由多元函数求极值的必要条件得： 

而（2。3）是关于的线性方程组，用矩阵表示为  式（2。3）或式（2。4）称为正规方程组或者法方程组。而我们可以证明方程组的系数矩阵是一个对称正定矩阵，故存在唯一解，从式（2。4）我们可以解出，从而可得多项式

同时也可以证明(2。5)中的 满足(1),即多项式就是所有的最小二乘多项式。 

2．4多元线性拟合

多元线性拟合在统计学上也称为多元线性回归[15]，它的自变量受到多个因变量的影响，我们设给定的数据点为:

且这些数据点大致在一条直线上，令其回归函数为，那么多元函数的最小二乘法即转化为求系数，，…,。使得方差Q达到最小值，其中：

。由多元函数取极值的必要条件知

在（2。6）中取K=0得，由（2。6）式得：

上式（2。10）便是求解多元线性回归最小二乘解的正则方程组，我们同样可以证明方程组有唯一解且使得

。

取到最小值。

2。5非线性拟合