插值与拟合

1.插值和拟合的概念

插值是求过已知有限个点的近似函数，因此所有已知点点都必须在插值函数上。
而拟合是已知有限个点，求近似函数，使得在某种意义下的总偏差最小，已知点不一定在插值函数上。

2.插值

古典理论中常用的差值方法包括：拉格朗日插值，牛顿插值。
古典方法构造的差值多项式式子唯一确定，但在高次插值时会出现’Runge’现象，即函数出现剧烈的震荡，不再收敛。
为了避免‘Runge’现象的出现，我们采取分段线性插值，样条插值，Hermite插值等方法。
插值的原理，在此就不多做赘述了，可以参考任意一本数值分析教材，这里重点介绍曲线拟合在Matlab中的使用方法及在工程上的应用。

3.曲线拟合

曲线拟合的思想：已知一组二维数据，即平面上的n个点寻求一个函数（曲线）$f(x)$f(x)，使得在某种准则下$f(x)$f(x)与所有数据点最为接近
其中最常用的一种拟合方法就是线性最小二乘法

3.1最小二乘拟合

基本思路是设函数$y=f(x)$y=f(x),选定一组线性无关的函数$r_{k}(x)$rk​(x):
$f(x)=a_{1}r_{1}(x)+a_{2}r_{2}(x)+ \cdots a_{m}r_{m}(x)$f(x)=a1​r1​(x)+a2​r2​(x)+⋯am​rm​(x)
其中$f(x)$f(x)满足某种准则，在最小二乘拟合中便是$f(x_{i})$f(xi​)与给顶点的距离平方最小。
$J(a_{1},\cdots,a_{m})= \sum_{i=1}^{n}[f(x_{i})-y_{i}]^2$J(a1​,⋯,am​)=i=1∑n​[f(xi​)−yi​]2
写成矩阵形式如下：
$R=\begin{gathered} \begin{bmatrix} r_{1}（x_{1}）& \cdots &r_{m}（x_{1}）\\ \vdots & \vdots & \vdots \\ r_{1}（x_{n}）& \cdots & r_{m}（x_{n}）\\ \end{bmatrix} \end{gathered}$R=⎣⎢⎡​r1​（x1​）⋮r1​（xn​）​⋯⋮⋯​rm​（x1​）⋮rm​（xn​）​⎦⎥⎤​​
$A=[a_{1}, \dots,a_{n}]^{T},Y=(y_1,\dots,y_n)^T$A=[a1​,…,an​]T,Y=(y1​,…,yn​)T
当{$r_{k}$rk​}这组函数线性无关时， 方程组有唯一解$A=(R^TR)^{-1}R^TY$A=(RTR)−1RTY
中间推导过程不必在意，重点是最后的结论，下面补充一个小的例子：

3.2最小二乘优化