第二章.数值逼近

函数逼近基本概念

维尔斯特拉斯定理:设f\in C[a,b],则\forall \varepsilon>0,\exists p(x)\in H_n使\left|f(x)-p(x)\right|<\varepsilon[a,b]上一致成立。
构造B_n(f,x)=\sum\limits_{k=0}^{n}f\left(\frac{k}{n}\right)C_k^nx^k(1-x)^{n-k},那么\lim\limits_{n\rightarrow \infty}B_n(f,x)=f(x)[0,1]上一致成立,则还有\lim\limits_{n\rightarrow \infty}B_n^{(m)}(f,x)=f^{(m)}(x).但收敛慢,故实际中很少用。

三个基本问题:

  • 选定逼近函数类型
  • 按一定目标逼近:可分为插值和拟合
  • 研究逼近函数的存在唯一性、收敛性及误差估计等理论问题。

插值法

牛顿插值与拉格朗日插值多项式

n阶差商到牛顿插值多项式
p(x)= f\left(x_{0}\right)+f\left[x_{0}, x_{1}\right]\left(x-x_{0}\right)+\cdots+f\left[x_{0},x_{1}, \cdots, x_{n}\right]\left(x-x_{0}\right) \cdots\left(x-x_{n-1}\right)
优点,每增加一个插值点就增加一项,便于计算。
插值多项式还可用插值基函数l_k(x)表示为
L_{n}(x)=\sum_{k=0}^{n} l_{k}(x) f\left(x_{k}\right)
其中
l_{k}\left(x_{i}\right) = \delta_{i k}=\left\{\begin{array}{l} 1, \quad i=k \\ 0, \quad i \neq k \end{array}\right.
上式被称为拉格朗日插值多项式
还可被写为
L_{n}(x)=\sum_{k=0}^{n} \frac{w_{n}(x)}{\left(x-x_{k}\right) w_k^{\prime}\left(x_{k}\right)}- f\left(x_{k}\right).
其中
w_{n}(x)=\left(x-x_{0}\right)\left(x-x_{1} \right) \dots \left( x-x_{n} \right)
截断误差表示为
R_{n}(x)=f(x)-p(x)=\frac{f^{(n+1)}(\xi)}{(n+1) !} w_{n}(x), \quad \xi \in(a, b)
上式称为插值余项,此外还有差商的表示:
R_{n}(x)=f\left[x_{0}, \quad x_{1}, \quad \dots, x_{n}, \quad x\right] w_{n}(x)
比较上述两式,可以得到差商与导数的关系
f\left[x_{0}, x_{1}, \quad \dots, x_{k}\right]=-\frac{f^{(k)}(\xi)}{k !}, \quad k=1, \quad 2 \cdots, n
实际上,当x_i\rightarrow x_0,i=1,2,\ldots,n的极限就是泰勒展开的余项.

Hermite插值

除了满足函数值的要求外,还需要满足导数条件.
H(x)=\sum_{i=0}^{n} f_{i} a_{i}(x)+\sum_{i=0}^{n} f_{i}^{\prime} \beta_{i}(x)
\begin{array}{l} \alpha_{i}\left(x_{j}\right)=\partial_{i j}, \alpha _{i}^{\prime}\left(x_{j}\right)=0, \quad j=0,1, \cdots, n \\ \beta_{i}\left(x_{j}\right)=0, \beta_{i}^{\prime}\left(x_{j}\right)=0_{i j}, \quad j=0,1, \cdots, n \end{array}
余项为
R_{2 n+1}(x)=f(x)-H(x)=\frac{f(2 n+2)(\xi)}{(2 n+2) !} w_{n}^{2}(x)

插值函数的收敛性与稳定性

插值点为x_0^{(n)},x_1^{(n)},\ldots,x_n^{(n)},n=0,1,2,\ldots,n作为插值点求出插值多项式序列
L_{0}, \quad L_{1}, \quad \cdots, \quad L_{*}, \quad \cdots, \quad L_{n}\left(x_{i}^{(n)}\right)=f\left(x_{i}^{(n)}\right), i=0, \quad 1, \cdots, n
\lim _{n \rightarrow \infty} L_{n}(x)=f(x),就称插值多项式序列\left\{ L_n \right\}收敛于f(x),否则就称不收敛.

理论上已知,满足上述条件的拉格朗日插值多项式序列\left\{L_n(x)\right\}不是收敛的.
例如f(x)=|x|[-1,1]上按等距节点-1=x_0<x_1<\ldots<x_n=1构造的插值多项式序列\left\{L_n(x)\right\},当n\rightarrow \infty时,只在-1,0,1三点收敛于f(x).(伯恩斯坦给出的例子)

Runge给出例子:f(x)=\frac{1}{1+x^2},在[-5,5]上用等距节点插值得到的L_n(x),在|x|>3.63时也不收敛于f(x).

这两个例子说明,高次插值多项式不能保证它的收敛性.

下面讨论插值函数的稳定性.当f_i=f(x_i),i=0,1,\ldots,n有误差\delta_{i}时,即实际求插值函数时使用的函数表为(x_i,\tilde{f}_i),i=0,1,\ldots,n而精确值f_i=\tilde{f}_i+\delta_i.我们要研究当\delta_{i}充分小时,插值函数I_n(f,x)的误差是否随n增大,这就是插值函数的稳定性问题.
是计算出来的插值函数
I_{n}(\tilde{f}, x)=\sum_{i=0}^{n} l_{i}(x) \tilde{f}_{i}
于是得到插值函数的总误差
E_{n}(f, x)=f(x)-I_{n}(\tilde{f}, x)=\left(f(x)-I_{n}(f, x)\right) +\left(I_{n}(f, x)-\left(I_{n}(\tilde{f}, x)\right)\right.
第一项为截断误差R_n(x),第二项为舍入误差\varepsilon_n,即
\begin{aligned} \varepsilon_{n} &=\max _{a \in x<b}\left|I_{n}\left(f, x\right)-I_{n}(\xi, x)\right| \\ & \leqslant \max _{a: x \in b}\left[\sum_{i=0}^{n}\left|l_{i}(x)\right|\right] \max _{1<1<n}\left|f_{i}-\tilde{f}_{i}\right| \\ & =\lambda_{n} \max _{1 \leqslant i \leqslant n}\left|f_{i}-\tilde{f}_{i}\right| \end{aligned}
\lambda_{n}=\max _{a \leqslant x \leqslant b}\left(\sum_{i=0}^{n}\left|l_{i}(x)\right|\right)有界,
则插值函数I_n(f,x)就是数值稳定的.下面给出定义

定义 对任给\varepsilon>0\exists \delta >0使当\max _{1 \leqslant i \leqslant n}\left|f_{i}-\tilde{f}_{i}\right| \leqslant \delta就有
\varepsilon_{n}=\max _{0<x<0}\left|I_{0}(f, x)-I_{n}(\xi, x)\right| \leqslant \varepsilon
则称插值函数I_n(f,x)是稳定的,否则就是不稳定的。

从定义看到,插值函数稳定,则其舍入误差\varepsilon_n可以忽略不计,而插值函数是否稳定则取决于\lambda_n是否有界.对于拉格朗日插值多项式L_n(x)则有\lambda>\frac{\ln n }{8\sqrt{n}}是无界的,这表示高次插值多项式是不稳定的.因此从收敛性与稳定性考虑,使用高次插值多项式是不可取的,故当插值节点n较大时一般不用多项式插值,而采用分段低次插值或样条插值.


样条插值函数

在具有收敛性与稳定性的插值函数中,最常用和最重要的时样条插值函数插值,而且用样条插值函数给出的光滑插值曲线或曲面在飞机、轮船、汽车等精密机械设计中有着广泛的应用.在数值逼近、数值微积分、微分方程数值解等计算数学领域中,样条函数是重要的工具.

定义[a,b]上的一个剖分\Delta:a=x_0<x_1<\ldots<x_n=b,如果函数s满足条件
1.s\in C^{m+1}[a,b]
2.s在每个子区间[x_{i-1},x_i],i=1,2,\ldots,n上是m次代数多项式.
则称s是关于节点剖分\Deltam次样条函数.
若再给定f\in C[a,b]在节点上的值f_i,并使
s(x_i)=f_i,i=0,1,\ldots,n
则称s(x)fm次样条插值函数.

通常用的比较多的是m=3的具有二阶连续导数的三次样条插值函数.
三次样条函数在每个子区间上可用四个系数唯一确定,因此在[a,b]上有4n个待定参数,由于s\in C^2[a,b]
\left\{\begin{array}{l} \boldsymbol{s}\left(x_{i}-0\right)=\boldsymbol{s}\left(x_{i}+0\right) \\ \boldsymbol{s}^{\prime}\left(x_{i}-0\right)=\boldsymbol{s}^{\prime}\left(x_{i} + {0} \right) \\ \boldsymbol{s}^{\prime \prime}\left(x_{i}-0\right)=\boldsymbol{s}^{\prime \prime}\left(x_{i}+0\right), \quad \boldsymbol{i}=1,2, * *, n-1 \end{array}\right.
给出3n-3个条件,加上插值条件共4n-2个,因此还需要两个边界条件.
分为三种情况:

  1. 一阶导数
  2. 二阶导数
  3. 周期样条函数条件

求三次样条插值函数s(x)有多种方法,这里给出其中一种,称三弯矩法.记s''(x_i)=M_i,i=0,1,\ldots,n,s在每个子区间[x_{i-1},x_i]上是三次多项式,故s''(x)[x_{i-1},x_i]上为线性函数,可表示为
s''(x)=M_{i-1}\frac{x_i-x}{h_{i-1}}+M_i\frac{x-x_{i-1}}{h_{i-1}}
这里h_{i-1}=x_i-x_{i-1},对上式积分两次,并利用插值条件s(x_{i-1})=f_{i-1},s(x_i)=f_i便可得到,再求导,最后把一阶导条件带进去得到
\mu_{i} \boldsymbol{M}_{i-1}+2 M_{i}+\lambda_{i} M_{i+1}=d_{i}, \quad i=1,2, \cdots, n-1
其中,\mu_{i}=\frac{h_{i-1}}{h_{i-1}+h_{i}}, \quad \lambda_{i}=1-\mu_{i},
d_{i}=6\left(\frac{f_{1+1}-f_{i}}{h_{i}}-\frac{f_{i}-f_{i-1}}{h_{i-1}}\right) \frac{1}{h_{i-1}+h_{i}}=6 f\left[x_{i-1}, x_{i}, x_{i+1}\right].
可以写成矩阵乘法的形式.
现讨论不同的边界条件:

  1. 一阶导数相等带入得到M_{0}=f^{\prime \prime}_0, \quad M_{n}=f^{\prime \prime}_{n}
  2. 二阶导数相等导出M_{0}=M_{n}, \quad \lambda_{n} M_{1}+\mu_{n} M_{n-1}+2 M_{n}=d_{n}
    其中\lambda_{n}=h_{0}\left(h_{n-1}+h_{0}\right)^{-1}, \quad \mu_{n}=1-\lambda_{n},d_{n}=6\left(f\left[x_{0}, x_{1}\right]-f\left[x_{n-1},x_n\right]/h_0+h_{n-1}\right)

这种三对角方程的系数矩阵元素\lambda_i+\mu_i=1,\lambda_i\geq 0,\mu\geq 0,故它是严格对角占优的,利用追赶法就可求出M_i(i=0,1,\ldots,n).
以上讨论说明三次样条插值函数再条件1,2,3的解是存在唯一的,上面求三次样条插值函数s(x)是一个常用的算法.下面给出在计算机上求s(x)的算法:
三次样条插值的三弯矩法

  1. 输入初始数据(x_i,f_i),i=0,1,\ldots,nf_0',f_n'.
  2. i=1,\ldots,n计算h_{i-1}=x_{i}-x_{i-1}, \quad f\left[x_{i-1}, x_{i}\right]=\frac{f_{1}-f_{i-1}}{h_{i}-1}
  3. i=0,1,\ldots,n计算\mu_i,\lambda_i,d_i.
  4. 用追赶法解方程组求出M_0,M_1,\ldots,M_n
  5. 求出s(x),并根据要求计算s(x)在若干点上的值,然后打印结果.

定理f\in C^4[a,b],sf满足条件的三次样条插值函数,则有估计式
\left\|f^{(k)}(x)-\boldsymbol{s}^{(k)}(x)\right\|_{\infty} \leqslant C_{n} \|\left.f^{(4)}\right|_{, \infty} ^{1} h^{*-k}, \quad k=0,1,2
其中h=\max_{1\leq i\leq n} h_{i-1}=\max _{1\leq i\leq n}\left(x_{i}-x_{i-1}\right), \quad C_{0}=-\frac{5}{384}, \quad C_{1}=\frac{1}{24},C_2=\frac{1}{8}


B样条函数

之前导出的三次样条插值函数s(x)分别在每个子区间[x_{i-1},x_i]上有表达式,这在应用上和理论分析中不是很方便,而如果利用基样条表示往往更为方便.为此可根据定义给出的m次样条函数概念,构造m次样条函数空间的基函数.

设区间[a,b]的剖分\Delta : a=x_{0}<x_{1}<\dots<x_{n}=b上的m次样条函数全体组成的集合为S(m,\Delta),它是一个线性空间,并且它的维数是n+m维,因为S(m,\Delta)至多有(m+1)\times n个自由参数,由连续性条件知有m\times (n-1)个约束条件,S(m,\Delta)的维数至多为(m+1) \times n-m \times(n-1)=n+m.

定义截幂函数为
x_{+}^{m}=\left\{\begin{array}{ll}x^{m}, & x \geqslant 0 \\ 0, & x<0\end{array}\right.
下面证明,S(m,\Delta)中的n+m个样条函数
\begin{array}{c} x^{k}, \quad k=0,1, \cdots, m \\ \left(x-x_{j}\right)^{m}_+,\quad j=1,2, \cdots, n-1 \end{array}
在区间[a,b]上线性无关,从而可得出S(m,\Delta)维数为n+m.

定义6 设\{x_i \}是节点序列,令\phi_m(t)=(t-x)_{+}^m,函数(x_{j+m+1}-x_j)\phi_m(t)关于t=x_j,\ldots,x_{j+m+1}m+1阶差商
\begin{array}{c} B_{j \cdot m}(x)=\left(x_{j+m+1}-x_{j}\right) \phi_{m}\left[x_{j}, x_{j+1}, \cdots, x_{j+m+1}\right] \\ j=-m,-m+1, \dots, n-1 \end{array}
称为第jmB-样条函数,简称B-样条函数。

利用差商的性质
\phi_{m}\left[x_{j}, x_{j+1}, \dots, x_{j+n+1}\right]=\sum_{k=j}^{j+m+1}-\frac{\left(x_{k}-x\right)_{+}^{m}}{w_{m, j}^{\prime}\left(x_{k}\right)}
其中w_{m, j}(t)=\left(t-x_{j}\right)\left(t-x_{j+1}\right) \cdots\left(t-x_{j+m+1}\right).由此得到B_{j . m}(x)=\left(x_{j+m+1}-x_{j}\right) \sum_{k=j}^{j+m+1} \frac{\left(x_{k}-x\right)^{m}}{w_{m, j}^{\prime}\left(x_{k}\right)}
定义中的n+m个样条函数是线性无关的,所以组成S(m,\Delta)的一组基。这样对任何在[a,b]上关于剖分\Deltam次样条函数s\in S(m,\Delta)都可以表示成
s(x)=\sum_{j=-m}^{n-1} a_{j} B_{j, m}(x)
这样求s(x)得问题就归结为求系数a_{-m},\ldots,a_0,\ldots,a_{n-1},实际上就是解线性方程组。例如,已知在点x_0,x_1,\ldots,x_n上得函数值f_0,f_1,\ldots,f_n,及x_0,x_n处的导数值f_0'f_n',要求三次样条插值函数s(x).
由上式可得方程组
\left\{\begin{array}{l} \sum_{j=-3}^{n-1} a_{j} B_{j, 3}^{\prime}\left(x_{0}\right)=f_{0}^{\prime} \\ \sum_{j=-3}^{n-1} a_{j} B_{j, 3}\left(x_{i}\right)=f_{i}, \quad i=0,1, \cdots, n \\ \sum_{i=-3}^{n-1} a_{j} B_{j, 3}^{\prime}\left(x_{n}\right)=f_{n}^{\prime} \end{array}\right.
求出a_{-3},\ldots,a_0,\ldots,a_{n-1}n+3个系数,则得三次样条插值函数s(x).

为了说明上式得系数矩阵特点并研究其解的存在唯一性,以及确定系数a_j就必须了解B-样条函数的性质。下面给出B-样条函数的一些重要性质,其证明可根据B-样条函数定义及差商性质得到。
性质1 递推关系
B_{j, 0}(x)=\left\{\begin{array}{ll} 1, & x \in\left(x_{j,}, x_{j+1}\right) \\ 0, & else \end{array}\right.
\begin{array}{r} B_{j, k}(x)=\frac{x-x_{j}}{x_{j+k}-x_{j}} B_{j, k-1}(x)+\frac{x_{j+k+1}-x}{x_{j+k+1}-x_{j-1}} B_{j-1, k-1}(x) \\ k=1,2, \cdots, m \quad(2.35) \end{array}
性质2 正性与局部非零性

B_{j, m}(x)=\left\{\begin{array}{cl} 0, & x \not\in\left[x_{j}, x_{j+m+1}\right] \\ bigger\ than\ 0, & x \in\left(x_{j}, x_{j+m+1}\right) \end{array}\right.

性质3 规范性
\sum_{j=-m}^{n-1} B_{j, m}(x)=\sum_{j=i-m}^{i} B_{j, m}\langle x)=1, \quad x_{i} \leqslant x \leqslant x_{i+1}

性质4 B-样条的导数
m=0,B'_{i,0}(x)=0;当m\geq 1(m=1时除x为节点外)
B_{f, m}^{\prime}(x)=m\left[\frac{B_{j, m-1}(x)}{x_{j+m}-x_{j}}-\frac{B_{j+1, m-1}(x)}{x_{j+m+1}-x_{j+1}}\right]


内积空间与正交多项式

定义7 设[a,b]为有限或无限空间,\rho(x)是定义在[a,b]上的非负函数,\int_{a}^{b} x^{k} \rho(x) d xk=0,1,\ldots都存在,对非负f\in C[a,b],若\int_{0}^{b} f(x) \rho(x) d x=0f(x) \equiv 0,称\rho[a,b]上的权函数。

定义8 设f,g\in C[a,b] , \rho[a,b]上的权函数,定义
(f, g)=\int_{a}^{b} f(x) g(x) \rho(x) \mathrm{d} x
称为函数fg的内积。

由内积定义得(f, f)=\int_{a}^{b} f^{2}(x) \rho(x) \mathrm{d} x=\|f\|_{2}^{2},\|\cdot\|_2称为f的加权欧式(Euclid)模或加权2-范数。当\rho(x)\equiv 1时就是2-范数。

定理4 设\phi_0,\phi_1,\ldots,\phi_n\in C[a,b],则\phi_0,\phi_1,\ldots,\phi_n[a,b]上线性无关的充分必要条件是det G_n\neq 0,其中G_n=\left((\phi_i,\phi_j)\right)_{i,j}其中(\cdot,\cdot)表示内积。

定义 若f,g\in C[a,b],\rho[a,b]上的权函数,若
(f, g)=\int_{a}^{b} f(x) g(x) \rho(x) \mathrm{d} x=0
则称fg[a,b]上带权\rho正交。若函数序列\{\phi_j\}_0^{\infty}[a,b]上两两正交,即
\left(\varphi_{i}, \varphi_{j}\right)=\left\{\begin{array}{l} 0, \quad i \neq j \\ A_{j} \neq 0, \quad i=j \end{array}\right.
则称\{\phi_j\}^\infty_0为正交函数族。

由于序列\{x^n\}_0^{\infty}是线性无关的,利用正交化方法可以构造出在[a,b]上带权正交的多项式序列\{\phi_n\}^\infty_0:
\varphi_{0}(x)=1, \quad \varphi_{n}(x)=x^{n}-\sum_{k=0}^{n-1} \frac{\left(x^{n}, \varphi_{k}\right)}{\left(\varphi_{k}, \varphi_{k}\right)} \varphi_{k}(x), \quad n=1,2, \cdots.
这样构造的正交多项式序列由以下性质:
(1)\phi_n(x)是最高项系数为1的n次多项式
(2)任何n次多项式均可表示为\phi_0,\phi_1,\ldots,\phi_n的线性组合
(3)当n\neq m(\phi_n,\phi_m)=0\phi_n与任一次数小于n的多项式正交。
正交多项式还有以下的重要性质:

定理5 在[a,b]上带权\rho的正交多项式序列\{\phi_n\}^\infty_0,若最高项x^n系数为1,它便是唯一的,且由以下的递推公式确定:
\varphi_{n+1}(x)=\left(x-a_{n}\right) \varphi_{n}(x)-\beta_{n} \varphi_{n-1}(x), \quad n=0,1, \cdots
其中
\begin{array}{c} \varphi_{0}(x)=1, \quad \varphi_{-1}(x)=0 \\ \alpha_{n}=\frac{\left(x \varphi_{n}, \varphi_{n}\right)}{\left(\varphi_{n}, \varphi_{n}\right)}, \quad n=0,1, \cdots, \quad \beta_{n}=\frac{\left(\varphi_{n}, \varphi_{n}\right)}{\left(\varphi_{n-1}, \varphi_{n-1}\right)} \\ n=1,2, \dots \quad(3,9) \end{array}
这里\left(x p_{n}, \varphi_{n}\right)=\int_{a}^{b} x \varphi_{n}^{2}(x) \rho(x) \mathrm{d} x

定理6 设\{\phi_n\}_0^{\infty}是在[a,b]上带权的正交多项式序列,则\phi_n(n\geq 1)n个根都是单重实根,且都在区间(a,b)内。

勒让德多项式

在区间[-1,1]上权函数\rho(x)=1的正交多项式称为勒让德多项式,其表达式为
P_{0}(x)=1, \quad P_{n}(x)=\frac{1}{2^{n} n !} \frac{d^{n}}{d x^{n}}\left\{\left(x^{2}-1\right)^{n}\right\}, \quad n=1,2, \cdots
P_n(x)的首项x^n的系数为\frac{(2n)!}{2^n(n!)^2},
\tilde{P}_{0}(x)=1, \quad P_{x}(x)=\frac{n !}{(2 n) !} \frac{d^{n}}{d x^{2}}\left\{\left(x^{2}-1\right)^{n}\right\}, \quad n=1,2, \cdots
\tilde{P}_n(x)是首项x^n系数为1的勒让德多项式。
勒让德多项式有许多重要的性质,特别有:

  1. 正交性
    \left(P_{n}, P_{m}\right)=\int_{-1}^{t} P_{n}(x) P_{m}(x) \mathrm{d} x=\left\{\begin{array}{l} 0, m\neq n \\ \frac{2}{2 n+1}, m=n \end{array}\right.
  2. 递推公式
    (n+1) P_{n+1}(x)=(2 n+1) x P_{n}(x)-n P_{n-1}(x), \quad n=1,2, \dots
    其中P_0(x)=1,P_1(x)=x.

切比雪夫多项式

在区间[-1,1]上权函数\rho(x)=\frac{1}{\sqrt{1-x^2}}的正交多项式称为切比雪夫多项式,它可表示为
T_{n}(x)=\cos (n \arccos x), \quad n=0, \quad 1, \quad \infty
若令x=\cos \theta,则T_n(x)=\cos n\theta,0\leq\theta\leq\pi,这是T_n(x)的参数表示。利用三角公式可将\cos n\theta展成\cos \theta的一个n次多项式,故上式是xn次多项式。下面给出T_n(x)的主要性质:

  1. 正交性
    \left(T_{n}, T_{m}\right)=\int_{-1}^{1} \frac{T_{n}(x) T_{m}(x)}{\sqrt{1-x^{2}}} d x=\left\{\begin{array}{ll} 0, & m \neq n \\ \frac{\pi}{2}, & m=n \neq 0 \\ \pi, & m=n=0 \end{array}\right..
    只要对积分做变换x=\cos\theta,利用三角公式即可得到上式结果。
  2. 递推公式
    \begin{array}{c} T_{n+1}(x)=2 x T_{n}(x)-T_{n-1}(x), \quad n=1,2, \ldots \\ T_{0}(x)=1, \quad T_{1}(x)=x \end{array}
  3. 奇偶性
    T_{n}(-x)=(-1)^{n} T_{n}(x)
  4. T_n(x)(-1,1)内的n个零点为x_k=\cos\frac{2k-1}{2n}\pi,k=1,2,ldots,n,在[-1,1]上有n+1个极点y_k=\cos\frac{k}{n}\pi,k=0,1,\ldots,n
  5. T_n(x)的最高次幂x^n的系数为2^{n-1},n\geq 1

其它正交多项式

第二类切比雪夫多项式

在区间[-1,1]上权函数为\rho(x)=\sqrt{1-x^2}的正交多项式称为第二类切比雪夫多项式,其表达式为
u_{\mathrm{a}}(x)=\frac{\sin [(n+1) \arccos x]}{\sqrt{1-x^{2}}}, \quad n=0,1, \cdots
也可表示为x=\cos\theta,u_n(x)=\frac{\sin(n+1)\theta}{\sin\theta},它有递推公式
u_{n+1}(x)=2 x u_{n}(x)-u_{n-1}(x), \quad n=1,2, \dots
其中u_{0}(x)=1, \quad u_{1}(x)=2 x.\{u_n\}的正交性为
\left(u_{n}, u_{m}\right)=\int_{-1}^{1} u_{n}(x) u_{m}(x) \sqrt{1-x^{3}} d x=\left\{\begin{array}{ll}0, & m \neq n \\ \frac{\pi}{2}, & m=n\end{array}\right.

拉盖尔多项式

在区间\left[0,\infty\right)上,权函数\rho(x)=e^{-x}的正交多项式称为拉盖尔多项式,其表达式为
L_{n}(x)=e^{x} \frac{d^{n}}{d x^{n}}\left(x^{n} e^{-y}\right), \quad n=0,1, \cdots
它的递推公式为
L_{n+1}(x)=(1+2 n-x) L_{n}(x)-n^{2} L_{n-1}(x), n=1,2, \dots
其中L_0(x)=1,L_1(x)=1-x.正交性为
\left(L_{n}, L_{m}\right)=\int_{\infty}^{\infty} L_{n}(x) L_{m}(x) e^{-x} d x=\left\{\begin{array}{ll} 0, & m \neq=n \\ (n !)^{2}, & m=n \end{array}\right.

欸而米特多项式

在区间\left(-\infty,+\infty\right)上,带权\rho(x)=e^{-x^2}的正交多项式称为埃尔米特多项式,其表达式为
H_{n}(x)=(-1)^{n} e^{x^2} \frac{d^{n}}{d x^{n}} e^{-x^{2}}.
它的递推公式为
H_{\pi+1}(x)=2 x H_{n}(x)-2 n H_{n-1}(x), \quad n=1,2, \cdots
其中H_0(x)=1,H_1(x)=2x正交性为
\left(H_{2}, H_{12}\right)=\int_{-\infty}^{\infty} H_{4}(z) H_{12}(x) e^{-x^{2}} \mathrm{d} x=\left\{\begin{array}{ll} 0, & m \neq n \\ 2^{n} n ! \sqrt{\pi}, & m=n \end{array}\right.


函数的最佳平方逼近

最佳平方问题及其解法

f\in C[a,b],\phi_0,\phi_1,\ldots,\phi_nC[a,b]n+1个线性无关函数,记\phi=Span\{\phi_0,\phi_1,\ldots,\phi_n\},则对\forall \phi\in\Phi
\varphi(x)=\sum_{j=0}^{n} a_{j} \varphi_{j}(x)
\phi逼近f\in C[a,b],使满足
\|f-\varphi\|_{2}^{2}=\int_{a}^{b}[f(x)-\varphi(x)]^{2} \rho(x) \mathrm{d} x=m \mathrm{in}
其中\rho(x)[a,b]上的权函数,这就是最佳平方逼近问题。若f由函数表(x_i,f_i),i=0,1,\ldots,m(m>n)给出,则最佳平方逼近问题是求\phi\in\Phi使得
\text { If }-\Phi_{i, 2}^{\cdot z}=\sum_{i=0}^{m}\left[f_{i}-\Phi\left(x_{i}\right)\right]^{2} \rho_{i}=\min
这里\rho_i是点x_i处的权。

定义11 设f\in C[a,b],若存在\phi^*\in\Phi=Span\{\phi_0,\phi_1,\ldots,\phi_n\}使
\|f-\varphi *\|_{2}^{2}=\inf _{\varphi \in \Phi}\|f-\Phi\|_{2}^{2}
则称\phi^*f\Phi中的最佳平方逼近函数。

由定义知,求解\phi^*\in\Phi等价于求多元函数
F\left(a_{0}, a_{1}, \cdots, a_{n}\right)=\int_{a}^{b}\left[\sum_{j=0}^{n} a_{j} \varphi_{j}(x)-f(x)\right]^{2} \rho(x) \mathrm{d} x
的极小值。由于F是关于参数a_0,a_1,\ldots,a_n的二次函数,由多元函数极值必要条件得
\frac{\partial F}{\partial a_{k}}=2 \int_{a}^{b}\left[\sum_{j=0}^{n} a_{j} \varphi_{j}(x)-f(x)\right] \varphi_{k}(x) \rho(x) \mathrm{d} x=0, \quad k=0,1,\ldots,n
于是有
\sum_{j=0}^{n}\left(\varphi_{j}, \varphi_{k}\right) a_{j}=\left(f, \quad \varphi_{k}\right), \quad k=0,1, \cdots, n
这是关于a_0,a_1,\ldots,a_n的线性方程组,称为法方程。由于\phi_0,\phi_1,\ldots,\phi_n线性无关,由定理知上式得系数矩阵非奇异,故方程组有唯一解a_=a_k^*,k=0,1,\ldots,n于是有
\varphi^*(x)=a_{0}^{*} \varphi_{0}(x)+a_{1}^{*} \varphi_{1}(x)+\dots+a_{n}^{*} \varphi_{n}(x)

\delta (x)=f(x)-\phi^*(x),称\|\delta\|^2_2为最佳平方逼近误差,简称平方误差,由于(f-\varphi *, \varphi *)=0,故\|\mathbf{d}\|_{2}^{2}=(f-\varphi *, f-\Phi *)=(f, f)-(\varphi *, f)=\| f \|^2_2 -\sum_{j=0}^{*} a_{k}^{*}\left(\varphi_{k}, f\right)

作为特例,若取\phi_k(x)=x^k,k=0,1,\ldots,n区间取[0,1],\rho(x)=1.此时f\in C[0,1]\Phi-H_u=Span\{1,x,\ldots,x^n\}上得最佳平方逼近多项式为
p_{n}^{*}(x)=a_{0}^{*}+a_{1}^{*} x+\dots+a_{n}^{*} x^{n}
\left(f, \Phi_{k}\right)=\int_{0}^{1} f(x) x^{k} \mathrm{d} x=d_{k}, \quad k=0,1, \cdots, x
此时由于
\left(\varphi_{j}, \varphi_{k}\right)=\int_{0}^{1} x^{j+k} \mathrm{d} x=\frac{1}{j+k+1}, \quad j, k=0,1, \cdots, n
对应得H_n中元素h_{i,j}=\frac{1}{i+j-1}.称为希尔伯特矩阵。
此时法方程为H_n a =d它的解为a_k=a_k^*,k=0,1,\ldots,n由此则得最佳平方逼近多项式p^*_n(x).

由于H_n是病态矩阵,在n\geq 3时直接解法方程误差很大,因此当\phi_k(x)=x^k时解法方程方法只适合n\leq 2的情形,对n\geq 3可用正交多项式作\Phi的基求解最佳平方逼近多项式。

用正交函数族做平方逼近

如使用勒让德多项式逼近得到的多项式和由1,x,\ldots,x^n为基得到的p^*_n(x)是一致的,但此处不用解病态法方程,且在所有系数为1 的n次多项式中,勒让德多项式在[-1,1]上与零的平方误差最小

曲线拟合的最小二乘法

f是由实验或观测得到的,其函数通常是由表格x_i,f_i,i=0,1,\ldots,m给出.若要求曲线y=\phi(x)逼近y=f(x),通常由于观测有误差,因此s_i=\phi(x_i)-f_i=0不一定成立,当只要求\|\delta\|^2_2=min就是曲线拟合的最小二乘问题。此时求\phi^*(x)的问题等价于求多元函数
\left.F\left(a_{0}, a_{1}, \cdots, a_{n}\right)=\sum_{i=0}^{m} \sum_{j=0}^{n} a_{j} \varphi_{j}\left(x_{i}\right)-f_{i}\right]^{2}
的极小值,和之前一样可以得到法方程:
\sum_{j=0}^{n}\left(\varphi_{j}, \varphi_{k}\right) a_{j}=\left(f, \varphi_{k}\right), \quad k=0,1, \cdots, n
只是这里内积(\cdot,\cdot)由积分换成和式,即
\left\{\begin{array}{l} \left(\varphi_{j}, \varphi_{k}\right)=\sum_{i=0} ^{m} \varphi_{j}\left(x_{i}\right) \varphi_{k}\left(x_{i}\right) \rho_{i} \\ \left(f, \varphi_{k}\right)=\sum_{i=0}^{m} f_{i} \varphi_{k}\left(x_{i}\right) \rho_{i} \end{array}\right.


周期函数逼近与快速傅里叶变换

周期函数的最佳平方逼近

f为周期函数时,用三角多项式逼近比用代数多项式更合适。
在离散点集\left\{x_{k}=\frac{2 \pi}{N} k\right\}_{0}^{N-2}.上给出函数值f(\frac{2\pi k}{N}),k=0,1,\ldots,N-1可以证明,当2n+1\leq N时三角函数族\{1,\cos x,\sin x,\ldots,\cos nx,\sin nx\}为离散点集\{x_j=\frac{2\pi j}{N} \} _0^{N-1}的正交函数族.于是给出此时最小二乘解的系数,
\left\{\begin{array}{l} a_{k}=\frac{2}{N} \sum_{j=0}^{N-1} f\left(\frac{2 \pi j}{N}\right) \cos \frac{2 \pi k j}{N}, k=0,1, \cdots, n \\ b_{k}=\frac{2}{N} \sum_{j=0}^{N-1} f\left(\frac{2 \pi j}{N}\right) \sin \frac{2 \pi k j}{N}, k=1,2, \cdots, n \end{array}\right.
特别的,当2n+1=N时,则有
\boldsymbol{s}_{n}\left(x_{j}\right)=f\left(x_{j}\right), \quad j=0, \quad 1, \quad \cdots, \quad N-1
此时s_n(x)就是三角插值多项式.
更一般情形,假设f是以2\pi为周期的复值函数,f(\frac{2\pi j}{N})已知,令\phi_k(x)=e^{ikx}则关于节点正交,从而由离散傅里叶正变换逆变换(Discrete Fourier Transformation, DFT)。

快速傅里叶变换(FFT)

上一节的傅里叶分析都可以归结为计算
C_{j}=\sum_{k=0}^{N-1} B_{k} W^{k j}, \quad j=0,1, \cdots, N-1
需要N^2次复数乘法,N(N-1)次复数加法。
FFT的思想是尽量减少式子中乘法次数,注意到WN等分复平面单位圆上的一点,且W^N=1,所以\{W^{jk}\}=W^r只有N个不同值W^0,W^1,\ldots,W^{N-1},特别当N=2^m时,只有\frac{N}{2}个不同值,因此可把同一个W^r对应的B_k相加后再乘W^r,这就能大量减少乘法次数。
下面介绍N=2^m时的算法,把k,j分别用二进制表示为
\begin{array}{l} k=k_{m-1} 2^{m-1}+\dots+k_{1} 2^{1}+k_{0} 2^{\iota}=\left(k_{m-1} \dots k_{1} k_{0}\right) \\ j=j_{m-1} 2^{m-1}+\dots+j_{1} 2^{1}+j_{0} 2^{0}=\left(j_{m-1} \dots j_{1} j_{8}\right) \end{array}
其中k_{r}, \quad j_{r}(r \Rightarrow 0, \quad 1, \quad \dots, \quad m-1\rangle只能取0或1,相应地令
C_{j}=C(j)=C\left(j_{m-1} \cdots j_{1} j_{0}\right), \quad B_{k}=B_{0}(k)=B_{0}\left(k_{m-1} \cdots k_{1} k_{0}\right)
\begin{aligned} W^{*} y &=W\left(k_{n-1} \cdots k_{1} k_{0}\right)\left(j_{m-1} \cdots j_{1} j_{0}\right) \\ &=W^{j} 0\left(k_{m-1} \cdots k_{1} k_{11}\right)+j_{1}\left(k_{m-2} \cdot k_{0} 0\right)+\cdots+j_{m-1}\left(k_{0} 0 \quad 0\right) \end{aligned}
于是原式可分为m层求和,即
\begin{aligned} C(j) &=\sum_{k=0}^{K-1} B_{0}(k) W^{k j} \\ &=\sum_{k_{0}=0}^{1}\left\{\sum_{k_{1}=0}^{1} \dots\left(\sum_{k_{m-1}=0}^{1} B_{0}\left(k_{m-1} \dots k_{1} k_{0}\right) W^{j_{0}\left(k_{m-1} \cdots p_{0}\right)}\right)\right. \end{aligned}
\left.W_{1}\left(k m-2 ; k_{0} 0\right) \ldots 0\right\} W^{3} m-1\left(k_{0} 0 \cdots 0\right)
N=2^{10}时,它是非快速算法运算量地\frac{1}{230}


最佳一致逼近

最佳一致逼近多项式

定义12 设f\in C[a,b],p_n\in H_n=Span\{1,x,\ldots,x^n\}
\Delta\left(f, p_{n}\right)=\left\|f-p_{n}\right\|_{\infty}=\max _{a \rightarrow x_{i-h}}\left|f(x)-p_{n}(x)\right|
p_nf的偏差:
E_{n}=\inf _{P_{n}\in H_n}\Delta\left(f, p_n\right)=\min _{P_n \in H_{n}} \Delta\left(f, \quad p_{n}\right)
定义13 设f\in C[a,b],若存在p^*_n\in H_n使
\Delta\left(f, p_{n}^{*}\right)=E_{n}=\inf _{P_{n} \subset H_n} \Delta\left(f, p_{n}\right)
则称p_n^*f[a,b]上的最佳一致逼近多项式。
定理 8 若f \in C[a,b],p\in H_n\exists x_0\in [a,b]使
\left|f\left(x_{0}\right)-p\left(x_{0}\right)\right|=\Delta(f, \quad p)=\max _{a: x<i}|f(x)-p(x)|=\mu
则称x_0p关于f的偏差点。
p(x_0)-f(x_0)=\mu,则称x_0为正偏差点;
p(x_0)-f(x_0)=-\mu,则称x_0为负偏差点。

定理8(切比雪夫)p^*_n\in H_nf\in C[a,b]的最佳逼近多项式的充分必要条件是,在[a,b]上至少有n+2个轮流为正负的偏差点,即至少有n+2个点a\leq x_1< x_2<\ldots<x_{n+2}\leq b使得
\begin{aligned} &p_{*}^{*}\left(x_{k}\right)-f\left(x_{k}\right)=(-1)^{k} \sigma \left\|f-p_{n}^{*}\right\| _{\infty}, \quad \sigma=\pm 1; &k=1,2, \cdots, n+2 \end{aligned}
上述点\{x_k\}^{n+2}_1称为切比雪夫交错点组。

推论1(唯一性定理)f \in C[a,b],则在H_n中的最佳逼近多项式是唯一的。

推论2f\in C[a,b],则其最佳逼近多项式p^*_n(x)\in H_nf的一个拉格朗日插值多项式

切比雪夫定理从理论上给出了求最佳一致逼近多项式方法,但当n\geq 2时计算是很困难的,Remes给出了一种逐次逼近的算法。
f(x)\in C[a,b]的最佳逼近多项式为
p_{n}(x)=\sum_{k=0}^{n} a_{k} x^{k}
又设它的n+2个点a<x_1<x_2<\ldots<x_{n+2}\leq b为切比雪夫交错点组,最小偏差为E_n由定理可得方程。
\sum_{k=0}^{n} a_{k} x_{j}^{k}-f\left(x_{j}\right)=(-1)^{j} \sigma E_{n}, \quad \sigma=\pm 1
\begin{aligned}\left(x_{1}-a\right)\left(x_{n+2}-b\right)\left[f^{\prime}\left(x_{j}\right)-p_{n}^{\prime}\left(x_{j}\right)\right] &=0 \\ j=1,2, \ldots, & n+2 \end{aligned}
这是关于x_1,\ldots,x_{n+2},a_0,\ldots,a_n,E_n2n+4个未知量的2n+4个方程\ldots(参考书本p54,这个方法也很复杂,很少用)

零偏差最小多项式及其应用

定理10 所有最高项系数为1的n次多项式中,在区间[-1,1]上与零偏差最小的多项式是\tilde{T}_n(x)这里\tilde{T}_n是最高项系数为1的切比雪夫多项式,\tilde{T}_n(x)=\frac{1}{2^{n-1}}T_n(x)

用切比雪夫多项式T_{n+1}(x)的零点作差值的插值多项式,余项具有极小化性质。

函数按切比雪夫多项式展开

由于切比雪夫多项式T_n(x)具有零偏差最小的性质,因此若将f\in C[-1,1]直接按\{T_n\}^\infty_0展开并用它逼近f,也可得到近似的最佳逼近多项式。由于\{T_n\}^{\infty} _0是在[-1,1]上的带权\rho(x)=\frac{1}{\sqrt{1-x^2}}正交函数族。


有理逼近

有理逼近与连分式

可以有效减少运算量

有理插值

设给定f(x)n+m+1个互异节点x_i(i=0,1,\ldots,n+m)上的值f(x_i),要求一个有理函数
R_{n m}(x)=\frac{P_{n}(x)}{Q_{n}(x)}=\frac{\sum_{k=0}^{n} a_{k} x^{k}}{\sum_{k=0}^{m} b_{k} x^{k}}
使R_{n m}\left(x_{i}\right)=f\left(x_{i}\right), \quad i=0, \quad 1, \quad \cdots, \quad n+m,实际上只有n+m+1个独立参数。对有理插值,首先要研究解的存在唯一性问题,其次使如何构造插值函数,第三是误差估计问题。
构造反差商进行计算。

帕德逼近

定理11 设f\in C^{n+1}[-a,a],则插值问题等价于在H_n中求p(x)=c_0+c_1x+\ldots+c_nx^n,使
|f(x)-p(x)| \cdots=\frac{1}{(n+1) !}\max_{-a\leq x\leq a}\left|f^{(n+1)}(x)\right||x|^{n+1}
推广上述多项式插值到有理函数插值,假定f(x)(-a,a)上具有N=n+m+1阶导数,则有
定义16 设f\in C^N(-a,a),N=n+m+1如果有理函数
R_{\mu \rightarrow a}(x)=\frac{a_{0}+a_{1} x+\dots+a_{x} x^{n}}{1+b_{1} x+\dots+b_{m} x^{m}}=\frac{P_{n}(x)}{Q_{m}(x)}
其中P_n,Q_m互质且满足条件
R_{n m}^{(k)}(0)=f^{(k)}(0), \quad k=0, \quad 1, \quad \infty, \quad n+m
则称R_{nm}(x)为函数fx=0处的(n,m)阶帕德逼近,记作R(n,m)
定理12 设R_{nm}(x)是由上上式定义的,函数f\in C^N(-a,a),N=n+m+1
h(x)=p(x) Q_{m}(x)-P_{n}(x)
其中p(x)=\sum_{k=0}^{n+m} \frac{1}{k !} f^{(k)}(0) x^{k},则差值条件成立的充分必要条件是h^{(k)}(0)=0,k=0,1,\ldots,n+m
定理13 设f\in C^N(-a,a),N=n+m+1,则有理函数R_{nm}(x)f(n,m)阶Pade逼近的充分必要条件是,多项式P_nQ_m的系数a_0,a_1,\ldots,a_nb_1,\ldots,b_m满足下列线性方程组
a_{n}-\sum_{j=0}^{n-1} c_{j} b_{k-j}=c_{k+1} \quad k=0, 1, \dots n+m
其中c_j=\frac{1}{j!}f^{(j)}(0)。当j>na_j=0;j>mb_j=0,b_0=1.

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 159,015评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,262评论 1 292
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,727评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,986评论 0 205
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,363评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,610评论 1 219
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,871评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,582评论 0 198
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,297评论 1 242
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,551评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,053评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,385评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,035评论 3 236
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,079评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,841评论 0 195
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,648评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,550评论 2 270

推荐阅读更多精彩内容