\(\newcommand\op[1]{\operatorname{#1}}\)

\(\newcommand\d\mathrmw0obha2h00\)

\(\newcommand\mat[1]{\begin{pmatrix} #1\end{pmatrix}}\)

函數逼近

我們可以定義多項式的范數。

• 一致逼近：

• 均方逼近/平方逼近：

最佳一致逼近/切比雪夫（Chebyshev）逼近

定義，若

\[|P(x_0)-f(x_0)|=\max_{a\le x \le b}|P(x)-f(x)|=\mu \]

則稱 \(x_0\) 是 \(P(x)\) 的偏差點。

Th3.3 \(P(x)\) 必定同時存在正負偏差點。

定理（不會證明）：

取點 \(x_i = \cos \frac{(2i-1)\pi}{2n}\) 可使得誤差最小：\(\frac{1}{2^{n-1}}\)

消除龍格現象

切比雪夫多項式

Def: \(T_n(x) = \cos (n \arccos x)\)

性質：有遞歸關系：

• 最高次項系數為 \(2^{n-1}\)
• \(T_n(1)=1,T_n(-1)=(-1)^n\)，在 \([-1,1]\) 絕對值小于等于 \(1\)。
• \(T_n(x)\) 的零點為

且它的值在 \(-1\) 到 \(1\) 之間變化 \(n+1\) 次，極值點分別為：

區間變化

通過線性變換可以把 \([-1,1]\) 推廣到任意區間 \([a,b]\)。

誤差項變為 \((b-a)^n/2^{n-1}\)。

最佳平方逼近

正交基

\(\{\varphi_i\}\) 為區間 \([a,b]\) 上的關于權函數 \(w(x)\) 正交集合函數，若

若 \(a_k = 1\)，則稱標準正交。

最小二乘逼近

引入：對于不一致的方程組求解。希望找到一組“偏差”較小的解。對此我們可以找到“最小二乘解”。

比如我們要用一次函數擬合一些數據點 \((x_i,y_i)\)，則有方程組 \(ax_i+b=y_i\)（\(i=1,\cdots,n\)）可以寫成矩陣形式：

最小二乘解就是使得 \(\sum (y_i - ax_i -b)^2\) 最小的解。

\(Ax=b\) 無解，就是說 \(b\) 不在 \(R(A)\) 中。但是我們把 \(b\) 投影到 \(R(A)\) 上，取投影為 \(A\bar x\)，此時 殘差 \(e=b- A\bar x\) 垂直于 \(R(A)\)，取到最小。\(||e|| = \sum (y_i -ax_i -b)^2\) 正好可以取到最小。

所以有 \(A^T(b-Ax)=0\)，可得 \(A^TA x = A^T b\) 。

但實際上這么操作是誤差極大的，因為條件數 \(\op{cond}(A)\) 很大。

我們要對 \(A=QR\) 分解。\(||e|| = ||QRx-b|| = ||Rx-Q^Tb||\)，所以做變換 \(b \gets Q^Tb\) 和 \(A \gets R\)，再繼續即可。

數據線性化

由此可以進行兩種不同的擬合，二者誤差也不一樣。（雖然直接擬合并沒有很好的方法）

最佳平方三角逼近 ~ Fourier 級數

其中：

離散三角插值多項式

給定了一些點值 \(x_j = \frac{2\pi j}{2m+1}\)（\(j=0,\cdots,2m\)）。

離散傅里葉變換

取：\(e^{\op{i}jx} = \cos (jx) + \op{i} \sin (jx)\)

給定等距點值 \((\frac{2\pi}{N}j,f_j)\)

其中