第6章函數(shù)最佳逼近/*OptimalApproximation*/6.1正交多項(xiàng)式/*OrthogonalPolynomials*/1.正交函數(shù)族/*orthogonalfunctionfamily*/定義權(quán)函數(shù)/*weightfunction*/設(shè)義在（有限或無(wú)限）上，如果滿(mǎn)足條件（1）；（2）存在；（3）對(duì)非負(fù)連續(xù)函數(shù)，若，則在上一定有，那么稱(chēng)是區(qū)間上的權(quán)函數(shù)。。

權(quán)函數(shù)的一種解釋是物理上的密度函數(shù)，相應(yīng)的表示總質(zhì)量，當(dāng)權(quán)函數(shù)常數(shù)時(shí)，表示質(zhì)量分布是均勻的。定義對(duì)于任意給定的函數(shù)表達(dá)式稱(chēng)為它們關(guān)于權(quán)函數(shù)的內(nèi)積。注意與維歐氏空間中內(nèi)積的定義作比較

OKOK,Ithinkit’spositivedefiniteness,nonnegativity,homogeneity,distributivelaw…定義函數(shù)的范數(shù)由內(nèi)積定義可得上的一個(gè)度量由內(nèi)積誘導(dǎo)出的范數(shù)注

只是一個(gè)范數(shù)定義式，當(dāng)然還需驗(yàn)證其是否滿(mǎn)足范數(shù)的定義。根據(jù)函數(shù)的2-范數(shù)，能否推測(cè)出函數(shù)的1-范數(shù)？定義正交函數(shù)族若函數(shù)族滿(mǎn)足關(guān)系則稱(chēng)是上帶權(quán)的正交函數(shù)族；若則稱(chēng)為標(biāo)準(zhǔn)正交函數(shù)族。定義正交多項(xiàng)式設(shè)是上首項(xiàng)系數(shù)的次多項(xiàng)式，為上的權(quán)函數(shù)，如果多項(xiàng)式序列滿(mǎn)足如下關(guān)系式則稱(chēng)多項(xiàng)式序列在上帶權(quán)正交，稱(chēng)為上帶權(quán)的次正交多項(xiàng)式。我們?cè)?jīng)接觸過(guò)的多項(xiàng)式：代數(shù)多項(xiàng)式，三角多項(xiàng)式…一種常用的正交化方法：施密特變換如果給定區(qū)間和權(quán)，可以通過(guò)對(duì)線(xiàn)性無(wú)關(guān)的函數(shù)族作施密特正交化變化那得到正交多項(xiàng)式序列。例如對(duì)函數(shù)族作施密特變換，令

則即為正交多項(xiàng)式序列。那么權(quán)函數(shù)該如何選擇？如此得到的正交多項(xiàng)式序列又有什么樣的性質(zhì)呢？性質(zhì)1-3請(qǐng)同學(xué)自行證明，性質(zhì)4請(qǐng)先自行查閱相關(guān)資料。性質(zhì)1是最高次項(xiàng)系數(shù)為1的次多項(xiàng)式。性質(zhì)2任何次多項(xiàng)式均可表示為的線(xiàn)性組合。性質(zhì)3當(dāng)時(shí)，，且與任一次數(shù)小于的多項(xiàng)式正交。性質(zhì)4有如下遞推關(guān)系式其中性質(zhì)5設(shè)是在上帶權(quán)的正交多項(xiàng)式序列，則的個(gè)根都是區(qū)間上的單根。證明不妨考慮首項(xiàng)系數(shù)為1的正交多項(xiàng)式？假定（若為其他情況？）則與正交多項(xiàng)式定義矛盾于是至少存在一使根的存在性再假設(shè)是的二重零點(diǎn)，即則是次多項(xiàng)式，由性質(zhì)3另一方面這說(shuō)明只能是的單零點(diǎn)。多少個(gè)？假設(shè)在內(nèi)只有個(gè)單零點(diǎn)，于是2.幾個(gè)常用的正交多項(xiàng)式勒讓德多項(xiàng)式/*Legendrepolynomials*/當(dāng)區(qū)間為，權(quán)函數(shù)時(shí)，由正交化得到的多項(xiàng)式稱(chēng)為L(zhǎng)egendre多項(xiàng)式，用表示。其簡(jiǎn)單的表達(dá)式為思考:的最高次項(xiàng)系數(shù)為？最高次項(xiàng)系數(shù)為1的Legendre多項(xiàng)式有什么樣的形式？Pn的重要性質(zhì)：正交性奇偶性滿(mǎn)足遞推關(guān)系是如下微分方程的滿(mǎn)足條件的多項(xiàng)式解。切比雪夫多項(xiàng)式/*Chebyshevpolynomials*/當(dāng)區(qū)間為，權(quán)函數(shù)時(shí)，由正交化得到的多項(xiàng)式稱(chēng)為Chebyshev多項(xiàng)式，用表示。其簡(jiǎn)單的表達(dá)式為關(guān)于Chebyshev多項(xiàng)式的具體內(nèi)容，將在6.2中進(jìn)一步討論。6.2最佳一致逼近

/*OptimalUniformApproximation*/在插值問(wèn)題中容易產(chǎn)生Runge現(xiàn)象，得不到理想的結(jié)果，而所謂的“一致逼近”可以使逼近函數(shù)與被逼函數(shù)在整個(gè)區(qū)間上都很接近，同時(shí)克服插值逼近的缺陷。定義對(duì)任意的，在范數(shù)的意義下定義兩個(gè)函數(shù)的距離通常稱(chēng)在度量下的逼近問(wèn)題為一致逼近問(wèn)題。偏差/*deviation*/定理設(shè)，則對(duì)任意給定的，存在多項(xiàng)式使得下式成立證明略。在意義下，使得最小。也稱(chēng)為minimaxproblem。若，則稱(chēng)x0為偏差點(diǎn)。v1.0最佳一致逼近多項(xiàng)式

/*optimaluniformapproximatingpolynomial*/的構(gòu)造：求n

階多項(xiàng)式Pn(x)使得||Pn

y

||最小。直接構(gòu)造OUAP

的確比較困難，不妨換個(gè)角度，先考察它應(yīng)該具備的性質(zhì)。有如下結(jié)論：

OUAP存在，且必同時(shí)有偏差點(diǎn)。證明：存在性證明略。后者用反證法，設(shè)只有正偏差點(diǎn)。設(shè)而對(duì)于所有的x[a,b]都有是n階多項(xiàng)式是誤差更小的多項(xiàng)式（Chebyshev定理）Pn是y的OUAP

Pn關(guān)于y在定義域上至少有n+2個(gè)交錯(cuò)的偏差點(diǎn)。即存在點(diǎn)集at1<…<tn+2b使得{tk}稱(chēng)為切比雪夫交錯(cuò)組

/*Chebyshevalternatingsequence*/若且y不是n

次多項(xiàng)式，則n次OUAP

唯一。證明：反證，設(shè)有2個(gè)OUAP’s，分別是Pn

和Qn。則它們的平均函數(shù)也是一個(gè)OUAP。2)()()(xQxPxRnnn+=對(duì)于Rn

有Chebyshev交錯(cuò)組{t1,…,tn+2}使得nkknkknkknnEtytQtytPtytRE-+--=|)()(|21|)()(|21|)()(|nkknkknEtytQtytP=-=-|)()(||)()(|則至少在一個(gè)點(diǎn)上必須有)()()()(knkkkntQtytytP-=-0)()(=-kkntytR0=nE由Chebyshev定理可推出：Pn(x)

y(x)在定義域上至少變號(hào)

次，故至少有個(gè)根。xy0yyx=()yyxEn=+()yyxEn=-()yPxn=()n+1n+1可見(jiàn)Pn(x)是y(x)的某一個(gè)插值多項(xiàng)式

如何確定插值節(jié)點(diǎn){x0,…,xn

}的位置，使得Pn(x)剛好是

y

的OUAP？即，使插值余項(xiàng)v2.0達(dá)到極小？v2.1

在[1,1]上求{x1,…,xn}使得的||wn||最小。=-=niinxxxw1)()(注意到，要使||wn||最小就意味著)()(1xPxxwnnn--=v3.0

在[1,1]上求函數(shù)xn的n1階

OUAP。由Chebyshev定理可推出：Pn1(x)關(guān)于xn有n+1個(gè)偏差點(diǎn)，即wn(x)在n+1個(gè)點(diǎn)上交錯(cuò)取極大、極小值。v3.1

在[1,1]上求切比雪夫交錯(cuò)組{t1,…,tn+1

}。切比雪夫多項(xiàng)式/*Chebyshevpolynomials*/考慮三角函數(shù)cos(n)在[0,]上的個(gè)極值點(diǎn)。n+1當(dāng)時(shí)，cos(n)交錯(cuò)達(dá)到極大值1和極小值1，且存在系數(shù)a0,…,an使得

令x=cos()，則x[1,1

]。)cos

arccos()cos()(xn·nxTn==q稱(chēng)為Chebyshev多項(xiàng)式Tn的重要性質(zhì)：當(dāng)時(shí)，交錯(cuò)取到極大值1和極小值1，即1當(dāng)時(shí)，即{x1,…,xn}為T(mén)n(x)的n個(gè)零點(diǎn)。Tn(x)滿(mǎn)足遞推關(guān)系：T0(x)=1，T1(x)=x，Tn(x)為n

次多項(xiàng)式，首項(xiàng)系數(shù)為。且T2n(x)只含x

的次冪，T2n+1(x)只含x

的次冪。2n1偶奇{T0(x),T1(x),…}是[1,1

]上關(guān)于權(quán)正交的函數(shù)族。即在內(nèi)積的意義下有

OKOK,Ithinkit’senoughforus…What’sourtargetagain?v3.1

在[1,1]上求切比雪夫交錯(cuò)組{t1,…,tn+1

}。v3.0

在[1,1]上求函數(shù)xn的n1階

OUAP。Tn(x)的n個(gè)零點(diǎn)。可見(jiàn)：若取，則wn在[1,1

]上有n+1

個(gè)極值點(diǎn){tk}，也即Pn1(x)=xn

wn(x)關(guān)于xn在[1,1

]上有n+1個(gè)交錯(cuò)偏差點(diǎn){tk}

。v3.0OKv2.1

在[1,1]上求{x1,…,xn}使得的||wn||最小。=-=niinxxxw1)()(取最小值n={首項(xiàng)系數(shù)為1的n

階多項(xiàng)式/*monicpolynomialsofdegreen*/}{x1,…,xn}即為

如何確定插值節(jié)點(diǎn){x0,…,xn

}的位置，使得Pn(x)剛好是

y

的OUAP？即，使插值余項(xiàng)達(dá)到極?。縱2.0取{x0,…,xn}為T(mén)n+1(x)的n+1個(gè)零點(diǎn)，做y

的插值多項(xiàng)式Pn(x)，則插值余項(xiàng)的上界可達(dá)極小。注：上界最小不表示|Rn(x)|最小，故Pn(x)嚴(yán)格意義上只是y(x)的近似最佳逼近多項(xiàng)式；對(duì)于一般區(qū)間x[a,b]，可作變量替換，則t[1,1

]，這時(shí)即以為插值節(jié)點(diǎn)(k=0,…,n)，得Pn(x)，余項(xiàng)有最小上界。6.3最佳平方逼近

/*Least-SquaresApproximation

*/回顧我們?cè)诙攘肯碌?，研究了一致逼近?wèn)題，而使用不同的度量會(huì)產(chǎn)生不同的逼近理論。對(duì)任意的，在范數(shù)的意義下定義兩個(gè)函數(shù)的距離對(duì)任意的，在范數(shù)的意義下定義兩個(gè)函數(shù)的距離引申平方度量補(bǔ)充知識(shí)曲線(xiàn)擬合與函數(shù)逼近/*ApproximationTheory*/仍然是已知x1…xm

;y1…ym,求一個(gè)簡(jiǎn)單易算的近似函數(shù)P(x)

f(x)。但是①

m很大；②

yi本身是測(cè)量值，不準(zhǔn)確，即yi

f(xi)這時(shí)沒(méi)必要取P(xi)=yi,而要使P(xi)yi總體上盡可能小。常見(jiàn)做法：

使最小/*minimaxproblem*/

太復(fù)雜使最小不可導(dǎo)，求解困難使最小/*Least-Squaresmethod*/最小二乘擬合多項(xiàng)式

/*L-Sapproximatingpolynomials*/確定多項(xiàng)式，對(duì)于一組數(shù)據(jù)(xi,yi)(i=1,2,…,n)使得達(dá)到極小，這里n

<<

m。naaa10實(shí)際上是a0,a1,…,an的多元函數(shù)，即[]=-+++=miinininyxaxaaaaa121010...),...,,(j在的極值點(diǎn)應(yīng)有kiminjijijxyxa==-=10][2-====+njmikiimikjijxyxa0112記====mikiikmikikxycxb11,法方程組(或正規(guī)方程組)/*normalequations*/回歸系數(shù)/*regressioncoefficients*/定理L-S擬合多項(xiàng)式存在唯一

(n<m)。證明：記法方程組為Ba=c.則有其中對(duì)任意，必有。若不然，則存在一個(gè)使得…即是n

階多項(xiàng)式的根則B為正定陣，則非奇異，所以法方程組存在唯一解。Waitasecond!Youonlygavemeacriticalpoint,butit’snotnecessarilyaminimumpoint!定理

Ba=c的解確是的極小點(diǎn)。即：設(shè)a

為解，則任意b=(b0

b1…bn)T

對(duì)應(yīng)的多項(xiàng)式必有==njjjxbxF0)(===--=mimiiiiibyxFyxPa1122)(])([])([)(jj證明：==---=-miiimiiiyxPyxFab1212])([])([)()(jj==---+-=miiimiiiiiyxPyxPxPxF1212])([])()()([==--+-=miiiiimiiiyxPxPxFxPxF112])()][()([2)]()([0注：L-Smethod首先要求設(shè)定P(x)的形式。若設(shè)n=m1，則可取P(x)為過(guò)m個(gè)點(diǎn)的m1階插值多項(xiàng)式，這時(shí)=0。P(x)不一定是多項(xiàng)式，通常根據(jù)經(jīng)驗(yàn)確定。例：xy(xi,yi),i=1,2,…,m方案一：設(shè)baxxxPy+=)(求a和b使得最小。=-+=miiiiybaxxba12)(),(jButhey,thesystemofequationsforaandbisnonlinear!Takeiteasy!Wejusthavetolinearizeit…線(xiàn)性化

/*linearization*/：令，則bXaY+就是個(gè)線(xiàn)性問(wèn)題將化為后易解a和b。),(iiYX),(iiyx方案二：設(shè)xbeaxPy/)(-=(a>0,b>0)線(xiàn)性化：由可做變換xbay-lnlnbBaAxXyY-====,ln,1,lnBXAY+就是個(gè)線(xiàn)性問(wèn)題將化為后易解A和B),(iiYX),(iiyx定義考慮一般的線(xiàn)性無(wú)關(guān)函數(shù)族={0(x),1(x),…,n(x),…}，其有限項(xiàng)的線(xiàn)性組合稱(chēng)為廣義多項(xiàng)式

/*generalizedpolynomial*/.定義如果對(duì)任何實(shí)數(shù)只要必有則稱(chēng)函數(shù)族為線(xiàn)性無(wú)關(guān)，否則…現(xiàn)在我們開(kāi)始研究最佳平方逼近問(wèn)題定義廣義L-S擬合：①

離散型/*discretetype*/在點(diǎn)集{x1…xm}

上測(cè)得{y1…ym}，在一組權(quán)系數(shù){w1…wm}下求廣義多項(xiàng)式P(x)使得誤差函數(shù)最小。

=-=niiiiyxPw12])([②

連續(xù)型

/*continuoustype*/已知y(x)

C[a,b]以及權(quán)函數(shù)(x)，求廣義多項(xiàng)式P(x)使得誤差函數(shù)=最小。dxxyxPxba2)]()([)(-r內(nèi)積與范數(shù)離散型連續(xù)型則易證(f,g)是內(nèi)積，而是范數(shù)。(f,g)=0表示f與g

帶權(quán)正交。廣義L-S問(wèn)題可敘述為：求廣義多項(xiàng)式P(x)使得最小。nkyaknjjjk,...,0,),(),(0===jjj設(shè)則完全類(lèi)似地有：)(...)()()(1100xaxaxaxPnnjjj+++=法方程組

/*normalequations*/即：),(),(),(00yyaabnnjiijjjjj===c證明：若存在一組系數(shù){i

}使得0...1100=+++nnjajaja則等式兩邊分別與0,1,…,n作內(nèi)積，得到：即：B=0……定理

Ba=c存在唯一解

0(x),1(x),…,n(x)線(xiàn)性無(wú)關(guān)。例：用來(lái)擬合，w1解：0(x)=1，1(x)=x，2(x)=x2Itissoooos