第三章線性方程組的直接解法基礎(chǔ)教學(xué)部數(shù)學(xué)教研室彭曉華立體化教學(xué)資源系列——數(shù)值分析

自然科學(xué)和工程計(jì)算中的很多問(wèn)題的解決常常歸結(jié)為求解線性方程組。如三次樣條插值函數(shù)問(wèn)題、用最小二乘原理確定擬合曲線、求解微分方程的數(shù)值解等，最終都要轉(zhuǎn)化為求解線性方程組。求解線性方程組可采用：

1、直接法——經(jīng)有限步算術(shù)運(yùn)算可求得方程組的精確解的方法（若計(jì)算過(guò)程無(wú)舍入誤差）。已知的直接解法是克萊姆法則(Gramer)。

2、迭代法——構(gòu)造某種迭代格式，用其極限過(guò)程去逐步逼近線性方程組精確解的方法。3.1

引言解線性方程組的直接方法：

高斯(Gauss)消元法矩陣的三角分解法矩陣的條件數(shù)與方程組的性態(tài)

設(shè)線性方程組為返回或?qū)懗删仃囆问剑夯蚝?jiǎn)單地記為:若aii≠0,則

xi=bi/aii

,i=1,2,…,n一、對(duì)角形方程組3.2

高斯消去法3.2.1

三角形方程組的解法二、下三角方程組（返回LU）返回式3.19三、上三角方程組（返回Gauss）返回LU返回(3.20)

通過(guò)對(duì)方程組作初等變換，把一般形式的線性方程組化為等價(jià)的易于求解的三角方程組。3.2.2消去法的基本思想高斯消去法是一種古老的求解線性方程組的方法，它就是通過(guò)一系列的初等變換（消元），把線性方程組（3.1）化為等價(jià)的上三角方程組（3.5），然后通過(guò)回代方法求出原方程組的解。★高斯消去法（GaussianElimination）求解線性方程組解：例1、3.2.3高斯消元過(guò)程（即初等行變換）記方程組（3.1）為對(duì)應(yīng)的增廣矩陣為（3.6）第一步消元：利用主元素（即為消元過(guò)程中的主對(duì)角線元素）消去下面的取消元因子消元計(jì)算得到用第行減去第一行的倍（3.7）返回三角分解1其中，第二步消元：若，用第行減去第二行的倍，得（3.8）返回三角分解2其中第步消元繼續(xù)上述消元過(guò)程，假設(shè)第1步至第得到：步計(jì)算已經(jīng)完成（3.9）若，用第行減去第行的倍，得，（3.10）其中繼續(xù)上述消元過(guò)程，最后得到上三角形式階線性方程組消元過(guò)程可描述為經(jīng)過(guò)步消元化成上三角方程組.(3.11)（3.12）（上三角形式）.三、高斯消去法的算法公式總結(jié)上述消元與回代過(guò)程，得到高斯消去法的算法公式如下，若取消元因子回代公式：若消元公式：對(duì)

（3.13）（3.14）3.2.3高斯消去法算法1、輸入數(shù)據(jù)：n,A,b2、消元過(guò)程：3.回代求解4.輸出方程組的解3.2.2高斯消去法的可行性與運(yùn)算量

（1）高斯消去法的可行性根據(jù)高斯消去算法公式可知，算法得以實(shí)現(xiàn)的前提條件，即為：或這是因?yàn)椋毫?，若，則有.（2）高斯消去法的運(yùn)算量步消元中，消元因子需要作次除法運(yùn)算，消元需作次乘法運(yùn)算，右端項(xiàng)需作于是完成全部消元計(jì)算的乘法總運(yùn)算量：除法總運(yùn)算量：.分析高斯消去法可知，第次乘法運(yùn)算?；卮^(guò)程乘除法總運(yùn)算量：因此，高斯消去法解階線性方程組的乘除法總運(yùn)算量為：（當(dāng)對(duì)比第1章例11，用克萊姆法則解方程組的運(yùn)算量約為.當(dāng)時(shí)，

較大時(shí)）.3060，克萊姆法則的運(yùn)算量為是在每秒作1億次乘除法運(yùn)算的計(jì)算機(jī)上進(jìn)行的，那么高斯消去法解20階方程組約需0.00003秒，而克萊姆法則大約需307816年才能完成.由此可知克萊姆法則完全不適合在計(jì)算機(jī)上求解高維方程組.高斯消去法的運(yùn)算量為.假設(shè)計(jì)算工作例2

利用高斯消去法解方程組解

1）消元計(jì)算.2）回代求解，得.3.2.3高斯變換約化【定理2】（用高斯變換約化）設(shè)（1）如果，則可以對(duì)實(shí)施高斯消元運(yùn)算化為上三角形，即存在初等下，使，其中為上三角矩陣；為非奇異矩陣，則可通過(guò)帶行交換的化為上三角形.總結(jié)高斯消元過(guò)程，可以得到下述一些結(jié)果：（2）如果高斯消去法，將三角陣證明因?yàn)榱?，則有（為上三角形矩陣）.因此，結(jié)論（1）與（2）得證.【定理3】

（用高斯變換約化）設(shè)如果，則可以實(shí)施高斯消元運(yùn)算，，使其中為上梯形矩陣.所以結(jié)論是顯然的.即存在初等下三角陣因?yàn)橛捎诿看蜗獣r(shí)是按未知量的自然順序進(jìn)行的，而順序消元不改變A

的主子式的值，因此高斯消元法可行的充分必要條件為A

的各階主子式不為零。實(shí)際上只要detA≠0，方程組就有解。

*高斯消去法的局限性3.3

高斯主元素消去法作分母會(huì)導(dǎo)致其它元素?cái)?shù)量級(jí)的嚴(yán)重增長(zhǎng)和舍入誤差的擴(kuò)散。2.即使高斯消元法可行，如果很小，運(yùn)算中用它1.在高斯消元過(guò)程中，我們假定了對(duì)角元素解：順序消元：

交換方程的順序：經(jīng)高斯消元：例2解方程組

精確解為：x1=1/3，x2=2/3。保留5位有效數(shù)字。（1）設(shè),其中為（2）消元過(guò)程中，即使，用小主元增長(zhǎng)和舍入誤差的累積、擴(kuò)大，最后使得計(jì)算結(jié)果不可靠.；對(duì)一般的系數(shù)矩陣，最，因此，在高斯消去法中應(yīng)引進(jìn)選階非奇異矩陣，可以應(yīng)用高斯消元法求解.作除數(shù)會(huì)導(dǎo)致計(jì)算中間結(jié)果數(shù)量級(jí)嚴(yán)重（3）應(yīng)避免采用小主元好保持乘數(shù)主元技巧，以便減少計(jì)算過(guò)程中舍入誤差對(duì)求解的影響?！咀ⅰ?/p>

第一步,

先在第1列選出絕對(duì)值最大的元素,交換第1行和第m行的所有元素，再做消元操作。高斯消元過(guò)程中的稱為主元素。

3.3.1列主元素消去法

如果在一列中選取按模最大的元素作為主元素，將其調(diào)換到主干方程位置（主元素位置）再做消元，則稱為列主元素消去法。第二步，設(shè)已經(jīng)完成第一步到第k-1步的按列選主元，交換兩行、消元計(jì)算，得到矩陣：（3.15）第k步計(jì)算如下：對(duì)于k=1,2,…,n-1(1)按列選主元，即確定ik使(2)若，則A為奇異矩陣或接近奇異陣，停止計(jì)算。(3)若，則交換[A,b]的第ik行與第k行元素。(4)消元計(jì)算：(5)回代計(jì)算：（3.15）（3.16）例

用列主元素消去法解方程解

回代求解，得：對(duì)于用具有舍入的3位浮點(diǎn)數(shù)進(jìn)行運(yùn)算，這是一個(gè)很好的計(jì)算結(jié)果.本方程組直接用高斯消元法得不到可靠解。行主元素消去法即是每次選主元時(shí)，僅依次按行選取絕對(duì)值最大的元素作為主元素，且僅交換兩列，再進(jìn)行消元計(jì)算.步運(yùn)算，得到3.3.2行主元素消去法

假設(shè)已經(jīng)完成第1步到第第步計(jì)算選主元素的范圍為選行主元素，即在第行確定使具體算法步驟類似于列主元消去法.3.3.3全主元素消去法

如果在系數(shù)矩陣中選取模最大的元素作為主元素，將其調(diào)換到主干方程位置（主元素位置）再做消元，則稱為全主元消去法。

每一步都在系數(shù)矩陣余下的部分選取模最大的元素作為主元素進(jìn)行消元。完全主元素消去法的步驟：設(shè)已經(jīng)完成第1步到第步的選主元、交換行和列、消元計(jì)算，得到矩陣.第步計(jì)算選主元素的范圍為即確定使，第步計(jì)算如下：對(duì)于（1）選主元素，即確定使（2）如果，則方程組解不唯一，或者接近奇異矩陣，停止運(yùn)算；，則交換第行與第行元素；如果，則交換第列與第列元素；（3）如果（4）消元計(jì)算：（5）回代求解.【注】完全主元消去法是解低階稠密矩陣方程組的有效方法，但完全主元消去法解方程組，在選主元素時(shí)要化費(fèi)較多的計(jì)算機(jī)時(shí)間，行主元消去法與列主元消去法運(yùn)算量大體相同，實(shí)際計(jì)算時(shí)，用列主元消去法即可滿足一定的精度要求.

對(duì)同一數(shù)值問(wèn)題，用不同的計(jì)算方法，所得結(jié)果的精度大不一樣.對(duì)于一個(gè)算法來(lái)說(shuō)，如果計(jì)算過(guò)程中舍入誤差能得到控制，對(duì)計(jì)算結(jié)果影響較小，則稱此算法是數(shù)值穩(wěn)定的；否則，如果計(jì)算過(guò)程中舍入誤差增長(zhǎng)迅速，計(jì)算結(jié)果受舍入誤差影響較大，則稱此算法為數(shù)值不穩(wěn)定的.因此，我們解數(shù)值問(wèn)題時(shí)，應(yīng)選擇和使用數(shù)值穩(wěn)定的算法，否則如果使用數(shù)值不穩(wěn)定的算法，就可能導(dǎo)致計(jì)算失敗.一、高斯消元法：將系數(shù)矩陣化為上三角矩陣，再進(jìn)行回代求解；3.3.4列主元高斯-約當(dāng)消元法二、高斯-約當(dāng)消元法：把系數(shù)矩陣化為單位對(duì)角矩陣，直接進(jìn)行求解，不必回代過(guò)程。列主元高斯—約當(dāng)消去法的步驟：設(shè)已經(jīng)完成第1步到第步，得到矩陣第步計(jì)算過(guò)程如下：設(shè),返回46頁(yè)（1）按列選主元，即確定使（2）如果，則方程組解不唯一，或者接近奇異矩陣，停止運(yùn)算；，則交換第行與第行元素；（3）如果（4）消元計(jì)算：時(shí)，當(dāng)上述過(guò)程完成后，則有因此，計(jì)算解為當(dāng)時(shí)，例4

用列主元高斯—約當(dāng)消去法解方程組解

所以，方程組的解為3.4

矩陣的三角分解用矩陣相乘來(lái)解釋高斯消元過(guò)程，取n=4。記矩陣(3.6)化為矩陣(3.7)的過(guò)程，即等價(jià)于L1A=A(1),L1b=b(1),即矩陣(3.7)化為矩陣(3.8)的過(guò)程記等價(jià)于L2A(1)

=A(2),L2b(1)=b(2),即

記因此其中，單位下三角矩陣上三角矩陣

由上述對(duì)系數(shù)矩陣A左乘一系列的三角初等矩陣知，A可以分解為一個(gè)單位下三角矩陣L和一個(gè)上三角矩陣U。這個(gè)過(guò)程派生出解線性方程組的直接分解法。

一旦實(shí)現(xiàn)A=LU，則Ax=b

可以化為L(zhǎng)Ux=b。令Ux=y，則Ly=b。由Ly=b（即(3.4)）解出y；再由Ux=y（即(3.5)）解出x。如果A的各階主子式不為零，則可以實(shí)現(xiàn)：杜利特爾(Doolittle)分解：如果L為單位下三角矩陣，U為上三角矩陣；克勞特(Courant)分解：如果L為下三角矩陣，U為單位上三角矩陣。3.4.1

杜利特爾（Doolittle）分解法設(shè)A

的各階主子式不為零，A分解為A=LU，即先計(jì)算U的元素，后計(jì)算L的元素：U的第1行：L的第1列：再計(jì)算U的第2行元素；計(jì)算L的第2列元素；……計(jì)算U的第k行元素：計(jì)算L的第k列元素：

實(shí)現(xiàn)A=LU，則Ax=b可以化為L(zhǎng)Ux=b。令Ux=y，則Ly=b。由Ly=b（即(3.4)）解出yi:

再由Ux=y（即(3.5)）解出xi:

便于記憶的LU分解方法（杜利特爾）注：（1）該公式的特點(diǎn)：U的元素按行求,L的元素按列求;先求U的第k行,再求L的第k列,U和L一行一列交叉計(jì)算.計(jì)算量與Gauss消去法同.（2）計(jì)算方法：①舊元素減去左邊行與頂上列向量的點(diǎn)積②計(jì)算行不用除法③計(jì)算列要除主對(duì)角元例4用杜利特爾分解求解方程組：解設(shè)A=LU，即解下三角方程組Ly=b，即解上三角方程組Ux=y，即

先計(jì)算L的第一列，再計(jì)算U的第一行，其余類此。類似于杜利特爾分解法，得到：對(duì)k=1，2，…，n返回(6.26)3.4.2克勞特(Crout)分解法

實(shí)現(xiàn)A=LU，則Ax=b可以化為L(zhǎng)Ux=b。令Ux=y，則Ly=b。由Ly=b解出yi:

再由Ux=y解出xi:

例5用克勞特分解求解方程組：解設(shè)A=LU，即解下三角方程組Ly=b，即解(單位)上三角方程組Ux=y，即3.4.2列主元三角分解法分解法解方程組時(shí)，由第步分解計(jì)算公式可知當(dāng)用當(dāng)時(shí)，計(jì)算將中斷；或者當(dāng)可能引起舍入誤差的累積、擴(kuò)大.

很小時(shí)，但如果A非奇異，我們可通過(guò)交換A的行實(shí)現(xiàn)矩陣PA的LU分解.因此，可采用與列主元消去法類似方法，將直接三角分解法修改為列主元三角分解法（與列主元消去法在理論上是等價(jià)的），它通過(guò)交換A的行實(shí)現(xiàn)三角分解PA=LU，其中P為初等置換陣.設(shè)第1步至r-1步分解計(jì)算己完成，則有第絕對(duì)值很小的數(shù)作除數(shù)，引進(jìn)中間量：步計(jì)算：為了避免用則有：（1）選列主元，即確定（2）交換兩行：當(dāng)時(shí)，交換A的第r行與第行元素（相當(dāng)于先交換原始矩陣A第r行與第再進(jìn)行分解計(jì)算得到的結(jié)果，且）.行元素后，（3）進(jìn)行第r步分解計(jì)算.即為求解方程組三角方程組.經(jīng)過(guò)帶行交換的列主元LU分解后，矩陣PA=LU，則解方程組，轉(zhuǎn)化為解兩個(gè)例6

利用列主元LU分解法解方程組解：

對(duì)系數(shù)矩陣作列主元LU分解得到PA=LU，過(guò)程如下解：

對(duì)系數(shù)矩陣作列主元LU分解得到PA=LU，其中，，解，得解，得注：

在工程技術(shù)問(wèn)題中，例如用有限元方法解結(jié)構(gòu)力學(xué)中問(wèn)題時(shí)，常常需要求解具有對(duì)稱正定矩陣的方程組，對(duì)于這種具有特殊性質(zhì)系數(shù)的矩陣，利用矩陣的三角分解法求解就得到解對(duì)稱正定矩陣方程組的平方根法.3.4.3Cholesky方法(平方根法)回顧：對(duì)稱正定陣A的幾個(gè)重要性質(zhì)（1）A1

亦對(duì)稱正定，且aii>0（2）A

的順序主子陣

Ak

亦對(duì)稱正定（3）A

的特征值i

>0

（4）A

的全部順序主子式

det(Ak

)>0一、平方根法（喬萊斯基方法）階方程組，是對(duì)稱正定矩陣，則有三角分解設(shè)再將分解為則.（1）對(duì)稱正定矩陣有唯一的分解證明：，，且對(duì)稱陣，則有再利用三角分解的唯一性，得因此，對(duì)稱正定矩陣有唯一的分解（2）是正定對(duì)角陣（即由于對(duì)稱正定的充要條件是對(duì)稱正定，是階可逆方陣.取就推知對(duì)角陣.的對(duì)角元素，其中則因此），其中記，是正定（3）喬萊斯基（Cholesky）分解記為，則利用Cholesky直接分解公式，推導(dǎo)將稱為稱為Cholesky方法或平方根法.Cholesky分解.方程組方法，出的解（4）解方程組的平方根法（Cholesky方法）利用矩陣乘法，逐步確定的第行元素.由Cholesky分解，有（3.10）由（當(dāng)時(shí)，有分解公式：對(duì)于），將對(duì)稱正定矩陣作Cholesky分解后，則解方程組就轉(zhuǎn)化為解兩個(gè)三角方程組【注】

（1）平方根算法是一個(gè)數(shù)值穩(wěn)定的方法.這是因?yàn)?，由分解公式?.11）可得，于是，這說(shuō)明在不選主元的平方根法中，矩陣或者說(shuō)在分解過(guò)程中產(chǎn)生的元素(即消元乘數(shù))的數(shù)量級(jí)不會(huì)增長(zhǎng)，且.元素有界，（2）平方根分解算法的計(jì)算量

次乘除法，大約為分解計(jì)算量的一半；分解法的一半.存貯量也大約為約為例7

用Cholesky方法解方程組解對(duì)系數(shù)矩陣作Cholesky分解得到解，得解得平方根法的優(yōu)點(diǎn)：(1)乘除法運(yùn)算量比一般LU分解要小得多；不選主元的平方根法是數(shù)值穩(wěn)定的。平方根法的缺點(diǎn)：有n個(gè)開方運(yùn)算。二、改進(jìn)的平方根法為避開開方運(yùn)算，也適合對(duì)稱且順序主子式全不為零的情況.改進(jìn)的平方根法，該算法既適合（1）分解算法即因?yàn)閷?duì)稱正定矩陣有唯一的分解我們將平方根法改進(jìn)得到對(duì)稱正定，由矩陣乘法所以求的元素和的元素公式為：（2）簡(jiǎn)化的分解算法，則得到簡(jiǎn)化的分解算法：對(duì)于

為避免重復(fù)計(jì)算，令即：（3）改進(jìn)的平方根法（方程組的分解算法）作分解后，則解方程組就轉(zhuǎn)化為解兩個(gè)三角方程組和，從而得到求解方程組的算法公式.，即再解，即將對(duì)稱正定矩陣先解例8

解方程組解由分解算法，得，解，得解，得.（1）改進(jìn)的平方根分解算法的計(jì)算量約為次乘除法，但沒(méi)有開方運(yùn)算.（2）平方根法或改進(jìn)的平方根法是目前計(jì)算機(jī)上解對(duì)稱正定線性方程組的一個(gè)有效方法，比用消去法優(yōu)越.其計(jì)算量和存貯量都比用消去法大約節(jié)省一半左右，且數(shù)值穩(wěn)定、不需要選主元，能求得較高精度的計(jì)算解.【注】在許多實(shí)際問(wèn)題中，如，常微分方程兩點(diǎn)邊值問(wèn)題、三次樣條插值方法等，往往遇到線性方程組的求解，其中稱具有公式（3.13）形式的系數(shù)矩陣稱相應(yīng)的線性方程組為三對(duì)角方程組（TridiagonalLinearSystems).

（3.13）為三對(duì)角陣,3.4.4追趕法

解三對(duì)角方程組的追趕法定理：若A

為對(duì)角占優(yōu)的三對(duì)角陣，且滿足則方程組有唯一的LU分解。第一步

:對(duì)A作Doolittle分解追趕法公式的推導(dǎo)：（以四階為例）該過(guò)程稱為“追”的過(guò)程。該過(guò)程稱為“趕”的過(guò)程。一般情形的三對(duì)角方程組計(jì)算公式：計(jì)算次序?yàn)椋鹤詈美斡浿苯颖容^等式兩邊的元素，可得到計(jì)算公式：第一步:對(duì)A作Crout

分解：注:

也可通過(guò)對(duì)A作Crout

分解進(jìn)行求解第二步:追—即解：第三步:趕—即解：【注】

追趕法的優(yōu)點(diǎn)：存貯單元少，計(jì)算量小，且舍入誤差不增長(zhǎng)，算法數(shù)值穩(wěn)定.，如果有某或則三對(duì)角方程組可化為兩個(gè)低階方程組，例如當(dāng)時(shí)，則于是，解化為解兩個(gè)方程組和.追趕法有條件例9

用追趕法解三對(duì)角方程組解系數(shù)矩陣分解得到解，得解，得

引言：為了討論線性方程組近似解的誤差估計(jì)與研究解方程組迭代法的收斂性，需要在（或）中引進(jìn)向量序列（或矩陣序列）極限概念。這就需要對(duì)向量空間或矩陣空間）元素的大小引進(jìn)某種度量即向量范數(shù)（或矩陣范數(shù)）概念。中向量范數(shù)是在數(shù)值分析中起著重要作用.3.5向量和矩陣的范數(shù)中向量長(zhǎng)度概念的推廣，

3.5.1向量序列的極限維向量空間（或）中，設(shè)為向量序列，及如果個(gè)數(shù)列極限存在，且則稱收斂于，且記為.【定義1】(向量序列的極限)

在記為例10

向量空間，設(shè)向量序列則由于時(shí)，，，因此有向量序列的極限.例11設(shè)中，注意到和，所以（單位矩陣）.3.5.2向量的范數(shù)，（或?qū)?shí)數(shù)（或復(fù)數(shù)稱為向量與的內(nèi)積（或數(shù)量積）.稱為向量的長(zhǎng)度，即向量將向量長(zhǎng)度概念推廣，得到向量范數(shù)定義.【定義2】（向量的內(nèi)積）設(shè)）.非負(fù)實(shí)數(shù)的歐氏范數(shù).這里稱為的共軛轉(zhuǎn)置矩陣）【定義3】（向量的范數(shù)）（或），都有一個(gè)與之對(duì)應(yīng)且滿足：，當(dāng)且僅當(dāng)（2）齊次性：，（或（3）三角不等式：，對(duì)任意向量（或）.為（或）上的一個(gè)向量范數(shù).如果對(duì)于任意的向量實(shí)值函數(shù)（1）非負(fù)性：）；則稱下面是一些常用的向量范數(shù).（2）向量的2-范數(shù)：（3）向量的-范數(shù)（最大范數(shù)）：（4）向量的-范數(shù)：.（1）向量的1-范數(shù)：例12驗(yàn)證符合向量范數(shù)定義.，而，即，也即2）齊次性：對(duì)于，，總有3）三角不等式：因此，由范數(shù)定義，是中的向量范數(shù).解

1）非負(fù)性：由定義3，顯然由已知范數(shù)可以構(gòu)造新的范數(shù).是的一種范數(shù)，是階非奇異矩陣，則仍是的一種范數(shù).1）非負(fù)性：對(duì)非零向量，則，從而2）齊次性：，3）三角不等式：當(dāng)時(shí)，因此，是上的范數(shù).例13設(shè)定義證明驗(yàn)證符合范數(shù)定義.一個(gè)向量的不同范數(shù)一般是不相等的.時(shí)，則有這就給我們提出問(wèn)題：范數(shù)是用來(lái)度量逼近程度的尺度，而范數(shù)的計(jì)算又不唯一，那么哪一種范數(shù)才能反映出真正的逼近性態(tài)呢？反映不同范數(shù)之間的聯(lián)系定理如下.例如，【定理4】（范數(shù)的連續(xù)性）設(shè)是中向量

的范數(shù)，則它是的元連續(xù)函數(shù).上定義的任何兩種范數(shù)與是等價(jià)的，即存在正數(shù)使對(duì)一切，成立不等式【定理5】（范數(shù)的等價(jià)性）

（3.17）

范數(shù)的等價(jià)關(guān)系（3.17）說(shuō)明了：任何兩種范數(shù)作為逼近度量的尺度，逼近性態(tài)是一樣的.即，如果（或），則（或可以證得，常用的向量范數(shù)等價(jià)關(guān)系如下：.）.3.5.3矩陣的范數(shù)是階方陣全體的

，的某個(gè)非負(fù)的實(shí)值函數(shù)滿足：（1）非負(fù)性：，而（2）齊次性：（或（3）三角不等式：，對(duì)任意的（4）相容性：，對(duì)任意的則稱是上的一個(gè)矩陣范數(shù).【定義4】

（矩陣范數(shù)）集合，如果）；Frobenius范數(shù)：如果把中的方陣?yán)斫鉃榫S向量，則由向量2-范數(shù)的定義，可以得到中

（3.18）的Frobenius范數(shù)（簡(jiǎn)稱范數(shù)）.范數(shù)顯然滿足矩陣范數(shù)定義.矩陣的一種范數(shù)稱為

由于在大多數(shù)與估計(jì)有關(guān)的問(wèn)題中，矩陣和向量會(huì)同時(shí)參與討論，所以希望引進(jìn)一種矩陣的算子范數(shù)，它是和向量范數(shù)相聯(lián)系而且和向量范數(shù)相容的，即對(duì)任何向量及，總有下面構(gòu)造矩陣的算子范數(shù).利用公式（3.19）可得令，則是單位向量，在閉球：內(nèi)（定理4），因此，它能達(dá)到最大值，即.（3.19）是變量的連續(xù)函數(shù)【定義5】(矩陣的算子范數(shù))是上的任一向量范數(shù)，則為可以驗(yàn)證公式（3.20）符合矩陣范數(shù)的定義.（3.20）上的一個(gè)矩陣范數(shù)，稱為矩陣的算子范數(shù).常用的算子范數(shù)是從屬于向量范數(shù)的算子范數(shù)：（1）列范數(shù)：（2）2-范數(shù)：其中是方陣的最大特征值；（3）行范數(shù)：.證明（1）設(shè)，則（1）列范數(shù)：設(shè)時(shí)，則?。ǖ趥€(gè)分量為1）時(shí)，（2）2-范數(shù)：其中是方陣的最大特征值；證明：因?yàn)?，但是而顯然是對(duì)稱、正定的.設(shè)為的特征值，而為對(duì)應(yīng)的標(biāo)準(zhǔn)正交向量組.為單位向量，則有（3.22）且由于當(dāng)時(shí)，所以例14

設(shè)，求范數(shù)解

由于所以因此3.6矩陣的條件數(shù)與直接法的誤差分析階線性方程組，其中為非奇異矩陣.（或在第一種情況下（或）常帶有某些觀測(cè)誤差，在后（或）又包含有舍入誤差.因此我們處理的（或），下面我們來(lái)研究數(shù)據(jù)（或）的微小誤差對(duì)解的影響.首先考慮一個(gè)例子.解線性方程組的直接法產(chǎn)生誤差的主要原因：1）不同的算法及舍入誤差的影響；2）方程組本身固有的問(wèn)題（病態(tài)或良態(tài)）.前面我們分析了方程組直接法的不同算法，本節(jié)我們將分析方程組的狀態(tài)并估計(jì)算法的誤差，即原始數(shù)據(jù)擾動(dòng)對(duì)解的影響.考慮由于）的數(shù)值是測(cè)量得到的，或者是計(jì)算的結(jié)果，一種情況實(shí)際矩陣是例15

設(shè)方程組，即它的精確解為現(xiàn)在考慮系數(shù)矩陣和右端項(xiàng)的微小變化對(duì)方程組解的影響，即考察方程組其解變?yōu)閿_動(dòng)后方程組的解面目全非了，真所謂“差之毫厘，失之千里”，這種現(xiàn)象的出現(xiàn)是完全由方程組的性態(tài)決定的.【定義6】如果矩陣或常數(shù)項(xiàng)的微小變化，解的巨大變化，則稱此方程組稱為病態(tài)矩陣（相對(duì)于我們需要一種能刻劃矩陣和方程組“病態(tài)”程度的標(biāo)準(zhǔn).引起方程組為病態(tài)方程組，矩陣稱為良態(tài)矩陣.方程組而言），否則稱方程組為良態(tài)方程組，矩陣3.6.1線性方程組的誤差分析其中，，且非奇異.為精確解，為解的誤差，記.設(shè)線性方程組為（3.24）設(shè)為的誤差，為的誤差.下面分別討論與，一、b有誤差而A無(wú)誤差情形將帶有誤差的右端項(xiàng)和帶誤差的解向量代入方程組，則由于，而得到，從而另一方面，由(3.24)式取范數(shù)，有，即因此可得解的相對(duì)誤差估計(jì)式（3.25）.的關(guān)系.【定理6】設(shè)是非奇異矩陣，，且，則有誤差估計(jì)式,其中稱為方陣A的條件數(shù).【注】

（1）解的相對(duì)誤差是右端項(xiàng)（2）如果條件數(shù)越大，則解的相對(duì)誤差就可能越大；（3）條件數(shù)成了刻劃矩陣的病態(tài)程度和方程組解對(duì)或（3.25）擾動(dòng)的敏感程度.的相對(duì)誤差的cond(A)倍；【定義7】稱條件數(shù)很大的矩陣為“病態(tài)”矩陣；稱病態(tài)矩陣對(duì)應(yīng)的方程組為病態(tài)方程組.反之，則稱矩陣為良態(tài)矩陣，對(duì)應(yīng)的方程組為良態(tài)方程組.二、A及b都有誤差的情形，為非奇異矩陣，及都有誤差，若的誤差非常小，使，則.(3.26)【定理7】設(shè)方程組有誤差估計(jì)式證明

帶有誤差的方程組為由于，代入上式整理得將上式兩端取范數(shù)，利用向量范數(shù)的三角不等式及矩陣和向量范數(shù)的相容條件，則有整理可得.若足夠小，使得，則從而由，有【注】

僅或有誤差是(3.26)式中或的特例.例16

已知方程組中若解

由于由式，比右端項(xiàng)的相對(duì)誤差擴(kuò)大了2015倍.時(shí)，估計(jì)解的相對(duì)誤差.（3.25）有誤差估計(jì)例17

設(shè)在例15方程組中，有擾動(dòng)=(0，0.00001)T

，，并說(shuō)明對(duì)解向量的影響.求得，則，這說(shuō)明右端項(xiàng)向量其分量的萬(wàn)分之一的變化，可能引起有600%的變化，如果我們事先不作分析，其解是嚴(yán)重病態(tài)矩陣，相應(yīng)的方程組試計(jì)算解由解向量就難以置信了.因此，是病態(tài)方程組.3.6.2矩陣的條件數(shù)及其性質(zhì)，，分別稱為矩陣的-條件數(shù)、1-條件數(shù)和常用的條件數(shù)有2-條件數(shù).條件數(shù)的性質(zhì)時(shí)，（2）當(dāng)對(duì)稱正定時(shí)，，其中，和分別是矩陣的按模最大和按模最小存在，則有（4）若為正交矩陣，即，則，.（1）當(dāng)；的特征值.（3）若；

判別一個(gè)矩陣是否病態(tài)是件極其重要的事情.MATLAB提供了cond(X,p)函數(shù)求矩陣X的p條件數(shù)，例如，cond(X,1)：X的1條件數(shù)；cond(X,2)：X的2條件數(shù)；

cond(X,inf)：X的cond(X,'fro')：X的Frobenius條件數(shù).p缺省情況表示2條件數(shù)，即cond(X)=cond(X,2).條件數(shù)；例18

下列希爾伯特（Hilbert）矩陣是一族著名的病態(tài)矩陣.用MATLAB函數(shù)計(jì)算條件數(shù)forn=3:8cond(hilb(n))end得到3至8階希爾伯特矩陣的條件數(shù)分別為：524.05681.5514e+0044.7661e+0051.4951e+0074.7537e+0081.5258e+010由此可見，隨著的增加，的病態(tài)可能越嚴(yán)重.常出現(xiàn)在數(shù)據(jù)擬合和函數(shù)逼近中..輸入例19

用MATLAB求解線性方程組，其中，顯然，這個(gè)方程組的精確解為下面用MATLAB求解，討論（1）當(dāng)n=5;H=hilb(n);b=H*ones(n,1);x=H\b;x'得到x=1.00001.0000

1.0000

1.0000

1.0000其解沒(méi)有什么問(wèn)題.n=10;H=hilb(n);b=H*ones(n,1);x=H\b;x'得到x=1.00001.0000

1.0000

1.00000.99991.00020.99961.00040.99981.0000其解有誤差，但誤差不大，可以接受.為不同值的情況.時(shí)，輸入（2）當(dāng)時(shí)，輸入（3）當(dāng)n=20;H=hilb(n);b=H*ones(n,1);x=H\b;x'得到x=1.00001.00000.99971.00390.97941.01261.3920-1.14436.6138-7.869011.9311-15.235526.1941-24.907216.5064-10.456419.5516-18.490210.8570-0.9390此時(shí)方程組的解已經(jīng)面目全非了，基本上看不出解的各個(gè)分量為1.時(shí)，輸入5102060cond(hilb(n))4.7661×1051.6025×10131.9084×10182.3191×10192.6733×10-126.1431×10-4106.15916.3902×103方程組的解與精確值之間的誤差如表3-1所示.表3-1列出的誤差大得超過(guò)我們的想像.原因在于Hilbert計(jì)算的舍入誤差很小，但由于巨大的條件數(shù)，還會(huì)產(chǎn)生很大的計(jì)算誤差.對(duì)于病態(tài)方程組，通常的方法無(wú)法得到它的準(zhǔn)確解，需要采用一些特殊的處理方法.系數(shù)矩陣當(dāng)時(shí)，條件數(shù)已達(dá)到1018，盡管計(jì)算機(jī)表3-1Hilbert系數(shù)矩陣方程組的解的誤差3.6.3病態(tài)方程組的處理

對(duì)于病態(tài)方程組，可采用高精度的算術(shù)運(yùn)算，如雙精度或擴(kuò)充精度，以改善或減輕方程組的病態(tài)程度.如果用無(wú)限精度運(yùn)算即不存在舍入誤差的話，即使條件數(shù)很大，也沒(méi)有病態(tài)可言.我們也可對(duì)病態(tài)方程組作預(yù)處理，使改善方程組系數(shù)矩陣的條件數(shù).例20

設(shè)方程組，即試驗(yàn)證其為病態(tài)方程組，且對(duì)其作預(yù)處理，使解（1）用MATLAB函數(shù)計(jì)算系數(shù)矩陣的條件數(shù)，得，顯然方程組為病態(tài)方程組.，使，其中則有:顯然，經(jīng)過(guò)預(yù)處理后的方程組是良態(tài)的.（2）令奇異值分解（Singular-ValueDecomposition）簡(jiǎn)稱SVD，對(duì)于階矩陣，必存在正交矩陣，和對(duì)角陣，使得有奇異值分解有關(guān)奇異值分解的理論知識(shí)省略.在MATLAB中，函數(shù)svd()表示矩陣的奇異值分解，其命令格式為[U,S,V]=svd(A)