數(shù)值分析ppt第7章-非線性方程求根課件

1、第7章 非線性方程求根7.1 方程求根與二分法7.2 迭代法及其收斂性7.3 迭代收斂的加速方法7.4 牛頓法7.5 弦截法與拋物線法7.6 解非線性方程組的牛頓迭代法7.1 方程求根與二分法 例如代數(shù)方程 x5-x3+24x+1=0, 超越方程 sin(5x2)+e-x=0. 對于不高于4次的代數(shù)方程已有求根公式，而高于4次的代數(shù)方程則無精確的求根公式，至于超越方程 就更無法求出其精確的解，因此，如何求得滿足一定精度要求的方程的近似根也就成為迫切需要解決的問題，為此，本章介紹幾種常見的非線性方程的近似求根方法.7.1.1 引言本章主要討論單變量非線性方程f(x)=0 (1.1)的求根問題，這

2、里xR, f(x)Ca, b. 在科學(xué)與工程計算中有大量方程求根問題，其中一類特殊的問題是多項式方程其中系數(shù)ai(i=0,1,n)為實數(shù).方程f(x)=0的根x*，又稱為函數(shù)f(x)的零點，它使得f(x*)=0，若f(x)可分解為f(x)=(x-x*)mg(x)，其中m為正整數(shù)，且g(x*)0. 當m=1時，則稱x*為單根，若m1稱x*為(1.1)的m重根，或x*為函數(shù)f(x)的m重零點. 若x*是f(x)的m重零點，且g(x)充分光滑，則當f(x)為代數(shù)多項式(1.2)時，根據(jù)代數(shù)基本定理可知，n次代數(shù)方程f(x)=0在復(fù)數(shù)域有且只有n個根(含復(fù)根，m重根為m個根).n=1,2時方程的根是大

3、家熟悉的，n=3,4時雖有求根公式但比較復(fù)雜，可在數(shù)學(xué)手冊中查到，但已不適合數(shù)值計算，而n5時就不能用公式表示方程的根.因此，通常對n3的多項式方程求根與一般連續(xù)函數(shù)方程(1.1)一樣都可采用迭代法求根.迭代法要求給出根x*的一個近似，若f(x)Ca, b且f(a)f(b)0，根據(jù)連續(xù)函數(shù)性質(zhì)中的介值定理可知方程f(x)=0在(a, b)內(nèi)至少有一個實根，這時稱a, b為方程(1.1)的有根區(qū)間，通?？赏ㄟ^逐次搜索法求得方程(1.1)的有根區(qū)間. 若 f(x)在a,b內(nèi)連續(xù), 且 f(a) f(b)0, f(0)=10, f(3)=-260. 可見f(x)僅有兩個實根, 分別位于(0, 3),

4、 (3, +), 又f(4)=10, 所以第二根的隔根區(qū)間可縮小為(3, 4). 以上分析可用下表表示x(-,0)0(0,3)3(3,4)4(4,+) f(x) f (x) - 0+ - 0-+ 隔根區(qū)間(0,3)(3,4)2. 逐步搜索法 從區(qū)間a, b的左端點 a 出發(fā), 按選定的步長h 一步步向右搜索，若f(a+jh)f(a+(j+1)h)0 (j=0,1,2,)則區(qū)間a+jh, a+(j+1)h內(nèi)必有根. 搜索過程也可從b開始，這時應(yīng)取步長 h0.7.1.2 二分法 設(shè)f(x)在區(qū)間a, b上連續(xù), f(a)f(b)0, 則在a, b 內(nèi)有方程的根. 取a, b的中點 將區(qū)間一分為二.

5、 若 f (x0)=0, 則x0就是方程的根, 否則判別根 x*在 x0 的左側(cè)還是右側(cè).若f(a) f(x0)0, 則x*(a, x0), 令 a1= a, b1=x0;若f(x0) f(b)0, 則x*(x0 , b), 令 a1=x0, b1=b. 不論出現(xiàn)哪種情況, (a1, b1)均為新的有根區(qū)間, 它的長度只有原有根區(qū)間長度的一半, 達到了壓縮有根區(qū)間的目的. 對壓縮了的有根區(qū)間, 又可實行同樣的步驟, 再壓縮. 如此反復(fù)進行, 即可的一系列有根區(qū)間套 由于每一區(qū)間都是前一區(qū)間的一半，因此區(qū)間an , bn的長度為若每次二分時所取區(qū)間中點都不是根，則上述過程將無限進行下去. 當 n

6、 時，區(qū)間必將最終收縮為一點x* ，顯然x*就是所求的根. 若取區(qū)間an , bn的中點作為x*的近似值，則有下述誤差估計式只要 n 足夠大, (即區(qū)間二分次數(shù)足夠多)，誤差就可足夠小. 由于在偶重根附近曲線 y=f(x) 為上凹或下凸, 即 f(a)與f(b)的符號相同, 因此不能用二分法求偶重根. 例2 用二分法求例1中方程 f(x)=x3-x-1=0的實根,要求誤差不超過0.005. 解 由例1可知x*(1, 1.5), 要想滿足題意，即：則要|x*-xn|0.005由此解得 取n=6, 按二分法計算過程見下表, x6 = 1.3242 為所求之近似根.n an bn xn f(xn)說

7、明01234561.01.251.251.31251.31251.31251.32031.51.51.3751.3751.34381.32811.32811.251.3751.31251.34381.32811.32031.3242-+-+-(1) f(a)0(2) 根據(jù)精 度要求，取到小數(shù)點后四位 即可. 二分法的優(yōu)點是算法簡單，且總是收斂的，缺點是收斂的太慢，故一般不單獨將其用于求根，只是用其為根求得一個較好的近似值.二分法的計算步驟:步驟1 準備 計算函數(shù)f(x)在區(qū)間a, b端點處的值f(a), f(b). 若f(a)f(a+b)/2)0, 則以(a+b)/2代替b ，否則以(a+b)

8、/2代替a.步驟2 二分 計算函數(shù)f(x)在區(qū)間中點(a+b)/2處的值f(a+b)/2).步驟3 判斷 若f(a+b)/2)=0，則(a+b)/2即是根，計算過程結(jié)束，否則檢驗. 反復(fù)執(zhí)行步驟2和步驟3，直到區(qū)間a, b長度小于允許誤差，此時中點(a+b)/2即為所求近似根.7.2 迭代法及其收斂性7.2.1 不動點迭代法 將方程f(x)=0改寫為等價方程形式 x=(x). (2.1)若要求x*滿足f(x*)=0，則x*=(x*)；反之亦然，稱x*為函數(shù)(x)的一個不動點. 求f(x)的零點就等于求(x)的不動點，選擇一個初始近似值x0，將它代入(2.1)右端，即可求得 x1=(x0). 可

9、以如此反復(fù)迭代計算 xk+1=(xk) (k=0,1,2,). (2.2) (x)稱為迭代函數(shù). 如果對任何x0a, b，由(2.2)得到的序列xk有極限則稱迭代方程(2.2)收斂. 且x*=(x*)為(x)的不動點，故稱(2.2)為不動點迭代法. 上述迭代法是一種逐次逼近法，其基本思想是將隱式方程(2.1)歸結(jié)為一組顯式的計算公式(2.2)，迭代過程實質(zhì)上是一個逐步顯式化過程.當(x)連續(xù)時，顯然x*就是方程x=(x)之根(不動點). 于是可以從數(shù)列xk中求得滿足精度要求的近似根. 這種求根方法稱為不動點迭代法, 稱為迭代格式, (x)稱為迭代函數(shù), x0 稱為迭代初值,數(shù)列xk稱為迭代序列

10、. 如果迭代序列收斂, 則稱迭代格式收斂,否則稱為發(fā)散. （幾何意義的解釋見書p265頁）分別按以上三種形式建立迭代公式，并取x0=1進行迭代計算，結(jié)果如下： 解 對方程進行如下三種變形： 例3 用迭代法求方程x4+2x2-x-3=0 在區(qū)間1, 1.2內(nèi)的實根.準確根 x* = 1.124123029, 可見迭代公式不同, 收斂情況也不同. 第二種公式比第一種公式收斂快得多, 而第三種公式不收斂. 參見書p266頁-例3. 例3表明原方程化為(2.1)的形式不同，有的收斂，有的不收斂，有的發(fā)散，只有收斂的的迭代過程(2.2)才有意義，為此我們首先要研究(x)的不定點的存在性及迭代法(2.2)

11、的收斂性.7.2.2 不動點的存在性與迭代法的收斂性 首先考察(x)在a, b上不動點的存在唯一性. 定理1 設(shè)(x)Ca, b滿足以下兩個條件：1 對任意xa, b有a(x)b.2 存在正數(shù)La及(b)0, f(b)=(b)-b0, 由連續(xù)函數(shù)性質(zhì)可知存在 x*(a, b) 使 f(x*)=0，即x*=(x*)，x*即為(x)的不動點. 再證不動點的唯一性. 設(shè)x1*, x2*a, b都是(x)的不動點，則由(2.4)得引出矛盾，故(x)的不動點只能是唯一的.證畢. 在(x)的不動點存在唯一的情況下，可得到迭代法(2.2)收斂的一個充分條件. 定理2 設(shè)(x)Ca, b滿足定理1中的兩個條件

12、，則對任意x0a, b，由(2.2)得到的迭代序列xk收斂到的不動點x*，并有誤差估計式 證明 設(shè)x*a, b是(x)在a, b上的唯一不動點,由條件1，可知xka, b，再由(2.4)得因0L1時稱超線性收斂，p=2時稱平方收斂. 定理4 對于迭代過程xk+1=(xk)，如果(p)(x)在所求根x*的鄰近連續(xù)，并且則該迭代過程在x*的鄰近是p階收斂的. 證明 由于(x*)=0，根據(jù)定理3立即可以斷定迭代過程xk+1=(xk)具有局部收斂性. 再將(xk)在根x*處做泰勒展開, 利用條件(2.4), 則有注意到(xk)=xk+1，(x*)= x*，由上式得因此對迭代誤差，令k時有這表明迭代過程

13、xk+1=(xk)確實為p階收斂. 證畢. 上述定理告訴我們，迭代過程的收斂速度依賴于迭代函數(shù)(x)的選取. 如果xa, b但(x)0時，則該迭代過程只可能是線性收斂. 對例4的討論見書p272.的三階方法. 假設(shè) x0 充分靠近 x*, 求 證明 首先由泰勒展式可得 例子 證明迭代公式 xk+1=xk(xk2+3a)/(3xk2+a)是求而1/4a0，故此迭代公式是三階方法.7.3 迭代收斂的加速方法7.3.1 埃特金加速收斂方法 對于收斂的迭代過程，只要迭代足夠多次，就可以使結(jié)果達到任意的精度，但是有時迭代過程收斂較慢，從而使計算量變得很大，因此迭代過程的加速是個重要的課題. 設(shè)x0是根x

14、*的某個近似值, 用迭代公式校正一次得 x1=(x0)而由微分中值定理，有假設(shè)(x)改變不大, 近似地取某個近似值L, 則有由于 x2-x*L(x1-x*). 若將校正值x1=(x0)再校正一次，又得 x2=(x1)將它與(3.1)式聯(lián)立，消去未知的L，有由此推知在計算了x1及x2之后，可用上式右端作為x*的新近似,記作x1，一般情形是由xk計算xk+1, xk+2，記它表明序列xk的收斂速度比xk的收斂速度快.(3.1)式稱為埃特金(Aitken) 2加速方法. 可以證明也稱為埃特金 ( Aitken ) 外推法. 可以證明:為線性收斂,則埃特金法為平方收斂； 這個加速迭代法也可寫成下面格式

15、若為 p ( p 1)階收斂，導(dǎo)數(shù)連續(xù)，則埃特金法為 2p1 階收斂.的 p 階若 例題 求方程 x = e x 在 x=0.5 附近的根. 解 取 x0=0.5, 迭代格式x25=x26=0.5671433 若對此格式用埃特金法, 則 得仍取 x0=0.5 , 得由此可見, 埃特金法加速收斂效果是相當顯著的.7.3.2 斯蒂芬森(Steffensen)迭代法 埃特金方法不管原序列xk是怎樣產(chǎn)生的，對xk進行加速計算，得到序列xk. 如果把埃特金加速技巧與不定點迭代結(jié)合，則可得到如下的迭代法：稱為斯蒂芬森(Steffensen)迭代法. 它可以這樣理解，我們要求x=(x)的根x*，令誤差(x)

16、=(x)-x，有等式(x*)=(x*)-x*=0，已知x*的近似值xk及yk，其誤差分別為把誤差(x)“外推到零”，即過(xk,(xk)及(yk,(yk)兩點做線性插值函數(shù)，它與x軸交點就是(3.3)中的xk+1，即方程的解 實際上(3.3)是將不定點迭代法(2.2)計算兩步合并成一步得到的，可將它寫成另一種不動點迭代其中 對不動點迭代(3.5)有以下局部收斂性定理. 定理5 若x*為(3.5)定義的迭代函數(shù)(x)的不動點，則x*為(x)的不定點. 反之，若x*為(x)的不動點，設(shè)(x)存在，(x)1，則x*是(x)的不動點，且斯蒂芬森迭代法(3.3)是2階收斂的. 證明可見2. 例5 見書p

17、274. 例6 見書p275.7.4 牛 頓 法7.4.1 牛頓法及其收斂性 對于方程f(x)=0，如果f(x)是線性函數(shù)，則它的求根是容易的. 牛頓法實質(zhì)上是一種線性化方法，其基本思想是將非線性方程f(x)=0逐步歸結(jié)為某種線性方程來求解. 設(shè)已知方程f(x)=0有近似根x0，且在 x0附近f(x)可用一階泰勒多項式近似，表示為當f(x0)0時，方程f(x)=0可用線性方程(切線) 近似代替，即 f(x0)+f(x0)(x-x0)=0. (4.1)解此線性方程得得迭代公式此式稱為牛頓(Newton)迭代公式.牛頓法有顯然的幾何意義，方程f(x)=0的根x*可解釋為曲線y=f(x)與x軸交點的

18、橫坐標. 設(shè)xk是根x*的某個近似值，過曲線y=f(x)上橫坐標為xk的點Pk引切線，并將該切線與x軸交點的橫坐標xk+1作為x*的新的近似值. 注意到切線方程為這樣求得的值xk+1必滿足(4.1), 從而就是牛頓公式(4.2)的計算結(jié)果. 由于這種幾何背景，所以牛頓迭代法也稱切線法.xyx*xky=f(x)xk+1PkPk+1xk+2牛頓迭代法的收斂性設(shè)x*是f(x)的一個單根，即f(x*)=0，f(x*)0, 有牛頓迭代法的迭代函數(shù)為由定理4的(2.9)式可得(4.3)式由此得到，當x*為單根時，牛頓迭代法在根x*的鄰近是二階(平方)收斂的.關(guān)于x*為重根時，牛頓迭代法在根x*的鄰近的收斂

19、性在后面討論.定理(局部收斂性) 設(shè)fC2a, b, 若x*為f(x)在a, b上的根，且f(x*)0，則存在x*的鄰域U, 使得任取初值x0U，牛頓法產(chǎn)生的序列xk收斂到x*，且滿足即有下面的局部收斂性定理. 解 將原方程化為xex= 0，則牛頓迭代公式為取 x0=0.5，迭代得x1=0.566311, x2=0.5671431, x3=0.5671433. f(x)=xex， f(x)=1+ex， 例7 用牛頓迭代法求方程x=ex在x=0.5附近的根.參見書p277的例7.牛頓法的計算步驟見書p278.7.4.2 牛頓法應(yīng)用舉例對于給定的正數(shù)C，應(yīng)用牛頓法解二次方程我們現(xiàn)在證明，這種迭代公

20、式對于任意初值x00都是收斂的.可導(dǎo)出求開方值 的計算程序事實上，對(4.5)式施行配方整理，易知以上兩式相除得據(jù)此反復(fù)遞推有記整理(4.6)式，得對任意初值x00，總有|q|1，故由上式推知，當k時 ，即迭代過程恒收斂.參見書p279的例8.7.4.3 簡化牛頓法與牛頓下山法牛頓法的優(yōu)點是收斂快，缺點每步迭代要計算f(xk)及f(xk)，計算量較大，且有時f(xk)計算較困難；初始近似值x0只在根x*附近才能保證收斂，如x0給的不合適可能不收斂. 為克服這兩個缺點，通?？捎孟率龇椒?(1) 簡化牛頓法，也稱平行弦法，其迭代公式為迭代函數(shù)為 (x)=x-Cf(x). 若|(xk)|=|1-Cf

21、(x)|1，即取0Cf(x)2. 在根x*附近成立，則迭代法(4.7)局部收斂.在(4.7)中取C=1/f(x0)，則稱為簡化牛頓法，這類方法計算量省，但只有線性收斂，其幾何意義是用平行弦與x軸交點作為x*的近似，見下圖.y=f(x)x0 x1x2x*(2) 牛頓下山法, 牛頓法收斂性依賴初值x0的選取, 如果x0偏離所求根x*較遠, 則牛頓法可能發(fā)散.注：Newtons Method收斂性依賴于x0的選取.x*x0 x0 x0例如，用牛頓法求解方程 x3-x-1=0. (4.8)此方程在x=1.5附近的一個根x*. 設(shè)取迭代初值x0=1.5，用牛頓迭代法公式 計算得 x1=1.34783,

22、x2=1.32520, x3=1.32472.迭代3次得到的結(jié)果x3有6位有效數(shù)字.但是，如取x0=0.6，用(4.9)式迭代1次得 計算得 x1=17.9.這個結(jié)果反而比x0=0.6更偏離了所求的根x*=1.32472. 為了防止迭代發(fā)散，我們對迭代過程再附加一項要求，即具有單調(diào)性.滿足這項要求的算法稱為下山法.我們將牛頓法與下山法結(jié)合起來使用，即在下山法保證函數(shù)值穩(wěn)定下降的前提下，用牛頓法加快收斂速度. 為此，我們將牛頓法的結(jié)果與前一項的近似值xk適當加權(quán)平均作為新的改進值其中(01)稱為下山因子，(4.11)即為稱為牛頓下山法.選擇下山因子時從=1開始，逐次將減半進行試算，直到能使下降條

23、件(4.10)成立為止. 若用此法解方程(4.8)，當x0=0.6時由(4.9)式求得x1=17.9，它不滿足條件(4.10)，通過逐次減半進行試算,當=1/32時可求得x1=1.140625. 有f(x0)=-1.384, f(x1)=-0.656643, 顯然|f(x1)|0)重根時，則f(x)可表為 f(x)=(x-x*)mg(x).其中g(shù)(x*)0，此時用牛頓迭代法(4.2)求x*仍然收斂，只是收斂速度將大大減慢. 事實上，因為迭代公式令ek=xkx*，則可見用牛頓法求方程的重根時僅為線性收斂.從而有兩種提高求重根的收斂速度的方法：1) 取如下迭代函數(shù)得到迭代公式下面介紹一個求重數(shù)m的

24、方法，令則求m重根具有2階收斂. 但要知道x*的重數(shù)m.由式得因此得估計m的式子為對f(x)=(x-x*)mg(x), g(x*)0，令函數(shù)則為求(x)=0的單根x*的問題，對它用牛頓法是二階(平方)收斂的. 其迭代函數(shù)為2) 將求重根問題化為求單根問題.從而構(gòu)造出迭代方法為 例8 用牛頓迭代法求函數(shù) f(x)=(x-1)sin(x-1)+3x-x3+1=0 在0.95附近之根. 解 取x0 = 0.95 用牛頓迭代法求得的xk見右表. 可見xk收斂很慢.kxkkm01234560.950.97442790.98705830.99348780.99673280.99835760.9991901

25、0.50900.50470.50070.51252.03692.01902.00282.0511由重根數(shù)m=2, 用(4.13)式加速法，作求得 x0=0.95, x1=0.9988559, x2=x3=1.收斂速度大大加快于直接用牛頓迭代公式.參見書p283的例9.7.5 弦截法與拋物線法用牛頓法求方程f(x)=0的根，每步除計算f(xk)外還要算f(xk)，當函數(shù)f(x)比較復(fù)雜時，計算f(x)往往比較困難，為此可以利用已求函數(shù)值f(xk),f(xk-1),來回避導(dǎo)數(shù)值f(xk)的計算. 這類方法是建立在插值原理基礎(chǔ)上的，下面介紹兩種常用方法.7.5.1 弦截(割線)法設(shè)xk,xk-1是f

26、(x)=0的近似根，我們利用f(xk),f(xk-1)構(gòu)造一次插值多項式p1(x)，并用p1(x)=0的根作為方程f(x)=0的新的近似根xk+1，由于因此有這樣導(dǎo)出的迭代公式(5.2)可以看做牛頓公式中的導(dǎo)數(shù) 用差商 取代的結(jié)果.(5.2)式有明顯的幾何意義： 設(shè)曲線y=f(x)上橫坐標為xk-1和xk的點分別為P0和Pk, 則差商 表示弦 的斜率, 弦 的方程為Ox*xk+1xkPkxk-1yxPk-1因此，按(5.2)式求得xk+1實際上是兩點弦線 與x軸交點的橫坐標(令y=0解出x即可).這種算法因此而形象地稱為弦截(割線)法.參見書p285的例10.弦截法與切線法(牛頓法)都是線性化

27、分法，但兩者有本質(zhì)的區(qū)別. 切線法在計算xk+1時只用到前一步的值xk，而弦截法要用到前面兩步的結(jié)果xk-1,xk，因此使用這種方法必須先給出兩個開始值x0, x1.定理6 假設(shè)f(x)在根x*的鄰域內(nèi): |x-x*|具有二階連續(xù)導(dǎo)數(shù)，且對任意x有f(x)0，所取的初值x0, x1，那么當鄰域充分小時，弦截法(5.2)將按階收斂到x*. 這里p是方程2-1=0的正根.定理證明可見2.因為(5.2)式用到前兩點xk-1和xk的值，故此方法又稱為雙點割線法.每步只用一個新點xk的值，此方法稱為單點割線法.如果把(5.2)式中的xk-1改為x0，即迭代公式為例題 用牛頓迭代法和割線法求方程 f(x)

28、=x4+2x2x3=0， 在區(qū)間(1, 1.5)內(nèi)之根(誤差為10-9). 解 取x0=1.5，用牛頓法, 可得x6=1.12412303030；取x0=1.5, x1=1，用雙點割線法，迭代6次得到同樣的結(jié)果，而采用單點割線法，則迭代18次得x18=1.124123029. 例題 用快速弦截法求方程xex-1=0的根. 設(shè)方程的兩個初始近似根為x0=0.5 , x1=0.6.計算結(jié)果表k xk xk-xk-10 0.5 1 0.6 0.12 0.56532 -0.034683 0.56709 0.001774 0.56714 0.00005 與例7(p277)中牛頓法的計算結(jié)果相比較，可以看

29、出快速弦截法的收斂速度也是相當快的，迭代到第4步就得到精度 的結(jié)果.7.5.2 拋物線法設(shè)已知方程f(x)=0的三個近似根xk,xk-1,xk-2，我們以這三點為節(jié)點構(gòu)造二次插值多項式p2(x)，并適當選取p2(x)的一個零點xk+1作為新的近似根，這樣確定的迭代過程稱為拋物線法，亦稱為密勒(Mller)法. 在幾何圖形上, 這種方法的基本思想是用拋物線y=p2(x)與x軸的交點xk+1作為所求根x*的近似位置.Ox*xk+1xky=P2(x)xk-2yxy=f(x)xk-1拋物線法的幾何意義見下面圖形.現(xiàn)在推導(dǎo)拋物線法的計算公式. 插值多項式有兩個零點式中因了在(5.3)式定出一個值xk+1，我們需要討論根式前正