正規(guī)方程推導(dǎo)過程_第1頁
正規(guī)方程推導(dǎo)過程_第2頁
正規(guī)方程推導(dǎo)過程_第3頁
全文預(yù)覽已結(jié)束

下載本文檔

版權(quán)說明：本文檔由用戶提供并上傳，收益歸屬內(nèi)容提供方，若內(nèi)容存在侵權(quán)，請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡介

正規(guī)方程推導(dǎo)過程推導(dǎo)正規(guī)方程的過程如下：

假設(shè)有一個(gè)已知的線性方程組，可以表示為AX=B，其中A是一個(gè)m×n的矩陣，X是一個(gè)n維向量，B是一個(gè)m維向量。我們的目標(biāo)是找到一個(gè)最小二乘解X'，使得AX'最接近B。

步驟1：定義殘差向量r

我們首先定義殘差向量r為AX-B，即r=AX-B。殘差向量表示了方程組中每個(gè)方程的誤差。

步驟2：最小化殘差向量的范數(shù)

為了獲得最小二乘解，我們希望使殘差向量的范數(shù)最小。因此，我們需要最小化||r||^2。其中||r||表示向量r的歐幾里得范數(shù)。

步驟3：尋找殘差向量的最小值

我們用最小化||r||^2來確定殘差向量的最小值。為了達(dá)到這個(gè)目標(biāo)，我們需要求解如下優(yōu)化問題：

Minimize||r||^2=(AX-B)^T(AX-B)

步驟4：展開表達(dá)式

為了方便求解，我們需要展開這個(gè)表達(dá)式。通過矩陣的性質(zhì)和運(yùn)算法則，我們可以將上述表達(dá)式展開為：

||r||^2=(X^TA^T-B^T)(AX-B)

=X^TA^TAX-X^TA^TB-B^TAX+B^TB

步驟5：求導(dǎo)數(shù)

為了找到最小值，我們需要對(duì)上述表達(dá)式進(jìn)行求導(dǎo)。首先，我們對(duì)X進(jìn)行求導(dǎo)，然后令導(dǎo)數(shù)等于零。這將產(chǎn)生一個(gè)解析解。

對(duì)X求導(dǎo)，我們有：

(?/?X)(X^TA^TAX-X^TA^TB-B^TAX+B^TB)=2A^TAX-2A^TB

令導(dǎo)數(shù)等于零，我們得到：

2A^TAX-2A^TB=0

步驟6：整理方程

將上述方程整理為：

A^TAX=A^TB

步驟7：求解正規(guī)方程

上述方程被稱為正規(guī)方程，表示為A^TAX=A^TB。由于A^TA是一個(gè)正定矩陣，因此可以通過求解該方程來找到最小二乘解X'。

將正規(guī)方程的左右兩邊同時(shí)乘以(A^TA)^-1，即A^TA的逆矩陣，我們可以得到：

X'=(A^TA)^-1A^TB

這就是最小二乘解X'的表達(dá)式。

通過這個(gè)推導(dǎo)過程，我們可以得到最小二乘解X'的解析表達(dá)式。解析解的存在使得我們

溫馨提示

  • 1. 本站所有資源如無特殊說明，都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等，如果需要附件，請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙，網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽，若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲(chǔ)空間，僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理，對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯，并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容，請(qǐng)與我們聯(lián)系，我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

評(píng)論

0/150

提交評(píng)論