矩陣論第2章 內(nèi)積空間

1、 2.1 內(nèi)積空間的概念內(nèi)積空間的概念2.2 正交基及子空間的正交關(guān)系正交基及子空間的正交關(guān)系2.3 內(nèi)積空間的同構(gòu)內(nèi)積空間的同構(gòu)2.4 正交變換正交變換2.5 點(diǎn)到子空間的距離與最小二乘法點(diǎn)到子空間的距離與最小二乘法2.6 復(fù)內(nèi)積空間（酉空間）復(fù)內(nèi)積空間（酉空間） 2.7 正規(guī)矩陣正規(guī)矩陣2.8* 厄米特二次型厄米特二次型 2.9* 力學(xué)系統(tǒng)的小振動(dòng)力學(xué)系統(tǒng)的小振動(dòng) 線性空間只是考慮了向量線性空間只是考慮了向量“加法加法”和和“數(shù)乘數(shù)乘”的兩個(gè)基本線性運(yùn)算，然而在線性空間中缺少向量的兩個(gè)基本線性運(yùn)算，然而在線性空間中缺少向量的度量的概念，例如向量的長(zhǎng)度與夾角的度量的概念，例如向量的長(zhǎng)度與夾角

2、 我們將在我們將在本章中引入內(nèi)積的概念，得到向量的長(zhǎng)度與夾角等本章中引入內(nèi)積的概念，得到向量的長(zhǎng)度與夾角等重要的概念重要的概念 ，深化對(duì)線性空間、線性變換的研究，深化對(duì)線性空間、線性變換的研究，由線性空間得到內(nèi)積空間由線性空間得到內(nèi)積空間. 在內(nèi)積空間里，我們利用在內(nèi)積空間里，我們利用“正交正交”概念，可以選擇一種概念，可以選擇一種特殊的、使用起來(lái)很方便的基，稱(chēng)為正交基特殊的、使用起來(lái)很方便的基，稱(chēng)為正交基. 這在普通的線這在普通的線性空間里是沒(méi)有的性空間里是沒(méi)有的. 正交基的引入，得到在內(nèi)積空間中增加正交基的引入，得到在內(nèi)積空間中增加了不少在一般線性空間中所沒(méi)有的、且非常有實(shí)用價(jià)值的性了不少

3、在一般線性空間中所沒(méi)有的、且非常有實(shí)用價(jià)值的性質(zhì)質(zhì). 與線性空間的同構(gòu)類(lèi)似，以下討論內(nèi)積空間的同構(gòu)問(wèn)題與線性空間的同構(gòu)類(lèi)似，以下討論內(nèi)積空間的同構(gòu)問(wèn)題. 由于內(nèi)積空間是定義了內(nèi)積的線性空間，故下述定義的很自由于內(nèi)積空間是定義了內(nèi)積的線性空間，故下述定義的很自然的然的 由定義可知，由定義可知，同構(gòu)的兩個(gè)歐氏空間有相同的維數(shù)同構(gòu)的兩個(gè)歐氏空間有相同的維數(shù) 在內(nèi)積空間中有一種特別的線性變換（正交變換），在在內(nèi)積空間中有一種特別的線性變換（正交變換），在許多場(chǎng)合都很有用，這種變換在歐氏空間（有限維實(shí)內(nèi)積空許多場(chǎng)合都很有用，這種變換在歐氏空間（有限維實(shí)內(nèi)積空間）中?？蓴⑹鰹閹讉€(gè)相互等價(jià)的提法，這些提法的

4、每一種間）中?？蓴⑹鰹閹讉€(gè)相互等價(jià)的提法，這些提法的每一種都刻畫(huà)了正交變換的基本性質(zhì)都刻畫(huà)了正交變換的基本性質(zhì). 先設(shè)一個(gè)先設(shè)一個(gè)子空間子空間W，它是由，它是由向量向量1, 2,k所所生成生成，即，即W=L(1, 2,k). 說(shuō)一個(gè)說(shuō)一個(gè)向量向量垂直于子垂直于子空間空間W ，就是指，就是指向量向量垂直于垂直于W中中任何一個(gè)向量任何一個(gè)向量. 已知已知垂直于垂直于W的的充分必要條件充分必要條件是是垂直于垂直于W中的中的每每個(gè)向量個(gè)向量i(i=1,2,k). 在中學(xué)所學(xué)在中學(xué)所學(xué)幾何中幾何中知道知道一個(gè)點(diǎn)一個(gè)點(diǎn)到到一個(gè)平面一個(gè)平面（或（或一條直線一條直線）上所有點(diǎn)的）上所有點(diǎn)的距離距離以垂線最短以

5、垂線最短. 下面證明下面證明一個(gè)固定向量一個(gè)固定向量和和一個(gè)子空間中各向量間的距離一個(gè)子空間中各向量間的距離也是也是以以“垂線最短垂線最短”. 現(xiàn)給定現(xiàn)給定 ，設(shè)，設(shè)是是W中的中的向量向量，滿足，滿足- -垂直于垂直于W. 要要證明證明到到W中中各向量的距離以垂線最短各向量的距離以垂線最短，就就是是要證明要證明，對(duì)于，對(duì)于W中中任一向量任一向量 ，有，有 |- -| |- -|. 我們可以畫(huà)出下面的我們可以畫(huà)出下面的示意圖示意圖：證明證明 由由 - -=(- -)+(- -)因因W是子空間，是子空間，W,W,則則- -W. 故故- -垂直于垂直于- -.由勾股定理，由勾股定理， |- -|2+

6、|- -|2=|- -|2.故故 |- -| |- -|. 證畢證畢.W- - - -最小二乘法問(wèn)題：最小二乘法問(wèn)題：設(shè)線性方程組設(shè)線性方程組 0,0,022112222212111212111nsnsnnssssbxaxaxabxaxaxabxaxaxa無(wú)解無(wú)解. 即任何一組數(shù)即任何一組數(shù) x1,x2,xs 都使得偏差都使得偏差211221()niiissiia xa xa xb (1)(1)不等于零不等于零. 我們我們?cè)O(shè)法找實(shí)數(shù)組設(shè)法找實(shí)數(shù)組x10,x20,xs0使偏差式使偏差式(1)(1)最小最小，這樣的，這樣的x10,x20,xs0稱(chēng)為方程組稱(chēng)為方程組的的最小二最小二乘解乘解.這一方法

7、就叫這一方法就叫最小二乘法最小二乘法. 下面利用下面利用歐氏空間歐氏空間的的概念概念來(lái)表達(dá)最小二乘法來(lái)表達(dá)最小二乘法，并給出并給出最小二乘解所滿足的代數(shù)條件最小二乘解所滿足的代數(shù)條件. 令令.,112112121212222111211AXxaxaxaYxxxXbbbBaaaaaaaaaAsjjnjsjjjsjjjsnnsnnss (2)用用距離的概念距離的概念，(1)(1)就是就是最小二乘法最小二乘法就是找就是找 x10,x20,xs0 使使向量向量Y與與向量向量B的的距離最短距離最短. 但從但從(2)知道知道向量向量Y就是就是.21222122121111 nssssnnaaaxaaaxa

8、aaxY把把A的的各列向量各列向量分別分別記成記成1, 2,s. 由它們由它們生成的子生成的子空間空間為為L(zhǎng)(1, 2,s). Y就是就是L(1, 2,s)中的向量中的向量. 于是于是最小二乘法問(wèn)題最小二乘法問(wèn)題可敘述成可敘述成： |Y- -B|2 . 找找X使使(1)(1)最小最小，就是，就是在在L(1, 2,s)中找一向量中找一向量Y ，使得使得B到它的距離比到子空間到它的距離比到子空間L(1, 2,s)中其它中其它向量的距離都短向量的距離都短. 應(yīng)用前面所講的應(yīng)用前面所講的結(jié)論結(jié)論，設(shè)，設(shè)ssxxxAXY 2211是所求的向量是所求的向量，則，則 C=B- -Y=B- -AX必須垂直于子空間必須垂直于子空間L(1, 2,s). 為此為此必須必須而且而且只只需需滿足內(nèi)積滿足內(nèi)積.0),(),(),(21 sCCC由由矩陣乘法規(guī)則矩陣乘法規(guī)則，上述一串，上述一串等式等式可以可以寫(xiě)成矩陣相寫(xiě)成矩陣相乘的式子乘的式子，即，即或或 ATAX=ATB這就是這就是最小二乘解所滿足的代數(shù)方程最小二乘解所滿足的代數(shù)方程，它是一個(gè)，它是一個(gè)線性方程組線性方程組，系數(shù)矩陣系數(shù)矩陣是是ATA