矩陣?yán)碚?第五講

1、矩陣?yán)碚?第五講2004年1上節(jié)內(nèi)容回顧Hamilton-Cayley定理任一方陣都是它的特征多項(xiàng)式的根多項(xiàng)式的帶余除法方陣的零化多項(xiàng)式方陣的最小多項(xiàng)式多項(xiàng)式矩陣的逆、單模矩陣多項(xiàng)式矩陣的互質(zhì)性簡(jiǎn)介右公因子左公因子最大右公因子gcrdgcrd的構(gòu)造定理多項(xiàng)式矩陣的既約性簡(jiǎn)介多項(xiàng)式矩陣的行次數(shù)和列次數(shù)、行次表示式和列次表示式2內(nèi)積空間內(nèi)積空間設(shè)X是實(shí)數(shù)域或復(fù)數(shù)域上的線性空間，其中定義了一個(gè)二元數(shù)值函數(shù)滿足下列條件：對(duì)第一變?cè)木€性：共軛對(duì)稱性：正定性： 且則稱此二元值函數(shù) 是X上的內(nèi)積（Inner product），定義了內(nèi)積的空間稱為內(nèi)積空間。 F = R時(shí)稱X為實(shí)內(nèi)積空間，F(xiàn) = C時(shí)稱X為

2、復(fù)內(nèi)積空間3內(nèi)積空間由內(nèi)積的定義：對(duì)第一變?cè)木€性：共軛對(duì)稱性：正定性： 且中的條件1和2，可得對(duì)第二變?cè)墓曹椌€性4內(nèi)積空間內(nèi)積的定義：對(duì)第一變?cè)木€性：共軛對(duì)稱性：正定性： 且由條件1和2，可得對(duì)第二變?cè)墓曹椌€性由條件1和2，可得 5內(nèi)積空間內(nèi)積空間舉例：n維歐氏(Euclid)空間Rn：n維復(fù)歐氏(Euclid)空間Cn：實(shí)l2空間： 此空間中的點(diǎn)為無窮維向量，每個(gè)向量的所有坐標(biāo)是平方可和的： 取p = 2, 收斂Hlder不等式：6內(nèi)積空間Cauchy-Schwarz inequality (柯西-許瓦茲不等式)設(shè) 是X上的內(nèi)積，則證明：當(dāng)x, y其中之一為零向量時(shí)，等式成立?，F(xiàn)設(shè)

3、， 有令 ，7賦范空間向量范數(shù)（Norm）設(shè)X是數(shù)域F上的線性空間，定義在X上的實(shí)值函數(shù) 如果滿足以下條件三角形不等式絕對(duì)齊性正定性 ，且則稱此實(shí)值函數(shù)是X上的范數(shù)（Norm）。帶有給定范數(shù)的線性空間 稱為賦范空間。 8賦范空間定義了范數(shù)，即可定義度量有了度量，即可定義極限、進(jìn)而定義收斂、連續(xù)性等。有了極限和收斂即可定義Cauchy列，定義了Cauchy列，即可判斷空間的完備性。賦范空間舉例n維復(fù)Euclid空間Cn在Cn的內(nèi)積定義的基礎(chǔ)上，定義易驗(yàn)證，此范數(shù)滿足范數(shù)的3個(gè)條件，稱為向量x的2-范數(shù)或長(zhǎng)度。 由Cauchy-schwarz不等式對(duì)歐氏空間, 內(nèi)積的模方不大于長(zhǎng)度平方之積9賦范空

4、間n維復(fù)Euclid空間Cn ，定義則 是范數(shù)， 是帶有范數(shù) 的賦范空間 ，由絕對(duì)值不等式，條件1很容易驗(yàn)證： 同樣可驗(yàn)證條件2、31-范數(shù)10賦范空間Ca, b :設(shè)Ca, b是a, b上實(shí)值或復(fù)值連續(xù)函數(shù)的全體，在第一講中我們已知此空間是線性空間，對(duì) 定義可以證明， 是范數(shù)，Ca, b是賦范空間。上界設(shè) ，如果 ，使得 ，有 ，則稱c是A的一個(gè)上界，并稱集合A有上界或上有界Just because of layout11賦范空間上確界（Suprmum）如果A有上界，且A的上界中有一個(gè)最小者M(jìn)，則稱M是A的上確界或最小上界，記作 ，上確界要滿足兩個(gè)條件1 M是A的一個(gè)上界2 對(duì)A的任一上界c

5、，有由此，如果A有上確界，則必是唯一的如果A無上界，可記作同樣可定義下界、下確界（Infimum） 。下確界也是唯一的。如果不存在下確界，記作現(xiàn)在證明線性空間Ca, b中定義的 是范數(shù) ， ，由上界的定義由絕對(duì)值不等式12賦范空間 是顯然的 當(dāng)且僅當(dāng) ，即Ca, b上恒為0的函數(shù)13賦范空間a, b上所有連續(xù)函數(shù)的全體構(gòu)成的空間已知此空間是線性空間，對(duì)此空間中的任一函數(shù) f 定義則 是范數(shù)，Ca, b是賦范空間空間lp此空間中的向量 為滿足條件 的無窮維向量，由第一講已知此空間是線性空間，對(duì) ，定義由Minkowski不等式知 是范數(shù)，空間lp是賦范空間p-范數(shù)14賦范空間當(dāng) 時(shí)，定義 為所有

6、無窮維有界向量構(gòu)成的空間，對(duì) ，定義仿照Ca, b空間的做法，易證 是范數(shù)， 是賦范空間Hlder不等式：Minkowski不等式：Cauchy-Shwarz不等式：取p = 2定義內(nèi)積為還有積分形式-范數(shù)15線性空間、內(nèi)積空間和賦范空間的關(guān)系內(nèi)積空間定義了內(nèi)積賦范空間賦予范數(shù)Hilbert空間完備線性空間n維實(shí)空間Rnn維歐氏空間n維復(fù)空間Cnn維復(fù)歐氏空間（酉空間）Banach空間完備完備：空間中所有的Cauchy列都收斂16范數(shù)在優(yōu)化問題中的應(yīng)用由于線性空間中沒有度量，不能引入開集、閉集、收斂性和連續(xù)性的概念，所以引入范數(shù)，使之成為一個(gè)賦范線性空間賦范線性空間在收斂上有缺陷，即不具備完備

7、性。完備性在理論分析和實(shí)際應(yīng)用中有著重要意義，特別是在最優(yōu)化理論中，當(dāng)期望找到一個(gè)使目標(biāo)泛函達(dá)到最優(yōu)的向量時(shí)，往往是先構(gòu)造一個(gè)向量序列，其中每個(gè)元素大部分優(yōu)于其前面的元素，而最終所要求的最優(yōu)向量恰好是該序列的極限。在尚不知極限是何值的情況下，必須要有一個(gè)判據(jù)確保這種算法步驟有效，這個(gè)判據(jù)就是完備性引進(jìn)Cauchy列與完備性，使之成為一個(gè)Banach空間，是討論最優(yōu)化問題的基礎(chǔ)，特別是最小范數(shù)問題與最佳逼近問題的基礎(chǔ)王日爽范函分析與最優(yōu)化理論，北航出版社17范數(shù)在優(yōu)化問題中的應(yīng)用變分引理設(shè)X是Hilbert空間，K是H中非空閉凸集， ，則K中存在著唯一的點(diǎn) 使得 表示點(diǎn)h到K中點(diǎn)k的距離，表示點(diǎn)

8、h到集合K的距離記作 ，此定理表明存在唯一的點(diǎn) 達(dá)到h到K中點(diǎn)的距離的最小值 葛顯良應(yīng)用泛函分析，浙大出版社KKh18內(nèi)積空間投影定理在3維歐氏空間中，從一點(diǎn)到一個(gè)平面的最短距離，是由該點(diǎn)向平面所作的垂直線段。推廣到高維空間和無窮維Hilbert空間時(shí)，在最佳逼近、Fourier級(jí)數(shù)和最小范數(shù)問題中有著廣泛的應(yīng)用設(shè)M是Hilbert空間H中的閉線性子空間， ，且 是M中滿足 的唯一元素，則 反之，若 且 ，則 王日爽、葛顯良：同上19幾個(gè)重要不等式的證明Young不等式設(shè) ， ，則有證明：在平面上由方程 所定義的曲線在0, a上圍成曲邊三角形xy020幾個(gè)重要不等式的證明其面積為另一方面，將此

9、曲線用 來表示，在y軸的區(qū)間0, b上的曲邊三角形的面積為比較以a, b為邊的矩形面積與兩曲邊三角形面積之和21幾個(gè)重要不等式的證明級(jí)數(shù)形式的Hlder不等式設(shè) ， ，則有 當(dāng)右邊的兩個(gè)級(jí)數(shù)收斂時(shí)，左邊的級(jí)數(shù)也收斂。若k n時(shí)， ，即得有限和的形式。證明：先對(duì) 正規(guī)化，使證明簡(jiǎn)化。令那么 ， 。由Young不等式22幾個(gè)重要不等式的證明兩邊求前n項(xiàng)的和代換回 ，得當(dāng)右邊的兩個(gè)級(jí)數(shù)收斂時(shí)，令 ，即證Cauchy-Shwarz不等式：取p = 2, 定義內(nèi)積為23幾個(gè)重要不等式的證明級(jí)數(shù)形式的Minkowski不等式設(shè) ， ，則有 當(dāng)右邊的兩個(gè)級(jí)數(shù)收斂時(shí)，左邊的級(jí)數(shù)也收斂。若k n時(shí)， ，即得有限

10、和的形式。證明：p = 1時(shí)，由絕對(duì)值不等式，結(jié)論成立。設(shè)p 1絕對(duì)值不等式：qpHlder不等式：24范數(shù)的等價(jià)性兩邊除以 ，注意到 ，即證。范數(shù)的等價(jià)性賦范空間的極限和收斂矩陣論簡(jiǎn)明教程p43定義：如果序列 ， ，當(dāng) 時(shí)，稱 收斂于x，x為 的極限，記作范數(shù)等價(jià)的定義如果 和 是定義在線性空間X上的兩個(gè)范數(shù)，稱它們?yōu)榈葍r(jià)的，如果定義相同的收斂性p25幾個(gè)重要不等式的證明范數(shù)等價(jià)的充要條件如果 和 是定義在線性空間X上的兩個(gè)范數(shù)，則這兩個(gè)范數(shù)等價(jià)的充要條件是 ，使得 ，都有證明：充分性如果條件成立，則當(dāng) 時(shí)，當(dāng) 時(shí)，所以，此兩范數(shù)具有相同的收斂性，即它們是等價(jià)的。必要性反證法：若 和 等價(jià)，

11、如果不存在 ，使得26幾個(gè)重要不等式的證明對(duì) ， ，使得 ，否則， 是存在的，那么 兩邊同乘以令 ，則 ，且 但與 、 等價(jià)矛盾，所以 ，使得同理可證 ，使得 令 ，則 ，定理得證27有限維賦范空間的范數(shù)特性定理如果X是數(shù)域F上的有限維線性空間，則X上的任意兩個(gè)范數(shù)是等價(jià)的徐仲等矩陣論簡(jiǎn)明教程p41引理范數(shù)是連續(xù)的，即當(dāng) 時(shí)，證明：28有限維賦范空間的范數(shù)特性引理設(shè)f是定義在賦范空間X的緊集A上的連續(xù)實(shí)泛函，即 連續(xù)，則f在A上取到最大值和最小值葛顯良應(yīng)用泛函分析p113證明（有限維線性空間上范數(shù)是等價(jià)的）：設(shè)X是n維線性空間，單位球面 是X中的有界緊集故 在S上可取到最大值和最小值，設(shè)分別為

12、 和則 ，當(dāng) 時(shí)，29有限維賦范空間的范數(shù)特性因此同理，對(duì)定義在有限維賦范空間X上的范數(shù) ，可得即 與 等價(jià)Just because of layout30內(nèi)積空間的正交性正交性向量的正交性設(shè)X為內(nèi)積空間， ，若 ，則稱x, y為正交的（或直交的），記作集合的正交性設(shè) ，若 ， ，有 ，則稱A與B正交，記作向量與集合的正交對(duì)向量x，若 ，均有 ，則稱x與A正交，記作零向量0與任何向量x正交，也與任何集合A正交多維空間的勾股定理若 在X中兩兩正交，則31內(nèi)積空間的正交性單位向量對(duì)內(nèi)積空間X ， ，若 ，則稱x為單位向量向量的單位化或規(guī)范化內(nèi)積空間的非零向量除以其長(zhǎng)度，稱為將向量x單位化或規(guī)范化設(shè)X是內(nèi)積空間， ，則設(shè) 是內(nèi)積空間X的一組兩兩正交的非零向量，則 線性無關(guān)證明：設(shè) 令 考察 是否 。為此，對(duì)任意32內(nèi)積空間的正交性由對(duì)第一變?cè)木€性由于 兩兩正交，上式變?yōu)槎?, ，因此這說明即 線性無關(guān)將線性代數(shù)中Gram-Schmidt正交化程序構(gòu)造標(biāo)準(zhǔn)正交向量組的方法推廣到內(nèi)