Matrix1-3線性空間與線性變換矩陣論

Matrix1-3線性空間與線性變換矩陣論匯報人：AA2024-01-24線性空間基本概念與性質(zhì)線性變換及其矩陣表示內(nèi)積空間與正交變換廣義逆矩陣與滿秩分解矩陣函數(shù)與微分運算總結(jié)回顧與拓展延伸目錄CONTENTS01線性空間基本概念與性質(zhì)設(shè)V是一個非空集合，P是一個數(shù)域，若對V中的任意兩個元素α與β，總有唯一的一個元素γ∈V與之對應(yīng)，稱為α與β的和，記為γ=α+β；若對V中的任意元素α與數(shù)域P中的任意數(shù)k，總有唯一的一個元素δ∈V與之對應(yīng)，稱為k與α的數(shù)量乘積，記為δ=kα，并且和與數(shù)量乘積兩種運算滿足八條運算規(guī)則，則稱集合V為數(shù)域P上的線性空間。定義n維向量空間、連續(xù)函數(shù)空間、矩陣空間等。例子線性空間定義及例子基在線性空間中，如果存在n個線性無關(guān)的向量α1,α2,...,αn，使得空間中任意向量α都可以由它們線性表示出來，即存在一組數(shù)k1,k2,...,kn，使得α=k1α1+k2α2+...+knαn，則稱向量組α1,α2,...,αn為線性空間的一個基。維數(shù)基中向量的個數(shù)n稱為線性空間的維數(shù)。線性空間基與維數(shù)定義：設(shè)W是數(shù)域P上線性空間V的一個非空子集，若W對于V中的加法及數(shù)量乘法也構(gòu)成數(shù)域P上的線性空間，則稱W是V的一個線性子空間。性質(zhì)子空間的交與和仍是子空間。子空間的維數(shù)不超過原空間的維數(shù)。若子空間的維數(shù)等于原空間的維數(shù)，則該子空間等于原空間。線性子空間及其性質(zhì)坐標(biāo)在線性空間中，取定一個基后，空間中任意向量都可以由基唯一地線性表示出來，這組表示系數(shù)稱為該向量在這個基下的坐標(biāo)。坐標(biāo)變換設(shè)α1,α2,...,αn與β1,β2,...,βn是線性空間的兩個基，則由基的定義可知，存在唯一的可逆矩陣P，使得(β1,β2,...,βn)=(α1,α2,...,αn)P。若向量α在基α1,α2,...,αn下的坐標(biāo)為X，在基β1,β2,...,βn下的坐標(biāo)為Y，則有Y=PX，這個公式稱為坐標(biāo)變換公式。坐標(biāo)與坐標(biāo)變換02線性變換及其矩陣表示線性變換定義及性質(zhì)T(0)=0；線性變換性質(zhì)線性變換定義：設(shè)V和W是數(shù)域F上的線性空間，T是從V到W的映射，如果T滿足T(α+β)=T(α)+T(β)和T(kα)=kT(α)，則稱T為V到W的線性變換。T(-α)=-T(α)；T(k1α1+k2α2+…+ksαs)=k1T(α1)+k2T(α2)+…+ksT(αs)。線性變換在基下的矩陣表示設(shè)V和W是數(shù)域F上的n維和m維線性空間，T是從V到W的線性變換，在V中取定一個基α1,α2,…,αn，在W中取定一個基β1,β2,…,βm，則線性變換T可以用一個m×n矩陣A來表示，稱為T在基α1,α2,…,αn和基β1,β2,…,βm下的矩陣表示。線性變換在不同基下的矩陣關(guān)系設(shè)V和W是數(shù)域F上的n維和m維線性空間，T是從V到W的線性變換，在V中有兩組基α1,α2,…,αn和γ1,γ2,…,γn，在W中有兩組基β1,β2,…,βm和δ1,δ2,…,δm，如果T在基α1,α2,…,αn和基β1,β2,…,βm下的矩陣表示為A，在基γ1,γ2,…,γn和基δ1,δ2,…,δm下的矩陣表示為B，則有B=P-1AP，其中P是從基α1,α2,…,αn到基γ1,γ2,…,γn的過渡矩陣，即從基γ1,γ2,…,γn到基α1,α2,…,αn的坐標(biāo)變換矩陣。線性變換矩陣表示方法相似矩陣定義：設(shè)A和B都是n階方陣，如果存在一個可逆矩陣P，使得P-1AP=B，則稱A與B相似。特征值與特征向量定義：設(shè)A是n階方陣，如果數(shù)λ和n維非零列向量x滿足Ax=λx，則稱λ是A的一個特征值，x是A的對應(yīng)于特征值λ的一個特征向量。特征值與特征向量性質(zhì)不同特征值對應(yīng)的特征向量線性無關(guān)；k重特征值至多對應(yīng)k個線性無關(guān)的特征向量；若A與B相似，則A與B有相同的特征多項式，從而有相同的特征值。相似矩陣與特征值問題不變子空間定義設(shè)T是線性空間V的線性變換，如果V的子空間W滿足T(W)?W，則稱W是T的不變子空間。若爾當(dāng)標(biāo)準(zhǔn)型定義設(shè)A是n階方陣，如果存在一個可逆矩陣P，使得P-1AP=J，其中J是由若干個主對角線上元素為λi的若爾當(dāng)塊組成的準(zhǔn)對角矩陣，則稱J為A的若爾當(dāng)標(biāo)準(zhǔn)型。不變子空間與若爾當(dāng)標(biāo)準(zhǔn)型若爾當(dāng)標(biāo)準(zhǔn)型性質(zhì)若爾當(dāng)標(biāo)準(zhǔn)型是唯一的；若爾當(dāng)塊個數(shù)等于A的特征值個數(shù)；不變子空間與若爾當(dāng)標(biāo)準(zhǔn)型若爾當(dāng)塊大小之和等于n；每個特征值對應(yīng)的若爾當(dāng)塊的最大尺寸等于該特征值的代數(shù)重數(shù)與幾何重數(shù)之差加1。不變子空間與若爾當(dāng)標(biāo)準(zhǔn)型03內(nèi)積空間與正交變換123設(shè)$V$是實數(shù)域或復(fù)數(shù)域$F$上的線性空間，若在$V$上定義了一個二元實函數(shù)$(a,b)$，滿足以下性質(zhì)定義$(a,b)=overline{(b,a)}$對稱性$(k_1a_1+k_2a_2,b)=k_1(a_1,b)+k_2(a_2,b)$線性性內(nèi)積空間定義及性質(zhì)0102內(nèi)積空間定義及性質(zhì)則稱$(a,b)$為$V$上的一個內(nèi)積，定義了內(nèi)積的線性空間$V$稱為內(nèi)積空間。正定性：$(a,a)geq0$，且$(a,a)=0Leftrightarrowa=0$性質(zhì)$(a+b,c)=(a,c)+(b,c)$內(nèi)積空間定義及性質(zhì)$(ka,b)=k(a,b)$當(dāng)$F$是實數(shù)域時，$(a,b)=(b,a)$內(nèi)積空間定義及性質(zhì)正交變換的矩陣是正交矩陣。正交變換保持向量的長度和夾角不變。性質(zhì)正交基：在內(nèi)積空間中，若一組基中的任意兩個不同向量都正交，則稱這組基為正交基。正交變換：設(shè)$T$是內(nèi)積空間$V$到自身的一個線性變換，若對$V$中任意向量$a,b$，都有$(T(a),T(b))=(a,b)$，則稱$T$為正交變換。正交基與正交變換設(shè)$A$是一個$n$階方陣，若$A^T=A$，則稱$A$為對稱矩陣。對稱矩陣設(shè)$A$是一個$n$階方陣，若存在可逆矩陣$P$，使得$P^{-1}AP=Lambda$，其中$Lambda$是對角矩陣，則稱$A$可對角化。對角化對稱矩陣對角化問題性質(zhì)對稱矩陣的特征值都是實數(shù)。對稱矩陣的不同特征值對應(yīng)的特征向量正交。對稱矩陣一定可以對角化。01020304對稱矩陣對角化問題正交補：設(shè)$W$是內(nèi)積空間$V$的一個子空間，若存在子空間$W^{perp}$，使得$V=WoplusW^{perp}$（直和），且對任意$winW,w^{perp}inW^{perp}$，都有$(w,w^{perp})=0$，則稱$W^{perp}$為$W$的正交補。最小二乘法：在數(shù)據(jù)擬合中，最小二乘法是一種常用的方法。它通過最小化誤差的平方和來尋找數(shù)據(jù)的最佳函數(shù)匹配。在內(nèi)積空間中，最小二乘法可以轉(zhuǎn)化為求解一個正交投影問題。性質(zhì)正交補是唯一的。最小二乘解是唯一的，且是最佳逼近解。0102030405正交補和最小二乘法04廣義逆矩陣與滿秩分解對于任意矩陣A，若存在矩陣X滿足AXA=A，則稱X為A的廣義逆矩陣，記作A-。廣義逆矩陣定義A的廣義逆矩陣是唯一的。唯一性若A為對稱矩陣，則其廣義逆矩陣也是對稱的。對稱性廣義逆矩陣滿足結(jié)合律和分配律。運算性質(zhì)廣義逆矩陣概念及性質(zhì)滿秩分解定義：對于任意矩陣A，若存在列滿秩矩陣F和行滿秩矩陣G，使得A=FG，則稱該分解為A的滿秩分解。滿秩分解方法利用高斯消元法或初等變換將A化為行階梯形矩陣，從而得到F和G。利用矩陣的QR分解或SVD分解進行滿秩分解。滿秩分解應(yīng)用：在求解線性方程組、計算矩陣的秩和特征值等問題中，滿秩分解可將問題轉(zhuǎn)化為低維空間中的計算，簡化計算過程。滿秩分解方法及應(yīng)用SVD定義：對于任意矩陣A∈?^m×n。存在酉矩陣U∈?^m×m和V∈?^n×n。以及非負(fù)實數(shù)對角陣Σ∈?^m×n。使得A=UΣV*SVD計算步驟1.計算AA*和A*A的特征值和特征向量。2.將特征向量正交化并單位化，得到酉矩陣U和V。3.計算Σ對角線上的奇異值，即AA*和A*A特征值的平方根。SVD應(yīng)用：在圖像處理、數(shù)據(jù)壓縮、推薦系統(tǒng)等領(lǐng)域中，SVD可用于降維、特征提取和數(shù)據(jù)分析等任務(wù)。奇異值分解（SVD）原理廣義逆解方程組當(dāng)方程組無解或有多解時，可利用廣義逆矩陣求得最小二乘解，即使殘差||Ax-b||^2最小的解。最小二乘解迭代法求解結(jié)合迭代法如雅可比迭代、高斯-賽德爾迭代等，可利用廣義逆矩陣加速迭代過程并提高求解精度。對于線性方程組Ax=b，當(dāng)A為長方陣或奇異陣時，可利用廣義逆矩陣求解，即x=A-b。廣義逆在解方程組中應(yīng)用05矩陣函數(shù)與微分運算矩陣函數(shù)定義及性質(zhì)矩陣函數(shù)定義設(shè)$A$為$n$階方陣，若存在一解析函數(shù)$f(x)$，使得$f(A)$有意義，則稱$f(A)$為矩陣函數(shù)。矩陣函數(shù)的性質(zhì)矩陣函數(shù)具有線性性、可加性、可乘性、可微性等基本性質(zhì)。VS設(shè)$f(A)$為矩陣函數(shù)，若極限$lim_{DeltaAto0}frac{f(A+DeltaA)-f(A)}{DeltaA}$存在，則稱此極限為$f(A)$在$A$處的導(dǎo)數(shù)，記為$f'(A)$。常見矩陣函數(shù)求導(dǎo)法則包括常數(shù)矩陣、線性矩陣、多項式矩陣、指數(shù)矩陣、對數(shù)矩陣、三角函數(shù)矩陣等求導(dǎo)法則。矩陣函數(shù)的導(dǎo)數(shù)定義常見矩陣函數(shù)求導(dǎo)法則微分方程是含有未知函數(shù)的導(dǎo)數(shù)或微分的方程。在矩陣論中，主要研究線性微分方程和矩陣微分方程。包括分離變量法、常數(shù)變易法、拉普拉斯變換法、特征根法等。微分方程求解方法微分方程的求解方法微分方程的基本概念矩陣函數(shù)在優(yōu)化問題中應(yīng)用最優(yōu)化問題是研究在給定約束條件下，尋找目標(biāo)函數(shù)的最大值或最小值的問題。在矩陣論中，最優(yōu)化問題通常轉(zhuǎn)化為求解矩陣函數(shù)的極值問題。最優(yōu)化問題概述包括無約束優(yōu)化問題的求解方法（如梯度下降法、牛頓法等）、約束優(yōu)化問題的求解方法（如拉格朗日乘數(shù)法、罰函數(shù)法等）以及非線性規(guī)劃問題的求解方法（如遺傳算法、模擬退火算法等）。矩陣函數(shù)在優(yōu)化問題中的應(yīng)用06總結(jié)回顧與拓展延伸線性空間是滿足特定性質(zhì)的向量集合，包括加法封閉性、數(shù)乘封閉性、加法交換律、加法結(jié)合律等。線性空間定義與性質(zhì)基、維數(shù)與坐標(biāo)線性變換及其性質(zhì)矩陣與線性變換的對應(yīng)關(guān)系基是線性空間中的極大線性無關(guān)組，維數(shù)是基中向量的個數(shù)。坐標(biāo)是向量在基下的表示。線性變換是保持向量加法和數(shù)乘運算不變的變換，具有保持線性組合性質(zhì)不變的特點。矩陣可以表示線性變換，矩陣的乘法對應(yīng)線性變換的復(fù)合。關(guān)鍵知識點總結(jié)回顧例題1例題2例題3例題4典型例題分析講解判斷向量組是否線性相關(guān)，并求其極大線性無關(guān)組。判斷線性變換是否為線性變換，并求其在給定基下的矩陣表示。求向量在給定基下的坐標(biāo)。利用矩陣的乘法運算求解線性方程組。相關(guān)領(lǐng)域拓展延伸廣義逆矩陣與最小二乘法廣義逆