如何理解矩陣

1、線性代數(shù)課程，無論你從行列式入手還是直接從矩陣入手，從一開始就充斥著莫名其妙。比如說，在全國一般工科院系教學(xué)中應(yīng)用最廣泛的同濟(jì)線性代數(shù)教材（現(xiàn)在到了第四版），一上來就介紹逆序數(shù)這個(gè)“前無古人，后無來者”的古怪概念，然后用逆序數(shù)給出行列式的一個(gè)極不直觀的定義，接著是一些簡直犯傻的行列式性質(zhì)和習(xí)題把這行乘一個(gè)系數(shù)加到另一行上，再把那一列減過來，折騰得那叫一個(gè)熱鬧，可就是壓根看不出這個(gè)東西有嘛用。大多數(shù)像我一樣資質(zhì)平庸的學(xué)生到這里就有點(diǎn)犯暈：連這是個(gè)什么東西都模模糊糊的，就開始鉆火圈表演了，這未免太“無厘頭”了吧！于是開始有人逃課，更多的人開始抄作業(yè)。這下就中招了，因?yàn)槠浜蟮陌l(fā)展可以用一句峰回路轉(zhuǎn)來

2、形容，緊跟著這個(gè)無厘頭的行列式的，是一個(gè)同樣無厘頭但是偉大的無以復(fù)加的家伙的出場矩陣來了！多年之后，我才明白，當(dāng)老師犯傻似地用中括號把一堆傻了吧嘰的數(shù)括起來，并且不緊不慢地說：“這個(gè)東西叫做矩陣”的時(shí)候，我的數(shù)學(xué)生涯掀開了何等悲壯辛酸、慘絕人寰的一幕！自那以后，在幾乎所有跟“學(xué)問”二字稍微沾點(diǎn)邊的東西里，矩陣這個(gè)家伙從不缺席。對于我這個(gè)沒能一次搞定線性代數(shù)的笨蛋來說，矩陣?yán)洗蟮牟徽堊詠砻棵扛愕梦一翌^土臉，頭破血流。長期以來，我在閱讀中一見矩陣，就如同阿Q見到了假洋鬼子，揉揉額角就繞道走。 事實(shí)上，我并不是特例。一般工科學(xué)生初學(xué)線性代數(shù)，通常都會(huì)感到困難。這種情形在國內(nèi)外皆然。瑞典數(shù)學(xué)家Lars

3、 Garding在其名著Encounter with Mathematics中說：“如果不熟悉線性代數(shù)的概念，要去學(xué)習(xí)自然科學(xué)，現(xiàn)在看來就和文盲差不多?！?，然而“按照現(xiàn)行的國際標(biāo)準(zhǔn)，線性代數(shù)是通過公理化來表述的，它是第二代數(shù)學(xué)模型，.，這就帶來了教學(xué)上的困難?！笔聦?shí)上，當(dāng)我們開始學(xué)習(xí)線性代數(shù)的時(shí)候，不知不覺就進(jìn)入了“第二代數(shù)學(xué)模型”的范疇當(dāng)中，這意味著數(shù)學(xué)的表述方式和抽象性有了一次全面的進(jìn)化，對于從小一直在“第一代數(shù)學(xué)模型”，即以實(shí)用為導(dǎo)向的、具體的數(shù)學(xué)模型中學(xué)習(xí)的我們來說，在沒有并明確告知的情況下進(jìn)行如此劇烈的paradigm shift，不感到困難才是奇怪的。大部分工科學(xué)生，往往是在學(xué)習(xí)了

4、一些后繼課程，如數(shù)值分析、數(shù)學(xué)規(guī)劃、矩陣論之后，才逐漸能夠理解和熟練運(yùn)用線性代數(shù)。即便如此，不少人即使能夠很熟練地以線性代數(shù)為工具進(jìn)行科研和應(yīng)用工作，但對于很多這門課程的初學(xué)者提出的、看上去是很基礎(chǔ)的問題卻并不清楚。比如說：* 矩陣究竟是什么東西？向量可以被認(rèn)為是具有n個(gè)相互獨(dú)立的性質(zhì)（維度）的對象的表示，矩陣又是什么呢？我們?nèi)绻J(rèn)為矩陣是一組列（行）向量組成的新的復(fù)合向量的展開式，那么為什么這種展開式具有如此廣泛的應(yīng)用？特別是，為什么偏偏二維的展開式如此有用？如果矩陣中每一個(gè)元素又是一個(gè)向量，那么我們再展開一次，變成三維的立方陣，是不是更有用？* 矩陣的乘法規(guī)則究竟為什么這樣規(guī)定？為什么這樣

5、一種怪異的乘法規(guī)則卻能夠在實(shí)踐中發(fā)揮如此巨大的功效？很多看上去似乎是完全不相關(guān)的問題，最后竟然都?xì)w結(jié)到矩陣的乘法，這難道不是很奇妙的事情？難道在矩陣乘法那看上去莫名其妙的規(guī)則下面，包含著世界的某些本質(zhì)規(guī)律？如果是的話，這些本質(zhì)規(guī)律是什么？* 行列式究竟是一個(gè)什么東西？為什么會(huì)有如此怪異的計(jì)算規(guī)則？行列式與其對應(yīng)方陣本質(zhì)上是什么關(guān)系？為什么只有方陣才有對應(yīng)的行列式，而一般矩陣就沒有（不要覺得這個(gè)問題很蠢，如果必要，針對m x n矩陣定義行列式不是做不到的，之所以不做，是因?yàn)闆]有這個(gè)必要，但是為什么沒有這個(gè)必要）？而且，行列式的計(jì)算規(guī)則，看上去跟矩陣的任何計(jì)算規(guī)則都沒有直觀的聯(lián)系，為什么又在很多方

6、面決定了矩陣的性質(zhì)？難道這一切僅是巧合？* 矩陣為什么可以分塊計(jì)算？分塊計(jì)算這件事情看上去是那么隨意，為什么竟是可行的？* 對于矩陣轉(zhuǎn)置運(yùn)算AT，有(AB)T = BTAT，對于矩陣求逆運(yùn)算A-1，有(AB)-1 = B-1A-1。兩個(gè)看上去完全沒有什么關(guān)系的運(yùn)算，為什么有著類似的性質(zhì)？這僅僅是巧合嗎？* 為什么說P-1AP得到的矩陣與A矩陣“相似”？這里的“相似”是什么意思？* 特征值和特征向量的本質(zhì)是什么？它們定義就讓人很驚訝，因?yàn)锳x =x，一個(gè)諾大的矩陣的效應(yīng)，竟然不過相當(dāng)于一個(gè)小小的數(shù)，確實(shí)有點(diǎn)奇妙。但何至于用“特征”甚至“本征”來界定？它們刻劃的究竟是什么？ 這樣的一類問題，經(jīng)常讓

7、使用線性代數(shù)已經(jīng)很多年的人都感到為難。就好像大人面對小孩子的刨根問底，最后總會(huì)迫不得已地說“就這樣吧，到此為止”一樣，面對這樣的問題，很多老手們最后也只能用：“就是這么規(guī)定的，你接受并且記住就好”來搪塞。然而，這樣的問題如果不能獲得回答，線性代數(shù)對于我們來說就是一個(gè)粗暴的、不講道理的、莫名其妙的規(guī)則集合，我們會(huì)感到，自己并不是在學(xué)習(xí)一門學(xué)問，而是被不由分說地“拋到”一個(gè)強(qiáng)制的世界中，只是在考試的皮鞭揮舞之下被迫趕路，全然無法領(lǐng)略其中的美妙、和諧與統(tǒng)一。直到多年以后，我們已經(jīng)發(fā)覺這門學(xué)問如此的有用，卻仍然會(huì)非常迷惑：怎么這么湊巧？ 我認(rèn)為，這是我們的線性代數(shù)教學(xué)中直覺性喪失的后果。上述這些涉及到

8、“如何能”、“怎么會(huì)”的問題，僅僅通過純粹的數(shù)學(xué)證明來回答，是不能令提問者滿意的。比如，如果你通過一般的證明方法論證了矩陣分塊運(yùn)算確實(shí)可行，那么這并不能夠讓提問者的疑惑得到解決。他們真正的困惑是：矩陣分塊運(yùn)算為什么竟然是可行的？究竟只是湊巧，還是說這是由矩陣這種對象的某種本質(zhì)所必然決定的？如果是后者，那么矩陣的這些本質(zhì)是什么？只要對上述那些問題稍加考慮，我們就會(huì)發(fā)現(xiàn)，所有這些問題都不是單純依靠數(shù)學(xué)證明所能夠解決的。像我們的教科書那樣，凡事用數(shù)學(xué)證明，最后培養(yǎng)出來的學(xué)生，只能熟練地使用工具，卻欠缺真正意義上的理解。 自從1930年代法國布爾巴基學(xué)派興起以來，數(shù)學(xué)的公理化、系統(tǒng)性描述已經(jīng)獲得巨大的

9、成功，這使得我們接受的數(shù)學(xué)教育在嚴(yán)謹(jǐn)性上大大提高。然而數(shù)學(xué)公理化的一個(gè)備受爭議的副作用，就是一般數(shù)學(xué)教育中直覺性的喪失。數(shù)學(xué)家們似乎認(rèn)為直覺性與抽象性是矛盾的，因此毫不猶豫地犧牲掉前者。然而包括我本人在內(nèi)的很多人都對此表示懷疑，我們不認(rèn)為直覺性與抽象性一定相互矛盾，特別是在數(shù)學(xué)教育中和數(shù)學(xué)教材中，幫助學(xué)生建立直覺，有助于它們理解那些抽象的概念，進(jìn)而理解數(shù)學(xué)的本質(zhì)。反之，如果一味注重形式上的嚴(yán)格性，學(xué)生就好像被迫進(jìn)行鉆火圈表演的小白鼠一樣，變成枯燥的規(guī)則的奴隸。 對于線性代數(shù)的類似上述所提到的一些直覺性的問題，兩年多來我斷斷續(xù)續(xù)地反復(fù)思考了四、五次，為此閱讀了好幾本國內(nèi)外線性代數(shù)、數(shù)值分析、代數(shù)

10、和數(shù)學(xué)通論性書籍，其中像前蘇聯(lián)的名著數(shù)學(xué)：它的內(nèi)容、方法和意義、龔昇教授的線性代數(shù)五講、前面提到的Encounter with Mathematics（數(shù)學(xué)概觀）以及Thomas A. Garrity的數(shù)學(xué)拾遺都給我很大的啟發(fā)。不過即使如此，我對這個(gè)主題的認(rèn)識(shí)也經(jīng)歷了好幾次自我否定。比如以前思考的一些結(jié)論曾經(jīng)寫在自己的blog里，但是現(xiàn)在看來，這些結(jié)論基本上都是錯(cuò)誤的。因此打算把自己現(xiàn)在的有關(guān)理解比較完整地記錄下來，一方面是因?yàn)槲矣X得現(xiàn)在的理解比較成熟了，可以拿出來與別人探討，向別人請教。另一方面，如果以后再有進(jìn)一步的認(rèn)識(shí)，把現(xiàn)在的理解給推翻了，那現(xiàn)在寫的這個(gè)snapshot也是很有意義的。

11、因?yàn)榇蛩銓懙帽容^多，所以會(huì)分幾次慢慢寫。也不知道是不是有時(shí)間慢慢寫完整，會(huì)不會(huì)中斷，寫著看吧。 今天先談?wù)剬€形空間和矩陣的幾個(gè)核心概念的理解。這些東西大部分是憑著自己的理解寫出來的，基本上不抄書，可能有錯(cuò)誤的地方，希望能夠被指出。但我希望做到直覺，也就是說能把數(shù)學(xué)背后說的實(shí)質(zhì)問題說出來。 首先說說空間(space)，這個(gè)概念是現(xiàn)代數(shù)學(xué)的命根子之一，從拓?fù)淇臻g開始，一步步往上加定義，可以形成很多空間。線形空間其實(shí)還是比較初級的，如果在里面定義了范數(shù)，就成了賦范線性空間。賦范線性空間滿足完備性，就成了巴那赫空間；賦范線性空間中定義角度，就有了內(nèi)積空間，內(nèi)積空間再滿足完備性，就得到希爾伯特空間。

12、總之，空間有很多種。你要是去看某種空間的數(shù)學(xué)定義，大致都是“存在一個(gè)集合，在這個(gè)集合上定義某某概念，然后滿足某些性質(zhì)”，就可以被稱為空間。這未免有點(diǎn)奇怪，為什么要用“空間”來稱呼一些這樣的集合呢？大家將會(huì)看到，其實(shí)這是很有道理的。 我們一般人最熟悉的空間，毫無疑問就是我們生活在其中的（按照牛頓的絕對時(shí)空觀）的三維空間，從數(shù)學(xué)上說，這是一個(gè)三維的歐幾里德空間，我們先不管那么多，先看看我們熟悉的這樣一個(gè)空間有些什么最基本的特點(diǎn)。仔細(xì)想想我們就會(huì)知道，這個(gè)三維的空間：1. 由很多（實(shí)際上是無窮多個(gè)）位置點(diǎn)組成；2. 這些點(diǎn)之間存在相對的關(guān)系；3. 可以在空間中定義長度、角度；4. 這個(gè)空間可以容納運(yùn)

13、動(dòng)，這里我們所說的運(yùn)動(dòng)是從一個(gè)點(diǎn)到另一個(gè)點(diǎn)的移動(dòng)（變換），而不是微積分意義上的“連續(xù)”性的運(yùn)動(dòng)， 上面的這些性質(zhì)中，最最關(guān)鍵的是第4條。第1、2條只能說是空間的基礎(chǔ)，不算是空間特有的性質(zhì)，凡是討論數(shù)學(xué)問題，都得有一個(gè)集合，大多數(shù)還得在這個(gè)集合上定義一些結(jié)構(gòu)（關(guān)系），并不是說有了這些就算是空間。而第3條太特殊，其他的空間不需要具備，更不是關(guān)鍵的性質(zhì)。只有第4條是空間的本質(zhì)，也就是說，容納運(yùn)動(dòng)是空間的本質(zhì)特征。 認(rèn)識(shí)到了這些，我們就可以把我們關(guān)于三維空間的認(rèn)識(shí)擴(kuò)展到其他的空間。事實(shí)上，不管是什么空間，都必須容納和支持在其中發(fā)生的符合規(guī)則的運(yùn)動(dòng)（變換）。你會(huì)發(fā)現(xiàn)，在某種空間中往往會(huì)存在一種相對應(yīng)的變

14、換，比如拓?fù)淇臻g中有拓?fù)渥儞Q，線性空間中有線性變換，仿射空間中有仿射變換，其實(shí)這些變換都只不過是對應(yīng)空間中允許的運(yùn)動(dòng)形式而已。 因此只要知道，“空間”是容納運(yùn)動(dòng)的一個(gè)對象集合，而變換則規(guī)定了對應(yīng)空間的運(yùn)動(dòng)。 下面我們來看看線性空間。線性空間的定義任何一本書上都有，但是既然我們承認(rèn)線性空間是個(gè)空間，那么有兩個(gè)最基本的問題必須首先得到解決，那就是：1. 空間是一個(gè)對象集合，線性空間也是空間，所以也是一個(gè)對象集合。那么線性空間是什么樣的對象的集合？或者說，線性空間中的對象有什么共同點(diǎn)嗎？2. 線性空間中的運(yùn)動(dòng)如何表述的？也就是，線性變換是如何表示的？ 我們先來回答第一個(gè)問題，回答這個(gè)問題的時(shí)候其實(shí)是

15、不用拐彎抹角的，可以直截了當(dāng)?shù)慕o出答案。線性空間中的任何一個(gè)對象，通過選取基和坐標(biāo)的辦法，都可以表達(dá)為向量的形式。通常的向量空間我就不說了，舉兩個(gè)不那么平凡的例子：L1. 最高次項(xiàng)不大于n次的多項(xiàng)式的全體構(gòu)成一個(gè)線性空間，也就是說，這個(gè)線性空間中的每一個(gè)對象是一個(gè)多項(xiàng)式。如果我們以x0, x1, ., xn為基，那么任何一個(gè)這樣的多項(xiàng)式都可以表達(dá)為一組n+1維向量，其中的每一個(gè)分量ai其實(shí)就是多項(xiàng)式中x(i-1)項(xiàng)的系數(shù)。值得說明的是，基的選取有多種辦法，只要所選取的那一組基線性無關(guān)就可以。這要用到后面提到的概念了，所以這里先不說，提一下而已。L2. 閉區(qū)間a, b上的n階連續(xù)可微函數(shù)的全體，

16、構(gòu)成一個(gè)線性空間。也就是說，這個(gè)線性空間的每一個(gè)對象是一個(gè)連續(xù)函數(shù)。對于其中任何一個(gè)連續(xù)函數(shù)，根據(jù)魏爾斯特拉斯定理，一定可以找到最高次項(xiàng)不大于n的多項(xiàng)式函數(shù)，使之與該連續(xù)函數(shù)的差為0，也就是說，完全相等。這樣就把問題歸結(jié)為L1了。后面就不用再重復(fù)了。 所以說，向量是很厲害的，只要你找到合適的基，用向量可以表示線性空間里任何一個(gè)對象。這里頭大有文章，因?yàn)橄蛄勘砻嫔现皇且涣袛?shù)，但是其實(shí)由于它的有序性，所以除了這些數(shù)本身攜帶的信息之外，還可以在每個(gè)數(shù)的對應(yīng)位置上攜帶信息。為什么在程序設(shè)計(jì)中數(shù)組最簡單，卻又威力無窮呢？根本原因就在于此。這是另一個(gè)問題了，這里就不說了。 下面來回答第二個(gè)問題，這個(gè)問題的

17、回答會(huì)涉及到線性代數(shù)的一個(gè)最根本的問題。 線性空間中的運(yùn)動(dòng)，被稱為線性變換。也就是說，你從線性空間中的一個(gè)點(diǎn)運(yùn)動(dòng)到任意的另外一個(gè)點(diǎn)，都可以通過一個(gè)線性變化來完成。那么，線性變換如何表示呢？很有意思，在線性空間中，當(dāng)你選定一組基之后，不僅可以用一個(gè)向量來描述空間中的任何一個(gè)對象，而且可以用矩陣來描述該空間中的任何一個(gè)運(yùn)動(dòng)（變換）。而使某個(gè)對象發(fā)生對應(yīng)運(yùn)動(dòng)的方法，就是用代表那個(gè)運(yùn)動(dòng)的矩陣，乘以代表那個(gè)對象的向量。簡而言之，在線性空間中選定基之后，向量刻畫對象，矩陣刻畫對象的運(yùn)動(dòng)，用矩陣與向量的乘法施加運(yùn)動(dòng)。 是的，矩陣的本質(zhì)是運(yùn)動(dòng)的描述。如果以后有人問你矩陣是什么，那么你就可以響亮地告訴他，矩陣的

18、本質(zhì)是運(yùn)動(dòng)的描述?？墒嵌嗝从幸馑及。蛄勘旧聿皇且部梢钥闯墒莕 x 1矩陣嗎？這實(shí)在是很奇妙，一個(gè)空間中的對象和運(yùn)動(dòng)竟然可以用相類同的方式表示。能說這是巧合嗎？如果是巧合的話，那可真是幸運(yùn)的巧合！可以說，線性代數(shù)中大多數(shù)奇妙的性質(zhì)，均與這個(gè)巧合有直接的關(guān)系。接著理解矩陣。 上一篇里說“矩陣是運(yùn)動(dòng)的描述”，到現(xiàn)在為止，好像大家都還沒什么意見。但是我相信早晚會(huì)有數(shù)學(xué)系出身的網(wǎng)友來拍板轉(zhuǎn)。因?yàn)檫\(yùn)動(dòng)這個(gè)概念，在數(shù)學(xué)和物理里是跟微積分聯(lián)系在一起的。我們學(xué)習(xí)微積分的時(shí)候，總會(huì)有人照本宣科地告訴你，初等數(shù)學(xué)是研究常量的數(shù)學(xué)，是研究靜態(tài)的數(shù)學(xué)，高等數(shù)學(xué)是變量的數(shù)學(xué)，是研究運(yùn)動(dòng)的數(shù)學(xué)。大家口口相傳，差不多人人都

19、知道這句話。但是真知道這句話說的是什么意思的人，好像也不多。簡而言之，在我們?nèi)祟惖慕?jīng)驗(yàn)里，運(yùn)動(dòng)是一個(gè)連續(xù)過程，從A點(diǎn)到B點(diǎn)，就算走得最快的光，也是需要一個(gè)時(shí)間來逐點(diǎn)地經(jīng)過AB之間的路徑，這就帶來了連續(xù)性的概念。而連續(xù)這個(gè)事情，如果不定義極限的概念，根本就解釋不了。古希臘人的數(shù)學(xué)非常強(qiáng)，但就是缺乏極限觀念，所以解釋不了運(yùn)動(dòng)，被芝諾的那些著名悖論（飛箭不動(dòng)、飛毛腿阿喀琉斯跑不過烏龜?shù)人膫€(gè)悖論）搞得死去活來。因?yàn)檫@篇文章不是講微積分的，所以我就不多說了。有興趣的讀者可以去看看齊民友教授寫的重溫微積分。我就是讀了這本書開頭的部分，才明白“高等數(shù)學(xué)是研究運(yùn)動(dòng)的數(shù)學(xué)”這句話的道理。 不過在我這個(gè)理解矩陣的

20、文章里，“運(yùn)動(dòng)”的概念不是微積分中的連續(xù)性的運(yùn)動(dòng)，而是瞬間發(fā)生的變化。比如這個(gè)時(shí)刻在A點(diǎn)，經(jīng)過一個(gè)“運(yùn)動(dòng)”，一下子就“躍遷”到了B點(diǎn)，其中不需要經(jīng)過A點(diǎn)與B點(diǎn)之間的任何一個(gè)點(diǎn)。這樣的“運(yùn)動(dòng)”，或者說“躍遷”，是違反我們?nèi)粘５慕?jīng)驗(yàn)的。不過了解一點(diǎn)量子物理常識(shí)的人，就會(huì)立刻指出，量子（例如電子）在不同的能量級軌道上跳躍，就是瞬間發(fā)生的，具有這樣一種躍遷行為。所以說，自然界中并不是沒有這種運(yùn)動(dòng)現(xiàn)象，只不過宏觀上我們觀察不到。但是不管怎么說，“運(yùn)動(dòng)”這個(gè)詞用在這里，還是容易產(chǎn)生歧義的，說得更確切些，應(yīng)該是“躍遷”。因此這句話可以改成：“矩陣是線性空間里躍遷的描述”。 可是這樣說又太物理，也就是說太具體

21、，而不夠數(shù)學(xué)，也就是說不夠抽象。因此我們最后換用一個(gè)正牌的數(shù)學(xué)術(shù)語變換，來描述這個(gè)事情。這樣一說，大家就應(yīng)該明白了，所謂變換，其實(shí)就是空間里從一個(gè)點(diǎn)（元素/對象）到另一個(gè)點(diǎn)（元素/對象）的躍遷。比如說，拓?fù)渥儞Q，就是在拓?fù)淇臻g里從一個(gè)點(diǎn)到另一個(gè)點(diǎn)的躍遷。再比如說，仿射變換，就是在仿射空間里從一個(gè)點(diǎn)到另一個(gè)點(diǎn)的躍遷。附帶說一下，這個(gè)仿射空間跟向量空間是親兄弟。做計(jì)算機(jī)圖形學(xué)的朋友都知道，盡管描述一個(gè)三維對象只需要三維向量，但所有的計(jì)算機(jī)圖形學(xué)變換矩陣都是4 x 4的。說其原因，很多書上都寫著“為了使用中方便”，這在我看來簡直就是企圖蒙混過關(guān)。真正的原因，是因?yàn)樵谟?jì)算機(jī)圖形學(xué)里應(yīng)用的圖形變換，實(shí)際

22、上是在仿射空間而不是向量空間中進(jìn)行的。想想看，在向量空間里相一個(gè)向量平行移動(dòng)以后仍是相同的那個(gè)向量，而現(xiàn)實(shí)世界等長的兩個(gè)平行線段當(dāng)然不能被認(rèn)為同一個(gè)東西，所以計(jì)算機(jī)圖形學(xué)的生存空間實(shí)際上是仿射空間。而仿射變換的矩陣表示根本就是4 x 4的。又扯遠(yuǎn)了，有興趣的讀者可以去看計(jì)算機(jī)圖形學(xué)幾何工具算法詳解。一旦我們理解了“變換”這個(gè)概念，矩陣的定義就變成：“矩陣是線性空間里的變換的描述?！?到這里為止，我們終于得到了一個(gè)看上去比較數(shù)學(xué)的定義。不過還要多說幾句。教材上一般是這么說的，在一個(gè)線性空間V里的一個(gè)線性變換T，當(dāng)選定一組基之后，就可以表示為矩陣。因此我們還要說清楚到底什么是線性變換，什么是基，什

23、么叫選定一組基。線性變換的定義是很簡單的，設(shè)有一種變換T，使得對于線性空間V中間任何兩個(gè)不相同的對象x和y，以及任意實(shí)數(shù)a和b，有：T(ax + by) = aT(x) + bT(y)，那么就稱T為線性變換。定義都是這么寫的，但是光看定義還得不到直覺的理解。線性變換究竟是一種什么樣的變換？我們剛才說了，變換是從空間的一個(gè)點(diǎn)躍遷到另一個(gè)點(diǎn)，而線性變換，就是從一個(gè)線性空間V的某一個(gè)點(diǎn)躍遷到另一個(gè)線性空間W的另一個(gè)點(diǎn)的運(yùn)動(dòng)。這句話里蘊(yùn)含著一層意思，就是說一個(gè)點(diǎn)不僅可以變換到同一個(gè)線性空間中的另一個(gè)點(diǎn)，而且可以變換到另一個(gè)線性空間中的另一個(gè)點(diǎn)去。不管你怎么變，只要變換前后都是線性空間中的對象，這個(gè)變換

24、就一定是線性變換，也就一定可以用一個(gè)非奇異矩陣來描述。而你用一個(gè)非奇異矩陣去描述的一個(gè)變換，一定是一個(gè)線性變換。有的人可能要問，這里為什么要強(qiáng)調(diào)非奇異矩陣？所謂非奇異，只對方陣有意義，那么非方陣的情況怎么樣？這個(gè)說起來就會(huì)比較冗長了，最后要把線性變換作為一種映射，并且討論其映射性質(zhì)，以及線性變換的核與像等概念才能徹底講清楚。我覺得這個(gè)不算是重點(diǎn)，如果確實(shí)有時(shí)間的話，以后寫一點(diǎn)。以下我們只探討最常用、最有用的一種變換，就是在同一個(gè)線性空間之內(nèi)的線性變換。也就是說，下面所說的矩陣，不作說明的話，就是方陣，而且是非奇異方陣。學(xué)習(xí)一門學(xué)問，最重要的是把握主干內(nèi)容，迅速建立對于這門學(xué)問的整體概念，不必一

25、開始就考慮所有的細(xì)枝末節(jié)和特殊情況，自亂陣腳。 接著往下說，什么是基呢？這個(gè)問題在后面還要大講一番，這里只要把基看成是線性空間里的坐標(biāo)系就可以了。注意是坐標(biāo)系，不是坐標(biāo)值，這兩者可是一個(gè)“對立矛盾統(tǒng)一體”。這樣一來，“選定一組基”就是說在線性空間里選定一個(gè)坐標(biāo)系。就這意思。 好，最后我們把矩陣的定義完善如下：“矩陣是線性空間中的線性變換的一個(gè)描述。在一個(gè)線性空間中，只要我們選定一組基，那么對于任何一個(gè)線性變換，都能夠用一個(gè)確定的矩陣來加以描述。” 理解這句話的關(guān)鍵，在于把“線性變換”與“線性變換的一個(gè)描述”區(qū)別開。一個(gè)是那個(gè)對象，一個(gè)是對那個(gè)對象的表述。就好像我們熟悉的面向?qū)ο缶幊讨?，一個(gè)對象

26、可以有多個(gè)引用，每個(gè)引用可以叫不同的名字，但都是指的同一個(gè)對象。如果還不形象，那就干脆來個(gè)很俗的類比。 比如有一頭豬，你打算給它拍照片，只要你給照相機(jī)選定了一個(gè)鏡頭位置，那么就可以給這頭豬拍一張照片。這個(gè)照片可以看成是這頭豬的一個(gè)描述，但只是一個(gè)片面的的描述，因?yàn)閾Q一個(gè)鏡頭位置給這頭豬拍照，能得到一張不同的照片，也是這頭豬的另一個(gè)片面的描述。所有這樣照出來的照片都是這同一頭豬的描述，但是又都不是這頭豬本身。 同樣的，對于一個(gè)線性變換，只要你選定一組基，那么就可以找到一個(gè)矩陣來描述這個(gè)線性變換。換一組基，就得到一個(gè)不同的矩陣。所有這些矩陣都是這同一個(gè)線性變換的描述，但又都不是線性變換本身。但是這

27、樣的話，問題就來了如果你給我兩張豬的照片，我怎么知道這兩張照片上的是同一頭豬呢？同樣的，你給我兩個(gè)矩陣，我怎么知道這兩個(gè)矩陣是描述的同一個(gè)線性變換呢？如果是同一個(gè)線性變換的不同的矩陣描述，那就是本家兄弟了，見面不認(rèn)識(shí)，豈不成了笑話。好在，我們可以找到同一個(gè)線性變換的矩陣兄弟們的一個(gè)性質(zhì)，那就是：若矩陣A與B是同一個(gè)線性變換的兩個(gè)不同的描述（之所以會(huì)不同，是因?yàn)檫x定了不同的基，也就是選定了不同的坐標(biāo)系），則一定能找到一個(gè)非奇異矩陣P，使得A、B之間滿足這樣的關(guān)系：A = P-1BP 線性代數(shù)稍微熟一點(diǎn)的讀者一下就看出來，這就是相似矩陣的定義。沒錯(cuò)，所謂相似矩陣，就是同一個(gè)線性變換的不同的描述矩陣

28、。按照這個(gè)定義，同一頭豬的不同角度的照片也可以成為相似照片。俗了一點(diǎn)，不過能讓人明白。 而在上面式子里那個(gè)矩陣P，其實(shí)就是A矩陣所基于的基與B矩陣所基于的基這兩組基之間的一個(gè)變換關(guān)系。關(guān)于這個(gè)結(jié)論，可以用一種非常直覺的方法來證明（而不是一般教科書上那種形式上的證明），如果有時(shí)間的話，我以后在blog里補(bǔ)充這個(gè)證明。 這個(gè)發(fā)現(xiàn)太重要了。原來一族相似矩陣都是同一個(gè)線性變換的描述?。‰y怪這么重要！工科研究生課程中有矩陣論、矩陣分析等課程，其中講了各種各樣的相似變換，比如什么相似標(biāo)準(zhǔn)型，對角化之類的內(nèi)容，都要求變換以后得到的那個(gè)矩陣與先前的那個(gè)矩陣式相似的，為什么這么要求？因?yàn)橹挥羞@樣要求，才能保證變

29、換前后的兩個(gè)矩陣是描述同一個(gè)線性變換的。當(dāng)然，同一個(gè)線性變換的不同矩陣描述，從實(shí)際運(yùn)算性質(zhì)來看并不是不分好環(huán)的。有些描述矩陣就比其他的矩陣性質(zhì)好得多。這很容易理解，同一頭豬的照片也有美丑之分嘛。所以矩陣的相似變換可以把一個(gè)比較丑的矩陣變成一個(gè)比較美的矩陣，而保證這兩個(gè)矩陣都是描述了同一個(gè)線性變換。這樣一來，矩陣作為線性變換描述的一面，基本上說清楚了。但是，事情沒有那么簡單，或者說，線性代數(shù)還有比這更奇妙的性質(zhì)，那就是，矩陣不僅可以作為線性變換的描述，而且可以作為一組基的描述。而作為變換的矩陣，不但可以把線性空間中的一個(gè)點(diǎn)給變換到另一個(gè)點(diǎn)去，而且也能夠把線性空間中的一個(gè)坐標(biāo)系（基）表換到另一個(gè)坐

30、標(biāo)系（基）去。而且，變換點(diǎn)與變換坐標(biāo)系，具有異曲同工的效果。線性代數(shù)里最有趣的奧妙，就蘊(yùn)含在其中。理解了這些內(nèi)容，線性代數(shù)里很多定理和規(guī)則會(huì)變得更加清晰、直覺。理解矩陣（續(xù)） 這兩篇文章發(fā)表于去年的4月。在第二部分結(jié)束的時(shí)候，我說： “矩陣不僅可以作為線性變換的描述，而且可以作為一組基的描述。而 作為變換的矩陣，不但可以把線性空間中的一個(gè)點(diǎn)給變換到另一個(gè)點(diǎn)去，而且也能夠把線性空間中的一個(gè)坐標(biāo)系（基）表換到另一個(gè)坐標(biāo)系（基）去。而且，變換點(diǎn) 與變換坐標(biāo)系，具有異曲同工的效果。線性代數(shù)里最有趣的奧妙，就蘊(yùn)含在其中。理解了這些內(nèi)容，線性代數(shù)里很多定理和規(guī)則會(huì)變得更加清晰、直覺。這個(gè)留在下一篇再寫吧。

31、因?yàn)橛袆e的事情要做，下一篇可能要過幾天再寫了。 ”然而這一拖就是一年半。一年半以來，這兩篇粗糙放肆的文章被到處轉(zhuǎn)載，以至于在Google的搜索提示中，我的名字跟“矩陣”是一對關(guān)聯(lián)詞匯。這對于學(xué)生時(shí)代數(shù)學(xué)一直很差的我來說，實(shí)在是令人惶恐的事情。數(shù)學(xué)是何等輝煌精致的學(xué)問！代表著人類智慧的最高成就，是人與上帝對話的語言。而我實(shí)在連數(shù)學(xué)的門都還沒進(jìn)去，不要說談什么理解，就是稍微難一些的題目我也很少能解開。我有什么資格去談矩陣這樣重要的一個(gè)數(shù)學(xué)概念呢？更何況，我的想法直觀是直觀，未見的是正確的啊，會(huì)不會(huì)誤人子弟呢？因此，算了吧，到此為止吧，我這么想。 是時(shí)不時(shí)收到的來信逐漸改變了我的想法。 一年半以來，

32、我收到過不下一百封直接的來信，要求我把后面的部分寫出來。這些來信大部分是國內(nèi)的網(wǎng)友和學(xué)生，也有少數(shù)來自正在國外深造的朋友，大部分是鼓勵(lì)，有的是誠摯的請求，也有少數(shù)嚴(yán)厲斥責(zé)我不守承諾。不管是何種態(tài)度，這都表明他們對我這一點(diǎn)點(diǎn)小小的思考成果的鼓勵(lì)，特別是對于我這種思維的視角和嘗試的鼓勵(lì)。他們在信中讓我知道，盡管我的數(shù)學(xué)水平不高，但是我這種從普通人（而不是數(shù)學(xué)家）視角出發(fā)，強(qiáng)調(diào)對數(shù)學(xué)概念和規(guī)則的直覺理解的思路，對于很多人是有益的。也許這條路子在數(shù)學(xué)中絕非正道，也不會(huì)走得很遠(yuǎn)，但是無論如何，在一定的階段，對一部分人來說，較之目前數(shù)學(xué)教材普遍采用的思路，這種方式可能更容易理解一些。既然是可能對一部分人有

33、幫助的事情，那么我就不應(yīng)該心存太多雜念，應(yīng)該不斷思考和總結(jié)下去。 所以，下面就是你們來信要求我寫出來的東西。 首先來總結(jié)一下前面兩部分的一些主要結(jié)論：1. 首先有空間，空間可以容納對象運(yùn)動(dòng)的。一種空間對應(yīng)一類對象。2. 有一種空間叫線性空間，線性空間是容納向量對象運(yùn)動(dòng)的。3. 運(yùn)動(dòng)是瞬時(shí)的，因此也被稱為變換。4. 矩陣是線性空間中運(yùn)動(dòng)（變換）的描述。5. 矩陣與向量相乘，就是實(shí)施運(yùn)動(dòng)（變換）的過程。6. 同一個(gè)變換，在不同的坐標(biāo)系下表現(xiàn)為不同的矩陣，但是它們的本質(zhì)是一樣的，所以本征值相同。 下面讓我們把視力集中到一點(diǎn)以改變我們以往看待矩陣的方式。我們知道，線性空間里的基本對象是向量，而向量是這

34、么表示的： a1, a2, a3, ., an 矩陣呢？矩陣是這么表示的： a11, a12, a13, ., a1n a21, a22, a23, ., a2n . an1, an2, an3, ., ann 不用太聰明，我們就能看出來，矩陣是一組向量組成的。特別的，n維線性空間里的方陣是由n個(gè)n維向量組成的。我們在這里只討論這個(gè)n階的、非奇異的方陣，因?yàn)槔斫馑褪抢斫饩仃嚨年P(guān)鍵，它才是一般情況，而其他矩陣都是意外，都是不得不對付的討厭狀況，大可以放在一邊。這里多一句嘴，學(xué)習(xí)東西要抓住主流，不要糾纏于旁支末節(jié)。很可惜我們的教材課本大多數(shù)都是把主線埋沒在細(xì)節(jié)中的，搞得大家還沒明白怎么回事就先被

35、灌暈了。比如數(shù)學(xué)分析，明明最要緊的觀念是說，一個(gè)對象可以表達(dá)為無窮多個(gè)合理選擇的對象的線性和，這個(gè)概念是貫穿始終的，也是數(shù)學(xué)分析的精華。但是課本里自始至終不講這句話，反正就是讓你做吉米多維奇，掌握一大堆解偏題的技巧，記住各種特殊情況，兩類間斷點(diǎn)，怪異的可微和可積條件（誰還記得柯西條件、迪里赫萊條件.？），最后考試一過，一切忘光光。要我說，還不如反復(fù)強(qiáng)調(diào)這一個(gè)事情，把它深深刻在腦子里，別的東西忘了就忘了，真碰到問題了，再查數(shù)學(xué)手冊嘛，何必因小失大呢？ 言歸正傳。如果一組向量是彼此線性無關(guān)的話，那么它們就可以成為度量這個(gè)線性空間的一組基，從而事實(shí)上成為一個(gè)坐標(biāo)系體系，其中每一個(gè)向量都躺在一根坐標(biāo)軸

36、上，并且成為那根坐標(biāo)軸上的基本度量單位（長度1）。 現(xiàn)在到了關(guān)鍵的一步?？瓷先ゾ仃嚲褪怯梢唤M向量組成的，而且如果矩陣非奇異的話（我說了，只考慮這種情況），那么組成這個(gè)矩陣的那一組向量也就是線性無關(guān)的了，也就可以成為度量線性空間的一個(gè)坐標(biāo)系。結(jié)論：矩陣描述了一個(gè)坐標(biāo)系。 “慢著！”，你嚷嚷起來了，“你這個(gè)騙子！你不是說過，矩陣就是運(yùn)動(dòng)嗎？怎么這會(huì)矩陣又是坐標(biāo)系了？” 嗯，所以我說到了關(guān)鍵的一步。我并沒有騙人，之所以矩陣又是運(yùn)動(dòng)，又是坐標(biāo)系，那是因?yàn)?“運(yùn)動(dòng)等價(jià)于坐標(biāo)系變換”。 對不起，這話其實(shí)不準(zhǔn)確，我只是想讓你印象深刻。準(zhǔn)確的說法是： “對象的變換等價(jià)于坐標(biāo)系的變換”。 或者： “固定坐標(biāo)系下

37、一個(gè)對象的變換等價(jià)于固定對象所處的坐標(biāo)系變換?！?說白了就是： “運(yùn)動(dòng)是相對的?！?讓我們想想，達(dá)成同一個(gè)變換的結(jié)果，比如把點(diǎn)(1, 1)變到點(diǎn)(2, 3)去，你可以有兩種做法。第一，坐標(biāo)系不動(dòng)，點(diǎn)動(dòng)，把(1, 1)點(diǎn)挪到(2, 3)去。第二，點(diǎn)不動(dòng)，變坐標(biāo)系，讓x軸的度量（單位向量）變成原來的1/2，讓y軸的度量（單位向量）變成原先的1/3，這樣點(diǎn)還是那個(gè)點(diǎn)，可是點(diǎn)的坐標(biāo)就變成(2, 3)了。方式不同，結(jié)果一樣。 從第一個(gè)方式來看，那就是我在理解矩陣1/2中說的，把矩陣看成是運(yùn)動(dòng)描述，矩陣與向量相乘就是使向量（點(diǎn)）運(yùn)動(dòng)的過程。在這個(gè)方式下， Ma = b的意思是： “向量a經(jīng)過矩陣M所描述的

38、變換，變成了向量b?！?而從第二個(gè)方式來看，矩陣M描述了一個(gè)坐標(biāo)系，姑且也稱之為M。那么： Ma = b 的意思是： “有一個(gè)向量，它在坐標(biāo)系M的度量下得到的度量結(jié)果向量為a，那么它在坐標(biāo)系I的度量下，這個(gè)向量的度量結(jié)果是b。” 這里的I是指單位矩陣，就是主對角線是1，其他為零的矩陣。 而這兩個(gè)方式本質(zhì)上是等價(jià)的。 我希望你務(wù)必理解這一點(diǎn)，因?yàn)檫@是本篇的關(guān)鍵。 正因?yàn)槭顷P(guān)鍵，所以我得再解釋一下。 在M為坐標(biāo)系的意義下，如果把M放在一個(gè)向量a的前面，形成Ma的樣式，我們可以認(rèn)為這是對向量a的一個(gè)環(huán)境聲明。它相當(dāng)于是說： “注意了！這里有一個(gè)向量，它在坐標(biāo)系M中度量，得到的度量結(jié)果可以表達(dá)為a?？?/p>

39、是它在別的坐標(biāo)系里度量的話，就會(huì)得到不同的結(jié)果。為了明確，我把M放在前面，讓你明白，這是該向量在坐標(biāo)系M中度量的結(jié)果?！?那么我們再看孤零零的向量b： b 多看幾遍，你沒看出來嗎？它其實(shí)不是b，它是： Ib 也就是說：“在單位坐標(biāo)系，也就是我們通常說的直角坐標(biāo)系I中，有一個(gè)向量，度量的結(jié)果是b?！?而 Ma = Ib的意思就是說： “在M坐標(biāo)系里量出來的向量a，跟在I坐標(biāo)系里量出來的向量b，其實(shí)根本就是一個(gè)向量??！” 這哪里是什么乘法計(jì)算，根本就是身份識(shí)別嘛。 從這個(gè)意義上我們重新理解一下向量。向量這個(gè)東西客觀存在，但是要把它表示出來，就要把它放在一個(gè)坐標(biāo)系中去度量它，然后把度量的結(jié)果（向量在

40、各個(gè)坐標(biāo)軸上的投影值）按一定順序列在一起，就成了我們平時(shí)所見的向量表示形式。你選擇的坐標(biāo)系（基）不同，得出來的向量的表示就不同。向量還是那個(gè)向量，選擇的坐標(biāo)系不同，其表示方式就不同。因此，按道理來說，每寫出一個(gè)向量的表示，都應(yīng)該聲明一下這個(gè)表示是在哪個(gè)坐標(biāo)系中度量出來的。表示的方式，就是 Ma，也就是說，有一個(gè)向量，在M矩陣表示的坐標(biāo)系中度量出來的結(jié)果為a。我們平時(shí)說一個(gè)向量是2 3 5 7T，隱含著是說，這個(gè)向量在 I 坐標(biāo)系中的度量結(jié)果是2 3 5 7T，因此，這個(gè)形式反而是一種簡化了的特殊情況。 注意到，M矩陣表示出來的那個(gè)坐標(biāo)系，由一組基組成，而那組基也是由向量組成的，同樣存在這組向量

41、是在哪個(gè)坐標(biāo)系下度量而成的問題。也就是說，表述一個(gè)矩陣的一般方法，也應(yīng)該要指明其所處的基準(zhǔn)坐標(biāo)系。所謂M，其實(shí)是 IM，也就是說，M中那組基的度量是在 I 坐標(biāo)系中得出的。從這個(gè)視角來看，M×N也不是什么矩陣乘法了，而是聲明了一個(gè)在M坐標(biāo)系中量出的另一個(gè)坐標(biāo)系N，其中M本身是在I坐標(biāo)系中度量出來的。 回過頭來說變換的問題。我剛才說，“固定坐標(biāo)系下一個(gè)對象的變換等價(jià)于固定對象所處的坐標(biāo)系變換”，那個(gè)“固定對象”我們找到了，就是那個(gè)向量。但是坐標(biāo)系的變換呢？我怎么沒看見？ 請看： Ma = Ib 我現(xiàn)在要變M為I，怎么變？對了，再前面乘以個(gè)M-1，也就是M的逆矩陣。換句話說，你不是有一個(gè)坐標(biāo)系M嗎，現(xiàn)在我讓它乘以個(gè)M-1，變成I，這樣一來的話，