熵理論與麥克斯韋妖

熵理論與麥克斯韋妖熵是一個極其重要的物理概念，自從熵的概念提出以來，熵就在各個領域發(fā)揮了重要的作用。特別是近幾年來，不僅在自然科學與工程技術的許多領域，如物理學、化學、生物學、信息科學與工程、動力工程及制冷工程等會遇到熵的蹤跡，就是在社會科學，乃至于人文科學中也經(jīng)常會碰到熵這一名詞。1.熵理論的發(fā)展歷程熵概念的發(fā)展從提出到今天跨科學的應用，大致可分為五個階段。第一階段是熵概念的提出。熱力學第二定律指出，一切實際自發(fā)的熱力學過程都是不可逆的，是單項進行的。熵概念的提出為實際自發(fā)過程的方向做出了普遍適用的判據(jù)。同時，也為熱力學第二定律的定量表述奠定了基礎。第二階段是熵概念本質的揭示。玻耳茲曼方程的確立，賦予了熵的統(tǒng)計解釋，即一切宏觀自發(fā)的過程總是從概率小的方向向概率大的方向進行。他從微觀的角度分析了熵是系統(tǒng)中混亂度的量度。大大地豐富了熵的物理內涵，明確了它的應用范圍。第三階段是普利高津等人把傳統(tǒng)的平衡態(tài)熱力學推廣到非平衡態(tài)，將孤立系統(tǒng)中熵的概念推廣到開放系統(tǒng)中的熵，從而產(chǎn)生了非平衡態(tài)的熱力學。從而熵的理論被進一步的深化了。第四階段是威廉·湯姆遜提出的“熱寂”。宇宙的不斷膨脹使它遠離平衡的狀態(tài)，宇宙的熵值不斷增加，在遙遠的將來熵值將達到極大值，將會發(fā)生宇宙的“熱寂”。第五階段即由麥克斯韋妖的啟示，西拉德又發(fā)現(xiàn)了熵與信息的關系，揭示了熵含義的新層次，進一步擴大了熵的應用面。成為了處理復雜信息問題的一個依據(jù)。20世紀以來，產(chǎn)生很多不同的熵，熵的概念在不斷地發(fā)展著，被應用著。形成了許多的交叉科學，顯示出了熵的強大生命力。所以，對熵概念的學習也顯示出了重要的意義，有人說，熵概念產(chǎn)生的重要性毫不低于能量概念的產(chǎn)生。1熵概念的提出熱力學第二定律是有關過程進行方向的規(guī)律，它指出，一切與熱現(xiàn)象有關的實際宏觀過程都是不可逆的。若要方便判斷過程可逆與不可逆性，更進一步地闡明不可逆性的本質，應能找到與不可逆性相關聯(lián)的態(tài)函數(shù)。這個新的態(tài)函數(shù)就是克勞休斯找到的，他稱之為熵。最初，克勞修斯在研究一個熱機在其循環(huán)過程所必須的條件時引進了熵的概念，其定義為：（1.1）則從狀態(tài)O到狀態(tài)A，S的變化為：（1.2）式中，S為一個常數(shù)，對應于在狀態(tài)O的S值。OOp可逆過程不可逆過程V圖1證明熵增加原理用圖由此，考慮一個由狀態(tài)1到狀態(tài)2的不可逆過程和從狀態(tài)2返回到狀態(tài)1的可逆過程構成的不可逆循環(huán)過程（如圖1）根據(jù)克勞修斯不等式（1.3）可得（1.4）式中是不可逆過程中所吸收的微熱量，是可逆過程中所吸收的微熱量。根據(jù)（1.2）式有（1.5）其中和分別為系統(tǒng)在初態(tài)和終態(tài)的熵，代入（1.5）式即得（1.6）這里一個任意的不可逆過程所應遵從的不等式，是不可逆過程的熱力學第二定律的數(shù)學表述。2假如不可逆過程是絕熱的，即，則（1.6）式化為2（1.7）這就是說，經(jīng)過一個不可逆絕熱過程，熵的數(shù)值增加了。假如可逆過程是絕熱的，即，則由式得（1.8）這就是說，可逆絕熱過程，熵的數(shù)值不變，即為等熵過程。絕熱的不可逆過程總是朝向熵增大方向進行；絕熱的可逆過程則是沿等熵線方向進行。由此可推論出：絕熱的孤立系統(tǒng)，其中的自發(fā)過程都不可逆。因此，自發(fā)過程總是朝向熵的增大方向進行。所以據(jù)此可以判據(jù)孤立系統(tǒng)自發(fā)過程的方向。1.2.熵概念本質的揭示熵與概率間也存在著某種聯(lián)系。玻耳茲曼于1872年推導了玻耳茲曼方程，于1877年論證了玻耳茲曼關系式，賦予了熵的統(tǒng)計解釋，大大豐富了熵的物理內涵，明確了熵的應用范圍。aabcd圖24個分子在盒子的位置分布設有一盒子，其中裝有一種氣體的4個分子a，b，c，d（如圖2）。想象把盒子的容積分成兩半，那么在熱運動中，這4個分子在這兩半容積中的位置分布有多少種可能的方式，就有多少種微觀狀態(tài)數(shù)。如果對分子不加以區(qū)別，那么有多少分子數(shù)目的分配方式，就有多少宏觀狀態(tài)數(shù)。從而確定一個宏觀狀態(tài)對應的微觀狀態(tài)數(shù)W。4個分子在容器左右部分的分布共有16種可能，既有16種微觀狀態(tài)（如表1）。表2-14個分子的位置分布微觀態(tài)左0abcdabcdbcdacdabdabcabacadbcbdcd右abcd0bcdacdabdabcabcdcdbdbcadacab宏觀態(tài)左04132右40312W11446從表2-1可以看出，4個分子同時位于左室的可能性是存在的，其概率為： 但比一個分子位于左室的概率1/4少多了。相應的計算可以證明：如果共有N個分子，則全部N個分子都位于左室的概率為 。例如，對1mol的氣體來說，，所以當氣體自由膨脹后，所有這些分子全部位于左半部的概率是 ，這個概率是如此之小，實際上是不會實現(xiàn)的。所以自由膨脹的不可逆性，實質上是反映了這個系統(tǒng)內部所發(fā)生的過程總是由概率小的宏觀狀態(tài)向概率大的宏觀狀態(tài)進行。這一結論對于孤立系統(tǒng)中進行的一切不可逆過程，如熱傳導，熱功轉化等過程都成立。采用經(jīng)典統(tǒng)計的方法，可以證明熵與熱力學概率W存在著下列關系：（1.9）這就是著名的玻耳茲曼關系式，其中k是玻耳茲曼常數(shù)。它是將熱力學的宏觀量（熵）和微觀量（概率）聯(lián)系起來的關系式。這個關系式表明，熵增加原理的微觀實質是：孤立系統(tǒng)內部發(fā)生的過程總是從熱力學概率小的狀態(tài)向熱力學概率大的狀態(tài)過渡。玻耳茲曼把S和等同起來，對于每一個宏觀態(tài)的微觀狀態(tài)數(shù)W，熵成為該宏觀態(tài)的標志，意味著不可逆的熱力學變化是一個趨向于概率增加的狀態(tài)變化，而其終態(tài)是相應于最大概率的一個宏觀態(tài)。玻耳茲曼關系式將宏觀量S與微觀狀態(tài)數(shù)W聯(lián)系起來，在宏觀與微觀之間架起了一座橋梁，說明了微觀狀態(tài)數(shù)W的物理意義，也給出了熵函數(shù)的統(tǒng)計解釋（微觀意義）物理概念第一次用概率形式表達出來，具有深遠的意義。1.3熵的理論被進一步的深化在物理學中，根據(jù)熱力學第二定律，能量無時無刻不在貶值，系統(tǒng)間的差異不斷減少，故熱力學第二定律指向一個逐漸均勻的未來，這是一種從有序到無序的演變。而就生物進化而言，其方向卻截然不同，他指向了相反的方向。即：由簡單到復雜，由低級到高級，從無區(qū)別的結構到層次眾多復雜無比的結構，從無序到有序的演變，這和孤立系統(tǒng)所描述的演化概念正好相反。這些表面上的差異、矛盾，使人困惑、茫然。如果認為生物學的現(xiàn)象不能用物理學的規(guī)律來解釋，二者之間存在一條不可逾越的鴻溝，那么存在差異是很自然的事。但是，現(xiàn)代科學的發(fā)展表明，生物學雖然有它自己的規(guī)律，而它的熱現(xiàn)象仍屬于物理學范疇，還是應該服從普遍的物理學規(guī)律。19世紀四五十年代，普利高津與格蘭斯道夫（P.Glansdorf）等人提出了負熵理論，將平衡態(tài)熱力學擴展到了非平衡態(tài)，將傳統(tǒng)的孤立系統(tǒng)中的熵的概念擴展到了開放系統(tǒng)。說明了一個系統(tǒng)由無序到有序是可能轉化的。非平衡系統(tǒng)，由于熱量流動所以存在熵流；在不可逆的過程進行中，將會有熵產(chǎn)生，叫做熵產(chǎn)。這樣，整個系統(tǒng)熵的變化可表示為（1.10）此式中為熵產(chǎn)，熵流。我們知道，孤立系統(tǒng)熵產(chǎn)不能為負，即（1.11）熵流為零，，所以（1.12）這就是我們已經(jīng)熟悉的熵增加原理的另一種表達式。但對于非平衡的非孤立系統(tǒng)，雖然始終成立但因為與外界作用不同，所以熵流值可負可正，系統(tǒng)的總熵值有以下三種可能性：若，那么；若，而，那么；若，而，則；所以，整個系統(tǒng)熵的變化，等于熵流和熵產(chǎn)的總和。而整個系統(tǒng)熵的變化是不確定的。因此，若想讓系統(tǒng)的總熵減小，就必須從外界環(huán)境吸取足夠的負熵流。這是不違反熱力學第二定律的也彌補了熱力學中熵概念的不足。所以，前面討論的生物進化和天體演化并不違背物理學中的熱力學原理，只是需要將其擴展到開放系統(tǒng)，要考慮從外界獲取的物質和能量。1.4熱寂理論與麥克斯韋妖1865年克勞修斯把宇宙看作一個熱力學的孤立系統(tǒng)，將熵增加原理用于宇宙。他認為，宇宙的能量保持不變，宇宙的熵將趨于極大值，伴隨著這一進程，宇宙進一步變化的能力越來越小，一切機械的、物理的、化學的、生命的等等多種多樣的運動逐漸全部轉化為熱運動，最終達到處處溫度相等的熱平衡狀態(tài)，這時一切變化都不會發(fā)生了，宇宙處于死寂的永恒狀態(tài)。熱寂說像許多其他物理觀念一樣，在社會上產(chǎn)生了巨大反響，美國的歷史學家亨利·亞當斯將其解釋成低落情緒的原因。并將它與對社會進步失望情緒聯(lián)系在一起，正是這種觀念使一些作家產(chǎn)生了宇宙熱寂死亡的憂郁心態(tài)。圖2-3麥克斯韋妖為了批駁“熱寂論”，1871年，麥克斯韋提出了“麥克斯韋妖”設想：用一個膜片將容器分成A、B兩部分，最初兩邊氣體溫度、壓強分別相等，他們之間有一個能夠看見單個分子的極小生物。當看到一個快速氣體分子從A邊飛來時，它就打開門讓它飛向B邊，而阻止慢速分子從A飛向B邊；同樣允許慢速分子(而不允許快速分子)從B飛向A。則結果是B部分的能量增加，A部分的能量減少；系統(tǒng)的熵值減少。麥克斯韋的理論表面上與熱力學第二定律相違背，但在上述操作的過程中，首先這個精靈要能看見運動的分子，并能判斷其運動速度。麥克斯韋妖接收到分子運動的信息后，通過操作閘門，使快、慢分子分離，從而減少系統(tǒng)的熵。操作閘門會減少熵，而信息的獲取會使系統(tǒng)中熵增大，就數(shù)量而言，前者超不過后者。因此，此過程的總熵還是增加的。1.5熵與信息的關系1929年，匈牙利的物理學家西拉德(Szilard)發(fā)表題為“論由智能生靈導致熱力學系統(tǒng)中熵的減小”的一篇論文，他強調了精靈在智能方面的作用。他設計了一種麥克斯韋妖操縱的理想機器(如圖2-4)。設想容器中有一個運動的分子，容器中間插入一活塞，操縱機器的精靈能夠明察，且記住分子是在左方還是右方，適時插入活塞，然后將活塞推向無分子的一方。這樣活塞作往復運動將提供功。設想整個過程都不存在摩擦。機器做功的關鍵是精靈記憶的功能并取得分子位置的信息。西拉德的這個例子可以說明精靈有獲得信息。儲存信息并運用信息的功能。此后，物理學家布里淵(Brillouin)，運用西拉德提供的線索全面地論述了信息與熵的關系。信號是一個隨機量，出現(xiàn)的信息量I()是的函數(shù)，必然也是一個隨機量。I()常稱為的自信息，它具有隨機變量的性質。信源U中每個信號的平均信息量可對信息按概率作統(tǒng)計平均，即有（1.13）在信息論中H(U)稱為信源的信息熵或簡稱信息熵。當信號是等概率出現(xiàn)時，信源的信息熵為（1.14）信息熵H(U)表征信息源的平均不確定程度。I就是解除這個不確定性的信息量。因此，我們確切無誤地收到一個信號源符號后，就全部解除了這個符號的不定度，獲得了相應信息量。某一信源，無論輸不輸出信號，只要信號具有概率特性，定有信源H值。這H值是在總體平均上才有意義。一般寫成H(X)，X是隨機變量整體（包括概率分布）。這個值本身也可以是隨機量。正如所示的自信息，也可能與接收者的情況有關，如考慮信息的有用性時就是如此。熱力學熵與信息熵類似，熱力學熵被定義為該宏觀狀態(tài)下對應的微觀狀態(tài)數(shù)的對數(shù)值，亦即（1.15）其中，N是給定系統(tǒng)的微觀狀態(tài)數(shù)，而每個微觀狀態(tài)出現(xiàn)的概率又相等，即P=1/N?？梢娡晃锢硐到y(tǒng)的熱力熵和信息熵之比為一個常數(shù)，其比值為J/(K·bit)(1.16)這個系統(tǒng)從外界獲得一定的信息量I時，就解除了這個信源的不定度，使這個系統(tǒng)的可能事件數(shù)（或狀態(tài)數(shù)）減少，從而導致熵的減少。假定系統(tǒng)的狀態(tài)數(shù)由N減少到M，按信息量的定義可求出使系統(tǒng)從具有N個等概率狀態(tài)變?yōu)榫哂蠱個（M<N）等概率狀態(tài)所必須獲得的信息量為(1.17)相應的熱力學熵的減少量，即系統(tǒng)所吸收的負熵為(1.18)由(2-8)和(2-9)式很容易得到信息量與熱力學負熵之間的關系為(1.19)這就是說，信息可以轉換為負熵，反之亦然，這就是信息的負熵原理?？刂普搫?chuàng)始人維納指出：“信息量實質上是負熵”。1951年，布里淵提出：“信息起負熵作用”，“信息由相應負熵規(guī)定”。這就是布里淵在后來引入的信息的負熵原理，即信息與負熵可以互換，他甚至還推出了信息與熱力學“熵”之間的換算關系。給系統(tǒng)適當?shù)呢撿亓鲿瓜到y(tǒng)變得更有序，更有組織，因而從系統(tǒng)的有序化和自組織的需要來說，最直接的方法是獲得負熵流來降低熵值。對于系統(tǒng)的信息若僅限于若干宏觀參量，對其微觀狀態(tài)的細節(jié)一無所知，那么我們將預期該系統(tǒng)處于熵為極大值的狀態(tài)。因為，如果處于熵較低的狀態(tài)，則必定會提供更多的信息。這就是楊乃斯(E.T.jaynes)于1957年提出的原理。這種說法表述統(tǒng)計物理學的一個新思路。例如，在非平衡態(tài)的氣體中，我們可能測出描述其宏觀流動的數(shù)據(jù)，因而獲得了較高的信息量，而到達平衡態(tài)后，只需要少數(shù)幾個宏觀參量來描述其狀態(tài)，熵的增加就意味著信息的減少。2.熵理論的應用依據(jù)不完全統(tǒng)計，目前約有70~80種熵，它們分別應用于生命，社會，自然等各個領域。如社會熵，信息熵，組織熵，經(jīng)濟熵等。它們主要是用來描述混亂度。熵的概念與各個領域的結合形成了許多新的交叉學科。不僅如此，現(xiàn)在的動力工程及制冷工程也應用到了熵。熵這一概念廣泛的被人們所應用。2.1信息熵在測量精度分析中的應用香農把信息量作為信息論的中心概念，用馬爾科夫過程的統(tǒng)計特性，給出了信息熵公式：（2.1）用來表述不確定性與隨機事件的連帶關系。這意味著通過信息論，熵的應用將會超出自然科學的一些領域。根據(jù)信息論原理，可用信息熵度量不確定性（2.2）作了測量實驗后，降低為（2.3）又稱為殘留熵.。則由實驗帶來的關于待測量x的信息量為（2.4）仍未獲得的那部分信息量（即殘留熵）則反映了測量誤差的大小。熵在度量系統(tǒng)運動的混亂或者無規(guī)則的程度方面有著重要的作用。我們可以對噪聲驅動的動力系統(tǒng)的信息熵演化、熵流與熵產(chǎn)生以及熵變化率進行研究，分析出系統(tǒng)耗散參數(shù)和準單色噪聲等對噪聲的影響，熵可以運用于信息獲取以及信息處理中如何減少噪聲的干擾等實際應用領域。2.2熵在量子通訊及信息處理中的應用 菲尼斯克(Phoenix)等人將熵的理論應用于量子光學，并取得重大成果。例如量子糾纏是經(jīng)典物理學區(qū)別于量子物理最不可想象的特征，可用于量子信息處理。利用量子約化熵理論研究激光場及囚禁于諧振勢中離子與單量子相互作用中的量子場熵演化特征，通過對數(shù)值的研究，可以討論離子質心于駐波的激光場中位置及囚禁于離子的初始狀態(tài)中對量子場中熵的演化特征的影響。利用熵研究出的這些特性，對于糾纏態(tài)的制備以及利用囚禁離子進行量子通訊等信息處理過程有很大的參考價值。2.3通過熵減少來實現(xiàn)高彈性形變早在17世紀，胡克(R.Hooke)就得出了物體彈性形變的基本規(guī)律，即胡克定律，表明物體的伸長與外加作用力成正比的關系，我們知道：在外力作用下將物體拉伸或壓縮，就會偏離其平衡態(tài)，使自由能F=UTS增大，可見內能U和熵S對于自由能都有貢獻。U描述的是常規(guī)固體的彈性行為；S是軟物質經(jīng)常出現(xiàn)高彈性的根源。對于軟物質，拉伸前柔性聚合物呈松塌的平衡狀態(tài)，熱運動使它采取不同的位形，使其對應于熵的極大值。如果對其兩端加拉力，它可以將這一分子逐漸變直而不影響其分子內各原子間的間距。因而它未對鍵力作功，而是減少分子線段可以采用位形數(shù)（即：使熵降低），在此情況下恢復力表現(xiàn)為對抗熵的下降，實質上是一種熵力。熵力要比鍵力微弱得多。這樣一來，彈性形變變得輕而易舉，而且可以達到甚大的伸長量。三維橡膠的高彈性形變，可理解為硫化形成交聯(lián)點之間分子線段的拉伸，從一維變?yōu)槿S，三維橡膠的結構是交聯(lián)無規(guī)律的網(wǎng)狀結構，它的幾何關系顯得更復雜一些，但物理本質完全類似，也是一種熵致形變，及通過減小熵來實現(xiàn)高彈性形變。2.4熵與液晶的形成1949年，昂薩格(Onsager)關注于液晶的相變問題。他將棒狀的液晶分子看成除了分子之間不可穿透性之外不存在其他相互作用力的硬棒系統(tǒng)，將系統(tǒng)的熵分為取向熵和平動熵。如果分子間距逐步減小，棒狀分子的運動將其他分子阻礙，直到所有棒都相互嵌住。此時取向熵仍然保持原值，但平動熵卻大量減少。如若此時所有分子都順向排列起來，取向熵減少，但每個分子周圍容許運動的體積都有所增大，從而使平動熵增大超出取向熵的減少?？梢栽O想，存在某一臨界分子間距，當分子濃度大于此臨界值時，棒狀分子會自發(fā)的順向排列起來，發(fā)生了各向同性液體到絲狀液晶的相變。熵致有序，即增大系統(tǒng)的熵來獲得有序相。近年來，采用自組裝的方法，合成從微米到納米尺度的、各種各樣的介觀有序結構，已經(jīng)成為當今材料科學的熱門問題，而熵致有序乃是這類科學實踐的重要指導方針。2.5致冷技術制冷技術的關鍵在于從被冷卻的物體之中抽取熱量，相當于抽取熵。隨著物體之中的熵的減少，物體的溫度下降，氣體可能凝結成為液體，液體凝固為固體。通過這個原理，科學家們發(fā)明了很多種類的致冷機，如蒸發(fā)致冷機，稀釋致冷機。凝固通常是熵減小的過程，一般不能用于致冷。而玻梅郎丘克卻發(fā)現(xiàn)在3He在加壓凝固過程中，由于核自旋無序化的效應，可以導致熵的增大，從而提出了新的致冷原理。使用此法可達到mK量級的極低溫。而4He的蒸發(fā)致冷是采用絕熱退磁致冷的技術。在順磁鹽的一般情況下，磁矩的排列是混亂的。外加磁場將導致磁矩的排列有序化，達到低熵態(tài)。若在絕熱條件下退掉磁場，磁矩的排列隨機趨于混亂，所對應熵的增加必須由環(huán)境吸取熱量，導致溫度的下降。2.6熵與生命不可逆性在生命過程中具有重要的意義，這也顯示出了熵的性質。生物的進化可以看做是個熵變的過程。生命中的許多問題都與熵有著緊密的聯(lián)系。生命的進化，就是由簡單變?yōu)閺碗s，由低級變?yōu)楦呒?，由較為有序變?yōu)橛行颍捎行虻礁行?。如果運用熵的理論，那么生命的過程就是趨向熵的減少