通信原理(第1章)

1、通信原理通信原理茅正沖茅正沖 135850018112 信息作為一種資源，只有通過(guò)廣泛地信息作為一種資源，只有通過(guò)廣泛地傳播與交流，才能產(chǎn)生利用價(jià)值、促進(jìn)社傳播與交流，才能產(chǎn)生利用價(jià)值、促進(jìn)社會(huì)成員之間的合作、推動(dòng)社會(huì)生產(chǎn)力的發(fā)會(huì)成員之間的合作、推動(dòng)社會(huì)生產(chǎn)力的發(fā)展、創(chuàng)造出巨大的經(jīng)濟(jì)效益。展、創(chuàng)造出巨大的經(jīng)濟(jì)效益。 本門課程主要討論信息的傳輸和交換本門課程主要討論信息的傳輸和交換的基本原理，即通信系統(tǒng)的基本原理，的基本原理，即通信系統(tǒng)的基本原理，基本性質(zhì)和基本的分析方法?；拘再|(zhì)和基本的分析方法。 3緒論緒論確知信號(hào)、隨機(jī)信號(hào)、信道確知信號(hào)、隨機(jī)信號(hào)、信道模擬調(diào)制系統(tǒng)模擬調(diào)制系統(tǒng)模擬信號(hào)的數(shù)字

2、傳輸模擬信號(hào)的數(shù)字傳輸數(shù)字基帶傳輸系統(tǒng)數(shù)字基帶傳輸系統(tǒng)數(shù)字頻帶傳輸系統(tǒng)數(shù)字頻帶傳輸系統(tǒng)新型數(shù)字帶通傳輸技術(shù)新型數(shù)字帶通傳輸技術(shù)差錯(cuò)控制編碼差錯(cuò)控制編碼4第第1章章 緒論緒論通信的基本概念通信的基本概念 通信系統(tǒng)組成通信系統(tǒng)組成 通信系統(tǒng)的分類通信系統(tǒng)的分類 信息及其度量信息及其度量 主要性能指標(biāo)主要性能指標(biāo) 51.1 通信的基本概念通信的基本概念 v 通信的目的：傳遞通信的目的：傳遞消息消息中所包含的中所包含的信息信息。 消息消息：是物質(zhì)或精神狀態(tài)的一種反映，例如語(yǔ)音、文字、音樂(lè)、數(shù)據(jù)、圖：是物質(zhì)或精神狀態(tài)的一種反映，例如語(yǔ)音、文字、音樂(lè)、數(shù)據(jù)、圖片或活動(dòng)圖像等。片或活動(dòng)圖像等。 信息信息：是

3、消息中包含的有效內(nèi)容。：是消息中包含的有效內(nèi)容。 信號(hào)信號(hào)-信號(hào)是指隨時(shí)間變化的物理量。因?yàn)橄⒉贿m合于在信道中直接信號(hào)是指隨時(shí)間變化的物理量。因?yàn)橄⒉贿m合于在信道中直接傳輸，需將其調(diào)制成適合在信道中傳輸?shù)男盘?hào)。信號(hào)可以分為連續(xù)時(shí)間信傳輸，需將其調(diào)制成適合在信道中傳輸?shù)男盘?hào)。信號(hào)可以分為連續(xù)時(shí)間信號(hào)和離散時(shí)間信號(hào)號(hào)和離散時(shí)間信號(hào) 信息是指消息中所包含的有意義的內(nèi)容，消息信息是指消息中所包含的有意義的內(nèi)容，消息是信息的載體，消息又是以具體信號(hào)形式表現(xiàn)是信息的載體，消息又是以具體信號(hào)形式表現(xiàn)出來(lái)的。出來(lái)的。 實(shí)現(xiàn)通信的方式和手段：實(shí)現(xiàn)通信的方式和手段： 非電的：如旌旗、消息樹(shù)、烽火臺(tái)非電的：如旌

4、旗、消息樹(shù)、烽火臺(tái) 電的：如電報(bào)、電話、廣播、電視、遙控、遙測(cè)、因特網(wǎng)和計(jì)算機(jī)通電的：如電報(bào)、電話、廣播、電視、遙控、遙測(cè)、因特網(wǎng)和計(jì)算機(jī)通信等。信等。 因此，通信的根本目的在于因此，通信的根本目的在于傳輸含有信息的消息傳輸含有信息的消息。“通信通信”也就是也就是“信息傳輸信息傳輸”或或“消息傳輸消息傳輸”。61.1 通信的基本概念通信的基本概念 v通信發(fā)展史通信發(fā)展史1837年電報(bào)開(kāi)始的年電報(bào)開(kāi)始的通信初級(jí)階段通信初級(jí)階段1948年香農(nóng)提出信息論開(kāi)始的年香農(nóng)提出信息論開(kāi)始的近代通信階段近代通信階段80年代以后光纖通信應(yīng)用、綜合業(yè)務(wù)數(shù)字網(wǎng)崛起的年代以后光纖通信應(yīng)用、綜合業(yè)務(wù)數(shù)字網(wǎng)崛起的現(xiàn)代通信

5、階段現(xiàn)代通信階段71.1 通信的基本概念通信的基本概念 v通信初級(jí)階段通信初級(jí)階段v1837年，摩爾斯發(fā)明有線電報(bào)，開(kāi)始了電通信階段年，摩爾斯發(fā)明有線電報(bào)，開(kāi)始了電通信階段v1843年，亞歷山大年，亞歷山大本取得電傳打字電報(bào)的專利本取得電傳打字電報(bào)的專利v1864年，麥克斯韋創(chuàng)立了電磁輻射理論年，麥克斯韋創(chuàng)立了電磁輻射理論,并被當(dāng)時(shí)的赫茲證明，促使了后來(lái)無(wú)線通信的出現(xiàn)并被當(dāng)時(shí)的赫茲證明，促使了后來(lái)無(wú)線通信的出現(xiàn)v1876年，貝爾利用電磁感應(yīng)原理發(fā)明了電話年，貝爾利用電磁感應(yīng)原理發(fā)明了電話v1879年，第一個(gè)專用人工電話交換系統(tǒng)投入運(yùn)行年，第一個(gè)專用人工電話交換系統(tǒng)投入運(yùn)行v1880年，第一個(gè)付

6、費(fèi)電話系統(tǒng)運(yùn)營(yíng)年，第一個(gè)付費(fèi)電話系統(tǒng)運(yùn)營(yíng)v1892年，加拿大政府開(kāi)始規(guī)定電話速率年，加拿大政府開(kāi)始規(guī)定電話速率v1896年，馬可尼發(fā)明無(wú)線電報(bào)年，馬可尼發(fā)明無(wú)線電報(bào)v1907年，電子管問(wèn)世，通信進(jìn)入電子信息時(shí)代年，電子管問(wèn)世，通信進(jìn)入電子信息時(shí)代v1915年，橫貫大陸電話開(kāi)通年，橫貫大陸電話開(kāi)通; 實(shí)現(xiàn)越洋語(yǔ)音連接實(shí)現(xiàn)越洋語(yǔ)音連接v1918年，調(diào)幅無(wú)線電廣播、超外差式接收機(jī)問(wèn)世年，調(diào)幅無(wú)線電廣播、超外差式接收機(jī)問(wèn)世v1925年，開(kāi)通三路明線載波電話，開(kāi)始多路通信年，開(kāi)通三路明線載波電話，開(kāi)始多路通信v1936年，調(diào)頻無(wú)線電廣播開(kāi)播年，調(diào)頻無(wú)線電廣播開(kāi)播v1937年，雷沃斯發(fā)明脈沖編碼調(diào)制，奠定

7、了數(shù)字通信基礎(chǔ)年，雷沃斯發(fā)明脈沖編碼調(diào)制，奠定了數(shù)字通信基礎(chǔ)v1938年，電視廣播開(kāi)播年，電視廣播開(kāi)播v20世紀(jì)世紀(jì)40年代二戰(zhàn)期間，雷達(dá)與微波通信得到發(fā)展年代二戰(zhàn)期間，雷達(dá)與微波通信得到發(fā)展v1946年，第一臺(tái)數(shù)字電子計(jì)算機(jī)問(wèn)世年，第一臺(tái)數(shù)字電子計(jì)算機(jī)問(wèn)世v1947年，晶體管在貝爾實(shí)驗(yàn)室問(wèn)世，為通信器件的進(jìn)步創(chuàng)造了條件年，晶體管在貝爾實(shí)驗(yàn)室問(wèn)世，為通信器件的進(jìn)步創(chuàng)造了條件81.1 通信的基本概念通信的基本概念 v近代通信階段近代通信階段v 1948年，香農(nóng)提出了信息論，建立了通信統(tǒng)計(jì)理論年，香農(nóng)提出了信息論，建立了通信統(tǒng)計(jì)理論v 1950年，時(shí)分多路通信應(yīng)用于電話系統(tǒng)年，時(shí)分多路通信應(yīng)用于電

8、話系統(tǒng)v 1951年，直撥長(zhǎng)途電話開(kāi)通年，直撥長(zhǎng)途電話開(kāi)通v 1956年，敷設(shè)越洋通信電纜年，敷設(shè)越洋通信電纜v 1957年，發(fā)射第一顆人造地球衛(wèi)星年，發(fā)射第一顆人造地球衛(wèi)星v 1958年，發(fā)射第一顆通信衛(wèi)星年，發(fā)射第一顆通信衛(wèi)星v 1962年，發(fā)射第一顆同步通信衛(wèi)星，開(kāi)通國(guó)際衛(wèi)星電話；脈沖編碼調(diào)制進(jìn)年，發(fā)射第一顆同步通信衛(wèi)星，開(kāi)通國(guó)際衛(wèi)星電話；脈沖編碼調(diào)制進(jìn)入實(shí)用階段入實(shí)用階段v 20世紀(jì)世紀(jì)60年代，彩色電視問(wèn)世；阿波羅宇宙飛船登月；數(shù)字傳輸理論與技年代，彩色電視問(wèn)世；阿波羅宇宙飛船登月；數(shù)字傳輸理論與技術(shù)得到迅速發(fā)展；計(jì)算機(jī)網(wǎng)絡(luò)開(kāi)始出現(xiàn)術(shù)得到迅速發(fā)展；計(jì)算機(jī)網(wǎng)絡(luò)開(kāi)始出現(xiàn)v 1969年，電

9、視電話業(yè)務(wù)開(kāi)通年，電視電話業(yè)務(wù)開(kāi)通v 20世紀(jì)世紀(jì)70年代，商用衛(wèi)星通信、程控?cái)?shù)字交換機(jī)、光纖通信系統(tǒng)投入使用；年代，商用衛(wèi)星通信、程控?cái)?shù)字交換機(jī)、光纖通信系統(tǒng)投入使用；一些公司制定計(jì)算機(jī)網(wǎng)絡(luò)體系結(jié)構(gòu)一些公司制定計(jì)算機(jī)網(wǎng)絡(luò)體系結(jié)構(gòu)91.1 通信的基本概念通信的基本概念 現(xiàn)代通信階段現(xiàn)代通信階段-通信革命通信革命 v 20世紀(jì)世紀(jì)80年代，開(kāi)通數(shù)字網(wǎng)絡(luò)的公用業(yè)務(wù)；個(gè)人計(jì)算機(jī)和計(jì)算機(jī)局域網(wǎng)出現(xiàn)；網(wǎng)年代，開(kāi)通數(shù)字網(wǎng)絡(luò)的公用業(yè)務(wù)；個(gè)人計(jì)算機(jī)和計(jì)算機(jī)局域網(wǎng)出現(xiàn)；網(wǎng)絡(luò)體系結(jié)構(gòu)國(guó)際標(biāo)準(zhǔn)陸續(xù)制定絡(luò)體系結(jié)構(gòu)國(guó)際標(biāo)準(zhǔn)陸續(xù)制定v 20世紀(jì)世紀(jì)90年代，蜂窩電話系統(tǒng)開(kāi)通，各種無(wú)線通信和數(shù)據(jù)移動(dòng)通信技術(shù)不斷涌現(xiàn)；年代，

10、蜂窩電話系統(tǒng)開(kāi)通，各種無(wú)線通信和數(shù)據(jù)移動(dòng)通信技術(shù)不斷涌現(xiàn)；光纖通信得到迅速普遍的應(yīng)用；國(guó)際互聯(lián)網(wǎng)和多媒體通信技術(shù)得到極大發(fā)展，光纖通信得到迅速普遍的應(yīng)用；國(guó)際互聯(lián)網(wǎng)和多媒體通信技術(shù)得到極大發(fā)展，v 1997年，年，68個(gè)國(guó)家簽定國(guó)際協(xié)定，互相開(kāi)放電信市場(chǎng)個(gè)國(guó)家簽定國(guó)際協(xié)定，互相開(kāi)放電信市場(chǎng)數(shù)據(jù)通信數(shù)據(jù)通信計(jì)算機(jī)科學(xué)技術(shù)與通信技術(shù)相結(jié)合的產(chǎn)物計(jì)算機(jī)科學(xué)技術(shù)與通信技術(shù)相結(jié)合的產(chǎn)物計(jì)算機(jī)以及各種數(shù)據(jù)設(shè)備之間經(jīng)由數(shù)據(jù)通路（專線或通信網(wǎng)絡(luò)）所進(jìn)行的數(shù)據(jù)交換計(jì)算機(jī)以及各種數(shù)據(jù)設(shè)備之間經(jīng)由數(shù)據(jù)通路（專線或通信網(wǎng)絡(luò)）所進(jìn)行的數(shù)據(jù)交換計(jì)算機(jī)通信計(jì)算機(jī)通信指兩臺(tái)或多臺(tái)指兩臺(tái)或多臺(tái)“自治自治”的計(jì)算機(jī)之間的數(shù)據(jù)交換

11、的計(jì)算機(jī)之間的數(shù)據(jù)交換不能不能“自治自治”的各種數(shù)據(jù)設(shè)備之間的數(shù)據(jù)交換屬于數(shù)據(jù)通信，但不是計(jì)算機(jī)通信的各種數(shù)據(jù)設(shè)備之間的數(shù)據(jù)交換屬于數(shù)據(jù)通信，但不是計(jì)算機(jī)通信數(shù)據(jù)數(shù)據(jù)/計(jì)算機(jī)通信的革命計(jì)算機(jī)通信的革命始于始于20世紀(jì)世紀(jì)70/80年代年代90年代年代Internet普及與多媒體通信技術(shù)發(fā)展加速了變革普及與多媒體通信技術(shù)發(fā)展加速了變革數(shù)據(jù)通信與計(jì)算機(jī)通信逐漸融合數(shù)據(jù)通信與計(jì)算機(jī)通信逐漸融合通信產(chǎn)業(yè)與計(jì)算機(jī)產(chǎn)業(yè)日趨重合通信產(chǎn)業(yè)與計(jì)算機(jī)產(chǎn)業(yè)日趨重合10 1.2 通信系統(tǒng)組成通信系統(tǒng)組成 1.2.1 通信系統(tǒng)的一般模型通信系統(tǒng)的一般模型圖 1-1 通信系統(tǒng)的一般模型 11 1.2 通信系統(tǒng)組成通信系統(tǒng)

12、組成 1.2.2 模擬通信系統(tǒng)模型和數(shù)字通信系統(tǒng)模型模擬通信系統(tǒng)模型和數(shù)字通信系統(tǒng)模型模擬信號(hào)：代表消息的信號(hào)參量取值連續(xù)模擬信號(hào)：代表消息的信號(hào)參量取值連續(xù) 例如麥克風(fēng)輸出電壓例如麥克風(fēng)輸出電壓圖 1-2 模擬信號(hào)波形 模擬信號(hào)和數(shù)字信號(hào)模擬信號(hào)和數(shù)字信號(hào)12 1.2 通信系統(tǒng)組成通信系統(tǒng)組成 數(shù)字信號(hào)：代表消息的信號(hào)參量取值為有限個(gè)數(shù)字信號(hào)：代表消息的信號(hào)參量取值為有限個(gè) 例如電報(bào)信號(hào)、計(jì)算機(jī)輸入輸出信號(hào)例如電報(bào)信號(hào)、計(jì)算機(jī)輸入輸出信號(hào)(a) 二進(jìn)制信號(hào)(b) 2PSK信號(hào)圖 1-3 數(shù)字信號(hào)波形 通常，按照信道中傳輸?shù)氖悄M信號(hào)還是數(shù)字通常，按照信道中傳輸?shù)氖悄M信號(hào)還是數(shù)字信號(hào)，相應(yīng)地

13、把通信系統(tǒng)分為模擬通信系統(tǒng)和數(shù)字信號(hào)，相應(yīng)地把通信系統(tǒng)分為模擬通信系統(tǒng)和數(shù)字通信系統(tǒng)。通信系統(tǒng)。13 1.2 通信系統(tǒng)組成通信系統(tǒng)組成 模擬通信系統(tǒng)模型模擬通信系統(tǒng)模型經(jīng)過(guò)調(diào)制后的信號(hào)成為已調(diào)信號(hào)經(jīng)過(guò)調(diào)制后的信號(hào)成為已調(diào)信號(hào);發(fā)送端調(diào)制前和接收端解調(diào)后發(fā)送端調(diào)制前和接收端解調(diào)后的信號(hào)稱為基帶信號(hào)。因此，原始電信號(hào)又稱為的信號(hào)稱為基帶信號(hào)。因此，原始電信號(hào)又稱為基帶信號(hào)基帶信號(hào)，而，而已調(diào)信號(hào)又稱為已調(diào)信號(hào)又稱為頻帶信號(hào)頻帶信號(hào)。通常具有很高的中心頻率，直接可以在信通常具有很高的中心頻率，直接可以在信道中傳輸?；咎卣鳎旱乐袀鬏敗；咎卣鳎?、攜帶有信息；、攜帶有信息；2、適合在信道中傳輸；、適

14、合在信道中傳輸；3、信號(hào)的頻譜具有帶通形式，且中心頻率、信號(hào)的頻譜具有帶通形式，且中心頻率遠(yuǎn)離零頻。如語(yǔ)音信號(hào)遠(yuǎn)離零頻。如語(yǔ)音信號(hào)300 3400Hz帶通信號(hào)帶通信號(hào)通常具有頻率很通常具有頻率很低的頻譜分量，低的頻譜分量，一般不宜直接傳一般不宜直接傳輸。如語(yǔ)音信號(hào)輸。如語(yǔ)音信號(hào)300 3400Hz基帶信號(hào)基帶信號(hào)模擬信息源調(diào)制器信道解調(diào)器受信者圖 1-4 模擬通信系統(tǒng)模型 14 1.2 通信系統(tǒng)組成通信系統(tǒng)組成 數(shù)字通信系統(tǒng)模型數(shù)字通信系統(tǒng)模型圖 1-5 數(shù)字通信系統(tǒng)模型 在某些有線信道中，特別是傳輸距離不太遠(yuǎn)的情況下，可以不經(jīng)過(guò)在某些有線信道中，特別是傳輸距離不太遠(yuǎn)的情況下，可以不經(jīng)過(guò)調(diào)制和

15、解調(diào)過(guò)程而讓數(shù)字基帶信號(hào)直接進(jìn)行傳輸，我們稱之為數(shù)字調(diào)制和解調(diào)過(guò)程而讓數(shù)字基帶信號(hào)直接進(jìn)行傳輸，我們稱之為數(shù)字信號(hào)的信號(hào)的基帶傳輸基帶傳輸。與此相應(yīng)，另外一些信道，比如在無(wú)線信道和光。與此相應(yīng)，另外一些信道，比如在無(wú)線信道和光信道中，數(shù)字基帶信號(hào)則必須經(jīng)過(guò)調(diào)制，將信號(hào)頻譜搬移到高頻處信道中，數(shù)字基帶信號(hào)則必須經(jīng)過(guò)調(diào)制，將信號(hào)頻譜搬移到高頻處才能在信道中傳輸，我們把這種傳輸稱為數(shù)字信號(hào)的才能在信道中傳輸，我們把這種傳輸稱為數(shù)字信號(hào)的頻帶傳輸頻帶傳輸。15 1.2 通信系統(tǒng)組成通信系統(tǒng)組成 抗干擾能力強(qiáng)，抗干擾能力強(qiáng)，且可消除噪聲積累且可消除噪聲積累 差錯(cuò)可控差錯(cuò)可控 易于與各種數(shù)字終端接口，易于

16、與各種數(shù)字終端接口，用現(xiàn)代計(jì)算技術(shù)對(duì)信號(hào)進(jìn)行處理用現(xiàn)代計(jì)算技術(shù)對(duì)信號(hào)進(jìn)行處理 易于集成化易于集成化 數(shù)字通信的許數(shù)字通信的許多優(yōu)點(diǎn)都是用多優(yōu)點(diǎn)都是用比模擬通信占比模擬通信占據(jù)更寬的系統(tǒng)據(jù)更寬的系統(tǒng)頻帶為代價(jià)而頻帶為代價(jià)而換取的。換取的。易于加密處理易于加密處理 1.2.3數(shù)字通信的特點(diǎn)數(shù)字通信的特點(diǎn)16 1.3 通信系統(tǒng)的分類與通信方式通信系統(tǒng)的分類與通信方式 分類分類按信號(hào)特征分類按信號(hào)特征分類 按信號(hào)復(fù)用方式分類按信號(hào)復(fù)用方式分類 1.3.1 通信系統(tǒng)的分類通信系統(tǒng)的分類按調(diào)制方式分類按調(diào)制方式分類 按通信業(yè)務(wù)分類按通信業(yè)務(wù)分類 按工作波段分類按工作波段分類 按傳輸媒介分類按傳輸媒介分類

17、17 1.3 通信系統(tǒng)的分類與通信方式通信系統(tǒng)的分類與通信方式 1.3.2 通信方式通信方式 按消息傳遞的方向與時(shí)間關(guān)系分按消息傳遞的方向與時(shí)間關(guān)系分 單工通信單工通信半雙工通信半雙工通信 全雙工通信全雙工通信 18 1.3 通信系統(tǒng)的分類與通信方式通信系統(tǒng)的分類與通信方式 按碼元排列順序分按碼元排列順序分 并行傳輸并行傳輸 串行傳輸串行傳輸 將代表信息將代表信息的數(shù)字信號(hào)碼元的數(shù)字信號(hào)碼元序列以成組的方序列以成組的方式在兩條或兩條式在兩條或兩條以上的并行信道以上的并行信道上同時(shí)傳輸。上同時(shí)傳輸。 將數(shù)字信號(hào)將數(shù)字信號(hào)碼元序列以串行碼元序列以串行方式一個(gè)碼元接方式一個(gè)碼元接一個(gè)碼元地在一一個(gè)碼

18、元地在一條信道上傳輸。條信道上傳輸。1.3.2 通信方式通信方式19 1.4 信息及其度量信息及其度量 一、離散消息的信息量一、離散消息的信息量信息信息 是消息中包含的有效內(nèi)容是消息中包含的有效內(nèi)容如何度量呢？如何度量呢？消息所表達(dá)的事件越不可能發(fā)生，信息量就越大。消息所表達(dá)的事件越不可能發(fā)生，信息量就越大。度量信息量的原則度量信息量的原則 能度量任何消息，并與消息的種類無(wú)關(guān)。能度量任何消息，并與消息的種類無(wú)關(guān)。 度量方法應(yīng)該與消息的重要程度無(wú)關(guān)。度量方法應(yīng)該與消息的重要程度無(wú)關(guān)。 消息中所含信息量和消息內(nèi)容的不確定性有關(guān)。消息中所含信息量和消息內(nèi)容的不確定性有關(guān)。舉例：兩則消息舉例：兩則消息

19、 大陸和臺(tái)灣統(tǒng)一；大陸和臺(tái)灣統(tǒng)一； 今天下雨。今天下雨。其中，其中， 比比 包含有更多的信息。包含有更多的信息。20 1.4 信息及其度量信息及其度量 度量信息量的方法：度量信息量的方法： 事件的不確定程度可以用其出現(xiàn)的概率來(lái)描述：消息出現(xiàn)的事件的不確定程度可以用其出現(xiàn)的概率來(lái)描述：消息出現(xiàn)的概率越小，則消息中包含的信息量就越大。概率越小，則消息中包含的信息量就越大。設(shè)：設(shè)：P(x) 消息發(fā)生的概率，消息發(fā)生的概率， I 消息中所含的信息量。消息中所含的信息量。則則 P(x) 和和 I 之間應(yīng)該有如下關(guān)系：之間應(yīng)該有如下關(guān)系： I 是是 P(x) 的函數(shù)：的函數(shù)： I I P(x) P(x)

20、，I ； P(x) ，I P(x) = 1時(shí)，時(shí)，I 0； P(x) 0，I IP(x1)P(x2) = IP(x1)+IP(x2) 滿足上述滿足上述4條件的關(guān)系式如下：條件的關(guān)系式如下：)(log)(1logxPxPIaa信息量的定義信息量的定義21 1.4 信息及其度量信息及其度量 )(log)(1logxPxPIaa式中：式中：P(x)為該消息發(fā)生的概率。為該消息發(fā)生的概率。 當(dāng)對(duì)數(shù)底當(dāng)對(duì)數(shù)底 a = 2 時(shí)，信息量的單位為比特（時(shí)，信息量的單位為比特（bit） a = e 時(shí)，信息量的單位為奈特（時(shí)，信息量的單位為奈特（nit） a = 10時(shí)，信息量的單位為哈特萊時(shí)，信息量的單位為哈

21、特萊 通常廣泛使用的單位為比特，這時(shí)有通常廣泛使用的單位為比特，這時(shí)有221loglog( )( )IP xP x ( bit )22 1.4 信息及其度量信息及其度量 例例 1.4-1 已知二進(jìn)制離散信源（已知二進(jìn)制離散信源（0，1），若），若“0”出現(xiàn)的概率為出現(xiàn)的概率為1/3，求出現(xiàn)，求出現(xiàn)“1”的信息量。的信息量。 解：解：由于全概率為由于全概率為1，即，即 P(0) + P(1) = 1 則出現(xiàn)則出現(xiàn)“1”的概率的概率P(1) = 2/3 故出現(xiàn)故出現(xiàn)“1”的信息量為的信息量為 2213loglog0.585(1)2IP bit 例例 1.4-2 已知二進(jìn)制離散信息源（已知二進(jìn)制離散

22、信息源（0，1），每一符號(hào)波形等概率），每一符號(hào)波形等概率獨(dú)立發(fā)送，求傳送二進(jìn)制波形之一的信息量。獨(dú)立發(fā)送，求傳送二進(jìn)制波形之一的信息量。 解：解：由于每一波形出現(xiàn)的概率為由于每一波形出現(xiàn)的概率為 P(x) = 1/2， 故其信息量為故其信息量為221loglog 21( )IP xbit23 1.4 信息及其度量信息及其度量 2log 2(b)kIk例例 1.4-3 已知四進(jìn)制離散信源（已知四進(jìn)制離散信源（0，1，2，3），獨(dú)立等概率發(fā)），獨(dú)立等概率發(fā)送，求傳送每一波形的信息量。送，求傳送每一波形的信息量。 解：解：由于每一波形出現(xiàn)的概率為由于每一波形出現(xiàn)的概率為 P(x) = 1/4， 故

23、其信息量為故其信息量為221loglog 42( )IP xbit結(jié)論：結(jié)論： 若有若有M個(gè)等概率波形（個(gè)等概率波形（P = 1/M），且每一個(gè)波形的出），且每一個(gè)波形的出現(xiàn)是獨(dú)立的，則傳送現(xiàn)是獨(dú)立的，則傳送 M 進(jìn)制波形之一的信息量為進(jìn)制波形之一的信息量為 若若M是是2的整冪次，即的整冪次，即 M = 2k，則有，則有)b(log/11log1log222MMPI24 1.4 信息及其度量信息及其度量 非等概率情況非等概率情況 設(shè)一個(gè)離散信源是由設(shè)一個(gè)離散信源是由 M 個(gè)符號(hào)組成的集合，其中每個(gè)符個(gè)符號(hào)組成的集合，其中每個(gè)符號(hào)號(hào) xi ( i = 1, 2, 3, , M ) 按一定的概率按

24、一定的概率P( xi ) 獨(dú)立出現(xiàn)，即獨(dú)立出現(xiàn)，即 1212,MMxxxP xP xP x1( )1MiiP x且有且有則整個(gè)消息的信息量則整個(gè)消息的信息量 式中：式中：ni 為第為第 i 個(gè)符號(hào)出現(xiàn)的次數(shù)個(gè)符號(hào)出現(xiàn)的次數(shù) P(xi)為第個(gè)符號(hào)出現(xiàn)的概率為第個(gè)符號(hào)出現(xiàn)的概率 n 為離散消息源的符號(hào)數(shù)目為離散消息源的符號(hào)數(shù)目 n=n1+n2+nm25 1.4 信息及其度量信息及其度量 例例 1.4-4 一離散信源由一離散信源由 0，1，2，3 四個(gè)符號(hào)組成，它們出現(xiàn)的概四個(gè)符號(hào)組成，它們出現(xiàn)的概率分別為率分別為3/8，1/4，1/4，1/8，且每個(gè)符號(hào)的出現(xiàn)都是獨(dú)立的。試，且每個(gè)符號(hào)的出現(xiàn)都是獨(dú)

25、立的。試求某消息求某消息201020130213001203210100321010023102002010312032100120210的信息量。的信息量。解：解：在此消息中，在此消息中，0出現(xiàn)出現(xiàn)23次，次，1出現(xiàn)出現(xiàn)14 次，次，2出現(xiàn)出現(xiàn)13次，次，3出現(xiàn)出現(xiàn)7次，共有次，共有57個(gè)符號(hào)，故該消息的信息量個(gè)符號(hào)，故該消息的信息量 4212222log( )311123log14log13log7log844833 28+26+21=108bitiiiInP x26 1.4 信息及其度量信息及其度量 二、離散信源的平均信息量二、離散信源的平均信息量 H 所謂平均信息量是指信源中每個(gè)符號(hào)所

26、含信息量的統(tǒng)計(jì)平所謂平均信息量是指信源中每個(gè)符號(hào)所含信息量的統(tǒng)計(jì)平均值。統(tǒng)計(jì)獨(dú)立的個(gè)符號(hào)的離散信息源的平均信息量為均值。統(tǒng)計(jì)獨(dú)立的個(gè)符號(hào)的離散信息源的平均信息量為 21logniiiH xP xP x （bit/符號(hào)）符號(hào)） 由于由于H(x)同熱力學(xué)中的熵形式相似，故稱它為信息源的同熱力學(xué)中的熵形式相似，故稱它為信息源的熵熵。信源中每個(gè)符號(hào)等概率獨(dú)立出現(xiàn)信源中每個(gè)符號(hào)等概率獨(dú)立出現(xiàn) ，則得最大信息熵，則得最大信息熵22111loglogniHnnn （bit/符號(hào)）符號(hào)）27 1.4 信息及其度量信息及其度量 例例 1.4-5 利用統(tǒng)計(jì)平均值的方法（熵的概念），重現(xiàn)計(jì)算利用統(tǒng)計(jì)平均值的方法（熵

27、的概念），重現(xiàn)計(jì)算 例例 1.4-4。 解：信息熵為解：信息熵為 222233111111Hloglogloglog884444881.906 (bit/符號(hào)符號(hào)) 則該消息所含信息量為則該消息所含信息量為 I = 57 1.906 = 108.64 ( bit )28 1.4 信息及其度量信息及其度量 三、連續(xù)信源的信息量三、連續(xù)信源的信息量 關(guān)于連續(xù)消息的信息量可以用概率密度函數(shù)來(lái)描述。關(guān)于連續(xù)消息的信息量可以用概率密度函數(shù)來(lái)描述?？梢宰C明，連續(xù)消息的平均信息量為可以證明，連續(xù)消息的平均信息量為 ( )logaH xf xf x dx 式中，式中，f (x) 連續(xù)消息出現(xiàn)的概率密度。連續(xù)消息出現(xiàn)的概率密度。29有效性有效性給定信道內(nèi)所給定信道內(nèi)所傳輸?shù)男畔?nèi)傳輸?shù)男畔?nèi)容的多少，即容的多少，即傳輸?shù)膫鬏數(shù)摹八俣人俣取眴?wèn)題。問(wèn)題。可靠性可靠性接收信息的準(zhǔn)接收信息的準(zhǔn)確程度，即傳確程度，即傳輸?shù)妮數(shù)摹百|(zhì)量質(zhì)量”問(wèn)題。問(wèn)題。 主要性能指標(biāo)主要性能指標(biāo) 1.5 通信系統(tǒng)主要性能指標(biāo)通信系統(tǒng)主要性能指標(biāo) 30 有效性有效性可靠性可靠性 1.5 通信系統(tǒng)主要性能指標(biāo)通信系統(tǒng)主要性能指標(biāo) 一、模擬通信系統(tǒng)的性能指標(biāo)一、模擬通信系統(tǒng)的性能指標(biāo)信噪比信噪比 = 信號(hào)平均功率信號(hào)平均功率 / 噪聲平均