2020年新編信息論與編碼期末考試題全套名師精品資料

1、4小題，滿分50分.2 種符號(hào) Xi （i 二 1,2）, p（X|） = a ;接收端y （j -1,2,3），轉(zhuǎn)移概率矩陣為1-p1-p圖 2-13信源X的符號(hào)集為0,1,2.一、 判斷題共10小題，滿分 20分.1. 當(dāng)隨機(jī)變量X和丫相互獨(dú)立時(shí)，條件熵 H （X |Y）等于信源熵H（X）.（）2. 由于構(gòu)成同一空間的基底不是唯一的，所以不同的基底或生成矩陣有可能生成同一碼集.（）3. 般情況下，用變長(zhǎng)編碼得到的平均碼長(zhǎng)比定長(zhǎng)編碼大得多.（）4. 只要信息傳輸率大于信道容量，總存在一種信道編譯 碼，可以以所要求的任意小的誤差概率實(shí)現(xiàn)可靠的通信.（）5. 各碼字的長(zhǎng)度符合克拉夫特不等式，是唯

2、一可譯碼存在的充分和必要條件.（）6. 連續(xù)信源和離散信源的熵都具有非負(fù)性. （）7. 信源的消息通過(guò)信道傳輸后的誤差或失真越大，信宿 收到消息后對(duì)信源存在的不確定性就越小，獲得的信息量就越小.8. 漢明碼是一種線性分組碼. （）9. 率失真函數(shù)的最小值是 0.（）10. 必然事件和不可能事件的自信息量都是0 . （）二、 填空題共6小題，滿分20分.1 、 碼的檢、糾錯(cuò)能力取決于.2、 信源編碼的目的是；信道編碼的目的是.3、 把信息組原封不動(dòng)地搬到碼字前k位的（n, k）碼就叫做.4、香農(nóng)信息論中的三大極限定理是、 5、 設(shè)信道的輸入與輸出隨機(jī)序列分別為X和丫，則l（X N,Yn）=NI

3、（X,Y）成立的條件.6、對(duì)于香農(nóng)-費(fèi)諾編碼、原始香農(nóng)-費(fèi)諾編碼和哈夫曼編碼， 編碼方法惟一的是.7、某二元信源 =01 ，其失真矩陣|P（X） 1/2 1/2D = 0 *，則該信源的Dmax=.a 0三、本題共1、某信源發(fā)送端有 有3種符號(hào)1/2 1/2 0P=|.1/2 1/4 1/4一（1）計(jì)算接收端的平均不確定度H （Y）；（2）計(jì)算由于噪聲產(chǎn)生的不確定度H （Y |X）；（3）計(jì)算信道容量以及最佳 入口分布.2、一階馬爾可夫信源的狀態(tài)轉(zhuǎn)移圖如右圖所示，（1）求信源平穩(wěn)后的概率分布；（2）求此信源的熵；（3）近似地認(rèn)為此信源為無(wú)記憶時(shí)，符號(hào)的概率分布為 平穩(wěn)分布.求近似信源的熵 H

4、（X）并與H二進(jìn)行比較.4、設(shè)二元（7,4）線性三分組碼的生成矩陣為-11010000110100G =1110010.1010001 一（1）給出該碼的-致校驗(yàn)矩陣，寫(xiě)出所有的陪集首和與之相對(duì)應(yīng)的伴隨式;（2）若接收矢量v= （0001011），試計(jì)算出其對(duì)應(yīng)的伴隨式S并按照最小距離譯碼準(zhǔn)則試著對(duì)其譯碼.一、填空題（共15分，每空1分）1、 信源編碼的主要目的是 ，信道編碼的主要目的是。2、 信源的剩余度主要來(lái)自?xún)蓚€(gè)方面，一是，3、 三進(jìn)制信源的最小熵為 ，最大熵為 。4、無(wú)失真信源編碼的¥均碼長(zhǎng)最小理論極限制為。5、 當(dāng)時(shí)，信源與信道達(dá)到匹配。6、根據(jù)信道特性是否隨時(shí)間變化，信道

5、可以分為和。7、根據(jù)是否允許失真，信源編碼可分為和。8、 若連續(xù)信源輸出信號(hào)的平均功率為二2，則輸出信號(hào)幅度的概率密度是 時(shí)，信源具有最大熵，其值為值。9、 在下面空格中選擇填入數(shù)學(xué)符號(hào)“乞，”或“ ”（1 ）當(dāng) X 和 Y 相互獨(dú)立時(shí)，H （XY）H（X）+H（X/Y）H(Y)+H(X)。(2)H2 X 二H ：lX2 H3 X =H X1X2X33（3）假設(shè)信道輸入用 X表示，信道輸出用Y表示。在無(wú)噪有 損信道中，H（X/Y） 0,H（Y/X） 0,I（X;Y） H（XL。三、（16分）已知信源S_S!S2S3S4SsS6P1(0.2 0.2 0.2 0.2 0.10.1（1 ）用霍夫曼編

6、碼法編成二進(jìn)制變長(zhǎng)碼；（6分）（2）計(jì)算平均碼長(zhǎng)L;（ 4分）（3）計(jì)算編碼信息率 R ;（2分）（4）計(jì)算編碼后信息傳輸率 R; （2分）（5） 計(jì)算編碼效率。（2分）七、（16分）設(shè)X、Y是兩個(gè)相互獨(dú)立的二元隨機(jī)變量，其取0或1的概率相等。定義另一個(gè)二元隨機(jī)變量Z=XY（ 一般乘積）。試計(jì)算（1）H X ,H Z ; H XY ,H XZ ; H X|Y ,H Z|X ; I X;Y ,I X;Z ;八、（10分）設(shè)離散無(wú)記憶信源的概率空間為X | X, 16X2丨，通過(guò)干擾信道，信道輸出端的接收符號(hào)p 一 0.8 0.2一集為丫 = l.y1, y2 1，信道傳輸概率如下圖所示。四、（1

7、0分）某信源輸出 A B、C D E五種符號(hào)，每一個(gè) 符號(hào)獨(dú)立出現(xiàn)，出現(xiàn)概率分別為1/8、1/8、1/8、1/2、1/8。如果符號(hào)的碼元寬度為0.5七。計(jì)算：（1）信息傳輸速率Rt。（ 5分）(1)X2計(jì)算信源X中事件X1包含的自信息量;計(jì)算信源X的信息熵;y2五、（16分）一個(gè)一階馬爾可夫信源，轉(zhuǎn)移概率為2 1PS|S1 WPS2|S1 EPS|S2P。（1）畫(huà)出狀態(tài)轉(zhuǎn)移圖。（4分）（2）計(jì)算穩(wěn)態(tài)概率。（4分）（3）計(jì)算馬爾可夫信源的極限熵。 （4分）（4）計(jì)算穩(wěn)態(tài)下H1,H2及其對(duì)應(yīng)的剩余度。（4分）六、設(shè)有擾信道的傳輸情況分別如圖所示。試求這種信道的 信道容量。計(jì)算信道疑義度H X |丫

8、 ；計(jì)算噪聲熵H Y|X ；（5）計(jì)算收到消息Y后獲得的平均互信息量。信息論基礎(chǔ)2參考答案一、填空題（共15分，每空1分）1、 信源編碼的主要目的是提高有效性，信道編碼的主要目的 是提高可靠性。2、 信源的剩余度主要來(lái)自?xún)蓚€(gè)方面，一是信源符號(hào)間的相關(guān) 性，二是信源符號(hào)的統(tǒng)計(jì)不均勻性。3、三進(jìn)制信源的最小熵為0，最大熵為log23bit/符號(hào)。L - a P A =0.4 2 0.6 3 = 2.6碼元 符號(hào)的概率密度是高斯分布或正態(tài)分布或X2心）=靑戶時(shí)，(3)R'： =L log r=2.6bit 符號(hào)(4)4、 無(wú)失真信源編碼的平均碼長(zhǎng)最小理論極限制為信源熵（或 H（S）/logr

9、= H r（S）。5、當(dāng)R=C或（信道剩余度為 0）時(shí)，信源與信道達(dá)到匹配。6、 根據(jù)信道特性是否隨時(shí)間變化，信道可以分為恒參信道和 隨參信道。7、根據(jù)是否允許失真，信源編碼可分為無(wú)失真信源編碼和限 _ 失真信源編碼。8、 若連續(xù)信源輸出信號(hào)的平均功率為二2，則輸出信號(hào)幅度信源具有最大熵，其值為值1 log 2二e；。9、在下面空格中選擇填入數(shù)學(xué)，一豈”或“ ”（1）當(dāng) X和 Y相互獨(dú)立時(shí)，H（XY）=H（X）+H（X/Y）=H（Y）+H（X）H 以梯2 'H （X1X2X3 （2）H2 X二出 X§3（3）假設(shè)信道輸入用 X表示，信道輸出用Y表示。在無(wú)噪有損信道中，H（X/

10、Y）0, H（Y/X）=0,l（X;Y）H（X）_。三、（16分）已知信源S_S! S2 S3 S4 Ss S6P 1（0.2 0.2 0.2 0.2 0.10.1（1 ）用霍夫曼編碼法編成二進(jìn)制變長(zhǎng)碼；（6分）（2）計(jì)算平均碼長(zhǎng)L;（ 4分）（3 ）計(jì)算編碼信息率 R ；（ 2分）（4） 計(jì)算編碼后信息傳輸率R； （2分）（5）計(jì)算編碼效率 。（2分）(1)0.20010.201.0S0.20S40.211S50.101S60.11編碼結(jié)果為：S=00=01S3=100S4= 101S5=110S6=111R=¥二第"皿小七碼元其中,H S =H 0.2,0.2,0.2,

11、0.2,0.1,0.1=2.53bit 符號(hào) / 、 H（S H （S（5）0.973L log r L評(píng)分：其他正確的編碼方案：1,要求為即時(shí)碼2，平均碼長(zhǎng) 最短四、（10分）某信源輸出 A、B、C、D E五種符號(hào)，每一個(gè) 符號(hào)獨(dú)立出現(xiàn)，出現(xiàn)概率分別為1/8、1/8、1/8、1/2、1/8。如果符號(hào)的碼元寬度為0.5。計(jì)算： （1）信息傳輸速率 R。（ 5分）（1） R W H X H xyH X 1 log 14 -1 log 1I ）8822=丄 log 8 丄 log 2 2 2=3 log 2 - 1 log 2=2 log 2=2bitRt型 4 106bpst 0.5五、（16分

12、）一個(gè)一階馬爾可夫信源，轉(zhuǎn)移概率為2 1P（SS）石,PdlS）石,PQI'FIF（鋁S2）=0。（1）畫(huà)出狀態(tài)轉(zhuǎn)移圖。（4分）（2）計(jì)算穩(wěn)態(tài)概率。（4分）（3）計(jì)算馬爾可夫信源的極限熵。（4分） 計(jì)算穩(wěn)態(tài)下 比，出 及其對(duì)應(yīng)的剩余度。（4分）解：1' S S2172由公式P Si八P Si |Sj P Sj有22P(S1)=無(wú) p(S |S )P(S )=$p(S)+P(S2)i丄321P S2 八 p S2IS P S P 3i=13P(S )+P(S2 ) = 1解：信道傳輸矩陣如下1PY|x12-212123p $ =4得4P S2肓J212-2一該馬爾可夫信源的極限熵

13、為:2 2H：-p s p Sj|Si logP Sj |Sii二 j 二3 2,231,1loglog -4 33433110.5781.599247681bit,符旦= 0.472 nat.符= 0.205hart . 符可以看出這是一個(gè)對(duì)稱(chēng)信道，(1 1 )C = log 4 H , ,0,0122 '丿LTogL ' p yj |< log p 比 |<j a11=log4 2 log-L=4,那么信道容量為號(hào)口號(hào)F號(hào)-1bit七、(16分)設(shè)X、Y是兩個(gè)相互獨(dú)立的二元隨機(jī)變量，其取0或1的概率相等。定義另一個(gè)二元隨機(jī)變量Z=XY( 一般乘積)。試計(jì)算(1)

14、H X ,H Z ;(4)在穩(wěn)態(tài)下：233 11=-Z P(x QgP(x宵：旳。音 |=0.81biy符號(hào)H XY ,H XZ ;H X|Y ,H Z|X ;H2 =H=0.205hart.符號(hào)-0.472nat 符號(hào)=0.681bit.符號(hào)I X;Y ,I X;Z ;對(duì)應(yīng)的剩余度為解:(1)Hi1 H0- -"log 三0.811卜 z0.189Z0P(Z)3/411/40.681-log -H (X )=H '扛12 2丿=1bitH0 £噸2=2丿丿-=0.319H(2)汀= 0.8113bit六、設(shè)有擾信道的傳輸情況分別如圖所示。試求這種信道的 信道容量。

15、 H XY=H X H Y i=1 1=2bit：對(duì)12/1 2r1 21 2/1 21 21 21 2H XZ =H X H Z|X =1H 1,2 H X|Y 二H X =1bitH Z |X1,0 丄 H 丄，丄=0.5bit2 2 12 2丿X I X,Y 二HY HY|X 二H Y HY =0I X,Z 二H Z -H Z|X =0.81190.5 = 0.311bit八、（10分）設(shè)離散無(wú)記憶信源的概率空間為XLXX2丨，通過(guò)干擾信道，信道輸出端的接收符號(hào)p 一 0.8 0.2一H X|Y 二H XYHY =0.7t7t符號(hào)0.497a符號(hào)0.21har符號(hào)HY|X =H XY-H

16、 X =0.6821符號(hào)0.4731符號(hào)0.205ar符號(hào)I XY 二HX -HX|Y dQ.0050!符號(hào)0.00349符號(hào)0.00152符號(hào)集為丫 - M,y21,信道傳輸概率如下圖所示。5 6X1 yi34X2y21/4（三）'、 選擇題（共10分，每小題2分）1、有一離散無(wú)記憶信源X，其概率空間為XX1X2P | 0.5 0.25X3X40.1250.125，則其無(wú)記憶二次擴(kuò)號(hào):號(hào).符號(hào)HY=H(49/60,11/600.68bit 符號(hào)0.47i6at符號(hào)0.2071符 號(hào)log 2B、（6）計(jì)算信源X中事件Xi包含的自信息量；（7）計(jì)算信源X的信息熵；（8）計(jì)算信道疑義度H

17、 X | Y ；（9）計(jì)算噪聲熵H Y|X ；（10）計(jì)算收到消息Y后獲得的平均互信息量。解：（1） I % =Iog0.8 = 0.322bit =0.0969hart = 0.223naty1y2X12/312/154/5X13/201/201/549/6011/601/5(2 231H(XY)=H 2,-,丄13 15 20 20丿 = 1.404bit 符旦 =0.973nat.= 0.423hart展信源的熵h（x2）=（）A、1.75比特/符號(hào)； B 、3.5比特/符號(hào);C、9比特/符號(hào)；D 、18比特/符號(hào)。2、信道轉(zhuǎn)移矩陣為>(1y/ 1 x)2P(1y /x)000 P

18、 3y (2 x /4P)2 (000P 5 03其中P（yj/xJ兩兩不相等，則該信道為3、A、 對(duì)應(yīng)的無(wú)噪信道B、具有并歸性能的無(wú)噪信道C、對(duì)稱(chēng)信道D具有擴(kuò)展性能的無(wú)噪信道3、設(shè)信道容量為C,下列說(shuō)法正確的是：（）A、互信息量一定不大于CB、交互熵一定不小于CC、有效信息量一定不大于CD條件熵一定不大于C4、 在串聯(lián)系統(tǒng)中，有效信息量的值（）A、趨于變大B、趨于變小C、不變D不確定5、若BSC信道的差錯(cuò)率為P,則其信道容量為: （）A、H ( P )D、_Plog（P）、填空題（20分，每空2分）1、 （7,4）線性分組碼中，接受端收到分組R的位數(shù)為，伴隨式S可能的值有種,差錯(cuò)圖案e的長(zhǎng)度

19、為，系統(tǒng)生成矩陣Gs為行的矩陣，系統(tǒng)校驗(yàn)矩陣Hs為行的矩陣，Gs和Hs滿足的關(guān)系式是o2、 香農(nóng)編碼中，概率為P（x）的信源符號(hào)Xi對(duì)應(yīng) 的碼字Ci的長(zhǎng)度Ki應(yīng)滿足不等 式r x 、%X2X3X4X5XX7=11111111lP（x）.24816326464j對(duì)其進(jìn)行費(fèi)諾編碼，寫(xiě)出編碼過(guò)程，求出信源熵、平均碼長(zhǎng)和編碼效率 七、信道編碼（21分）100011, , 010011現(xiàn)有生成矩陣Gs =00100 101.0 0 0 1 1 0 1、(20 分)X = °_P(X)0.5冷，通過(guò)一個(gè)干擾信道，接受符號(hào)集為 丫二"血，信道轉(zhuǎn)移矩陣為es0000000000000100

20、00010000010000010000010000010000010000002. 填寫(xiě)下面的es表（8分）3、設(shè)有一個(gè)信道，其信道矩陣為0.250.50.250.250.250.5 ，則它是信道（填對(duì)0.50.250.25 一稱(chēng)，準(zhǔn)對(duì)稱(chēng)），其信道容量是比特/信道符號(hào)。1. 求對(duì)應(yīng)的系統(tǒng)校驗(yàn)矩陣Hso （2分）2求該碼字集合的最小碼字距離 d、最大檢錯(cuò)能力lmax、最大糾錯(cuò)能力 t max o （3分）13443 1.4 4試求（1） H（X）,H（Y）,H（XY）;（7 分）（2）H（Y|X）,H（X|Y）;（5 分）（3）I（Y;X） o （3 分）（4）該信道的容量C （3分）（5）當(dāng)

21、平均互信息量達(dá)到信道容量時(shí)，接收端 丫 的熵H （Y）。（2分）計(jì)算結(jié)果保留小數(shù)點(diǎn)后2位,單位為比特/符號(hào)。四、（9分）簡(jiǎn)述平均互信息量的物理意義，并寫(xiě)出 應(yīng)公式4.現(xiàn)有接收序列為r= （1100100），求糾錯(cuò)譯碼輸 出?o （4分）5.畫(huà)出該碼的編碼電路 （4分）（四）四、簡(jiǎn)答題（共20分，每題10分1.利用公式介紹無(wú)條件熵、條件熵、聯(lián)合熵和平均互信息 量之間的關(guān)系。2.簡(jiǎn)單介紹哈夫曼編碼的步驟五、計(jì)算題（共40分）1.某信源含有二個(gè)消息，概率分別為p(0)=0.2，p(1)=0.3，42們p（2）=0.5，失真矩陣為D =032o1201 一求Dmax、D min 和 R (Dmax)o

22、 ( 10 分)六、（10分）設(shè)有離散無(wú)記憶信源，其概率分布如下:11()92 .設(shè)對(duì)稱(chēng)離散信道矩陣為，求信道容(5)信源剩余度用來(lái)衡量信源的相關(guān)性程度，信源剩余度大說(shuō)明信源符號(hào)間的依賴(lài)關(guān)系較小。量C。（10分）3.有一穩(wěn)態(tài)馬爾可夫信源， p（S1/S2）= 1。求：（1）畫(huà)出狀態(tài)轉(zhuǎn)移圖和狀態(tài)轉(zhuǎn)移概率矩陣。（2）求出各狀態(tài)的穩(wěn)態(tài)概率。（3）求出信源的極限熵。 （20 分）已知轉(zhuǎn)移概率為p(Si/ Si)= 2/3,(6)(7)(1)(3)(4)(5)(6)(7)對(duì)于固定的信源分布，平均互信息量是信道傳遞概率的下凸函數(shù)。 （非奇異碼一定是唯一可譯碼，唯一可譯碼不一定是非奇異碼。（11'填

23、空題(五)(8)信源變長(zhǎng)編碼的核心問(wèn)題是尋找緊致碼（或最佳碼），霍夫曼編碼方法構(gòu)造的是最佳碼。1948年，美國(guó)數(shù)學(xué)家香農(nóng)“通信的數(shù)學(xué)理論”必然事件的自信息是發(fā)表了題為 的長(zhǎng)篇論文，從而創(chuàng)立了信息論。離散平穩(wěn)無(wú)記憶信源X的N次擴(kuò)展信源的熵等于離散信源X的熵的N倍對(duì)于離散無(wú)記憶信源，當(dāng)信源熵有最大值時(shí)， 滿足條件為信源符號(hào)等概分布 。對(duì)于香農(nóng)編碼、費(fèi)諾編碼和霍夫曼編碼，編碼方法惟的是 香農(nóng)編碼已知某線性分組碼的最小漢明距離為3,那么這組碼最多能檢測(cè)出21個(gè)碼元錯(cuò)誤。個(gè)碼元錯(cuò)誤，最多能糾正設(shè)有一離散無(wú)記憶平穩(wěn)信道，其信道容量為C,只要待傳送的信息傳輸率 R .小于 _ C （大于、小于或者等于），則

24、存在一種編碼，當(dāng)輸入序列長(zhǎng)度n足夠大，使譯碼 錯(cuò)誤概率任意小。(8)平均錯(cuò)誤概率不僅與信道本身的統(tǒng)計(jì)特性有關(guān),還與譯碼規(guī)則禾廿 一一編碼方法有關(guān)（9）信息率失真函數(shù) R（D）是關(guān)于平均失真度D的上凸函數(shù).五、（18'.黑白氣象傳真圖的消息只有黑色和白色兩種,求:1）黑色出現(xiàn)的概率為個(gè)只有兩個(gè)符號(hào)的信源現(xiàn)前后沒(méi)有關(guān)聯(lián)，求熵0.3,白色出現(xiàn)的概率為0.7。給出這X的數(shù)學(xué)模型。假設(shè)圖上黑白消息出3）分別求上述兩種信源的冗余度, 物理意義。比較它們的大小并說(shuō)明其解：1）信源模型為分）=黑做二白-0.30.7(1(9）判斷題(1)(3)(4)信息論研究的主要問(wèn)題是在通信系統(tǒng)設(shè)計(jì)中如何實(shí)現(xiàn)信息傳輸

25、、存儲(chǔ)和處理的有效性和可靠性。大的事件自信息量大。息量可正、可負(fù)亦可為零。丹(匿)=-工Fa)log2 W = 0 881切/符號(hào)(2 分)-2）由題意可知該信源為一階馬爾科夫信源。(2 分)4分)i=l2j-iP(g + %) = 1得極限狀態(tài)概率2分)血的二丁5?包）加血）呃= 0-5533剜符號(hào)(1分)0l200J.90J80J70.150.20A 260.35衛(wèi).3900.19;0.20f/o. 26/ 0 /0,35q1/ 0*39 丄0.180.190.20 山-/ 026丄0.171 0.18 丄1 019J0.15 円0. 17XL 2.72比特/符號(hào)信源符號(hào)®槪騎啊

26、）碼字斗碼長(zhǎng)k(1,2(1102U.19112叮8m3機(jī)17憂130.1501030J0011040.0101114ojo-H/0-11-041丄匚（訂產(chǎn)272冋碼元/符號(hào)3分)i亠也"119 log 2 22 =1 - H'X)= 0.4 4 7l。2事21。說(shuō)明：當(dāng)信源的符號(hào)之間有依賴(lài)時(shí)，信源輸出消息的不確定性減弱。而信源冗余度正是反映信源符號(hào)依賴(lài)關(guān)系的強(qiáng)弱，冗余度越大，依賴(lài)關(guān)系就越大。（2分）六、（18'.信源空間為X X X2X3X4X5X6X7P（X）|020.190.180.170.150.10.01，試分別構(gòu)造二元香農(nóng)碼和二元霍夫曼碼，計(jì)算其平均碼長(zhǎng) 和

27、編碼效率（要求有編碼過(guò)程）。2）（ 3分）最大后驗(yàn)概率準(zhǔn)則下，有,八（10）二元對(duì)稱(chēng)信道如圖。特號(hào)槪 率佃）累加柢率匕趣?。┐a字長(zhǎng)碼字坷0.20(1232300(11)49022393001UJ80J914730110.1705725631(«)%0.15IL741743101h0.100.89332411100.01(L996血7111111(13 11）若 p 0，p1 ，求 H X、H X |Y 和 I X;Y ；4 42）求該信道的信道容量。H(_X) = 0 8113引打符號(hào)H X |Y =0.749bit/符號(hào)7(; K) -0 0616班打符號(hào)_72（ 3分）此時(shí)輸入概

28、率分布為等L=2： p(aji=3.14R = H(X)二261 =0831心L 3.14概率分布。（1分）九、（18）設(shè)一線性分組碼具有一致監(jiān)督矩陣000111H =01100101011_1）求此分組碼n=?,k=?共有多少碼字?2 ）求此分組碼的生成矩陣 G。3）寫(xiě)出此分組碼的所有碼字。4）若接收到碼字（101001）,求出伴隨式并給出翻譯結(jié)果。5.寫(xiě)出香農(nóng)公式，并說(shuō)明其物理意義。當(dāng)信道帶寬為5000Hz， 信噪比為30dB時(shí)求信道容量。6.解釋無(wú)失真變長(zhǎng)信源編碼定理。解：1）n=6,k=3,共有8個(gè)碼字。（3分）7.解釋有噪信道編碼定理。2）設(shè)碼字 C = C5C4C3C2C1C0 由

29、 HC ' = 0|C2 二 G 二 C0 = 0«C4 © C3 © C0 = 0C5C3GC0 = 0（3分）8什么是保真度準(zhǔn)則？對(duì)二元信源，其失真矩陣，求a>0時(shí)率失真函數(shù)的和'？令監(jiān)督位為C2C1C0，則有C2 = C5 九 C3G = C5 二 C4C0 = C4 二 C3、綜合題（每題 10分，共60 分）1.黑白氣象傳真圖的消息只有黑色和白色兩種，求:（3分） - 1 0 0 0 1 生成矩陣為03）所有碼字為000000,0111（2分）001101， 010011,011110， 100110,101011， 110101，

30、 111000。 （4分）4）由 ST = hrT 得S = 101，（ 2分）該碼字在第5位發(fā)生錯(cuò)誤，（101001）糾正為（101011），即譯碼為（101001） （ 1分）（六）一、概念簡(jiǎn)答題（每題 5分，共40分）1什么是平均自信息量與平均互信息，比較一下這兩個(gè)概念 的異同？2. 簡(jiǎn)述最大離散熵定理。對(duì)于一個(gè)有m個(gè)符號(hào)的離散信源,其最大熵是多少？3. 解釋信息傳輸率、信道容量、最佳輸入分布的概念，說(shuō)明 平均互信息與信源的概率分布、信道的傳遞概率間分別是什 么關(guān)系？4.對(duì)于一個(gè)一般的通信系統(tǒng)，試給出其系統(tǒng)模型框圖，并結(jié) 合此圖，解釋數(shù)據(jù)處理定理。1）黑色出現(xiàn)的概率為 個(gè)只有兩個(gè)符號(hào)的信源0.3，白色出現(xiàn)的概率為 0.7。給出這X的數(shù)學(xué)模型。假設(shè)圖上黑白消息出現(xiàn)前后沒(méi)有關(guān)聯(lián)，求熵三二；2）假設(shè)黑白消息出現(xiàn)前后有關(guān)聯(lián)，其依賴(lài)關(guān)系為：戸（白/白）=09 尺黑/白） 0.1戸伯/黑） 0.2 朋幻黑）7電求其熵；2.二元對(duì)稱(chēng)信道如圖。1）若