信號與系統(tǒng)習(xí)題(1)

1、1,某系統(tǒng)(7,4)碼c(C6C5C4C3C2CiCo)與信息位的關(guān)系為：(1)求對應(yīng)的生成矩陣和校驗(yàn)矩陣；(2)計(jì)算該碼的最小距離；(3)列出可糾過失圖案和對應(yīng)的伴隨式；(4)假設(shè)接收碼字R=1110011,求發(fā)碼.(m3m2m1m0c2C1c0)其三位校驗(yàn)位解：(1)G1000110010001100101110001101101110011100100111001(2) dmin=3(3)SE00000000000010000001010000001010000001001010001000111001000001101000001101000000(4).RHT=001接收出錯(cuò)E=00

2、00001R+E=C=1110010(發(fā)碼)X0101/31/3101/32.X,Y的聯(lián)合概率px,y為：求HX,HY,HX,Y,IX;Y解：p(x0)2/3p(x1)1/3HXHYH(1/3,2/3)0.918bit/symbolHX,YH(1/3,1/3,1/3)=1.585bit/symbolIX;YH(X)H(Y)H(X,Y)0.251bit/symbol3.一階齊次馬爾可夫信源消息集X31,32,33),狀態(tài)集SS1,S2,S3,且令Siai,i1,2,3,條件轉(zhuǎn)移概率為141412P(aJ§(1)畫出該馬氏鏈的狀態(tài)轉(zhuǎn)移圖;(2)計(jì)算信源的極限:解

3、：(1)(2)3W2iw23W23W3w2WiW2W30.40.30.3H(X|S1)=H(1/4,1/4,1/2)=1.5比特/符號H(X|S2)=H(1/3,1/3,1/3)=1.585比特/符號H(X|S3)=H(2/3,1/3)=0.918比特/符號3w.H1iX|Si0.41.50.31.5850.30.9181.351比特/符號4.假設(shè)有一信源X1X20.80.2,每秒鐘發(fā)出2.55個(gè)信源符號.將此信源的輸出符號送入某一個(gè)二元信道中進(jìn)行傳輸(假設(shè)信道是無噪無損的,容量為1bit/二元符號),而信道每秒鐘只傳遞2個(gè)二元符號.(1)試問信源不通過編碼(即X10,X21在信道中傳輸)(2

4、)(3)能否直接與信道連接？假設(shè)通過適當(dāng)編碼能否在此信道中進(jìn)行無失真?zhèn)鬏?(4)(5)解：試構(gòu)造一種口夫曼編碼(兩個(gè)符號一起編碼),使該信源可以在此信道中無失真?zhèn)鬏?(1)不能,此時(shí)信源符號通過0,1在信道中傳輸,2.55二元符號/s>2二元符號/s(2)從信息率進(jìn)行比擬,2.55*H(0.8,0.2)=1.84<1*2可以進(jìn)行無失真?zhèn)鬏擾4(3)KpiKi0.640.16*20.2*3i11.56二元符號/2個(gè)信源符號此時(shí)1.56/2*2.55=1.989二元符號/s<2二元符號/s5.兩個(gè)BSC信道白J級聯(lián)如右圖所示:(1WPs0.64k0.64(2求這個(gè)信道的信道容量.

5、01解:6.設(shè)11(1)100遁機(jī)變量101*0.64011X1X20.16、<0.q10.36JX2X10.10*0.161X1,X2°0,1和Y(y1,y20,1的聯(lián)合概率空間為X2X20.041定義一個(gè)新的隨機(jī)變量ZXY(普通乘積)(1) 計(jì)算婿H(X),H(Y),H(Z),H(XZ),H(YZ),以及H(XYZ);(2) 計(jì)算條件婿H(X|Y),H(Y|X),H(X|Z),H(Z|X),H(Y|Z),H(Z|Y),H(X|YZ),(3)H(Y|XZ)以及H(Z|XY);計(jì)算平均互信息量I(X;Y)I(X:Z),I(Y:Z),I(X;Y|Z),I(Y;Z|X)以及I(X:

6、,Z|Y).解：(1)(2)7.設(shè)二元對稱信道的輸入概率分布分別Px3/41/4,轉(zhuǎn)移矩陣為R|x2/31/31/32/3XY0101/83/81/213/81/81/21/21/2(1)求信道的輸入輸出！W,平均互信息量;(2)求信道容量和最正確輸入分布；(3)求信道剩余度.解：(1)信道的輸入:WH(X)3/4log2(4/3)1/4log24；XZ0101/201/213/81/81/27/81/8YZ0101/201/213/81/81/27/81/8(2)最正確輸入分布為Px1/21/2,此時(shí)信道的容量為C1H(2/3,1/3)信道的剩余度：CI(X;Y)8.Px0.50.250.2

7、5,試確定最正確譯碼規(guī)那么和極大似然譯碼規(guī)那么,并計(jì)算出相應(yīng)的平均過失率.解：Pxy1/41/61/121/241/81/121/121/241/8F(b)a1最正確譯碼規(guī)那么:F(b2)a1,平均過失率為1-1/4-1/6-1/8=11/24;F(b3)a3F(bJa1極大似然規(guī)那么:F(b2)a2,平均過失率為1-1/4-1/8-1/8=1/2FM)a39.設(shè)有一批電阻,按阻值分70%是2kQ,30%是5kQ;按功耗分64%是1/8W,36%是1/4W.現(xiàn)2kQ電阻中80%是1/8W,假設(shè)得知5kQ電阻的功耗為1/4W,問獲得多少信息量.r12kr25k解：根據(jù)題意有R,W0.70.3w1

8、1/8w21/40.640.36p(w1/r1)0.8由p(w1)p(r1)p(w1/r1)p(r2)p(w1/r2)p(w1/r2)4/15所以p(w2/r2)1p(w1/r2)11/15得知5kQ電阻的功耗為1/4W,獲得的自信息量為lb(p(w2/r2)0.448bit10.6符號離散信源的出現(xiàn)概率為a3a4a5a611118163232試計(jì)算它的！W、Huffman編碼和費(fèi)諾編碼的碼字、平均碼長及編碼效率.解：該離散信源的！W為H(x)6pilb(pi)i1111-lb2-lb4-lb8248111cclb16lb32lb32163232=1.933bit/符號11在圖片傳輸中,每幀約

9、有2106個(gè)像素,為了能很好地重現(xiàn)圖像,每像素能分度電平等概分布.試計(jì)算每分鐘傳送兩幀圖片所需信道的帶寬(信噪功率比為256個(gè)亮度電平,并假設(shè)亮30dB).解:每個(gè)像素點(diǎn)對應(yīng)的：WHlog2nlog2256bit/點(diǎn)2幀圖片的信息量I2*N*H2*2*106*83.2*107bit單位時(shí)間需要的信道容量Ct3.2*107由香農(nóng)信道容量公式CtWlog2(1SNR)60Ct5.3*105bit/s5.3*1055.35*104Hzlog2(1SNR)log2(11000)12.求右圖所示的信道的容量及到達(dá)信道容量時(shí)的輸入分布.解:由右圖可知,該信道的轉(zhuǎn)移概率矩陣為P1/21/2可以看到,當(dāng)該信道

10、的輸入分布取P(X)XYa1a?a31/2時(shí),1/2P(Y)thb21/21/2此時(shí)I(X2a1；Y)p(bj/a1)logj1p(bj/a1)p(bj)lb2,同理可得I(Xa3：Y)lb2工I(xi；Y)lb2而I(Xa2；Y)0,此分布滿足i2I(Xi；Y)0pipi0=,.因此這個(gè)信道的容量為0C=lb2=1(bit/符號),而到達(dá)信道容量的輸入分布可取P(X)aia2a31/201/24Dmax=minPidij,由于Pi和dj具有對稱性,每個(gè)和式結(jié)果都為j1I2,3I4i11/2,因此Dmax=1/2,13.設(shè)離散信源UP(u)U1U2U3U41111(其中pP(1P)(1P)P2

11、222一)和接收變量V=v1,v2,v3,2v4,失真矩陣為D00.50.510.5010.5,求Dmin,Dmax、R(Dmin)、R(Dmax)、到達(dá)Dmin和0.5100.510.50.50Dmax時(shí)的編碼器轉(zhuǎn)移概率矩陣P.解:由于失真矩陣每行每列都只有一個(gè)最小值0,所以可以到達(dá)Dmin=0,此時(shí)對應(yīng)的信道轉(zhuǎn)移概率矩陣應(yīng)使1000口八一,0100得信源的每個(gè)輸出經(jīng)過信道轉(zhuǎn)移后失真為0,即選擇P00100001R(Dmin)=R(0)=H(U)=1-p*logp1-p)*log(1-p)=1+H(p)o對應(yīng)的轉(zhuǎn)移概率矢巨陣可取任意1列為全1,1000人1000如P,止匕時(shí)R(Dmax)=R

12、(1/2)=0.1000100014 .設(shè)有一個(gè)二進(jìn)制一階馬爾可夫信源,其信源符號為XG(0,1),條件概率為p(0/0)=p(1/0)=0.5p(1/1)=0.25p(0/1)=0.75畫出狀態(tài)圖并求出各符號穩(wěn)態(tài)概率.(15分)0.2515 .設(shè)輸入符號與輸出符號為X=YG0,1,2,3,且輸入符號等概率分布.設(shè)失真函數(shù)為漢明失真.求Dmax和Dmin及R(Dmax)和R(Dmin)(20分)"1斛：pXopXipx2px3一4失真矩陣的每一行都有0,因此Dmin=016 .設(shè)隨機(jī)變量XX1,X20,1和Yyi,y20,1的聯(lián)合概率空間為定義一個(gè)新的隨機(jī)變量計(jì)算婿H(X),H(Y)

13、計(jì)算條件婿H(X|Y),及H(Z|XY);ZX丫(普通乘積),H(Z),H(XZ),H(YZ),以及H(XYZ；H(Y|X),H(X|Z),H(Z|X),H(Y|Z),H(Z|Y),H(X|YZ),H(Y|XZ)以解：(1)2)最正確輸入分布為pX1/21/2,此時(shí)信道的容量為C1H(2/3,1/3)計(jì)算平均互信息量I(X;Y),I(X:Z),I(Y:Z),I(X;Y|Z),I(Y;Z|X)以及I(X:,Z|Y).(3)信道的剩余度：CI(X;Y)設(shè)有DMC,其轉(zhuǎn)移矩陣為PY|X1/21/31/61/61/21/3,假設(shè)信道輸入概率為1/31/61/2PX0.50.250.25,試確定最正確譯

14、碼規(guī)那么和極大似然譯碼規(guī)那么,并計(jì)算出相應(yīng)的平均過失率.最正確譯碼規(guī)那么:F(bJa1F(b2)a1,平均過失率為F(b3)a31/41/61/12解：PXY1/241/81/121/121/241/81-1/4-1/6-1/8=11/24;F(b1)a1極大似然規(guī)那么:F(b2)a2,平均過失率為1-1/4-1/8-1/8=1/2F(b3)a3一、概念簡做題1 .什么是平均自信息量與平均互信息,比擬一下這兩個(gè)概念的異同？2 .簡述最大離散燧定理.對于一個(gè)有m個(gè)符號的離散信源,其最大燧是多少？3 .解釋信息傳輸率、信道容量、最正確輸入分布的概念,說明平均互信息與信源的概率分布、信道的傳遞概率間

15、分別是什么關(guān)系？4 .對于一個(gè)一般的通信系統(tǒng),試給出其系統(tǒng)模型框圖,并結(jié)合此圖,解釋數(shù)據(jù)處理定理.5 .寫出香農(nóng)公式,并說明其物理意義.當(dāng)信道帶寬為5000Hz,信噪比為30dB時(shí)求信道容量.6 .解釋無失真變長信源編碼定理.7 .解釋有噪信道編碼定理.8.什么是保真度準(zhǔn)那么？對二元信源失真函數(shù)的0M和?9 .簡述離散信源和連續(xù)信源的最大燧定理.10 .解釋等長信源編碼定理和無失真變長信源編碼定理,說明對于等長碼和變長碼,最正確碼的每符號平均碼長最小為多少？編碼效率最高可達(dá)多少？11 .解釋最小錯(cuò)誤概率譯碼準(zhǔn)那么,最大似然譯碼準(zhǔn)那么和最小距離譯碼準(zhǔn)那么,說明三者的關(guān)系.12 .設(shè)某二元碼字C=

16、111000,001011,010110,101110,假設(shè)碼字等概率分布,計(jì)算此碼的編碼效率？采用最小距離譯碼準(zhǔn)那么,當(dāng)接收序列為110110時(shí),應(yīng)譯成什么碼字?13.一平穩(wěn)二元信源,它在任意時(shí)間,不管以前發(fā)出過什么符號,都按發(fā)出符號,求和平均符號:w14.分別說明信源的概率分布和信道轉(zhuǎn)移概率對平均互信息的影響,說明平均互信息萬信道容量的關(guān)15 .二元無記憶信源,有求:(1)某一信源序列由100個(gè)二元符號組成,其中有m個(gè)“1,求其自信息量？(2)求100個(gè)符號構(gòu)成的信源序列的：W.16 .求以下三個(gè)信道的信道容量：17 .一3,1,3卷積碼編碼器,輸入輸出關(guān)系為:試給出其編碼原理框圖.18

17、.簡述信源的符號之間的依賴與信源冗余度的關(guān)系.19 .簡述香農(nóng)第一編碼定理的物理意義20 .什么是最小碼距,以及它和檢錯(cuò)糾錯(cuò)水平之間的關(guān)系.21 .簡述信息的特征22 .簡單介紹哈夫曼編碼的步驟一、概念簡做題每題5分,共40分二、1.答：平均自信息為表示信源的平均不確定度,也表示平均每個(gè)信源消息所提供的信息量.“抵F-這叩/%平均互信息blTPj表示從丫獲得的關(guān)于每個(gè)X的平均信息量,也表示發(fā)X前后丫的平均不確定性減少的量,還表示通信前后整個(gè)系統(tǒng)不確定性減少的量.2 .答：最大離散燧定理為：離散無記憶信源,等概率分布時(shí)燧最大.最大婿值為皿改62O3 .答：信息傳輸率R指信道中平均每個(gè)符號所能傳送

18、的信息量.信道容量是一個(gè)信道所能到達(dá)的最大信息傳輸率.信息傳輸率到達(dá)信道容量時(shí)所對應(yīng)的輸入概率分布稱為最正確輸入概率分布.平均互信息是信源概率分布的n型凸函數(shù),是信道傳遞概率的u型凸函數(shù).4 .答：通信系統(tǒng)模型如下：數(shù)據(jù)處理定理為：串聯(lián)信道的輸入輸出X、Y、Z組成一個(gè)馬爾可夫鏈,且有,區(qū)幻“匕？.說明經(jīng)數(shù)據(jù)處理后,一般只會增加信息的損失5.答：香農(nóng)公式為bit/s,它是高斯加性白噪聲信道在單位時(shí)間內(nèi)的信道容量,其值取決于信噪比和帶寬.P103g肌斯dBP得麗-100Ct=50001og2(l+1000)=49836拉小6.答:只要,當(dāng)N足夠長時(shí),一定存在一種無失真編碼.7.答:8.答:1保真度

19、準(zhǔn)那么為：平均失真度不大于允許的失真度.2由于失真矩陣中每行都有一個(gè)0,所以有1111n,而通火口'當(dāng)R<C時(shí),只要碼長足夠長,一定能找到一種編碼方法和譯碼規(guī)那么,使譯碼錯(cuò)誤概率無窮小.9 .答：離散無記憶信源,等概率分布時(shí)燧最大.連續(xù)信源,峰值功率受限時(shí),均勻分布的燧最大.平均功率受限時(shí),高斯分布的燧最大.均值受限時(shí),指數(shù)分布的燧最大.10.答：等長信源編碼定理：對于任意,那么當(dāng)L足夠長時(shí)必可使譯碼過失變長信源編碼定理：只要,一定存在一種無失真編碼.等長碼和變長碼的最小平均碼長均為,編碼效率最高可達(dá)100%11 .答：最小錯(cuò)誤概率譯碼準(zhǔn)那么下,將接收序列譯為后驗(yàn)概率最大時(shí)所對應(yīng)

20、的碼字.最大似然譯碼準(zhǔn)那么下,將接收序列譯為信道傳遞概率最大時(shí)所對應(yīng)的碼字.最小距離譯碼準(zhǔn)那么下,將接收序列譯為與其距離最小的碼字.三者關(guān)系為：輸入為等概率分布時(shí),最大似然譯碼準(zhǔn)那么等效于最小錯(cuò)誤概率譯碼準(zhǔn)那么.在二元對稱無記憶信道中,最小距離譯碼準(zhǔn)那么等效于最大似然譯碼準(zhǔn)那么.12 .答：1)2令接收序列為,故接收序列應(yīng)譯為01011013 .答:14 .答：平均互信息相對于信源概率分布為上凸函數(shù),相對于信道傳遞概率分布為下凹函數(shù).平均互信息的最大值為信道容量.15 .答：1)2)16.答：P1為一一對應(yīng)確定信道,因此有P2為具有歸并性能的信道,因此有P3為具有發(fā)散性能的信道,因此有.17.

21、答：18 .當(dāng)信源的符號之間有依賴時(shí),信源輸出消息的不確定性減弱.而信源冗余度正是反映信源符號依賴關(guān)系的強(qiáng)弱,冗余度越大,依賴關(guān)系就越大.19 .答：無失真信源編碼,編碼后盡可能等概率分布,使每個(gè)碼元平均信息量最大.從而使信道信息傳輸率R到達(dá)信道容量C,實(shí)現(xiàn)信源與信道理想的統(tǒng)計(jì)匹配.20 .某一碼書C中,任意兩個(gè)碼字之間漢明距離的最小值稱為該碼的最小碼距Dmin.當(dāng)某線性分組碼的最小漢明距離為Dmin,那么這組碼最多能檢測出e=Dmin-1個(gè)碼元錯(cuò)誤,最多能糾正t=(Dmin-1)/2個(gè)碼元錯(cuò)誤.21 .答：信息的根本概念在于它的不確定性,任何已確定的事物都不含信息.接收者在收到信息之前,對它

22、的內(nèi)容是不知道的,所以信息是新知識、新內(nèi)容.信息是能使熟悉主體對某一事物的未知性或不確定性減少的有用知識.信息可以產(chǎn)生,也可以消失,同時(shí)信息可以被攜帶、貯存及處理.信息是可以量度的,信息量有多少的差異.22.將信源消息符號按其出現(xiàn)的概率大小依次排列PXl>pX2>->pxn取兩個(gè)概率最小的符號分別配以0和1,并將這兩個(gè)概率相加作為一個(gè)新符號的概率,與未分配碼元的符號重新排隊(duì).對重排后的兩個(gè)概率最小符號重復(fù)步驟2的過程. 繼續(xù)上述過程,直到最后兩個(gè)符號配以0和1為止. 從最后一級開始,向前返回得到各個(gè)信源符號所對應(yīng)的碼元序列,即相應(yīng)的碼字.二、綜合題每題10分,共60分1 .黑

23、白氣象圖的消息只有黑色和白色兩種,求：1黑色出現(xiàn)的概率為0.3,白色出現(xiàn)的概率為0.7.給出這個(gè)只有兩個(gè)符號的信源X的數(shù)學(xué)模型.假設(shè)圖上黑白消息出現(xiàn)前后沒有關(guān)聯(lián),求嫡H£；2假設(shè)黑白消息出現(xiàn)前后有關(guān)聯(lián),其依賴關(guān)系為：只臼伯0.9,尸I第白-0,嚴(yán)自/黑0.2,九孫黑一.同,求其婿也?劃.3分別求上述兩種信源的冗余度,比擬它們的大小并說明其物理意義.工1=0澗、為=02 .二元對稱信道如圖.心=即尸3=1；1假設(shè)敢0>11,卜V,求和2求該信道的信道容量和最正確輸入分布.3.信源空間為si%鼻%0.40.20.10.10,050.05%0.050.05,試分別構(gòu)造二元和三元霍夫曼

24、碼,計(jì)算其平均碼長和編碼效率.4.設(shè)有一離散信道,其信道傳遞矩陣為試分別按最小錯(cuò)誤概率準(zhǔn)那么與最大似然譯碼準(zhǔn)那么確定譯碼規(guī)那么,并計(jì)算相應(yīng)的平均錯(cuò)誤概率.5.一(8,5)線性分組碼的生成矩陣為010D010C001000100CO10001ODODiri求：1)輸入為全00011和10100時(shí)該碼的碼字；2)最小碼距.6 .設(shè)某一信號的信息傳輸率為5.6kbit/s,在帶寬為4kHz的高斯信道中傳輸,噪聲功率譜NO=5X10-6mw/Hz)試求：(1)無過失傳輸需要的最小輸入功率是多少？(2)此時(shí)輸入信號的最大連續(xù)燧是多少？寫出對應(yīng)的輸入概率密度函數(shù)的形式.7 .二元平穩(wěn)馬氏鏈,P(0/0)=

25、0.9,P(1/1)=0.8,求：(1)求該馬氏信源的符號婿.(2)每三個(gè)符號合成一個(gè)來編二進(jìn)制Huffman碼,試建立新信源的模型,給出編碼結(jié)果.(3)求每符號對應(yīng)的平均碼長和編碼效率.8 .設(shè)有一離散信道,其信道矩陣為11)最正確概率分布?(2)當(dāng)時(shí),求平均互信息信道疑義度(3)輸入為等概率分布時(shí),試寫出一譯碼規(guī)那么,使平均譯碼錯(cuò)誤率最小,并求此8.1 設(shè)線性分組碼的生成矩陣為1止匕n,k碼的n=?k=?,寫出此n,k碼的所有碼字.2求其對應(yīng)的一致校驗(yàn)矩陣Ho3確定最小碼距,問此碼能糾幾位錯(cuò)？列出其能糾錯(cuò)的所有錯(cuò)誤圖樣和對應(yīng)的伴隨式.4假設(shè)接收碼字為000110,用伴隨式法求譯碼結(jié)果.9.

26、2設(shè)一線性分組碼具有一致監(jiān)督矩陣H0110011010111求此分組碼門=卜=共有多少碼字？2求此分組碼的生成矩陣Go3寫出此分組碼的所有碼字.4假設(shè)接收到碼字101001,求出伴隨式并給出譯結(jié)果.度為1500二元符號/秒,設(shè)信源為等概率分布,信源消息序列共有13000個(gè)二元符號,問：(1)試計(jì)算能否在10秒內(nèi)將信源消息序列無失真?zhèn)魉屯辏?求無失真?zhèn)魉鸵陨?2)假設(shè)信源概率分布為信源消息序列至少需要多長時(shí)間?(1)求該碼的編碼效率?(2)求其對應(yīng)的一致校驗(yàn)多項(xiàng)式(3)寫出該碼的生成矩陣,校驗(yàn)矩陣(4)假設(shè)消息碼式為,求其碼字.12 .證實(shí)：平均互信息量同信息婿之間滿足I(X;丫尸H(X)+H(

27、Y)-H(XY)13 .居住在某地區(qū)的女孩中有25%是大學(xué)生,在女大學(xué)生中有75%M身高1.6米以上的,而女孩中身高1.6米以上的占總數(shù)的一半.假設(shè)我們得知“身高1.6米以上的某女孩是大學(xué)生的消息,問獲得多少信息量？14 .有兩個(gè)二元隨機(jī)變量X和Y,它們的聯(lián)合概率為VX1=0X2=1y1=01/83/8y2=13/81/8定義另一隨機(jī)變量Z=XY(一般乘積),試計(jì)算H(Z)=15 .求以下二個(gè)信道的信道容量:16.一個(gè)高斯信道,輸入信噪比比率為3.頻帶為3kHz,求最大可能傳送的信息率.假設(shè)信噪比提升到15,理論上傳送同樣的信息率所需的頻帶為多少？Xx1x217 .設(shè)信源為,試求1信源的嫡、信

28、息含量效率以及冗余度；Px1/43/42求二次擴(kuò)展信源的概率空間和嫡.18 .什么是損失嫡、噪聲:W?什么是無損信道和確定信道？如輸入輸出為rs,那么它們的分別信道容量為多少？19 .信源編碼的和信道編碼的目的是什么？20 .什么是香農(nóng)容量公式？為保證足夠大的信道容量,可采用哪兩種方法？21 .什么是限失真信源編碼？二、綜合題k1V黑巴二白1 .答：1信源模型為0-33)/網(wǎng)33的網(wǎng)力/.0.5533加"符號H(X)0.119(1分)(1分)10g22H(X)0.44710g221.說明：當(dāng)信源的符號之間有依賴時(shí),信源輸出消息的不確定性減弱.而信源冗余度正是反映信源符號依賴關(guān)系的強(qiáng)弱

29、,冗余度越大,依賴關(guān)系就越大.2分2 .答：1修制.團(tuán)13如喈號27=0.082加/符號,最正確輸入概率分布為等概率分布.3.答：1二元碼的碼字依序?yàn)椋?0,11,010,011,1010,1011,1000,1001平均碼長G-26如/符號,編碼效率%2三元碼的碼字依序?yàn)椋?,00,02,20,21,22,010,011.平均碼長077加/符號,編碼效率哂°*36三均*產(chǎn)值溝1_弓三4.答：1最小似然譯碼準(zhǔn)那么下,有乂=苴,2最大錯(cuò)誤概率準(zhǔn)那么下,有2)6.答：1無錯(cuò)傳輸時(shí),有Ol)=限Fg=闞£47=用1.甌1+上一珞砰5.6xlOJ=4xW3log2(l+SxlOx4

30、xlQ貝u0.03282)在P-0.0328加w時(shí),最大：WHe=?四式加吟=-5.4萬"自由度7.答：1由得極限概率:那么符號嫡為2新信源共8個(gè)序列,各序列的概率為信源模型為一種編碼結(jié)果依信源模型中的序列次序?yàn)?,11,1001,1010,1011,10000,100010,1000113)8.答：1是準(zhǔn)對稱信道,因此其最正確輸入概率分布為2當(dāng)時(shí),有3此時(shí)可用最大似然譯碼準(zhǔn)那么,譯碼規(guī)那么為且有9.1 答：1)n=6,k=3,由C=mGT得所有碼字為：000000,001011,010110,011101,100101,101110,110011,1110002此碼是系統(tǒng)碼由G知3由H可知,其任意2列線性無關(guān),而有3列線性相關(guān),故有,能糾一位錯(cuò)錯(cuò)誤圖樣100000010000001000000100000010000001E伴隨式1011100111000100014由知E=010000,那么9.2 解：1n=6,k=3,共有8個(gè)碼字.3分2設(shè)碼字CC5c4c3c2C1C0由HCt0T得C2CiC00C4C3C00C5C3CiC003分令監(jiān)督位為C2ClC0,那么有C2CiC0C5C5C4C3C4C