信息論與編碼第三章曹雪虹習(xí)題答案

1、第三章2 13 31 23 33.1 設(shè)二元對稱信道的傳遞矩陣為(1) 若P(0)= 3/4,P(1)H(X), H(X/Y), H(Y/X) I(X;Y)= 1/4，求 和 ；(2) 求該信道的信道容量及其達(dá)到信道容量時的輸入概率分布；33 11H(X) p(x ) ( log log ) 0.811 bit/symbol44 44i22iHY / X) p(x )p(y /x )log p(y /x )ijijiij3 2 2 3 1 1 1 1 1 1 2 2 ( lg lg lg lg )log 104 3 3 4 3 3 4 3 3 4 3 320.918 bit/symbol3 2

2、 1 1p(y ) p(x y ) p(x y ) p(x )p(y /x ) p(x )p(y /x ) 0.58334 3 4 3111211112123 1 1 2p(y ) p(x y ) p(x y ) p(x )p(y /x ) p(x )p(y /x ) 0.41674 3 4 321222121222HY) p(y ) (0.5833log 0.58330.4167log 0.4167) 0.980 bit/symbolj22jI(X;Y) H(X)H(X /Y) HY)HY / X)H(X /Y) H(X)HY)HY / X) 0.8110.9800.918 0.749 bi

3、t/symbolI(X;Y) H(X)H(X /Y) 0.8110.7490.062 bit/symbol1 1 2 2C maxI(X;Y)log mH log 2( lg lg )log 100.082 bit/symbol3 3 3 32221 p(x)2i(x ) a 2 x ； p 3ii1/ 2 1/ 2 0 y P。i1/2 1/4 1/4） Y | X)） H） ；1/ 2 1/ 2 0P1/ 2 1/ 4 1/ 4 p(x,y )ijXYyy23/2a/20ax1a)/2 a)/4 a)/4x2則YYyyy1231/ 21+a4a)/4 a)/414 1a4Y) log2lo

4、glog）H21a41a1116a 1a log4 1a 4 1a log2 log212111a 1a log2 log16 log log23414 1a 4 1a21a 1a log2 log log24 1a 4 1a2取23 1HY)( log2 41a1a1a log1a 4)bit2221a1 a1 1a1 1a 2 41 1a 4 4HY | X) ）22 22 24a)alog23alog22log22取23aHY | X)bit2a11a 1a cI(X;Y) HY)HY | X) 2 24 1a 4 1a2p(x )p(x )p(x )iiia11a 1a( ln2 ln

5、 ln)24 1a 4 1a2取ea11 2a 1 1a a ln (41a 4 1a 4 1a 1a11 ln2)221a1 1a a 2 2 212(1a ) 4 1a 41a1 1a22 ln2 ln24 1a=01a 11a 43a 51 3111 3 4 514c 2 2 54193125 314 log2 log log1034116 205 3 log2 log log21024 10154 log23.3 在有擾離散信道上傳輸符號 0 和 100 個符號發(fā)生一個錯誤，已知P(0)=P(1)=1/2，信源每秒內(nèi)發(fā)出1000 個符號，求此信道的信道容量。0.99 0.01P0.01

6、 0.9912C logsH(P)log2 plog 0.92 /bit signpiii11C C C bit/sectt3.4 求圖中信道的信道容量及其最佳的輸入概率分布.并求當(dāng) =0和1/2時的信道容量 C 的大小。X0Y0112121 000 1e e解: 又0 e e33Pb |a ) =Pb |a )log Pb |a )jijjijij 1j 101(1 )(1 )log(1 )log233(1 )log(1 )log(1 )201(1 )log(1 )log23log2 j 20(1- )log(1- )+j(1 )(1)11Pb) 221 CC1 2(1 )1 1H( )1(

7、1 )Pb ) 2C21 2(1 )2)Pb ) 2Pb )C3323而 Pb)P(a )Pb |a )jijii 1Pb) P(a )11b ) P(a )(1 ) P(a )得 P223Pb ) P(a ) P(a )(1 )3231 111 ) )P(a ) P(a ) P(b ) Pb )1 )2323當(dāng) 得1(a ) P(a ) P(a ) P31231214P(a )(a ) P(a )當(dāng) 得 ,P1233.5 求下列二個信道的信道容量，并加以比較 p p 0 ppp）p 0 pp其中 p+ =1p Y ppp , 2p 2- Nkk12N1=M1=1-2 p p )+2 pp)

8、pp ) pY p 0p，0 p p 2 p- k1 p- p- p- p- ) p- p- )P XY0 012120012120 012120 01212C logmHY |a )i1log4 2log22取2 C1111p(y0) ， p(y1) ，p(y2) 326） 和1135 5513 0.8550 ）1 5 31152511513 62233. 8 設(shè)加性高斯白噪聲信道中，信道帶寬 3kHz，又設(shè)(信號功率+噪聲功率)/噪聲功率=10dB。試計算該信道的最大信息傳輸速率C。t3.9在圖片傳輸中，每幀約有2.25 10個像素，為了能很好地重現(xiàn)圖像，能分616 個亮度電平，并假設(shè)亮度電平等概分布。試計算每分鐘傳送一幀圖片所需信道的帶寬（信噪功率比為H n 4 /22I 4966I 9C 6/s5ttPC W1 XPNt1.5105CW zt PXPNlog