彭代淵王玲-信息論與編碼理論-第六章習題解答

1、信息論與編碼理論倍道編碼概述1. 計算碼長n=5的二元毛復碼的平均譯碼錯誤概率。假設無記憶二元對稱信道錯誤 傳遞概率為p此碼能檢測出多少位錯誤？又能糾正多少位錯誤？如令p =0 01,平均 譯碼錯誤概率是多大？解： 碼長n=5的二元重復碼是(00000, 11111),碼間般短距離為5, dira5=e+l e=4可以檢測出小于等于4位以下的錯誤。 =5=2X2+1=21+1 t=2可以糾正2位及2位以卞的錯誤。匕=C； p5 + C； p4 (1 一 p) + C： p3 (1-P)2 p= 0.01=0.98xl052. 設有一個離散無記憶信道.其信道矩陣為1/2 1/3 1/6P= 1/

2、6 1/2 1/31/3 1/6 1/2若信源概率分布為p(xAl/2, p(x2p(X3l/4,求最佳譯碼時的平均錯誤譯碼概率。 解： 極人似然譯碼規(guī)則譯碼時，由轉移概率矩陣可知：第-列中.第二列社，第三 列中丄為轉移概率的最大值，所以平均錯誤概率為：2門11r1iixizi1、1匕=X (+) + x(-+ _)+ - x(+ ) = E23643 64362小錯誤概率譯碼，輸入X與輸出y的聯(lián)合概率分布為:丄丄46121 1 124,8，121 1 112248n /11、1、1、11R? = ( + ) + ( + ) + ( + )=24 1282412 122411 1由于-242可

3、以看出最佳譯碼為最小錯誤概率譯碼，平均錯誤概率為二243. 將M個消息編成長為n的二元數(shù)字序列，此特定的M個二元序列從于個可 選擇的序列中獨立地等概率地選出。設采用最大似然譯碼規(guī)則譯碼，求在圖 68中（a）、（b）、（c）三種信道下的平均錯謀譯碼概率。0E13信息論與編碼理論#信息論與編碼理論圖68三個信逍（1）由圖可知.其轉移概率矩陣為:l-p P P 1 - P_#信息論與編碼理論#信息論與編碼理論該信道任意一個斥列譯碼錯誤概率為：尸l-（lp）（lp）C：G）+l-（lpHlp 嚴C：（扣 +l-（l-pr（lT）0C：（l）M二1一（1計 平均譯碼錯誤概率為：& = M x-xl-(l

4、-p)n= -xl-(l-p)n（2）由圖可知，其轉移概率矩陣為：)0 P 1 - p_任意一個序列譯碼錯誤的概率為:p=l-(l-p)nc：(i)a+l-(l-prct(ir+l-(l-p)C：(i)n乙乙乙=1-(訃2平均譯碼錯誤概率為：2n L 2 2 L 2(3)由圖可知.其轉移概率矩陣為:1-p p 00 p l-p一個序列錯誤譯碼的概率為：p= 1 - (1 -p)n c：( | )n+ 1 - (1 -P)n C( 1 )n+l-(l-p)nC：(l)n乙乙乙I=l-(l-p)n平均譯碼錯誤概率為：Pe =MX 貨 xl-(l_p)n=%xl-(l-p)n4. 某一個信道輸入X的

5、符號集為0, 1/2,1,輸出Y的符號集為0,1,信道矩陣為1 01/2 1/20 1現(xiàn)有4個消息的信源通過該信道傳輸，設每個消息等概出現(xiàn)。若對信源進行編碼，選 用的碼為 C=(0, 0, 1/2, 1/2), (0, 1, 1/2, 1/2), (1, 0, 1/2, 1/2), (1,1, 1/2, 1/2) 譯碼規(guī) 則為解：(1) 求信息傳輸率：R= 1og4 = 1 st/符號11 2(2) 求平均錯謀譯碼概率。根據(jù)信道的傳輸特性，町知町以輸出于=16種序列，可以分成4個子集，分別為: a!=(0 0 i -) (0 0 y3 y j2y3, y f (0 1)(i i y3 y.)%=(17)-*(l 0 y5 yj傳輸信道如下所示:(00|(1 01.2(1 10000 0001 00100011 0100 0101 0110 0111looo looi loio ion uoo uoi mo mi11110000000000004444000011110000000044440000000011110000444400000000000011114444