彭代淵王玲-信息論與編碼理論-第六章習(xí)題解答

1、信息論與編碼理論倍道編碼概述1. 計(jì)算碼長(zhǎng)n=5的二元毛復(fù)碼的平均譯碼錯(cuò)誤概率。假設(shè)無記憶二元對(duì)稱信道錯(cuò)誤 傳遞概率為p此碼能檢測(cè)出多少位錯(cuò)誤？又能糾正多少位錯(cuò)誤？如令p =0 01,平均 譯碼錯(cuò)誤概率是多大？解： 碼長(zhǎng)n=5的二元重復(fù)碼是(00000, 11111),碼間般短距離為5, dira5=e+l e=4可以檢測(cè)出小于等于4位以下的錯(cuò)誤。 =5=2X2+1=21+1 t=2可以糾正2位及2位以卞的錯(cuò)誤。匕=C； p5 + C； p4 (1 一 p) + C： p3 (1-P)2 p= 0.01=0.98xl052. 設(shè)有一個(gè)離散無記憶信道.其信道矩陣為1/2 1/3 1/6P= 1/

2、6 1/2 1/31/3 1/6 1/2若信源概率分布為p(xAl/2, p(x2p(X3l/4,求最佳譯碼時(shí)的平均錯(cuò)誤譯碼概率。 解： 極人似然譯碼規(guī)則譯碼時(shí)，由轉(zhuǎn)移概率矩陣可知：第-列中.第二列社，第三 列中丄為轉(zhuǎn)移概率的最大值，所以平均錯(cuò)誤概率為：2門11r1iixizi1、1匕=X (+) + x(-+ _)+ - x(+ ) = E23643 64362小錯(cuò)誤概率譯碼，輸入X與輸出y的聯(lián)合概率分布為:丄丄46121 1 124,8，121 1 112248n /11、1、1、11R? = ( + ) + ( + ) + ( + )=24 1282412 122411 1由于-242可

3、以看出最佳譯碼為最小錯(cuò)誤概率譯碼，平均錯(cuò)誤概率為二243. 將M個(gè)消息編成長(zhǎng)為n的二元數(shù)字序列，此特定的M個(gè)二元序列從于個(gè)可 選擇的序列中獨(dú)立地等概率地選出。設(shè)采用最大似然譯碼規(guī)則譯碼，求在圖 68中（a）、（b）、（c）三種信道下的平均錯(cuò)謀譯碼概率。0E13信息論與編碼理論#信息論與編碼理論圖68三個(gè)信逍（1）由圖可知.其轉(zhuǎn)移概率矩陣為:l-p P P 1 - P_#信息論與編碼理論#信息論與編碼理論該信道任意一個(gè)斥列譯碼錯(cuò)誤概率為：尸l-（lp）（lp）C：G）+l-（lpHlp 嚴(yán)C：（扣 +l-（l-pr（lT）0C：（l）M二1一（1計(jì) 平均譯碼錯(cuò)誤概率為：& = M x-xl-(l

4、-p)n= -xl-(l-p)n（2）由圖可知，其轉(zhuǎn)移概率矩陣為：)0 P 1 - p_任意一個(gè)序列譯碼錯(cuò)誤的概率為:p=l-(l-p)nc：(i)a+l-(l-prct(ir+l-(l-p)C：(i)n乙乙乙=1-(訃2平均譯碼錯(cuò)誤概率為：2n L 2 2 L 2(3)由圖可知.其轉(zhuǎn)移概率矩陣為:1-p p 00 p l-p一個(gè)序列錯(cuò)誤譯碼的概率為：p= 1 - (1 -p)n c：( | )n+ 1 - (1 -P)n C( 1 )n+l-(l-p)nC：(l)n乙乙乙I=l-(l-p)n平均譯碼錯(cuò)誤概率為：Pe =MX 貨 xl-(l_p)n=%xl-(l-p)n4. 某一個(gè)信道輸入X的

5、符號(hào)集為0, 1/2,1,輸出Y的符號(hào)集為0,1,信道矩陣為1 01/2 1/20 1現(xiàn)有4個(gè)消息的信源通過該信道傳輸，設(shè)每個(gè)消息等概出現(xiàn)。若對(duì)信源進(jìn)行編碼，選 用的碼為 C=(0, 0, 1/2, 1/2), (0, 1, 1/2, 1/2), (1, 0, 1/2, 1/2), (1,1, 1/2, 1/2) 譯碼規(guī) 則為解：(1) 求信息傳輸率：R= 1og4 = 1 st/符號(hào)11 2(2) 求平均錯(cuò)謀譯碼概率。根據(jù)信道的傳輸特性，町知町以輸出于=16種序列，可以分成4個(gè)子集，分別為: a!=(0 0 i -) (0 0 y3 y j2y3, y f (0 1)(i i y3 y.)%=(17)-*(l 0 y5 yj傳輸信道如下所示:(00|(1 01.2(1 10000 0001 00100011 0100 0101 0110 0111looo looi loio ion uoo uoi mo mi11110000000000004444000011110000000044440000000011110000444400000000000011114444