信息論與編碼B

1、信息論與編碼課程試卷（B卷）本試卷用于信息系2011級通信工程本科學生（時量：120分鐘 總分100分）命題人：李星亮注意：1、答案必須填寫在答題紙上，填寫在試卷上的無效。2、答卷必須寫明題目序號，并按題號順序答題。3、請保持行距，保持卷面整潔。一、填空題（每題3分，共30分）1、 從認識論的層次，信息分為3個層次分別為, , 2、 波形信源的數學模型為，某連續(xù)信源X，其分布為p（x） =。一*，航2其相對熵為。3、離散、無記憶、等概率分布2進制信源，對該信源進行無失真編碼，則平均碼 長的下限為，根據Shannon無失真信源編碼定理，達到該下限的一般方法為。4、 I（X； Y）是關于p（x）凹

2、函數，是關于p（xly）凹函數。5、已知H（X） = 1b / s,H（X /Y） = 0.8b / s,I（X；Y）為。6、某線性碼組的最小Hamming距離為5，譯碼時能檢測 位錯誤，能、糾正位錯誤。7、離散時間連續(xù)信息信源在峰值受限，功率受限的情況下，為使信源熵最大，則02 種情況的概率分布分別為，。8、 AWGN信道的信道容量為。9、 某離散無記憶信源的商位1b/s，3次擴展后，信源序列的熵為。10、 按照信源序列漸近均分特性，信源序列可分為，;其中 為大 概率事件。二、簡答題、辨析題（每小題5分，共20分）1、某信源的熵為1b/s，經信道傳輸，已知信道容量為0.86b/s，信道傳輸速

3、度1500B/S， 現(xiàn)有40000個信源符號，要保證無差錯傳輸，則傳輸的最短時間為多少？說明理由。2、某2元離散無記憶信源，其熵為1bit/s對其3次擴展信源進行編碼，其平均 碼長為4，問：1）能進行無失真譯碼？，為什么；2）能否進一步壓縮碼？為什么？3、FEC相對于ARQ的主要優(yōu)點是什么？4、簡述率失真函數的概念及性質三、綜合題(共50分)1、 設離散無憶信源X)=%=1 %= 計算信源熵； 編二進制香農碼和二進制費諾碼； %= 計算二進制香農碼和費諾碼的平均碼長和編碼效率; %= 編三進制費諾碼； 計算三進制費諾碼的平均碼長和編碼效率。 編二進制Huffman碼，求平均碼長和編碼效率。其發(fā)

4、出的消息為PX) 3/81/41/41/8 J(2021201 30213001203210110321010021032011223210)，求此消息的自信息量是多少？在此消息中平均每個符號攜帶的信息量是多少？(10 分)2、設信源X的N次擴展信源X = X1X2 XN通過信道X,P(Y/X), Y的輸出序列為Y = YY .巳。試證明：當信源為無記憶信源時，即X1，X2,Xn之間統(tǒng)計獨立時，有工/(Xk ,匕)k =1I(X; Y )；當信道無記憶時，有El，Y)I(X;Y)；k=1當信源、信道均為無記憶時，有 %(Xk，Y)= IGn； Yn )= NI(X; Y )；k = 1(10)3、設信源X )1a2a3a4a5a6a7氣P( X) j=51、214181161321641128128 J4、已知循環(huán)碼生成多項式為g3) = l + x + x4(1)求該碼的最小碼長，相應的一致校驗多項式龍(尤)和最小碼距(2)求該碼的生成矩陣，一致校驗矩陣，系統(tǒng)碼生成矩陣。(10)5、若某無記憶信源X 1J-1 01 戶（利一1/3 1/3