計算機科學(xué)技術(shù)：信息論與編碼考試題庫二

計算機科學(xué)技術(shù)：信息論與編碼考試題庫二

1、問答題請給出平均碼長界定定理及其物理意義。

答案：

2、填空題多用戶信道的信道容量用O來表示。

答案：多維空間的一個區(qū)域的界限

3、判斷題狹義的信道編碼既是指：信道的檢、糾錯編碼。

答案：對

4、判斷題互信息量I(X；Y)表示收到Y(jié)后仍對信源X的不確定度。

答案：對

5、判斷題對于具有歸并性能的無燥信道，當(dāng)信源等概率分布時(p(xi)=l/n),

達到信道容量。

答案：錯

6、問答?有兩個二元隨機變量X和Y,它們的聯(lián)合概率為P[X=O,Y=0]=l/8,

P[X=O,Y=l]=3/8,P[X=1,Y=l]=l/8,P[X=1,Y=0]=3/8。定義另一隨機變量

Z=XY,試計算:

(1)H(X),H(Y),H⑵，H(XZ),H(YZ),H(XYZ)；

(2)H(X/Y),H(Y/X),H(X/Z),H(Z/X),H(Y/Z),H(Z/Y),H

(X/YZ),H(Y/XZ),H(Z/XY)；

(3)I(X；Y),I(X；Z),I(Y；Z),I(X；Y/Z),I(Y；Z/X),I(X；

Z/Y)o

答案：

7、填空題平均互信息量I(X；Y)與信源增和條件燧之間的關(guān)系是O。

答案:(X;Y)=H(X)-H(X/Y)

8、填空題根據(jù)輸入輸出信號的特點，可將信道分成離散信道、連續(xù)信道、()

信道。

答案：半離散或半連續(xù)

9、填空題單符號離散信源一般用隨機變量描述，而多符號離散信源一般用()

描述。

答案：隨機矢量

10、填空題信源編碼的目的是提高通信的()，信道編碼的目的是提高通信的

(),加密編碼的目的是保證通信的()O

答案：有效性；可靠性；安全性

11、、填空題某離散無記憶信源X,其符號個數(shù)為n,則當(dāng)信源符號呈()分布情

況下，信源燧取最大值()。

答案：等概；log(n)

12、名詞解釋前向糾錯(FEC)

答案：是指差錯控制過程中是單向的，無須差錯信息的反饋。

13、名詞解釋信源編碼

答案：就是針對信源輸出符號序列的統(tǒng)計特性，通過概率匹配的編碼方法，將出

現(xiàn)概率大的信源符號盡可能編為短碼，從而使信源輸出的符號序列變換為最短

的碼字序列針對信源輸出符號序列的統(tǒng)計特性，通過概率匹配的編碼方法，將

出現(xiàn)概率大的信源符號盡可能編為短碼，從而使信源輸出的符號序列變換為最

短的碼字序列。

14、填空題兩個相互獨立的隨機變量的聯(lián)合自信息量等于（）o

答案：兩個自信息量之和

15、判斷題利用狀態(tài)極限概率和狀態(tài)一步轉(zhuǎn)移概率來求m階馬爾可夫信源的極

限熠。

答案：對

16、填空題無失真信源編碼的中心任務(wù)是編碼后的信息率壓縮接近到（）限失

真壓縮中心任務(wù)是在給定的失真度條件下，信息率壓縮接近到（）。

答案：1;2

17、問”題對于一個一般的通信系統(tǒng)，試給出其系統(tǒng)模型框圖，并結(jié)合此圖，

解釋數(shù)據(jù)處理定理。

答案：

18、填空題最大后驗概率譯碼指的是譯碼器要在已知r的條件下找出可能性最

大的發(fā)碼（），即☆=maxP（r）。

答案：作為譯碼估值

19、判斷題短期授信指半年以內(nèi)（含半年）的授信，中長期授信指半年以上的

授信。

答案：錯

20、單選設(shè)有一個無記憶信源發(fā)出符號A和B,已知，發(fā)出二重符號序列消息

的信源，無記憶信源熠為O。

A.0.81bit/二重符號

B.1.62bit/二重符號

C.0.93bit/二重符號

D.1.86bit/二重符號

答案：A

21、填空題保密系統(tǒng)的密鑰量越小，密鑰燧H（K）就越（），其密文中含有的

關(guān)于明文的信息量I（M；C）就越（）。

答案：小;大

22、問答題什么是平均自信息量與平均互信息，比較一下這兩個概念的異同？

答案：

23、名詞解釋平均失真度

答案：定義平均失真度為失真函數(shù)的數(shù)學(xué)期望，及d(xi,yi)在X和Y得聯(lián)合

概率空間P(XY)中的統(tǒng)計平均值：D=E[D(xi,yi)],起是在平均的意義上，

從總體上對整個系統(tǒng)失真情況的描述。

24、名詞解釋無記憶信道

答案：在某一時刻信道的輸出消息僅與當(dāng)時的信道輸入消息有關(guān)，而與前面時刻

的信道輸入或輸出消息無關(guān)。

25、名詞解釋信道散布度

答案：表示在已知X后，對于輸出Y尚存的平均不確定性；

26、判斷題信源的消息通過信道傳輸后的誤差或失真越大，信宿收到消息后對

信源存在的不確定性就越小，獲得的信息量就越小。

答案：錯

27、名詞解釋碼距

答案：兩個等長碼字之間對應(yīng)碼元不相同的數(shù)目，稱為碼距

28、填空題按照信息的性質(zhì)，可以把信息分成()、()和()。

答案：語法信息；語義信息；語用信息

29、問答題請給出域的定義并說明集合｛0,1,2｝可否構(gòu)成域及其理由。

答案：解：域的定義：非空元素集合F,若在F中定義了加和乘兩種運算，且滿

足

(1)F關(guān)于加法構(gòu)成Abel群，其加法恒元記為0；

(2)F中非零元素全體對乘法構(gòu)成Abel群，其乘法恒元記為1；

(3)力口法和乘法間有如下分配律：a(b+c)=ab+ac,(b+c)a=ba+ca,

則稱F是一個域。

或者說，域是一個可換的、有單位元的、非零元素有逆元的環(huán)。

集合｛0,1,2｝可以構(gòu)成域。對該集合中的元素定義模3加和模3乘這兩種運算,

完全符合域必須滿足的3個條件。

30、判斷題離散無記憶序列信源中平均每個符號的符號烯等于單個符號信源的

符號焙。

答案：對

31、問答題簡述廣義的信道編碼的分類及各類編碼的作用。

答案：1、按照信道特性進行劃分，信道編碼可以分為：以糾獨立隨機差錯為主

的信道編碼、以糾突發(fā)差錯為主的信道編碼、和糾混合差錯的信道編碼。

2、從功能上看，信道編碼可以分為糾錯碼與檢錯碼兩類，糾錯碼一定能檢錯，

檢錯嗎不一定能糾錯，平常所說的糾錯碼是兩者的統(tǒng)稱。

32、判斷題對于BSC信道，信道編碼應(yīng)當(dāng)是一對一的編碼，因此，消息m的長

度等于碼字c的長度。

答案：錯

33、單選下列不屬于消息的是()。

A.文字

B.信號

C.圖像

D.語言

答案：B

34、填空題信源編碼的主要目的是（）o

答案：提高通信系統(tǒng)的有效性

35、名詞解釋平穩(wěn)信源

答案：概率分布函數(shù)與時間起點無關(guān)，平穩(wěn)信源是有記憶的，記憶的長度有限。

36、填空題常用的檢糾錯方法有（）、反饋重發(fā)和混合糾錯三種。

答案：前向糾錯

37、名詞解釋失真函數(shù)d（xi,yj）

答案：是人為規(guī)定的，給出規(guī)定時應(yīng)該考慮解決問題的需要以及失真可能引起的

損失、風(fēng)險和主觀上感覺的差別等因素。

38、問答題在圖片傳輸中，每幀約有2.25x106個像素，為了能很好的重現(xiàn)圖像,

需分16個量度電平，并假設(shè)量度電平等概率分布，試計算每分鐘傳輸一幀圖片

所需信道的帶寬（信噪功率比為30dB）.

答案：

39、填空題事物的不確定度是用時間統(tǒng)計發(fā)生（）來描述的。

答案：概率的對數(shù)

40、填空題L-D編碼是一種（）的方法。

答案：分幀傳送冗余位序列

41、問答題請給出本原多項式的定義，并用一個實例來說明它的性質(zhì)。

答案：

42、填空題互信息I（X；Y）與信息烯H（Y）的關(guān)系為：I（X；Y）（）（大于、

小于或者等于）H（Y）o

答案：小于

43、填空題1948年，美國數(shù)學(xué)家（）發(fā)表了題為“通信的數(shù)學(xué)理論”的長篇論文，

從而創(chuàng)立了信息論。

答案：香農(nóng)

44、判斷題非奇異的定長碼一定是唯一可譯碼。

答案：錯

45、單選為提高通信系統(tǒng)傳輸消息有效性，信源編碼采用的方法是O。

A.壓縮信源的冗余度

B.在信息比特中適當(dāng)加入冗余比特

C.研究碼的生成矩陣

D.對多組信息進行交織處理

答案：A

46、判斷題最大信息傳輸速率，即：選擇某一信源的概率分布(p(xi)),使

信道所能傳送的信息率的最大值。

答案：錯

47、問答題簡單介紹哈夫曼編碼的步驟。

答案：①將信源消息符號按其出現(xiàn)的概率大小依次排列

p(xl)>p(x2)>...>p(xn)

②取兩個概率最小的符號分別配以。和1,并將這兩個概率相加作為一個新符號

的概率，與未分配碼元的符號重新排隊。

③對重排后的兩個概率最小符號重復(fù)步驟2的過程。

④繼續(xù)上述過程，直到最后兩個符號配以0和1為止。

⑤從最后一級開始，向前返回得到各個信源符號所對應(yīng)的碼元序列，即相應(yīng)的

碼字。

48、判斷題N維統(tǒng)計獨立均勻分布連續(xù)信源的端是N維區(qū)域體積的對數(shù)。

答案：對

49、問答題試問四進制、八進制脈沖所含信息量是二進制脈沖的多少倍？

答案：

50、問答題簡述二元哈夫曼編碼的編碼步驟。

答案：1)將q個信源符號按概率遞減的方式排列起來；

2)用“0"、“1”碼符號分別表示概率最小的兩個信源符號，并將這兩個概率最小的

信源符號合并成一個新的符號，從而得到只包含q-l個符號的新信源，稱之為S

信源的S1縮減信源；

3)將縮減信源中的符號仍按概率大小以遞減次序排列，再將其最后兩個概率最

小的符號合并成一個符號，并分別用“0”、“1”碼符號表示，這樣又形成了由q-2

個符號構(gòu)成的縮減信源S2；

4)依次繼續(xù)下去，直到縮減信源只剩下兩個符號為止，將這最后兩個符號分別

用“0”、“1”碼符號表示；5)從最后一級縮減信源開始，向前返回，沿信源縮減方

向的反方向取出所編的碼元，得出各信源符號所對應(yīng)的碼符號序列，即為對應(yīng)

信源符號的碼字。

51、填空題

若分組碼H陣列列線性無關(guān)數(shù)為n,則糾錯碼的最小距離dmin為()。

答案：10

52、判斷題當(dāng)p(xi)、p(yj/xi)和d(xi,yj)給定后，平均失真度是一個隨

即變量。

答案：錯

53、填空題平均失真度的下限取0的條件是失真矩陣的()o

答案：每一行至少有一個零元素

54、填空題信息的基本概念在于它的()0

答案：不確定性

55、判斷題平均互信息量I（X；Y）對于信源概率分布p（xi）和條件概率分布

p（yj/xi）都具有凸函數(shù)性。

答案：對

56、單選固定總價合同一般適用于0工程。

A.設(shè)計圖紙完整齊備

B.工程規(guī)模小，工期短

C.技術(shù)復(fù)雜

D.工程量大

答案：B

57、、填空題不可能事件的自信息量是（），必然事件的自信息是（）o

答案：8:0

58、問答題簡述最大離散熠定理。對于一個有m個符號的離散信源，其最大燧

是多少？

答案：

59、問答題從大量統(tǒng)計資料知道，男性中紅綠色盲的發(fā)病率為7%,女性發(fā)病

率為0.5%.如果你問一位男士：“你是否是紅綠色盲？”他的回答可能是：“是"，

也可能“不是”。問這兩個回答中各含有多少信息量？平均每個回答中各含有多少

信息量？如果你問一位女士，則她的答案中含有多少平均信息量？

答案：

60、填空題設(shè)X的取值受限于有限區(qū)間[a,b],則X服從（）分布時，其畸

達到最大；如X的均值為，方差受限為，則X服從高斯分布時，其燧達到最大。

答案：均勻；

61＞填空題’不可能事件的自信息量是（）。

答案：8

62、判斷題信源熠具有嚴格的下凸性。

答案：錯

63、填空題信息論是應(yīng)用近代數(shù)理統(tǒng)計方法研究信息的傳輸、存儲與處理的科

學(xué)，故稱為（）；1948年香農(nóng)在貝爾雜志上發(fā)表了兩篇有關(guān)的“通信的數(shù)學(xué)理論”

文章，該文用燧對信源的（）的度量，同時也是衡量O大小的一個尺度；表現(xiàn)

在通信領(lǐng)域里，發(fā)送端發(fā)送什么有一個不確定量，通過信道傳輸，接收端收到

信息后，對發(fā)送端發(fā)送什么仍然存在一個不確定量，把這兩個不確定量差值用（）

來表示，它表現(xiàn)了通信信道流通的（），若把它取最大值，就是通信線路的（），

若把它取最小值，就是O。

答案：3;4;5;6;7;8;9

64、、填全質(zhì)，高i輸入端的端為H（X）,輸出端的端為H（Y）,該信道為無

噪有損信道，則該信道的容量為（）

答案：MaxH（Y）

65、判斷題在游程編碼過程中，“0”游程和“1”游程應(yīng)分別編碼，因此，它們的

碼字不能重復(fù)。

答案：錯

66、填空題等重碼可以檢驗()o

答案：全部的奇數(shù)位錯和部分的偶數(shù)位錯

67、判斷題可以用克勞夫特不等式作為唯一可譯碼存在的判據(jù)。

答案：對

68、判斷題多用戶信道的信道容量不能用一個數(shù)來代表。

答案：對

69、單選二進制通信系統(tǒng)使用符號0和1,由于存在失真，傳輸時會產(chǎn)生誤碼,

用符號表示下列事件，u0：一個。發(fā)出ul：一個1發(fā)出v0：一個。收到vl：一

個1收到則已知收到的符號，被告知發(fā)出的符號能得到的信息量是OO

A.H(U/V)

B.H(V/U)

C.H(U,V)

D.H(UV)

答案：A

70＞填空題連續(xù)信源或模擬信號的信源編碼的理論基礎(chǔ)是O。

答案：限失真信源編碼定理

71、填空題假設(shè)每個消息的發(fā)出都是等概率的，四進制脈沖所含信息量是二進

制脈沖的()倍。

答案：2

72、填空題在無失真的信源中，信源輸出由()來度量；在有失真的信源中，

信源輸出由()來度量。

答案:H(X);R(D)

73、填空題自信息量的單位一般有()。

答案：比特、奈特和哈特

74＞填空題自信息量表征信源中各個符號的不確定度，信源符號的概率越大，

其自信息量越()

答案：小

75、填空題設(shè)有一個離散無記憶平穩(wěn)信道，其信道容量為C,只要待傳送的信

息傳輸率R()C(大于、小于或者等于)，則存在一種編碼，當(dāng)輸入序列長度n

足夠大，使譯碼錯誤概率任意小。

答案：小于

76、問答題設(shè)某彩電系統(tǒng)，除了滿足對于黑白電視系統(tǒng)的上述要求外，還必須

有30個不同的色彩度。試證明傳輸這種彩電系統(tǒng)的信息率要比黑白系統(tǒng)的信息

率大2.5倍左右。

答案：

77、問答題簡述費諾編碼的編碼步驟。

答案：費諾編碼的步驟：

1)信源符號以概率遞減的次序排列起來；

2)將排列好的信源符號按概率值劃分成兩大組，使每組的概率之和接近于相等,

并對每組各賦予一個二元碼符號“0”和“1”；

3)將每一大組的信源符號再分成兩組，使劃分后的兩個組的概率之和接近于相

等，再分別賦予一個二元碼符號；

4)依次下去，直至每個小組只剩一個信源符號為止

5)信源符號所對應(yīng)的碼字即為費諾碼。

78、填空題對具有8個消息的單符號離散無記憶信源進行4進制哈夫曼編碼時,

為使平均碼長最短，應(yīng)增加()個概率為。的消息。

答案：2

79、問答題簡述離散信源和連續(xù)信源的最大增定理。

答案：離散無記憶信源，等概率分布時熠最大。連續(xù)信源，峰值功率受限時，均

勻分布的端最大。平均功率受限時，高斯分布的燧最大。均值受限時，指數(shù)分

布的帽最大。

80、判斷題信道無失真?zhèn)鬟f信息的條件是信息率小于信道容量。

答案：對

81、填空題游程序列的燧()原二元序列的燧。

答案：等于

82、問答題請給出信源編碼器的主要任務(wù)以及對信源編碼的基本要求。

答案：解：信源編碼器的主要任務(wù)是完成輸入消息集合與輸出代碼集合之間的映

射。

對信源編碼有如下基本要求：

(1)選擇合適的信道基本符號，以使映射后的代碼適應(yīng)信道。例如，ASCH碼選

用了16進制數(shù)。

(2)尋求一種方法，把信源發(fā)出的消息變換成相應(yīng)的代碼組。這種方法就是編

碼，變換成的代碼就是碼字。

(3)編碼應(yīng)使消息集合與代碼組集合中的元素一一對應(yīng)。

83、判斷題m階馬爾可夫信源和消息長度為m的有記憶信源，其所含符號的依

賴關(guān)系相同

答案：錯

84、判斷題信源X的概率分布為P(X)={1/2,1/3,1/6),信源Y的概率分布

為P(Y)={1/3,1/2,1/6},則信源X和丫的燧相等。

答案：對

85、判斷題連續(xù)信源和離散信源都具有可加性。

答案：對

86、、判斷題連續(xù)信源和離散信源的平均互信息都具有非負性。

答案：對

87、填空題如某線性分組碼的最小漢明距dmin=4,則該碼最多能檢測出（）個

隨機錯，最多能糾正（）個隨機錯。

答案：3；1

88、填空題信息的（）是建立信息論的基礎(chǔ)。

答案：可度量性

89、判斷題某一信源，不管它是否輸出符號，只要這些符號具有某些概率特性,

就有信息量。

答案：錯

90、填空題根據(jù)碼字所含的碼元的個數(shù)，編碼可分為（）編碼和（）編碼。

答案：定長;變長

91、判斷題當(dāng)隨即變量X和Y相互獨立時，條件熠等于信源燧。

答案：對

92、填空題信源的冗余度來自兩個方面，一是信源符號之間的O,二是信源

符號分布的Oo

答案：相關(guān)性；不均勻性

93、填空題“冗余變換”即：將一個冗余序列轉(zhuǎn)換成一個二元序列和一個（）。

答案：縮短了的多元序列

94、名詞解釋輸出對稱矩陣

答案：轉(zhuǎn)移概率矩陣的每一列都是第一列的置換（包含同樣元素），則該矩陣稱

為輸出對稱矩陣。

95、問答題寫出香農(nóng)公式，并說明其物理意義。當(dāng)信道帶寬為5000Hz,信噪

比為30dB時求信道容量。

答案：

96、填空題求解率失真函數(shù)的問題，即：在給定失真度的情況下，求信息率的

（）O

答案：極小值

97、判斷題率失真函數(shù)沒有最大值。

答案：錯

98、判斷題離散平穩(wěn)有記憶信源符號序列的平均符號燧隨著序列長度L的增大

而增大。

答案：錯

99、填空題信息率失真函數(shù)，簡稱為率失真函數(shù)，即：試驗信道中的平均互信

息量的（）o

答案：最小值

100、判斷題求解率失真函數(shù)的問題，即：在給定失真度的情況下，求信息率

的極小值。

答案：對

計算機科學(xué)技術(shù)：信息論與編碼題庫

1、單選一個隨即變量X的概率密度函數(shù)P(x)=x/2,,則信源的相對熠為()。

A.0.5bit

B.0.72bit

C.lbit

D.1.44bit

答案：C

2、填空題1948年，美國數(shù)學(xué)家()發(fā)表了題為“通信的數(shù)學(xué)理論'的長篇論文，

從而創(chuàng)立了信息論。

答案：香農(nóng)

3、單選二進制通信系統(tǒng)使用符號。和1,由于存在失真，傳輸時會產(chǎn)生誤碼，

用符號表示下列事件，uO：一個。發(fā)出ul：一個1發(fā)出vO：一個。收到vl：一

個1收到則已知收到的符號，被告知發(fā)出的符號能得到的信息量是()O

A.H(U/V)

B.H(V/U)

C.H(U,V)

D.H(UV)

答案：A

Z填空題信道一般指傳輸信息的物理媒介，分為()信道和()信道。

答案：有線；無線

5、填空題假設(shè)每個消息的發(fā)出都是等概率的，四進制脈沖所含信息量是二進制

脈沖的()倍。

答案：2

6、判斷題最大信息傳輸速率，即：選擇某一信源的概率分布(p(xi)),使信

道所能傳送的信息率的最大值。

答案：錯

7、填空題信道編碼的最終目的是O。

答案：提高信號傳輸?shù)目煽啃?/p>

8、填空題對于離散無記憶信道和信源的N次擴展，其信道容量CN=()。

答案：NC

9、填空題平均錯誤概率不僅與信道本身的()特性有關(guān)，還與()規(guī)則和()

方法有關(guān)

答案：統(tǒng)計；譯碼；編碼

10、填空題多用戶信道的信道容量用()來表示。

答案：多維空間的一個區(qū)域的界限

11、填空題已知用戶A的RSA公開密鑰(e,n)=(3,55),,則()，他的

秘密密鑰(d,n)=(27,55)。若用戶B向用戶A發(fā)送m=2的加密消息，則

該加密后的消息為Oo

答案：40;8

12、問答速設(shè)某彩電系統(tǒng)，除了滿足對于黑白電視系統(tǒng)的上述要求外，還必須

有30個不同的色彩度。試證明傳輸這種彩電系統(tǒng)的信息率要比黑白系統(tǒng)的信息

率大2.5倍左右。

答案：

13、填空題率失真函數(shù)對允許的平均失真度是（）o

答案：單調(diào)遞減和連續(xù)的

14、判斷題連續(xù)信源和離散信源的平均互信息都具有非負性。

答案：對

15、名詞解釋消息（或稱為符號）

答案：信息的數(shù)學(xué)表達層，它雖不是一個物理量，但是可以定量地加以描述，它

是具體物理信號的進一步數(shù)學(xué)抽象

16、判斷題某一信源，不管它是否輸出符號，只要這些符號具有某些概率特性,

就有信息量。

答案：錯

17、填空題事物的不確定度是用時間統(tǒng)計發(fā)生（）來描述的。

答案：概率的對數(shù)

18、填空題多用戶信道可以分成幾種最基本的類型：（）、（）和相關(guān)信源信

道。

答案：多址接入信道；廣播信道

19、填空題按照信息的地位，可以把信息分成（）和（）。

答案：客觀信息；主觀信息

20、填空題信源的消息通過信道傳輸后的誤差或失真越大，信宿收到消息后對

信源存在的不確定性就（），獲得的信息量就越小。

答案：越大

21、問答題試證明n維隨機變量的共燧，不大于它們各自的焙之和。

答案：

22、填空題按照不同的編碼目的，編碼可以分為三類：分別是（）、（）和（）。

答案：信源編碼;信道編碼;安全編碼

23、填空題連續(xù)信源或模擬信號的信源編碼的理論基礎(chǔ)是（）o

答案：限失真信源編碼定理

24、名詞解釋碼距

答案：兩個等長碼字之間對應(yīng)碼元不相同的數(shù)目，稱為碼距

25、判斷題非奇異的定長碼一定是唯一可譯碼。

答案：錯

26、判斷題信源熠具有嚴格的下凸性。

答案：錯

27、填空題按照信源發(fā)出的消息在時間和幅度上的分布情況，可將信源分成（）

信源和（）信源兩大類。

答案：離散;連續(xù)

28、名詞解釋自信息量

答案：一個隨機事件發(fā)生某一結(jié)果后所帶來的信息量成為自信息量，定義為其發(fā)

生概率對數(shù)的負值。

29、問答題傳統(tǒng)控制理論在應(yīng)用中面臨的難題包括哪些？

答案：（1）傳統(tǒng)控制系統(tǒng)的設(shè)計與分析是建立在精確的系統(tǒng)數(shù)學(xué)模型基礎(chǔ)上的，

而實際系統(tǒng)由于存在復(fù)雜性、非線性、時變性、不確定性和不完全性等，一般

無法獲得精確的數(shù)學(xué)模型。

（2）研究這類系統(tǒng)時，必須提出并遵循一些比較苛刻的假設(shè)，而這些假設(shè)在應(yīng)

用中往往與實際不相吻合。（3）對于某些復(fù)雜的和包含不確定性的對象，根本

無法以傳統(tǒng)數(shù)學(xué)模型來表示，即無法解決建模問題。（4）為了提高性能，傳統(tǒng)

控制系統(tǒng)可能變得很復(fù)雜，從而增加了設(shè)備的初投資和維修費用，降低系統(tǒng)的

可靠性。傳統(tǒng)控制理論在應(yīng)用中面臨的難題的解決，不僅需要發(fā)展控制理論與

方法，而且需要開發(fā)與應(yīng)用計算機科學(xué)與工程的最新成果。人工智能的產(chǎn)生和

發(fā)展正在為自動控制系統(tǒng)的智能化提供有力支持。人工智能影響了許多具有不

同背景的學(xué)科，它的發(fā)展已促進自動控制向著更高的水平一智能控制發(fā)展

30、判斷題率失真函數(shù)的值與信源的輸入概率無關(guān)。

答案：錯

31、填空題在多符號的消息序列中，大量的重復(fù)出現(xiàn)的，只起占時作用的符號

稱為（）。

答案：冗余位

32、填空題互信息I（X；Y）與信息烯H（Y）的關(guān)系為：I（X；Y）（）（大于、

小于或者等于）H（Y）o

答案：小于

33、判斷題對于具有歸并性能的無燥信道，當(dāng)信源等概率分布時（p（xi）=l/n）,

達到信道容量。

答案：錯

34、填空題離散對稱信道輸入等概率時，輸出為（）分布。

答案：等概

35＞判斷題連續(xù)信源和離散信源都具有可加性。

答案：對

36、名詞解釋最佳碼

答案：對于某一個信源和某一碼符號集來說，若有唯一可譯碼，其平均編碼長度

小于所有其他唯一可譯碼的平均編碼長度，則該碼為對于某一個信源和某一碼

符號集來說，若有唯一可譯碼其平均編碼長度小于所有其他唯一可譯碼的平均

編碼長度，則該碼為最佳碼（或緊致碼）。

37、判斷題線性碼一定包含全零碼。

答案：對

38、填空題在認識論層次上研究信息的時候，必須同時考慮到（）、（）和（）

三個方面的因素。

答案：形式；含義；效用

39、單選下列不屬于消息的是（）0

A.文字

B.信號

C.圖像

D語言

答案：B

40、單選率失真函數(shù)的下限為（）o

A.H（U）

B.0

C.I（U；V）

D.沒有下限

答案：B

41、名詞解釋有記憶信道

答案：在任意時刻信道的輸出消息不僅與當(dāng)時信道的輸入消息有關(guān)，而且還與以

前時刻的信道輸入消息和（或）輸出消息有關(guān)。

42、問答?為了使電視圖象獲得良好的清晰度和規(guī)定的對比度，需要用5x105個

像素和10個不同的亮度電平，并設(shè)每秒要傳送30幀圖象，所有的像素是獨立的,

且所有亮度電平等概出現(xiàn)。求傳輸此圖象所需要的信息率（bit/s）。

答案：

43、判斷題率失真函數(shù)的最小值是0。

答案：對

44、判斷題信源編碼是提高通信有效性為目的的編碼。

答案：對

45、判斷題漢明碼是一種線性分組碼。

答案：對

46、問答題請給出平均碼長界定定理及其物理意義。

答案：

47、名詞解釋信源編碼

答案：就是針對信源輸出符號序列的統(tǒng)計特性，通過概率匹配的編碼方法，將出

現(xiàn)概率大的信源符號盡可能編為短碼，從而使信源輸出的符號序列變換為最短

的碼字序列針對信源輸出符號序列的統(tǒng)計特性，通過概率匹配的編碼方法，將

出現(xiàn)概率大的信源符號盡可能編為短碼，從而使信源輸出的符號序列變換為最

短的碼字序列。

48、判斷題循環(huán)碼也是一種線性分組碼。

答案：對

49、填空題

若分組碼H陣列列線性無關(guān)數(shù)為n,則糾錯碼的最小距離dmin為()。

答案：10

50、填空題人們研究信息論的目的是為了O、O、()地交換和利用各種

各樣的信息。

答案：高效；可靠；安全

51、填空題求解率失真函數(shù)的問題，即：在給定失真度的情況下，求信息率的

()O

答案：極小值

52、名詞解釋完備碼

答案：如果所有禁用碼字都包含在某碼球內(nèi)，可以按最大似然譯碼原則向球心單

向譯碼，這樣的碼叫如果所有禁用碼字都包含在某碼球內(nèi)，可以按最大似然譯

碼原則向球心單向譯碼，這樣的碼叫完備碼。

53、問答題寫出香農(nóng)公式，并說明其物理意義。當(dāng)信道帶寬為5000Hz,信噪

比為30dB時求信道容量。

答案：

54、、問答題請給出本原多項式的定義，并用一個實例來說明它的性質(zhì)。

答案：

55、填空題必然事件的自信息是()o

答案：0

56、問答題簡述信源的符號之間的依賴與信源冗余度的關(guān)系。

答案：當(dāng)信源的符號之間有依賴時，信源輸出消息的不確定性減弱。而信源冗余

度正是反映信源符號依賴關(guān)系的強弱，冗余度越大，依賴關(guān)系就越大。

57、填空題信源編碼的主要目的是()。

答案：提高通信系統(tǒng)的有效性

58、填空題對于香農(nóng)編碼、費諾編碼和哈夫曼編碼，編碼方法惟一的是()o

答案：香農(nóng)編碼

59、判斷題離散信源或數(shù)字信號的信源編碼的理論基礎(chǔ)是限失真信源編碼定

理。

答案：錯

60、判斷題利用狀態(tài)極限概率和狀態(tài)一步轉(zhuǎn)移概率來求m階馬爾可夫信源的極

限熠。

答案：對

61、問答題試說明循環(huán)碼對突發(fā)錯誤的檢測能力。

答案：

62、、判斷題連續(xù)信源和離散信源的燧都具有非負性。

答案：錯

63、判斷題m階馬爾可夫信源和消息長度為m的有記憶信源，其所含符號的依

賴關(guān)系相同

答案：錯

64、判斷題等重碼和奇(偶)校驗碼都可以檢出全部的奇數(shù)位錯

答案：對

65、填空題n位重復(fù)碼的編碼效率是()o

答案：1/n

66、填空題平均互信息量I(X；Y)與信源燧和條件燧之間的關(guān)系是()。

答案：(X;Y)=H(X)-H(X/Y)

67、名詞解釋平均失真度

答案：定義平均失真度為失真函數(shù)的數(shù)學(xué)期望，及d(xi,yi)在X和Y得聯(lián)合

概率空間P(XY)中的統(tǒng)計平均值：D=E[D(xi,yi)],起是在平均的意義上，

從總體上對整個系統(tǒng)失真情況的描述。

68、判斷題算術(shù)編碼是一種無失真的分組信源編碼，其基本思想是將一定精度

數(shù)值作為序列的編碼，是以另外一種形式實現(xiàn)的最佳統(tǒng)計匹配編碼。

答案：錯

69、判斷題率失真函數(shù)對允許的平均失真度具有上凸性。

答案：對

70、名詞解釋信息率失真函數(shù)

答案：在保真度準則下，再現(xiàn)信源消息所必須獲得的最少平均信息量；在保真度

準則下，再現(xiàn)信源消息所必須獲得的最少平均信息量；滿足保真度準則下，信

源可壓縮的最小值。

71、判斷題當(dāng)p(xi)、p(yj/xi)和d(xi,yj)給定后，平均失真度是一個隨

即變量。

答案：錯

72、問答題從大量統(tǒng)計資料知道，男性中紅綠色盲的發(fā)病率為7%,女性發(fā)病

率為0.5%.如果你問一位男士："你是否是紅綠色盲？”他的回答可能是：“是"，

也可能“不是”。問這兩個回答中各含有多少信息量？平均每個回答中各含有多少

信息量？如果你問一位女士，則她的答案中含有多少平均信息量？

答案：

73、填空題L-D編碼是一種()的方法。

答案：分幀傳送冗余位序列

74、單選同時扔兩個正常的骰子，即各面呈現(xiàn)的概率都是1/6,若點數(shù)之和為

12,則得到的自信息為O。

A.—Iog36bit

B.log36bit

C.-log(11/36)bit

D.log（11/36）bit

答案：B

75、判斷題離散平穩(wěn)有記憶信源符號序列的平均符號燧隨著序列長度L的增大

而增大。

答案：錯

76、填空題廣播信道是只有（）的信道。

答案：一個輸入端和多個輸出端

77、填空題對于限峰值功率的N維連續(xù)信源，當(dāng)概率密度（）時連續(xù)信源焙具

有最大值。

答案：均勻分布

78、填空題信道的輸出僅與信道當(dāng)前輸入有關(guān)，而與過去輸入無關(guān)的信道稱為

（）信道。

答案：無記憶

79、填空題游程序列的熠（）原二元序列的熠。

答案：等于

80、問答題什么是限失真信源編碼？

答案：有失真信源編碼的中心任務(wù)：在允許的失真范圍內(nèi)把編碼的信息率壓縮到

最小。

81、填空題“0”游程和“1”游程可以分別進行哈夫曼編碼，兩個碼表中的碼字可

以重復(fù)，但（）必須不同。

答案：C碼

82、填空題平均失真度的下限取0的條件是失真矩陣的（）o

答案：每一行至少有一個零元素

83、判斷題信道容量C是I（X；Y）關(guān)于p（xi）的條件極大值。

答案：對

84、填空題設(shè)X的取值受限于有限區(qū)間[a,b],則X服從（）分布時，其焙

達到最大；如X的均值為，方差受限為，則X服從高斯分布時，其熠達到最大。

答案：均勻；

85、問答題請給出失真函數(shù)、平均失真度、保真度準則、信息率失真函數(shù)的定

義。

答案：

86、判斷題游程序列的烯（“0”游程序列的焙與“1”游程序列的蠟的和）大于等于

原二元序列的焙。

答案：錯

87、問答題信道的分類方法有哪些？

答案：根據(jù)載荷消息的媒體不同（郵遞信道、電信道、光信道、聲信道）。根據(jù)

信息傳輸?shù)姆绞剑ㄝ斎牒洼敵鲂盘柕男问健Ｐ诺赖慕y(tǒng)計特性、信道的用戶多少）。

根據(jù)信道的用戶多少：兩端（單用戶）信道、多端（多用戶）信道。根據(jù)信道輸

入端和輸出端的關(guān)聯(lián)(無反饋信道、反饋信道)根據(jù)信道的參數(shù)與時間的關(guān)系(固

定參數(shù)信道、時變參數(shù)信道。根據(jù)輸入和輸出信號的特點(離散信道、連續(xù)信道、

半離散或半連續(xù)信道波形信道)

88、判斷題高斯加性信道的信道容量只與信道的信噪有關(guān)。

答案：對

89、名詞解釋奇異碼

答案：包含相同的碼字的碼稱為奇異碼

90、單選固定總價合同一般適用于0工程。

A.設(shè)計圖紙完整齊備

B.工程規(guī)模小，工期短

C.技術(shù)復(fù)雜

D.工程量大

答案：B

91、填空題L-D編碼適合于冗余位()的情況。

答案：較多或較少

92、填空題單符號離散信源一般用隨機變量描述，而多符號離散信源一般用()

描述。

答案：隨機矢量

93、問答題請給出連續(xù)信源分別為均勻分布、高斯分布和指數(shù)分布時信源的相

對崎。

答案：

94、填空題按照信息的性質(zhì)，可以把信息分成()、()和()。

答案：語法信息；語義信息；語用信息

95、問答題信源編碼的和信道編碼的目的是什么？

答案：信源編碼的作用：

(1)符號變換：使信源的輸出符號與信道的輸入符號相匹配；

(2)冗余度壓縮：是編碼之后的新信源概率均勻化，信息含量效率等于或接近

于100%。

信道編碼的作用：降低平均差錯率。

96、問答題簡述多用戶信道的分類。

答案：多址接入信道、廣播信道和相關(guān)信源的多用戶信道

97、問答題對于一個一般的通信系統(tǒng)，試給出其系統(tǒng)模型框圖，并結(jié)合此圖，

解釋數(shù)據(jù)處理定理。

答案：

98、、單選條件熠和無條件燧的關(guān)系是：()

A.H(Y/X)<H(Y)

B.H(Y/X)>H(Y)

C.H(Y/X)<H(Y)

D.H（Y/X）>H（Y）

答案：C

99、填空題信道編碼定理是一個理想編碼的存在性定理，即：信道無失真?zhèn)鬟f

信息的條件是（）。

答案：信息率小于信道容量

100、名詞解釋輸出對稱矩陣

答案：轉(zhuǎn)移概率矩陣的每一列都是第一列的置換（包含同樣元素），則該矩陣稱

為輸出對稱矩陣。

計算機科學(xué)技術(shù)：信息論與編碼知識學(xué)習(xí)

1、名詞解釋保真度準則

答案：從平均意義上講，信道每傳送一個符號所引起的平均失真不能超過某一給

定的限定值D,即要求D〈D,稱這種對于失真的限制條件為保真度準則保真度準

則。

2、填空題差錯控制的基本方式大致可以分為（）、（）和（）。

答案：前向糾錯；反饋重發(fā)；混合糾錯

3、單選下列不屬于消息的是（）o

A.文字

B.信號

C.圖像

D語言

答案：B

4、判斷題利用狀態(tài)極限概率和狀態(tài)一步轉(zhuǎn)移概率來求m階馬爾可夫信源的極

限熠。

答案：對

5、名詞解釋信源冗余度

答案：信源端的相對率為信源實際的信息燧與同樣符號數(shù)的最大燧的比值：n=H

無窮/H0,定義信源的冗余度為1減去信源端的相對率n，即W=1F。

6、判斷題離散信源或數(shù)字信號的信源編碼的理論基礎(chǔ)是限失真信源編碼定理。

答案：錯

7、填空題根據(jù)輸入輸出信號的特點，可將信道分成離散信道、連續(xù)信道、（）

信道。

答案：半離散或半連續(xù)

8、名詞解釋有記憶信道

答案：在任意時刻信道的輸出消息不僅與當(dāng)時信道的輸入消息有關(guān)，而且還與以

前時刻的信道輸入消息和（或）輸出消息有關(guān)。

9、單選一珍珠養(yǎng)殖場收獲240顆外觀及重量完全相同的特大珍珠，但不幸被人

用外觀相同但重量僅有微小差異的假珠換掉1顆。一人隨手取出3顆，經(jīng)測量恰

好找出了假珠，不巧假珠又滑落進去，那人找了許久卻未找到，但另一人說他

用天平最多6次能找出，結(jié)果確是如此，這一事件給出的信息量（）o

A.Obit

B.log6bit

C.6bit

D.log240bit

答案：A

10、問答題簡述費諾編碼的編碼步驟。

答案：費諾編碼的步驟：

1）信源符號以概率遞減的次序排列起來；

2）將排列好的信源符號按概率值劃分成兩大組，使每組的概率之和接近于相等,

并對每組各賦予一個二元碼符號“0”和“1”；

3）將每一大組的信源符號再分成兩組，使劃分后的兩個組的概率之和接近于相

等，再分別賦予一個二元碼符號；

4）依次下去，直至每個小組只剩一個信源符號為止

5）信源符號所對應(yīng)的碼字即為費諾碼。

11、問答題寫出香農(nóng)公式，并說明其物理意義。當(dāng)信道帶寬為5000Hz,信噪

比為30dB時求信道容量。

答案：

12、填空題人們研究信息論的目的是為了（）、（）、（）地交換和利用各種

各樣的信息。

答案：高效；可靠；安全

13、填空題在無失真的信源中，信源輸出由（）來度量；在有失真的信源中，

信源輸出由（）來度量。

答案：H（X）;R（D）

14、單選下面哪一項不屬于烯的性質(zhì)：（）

A.非負性

B.完備性

C.對稱性

D.確定性

答案：B

15、填空題1948年，美國數(shù)學(xué)家（）發(fā)表了題為“通信的數(shù)學(xué)理論”的長篇論文，

從而創(chuàng)立了信息論。

答案：香農(nóng)

16、填空題按照信源發(fā)出的消息在時間和幅度上的分布情況，可將信源分成（）

信源和（）信源兩大類。

答案：離散;連續(xù)

17、問答題‘什么是平均自信息量與平均互信息，比較一下這兩個概念的異同？

答案：

18、判斷題連續(xù)信源和離散信源的平均互信息都具有非負性。

點擊查看答案

答案：對

19、單選糾錯編碼中，下列哪種措施不能減小差錯概率（）。

A.增大信道容量

B.增大碼長

C.減小碼率

D.減小帶寬

答案：D

20、填空題自信息量表征信源中各個符號的不確定度，信源符號的概率越大，

其自信息量越（）

答案：小

21、判斷題m階馬爾可夫信源和消息長度為m的有記憶信源，其所含符號的依

賴關(guān)系相同

答案：錯

22、填空題互信息I（X；Y）與信息烯H（Y）的關(guān)系為：I（X；Y）（）（大于、

小于或者等于）H（Y）o

答案：小于

23、判斷題率失真函數(shù)的最小值是0。

答案：對

24、填空題按照不同的編碼目的，編碼可以分為三類：分別是（）、（）和（）。

答案：信源編碼;信道編碼;安全編碼

25、填空題不可能事件的自信息量是（），必然事件的自信息是（）。

答案：8；0

26、填空題

若分組碼H陣列列線性無關(guān)數(shù)為n,則糾錯碼的最小距離dmin為（）。

答案：10

27、填空題信源編碼的主要目的是（）o

答案：提高通信系統(tǒng)的有效性

28、填空題對于限平均功率的一維連續(xù)信源，當(dāng)概率密度（）時，信源熠有最

大值。

答案：高斯分布

29、單選固定總價合同一般適用于0工程。

A.設(shè)計圖紙完整齊備

B.工程規(guī)模小，工期短

C.技術(shù)復(fù)雜

D.工程量大

答案：B

30、問答題試問四進制、八進制脈沖所含信息量是二進制脈沖的多少倍？

答案：

31、單選條件熠和無條件端的關(guān)系是：()

A.H(Y/X)<H(Y)

B.H(Y/X)>H(Y)

C.H(Y/X)<H(Y)

D.H(Y/X)>H(Y)

答案：C

32、問答題簡述幾種信息分類的準則和方法。

答案：狹義信息論、一般信息論、廣義信息論

33、判斷題平均互信息量I(X；Y)對于信源概率分布p(xi)和條件概率分布

p(yj/xi)都具有凸函數(shù)性。

答案：對

34、填空題對于二元序列0011100000011111001111000001111111,其相應(yīng)

的游程序列是O。

答案：23652457

35、填空題連續(xù)信源或模擬信號的信源編碼的理論基礎(chǔ)是()o

答案：限失真信源編碼定理

36、名詞解釋奇異碼

答案：包含相同的碼字的碼稱為奇異碼

37、填空題平均錯誤概率不僅與信道本身的()特性有關(guān)，還與()規(guī)則和()

方法有關(guān)

答案：統(tǒng)計；譯碼；編碼

38>填空題'事物的不確定度是用時間統(tǒng)計發(fā)生()來描述的。

答案：概率的對數(shù)

39、名詞解釋信源編碼

答案：就是針對信源輸出符號序列的統(tǒng)計特性，通過概率匹配的編碼方法，將出

現(xiàn)概率大的信源符號盡可能編為短碼，從而使信源輸出的符號序列變換為最短

的碼字序列針對信源輸出符號序列的統(tǒng)計特性，通過概率匹配的編碼方法，將

出現(xiàn)概率大的信源符號盡可能編為短碼，從而使信源輸出的符號序列變換為最

短的碼字序列。

40、填空題求解率失真函數(shù)的問題，即：在給定失真度的情況下，求信息率的

()O

答案：極小值

41、問答題請給出本原多項式的定義，并用一個實例來說明它的性質(zhì)。

答案：

42、單選同時扔兩個正常的骰子，即各面呈現(xiàn)的概率都是1/6,若點數(shù)之和為

12,則得到的自信息為()o

A.—Iog36bit

B.log36bit

C.-log(11/36)bit

D.log(11/36)bit

答案：B

43、判斷題當(dāng)隨即變量X和Y相互獨立時，條件燧等于信源增。

答案：對

44、填空題離散無記憶N次擴展信源通過離散無記憶N次擴展信道的平均失真

度是單符號信源通過單符號信道的平均失真度的()倍。

答案：N

45、填空題設(shè)X的取值受限于有限區(qū)間[a,b],則X服從()分布時，其熠

達到最大；如X的均值為，方差受限為，則X服從高斯分布時，其燧達到最大。

答案：均勻；

46＞問答題’請給出連續(xù)信源分別為均勻分布、高斯分布和指數(shù)分布時信源的相

對增。

答案：

47、填空題“0”游程和“1”游程可以分別進行哈夫曼編碼，兩個碼表中的碼字可

以重復(fù)，但()必須不同。

答案：C碼

48、填空題在多符號的消息序列中，大量的重復(fù)出現(xiàn)的，只起占時作用的符號

稱為()。

答案：冗余位

49＞問答曾請給出域的定義并說明集合｛0,1,2｝可否構(gòu)成域及其理由。

答案：解：域的定義：非空元素集合F,若在F中定義了加和乘兩種運算，且滿

足

(1)F關(guān)于加法構(gòu)成Abel群，其加法恒元記為0；

(2)F中非零元素全體對乘法構(gòu)成Abel群，其乘法恒元記為1；

(3)加法和乘法間有如下分配律：a(b+c)=ab+ac,(b+c)a=ba+ca,

則稱F是一個域。

或者說，域是一個可換的、有單位元的、非零元素有逆元的環(huán)。

集合｛0,1,2｝可以構(gòu)成域。對該集合中的元素定義模3加和模3乘這兩種運算,

完全符合域必須滿足的3個條件。

50、問答題試說明循環(huán)碼對突發(fā)錯誤的檢測能力。

答案：

51、問答題試證明n維隨機變量的共燧，不大于它們各自的烯之和。

答案：

52、填空題某離散無記憶信源X,其符號個數(shù)為n,則當(dāng)信源符號呈（）分布情

況下，信源端取最大值（）o

答案:等概；log（n）

53、填空題已知用戶A的RSA公開密鑰（e,n）=（3,55）,,則（），他的

秘密密鑰（d,n）=（27,55）。若用戶B向用戶A發(fā)送m=2的加密消息，則

該加密后的消息為（）o

答案：40;8

54、判斷題限平均功率最大燧定理指出對于相關(guān)矩陣一定的隨機矢量X,當(dāng)它

是正態(tài)分布時具有最大增。

答案：對

55、問答題簡述二元哈夫曼編碼的編碼步驟。

答案：1）將q個信源符號按概率遞減的方式排列起來；

2）用“0"、“1”碼符號分別表示概率最小的兩個信源符號，并將這兩個概率最小的

信源符號合并成一個新的符號，從而得到只包含q-l個符號的新信源，稱之為S

信源的S1縮減信源；

3）將縮減信源中的符號仍按概率大小以遞減次序排列，再將其最后兩個概率最

小的符號合并成一個符號，并分別用“0”、“1”碼符號表示，這樣又形成了由q-2

個符號構(gòu)成的縮減信源S2；

4）依次繼續(xù)下去，直到縮減信源只剩下兩個符號為止，將這最后兩個符號分別

用“0”、“1”碼符號表示；5）從最后一級縮減信源開始，向前返回，沿信源縮減方

向的反方向取出所編的碼元，得出各信源符號所對應(yīng)的碼符號序列，即為對應(yīng)

信源符號的碼字。

56、判斷題游程序列的崎（“0”游程序列的燧與“1”游程序列的燧的和）大于等于

原二元序列的焙。

答案：錯

57、填空題保密系統(tǒng)的密鑰量越小，密鑰燧H（K）就越（），其密文中含有的

關(guān)于明文的信息量I（M；C）就越（）。

答案：小;大

58、判斷題多用戶信道的信道容量不能用一個數(shù)來代表，但信道的信息率可以

用一個數(shù)來表示。

答案：錯

59、填空題信道編碼的最終目的是O。

答案：提高信號傳輸?shù)目煽啃?/p>

60、填空題信息率失真函數(shù)，簡稱為率失真函數(shù)，即：試驗信道中的平均互信

息量的（）O

答案：最小值

61、名詞解釋最佳碼

答案：對于某一個信源和某一碼符號集來說，若有唯一可譯碼，其平均編碼長度

小于所有其他唯一可譯碼的平均編碼長度，則該碼為對于某一個信源和某一碼

符號集來說，若有唯一可譯碼其平均編碼長度小于所有其他唯一可譯碼的平均

編碼長度，則該碼為最佳碼(或緊致碼)。

62、問答?有兩個二元隨機變量X和Y,它們的聯(lián)合概率為P[X=O,Y=0]=l/8,

P[X=O,Y=l]=3/8,P[X=1,Y=l]=l/8,P[X=1,Y=0]=3/8。定義另一隨機變量

Z=XY,試計算:

(1)H(X),H(Y),H⑵，H(XZ),H(YZ),H(XYZ)；

(2)H(X/Y),H(Y/X),H(X/Z),H(Z/X),H(Y/Z),H(Z/Y),H

(X/YZ),H(Y/XZ),H(Z/XY)；

(3)I(X；Y),I(X；Z),I(Y；Z),I(X；Y/Z),I(Y；Z/X),I(X；

Z/Y)o

答案：

63、填空題無失真信源編碼的中心任務(wù)是編碼后的信息率壓縮接近到(