2024年大學(xué)試題(計(jì)算機(jī)科學(xué))-信息論與編碼考試近5年真題集錦（頻考類試題）帶答案

（圖片大小可自由調(diào)整）2024年大學(xué)試題(計(jì)算機(jī)科學(xué))-信息論與編碼考試近5年真題集錦（頻考類試題）帶答案第I卷一.參考題庫(共100題)1.在現(xiàn)代通信系統(tǒng)中，信源編碼主要用于解決信息傳輸中的（）性，信道編碼主要用于解決信息傳輸中的（）性，加密編碼主要用于解決信息傳輸中的（）性。2.簡(jiǎn)述香農(nóng)第一編碼定理的物理意義？3.考慮GF（2）上的下列生成矩陣 求奇偶校驗(yàn)矩陣H。4.設(shè)有一個(gè)信源，它產(chǎn)生0，1序列的信息。它在任意時(shí)間而且不論以前發(fā)生過什么符號(hào)，均按p（0）=0.4，p（1）=0.6的概率發(fā)出符號(hào)。 （1）試問這個(gè)信源是否是平穩(wěn)的？ （2）試計(jì)算及； （3）試計(jì)算H（X4）并寫出X4信源中可能有的所有符號(hào)。5.簡(jiǎn)述糾錯(cuò)編碼的分類（從不同的角度）。6.設(shè)有兩個(gè)信源X和Y如下： （1）分別用霍夫曼碼編成二元變長(zhǎng)惟一可譯碼，并計(jì)算其編碼效率； （2）分別用香農(nóng)編碼法編成二元變長(zhǎng)惟一可譯碼，并計(jì)算編碼效率； （3）分別用費(fèi)諾編碼方法編成二元變長(zhǎng)惟一可譯碼，并計(jì)算編碼效率； （4）從X、Y兩種不同信源來比較這三種編碼方法的優(yōu)缺點(diǎn)。7.求下列兩個(gè)信道的信道容量，并加以比較： 8.自信息量的單位一般有（）。9.若一離散無記憶信源的信源熵H（X）等于2.5，對(duì)信源進(jìn)行等長(zhǎng)的無失真二進(jìn)制編碼，則編碼長(zhǎng)度至少為（）。10.黑白傳真機(jī)的消息元只有黑色和白色兩種，即X={黑，白}，一般氣象圖上，黑色的出現(xiàn)概率p（黑）＝0.3，白色出現(xiàn)的概率p（白）＝0.7。? （1）假設(shè)黑白消息視為前后無關(guān)，求信源熵H（X），并畫出該信源的香農(nóng)線圖? （2）實(shí)際上各個(gè)元素之間是有關(guān)聯(lián)的，其轉(zhuǎn)移概率為：P（白|白）＝0.9143，P（黑|白）＝0.0857，P（白|黑）＝0.2，P（黑|黑）＝0.8，求這個(gè)一階馬爾可夫信源的信源熵11.克勞夫特不等式是唯一可譯碼（）的充要條件。12.簡(jiǎn)述香農(nóng)公式的含義。13.若X、Y和Z是三個(gè)隨機(jī)變量，試證明： （1）I（X；YZ）=I（X；Y）+I（X；Z|Y）=I（X；Z）+I（X；Y|Z） （2）I（X；Y|Z）=I（Y；X|Z）=H（X|Z）?H（X|YZ） （3）I（X；Y|Z）≥0當(dāng)且僅當(dāng)（X，Z，Y）是馬氏鏈時(shí)等式成立。14.證明不等式lnx≤x-1。畫出曲線y1=lnx和y2=x-1的平面圖以表明上述不等式的正確性。15.有兩個(gè)二元隨機(jī)變量X和Y，它們的聯(lián)合概率為P[X=0，Y=0]=1/8，P[X=0，Y=1]=3/8，P[X=1，Y=1]=1/8，P[X=1，Y=0]=3/8。定義另一隨機(jī)變量Z=XY，試計(jì)算： （1）H（X），H（Y），H（Z），H（XZ），H（YZ），H（XYZ）； （2）H（X/Y），H（Y/X），H（X/Z），H（Z/X），H（Y/Z），H（Z/Y），H（X/YZ），H（Y/XZ），H（Z/XY）； （3）I（X；Y），I（X；Z），I（Y；Z），I（X；Y/Z），I（Y；Z/X），I（X；Z/Y）。16.有一信源，它有六個(gè)可能的輸出，其概率分布如下表所示，表中給出了對(duì)應(yīng)的碼A、B、C、D、E和F。 （1）求這些碼中哪些是惟一可譯碼； （2）求哪些碼是非延長(zhǎng)碼（即時(shí)碼）； （3）求對(duì)所有惟一可譯碼求出其平均碼長(zhǎng)L。17.常用差錯(cuò)控制的方法有哪些？18.利用狀態(tài)極限概率和狀態(tài)一步轉(zhuǎn)移概率來求m階馬爾可夫信源的極限熵。19.離散無記憶N次擴(kuò)展信源通過離散無記憶N次擴(kuò)展信道的平均失真度是單符號(hào)信源通過單符號(hào)信道的平均失真度的（）倍。20.設(shè)有一連續(xù)隨機(jī)變量，其概率密度函數(shù)為： 試求這隨機(jī)變量的熵。又若Y1=X+K（K>0），Y2=2X，試分別求出Y1和Y2的熵h（Y1）和h（Y2）。21.（）提高通信的有效性，（）目的是提高通信的可靠性，（）編碼的目的是保證通信的安全性。22.下面哪一項(xiàng)不屬于熵的性質(zhì)：（）A、非負(fù)性

B、完備性

C、對(duì)稱性

D、確定性23.試證明連續(xù)信源X的相對(duì)熵h（X）是概率密度p（x）的∩型凸函數(shù)。24.連續(xù)信源和離散信源都具有可加性。25.最大似然譯碼等價(jià)于最大后驗(yàn)概率譯碼的條件是（）。A、離散無記憶信道B、無錯(cuò)編碼C、無擾信道D、消息先驗(yàn)等概26.下列不屬于消息的是（）。A、文字B、信號(hào)C、圖像D、語言27.考慮下圖所示的二元編碼器 （1）構(gòu)造該編碼器的網(wǎng)格圖。 （2）記下該編碼器的k0，n0，v，m，R。 （3）該碼的d*和dfree的值是多少？ 28.一珍珠養(yǎng)殖場(chǎng)收獲240顆外觀及重量完全相同的特大珍珠，但不幸被人用外觀相同但重量?jī)H有微小差異的假珠換掉1顆。一人隨手取出3顆，經(jīng)測(cè)量恰好找出了假珠，不巧假珠又滑落進(jìn)去，那人找了許久卻未找到，但另一人說他用天平最多6次能找出，結(jié)果確是如此，這一事件給出的信息量（）。A、0bitB、log6bitC、6bitD、log240bit29.信息率失真函數(shù)，簡(jiǎn)稱為率失真函數(shù)，即：試驗(yàn)信道中的平均互信息量的（）。30.設(shè)C是長(zhǎng)度為n，最小距離為7的二元完備碼。證明n=7或n=23。 證明：由完備碼的定義可知，一個(gè)完備碼必須滿足下列條件： 31.簡(jiǎn)述馬爾可夫信源的定義及其極限熵。32.算術(shù)編碼是一種無失真的分組信源編碼，其基本思想是將一定精度數(shù)值作為序列的編碼，是以另外一種形式實(shí)現(xiàn)的最佳統(tǒng)計(jì)匹配編碼。33.狹義的信道編碼即：（）。34.試證明多維連續(xù)無記憶信道的充要條件為： 35.最大后驗(yàn)概率譯碼指的是譯碼器要在已知r的條件下找出可能性最大的發(fā)碼（），即令=maxP（|r）。36.簡(jiǎn)述循環(huán)碼的生成矩陣和一致校驗(yàn)矩陣的構(gòu)造。37.連續(xù)隨機(jī)變量X和Y的聯(lián)合概率密度為：，求H（X），?H（Y），?H（XYZ）和I（X；Y）。38.信息論是應(yīng)用近代數(shù)理統(tǒng)計(jì)方法研究信息的傳輸、存儲(chǔ)與處理的科學(xué)，故稱為（）；1948年香農(nóng)在貝爾雜志上發(fā)表了兩篇有關(guān)的“通信的數(shù)學(xué)理論”文章，該文用熵對(duì)信源的（）的度量，同時(shí)也是衡量（）大小的一個(gè)尺度；表現(xiàn)在通信領(lǐng)域里，發(fā)送端發(fā)送什么有一個(gè)不確定量，通過信道傳輸，接收端收到信息后，對(duì)發(fā)送端發(fā)送什么仍然存在一個(gè)不確定量，把這兩個(gè)不確定量差值用（）來表示，它表現(xiàn)了通信信道流通的（），若把它取最大值，就是通信線路的（），若把它取最小值，就是（）。39.證明一個(gè)離散信源在它的輸出符號(hào)等概率的情況下其熵達(dá)到最大值。40.假定一個(gè)電視每秒鐘顯示30個(gè)畫面，每個(gè)畫面大約有2×105個(gè)像素，每個(gè)像素需要16比特的彩色顯示。假定SNR為25dB，計(jì)算支持電視信號(hào)傳輸所需要的帶寬（利用信息容量定理）41.設(shè)有一個(gè)信源，它產(chǎn)生0、1序列的消息。它在任意時(shí)間而且不論以前發(fā)生過什么符號(hào)，均按P（0）=0.4，P（1）=0.6概率發(fā)出符號(hào)。 （1）試問這個(gè)信源是否平穩(wěn)的？ （2）試計(jì)算 （3）試計(jì)算H(X4)并寫出X4信源中可能有的所有符號(hào)。42.信息率失真理論是量化、數(shù)模轉(zhuǎn)換、頻帶壓縮和（）的理論基礎(chǔ)。43.設(shè)信源 將此信源編碼為r元惟一可譯變長(zhǎng)碼（即碼符號(hào)集X={1，2，r}），其對(duì)應(yīng)的碼長(zhǎng)為（l1，l2，l6）=（1，1，2，3，2，3），求r值的下限。44.一個(gè)DMS只有三個(gè)輸出符號(hào)，它們的概率為{0.5，0.4，0.1}。 （1）給出此信源的霍夫曼碼并確定編碼效率。 （2）每次考慮兩個(gè)符號(hào)時(shí)，給出此信源的霍夫曼碼并確定編碼效率。 （3）每次考慮三個(gè)符號(hào)時(shí)，給出此信源的霍夫曼碼并確定編碼效率。45.簡(jiǎn)述算術(shù)編碼（非分組碼）相關(guān)定義與步驟。46.信道疑義度(含糊度)H(X|Y)47.當(dāng)隨即變量X和Y相互獨(dú)立時(shí)，條件熵等于信源熵。48.一個(gè)平均功率受限制的連續(xù)信道，其通頻帶為1MHZ，信道上存在白色高斯噪聲。 （1）已知信道上的信號(hào)與噪聲的平均功率比值為10，求該信道的信道容量；? （2）信道上的信號(hào)與噪聲的平均功率比值降至5，要達(dá)到相同的信道容量，信道通頻帶應(yīng)為多大？? （3）若信道通頻帶減小為0.5MHZ時(shí)，要保持相同的信道容量，信道上的信號(hào)與噪聲的平均功率比值應(yīng)等于多大？49.（1）一個(gè)電話信道具有帶寬3000Hz，且SNR=20dB，求信道容量。（2）若SNR增加到25dB，求信道容量。50.（）是香農(nóng)信息論最基本最重要的概念51.信息的重要性質(zhì)有哪些？52.糾錯(cuò)碼的檢、糾錯(cuò)能力是指（）。53.n位重復(fù)碼的編碼效率是（）。54.在連續(xù)信源中，根據(jù)差熵、條件差熵和聯(lián)合差熵的定義，證明 （1）h（X|Y）≤h（X），當(dāng)且僅當(dāng)X和Y統(tǒng)計(jì)獨(dú)立時(shí)等號(hào)成立； （2）h（X1X2...XN）≤h（X1）+h（X2）+h（XN），當(dāng)且僅當(dāng)X1X2...XN彼此統(tǒng)計(jì)獨(dú)立時(shí)等式成立。55.離散平穩(wěn)無記憶信源X的N次擴(kuò)展信源的熵等于離散信源X的熵的（）。56.若有三個(gè)離散隨機(jī)變量，有如下關(guān)系：X+Y=Z，其中X和Y相互統(tǒng)計(jì)獨(dú)立，試證明： （1）H（X）≤H（Z），當(dāng)且僅當(dāng)Y是常量時(shí)等式成立； （2）H（Y）≤H（Z），當(dāng)且僅當(dāng)X為常量時(shí)等式成立； （3）H（Z）≤H（XY）≤H（X）+H（Y），當(dāng)且僅當(dāng)X，Y中任意一個(gè)為常量時(shí)等式成立； （4）I（X；Z）=H（Z）?H（Y）； （5）I（XY；Z）=H（Z）； （6）I（X；YZ）=H（X）； （7）I（Y；Z|X）=H（Y）； （8）I（X；Y|Z）=H（X|Z）=H（Y|Z）。57.黑白氣象傳真圖的消息只有黑色和白色兩種，即信源X={黑，白}，設(shè)黑色出現(xiàn)的概率為P（黑）=0.3，白色出現(xiàn)的概率為P（白）=0.7。 （1）假設(shè)圖上黑白消息出現(xiàn)前后沒有關(guān)聯(lián)，求熵H（X）； （2）假設(shè)消息前后有關(guān)聯(lián)，其依賴關(guān)系為P（白|白）=0.9，P（黑|白）=0.1，P（白|黑）=0.2，P（黑|黑）=0.8，求此一階馬爾克夫信源的熵H2。 （3）分別求上述兩種信源的冗余度，并比較H（X）和H2的大小，并說明其物理意義。58.考慮另一個(gè)幾何分布的隨機(jī)變量X，滿足P（Xi）=P（1-P）i-1，i=1，2，3，…，這個(gè)信源的平均自信息H（X）是什么？59.L-D編碼適合于冗余位較多和較少的情況，否則，不但不能壓縮碼率，反而使其擴(kuò)張。60.糾錯(cuò)編碼中，下列哪種措施不能減小差錯(cuò)概率（）。A、增大信道容量B、增大碼長(zhǎng)C、減小碼率D、減小帶寬61.證明I（X，Y）≥0在什么條件下等號(hào)成立？62.簡(jiǎn)述信源熵的基本性質(zhì)與定理及其理解。63.每幀電視圖像可以認(rèn)為是由3×105個(gè)像素組成，所以像素均是獨(dú)立變化，且每一像素又取128個(gè)不同的亮度電平，并設(shè)亮度電平等概率出現(xiàn)。問每幀圖像含有多少信息量？若現(xiàn)有一廣播員在約10000個(gè)漢字的字匯中選1000個(gè)來口述此電視圖像，試問廣播員描述此圖像所廣播的信息量是多少（假設(shè)漢字是等概率分布，并且彼此無依賴）？若要恰當(dāng)?shù)孛枋龃藞D像，廣播員在口述中至少需用多少漢字？64.從平均互信息的表達(dá)式證明，當(dāng)信道和信源都是無記憶時(shí)，有： 65.簡(jiǎn)單介紹哈夫曼編碼的步驟。66.簡(jiǎn)述各種熵（信源熵，條件熵，聯(lián)合熵（共熵）等）的含義及其關(guān)系。67.一個(gè)（6，2）線性分組碼的一致校驗(yàn)矩陣為 （1）求hi，i=1，2，3，4，使該碼的最小碼距dmin≥3。 （2）求該碼的系統(tǒng)碼生成矩陣Gs及其所有4個(gè)碼字。68.設(shè)有一批電阻，按阻值分70%是2kΩ，30%是5kΩ；按功耗分64%是1/8W，其余是1/4W?，F(xiàn)已知2kΩ阻值的電阻中80%是1/8W。問通過測(cè)量阻值可以平均得到的關(guān)于瓦數(shù)的信息量是多少？69.率失真函數(shù)的值與信源的輸入概率無關(guān)。70.N維統(tǒng)計(jì)獨(dú)立均勻分布連續(xù)信源的熵是N維區(qū)域體積的對(duì)數(shù)。71.N維連續(xù)型隨機(jī)序列X1X2...XN，其各分量幅度分別受限為[ai，bi]。證明：當(dāng)隨機(jī)序列的分量各自達(dá)到均勻分布并彼此統(tǒng)計(jì)獨(dú)立時(shí)熵最大。最大熵為： 72.居住某地區(qū)的女孩子有25%是大學(xué)生，在女大學(xué)生中有75%是身高160厘米以上的，而女孩子中身高160厘米以上的占總數(shù)的一半。假如我們得知“身高160厘米以上的某女孩是大學(xué)生”的消息，問獲得多少信息量？73.一維高斯分布的連續(xù)信源，其信源熵只與其均值和方差有關(guān)。74.L-D編碼適合于冗余位（）的情況。75.BSC信道即：（）。76.設(shè)某彩電系統(tǒng)，除了滿足對(duì)于黑白電視系統(tǒng)的上述要求外，還必須有30個(gè)不同的色彩度。試證明傳輸這種彩電系統(tǒng)的信息率要比黑白系統(tǒng)的信息率大2.5倍左右。77.設(shè)有一個(gè)離散無記憶平穩(wěn)信道，其信道容量為C，只要待傳送的信息傳輸率R（）C（大于、小于或者等于），則存在一種編碼，當(dāng)輸入序列長(zhǎng)度n足夠大，使譯碼錯(cuò)誤概率任意小。78.率失真函數(shù)對(duì)允許的平均失真度是（）。79.計(jì)算概率分布函數(shù)為的均勻分布隨機(jī)變量X的微分熵H（X）。畫出H（X）相對(duì)于參數(shù)a（0.1〈a〈10）的平面圖，并對(duì)結(jié)果進(jìn)行評(píng)論。80.按照信源發(fā)出的消息在時(shí)間和幅度上的分布情況，可將信源分成（）信源和（）信源兩大類。81.簡(jiǎn)述自信息的性質(zhì)。82.設(shè)二元對(duì)稱信道的傳遞矩陣為 （1）若P（0）=3/4，?P（1）=1/4，求H（X），H（X/Y），H（Y/X）和I（X；Y）；? （2）求該信道的信道容量及其達(dá)到信道容量時(shí)的輸入概率分布。83.二進(jìn)制通信系統(tǒng)使用符號(hào)0和1，由于存在失真，傳輸時(shí)會(huì)產(chǎn)生誤碼，用符號(hào)表示下列事件，u0：一個(gè)0發(fā)出u1：一個(gè)1發(fā)出v0：一個(gè)0收到v1：一個(gè)1收到則已知收到的符號(hào)，被告知發(fā)出的符號(hào)能得到的信息量是（）。A、H（U/V）

B、H（V/U）

C、H（U，V）

D、H（UV）84.求圖中信道的信道容量及其最佳的輸入概率分布，并求當(dāng)e=0和1/2時(shí)的信道容量C的大小。 85.設(shè)信源求此信源的熵，并解釋為什么H（X）>log6，不滿足信源熵的極值性。86.若某無記憶信源，接收符號(hào)，其失真矩陣為，求信源的最大失真度和最小平均失真度，并求選擇何種信道可達(dá)到該Dmax和Dmin的失真度。87.在圖片傳輸中，每幀約2.25×106個(gè)像素，為了能很好地重現(xiàn)圖像，需分16個(gè)亮度電平，并假設(shè)亮度電平等概率分布。試計(jì)算每秒鐘傳送30幀圖片所需信道的帶寬（信噪功率比為30dB）。88.簡(jiǎn)述幾種信息分類的準(zhǔn)則和方法。89.信息的主要特征有哪些？90.請(qǐng)給出失真函數(shù)、平均失真度、保真度準(zhǔn)則、信息率失真函數(shù)的定義。91.信道一般指?jìng)鬏斝畔⒌奈锢砻浇?，分為（）信道和（）信道?2.寫出香農(nóng)公式，并說明其物理意義。當(dāng)信道帶寬為5000Hz，信噪比為30dB時(shí)求信道容量。93.保密系統(tǒng)的密鑰量越小，密鑰熵H（K）就越（），其密文中含有的關(guān)于明文的信息量I（M；C）就越（）。94.已知用戶A的RSA公開密鑰（e，n）=（3，55），，則（），他的秘密密鑰（d，n）＝（27，55）。若用戶B向用戶A發(fā)送m=2的加密消息，則該加密后的消息為（）。95.在圖片傳輸中，每幀約有2.25×106個(gè)像素，為了能很好的重現(xiàn)圖像，需分16個(gè)量度電平，并假設(shè)量度電平等概率分布，試計(jì)算每分鐘傳輸一幀圖片所需信道的帶寬（信噪功率比為30dB）.96.有一個(gè)一階平穩(wěn)馬爾可夫鏈X1，X2，……Xr……，各Xr取值于集合A={a1，a2，a3}。已知起始概率p（Xr）為p1=1/2，p2=p3=1/4，轉(zhuǎn)移概率如下。 （1）求（X1，X2，X3）的聯(lián)合熵和平均符號(hào)熵。 （2）求這個(gè)鏈的極限平均符號(hào)熵。 （3）求H0，H1，H2和它們所對(duì)應(yīng)的冗余度。97.解釋無失真變長(zhǎng)信源編碼定理。98.通信系統(tǒng)的性能指標(biāo)有哪些？99.多用戶信道的信道容量不能用一個(gè)數(shù)來代表。100.考慮GF（11）上具有下列奇偶校驗(yàn)矩陣的碼，證明該碼糾三個(gè)錯(cuò)誤的碼。第I卷參考答案一.參考題庫1.參考答案：有效；可靠；安全2.參考答案： 無失真信源編碼，編碼后盡可能等概率分布，使每個(gè)碼元平均信息量最大。從而使信道信息傳輸率R達(dá)到信道容量C，實(shí)現(xiàn)信源與信道理想的統(tǒng)計(jì)匹配。3.參考答案： 4.參考答案： （1）是平穩(wěn)信源。 （2）信源熵H（X）=-0.4log20.4-0.6log20.6=0.971比特/信源符號(hào)，H（X2）=2H（X）=1.942比特/信源符號(hào)，由題設(shè)知道這個(gè)信源是無記憶信源，因此條件熵和極限熵都等于信源熵。 （3）H（X4）=4×0.971=3.884比特/信源符號(hào)， X4信源中可能的符號(hào)共16個(gè)。5.參考答案：6.參考答案： 7.參考答案： 8.參考答案：比特、奈特和哈特9.參考答案：310.參考答案：11.參考答案：存在12.參考答案：13.參考答案： 14.參考答案： 證明： 繪制圖形說明如下，可以很明確說明上述不等式的正確性。 15.參考答案： 16.參考答案： 17.參考答案：18.參考答案：正確19.參考答案：N20.參考答案： 21.參考答案：信源；信道；加密22.參考答案：B23.參考答案： 24.參考答案：正確25.參考答案：D26.參考答案：B27.參考答案： 28.參考答案：A29.參考答案：最小值30.參考答案： 同理，可證得n=23時(shí)，同樣滿足（1）式。 故可證明當(dāng)n=7或n=23時(shí)，C是二元完備碼。31.參考答案：32.參考答案：錯(cuò)誤33.參考答案：檢、糾錯(cuò)編碼34.參考答案： 35.參考答案：作為譯碼估值36.參考答案：37.參考答案：38.參考答案：3;4;5;6;7;8;939.參考答案： 若二元離散信源的統(tǒng)計(jì)特性為 P=Q=1，H（X）=-[P*log（P）+（1-P）*log（1-P）] 對(duì)H（X）求導(dǎo)求極值，由dH（X）/d（P）=0可得 可知當(dāng)概率P=Q=1/2時(shí)，有信源熵 對(duì)于三元離散信源，當(dāng)概率時(shí)，信源熵 此結(jié)論可以推廣到N元的離散信源。40.參考答案： 根據(jù)題意，該電視信號(hào)所需的信息容量為： 41.參考答案：42.參考答案：數(shù)據(jù)壓縮43.參考答案： 44.參考答案： （1）本題的霍夫曼編碼如下圖所示： （2）把符號(hào)每?jī)蓚€(gè)分一組，重新應(yīng)用霍夫曼編碼算法，如下表所示： （3）依題意，把符合每三個(gè)分成一組，再重新應(yīng)用霍夫曼編碼算法，得： 45.參考答案：46.參考答案： 表示在輸出端接收到Y(jié)后，發(fā)送端X尚存的平均不確定性。這個(gè)對(duì)X尚存的不確定性是由于干擾引起的。47.參考答案：正確48.參考答案：49.參考答案： 50.參考答案：熵51.參考答案： 可靠性、保密性、有效性、認(rèn)證性52.參考答案：檢測(cè)、糾正錯(cuò)誤碼元的數(shù)目53.參考答案：1/n54.參考答案： 55.參考答案：N倍56.參考答案： 57.參考答案： 58.參考答案： 59.參考答案：正確60.參考答案：D61.參考答案： 當(dāng)和相互獨(dú)立時(shí)等號(hào)成立。62.參考答案：63.參考答案： 64.參考答案： 65.參考答案： ①將信源消息符號(hào)按其出現(xiàn)的概率大小依次排列 p（x1）≥p（x2）≥…≥p（xn） ②取兩個(gè)概率最小的符號(hào)分別配以0和1，并將這兩個(gè)概率相加作為