大學(xué)試題(計(jì)算機(jī)科學(xué))-信息論與編碼筆試（2018-2023年）真題摘選含答案

長(zhǎng)風(fēng)破浪會(huì)有時(shí)，直掛云帆濟(jì)滄海。大學(xué)試題(計(jì)算機(jī)科學(xué))-信息論與編碼筆試（2018-2023年）真題摘選含答案（圖片大小可自由調(diào)整）卷I一.參考題庫(kù)(共30題)1.率失真函數(shù)沒(méi)有最大值。2.有一信源發(fā)出恒定寬度，但不同幅度的脈沖，幅度值處在a1和a2之間，此信源連至某信道，信道接收端接收脈沖的幅度y處在b1和b2之間。已知隨機(jī)變量X和Y的聯(lián)合概率密度函數(shù)： 試計(jì)算h（X），h（Y），h（XY）和I（X；Y）。3.簡(jiǎn)述平均互信息量的性質(zhì)及理解。4.假設(shè)每個(gè)消息的發(fā)出都是等概率的，四進(jìn)制脈沖所含信息量是二進(jìn)制脈沖的（）倍。5.現(xiàn)有一幅已離散量化后的圖像，圖像的灰度量化分成8級(jí)，見(jiàn)下表。表中數(shù)字為相應(yīng)像素上的灰度級(jí)。 另有一無(wú)損無(wú)噪二元信道，單位時(shí)間（秒）內(nèi)傳輸100個(gè)二元符號(hào)。 （1）現(xiàn)將圖像通過(guò)給定的信道傳輸，不考慮圖像的任何統(tǒng)計(jì)特性，并采用二元等長(zhǎng)碼，問(wèn)需要多長(zhǎng)時(shí)間才能傳完這幅圖像？ （2）若考慮圖像的統(tǒng)計(jì)特性（不考慮圖像的像素之間的依賴性），求此圖像的信源熵H（S），并對(duì)灰度級(jí)進(jìn)行霍夫曼最佳二元編碼，問(wèn)平均每個(gè)像素需用多少二元碼符號(hào)來(lái)表示？這時(shí)需多少時(shí)間才能傳送完這幅圖像？ （3）從理論上簡(jiǎn)要說(shuō)明這幅圖像還可以壓縮，而且平均每個(gè)像素所需的二元碼符號(hào)數(shù)可以小于H（S）比特。6.某氣象員報(bào)告氣象狀態(tài)，有四種可能的消息：晴、去、雨和霧。若每個(gè)消息是等概率的，那么發(fā)送每個(gè)消息最少所需的二元脈沖數(shù)是多少？又若四個(gè)消息出現(xiàn)的概率分別為問(wèn)在此情況下消息所需的二元脈沖數(shù)是多少？如何編碼？7.二進(jìn)制通信系統(tǒng)使用符號(hào)0和1，由于存在失真，傳輸時(shí)會(huì)產(chǎn)生誤碼，用符號(hào)表示下列事件，u0：一個(gè)0發(fā)出u1：一個(gè)1發(fā)出v0：一個(gè)0收到v1：一個(gè)1收到則已知收到的符號(hào)，被告知發(fā)出的符號(hào)能得到的信息量是（）。A、H（U/V）

B、H（V/U）

C、H（U，V）

D、H（UV）8.信道散布度9.率失真函數(shù)的最小值是0。10.常用的檢糾錯(cuò)方法有（）、反饋重發(fā)和混合糾錯(cuò)三種。11.每幀電視圖像可以認(rèn)為是由3×105個(gè)像素組成，所以像素均是獨(dú)立變化，且每一像素又取128個(gè)不同的亮度電平，并設(shè)亮度電平等概率出現(xiàn)。問(wèn)每幀圖像含有多少信息量？若現(xiàn)有一廣播員在約10000個(gè)漢字的字匯中選1000個(gè)來(lái)口述此電視圖像，試問(wèn)廣播員描述此圖像所廣播的信息量是多少（假設(shè)漢字是等概率分布，并且彼此無(wú)依賴）？若要恰當(dāng)?shù)孛枋龃藞D像，廣播員在口述中至少需用多少漢字？12.信息論是應(yīng)用近代數(shù)理統(tǒng)計(jì)方法研究信息的傳輸、存儲(chǔ)與處理的科學(xué)，故稱為（）；1948年香農(nóng)在貝爾雜志上發(fā)表了兩篇有關(guān)的“通信的數(shù)學(xué)理論”文章，該文用熵對(duì)信源的（）的度量，同時(shí)也是衡量（）大小的一個(gè)尺度；表現(xiàn)在通信領(lǐng)域里，發(fā)送端發(fā)送什么有一個(gè)不確定量，通過(guò)信道傳輸，接收端收到信息后，對(duì)發(fā)送端發(fā)送什么仍然存在一個(gè)不確定量，把這兩個(gè)不確定量差值用（）來(lái)表示，它表現(xiàn)了通信信道流通的（），若把它取最大值，就是通信線路的（），若把它取最小值，就是（）。13.簡(jiǎn)述信源的符號(hào)之間的依賴與信源冗余度的關(guān)系。14.離散平穩(wěn)有記憶信源符號(hào)序列的平均符號(hào)熵隨著序列長(zhǎng)度L的增大而增大。15.簡(jiǎn)述費(fèi)諾編碼的編碼步驟。16.糾錯(cuò)編碼中，下列哪種措施不能減小差錯(cuò)概率（）。A、增大信道容量B、增大碼長(zhǎng)C、減小碼率D、減小帶寬17.對(duì)于具有歸并性能的無(wú)燥信道，當(dāng)信源等概率分布時(shí)（p（xi）=1/n），達(dá)到信道容量。18.考慮GF（2）上的下列生成矩陣 用此矩陣生成所有可能的碼字。19.按照不同的編碼目的，編碼可以分為三類：分別是（）、（）和（）。20.假設(shè)是一個(gè)二元碼，它的奇偶校驗(yàn)矩陣為H。證明由C通過(guò)添加整體奇偶校驗(yàn)比特得到的擴(kuò)展碼C1的奇偶校驗(yàn)矩陣為 21.率失真函數(shù)的下限為（）。A、H（U）B、0C、I（U；V）D、沒(méi)有下限22.信源與信道達(dá)到匹配的含義以及如何實(shí)現(xiàn)？信道剩余度的概念及計(jì)算？23.簡(jiǎn)述失真函數(shù)、平均失真度的定義及其含義。24.考慮下圖所示的二元編碼器。 給出該編碼器的生成矩陣G。25.請(qǐng)給出連續(xù)信源分別為均勻分布、高斯分布和指數(shù)分布時(shí)信源的相對(duì)熵。26.生成多項(xiàng)式為的碼在GSM中作檢錯(cuò)和糾錯(cuò)標(biāo)準(zhǔn)。 （1）這個(gè)碼能糾多少個(gè)隨機(jī)錯(cuò)誤？ （2）這個(gè)碼能糾多少個(gè)突發(fā)錯(cuò)誤？27.連續(xù)信源和離散信源都具有可加性。28.已知（8，5）線性分組碼的生成矩陣為 （1）證明該碼為循環(huán)碼； （2）求該碼的生成多項(xiàng)式g（x），一致校驗(yàn)多項(xiàng)式h（x）和最小碼距d。29.簡(jiǎn)述幾種信息分類的準(zhǔn)則和方法。30.設(shè)C={000000，001011，010110，011101，100111，101100，110001，111010}是一個(gè)二元線性分組碼，則該碼最多能檢測(cè)出3個(gè)隨機(jī)錯(cuò)誤。卷I參考答案一.參考題庫(kù)1.參考答案:錯(cuò)誤2.參考答案: 3.參考答案:4.參考答案:25.參考答案: 6.參考答案: 7.參考答案:A8.參考答案: 表示在已知X后，對(duì)于輸出Y尚存的平均不確定性；9.參考答案:正確10.參考答案:前向糾錯(cuò)11.參考答案: 12.參考答案:3;4;5;6;7;8;913.參考答案: 當(dāng)信源的符號(hào)之間有依賴時(shí)，信源輸出消息的不確定性減弱。而信源冗余度正是反映信源符號(hào)依賴關(guān)系的強(qiáng)弱，冗余度越大，依賴關(guān)系就越大。14.參考答案:錯(cuò)誤15.參考答案: 費(fèi)諾編碼的步驟： 1）信源符號(hào)以概率遞減的次序排列起來(lái)； 2）將排列好的信源符號(hào)按概率值劃分成兩大組，使每組的概率之和接近于相等，并對(duì)每組各賦予一個(gè)二元碼符號(hào)“0”和“1”； 3）將每一大組的信源符號(hào)再分成兩組，使劃分后的兩個(gè)組的概率之和接近于相等，再分別賦予一個(gè)二元碼符號(hào)； 4）依次下去，直至每個(gè)小組只剩一個(gè)信源符號(hào)為止 5）信源符號(hào)所對(duì)應(yīng)的碼字即為費(fèi)諾碼。16.參考答案:D17.參考答案:錯(cuò)誤18.參考答案: 此矩陣生成的碼為：{00000，01010，10011，11001，10100，11110，00111，01101}19.參考答案:信源編碼;信道編碼;安全編碼20.參考答案: 根據(jù)題意，擴(kuò)展碼C1為： 即擴(kuò)展碼C1的奇偶校驗(yàn)矩陣為Hi。 證畢。21.參考答案:B22.參考答案:23.參考答案:24.參考答案: 由圖可知： 故該編碼器的生成矩陣G為； 將5個(gè)矩陣代入矩陣G中既可。25.參考答案: 26.參考答案: 又經(jīng)過(guò)嘗試我們得到分組長(zhǎng)度是滿足g（x）且能整除x23-1的最小整數(shù)，n=75， 可以糾的突發(fā)錯(cuò)誤最多為t=12個(gè)；能糾的隨機(jī)錯(cuò)誤為x=5個(gè)。27.參考答案:正確28.參考答案: （1）生成矩陣作初等行變換：第5行加到第4行，第4行加到第3行，第3行加到第2行，第2行和第5行加到第1行。得 （2）生成多項(xiàng)式為，一致校驗(yàn)多項(xiàng)式為 一致校驗(yàn)矩陣為 該矩陣的任意1列線性無(wú)關(guān)，但存在某2列線性相關(guān)，故最小碼距為2。29.參考答案: 狹義信息論、一般信息論、廣義信息論30.參考答案:錯(cuò)誤卷II一.參考題庫(kù)(共30題)1.平均失真度2.考慮下圖所示的Z型信道。 （1）求獲得信道容量所需要的輸入概率。 （2）若將N個(gè)這樣的信道相級(jí)聯(lián)，證明聯(lián)合信道可以用一個(gè)信道轉(zhuǎn)移概率為pN的等價(jià)Z信道表示。 （3）當(dāng)N→∞時(shí)聯(lián)合信道的容量是什么？ 3.設(shè)多項(xiàng)式 為GF（2）上分組長(zhǎng)度為15的一個(gè)循環(huán)碼的生成多項(xiàng)式。試求奇偶校驗(yàn)矩陣H。4.請(qǐng)給出失真函數(shù)、平均失真度、保真度準(zhǔn)則、信息率失真函數(shù)的定義。5.信源的消息通過(guò)信道傳輸后的誤差或失真越大道傳輸消息所需的信息率（）。6.簡(jiǎn)述連續(xù)信源的熵的定義。7.簡(jiǎn)述馬爾可夫信源的定義及其極限熵。8.（）是香農(nóng)信息論最基本最重要的概念9.若分組碼H陣列列線性無(wú)關(guān)數(shù)為n，則糾錯(cuò)碼的最小距離dmin為（）。10.構(gòu)造C={00000，10101，01010，11111}的生成矩陣。因?yàn)檫@個(gè)G不是唯一的，給出另一個(gè)能生成這個(gè)碼字集合的生成矩陣。11.兩個(gè)實(shí)驗(yàn)X和Y，X={x1x2x3}，Y={y1y2y3}，l聯(lián)合概率為。 （1）如果有人告訴你X和Y的實(shí)驗(yàn)結(jié)果，你得到的平均信息量是多少？? （2）如果有人告訴你Y的實(shí)驗(yàn)結(jié)果，你得到的平均信息量是多少？? （3）在已知Y實(shí)驗(yàn)結(jié)果的情況下，告訴你X的實(shí)驗(yàn)結(jié)果，你得到的平均信息量是多少？12.設(shè)有一離散信道，其信道傳遞矩陣為 并設(shè)試分別按最小錯(cuò)誤概率準(zhǔn)則與最大似然譯碼準(zhǔn)則確定譯碼規(guī)則，并計(jì)算相應(yīng)的平均錯(cuò)誤概率。13.糾錯(cuò)碼的檢、糾錯(cuò)能力是指（）。14.同時(shí)擲出兩個(gè)正常的骰子，也就是各面呈現(xiàn)的概率都為1/6，求：? （1）“3和5同時(shí)出現(xiàn)”這事件的自信息；? （2）“兩個(gè)1同時(shí)出現(xiàn)”這事件的自信息；? （3）兩個(gè)點(diǎn)數(shù)的各種組合（無(wú)序）對(duì)的熵和平均信息量；? （4）兩個(gè)點(diǎn)數(shù)之和（即2，?3，?…?，?12構(gòu)成的子集）的熵；? （5）兩個(gè)點(diǎn)數(shù)中至少有一個(gè)是1的自信息量。15.設(shè)信源求此信源的熵，并解釋為什么H（X）>log6，不滿足信源熵的極值性。16.什么是限失真信源編碼？17.一副充分洗亂了的牌（含52張牌），試問(wèn) （1）任一特定排列所給出的信息量是多少？ （2）若從中抽取13張牌，所給出的點(diǎn)數(shù)都不相同，能得到多少信息量？18.平穩(wěn)信源19.如果所有碼字都配置在二進(jìn)制碼樹(shù)的葉節(jié)點(diǎn)，則該碼字為（）碼。20.用rH來(lái)表示二元漢明碼的碼率，求。21.一副充分洗亂了的牌（含52張牌），試問(wèn)（1）任一特定排列所給出的信息量是多少？（2）若從中抽取13張牌，所給出的點(diǎn)數(shù)都不相同能得到多少信息量？22.無(wú)記憶信道23.設(shè)二元霍夫曼碼為（00，01，10，11）和（0，10，110，111），求出可以編得這樣霍夫曼碼的信源的所有概率分布。24.在圖片傳輸中，每幀約2.25×106個(gè)像素，為了能很好地重現(xiàn)圖像，需分16個(gè)亮度電平，并假設(shè)亮度電平等概率分布。試計(jì)算每秒鐘傳送30幀圖片所需信道的帶寬（信噪功率比為30dB）。25.對(duì)于離散無(wú)記憶強(qiáng)對(duì)稱信道，信道矩陣為： 試證明對(duì)于此信道，最小距離譯碼準(zhǔn)則等價(jià)于最大似然譯碼準(zhǔn)則。26.一個(gè)隨即變量x的概率密度函數(shù)P（x）=x/2，，則信源的相對(duì)熵為（）。A、0.5bit

B、0.72bit

C、1bit

D、1.44bit27.消息（或稱為符號(hào)）28.設(shè)兩連續(xù)隨機(jī)變量X和Y，它們的聯(lián)合概率密度是均值為零，協(xié)方差矩陣為C的正態(tài)分布，，在下列幾種情況下，計(jì)算I(X;Y)： （1）ρ＝1； （2）ρ＝0； （3）ρ＝－1。29.信源編碼30.簡(jiǎn)述游程編碼相關(guān)定義與步驟。卷II參考答案一.參考題庫(kù)1.參考答案: 定義平均失真度為失真函數(shù)的數(shù)學(xué)期望，及d（xi，yi）在X和Y得聯(lián)合概率空間P（XY）中的統(tǒng)計(jì)平均值：D=E[D（xi，yi）]，起是在平均的意義上，從總體上對(duì)整個(gè)系統(tǒng)失真情況的描述。2.參考答案: 級(jí)聯(lián)信道的信道容量為每一次使用該信道時(shí)的最大平均互信息。其中最大值是在所有可能的輸入概率上求得的即： 3.參考答案: 由于已知分組長(zhǎng)度為15，設(shè)奇偶校驗(yàn)多項(xiàng)式為h（x），則有： 其中，上式為取模運(yùn)算。 故，對(duì)應(yīng)的奇偶校驗(yàn)矩陣為： 4.參考答案: 5.參考答案:也越小6.參考答案:連續(xù)信源的不確定度應(yīng)為無(wú)窮大，是相對(duì)熵，或叫差熵。在取兩熵之間的差時(shí)才具有信息的所有特性。7.參考答案:8.參考答案:熵9.參考答案:1010.參考答案: 11.參考答案:12.參考答案: 13.參考答案:檢測(cè)、糾正錯(cuò)誤碼元的數(shù)目14.參考答案:15.參考答案: 16.參考答案: 有失真信源編碼的中心任務(wù)：在允許的失真范圍內(nèi)把編碼的信息率壓縮到最小。17.參考答案: （1）log252 （2）任取13張，各點(diǎn)數(shù)不同的概率為，信息量：9.4793（比特/符號(hào)）18.參考答案: 概率分布函數(shù)與時(shí)間起點(diǎn)無(wú)關(guān)，平穩(wěn)信源是有記憶的，記憶的長(zhǎng)度有限。19.參考答案:唯一可譯20.參考答案: 根據(jù)二元漢明碼的性質(zhì)可知： 其中m是任意正整數(shù)。 則由碼率的定義可知： 21.參考答案: 22.參考答案: 在某一時(shí)刻信道的輸出消息僅與當(dāng)時(shí)的信道輸入消息有關(guān)，而與前面時(shí)刻的信