《信息論與編碼》實驗指導(dǎo)書-電信20-23級

1、信息工程學(xué)院信息論與編碼實驗指導(dǎo)書（哈爾濱石油學(xué)院-信息工程學(xué)院）endendfor i=p:q-lif i=kB(i,j)=0；END(i)=char(END(i)；01;elseB(i,j)=l；END(i)=char(END(i)； 11;endendendendp=q;endC=B(:,j);D=find(C-l);e,f=size(D);if e=nj=o；elsej=j+l;endendBA10信息論與編碼實驗指導(dǎo)書(哈爾濱石油學(xué)院-信息工程學(xué)院)ENDfor i=l:nu, v=size(char(END(i);L(i)=v;endavlen=sum(L.*A)六、實驗報告要求記

2、錄整理實驗結(jié)果，并對結(jié)果進行分析。七、實驗結(jié)果Command Window0.40000-1. 0000-1.0000-1.0000-1.00000.30001.00000-1.0000-1.0000-1.00000.10001.00001. 000000-1.00000.09001.00001. 000001.0000-1.00000.07001. 00001.00001.00000-1.00000.04001.00001.00001.00001. 0000-1.00000.40000.30000. 10000.09000. 07000.0400END：0, 10, 1100, 1101,m

3、o, miavlen =2. 2000fx 17級電信2妍07號張某某|11信息論與編碼實驗指導(dǎo)書(哈爾濱石油學(xué)院-信息工程學(xué)院)實驗三Huffman編碼的仿真與實現(xiàn)一、實驗?zāi)康?、了解Huffman編碼的基本原理及其特點。2、熟悉掌握Huffman編碼的方法和步驟。3、掌握Mat lab編寫Huffman編碼的程序。二、實驗原理給定某個信源符號的概率分布，通過以下的步驟進行香農(nóng)編碼1、將q個信源符號按概率遞減的方式排列。2、用0、1碼符號分別表示概率最小的兩個信源符號，并將這兩個概率最 小的信源符號合并成一個新的符號，從而的得到的只含qT個符號的新信源， 稱為信源的縮減信源3、將縮減信源中的

4、符號仍按概率大小以遞減次序排列，重復(fù)步驟(2)4、重復(fù)(1) (2) (3)三步驟，直至縮減信源只剩下兩個符號為止，將這最 后兩個符號分別用0、1碼字表示。5、從最后一級縮減信源開始，向前返回，得出各信源符號所對應(yīng)的碼符號 序列，即為對應(yīng)信源符號的碼字。三、實驗設(shè)備與器件1、計算機。2、軟件：Matlabo四、實驗預(yù)習(xí)要求1、Huffman編碼的基本原理。2、Huffman編碼的方法和步驟。五、實驗內(nèi)容及實驗步驟Huffman源程序p=input(fplease input a number:1) % 提示輸入界面 n=length(p);for i=l:nifp(i)0fprintf(n T

5、he sum of the probabilities in huffman can more than 1 !n);p=input(，please input a number:) %如果輸入的概率數(shù)組總和大于1 ,那么重新 輸入概率數(shù)組endq二P；a=zeros(n-l,n); %生成一個n-1行n列的數(shù)組for i=l:n-lq,l=sort(q) %對概率數(shù)組q進行從小至大的排序，并且用1數(shù)組返回一個 數(shù)組，該數(shù)組表示概率數(shù)組q排序前的順序編號a(i,:)=1( 1 :n-i+1 ),zeros( 1 ,i-1)%由數(shù)組1構(gòu)建一個矩陣，該矩陣說明概率合并時的順序，用于后面的編碼q=q

6、(l)+q(2),q(3:n),l; %將排序后的概率數(shù)組q的前兩項，即概率最小的 兩個數(shù)加和，得到新的一組概率序列endfor i=l:n-lc(i, 1 :n*n)=blanks(n*n); %生成一個n-1行n列,并且每個元素的的長度 為n的空白數(shù)組，c矩陣用于進行huffman編碼，并且在編碼中與a矩陣 有一定的對應(yīng)關(guān)系endc(n-l,n0; %由于a矩陣的第n-1行的前兩個元素為進行huffman編碼 加和運算時所得的最c(n-l,2*n)=T; %后兩個概率，因此其值為。或1 ,在編碼時設(shè)第n-1行的第 一個空白字符為0 ,第二個空白字符1。for i=2:n-l13信息論與編碼

7、實驗指導(dǎo)書(哈爾濱石油學(xué)院-信息工程學(xué)院)c(n-i,l:n-l)=c(n-i+1 ,n*(find(a(n-i+1 ,:)= l)-(n-2):n*(find(a(n-i+1 ,:)= 1) % 矩 陣c的第n-i的第一個元素的n-1的字符賦值為對應(yīng)于a矩陣中第n-i+1 行中值為1的位置在c矩陣中的編碼值c(n-i,n)=O %根據(jù)之前的規(guī)那么，在分支的第一個元素最后補0c(n-i,n+l:2*n-l)=c(n-i,l:n-l)% 矩陣 c 的第 n-i 的第二個元素的 n-1 的字符與第n-i行的第一個元素的前n-1個符號相同，因為其根節(jié)點相同c(n-i,2*n)=T %根據(jù)之前的規(guī)那么

8、，在分支的第一個元素最后補1forc(n-i,(j+l)*n+l:(j+2)*n)=c(n-i+l,n*(find(a(n-i+l,:)=j+l)-l)+l:n*find(a(n-i+l,:)= j+1) %矩陣c中第n-i行第j+1列的值等于對應(yīng)于a矩陣中第n-i+1行 中值為j+1的前面一個元素的位置在c矩陣中的編碼值endend %完成huffman碼字的分配for i=l:nh(i, 1:n)=c( 1 ,n*(find(a( 1,:)=i)-1)+1:find(a( 1,:)=i)*n) % 用 h 表示最后的 huffman編碼，矩陣h的第i行的元素對應(yīng)于矩陣c的第一行的第i個元素

9、ll(i)=length(find(abs(h(i,:)-=32) % 計算每一個 huffman 編碼的長度endl=sum(p.*ll); %計算平均碼長fprintf(n huffman code:nf);hhh=sum(p. *(-log2(p);% 計算信源熠fprintf(fn the huffman effciency:n);t=hh/l %計算編碼效率回車后：please input a number: 0,30 0.25 0.20 0.15 0.1014信息論與編碼實驗指導(dǎo)書（哈爾濱石油學(xué)院-信息工程學(xué)院）六、實驗報告要求記錄整理實驗結(jié)果，并對結(jié)果進行分析。七、實驗結(jié)果15信

10、息論與編碼實驗指導(dǎo)書（哈爾濱石油學(xué)院-信息工程學(xué)院）實驗四離散信道及其容量仿真設(shè)計實驗一、實驗?zāi)康?、了解離散信道及其容量基本原理及其特點。2、熟悉掌握離散信道容量的方法和步驟。3、掌握Matlab編寫離散信道容量的程序。二、實驗原理平均互信息表示接收到輸出符號后平均每個符號獲得的關(guān)于輸入變量 X的信息量，也表示輸入與輸出兩個隨機變量之間的統(tǒng)計約束程度。W依例施焉一?8M焉=?（砌唳帶其中X是輸入隨機變量，Y是輸出隨機變量。平均互信息是互信息（即接收到輸出符號y后輸入符號x獲得的信息 量）的統(tǒng)計平均值，所以永遠(yuǎn)不會取負(fù)值。最差情況是平均互信息為零，也 就是在信道輸出端接收到輸出符號Y后不獲得任

11、何關(guān)于輸入符號X的信息 量。對于每一個確定信道，都有一個信源分布，使得信息傳輸率到達(dá)最大值, 我們把這個最大值稱為該信道的信道容量。C =贈/(?)三、實驗設(shè)備與器件1、計算機。2、軟件：Matlabo四、實驗預(yù)習(xí)要求1、離散信道及其容量基本原理。2、離散信道容量的方法和步驟。五、實驗內(nèi)容及實驗步驟clear all,clc;w=0.6;16信息論與編碼實驗指導(dǎo)書（哈爾濱石油學(xué)院-信息工程學(xué)院）wl=l-w;p=0.01;X=0 1;P=0.6 0.4;pl=l-p;save data! p pl;I_XY=(w*p 1 +w 1 *p)*log2( 1 /(w*p 1+w 1 *p)+(w*

12、p+w 1 *p 1 )*log2( 1 /(w*p+w 1 *p 1)- (p*log2( 1 /p)+pl *log2( 1 /pl);C= 1 -(p*log2( 1 /p)+p 1 *log2(l/p 1);fprintf?；バ畔⒘?6.3An信道容量:6.3f,I_XY,C);p=eps:0.001:l-eps;pl=l-p；C= 1 -(p. *log2( 1 ./p)+p 1. *log2( 1 ./p 1);subplot(l ,2,1 ),plot(p,C),xlabel(,p,),ylabel(,C,);load data 1;w=eps:0.001:l-eps;wl=l-

13、w;I_XY=(w.*pl+wl.*p).*k)g2(l./(w.*pl+wl.*p)+(w.*p+wl.*pl).*k)g2(l./(w.*p+wl.*P 1 )-(P *log2( 1 ./p)+p 1 . *log2( 1 ./p 1);subplot( 1,2,2),plot(w J_X Y)xlabel(,w,),ylabel(,I_XY,);六、實驗報告要求記錄整理實驗結(jié)果，并對結(jié)果進行分析。七、實驗結(jié)果17信息論與編碼實驗指導(dǎo)書（哈爾濱石油學(xué)院-信息工程學(xué)院）File Edit View Insert Tools Desktop Window Help!信息論與編碼實驗指導(dǎo)書（哈

14、爾濱石油學(xué)院-信息工程學(xué)院）19信息論與編碼實驗指導(dǎo)書（信息工程學(xué)院）信息論與編碼實驗指導(dǎo)書目錄前S實驗一 實驗二 實驗三 實驗四信源熠值的計算實驗香農(nóng)編碼的Mat lab仿真實現(xiàn)Huffman編碼的仿真與實現(xiàn)離散信道及其容量仿真設(shè)計實驗121216信息論與編碼實驗指導(dǎo)書（信息工程學(xué)院）_XX. -a 刖百信息論與編碼在理論上提出了建立最正確編碼、最正確調(diào)制和最正確接收方 法的最正確系統(tǒng)的理論原那么，它對通信體制和通信系統(tǒng)的研究具有指導(dǎo)意義。提 高信息傳輸?shù)目煽啃院陀行允冀K是通信工作所追求的目標(biāo)。因此，信息論與 編碼是從事通信、電子系統(tǒng)工程的有關(guān)工程技術(shù)人員都必須掌握的基本理論知 識。本課程

15、包括離散信源牖、無失真離散信源編碼、離散信道容量。信息論與 編碼所研究的主要問題是在通信系統(tǒng)設(shè)計中如何提高有效性和可靠性。信息論與編碼是由Shannon奠基的一門數(shù)學(xué)學(xué)科，它產(chǎn)生于有效而可靠 的通信問題中，并獲得了廣泛應(yīng)用。通過本課程的學(xué)習(xí)，使學(xué)生對信息理論有 一個比擬全面和系統(tǒng)的了解，掌握信息論的基本概念和信息論方法，為從事信 息科學(xué)的研究和應(yīng)用打下一個堅實的基礎(chǔ)。知識目標(biāo)：信息論與編碼是信息類專業(yè)一門重要的理論性專業(yè)課，通過本 課程的學(xué)習(xí)，使學(xué)生能掌握有關(guān)信息論的基本理論、編碼的理論和實現(xiàn)原理，理 解信源的燧、熠的性質(zhì)和無失真信源編碼理論、保真度準(zhǔn)那么下的信源編碼定理 以及各種常用的新源編

16、碼方法，為以后開設(shè)的專業(yè)課程打下堅實的基礎(chǔ)。能力目標(biāo)：通過對信息論與編碼課程的學(xué)習(xí)，能夠培養(yǎng)學(xué)生良好的數(shù) 學(xué)基礎(chǔ)和數(shù)學(xué)思維能力，使學(xué)生掌握信息或計算科學(xué)的基本理論、方法與技能； 使學(xué)生能夠利用Mat lab軟件進行二元端、信道容量、信息率失真函數(shù)、實現(xiàn)信 源編碼等實驗，為畢業(yè)后從事本專業(yè)和相關(guān)專業(yè)的工作打下良好的基礎(chǔ)；并且 能為國家培育信息科學(xué)技術(shù)和信息工程領(lǐng)域中的高級理論研究型人才和技術(shù)型 人才。無可置疑，信息論與編碼理論必然是此專業(yè)的必修基礎(chǔ)課之一。素質(zhì)目標(biāo)：通過本課程的學(xué)習(xí)，學(xué)生應(yīng)具有良好的接受新知識、新事物的 意識和創(chuàng)新意識，掌握本專業(yè)及其相關(guān)領(lǐng)域的科學(xué)研究方法；掌握本學(xué)科的基 本理論

17、和技能，具有一定創(chuàng)新意識和能力；具有較強的工程意識，實踐意識和 質(zhì)量意識，具有一定的解決實際工程問題和相關(guān)技術(shù)問題能力。13信息論與編碼實驗指導(dǎo)書(哈爾濱石油學(xué)院-信息工程學(xué)院)實驗一信源炳值的計算實驗一、實驗?zāi)康?、掌握二進制符號燧的計算。2、掌握MATLAB的應(yīng)用。3、掌握Mat lab繪圖函數(shù)。4、掌握、理解端函數(shù)表達(dá)式及其性質(zhì)二、實驗原理1、自信息的計算公式/=log2 一PaMatlab 實現(xiàn)：I=log2(l/p) 或 Ilog2(p)2、嫡(平均自信息)的計算公式(%)=之必。A lo2 AMPi MMatlab 實現(xiàn)：HX=sum(-x.*log2(x)； 或者 h=h-x*l

18、og2(x)；三、實驗設(shè)備與器件1、計算機。2、軟件：Matlabo四、實驗預(yù)習(xí)要求1、自信息的計算方法。2、崎(平均自信息)的計算方法。五、實驗內(nèi)容及實驗步驟1、寫出計算信源端的Matlab程序2、將程序在計算機上仿真實現(xiàn)，驗證程序的正確性并完成仿真。例：甲地天氣預(yù)報構(gòu)成的信源空間為：信息論與編碼實驗指導(dǎo)書(哈爾濱石油學(xué)院-信息工程學(xué)院)大雨小雨11婷8z 了 乙地信源空間為：睛小斷求此兩個信源的燧。求各種天氣的自信息量。答案：運行程序：pl=l/29l/4,l/8J/8;%pl代表甲信源對應(yīng)的概率p2=7/8,l/8;%p2代表乙信源對應(yīng)的概率H1=O.O;H2=0.0;I=;J=;for

19、 i=l:4Hl=Hl+pl(i)*log2(l/pl(i);I(i)=log2(l/pl(i);enddispC自信息量分別為：,);Idisp(Hl信源熠為:)；Hl for j=l:2H2=H2+p2(j)*log2(l/p2(j);J(j)=log2(l/p2(j)；信息論與編碼實驗指導(dǎo)書（哈爾濱石油學(xué)院-信息工程學(xué)院）enddisp（自信息量分別為:）;Jdisp（，H2信源焙為：）；H2六、實驗報告要求記錄整理實驗結(jié)果，并對結(jié)果進行分析。七、實驗結(jié)果信息論與編碼實驗指導(dǎo)書(哈爾濱石油學(xué)院-信息工程學(xué)院)實驗二香農(nóng)編碼的Mat lab仿真實現(xiàn)一、實驗?zāi)康?、了解香農(nóng)編碼的基本原理及其特點。2、熟悉掌握香農(nóng)編碼的方法和步驟。3、掌握Matlab編寫香農(nóng)編碼的程序。二、實驗原理給定某個信源符號的概率分布，通過以下的步驟進行香農(nóng)編碼1、信源符號按概率從大到小排列2、對信源符號求累加概率，表達(dá)式：Gi=Gi-l+p(xi)3、求自信息量，確定碼字長度。自信息量I(xi)=-log(p(xi);碼字長度取大于 等于自信息量的最小整數(shù)。4、將累加概率用二進制表示，并取小數(shù)點后碼字的長度的碼。三、實驗設(shè)備與器件1、計算機。2、軟件：Matlabo四、實驗預(yù)習(xí)要求1、香農(nóng)編碼的基本原理。2、香農(nóng)編碼的方法和步驟。五、實驗內(nèi)容及實驗步驟clc;clear;A=0