實(shí)驗(yàn)-信息論相關(guān)實(shí)驗(yàn)報(bào)告

1、.wd.wd.wd.信息論與編碼實(shí)驗(yàn)一實(shí)驗(yàn)報(bào)告學(xué)生姓名 周群創(chuàng)指導(dǎo)教師 張祖平學(xué)號0909110814專業(yè)班級 電子信息1101實(shí)驗(yàn)一關(guān)于信源熵的實(shí)驗(yàn)一、實(shí)驗(yàn)?zāi)康?. 掌握離散信源熵的原理和計(jì)算方法。2. 熟悉matlab 軟件的 基本操作，練習(xí)使用matlab 求解信源的信息熵。3. 自學(xué)圖像熵的相關(guān)概念，并應(yīng)用所學(xué)知識，使用matlab 或其他開發(fā)工具求解圖像熵。4. 掌握Excel 的繪圖功能，使用Excel 繪制散點(diǎn)圖、直方圖。二、實(shí)驗(yàn)原理1. 離散信源相關(guān)的 基本概念、原理和計(jì)算公式產(chǎn)生離散信息的信源稱為離散信源。離散信源只能產(chǎn)生有限種符號。隨機(jī)事件的自信息量Ixi為其對應(yīng)的隨機(jī)變量

2、xi 出現(xiàn)概率對數(shù)的負(fù)值。即：Ixi= -log2 p(xi)隨機(jī)事件X 的平均不確定度信源熵HX為離散隨機(jī)變量xi 出現(xiàn)概率的數(shù)學(xué)期望，即：H(X )=-p(x )I (x ) =-p(x ) log p(x )2. 二元信源的信息熵設(shè)信源符號集X=0，1，每個(gè)符號發(fā)生的概率分別為p(0)=p，p(1)=q，p+ q=1，即信源的概率空間為那么該二元信源的信源熵為：H(X) = - p log p q log q = - p log p (1- p) log (1- p)即：H (p) = - p log p (1- p) log (1- p) 其中 0 p 13. MATLAB 二維繪圖用

3、matlab 中的命令plot(x, y)就可以自動(dòng)繪制出二維圖來。例1-2，在matlab 上繪制余弦曲線圖，y = cos x，其中0 x 2。x=0:0.1:2*pi； %生成橫坐標(biāo)向量，使其為0，0.1，0.2，6.2y=cos(x)； %計(jì)算余弦向量plot(x,y) %繪制圖形4. MATLAB 求解離散信源熵求解信息熵過程：1) 輸入一個(gè)離散信源，并檢查該信源是否是完備集。2) 去除信源中符號分布概率為零的元素。3) 根據(jù)平均信息量公式，求出離散信源的熵。5. 圖像熵的相關(guān)知識圖像熵是一種特征的統(tǒng)計(jì)形式，它反映了圖像中平均信息量的多少。圖像的一維熵表示圖像中灰度分布的聚集特征所包

4、含的信息量，令Pi 表示圖像中灰度值為i 的像素所占的比例，那么定義灰度圖像的一元灰度熵為： 圖像熵計(jì)算過程：1) 輸入一幅圖像，并將其轉(zhuǎn)換成灰度圖像。2) 統(tǒng)計(jì)出圖像中每個(gè)灰度階象素概率。3) 計(jì)算出一幅圖像的一維熵。6. Excel 的繪圖功能比方：用Excel 或制作二元熵函數(shù)曲線。具體步驟如下：1啟動(dòng)Excel 應(yīng)用程序。2準(zhǔn)備一組數(shù)據(jù)p。在Excel 的一個(gè)工作表的A 列或其它列輸入一組p，取步長為0.01，從0 至100 產(chǎn)生101 個(gè)p利用Excel 填充功能。3使用Excel 的計(jì)算功能，在B 列中用二元熵函數(shù)計(jì)算公式，求得A 列中各數(shù)值對應(yīng)的二元熵值。比方：在單元格B2 中輸

5、入公式：=-A2*LOG(A2,2)-(1-A2)*LOG(1-A2,2)。4使用Excel 的圖表向?qū)?，圖表類型選“XY 散點(diǎn)圖，子圖表類型選“無數(shù)據(jù)點(diǎn)平滑散點(diǎn)圖，繪制二元熵函數(shù)散點(diǎn)圖。三、實(shí)驗(yàn)內(nèi)容1、使用matlab 軟件繪制二元信源熵函數(shù)曲線，并說明其物理意義。其程序源代碼為：p=0:0.01:1;H=-p.*log2(p)-(1-p).*log2(1-p);plot(p,H);結(jié)果為：因?yàn)樾旁挫乇碚餍旁吹钠骄淮_定度，而由圖表可以看出，當(dāng)二元信源的符號的發(fā)生概率越高或越低時(shí)，信源的不確定性越低，反之，那么不確定性越高。2、使用matlab 軟件求解離散單符號信源熵，請自己構(gòu)造兩個(gè)信源空

6、間，根據(jù)求解結(jié)果說明其物理意義。代碼p=0.1 0.2 0.3 0.4;h=-p.*log2(p);H=sum(h);pH結(jié)果3、使用matlab 軟件計(jì)算圖像一維圖像熵，請自己選擇任意兩幅圖像，根據(jù)求解結(jié)果說明其物理意義。其源代碼程序?yàn)椋篺ilename = e:IMG_20131013_230501.jpg;image1 = imread(filename);subplot(2,1,1); imshow(image1,);subplot(2,1,2); A = rgb2gray(image1); imshow(A,);x,y=size(A);img_size=x*y;H_img=0; B=

7、zeros(256,1); for i=1:xfor j=1:y img_level=A(i,j)+1; B(img_level)=B(img_level)+1; endendfor k=1:256 p(k)=B(k)/img_size if p(k)=0; H_img=-p(k).*log2(p(k)+H_img; endendH_img結(jié)果為：統(tǒng)計(jì)結(jié)果為：p = 0 0 0 0 0 0 0 0 0 0 0 0 0 0.0000 0.0000 0.0000 0.0000 0.0000 0.0001 0.0001 0.0001 0.0001 0.0001 0.0001 0.0001 0.000

8、1 0.0001 0.0001 0.0002 0.0002 0.0002 0.0002 0.0004 0.0008 0.0018 0.0023 0.0034 0.0017 0.0004 0.0003 0.0003 0.0003 0.0003 0.0003 0.0003 0.0003 0.0003 0.0003 0.0002 0.0003 0.0003 0.0003 0.0002 0.0004 0.0003 0.0003 0.0003 0.0003 0.0004 0.0003 0.0004 0.0003 0.0003 0.0003 0.0003 0.0003 0.0004 0.0004 0.00

9、04 0.0005 0.0004 0.0004 0.0004 0.0004 0.0004 0.0005 0.0004 0.0005 0.0005 0.0005 0.0006 0.0005 0.0005 0.0007 0.0006 0.0007 0.0008 0.0012 0.0019 0.0028 0.0037 0.0034 0.0030 0.0033 0.0028 0.0026 0.0023 0.0022 0.0020 0.0021 0.0022 0.0020 0.0021 0.0020 0.0020 0.0022 0.0023 0.0022 0.0025 0.0026 0.0025 0.0

10、027 0.0028 0.0028 0.0030 0.0034 0.0031 0.0029 0.0030 0.0030 0.0032 0.0031 0.0034 0.0031 0.0031 0.0038 0.0040 0.0042 0.0042 0.0042 0.0046 0.0045 0.0047 0.0054 0.0056 0.0066 0.0068 0.0070 0.0074 0.0097 0.0118 0.0183 0.0153 0.0111 0.0091 0.0068 0.0063 0.0054 0.0057 0.0060 0.0058 0.0061 0.0060 0.0061 0.

11、0058 0.0061 0.0066 0.0064 0.0062 0.0067 0.0069 0.0071 0.0069 0.0067 0.0065 0.0073 0.0073 0.0080 0.0079 0.0085 0.0087 0.0089 0.0084 0.0090 0.0075 0.0069 0.0066 0.0067 0.0061 0.0059 0.0061 0.0059 0.0060 0.0058 0.0054 0.0058 0.0053 0.0054 0.0052 0.0058 0.0056 0.0060 0.0060 0.0061 0.0064 0.0067 0.0066 0

12、.0067 0.0074 0.0074 0.0073 0.0075 0.0074 0.0071 0.0073 0.0070 0.0069 0.0073 0.0070 0.0072 0.0074 0.0072 0.0069 0.0069 0.0076 0.0069 0.0074 0.0073 0.0073 0.0072 0.0080 0.0077 0.0080 0.0086 0.0089 0.0094 0.0096 0.0095 0.0102 0.0102 0.0104 0.0116 0.0112 0.0091 0.0088 0.0090 0.0085 0.0081 0.0072 0.0059 0.0051 0.0045 0.0045