高光譜特征選擇課件

1、第2節(jié) 高光譜特征選擇 武漢大學(xué)遙感信息工程學(xué)院 龔 龑高光譜遙感第四章 高光譜數(shù)據(jù)處理1一、高光譜特征選擇概述二、基于可分性準(zhǔn)則的波段選擇三、基于光譜特征位置的波段選擇四、高光譜波段選擇方法實(shí)例第四章 第2節(jié) 高光譜特征選擇2 通過對數(shù)據(jù)的評價(jià)，從若干個(gè)特征（波段）中挑選出用于高光譜遙感影像分析（分類）的有限個(gè)特征（波段）。一、高光譜特征選擇概述1.1特征選擇概念3目視法數(shù)值法通過目視判讀衡量影像質(zhì)量通過定量評估衡量影像質(zhì)量1.2特征選擇類型 基于可分性準(zhǔn)則的波段選擇 基于光譜特征位置搜索的波段選擇基于統(tǒng)計(jì)計(jì)算，從分類角度出發(fā)基于特定地物，從波譜空間出發(fā)一、高光譜特征選擇概述4一、高光譜特征

2、選擇概述二、基于可分性準(zhǔn)則的波段選擇三、基于光譜特征位置的波段選擇四、高光譜波段選擇方法實(shí)例第四章 第2節(jié) 高光譜特征選擇5 從所有波段中選擇一個(gè)波段子集，由該子集構(gòu)成特征空間，在該特征空間中，各類別的光譜可分性在某一判據(jù)下達(dá)到最優(yōu)。二、基于可分性準(zhǔn)則的波段選擇2.1主要思想6 可分性判據(jù) 類別樣本1.選出波段子集后2.波段子集的產(chǎn)生方式由搜索策略決定2.1主要思想二、基于可分性準(zhǔn)則的波段選擇7窮舉搜索法啟發(fā)式搜索隨機(jī)搜索法2.2特征選擇搜索方法類型二、基于可分性準(zhǔn)則的波段選擇81.窮舉搜索法 通過窮舉搜索，評價(jià)各個(gè)可能的特征子集的性能指標(biāo)，找到其中最優(yōu)的子集。2.2特征選擇搜索方法類型二、基

3、于可分性準(zhǔn)則的波段選擇9方法直接，不會(huì)漏掉任一種可能子集。運(yùn)算量巨大，隨波段數(shù)增多凸顯效率問題。特點(diǎn)2.2特征選擇搜索方法類型1.窮舉搜索法二、基于可分性準(zhǔn)則的波段選擇10 鑒于窮舉法的低效率問題，研究人員提出了啟發(fā)式搜索。前向選擇（Forward Selection）后向選擇（Backward Selection）2.2特征選擇搜索方法類型2.啟發(fā)式搜索二、基于可分性準(zhǔn)則的波段選擇11 前向選擇波段子集待選波段集合 波段子集初始狀態(tài)為空 一次入選一個(gè)波段(該波段在當(dāng)前剩余特征中最能提高可分性)評價(jià)因子（可分性判據(jù)）2.啟發(fā)式搜索2.2特征選擇搜索方法類型二、基于可分性準(zhǔn)則的波段選擇12波段子

4、集被排除的波段集 波段子集初始狀態(tài)包含 所有特征 一次淘汰一個(gè)波段(該波段在當(dāng)前被選中波段中最能降低可分性)評價(jià)因子（可分性判據(jù)） 后向選擇2.啟發(fā)式搜索2.2特征選擇搜索方法類型二、基于可分性準(zhǔn)則的波段選擇13 前向選擇與后向選擇能否一定得到最具可分性的波段子集？2.啟發(fā)式搜索2.2特征選擇搜索方法類型二、基于可分性準(zhǔn)則的波段選擇14 前向選擇與后向選擇均能保證當(dāng)前被選擇波段子集在每一階段最優(yōu)，但面對那些復(fù)雜的、相互影響的波段，卻不能保證所挑選的波段子集是全局最佳。波段子集21234可分性判據(jù)所選波段數(shù)目波段子集12.2特征選擇搜索方法類型2.啟發(fā)式搜索二、基于可分性準(zhǔn)則的波段選擇15 隨機(jī)

5、搜索法采用隨機(jī)的或概率性的步驟或采樣過程。 例如：基于種群的啟發(fā)式搜索技術(shù)（遺傳算法）規(guī)則推理系統(tǒng)2.2特征選擇搜索方法類型3.隨機(jī)搜索法二、基于可分性準(zhǔn)則的波段選擇16 分類器的學(xué)習(xí)算法 分類器在進(jìn)行分類之前，需要利用一定的樣本信息進(jìn)行樣本訓(xùn)練，使其形成分類判斷標(biāo)準(zhǔn)，這一過程也稱分類器的學(xué)習(xí)。樣本1類別屬性特征1 數(shù)值特征2 數(shù)值 特征n 數(shù)值樣本2樣本k 分類器 形成分類標(biāo)準(zhǔn)特征1 數(shù)值特征2 數(shù)值 特征n 數(shù)值類別屬性2.2特征選擇搜索方法類型3.隨機(jī)搜索法二、基于可分性準(zhǔn)則的波段選擇17 濾波器類型和包裝袋類型 根據(jù)特征選擇算法是否獨(dú)立于分類器的學(xué)習(xí)算法，可將其分為兩種：濾波器類型和包

6、裝袋類型。2.2特征選擇搜索方法類型3.隨機(jī)搜索法二、基于可分性準(zhǔn)則的波段選擇18 形成分類標(biāo)準(zhǔn)的同時(shí) 選擇出波段子集先選擇出波段子集， 再形成分類標(biāo)準(zhǔn) 濾波器類型包裝袋類型所有特征特征選擇學(xué)習(xí)算法分類與性能評價(jià)所有特征產(chǎn)生特征子集學(xué)習(xí)算法分類與性能評價(jià)特征學(xué)習(xí)特征評估2.2特征選擇搜索方法類型3.隨機(jī)搜索法二、基于可分性準(zhǔn)則的波段選擇19選擇多類別可分性特征時(shí)，一般有兩個(gè)策略： 選擇各類平均可分性最大的特征 選擇對最難區(qū)分的類別具有最大可分性的特征難以照顧到分布比較集中的類可能會(huì)漏掉對各模式具有最大可分性的特征2.3使用可分性準(zhǔn)則的策略二、基于可分性準(zhǔn)則的波段選擇20 特征選擇概念 特征選擇

7、搜索方法 窮舉搜索法 啟發(fā)式搜索 (前向搜素和后向搜索) 隨機(jī)搜索法使用可分性準(zhǔn)則小結(jié)21一、高光譜特征選擇概述二、基于可分性準(zhǔn)則的波段選擇三、基于光譜特征位置的波段選擇四、高光譜波段選擇方法實(shí)例第四章 第2節(jié) 高光譜特征選擇22 利用光譜位置搜索最常用的方法就是利用地物的波段吸收特性進(jìn)行波段選擇。具有地物波譜特征的先驗(yàn)知識(shí)波段選擇針對特定目的 （生物物理化學(xué)特性分析或特定類別區(qū)分）通常進(jìn)行包絡(luò)線去除三、基于光譜特征位置的波段選擇23包絡(luò)線去除后的光譜曲線圖三、基于光譜特征位置的波段選擇 利用波段吸收特性24一、高光譜特征選擇概述二、基于可分性準(zhǔn)則的波段選擇三、基于光譜特征位置的波段選擇四、高

8、光譜波段選擇方法實(shí)例第四章 第2節(jié) 高光譜特征選擇25聯(lián)合熵第i 波段影像的熵值三個(gè)波段的影像( i1, i2, i3) 的聯(lián)合熵四、高光譜特征選擇方法實(shí)例4.1自動(dòng)子空間劃分法一般來說聯(lián)合熵H( i1, i1, i3) 越大, 圖像所含信息越豐富。 對所有可能的波段組合計(jì)算其聯(lián)合熵, 并按從大到小的順序進(jìn)行排序, 則聯(lián)合熵最大的前面若干個(gè)就是最佳波段組合。26 聯(lián)合熵波段選擇的結(jié)果, 使波段容易聚集在某一連續(xù)的波段間; 由于高光譜遙感數(shù)據(jù)的波段信息之間的強(qiáng)相關(guān)性, 使得多種波段組合方式具有相同的聯(lián)合熵。原因：波段間灰度接近，變化連續(xù)聯(lián)合熵四、高光譜特征選擇方法實(shí)例4.1自動(dòng)子空間劃分法27

9、解決上述問題的思路就是將全部波段劃分為若干個(gè)子空間, 然后再進(jìn)行波段選擇。 將波段劃分為若干子空間的方法很多, 最常見的是將波段按電磁波波長范圍劃分為若干子空間。 然而這種機(jī)械的劃分方法沒有考慮到地物的光譜特征和影像的局部特征, 因而不可取。聯(lián)合熵四、高光譜特征選擇方法實(shí)例4.1自動(dòng)子空間劃分法28 依據(jù)高光譜影像相關(guān)系數(shù)矩陣灰度圖的“成塊”特點(diǎn), 根據(jù)高光譜影像相鄰波段相關(guān)系數(shù)的大小, 把波段劃分為若干個(gè)子空間, 然后分別在各個(gè)子空間內(nèi)利用聯(lián)合熵算法進(jìn)行波段的選擇。自動(dòng)子空間劃分思路四、高光譜特征選擇方法實(shí)例4.1自動(dòng)子空間劃分法29A.數(shù)據(jù)情況 采用OMIS高光譜影像數(shù)據(jù), 波段數(shù)為64

10、個(gè)。要求生成偽彩色圖。四、高光譜特征選擇方法實(shí)例4.1自動(dòng)子空間劃分法 操作實(shí)踐過程B.計(jì)算相關(guān)矩陣 依據(jù)自動(dòng)子空間劃分思想, 計(jì)算高光譜所有波段數(shù)據(jù)之間的相關(guān)矩陣, 該相關(guān)矩陣包含6464個(gè)元素。30 為了更清晰地分析波段間的相互關(guān)系, 把第1 波段與各個(gè)波段間相關(guān)系數(shù)及近鄰波段相關(guān)系數(shù)曲線繪出, 如圖所示, 其中曲線為第1 波段與各個(gè)波段間相關(guān)系數(shù)曲線, 曲線為近鄰波段相關(guān)系數(shù)曲線。四、高光譜特征選擇方法實(shí)例4.1自動(dòng)子空間劃分法 操作實(shí)踐過程31C.子空間劃分 根據(jù)相關(guān)系數(shù)灰度圖的分塊特征, 將所有波段分成四個(gè)子空間: 第空間: 112,第空間: 1322, 第空間: 2356, 第空間

11、: 5764。 4.1自動(dòng)子空間劃分法 操作實(shí)踐過程四、高光譜特征選擇方法實(shí)例 經(jīng)過劃分得到的不同子空間具有不同的維數(shù),在每個(gè)子空間內(nèi)的圖像數(shù)據(jù)具有相近的光譜特性。32D.子空間內(nèi)的波段選擇 在各個(gè)子空間內(nèi), 根據(jù)信息熵大小選出能夠代表該子空間的波段各一個(gè) 第空間: 12 第空間: 20 第空間: 24 第空間: 634.1自動(dòng)子空間劃分法 操作實(shí)踐過程四、高光譜特征選擇方法實(shí)例E.整體波段選擇 對各個(gè)子空間所選出的代表波段, 計(jì)算三個(gè)波段之間的聯(lián)合熵，選出最優(yōu)的波段組合。33全局最優(yōu)和局部最優(yōu)問題混合搜索策略全局搜索階段局部搜索階段四、高光譜特征選擇方法實(shí)例4.2混合隨機(jī)搜索波段選擇 (遺傳

12、算法+局部尋優(yōu))34J2J1?在給定起始位置的條件下，按照某種判據(jù)尋找下一個(gè)更優(yōu)位置4.2混合隨機(jī)搜索波段選擇 局部最優(yōu)和全局最優(yōu)問題四、高光譜特征選擇方法實(shí)例搜索35前向選擇和后向選擇容易陷入局部最優(yōu)值思考：窮舉搜索法會(huì)不會(huì)陷入局部最優(yōu)？局部最優(yōu)：一個(gè)矮山峰的山頂全局最優(yōu)：最高的山峰的山頂對高光譜數(shù)據(jù)來講窮舉搜索法不可取4.2混合隨機(jī)搜索波段選擇 局部最優(yōu)和全局最優(yōu)問題四、高光譜特征選擇方法實(shí)例36找到全局較大值位置P，避免陷入局部極小值在位置P附近，進(jìn)行局部鄰域搜索找到極大值4.2混合隨機(jī)搜索波段選擇 混合搜索策略四、高光譜特征選擇方法實(shí)例a.全局粗略搜索b.局部鄰域搜索全局搜索盡可能涉及

13、更多的波段組合形式局部搜索盡可能細(xì)致的找到極大值位置跨度大跨度小37采用遺傳算法進(jìn)行染色體生物進(jìn)化選擇交叉變異碼串自然選擇過程4.2混合隨機(jī)搜索波段選擇 全局粗略搜索階段四、高光譜特征選擇方法實(shí)例38染色體生物進(jìn)化選擇交叉變異自然選擇過程碼串波段選擇碼串篩選碼串交叉碼串變化波段組合性能評估碼串怎么定義？4.2混合隨機(jī)搜索波段選擇 全局粗略搜索階段四、高光譜特征選擇方法實(shí)例39從n個(gè)波段中，選擇出m個(gè)構(gòu)成波段組合波段選擇的碼串： b=(0,0, 1,0, 1,1,1,0,0) b中有n各分量，其中m個(gè)為1，n-m個(gè)為0 為1，表示該波段被選擇 為0，表示該波段被舍棄波段選擇問題轉(zhuǎn)化為最佳碼串求取

14、問題4.2混合隨機(jī)搜索波段選擇 全局粗略搜索階段四、高光譜特征選擇方法實(shí)例40隨機(jī)選擇若干個(gè)（20-100）碼串，構(gòu)成碼串集合B =b1,b2,bk利用選擇、交叉算子，迭代更新碼串集合B對碼串集合B中的每個(gè)碼串bi，計(jì)算bi 對應(yīng)的波段組合的性能評估函數(shù)（可分性判據(jù)）J=J1,J2,Jk輸出Jp 最大值對應(yīng)的的碼串bp 得到波段選擇方案全局粗略搜索步驟4.2混合隨機(jī)搜索波段選擇 全局粗略搜索階段四、高光譜特征選擇方法實(shí)例41 對全局搜索結(jié)果碼串 bp = (0, 0,1,0,1, 1 )進(jìn)行鄰域搜索。如何體現(xiàn)鄰域？已到達(dá)需要爬的山腳下，如何爬山？四、高光譜特征選擇方法實(shí)例4.2混合隨機(jī)搜索波段選擇 局部搜索階段424.2混合隨機(jī)搜索波段選擇 局部搜索階段四、高光譜特征選擇方法實(shí)例 每一次調(diào)換碼串 bp = (0, 0,1,0,1, 1 )中的一對分量，即0變1，1變0，計(jì)算變換后的波段類別可分性判據(jù)。 共有m(n-m)種可能 碼串空間的鄰域 可分性判據(jù)最大的碼串即對應(yīng)最佳波段組合43 流程四、高光譜特征選擇方法實(shí)例4.2混合隨機(jī)搜索波