五大常用算法

關(guān)于五大常用算法第1頁，課件共22頁，創(chuàng)作于2023年2月五大常用算法

分治法

1

動態(tài)規(guī)劃算法

2

貪心算法

3

分支限界法

5

回溯法

4第2頁，課件共22頁，創(chuàng)作于2023年2月分治法設(shè)計思想：將一個難以直接解決的大問題，分割成一些規(guī)模較小的相同問題，以便各個擊破，分而治之。分治策略：對于一個規(guī)模為n的問題，若該問題可以容易地解決則直接解決，否則將其分解為k個規(guī)模較小的子問題，這些子問題互相獨立且與原問題形式相同，遞歸地解這些子問題，然后將各子問題的解合并得到原問題的解。(分治與遞歸)適用情況：

1)該問題的規(guī)?？s小到一定的程度就可以容易地解決;

2)該問題可以分解為若干個規(guī)模較小的相同問題，即該問題具有最優(yōu)子結(jié)構(gòu)性質(zhì);

3)利用該問題分解出的子問題的解可以合并為該問題的解；

4)該問題所分解出的各個子問題是相互獨立的，即子問題之間不包含公共的子子問題。第3頁，課件共22頁，創(chuàng)作于2023年2月分治法分治法在每一層遞歸上都有三個步驟：

分解：將原問題分解為若干個規(guī)模較小，相互獨立，與原問題形式相同的子問題；解決：若子問題規(guī)模較小而容易被解決則直接解，否則遞歸地解各個子問題

合并：將各個子問題的解合并為原問題的解。分治法的一般設(shè)計模式：

Divide-and-Conquer(P)

1.if|P|≤n0

2.thenreturn(ADHOC(P))

3.將P分解為較小的子問題P1,P2,...,Pk

4.fori←1tok

5.doyi←Divide-and-Conquer(Pi)△遞歸解決Pi

6.T←MERGE(y1,y2,...,yk)△合并子問題

7.return(T)第4頁，課件共22頁，創(chuàng)作于2023年2月分治法分治法在醫(yī)學圖像處理中的應用傳統(tǒng)的中值濾波算法需要對濾波窗口內(nèi)的所有像素進行排序，再依據(jù)排序的結(jié)果選取中值。常用的排序算法有很多（插入排序、交換排序、選擇排序、歸并排序、分配排序），以快速排序為例，其算法的思想是將大問題分解為若干個規(guī)模較小但結(jié)構(gòu)與大問題相似的問題，遞歸地解決這些小問題后，將小問題的解結(jié)合為大問題的解。2012年林清華等人提出一種新型快速中值濾波算法，主要應用于醫(yī)學圖像.文中方法利用中值濾波算法對濾波窗口內(nèi)其他像素點的排列順序不作要求的特點，將基于排序?qū)ふ抑兄档倪^程轉(zhuǎn)換為基于分治查找中值的過程。在分治查找過程中，利用醫(yī)學圖像未受干擾時圖像中像素值的變化是漸變的特性，優(yōu)先選用中心點附近的像素值進行分治查找，以達到提高算法效率的目的。

第5頁，課件共22頁，創(chuàng)作于2023年2月動態(tài)規(guī)劃算法基本概念動態(tài)規(guī)劃：在多階段決策問題中，各個階段采取的決策，一般來說是和時間（先后）有關(guān)的，決策依賴于當前狀態(tài)，又隨機引起狀態(tài)的轉(zhuǎn)移，一個決策序列就是在變化的狀態(tài)中產(chǎn)生出來的，故有“動態(tài)”的含義，這種解決多階段決策最優(yōu)化的過程為動態(tài)規(guī)劃。多階段決策過程：有一類活動的過程，可將過程分為若干個互相聯(lián)系的階段，在它的每一階段都要做出決策，從而使整個過程達到最好的活動效果，這種把一個問題看作是一個前后關(guān)聯(lián)具有鏈狀結(jié)構(gòu)的多階段過程，就稱為多階段決策過程。最優(yōu)化原理：一個最優(yōu)化策略具有這樣的性質(zhì)，不論過去狀態(tài)和決策如何，對前面的決策所形成的狀態(tài)而言，余下的諸決策必須構(gòu)成最優(yōu)策略。第6頁，課件共22頁，創(chuàng)作于2023年2月動態(tài)規(guī)劃算法基本思想

將過程分成若干個互相聯(lián)系的階段，即子問題，將各階段按一定的次序排列好之后，對于某個給定的階段狀態(tài)，先求解子問題，然后從這些子問題的解得到原問題的解，對于重復出現(xiàn)的子問題，只在第一次遇到的時候?qū)λM行求解，并把答案保存起來，讓以后再次遇到時直接引用答案。適用條件

(1)最優(yōu)化子結(jié)構(gòu)：如果問題的最優(yōu)解所包含的子問題的解也是最優(yōu)的，就稱該問題具有最優(yōu)子結(jié)構(gòu)，即滿足最優(yōu)化原理。

(2)無后效性：即某階段狀態(tài)一旦確定，就不受這個狀態(tài)以后決策的影響。也就是說，某狀態(tài)以后的過程不會影響以前的狀態(tài)，只與當前狀態(tài)有關(guān)。

（3）有重疊子問題：即子問題之間是不獨立的，一個子問題在下一階段決策中可能被多次使用到。（該性質(zhì)并不是動態(tài)規(guī)劃適用的必要條件，但是如果沒有這條性質(zhì)，動態(tài)規(guī)劃算法同其他算法相比就不具備優(yōu)勢）第7頁，課件共22頁，創(chuàng)作于2023年2月動態(tài)規(guī)劃算法基本步驟

動態(tài)規(guī)劃所處理的問題是一個多階段決策問題，一般由初始狀態(tài)開始，通過對中間階段決策的選擇，達到結(jié)束狀態(tài)。這些決策形成了一個決策序列，同時確定了完成整個過程的一條活動路線(通常是求最優(yōu)的活動路線)。如圖所示。動態(tài)規(guī)劃的設(shè)計都有著一定的模式，一般要經(jīng)歷以下幾個步驟。

初始狀態(tài)→│決策１│→│決策２│→…→│決策ｎ│→結(jié)束狀態(tài)

圖1動態(tài)規(guī)劃決策過程示意圖實際應用中可以按以下幾個簡化的步驟進行設(shè)計：

（1）分析最優(yōu)解的性質(zhì)，并刻畫其結(jié)構(gòu)特征。

（2）遞歸的定義最優(yōu)解。

（3）以自底向上或自頂向下的記憶化方式（備忘錄法）計算出最優(yōu)值。

（4）根據(jù)計算最優(yōu)值時得到的信息，構(gòu)造問題的最優(yōu)解。第8頁，課件共22頁，創(chuàng)作于2023年2月動態(tài)規(guī)劃算法基于動態(tài)規(guī)劃算法分割椎骨上下邊界的方法基本思想根據(jù)椎骨上下緣灰度與形狀信息來尋找椎骨的上下邊界，在梯度圖像中，最終的分割結(jié)果被定義為具有最小累積代價和的“路徑”，該“路徑”由梯度圖像中每一列上唯一的點組成，即從梯度圖像最左一列到最右一列計算累計代價，找出最后一列中累積代價和最小的像素點，利用背向搜索策略找到最終的最優(yōu)“路徑”，最終處在最優(yōu)“路徑”上的所有像素點構(gòu)成了最終分割結(jié)果。算法實現(xiàn)過程1.計算椎骨圖像梯度2.定義與計算邊界累積代價3.使用背向搜索策略確定最優(yōu)邊界第9頁，課件共22頁，創(chuàng)作于2023年2月動態(tài)規(guī)劃算法1.計算椎骨圖像梯度：第10頁，課件共22頁，創(chuàng)作于2023年2月動態(tài)規(guī)劃算法2.定義與計算邊界累計代價內(nèi)部代價、外部代價、局部代價第11頁，課件共22頁，創(chuàng)作于2023年2月動態(tài)規(guī)劃算法3.使用背向搜索策略確定最優(yōu)邊界對梯度圖像中每個像素點都計算累積代價之后，需要利用背向搜索策略找到最終的最優(yōu)“路徑”。首先找到最后一列中累積代價和最小的像素點，該累積代價代表了最優(yōu)“路徑”上所有點的累積代價和。從該像素點出發(fā)，依次向前追蹤最優(yōu)“路徑”上的像素點，直到第一列。在最優(yōu)路徑上的所有像素點就構(gòu)成了最終的目標邊界輪廓，即最終的邊界分割結(jié)果。第12頁，課件共22頁，創(chuàng)作于2023年2月動態(tài)規(guī)劃算法

椎骨分割結(jié)果

(a)(b)(c)(d)(e)(f)第13頁，課件共22頁，創(chuàng)作于2023年2月貪心算法貪心算法是指在對問題求解時，總是做出在當前看來是最好的選擇。也就是說，不從整體最優(yōu)上加以考慮，他所做出的僅是在某種意義上的局部最優(yōu)解。

貪心法的基本思路：從問題的某一個初始解出發(fā)逐步逼近給定的目標，以盡可能快的地求得更好的解。當達到某算法中的某一步不能再繼續(xù)前進時，算法停止。貪心策略適用的前提：局部最優(yōu)策略能導致產(chǎn)生全局最優(yōu)解。貪心算法不是對所有問題都能得到整體最優(yōu)解，選擇的貪心策略必須具備無后效性，即某個狀態(tài)以后的過程不會影響以前的狀態(tài)，只與當前狀態(tài)有關(guān)。對于范圍相當廣泛的許多問題它能產(chǎn)生整體最優(yōu)解或者是整體最優(yōu)解的近似解。

第14頁，課件共22頁，創(chuàng)作于2023年2月貪心算法例在漆黑的夜里，四位旅行者來到了一座狹窄而且沒有護欄的橋邊。如果不借助手電筒的話，大家是無論如何也不敢過橋去的。不幸的是，四個人一共只帶了一只手電筒，而橋窄得只夠讓兩個人同時過。如果各自單獨過橋的話，四人所需要的時間分別是1、2、5、8分鐘；而如果兩人同時過橋，所需要的時間就是走得比較慢的那個人單獨行動時所需的時間。問題是，如何設(shè)計一個方案，讓這四人盡快過橋

。假設(shè)這四人分別為A、B、C、D。很明顯，開始兩人拿著手電筒過橋后，手電筒就在橋的另一邊了，此時需要已經(jīng)過橋的那兩人中的一個再把手電筒送回橋這邊。送手電筒回來過橋也要化時間，所以要選一個跑得比較快的。一個很自然的想法就是，每次讓跑得最快的A陪著另一個過橋，然后A快速地跑回來，再陪下一位過去，最后所有人就都可以過橋了。A

B→2

A←1

A

C→5

A←1

A

D→8一共就是2+1+5+1+8=17分鐘。第15頁，課件共22頁，創(chuàng)作于2023年2月貪心算法但其實有更快的辦法：

A

B→2

A←1

C

D→8

B←2

A

B→2

一共是2+1+8+2+2=15分鐘。這個辦法的聰明之處在于讓兩個走得最慢的人同時過橋，這樣花去的時間只是走得最慢的那個人花的時間，而走得次慢的那位就不用另花時間過橋了?？梢园阉锌赡艿姆桨付剂信e一遍，就會發(fā)現(xiàn)這是最快的方案了。

第16頁，課件共22頁，創(chuàng)作于2023年2月貪心算法2015年周得水等人提出一種基于Dijkstra的貪心算法來實現(xiàn)模糊連接度的快速計算。基于模糊連接度的圖像分割過程如下：（1）由用戶在圖像中選取種子點；（2）計算圖像中各點相對于種子點的模糊連接度，同時得到各點到種子點的最優(yōu)路徑；（3）對得到的最優(yōu)路徑進行各點相對于種子點的屬性相似度計算，同時得到圖像中各點新的隸屬度；（4）用戶通過選取閾值來分割圖像。第17頁，課件共22頁，創(chuàng)作于2023年2月

回溯法基本概念回溯法是一種選優(yōu)搜索法，按選優(yōu)條件向前搜索，以達到目標。但當探索到某一步時，發(fā)現(xiàn)原先選擇并不是最優(yōu)或達不到目標，就退回一步重新選擇，這種走不通就退回再走的方法稱為回溯法?；舅枷?/p>

在包含問題的所有解的解空間樹中，按照深度優(yōu)先搜索的策略，從根結(jié)點出發(fā)深度探索解空間樹。當探索到某一結(jié)點時，要先判斷該結(jié)點是否包含問題的解，如果包含，就從該結(jié)點出發(fā)繼續(xù)探索下去，如果該結(jié)點不包含問題的解，則逐層向其祖先結(jié)點回溯。（其實回溯法就是對隱式圖的深度優(yōu)先搜索算法）。

若用回溯法求問題的所有解時，要回溯到根，且根結(jié)點的所有可行的子樹都要已被搜索遍才結(jié)束。

而若使用回溯法求任一個解時，只要搜索到問題的一個解就可以結(jié)束。

第18頁，課件共22頁，創(chuàng)作于2023年2月回溯法回溯法在圖像分割中的應用2015年尹雨山等人提出一種回溯搜索優(yōu)化算法輔助的多閾值圖像分割方法。文中方法分別將Otsu法和Kapur法作為目標函數(shù)，采用回溯搜索優(yōu)化算法求解目標函數(shù)，實現(xiàn)多閾值圖像分割。仿真結(jié)果說明回溯搜索優(yōu)化算法求解的多閾值圖像分割是可行的，與其他的多閾值分割方法比較，文中提出的方法具有較好的性能。第19頁，課件共22頁，創(chuàng)作于2023年2月分支限界法分支是指采用廣度優(yōu)先的策略，依次搜索當前結(jié)點的所有分支，也就是所有相鄰結(jié)點，拋棄不滿足約束條件的結(jié)點，其余結(jié)點加入活結(jié)點表。分支限界法的搜索策略是：在擴展結(jié)點處，先生成其所有的兒子結(jié)點（分支），然后再從當前的活結(jié)點表中選擇下一個擴展對點。為了有效地選擇下一擴展結(jié)點，以加速搜索的進程，在每一活結(jié)點處，計算一個函數(shù)值（限界），并根據(jù)這些已計算出的函數(shù)值，從當前活結(jié)點表中選擇一個最有利的結(jié)點作為擴展結(jié)點，使搜索朝著解空間樹上有最優(yōu)解的分支推進，以便盡快地找出一個最優(yōu)解。然后從表中選擇一個結(jié)點作為下一個結(jié)點，繼續(xù)搜索。在分支限界法中，每一個活結(jié)點只有一次機會成為擴展結(jié)點?；罱Y(jié)點一旦成為擴展結(jié)點，就一次性產(chǎn)生其所有兒子結(jié)點。在這些兒子結(jié)點中，那些導致不可行解或?qū)е路亲顑?yōu)解的兒子結(jié)點被舍棄，其余兒子結(jié)點被子加入活結(jié)點表中。此后，從活結(jié)點表