版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
PAGE1采用深度學(xué)習(xí)的肺癌輔助診斷系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)TOC\o"1-2"\h\z\u1緒論 11.1研究背景和意義 11.2國(guó)內(nèi)外研究現(xiàn)狀 11.2.1深度學(xué)習(xí) 11.2.2肺癌輔助診斷系統(tǒng) 21.3研究?jī)?nèi)容與章節(jié)安排 51.3.1主要研究?jī)?nèi)容 51.3.2本文章節(jié)安排 52相關(guān)理論知識(shí) 62.1肺癌輔助診斷系統(tǒng) 62.2深度學(xué)習(xí)方法 62.2.1卷積神經(jīng)網(wǎng)絡(luò) 62.2.2YOLO理論基礎(chǔ) 82.3本章小結(jié) 103基于卷積神經(jīng)網(wǎng)絡(luò)的肺部CT圖像去噪 103.1圖像去噪方法 103.1.1去噪模型建立 103.1.2算法步驟 123.1.3評(píng)價(jià)指標(biāo) 133.2實(shí)驗(yàn)及結(jié)果分析 133.2.1數(shù)據(jù)集 133.2.2實(shí)驗(yàn)環(huán)境 133.2.3參數(shù)設(shè)置 143.2.4實(shí)驗(yàn)結(jié)果分析 143.3本章小結(jié) 154基于卷積神經(jīng)網(wǎng)絡(luò)的肺結(jié)節(jié)檢測(cè) 154.1結(jié)節(jié)檢測(cè)方法 154.1.1檢測(cè)模型建立 154.1.2算法步驟 164.1.3評(píng)價(jià)指標(biāo) 174.2實(shí)驗(yàn)及結(jié)果分析 184.2.1數(shù)據(jù)集 184.2.2實(shí)驗(yàn)環(huán)境 184.2.3參數(shù)設(shè)置 184.2.4實(shí)驗(yàn)結(jié)果分析 184.3本章小結(jié) 225系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn) 225.1整體結(jié)構(gòu) 225.1.1圖像去噪模塊 285.1.2結(jié)節(jié)檢測(cè)模塊 245.2用戶界面設(shè)計(jì) 245.3本章小結(jié) 25結(jié)論 26參考文獻(xiàn) 271-1緒論研究背景和意義肺癌是目前公認(rèn)的死亡率最高的人類疾病之一。由于肺癌患者在早期時(shí)自身幾乎沒有感覺,當(dāng)出現(xiàn)一些明顯癥狀而就診時(shí),患者往往已經(jīng)處于肺癌晚期,治療起來更加困難。因此,盡早地發(fā)現(xiàn)并及時(shí)進(jìn)行治療是非常重要的[1-2]。肺癌在早期主要表現(xiàn)為肺結(jié)節(jié),因此盡早地發(fā)現(xiàn)肺結(jié)節(jié)對(duì)肺癌的醫(yī)治具有至關(guān)重要的作用。肺癌檢查主要有X線胸片與CT成像兩種,而低劑量螺旋CT檢查中明顯減少了X射線劑量,降低了對(duì)人體的傷害,并且檢測(cè)效率較高[3]。但肺結(jié)節(jié)具有種類繁多、形狀復(fù)雜等特點(diǎn),使得肺結(jié)節(jié)圖像形式很多,加上每個(gè)病人的CT圖像切片都有上百?gòu)?,醫(yī)生需要反復(fù)觀察切片,找到肺結(jié)節(jié)并對(duì)其進(jìn)行分析,從而得到診斷結(jié)果,這無疑給醫(yī)生們帶來了很大的負(fù)擔(dān),難免出現(xiàn)漏診、誤診等問題[4-5]。針對(duì)此問題,研究者們提出可以利用計(jì)算機(jī)輔助診斷系統(tǒng)對(duì)肺結(jié)節(jié)進(jìn)行檢測(cè)。傳統(tǒng)的計(jì)算機(jī)輔助診斷系統(tǒng)通常包括預(yù)處理、分割檢測(cè)、特征提取、分類四個(gè)部分[6],提高了檢測(cè)效率,但是對(duì)于一些復(fù)雜結(jié)節(jié)分類效果差,缺乏自我學(xué)習(xí)能力。近幾年,深度學(xué)習(xí)技術(shù)在處理圖像、語音、文本等方面有著明顯的優(yōu)勢(shì)[7],其模型與方法有很多,最常見的就是卷積神經(jīng)網(wǎng)絡(luò)(ConvolutionalNeuralNetwork,CNN),可以非常有效地解決圖像分類、目標(biāo)檢測(cè)等問題[8]。這也使我們認(rèn)識(shí)到可以基于卷積神經(jīng)網(wǎng)絡(luò)對(duì)肺癌進(jìn)行診斷。所以本文將結(jié)合深度學(xué)習(xí)技術(shù)設(shè)計(jì)一個(gè)肺癌輔助診斷系統(tǒng)對(duì)肺結(jié)節(jié)進(jìn)行檢測(cè)和診斷。國(guó)內(nèi)外研究現(xiàn)狀1.2.1深度學(xué)習(xí)深度學(xué)習(xí)屬于機(jī)器學(xué)習(xí)領(lǐng)域,主要是通過人工神經(jīng)網(wǎng)絡(luò)來模擬人腦的工作,對(duì)圖像、語音及文本進(jìn)行處理。Hinton在2016年給出了深度學(xué)習(xí)的概念,并指出深度學(xué)習(xí)技術(shù)具有自我學(xué)習(xí)能力,不需要手動(dòng)對(duì)特征進(jìn)行提取,就可以自動(dòng)提取數(shù)據(jù)特征,在圖像分類、目標(biāo)檢測(cè)等方面得到了廣泛發(fā)展。在圖像分類方面,Huang等[9]提出了DenseNet網(wǎng)絡(luò),以前饋的方式將網(wǎng)絡(luò)的每一層與每一層互相連接起來,緩解了消失梯度的問題,加強(qiáng)了特性傳播,使網(wǎng)絡(luò)參數(shù)較少,提高了圖像識(shí)別的準(zhǔn)確度。Xie等[10]提出了一種ResNeXt網(wǎng)絡(luò)結(jié)構(gòu)用于圖像分類,將結(jié)構(gòu)設(shè)置為多個(gè)模塊,并增加了一個(gè)新的維度:基數(shù)(轉(zhuǎn)換集的大?。ㄟ^增加基數(shù)來提高分類的準(zhǔn)確率。Chen等[11]提出一種簡(jiǎn)單、高效的雙路徑網(wǎng)絡(luò)DPN,構(gòu)建了一種新的內(nèi)部連接路徑拓?fù)浣Y(jié)構(gòu),結(jié)合了ResNet網(wǎng)絡(luò)的特征重用和DenseNet網(wǎng)絡(luò)探索新特征的優(yōu)勢(shì),在各類應(yīng)用中性能始終優(yōu)于DenseNet、ResNet和ResNeXt模型。在目標(biāo)檢測(cè)方面,Ross等[12]提出了R-CNN網(wǎng)絡(luò),通過將卷積神經(jīng)網(wǎng)絡(luò)與目標(biāo)候選區(qū)域相結(jié)合,提高了目標(biāo)檢測(cè)的精度。之后,快速區(qū)域卷積神經(jīng)網(wǎng)絡(luò)(FastRegionalConvolutionalNeuralNetwork,FastR-CNN)、FasterR-CNN[13]相繼被提出,其中FasterR-CNN網(wǎng)絡(luò)在FastR-CNN的基礎(chǔ)上增加了區(qū)域建議網(wǎng)絡(luò)(RegionalProposalNetwork,RPN),使得在檢測(cè)時(shí)分為兩個(gè)步驟。首先由RPN提取候選目標(biāo)區(qū)域,再由FastR-CNN對(duì)候選目標(biāo)區(qū)域進(jìn)行分類,將網(wǎng)絡(luò)的起點(diǎn)和終點(diǎn)連接在一起,實(shí)現(xiàn)端到端的檢測(cè),準(zhǔn)確率和速度都得到了提高。相比于FasterR-CNN采用RPN的方法,YOLO[14]采用回歸算法進(jìn)行目標(biāo)檢測(cè),之后出現(xiàn)了YOLOv2[15]、YOLOv3[16]、SSD等網(wǎng)絡(luò)模型用于檢測(cè),提高檢測(cè)速度。除了圖像分類、目標(biāo)檢測(cè)等方面的應(yīng)用,深度學(xué)習(xí)在其他領(lǐng)域也得到了廣泛發(fā)展。例如,Abdel-Hamid等[17]基于卷積神經(jīng)網(wǎng)絡(luò)提出一種有限權(quán)值共享方案,使用網(wǎng)絡(luò)的局部連通性、權(quán)值共享和池化等特殊結(jié)構(gòu)對(duì)語音進(jìn)行識(shí)別,降低識(shí)別錯(cuò)誤率。Bogdanova等[18]提出了一種卷積神經(jīng)網(wǎng)絡(luò)來識(shí)別語義等價(jià)性,采用域內(nèi)詞嵌入的方法驗(yàn)證了在訓(xùn)練數(shù)據(jù)有限的情況下也可以得到較高的性能。1.2.2肺癌輔助診斷系統(tǒng)肺癌輔助診斷系統(tǒng)主要由四部分組成:數(shù)據(jù)加載、數(shù)據(jù)預(yù)處理、肺實(shí)質(zhì)分割以及肺結(jié)節(jié)檢測(cè)。其中數(shù)據(jù)預(yù)處理主要包括圖像歸一化和圖像去噪。本節(jié)主要對(duì)圖像去噪和結(jié)節(jié)檢測(cè)兩個(gè)方面的研究現(xiàn)狀進(jìn)行闡述。(1)圖像去噪由于CT掃描的射線會(huì)對(duì)患者帶來輻射危害,故在醫(yī)學(xué)中會(huì)將輻射劑量降低,進(jìn)行低劑量螺旋CT檢查,這樣導(dǎo)致了CT圖像的質(zhì)量下降,對(duì)醫(yī)生的診斷可能會(huì)產(chǎn)生影響。為了改善CT圖像的質(zhì)量,對(duì)圖像進(jìn)行去噪成為醫(yī)學(xué)的主要研究方向?,F(xiàn)有的CT去噪方法主要有圖像后處理法、投影域?yàn)V波算法和迭代重建算法[19]。與后兩類不同的是圖像后處理方法是直接對(duì)CT圖像進(jìn)行處理,恢復(fù)圖像中的邊緣信息,去除掉其中的噪聲,提高圖像質(zhì)量,該方法使用低劑量CT檢查得到的圖像,非常容易獲取實(shí)驗(yàn)數(shù)據(jù)。然而,低劑量CT圖像中的噪聲并不服從均勻分布。因此,傳統(tǒng)方法很難完全去除圖像中的噪聲和偽影。深度學(xué)習(xí)去噪方法具有強(qiáng)大的特征學(xué)習(xí)與映射能力,相比傳統(tǒng)方法具有明顯的優(yōu)勢(shì)。Hu等[20]提出了一種淺層CNN用于對(duì)CT圖像去噪,為了避免在深度加深時(shí)容易出現(xiàn)網(wǎng)絡(luò)性能退化的問題,該網(wǎng)絡(luò)僅僅包含三層。針對(duì)這一問題,Kang等[21]在小波域構(gòu)造了一個(gè)深度網(wǎng)絡(luò),該網(wǎng)絡(luò)由卷積、批量歸一化和殘差學(xué)習(xí)的整流線性單元組成,應(yīng)用定向小波變換檢測(cè)噪聲的方向向量,具有很好的去噪效果。Maryam等[22]設(shè)計(jì)了一種深度去噪網(wǎng)絡(luò)將低劑量CT圖像轉(zhuǎn)換成正常劑量CT圖像,該網(wǎng)絡(luò)采用擴(kuò)張卷積代替標(biāo)準(zhǔn)卷積,使用殘差學(xué)習(xí)結(jié)構(gòu),添加一個(gè)邊緣層幫助更好的捕捉圖像,避免了像素優(yōu)化帶來的過度平滑和細(xì)節(jié)丟失問題,也不會(huì)出現(xiàn)感知損失優(yōu)化時(shí)出現(xiàn)的網(wǎng)格狀偽影,更好地實(shí)現(xiàn)了對(duì)低劑量CT圖像的去噪。(2)結(jié)節(jié)檢測(cè)傳統(tǒng)的肺結(jié)節(jié)檢測(cè)方法主要是通過提取肺結(jié)節(jié)的大小、紋理、形狀等特征信息,使用傳統(tǒng)機(jī)器學(xué)習(xí)算法對(duì)肺結(jié)節(jié)進(jìn)行檢測(cè)。陳數(shù)越等[23]提出了一種肺結(jié)節(jié)檢測(cè)算法,提取離散度、緊湊度和類圓度等幾何信息,采用K-means聚類算法對(duì)幾何信息進(jìn)行分類,從而檢測(cè)出肺結(jié)節(jié)。劉銀鳳等[24]提出了一種肺結(jié)節(jié)檢測(cè)模型,首先設(shè)計(jì)網(wǎng)格尋優(yōu)算法對(duì)支持向量機(jī)核函數(shù)進(jìn)行優(yōu)化,再使用支持向量機(jī)核函數(shù)對(duì)CT圖像的灰度、紋理、形狀等特征進(jìn)行提取,從而實(shí)現(xiàn)自動(dòng)檢測(cè)肺結(jié)節(jié)。上述算法僅僅利用了肺部CT圖像的二維特征信息,沒有充分利用CT圖像的三維空間信息,檢測(cè)效果不好。因此董林佳等[25]基于三維空間提出了一種肺結(jié)節(jié)檢測(cè)方法,提取肺部CT圖像的各體素點(diǎn),通過設(shè)計(jì)三維類球形濾波器對(duì)肺結(jié)節(jié)進(jìn)行檢測(cè)。傳統(tǒng)的肺結(jié)節(jié)檢測(cè)算法需要手動(dòng)對(duì)肺結(jié)節(jié)特征進(jìn)行標(biāo)注,任務(wù)量大,且容易出現(xiàn)誤診。隨著不斷的研究發(fā)現(xiàn)卷積神經(jīng)網(wǎng)絡(luò)非常適用于圖像分類領(lǐng)域。為了克服傳統(tǒng)計(jì)算機(jī)輔助診斷系統(tǒng)需要人工進(jìn)行特征提取導(dǎo)致誤診率較高的缺點(diǎn),研究人員將CNN應(yīng)用于肺結(jié)節(jié)檢測(cè)當(dāng)中,提高分類正確率。在肺結(jié)節(jié)檢測(cè)方面,CNN可以自主學(xué)習(xí)肺部CT圖像中的高級(jí)特征,有效地將結(jié)節(jié)篩選出來,并且可以將更多的數(shù)據(jù)放入CNN,通過不斷提高訓(xùn)練次數(shù),最大限度的檢測(cè)肺結(jié)節(jié)區(qū)域,提高檢測(cè)效率[26]。故越來越多的研究人員將CNN應(yīng)用于肺結(jié)節(jié)檢測(cè)中。Setio等[27]提出了一種利用多視角2D-CNN卷積網(wǎng)絡(luò)進(jìn)行肺結(jié)節(jié)檢測(cè)的降假陽性操作。該網(wǎng)絡(luò)分為兩部分:第一部分采用三種檢測(cè)算法結(jié)合起來候選結(jié)節(jié),提高了檢測(cè)性能,但是含有大量的假陽性;第二部分則對(duì)候選結(jié)節(jié)提取各個(gè)方向上的信息,進(jìn)行假陽性去除操作,具有很好的檢測(cè)效率。用2D-CNN需要將CT圖像以Z軸切片為平面圖,再送入網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練,只能提取到切片的平面特征,導(dǎo)致肺結(jié)節(jié)的立體信息丟失。因此2D-CNN檢測(cè)并不能夠充分讀取CT圖像信息,檢測(cè)效率不能實(shí)現(xiàn)明顯提升[28],3D-CNN在2D-CNN基礎(chǔ)上多了一個(gè)維度,在CT圖像上進(jìn)行連續(xù)切片,保證了特征信息的充分提取,故產(chǎn)生了3D-CNN實(shí)現(xiàn)肺結(jié)節(jié)檢測(cè)。Dou等[29]提出一種三維卷積神經(jīng)網(wǎng)絡(luò)3D-CNN,通過三維樣本訓(xùn)練編碼更多信息,提取具有代表性的特征,使其對(duì)可疑結(jié)節(jié)進(jìn)行檢測(cè)篩選,降低假陽性。Cicek等[30]基于U-Net網(wǎng)絡(luò)提出了一種3DU-Net網(wǎng)絡(luò)結(jié)構(gòu),包括編碼器和解碼器兩部分,訓(xùn)練中有效地增強(qiáng)數(shù)據(jù),實(shí)現(xiàn)了部分?jǐn)?shù)據(jù)標(biāo)注,提高了訓(xùn)練效率,之后周晨芳等[31]在此基礎(chǔ)上提出了一種改進(jìn)3DU-Net網(wǎng)絡(luò)模型,用殘差網(wǎng)絡(luò)作為3DU-Net的主干網(wǎng)絡(luò),并在編碼器中引入空間卷積,將兩個(gè)網(wǎng)絡(luò)的優(yōu)點(diǎn)結(jié)合在一起,獲取到更多的空間信息,降低漏檢率。Ren等[13]提出的一種FasterR-CNN目標(biāo)檢測(cè)系統(tǒng),是目前目標(biāo)檢測(cè)算法中精度較高的一種,在檢測(cè)大結(jié)節(jié)上取得了很好的效果,但是對(duì)于一些很小的結(jié)節(jié),F(xiàn)asterR-CNN網(wǎng)絡(luò)的能力較弱,存在一定的漏檢率與假陽性。針對(duì)此情況,高璇等[32]提出了一種改進(jìn)型FasterR-CNN檢測(cè)算法,該算法的優(yōu)勢(shì)在于加入了殘差網(wǎng)絡(luò)對(duì)圖像中的特征進(jìn)行提取,并融合SENet和二階響應(yīng)變換算法進(jìn)行檢測(cè),提取到更小區(qū)域的結(jié)節(jié)特征,提高肺結(jié)節(jié)檢測(cè)精度。胡新穎等[33]鑒于FasterR-CNN并不能夠完全的將肺結(jié)節(jié)特征提取出來,提出在FasterR-CNN網(wǎng)絡(luò)上加入反卷積層并優(yōu)化相關(guān)參數(shù),可以得到更精確的結(jié)節(jié)候選區(qū)域,降低假陽性,提高檢測(cè)精度。除了改進(jìn)FasterR-CNN網(wǎng)絡(luò)模型,研究人員還將用于目標(biāo)檢測(cè)的網(wǎng)絡(luò)模型用于肺結(jié)節(jié)檢測(cè)。George等[34]將經(jīng)典目標(biāo)檢測(cè)模型YOLO用于肺結(jié)節(jié)檢測(cè),該模型可以實(shí)時(shí)對(duì)肺部CT圖像進(jìn)行檢測(cè),并用矩形邊界框標(biāo)出結(jié)節(jié)位置。綜上所述,在肺結(jié)節(jié)檢測(cè)中,2D-CNN進(jìn)行圖像處理時(shí)計(jì)算量小,但是由于只在二維空間提取了圖像特征信息,缺少一個(gè)維度,導(dǎo)致檢測(cè)質(zhì)量較差;而3D-CNN則是在三維空間上更加全面地提取圖像特征信息,檢測(cè)效果更好,但是計(jì)算量相對(duì)較大。改進(jìn)型的FasterR-CNN可以實(shí)現(xiàn)端到端的檢測(cè),測(cè)試時(shí)間明顯減少,檢測(cè)準(zhǔn)確率及效率大大提高。研究?jī)?nèi)容與章節(jié)安排1.3.1主要研究?jī)?nèi)容主要研究?jī)?nèi)容如下:基于卷積神經(jīng)網(wǎng)絡(luò)的肺部CT圖像去噪。針對(duì)肺部CT圖像中存在噪聲的問題,構(gòu)建基于DRL-E-MP網(wǎng)絡(luò)的圖像去噪模型,并通過實(shí)驗(yàn)驗(yàn)證該模型的有效性?;诰矸e神經(jīng)網(wǎng)絡(luò)的肺結(jié)節(jié)檢測(cè)。針對(duì)于現(xiàn)有檢測(cè)模型復(fù)雜且運(yùn)算速度慢的問題,研究一種基于YOLOv3_spp網(wǎng)絡(luò)的肺結(jié)節(jié)檢測(cè)方法,并通過實(shí)驗(yàn)驗(yàn)證該方法的有效性。系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)。針對(duì)現(xiàn)有圖像去噪模型以及檢測(cè)模型,設(shè)計(jì)一種肺癌輔助診斷系統(tǒng),主要包括用戶界面設(shè)計(jì),肺部CT圖像加載,圖像去噪,肺實(shí)質(zhì)分割以及肺結(jié)節(jié)檢測(cè)等操作,實(shí)現(xiàn)輔助醫(yī)生進(jìn)行肺癌診斷的功能。1.3.2本文章節(jié)安排本文章節(jié)安排如下:第一章,緒論。主要描述課題研究的背景和意義,闡述深度學(xué)習(xí)以及肺癌輔助診斷系統(tǒng)的國(guó)內(nèi)外研究現(xiàn)狀,并闡述本文的研究?jī)?nèi)容及章節(jié)安排。第二章,相關(guān)理論知識(shí)。首先闡述肺癌輔助診斷系統(tǒng)的基本組成,然后描述深度學(xué)習(xí)方法,包括基礎(chǔ)的卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和組成,以及YOLO的基本原理,包括YOLOv1與YOLOv2網(wǎng)絡(luò)模型的基本結(jié)構(gòu)與改進(jìn)。本章為后續(xù)章節(jié)提供理論基礎(chǔ)。第三章,基于卷積神經(jīng)網(wǎng)絡(luò)的肺部CT圖像去噪。首先構(gòu)建DRL-E-MP網(wǎng)絡(luò)模型以及算法步驟,描述模型的評(píng)價(jià)指標(biāo),針對(duì)實(shí)驗(yàn)數(shù)據(jù)集設(shè)置去噪模型參數(shù),對(duì)模型進(jìn)行訓(xùn)練,得到實(shí)驗(yàn)結(jié)果,驗(yàn)證圖像去噪模型的有效性。第四章,基于卷積神經(jīng)網(wǎng)絡(luò)的肺結(jié)節(jié)檢測(cè)。首先設(shè)計(jì)YOLOv3_spp網(wǎng)絡(luò)模型以及算法步驟,描述模型的評(píng)價(jià)指標(biāo),針對(duì)實(shí)驗(yàn)數(shù)據(jù)集設(shè)置檢測(cè)模型參數(shù),對(duì)模型進(jìn)行訓(xùn)練,得到實(shí)驗(yàn)結(jié)果,驗(yàn)證結(jié)節(jié)檢測(cè)模型的有效性。第五章,系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)。構(gòu)建系統(tǒng)的總體結(jié)構(gòu)與工作步驟,詳細(xì)描述圖像去噪和結(jié)節(jié)檢測(cè)模塊的設(shè)計(jì)方法與工作流程,主要包括用戶界面設(shè)計(jì),肺部CT圖像加載,圖像去噪,肺實(shí)質(zhì)分割以及肺結(jié)節(jié)檢測(cè)等操作,實(shí)現(xiàn)輔助醫(yī)生進(jìn)行肺癌診斷的功能。最后是結(jié)論與展望。2相關(guān)理論知識(shí)2.1肺癌輔助診斷系統(tǒng)在醫(yī)學(xué)圖像上充分發(fā)揮計(jì)算機(jī)的優(yōu)勢(shì),輔助醫(yī)生分析診斷病灶區(qū)域,客觀性地得出診斷結(jié)果的技術(shù)稱為計(jì)算機(jī)輔助診斷技術(shù)。將計(jì)算機(jī)輔助診斷技術(shù)應(yīng)用于肺結(jié)節(jié)檢測(cè)方面,構(gòu)成一個(gè)肺癌輔助診斷系統(tǒng),輔助醫(yī)生判斷是否患有癌癥。肺癌輔助診斷系統(tǒng)主要實(shí)現(xiàn)數(shù)據(jù)加載、數(shù)據(jù)預(yù)處理、肺實(shí)質(zhì)分割和肺結(jié)節(jié)檢測(cè)等功能。在肺癌輔助診斷系統(tǒng)中,首先加載原始CT圖像,由于成像設(shè)備不同,肺部CT圖像中可能存在噪聲影響了CT圖像的質(zhì)量,因此需要對(duì)CT圖像進(jìn)行去噪;之后為了更好地對(duì)肺結(jié)節(jié)進(jìn)行檢測(cè),將圖像中肺部以外的地方去掉,對(duì)肺實(shí)質(zhì)進(jìn)行分割,得到感興趣區(qū)域,為肺結(jié)節(jié)檢測(cè)打好基礎(chǔ);最后對(duì)肺結(jié)節(jié)進(jìn)行特征提取,選擇合適的結(jié)節(jié)檢測(cè)模型對(duì)肺部CT圖像進(jìn)行檢測(cè),得到檢測(cè)結(jié)果,輔助醫(yī)生進(jìn)行診斷。2.2深度學(xué)習(xí)方法2.2.1卷積神經(jīng)網(wǎng)絡(luò)圖2.1LeNet-5網(wǎng)絡(luò)結(jié)構(gòu)圖[35]卷積神經(jīng)網(wǎng)絡(luò)具有自我學(xué)習(xí)能力,可以自動(dòng)對(duì)圖像進(jìn)行特征提取,廣泛應(yīng)用在圖像分類、目標(biāo)檢測(cè)等問題中。卷積神經(jīng)網(wǎng)絡(luò)中包含有輸入層、卷積層、池化層、全連接層和輸出層,根據(jù)網(wǎng)絡(luò)搭建的不同分為很多種,較為典型的有LeNet-5網(wǎng)絡(luò),其結(jié)構(gòu)[35]如圖2.1所示。(1)卷積層卷積層由多個(gè)卷積核組成,輸入數(shù)據(jù)中和卷積核大小相同的區(qū)域稱為“感受野”,將輸入數(shù)據(jù)與卷積核進(jìn)行卷積計(jì)算,提取數(shù)據(jù)的特征。卷積計(jì)算主要有線性卷積、反卷積和擴(kuò)張卷積。卷積層中通過改變卷積核大小、卷積步長(zhǎng)以及填充層數(shù)目,從而改變卷積層特征圖的輸出。卷積核大小通常不能大于輸入數(shù)據(jù)的尺寸,卷積步長(zhǎng)決定前后兩次卷積計(jì)算之間的距離,同時(shí)特征圖在進(jìn)行卷積計(jì)算之前進(jìn)行0填充或重復(fù)邊界填充。卷積操作實(shí)際為線性操作,為了增加非線性,提取更加復(fù)雜的特征,經(jīng)常在卷積層之后加入激活函數(shù)。常用的激活函數(shù)主要有以下幾種:Sigmoid函數(shù)、tanh函數(shù)、ReLU函數(shù)以及LeakyReLU函數(shù),其數(shù)學(xué)表達(dá)式分別為等式2-1至等式2-4。 (2-1) (2-2) (2-3) (2-4)Sigmoid函數(shù)是單調(diào)連續(xù)函數(shù),值域范圍為(0,1),當(dāng)輸入很大或很小時(shí),就會(huì)導(dǎo)致梯度消失,函數(shù)達(dá)到飽和,在反向傳播時(shí)幾乎沒有輸入;tanh函數(shù)比Sigmoid函數(shù)的收斂速度更快,值域范圍為(-1,1);為了解決梯度消失問題,引入了ReLU函數(shù),該函數(shù)僅需要確定閾值就可以被激活,但在輸入小于0時(shí)梯度為0,會(huì)導(dǎo)致神經(jīng)元壞死,是不可逆的,為此提出了LeakyRelu函數(shù),在輸入小于0時(shí),給出了一個(gè)斜率a,斜率a的值并不固定,可以改變。隨著特征在隱含層之間的傳輸,其均值和標(biāo)準(zhǔn)差會(huì)隨之發(fā)生變化,為了解決這一問題,引入批量歸一化(BatchNormalization,BN),對(duì)特征進(jìn)行標(biāo)準(zhǔn)化。(2)池化層在卷積計(jì)算之后,通常添加池化層對(duì)卷積層輸出的特征信息進(jìn)行降采樣,主要有最大池化和平均池化兩種操作。通過池化操作在空間上對(duì)數(shù)據(jù)降維,減少參數(shù)運(yùn)算量,防止出現(xiàn)過擬合現(xiàn)象,同時(shí)降低網(wǎng)絡(luò)的復(fù)雜程度。全連接層全連接層位于隱含層的末端,將卷積層和池化層提取的特征信息加載到全連接層進(jìn)行分類,一般情況下,全連接層的輸出范圍不在[0,1]之間,但是分類問題要求最后輸出在[0,1]之間,因此往往和softmax邏輯回歸結(jié)合起來使用。2.2YOLO理論基礎(chǔ)目標(biāo)檢測(cè)算法[36]主要有兩種,一種是首先檢測(cè)目標(biāo)可能存在的子區(qū)域,再在子區(qū)域中通過卷積神經(jīng)網(wǎng)絡(luò)對(duì)特征進(jìn)行提取,進(jìn)而實(shí)現(xiàn)檢測(cè);另一種是將目標(biāo)檢測(cè)視為一個(gè)回歸問題,直接將圖片輸入到網(wǎng)絡(luò)中進(jìn)行訓(xùn)練,是一種端到端的目標(biāo)檢測(cè)網(wǎng)絡(luò)。YOLO就是一種端到端的目標(biāo)檢測(cè)算法,將目標(biāo)檢測(cè)任務(wù)分為目標(biāo)檢測(cè)概率以及邊框回歸兩部分,不需要提取候選區(qū)域,直接檢測(cè)到目標(biāo)的邊框回歸以及置信度,訓(xùn)練速度相對(duì)較快。YOLOv1[14]通過提取圖像的特征信息來進(jìn)行檢測(cè),對(duì)每個(gè)類別產(chǎn)生預(yù)測(cè)邊界框。首先將輸入圖像分成一個(gè)網(wǎng)格,在進(jìn)行檢測(cè)時(shí),觀察對(duì)象的中心在哪個(gè)網(wǎng)格中心,就由哪個(gè)網(wǎng)格對(duì)該對(duì)象進(jìn)行檢測(cè)。每個(gè)網(wǎng)格根據(jù),,,和置信度這五個(gè)參數(shù)預(yù)測(cè)B個(gè)邊界框,其中表示預(yù)測(cè)邊界框的中心坐標(biāo),和共同決定預(yù)測(cè)邊界框的尺寸大小,置信度表示預(yù)測(cè)框和真實(shí)框之間的IoU。模型損失函數(shù)由等式2-5計(jì)算: (2-5)其中表示檢測(cè)對(duì)象在第i個(gè)網(wǎng)格中,而表示第i個(gè)網(wǎng)格中的第j個(gè)邊界框?qū)υ搶?duì)象進(jìn)行預(yù)測(cè),一二項(xiàng)計(jì)算邊界框損失、三四項(xiàng)計(jì)算置信度損失和最后一項(xiàng)計(jì)算類別損失。YOLOv1主要包含卷積層和全連接層,將圖像加載到Y(jié)OLOv1網(wǎng)絡(luò)中,首先通過卷積層提取圖像特征,在經(jīng)過全連接層對(duì)圖像中的對(duì)象進(jìn)行預(yù)測(cè),得到預(yù)測(cè)邊界框的置信度及坐標(biāo)位置。其網(wǎng)絡(luò)結(jié)構(gòu)如圖2.2所示。圖2.2YOLOv1網(wǎng)絡(luò)結(jié)構(gòu)圖[14]YOLOv2[15]在YOLOv1的基礎(chǔ)上做了一系列嘗試[37]:(1)對(duì)所有的卷積層增加批量標(biāo)準(zhǔn)化,加速了模型的收斂;(2)加入高分辨率的分類器,使預(yù)訓(xùn)練與實(shí)際訓(xùn)練的分辨率相同;(3)去掉所有的全連接層,采用K-means聚類算法預(yù)測(cè)邊界框;(4)進(jìn)行多尺度訓(xùn)練;(5)采用Darknet-19網(wǎng)絡(luò)模型,結(jié)構(gòu)如圖2.3所示,通過卷積層和池化層交替出現(xiàn),提取圖像特征信息,加快模型的訓(xùn)練速度。圖2.3Darknet-19網(wǎng)絡(luò)結(jié)構(gòu)圖2.3本章小結(jié)本章首先闡述了肺癌輔助診斷系統(tǒng),包括肺癌輔助診斷系統(tǒng)的基本組成以及工作步驟。然后描述了深度學(xué)習(xí)方法,主要包括卷積神經(jīng)網(wǎng)絡(luò)的基本原理以及構(gòu)成和YOLO網(wǎng)絡(luò)的相關(guān)理論知識(shí)。本章內(nèi)容為本文后續(xù)研究?jī)?nèi)容提供理論基礎(chǔ)。3基于卷積神經(jīng)網(wǎng)絡(luò)的肺部CT圖像去噪3.1圖像去噪方法3.1.1去噪模型建立對(duì)肺部CT圖像進(jìn)行去噪是一項(xiàng)非常具有挑戰(zhàn)性的任務(wù)。本文采用DRL-E-MP網(wǎng)絡(luò)[38]來去除CT圖像中的噪聲,網(wǎng)絡(luò)結(jié)構(gòu)如圖3.1所示,該網(wǎng)絡(luò)結(jié)合了擴(kuò)張卷積、殘差學(xué)習(xí)、邊緣檢測(cè)和感知損失的優(yōu)點(diǎn)來執(zhí)行去噪,盡可能地在不增加網(wǎng)絡(luò)復(fù)雜性的情況下提高網(wǎng)絡(luò)效率,對(duì)CT圖像進(jìn)行去噪。首先,采用擴(kuò)張卷積代替標(biāo)準(zhǔn)卷積設(shè)計(jì)了一個(gè)網(wǎng)絡(luò),并且通過添加對(duì)稱快捷連接來使用殘差學(xué)習(xí)。再加入一個(gè)邊緣檢測(cè)層,作為sobel算子,有助于更好地捕捉圖像中的邊界。將均方誤差損失和感知損失聯(lián)合起來作為目標(biāo)函數(shù)進(jìn)行優(yōu)化,提供了更好的視覺結(jié)果,避免遭受過度平滑和細(xì)節(jié)損失。圖3.1DRL-E-MP網(wǎng)絡(luò)模型結(jié)構(gòu)圖(1)擴(kuò)張卷積采用擴(kuò)張卷積[39]可以更快的增加感受野,捕獲到更多的輸入圖像的上下文信息。在該本文中,采用了8層擴(kuò)張卷積網(wǎng)絡(luò)來去除肺部CT圖像中的噪聲,如圖3.1所示,對(duì)于層1至層8,所使用的擴(kuò)張速率分別為1、2、3、4、3、2、1和1。(2)殘差學(xué)習(xí)殘差學(xué)習(xí)[40]在一組層的輸入和輸出之間添加身份映射,在不增加網(wǎng)絡(luò)深度的情況下獲取更多的信息,加快訓(xùn)練速度,提高網(wǎng)絡(luò)性能。本文選擇在底層和頂層之間添加對(duì)稱的快捷方式,將輸入圖像、2層和3層的輸出分別與7層、6層、5層的輸出相連,因?yàn)榈谝粚拥奶卣饔成浒烁嗟奶卣餍畔?,所以這些連接將圖像的細(xì)節(jié)傳遞到更高層。(3)邊緣檢測(cè)邊緣檢測(cè)指的是找到圖像中對(duì)象的邊界。本文采用sobel邊緣檢測(cè)算子計(jì)算圖像強(qiáng)度的二維梯度,并通過用3×3濾波器卷積圖像來強(qiáng)調(diào)具有高空間頻率的區(qū)域。邊緣檢測(cè)層是一個(gè)卷積層,它有四個(gè)索貝爾核作為不可訓(xùn)練的濾波器。輸出邊緣圖與輸入圖像連接,并提供給網(wǎng)絡(luò),有利于提供更清晰準(zhǔn)確的邊緣,提高網(wǎng)絡(luò)的性能。(4)感知損失均方誤差(MSE)用于計(jì)算輸出圖像與真實(shí)圖像之間的亮度差,在圖像去噪或圖像增強(qiáng)等圖像處理任務(wù)中被廣泛應(yīng)用于目標(biāo)函數(shù),可以生成平滑區(qū)域,并影響紋理中的細(xì)節(jié),用在肺部CT圖像中,并不能夠表達(dá)出CT圖像的所有細(xì)節(jié)。使用感知損失可以達(dá)到視覺上吸引人的效果,使網(wǎng)絡(luò)的輸出在感知上類似于基本事實(shí),但是單獨(dú)用于CT圖像中,會(huì)在輸出圖像中產(chǎn)生網(wǎng)格狀偽影。本文結(jié)合均方誤差損失Lmse和感知損失LP來優(yōu)化網(wǎng)絡(luò)。使用在自然圖像上預(yù)先訓(xùn)練好的VGG-19網(wǎng)絡(luò)[41]計(jì)算感知損失,其中,VGG-19網(wǎng)絡(luò)包含了19個(gè)隱藏層(16個(gè)卷積層和3個(gè)全連接層),其中全連接層主要用于分類,在本文中并未使用。從不同層次的VGG-19網(wǎng)絡(luò)中提取了5組特征映射,并使用它們計(jì)算感知損失。如圖3.2所示,在塊1、2、3、4和5中使用最后一個(gè)卷積層(ReLU激活之后、池化層之前)的輸出來計(jì)算。將均方誤差損失與感知損失結(jié)合在一起作為目標(biāo)函數(shù),避免過度平滑和細(xì)節(jié)損失,保存了紋理中的大部分細(xì)節(jié),并提供了更好的視覺效果。圖3.2VGG-19網(wǎng)絡(luò)模型結(jié)構(gòu)圖總損失函數(shù)由等式3-1計(jì)算: (3-1)其中,λmse和λP分別是均方誤差損失和感知損失的加權(quán)標(biāo)量。均方誤差損失函數(shù)由等式3-2計(jì)算: (3-2)感知損失函數(shù)由等式3-3、等式3-4計(jì)算: (3-3) (3-4)其中,指的是從大小為的第i塊提取的特征圖。3.1.2算法步驟圖像去噪模型的算法步驟如下:首先加載數(shù)據(jù),對(duì)肺部CT圖像進(jìn)行歸一化;設(shè)置圖像去噪模型參數(shù),將歸一化肺部CT圖像加載到圖像去噪模型中進(jìn)行訓(xùn)練;增加迭代次數(shù),保存最優(yōu)圖像去噪模型權(quán)重;將最優(yōu)的模型權(quán)重加載到模型中對(duì)測(cè)試圖像進(jìn)行預(yù)測(cè),得到去噪結(jié)果,并與噪聲圖像進(jìn)行對(duì)比。3.1.3評(píng)價(jià)指標(biāo)實(shí)驗(yàn)過程中為了對(duì)去噪模型的性能進(jìn)行有效評(píng)估,對(duì)去噪前后的圖像分別計(jì)算峰值信噪比(PSNR)和結(jié)構(gòu)相似性(SSIM)。其中PSNR數(shù)值越大,圖像重建效果越好,SSIM數(shù)值越大,去噪效果越好。PSNR和SSIM分別由等式3-5、等式3-6計(jì)算: (3-5)其中,MAX為圖像點(diǎn)顏色的最大數(shù)值,為圖像的尺寸大小,x和y為原始圖像和去噪后圖像。 (3-6)其中,和分別為x和y的均值,和是x和y的標(biāo)準(zhǔn)差,是x和y的協(xié)方差,和為常數(shù)。3.2實(shí)驗(yàn)及結(jié)果分析3.2.1數(shù)據(jù)集數(shù)據(jù)集選取LUNA16數(shù)據(jù)集,共有888張CT圖像,由最大公用肺結(jié)節(jié)數(shù)據(jù)集LIDC-IDRI刪除掉切片厚度大于3mm和肺結(jié)節(jié)小于3mm的CT圖像組成。這些圖像通過.mhd格式文件和.raw文件進(jìn)行存儲(chǔ),標(biāo)注有1186個(gè)肺結(jié)節(jié)。選取其中部分?jǐn)?shù)據(jù)集進(jìn)行訓(xùn)練、驗(yàn)證及測(cè)試。首先我們加載數(shù)據(jù)集并對(duì)圖像進(jìn)行歸一化,采用原始CT圖像加上高斯噪聲來生成噪聲圖像,并對(duì)噪聲圖像進(jìn)行去噪。去噪過程中選取了2000張512×512大小的CT圖像,將其切片成128×128大小并去除空氣含量大于50%的圖像,剩下的80%用作訓(xùn)練,20%用作測(cè)試。3.2.2實(shí)驗(yàn)環(huán)境本章實(shí)驗(yàn)的硬件環(huán)境是window10系統(tǒng),CPU型號(hào)為InterCorei7-9700KCPU,內(nèi)存16G,顯卡型號(hào)為NVIDIARTX2070s,顯存為8G;軟件環(huán)境使用語言為Python(Python3.7版本)。3.2.3參數(shù)設(shè)置表3.1為實(shí)驗(yàn)參數(shù)設(shè)置表。表3.1參數(shù)設(shè)置實(shí)驗(yàn)參數(shù)設(shè)置0.80.2batchsize32迭代次數(shù)1003.2.4實(shí)驗(yàn)結(jié)果分析訓(xùn)練過程中記錄了去噪模型的損失,如圖3.3所示,在迭代了20次之后,損失趨于收斂,訓(xùn)練趨于穩(wěn)定。將訓(xùn)練好的網(wǎng)絡(luò)模型用于噪聲圖像進(jìn)行去噪,如圖3.4所示,可以看出,去噪后的CT圖像更像原始CT圖像,保存了紋理中的大部分細(xì)節(jié),提供了更好的視覺效果。同樣,由表3.2數(shù)據(jù)可以看出,去噪后相比于去噪前的圖像,與原始CT圖像的結(jié)構(gòu)相似性指數(shù)更高,峰值信噪比更大,圖像質(zhì)量明顯提升。表3.2去噪前后參數(shù)峰值信噪比(PSNR)/dB結(jié)構(gòu)相似性指數(shù)(SSIM)噪聲圖像24.940.54去噪圖像32.330.79圖3.3去噪模型損失函數(shù)曲線(a)原始CT圖像(b)噪聲圖像(c)去噪圖像圖3.4去噪結(jié)果3.3本章小結(jié)本章主要針對(duì)因?yàn)槌上駲C(jī)器的不同,肺部CT圖像中可能會(huì)存在噪聲影響CT圖像的質(zhì)量,構(gòu)建基于DRL-E-MP網(wǎng)絡(luò)的圖像去噪模型對(duì)肺部CT圖像進(jìn)行去噪。首先對(duì)圖像進(jìn)行歸一化,然后對(duì)圖像進(jìn)行去噪。經(jīng)LUNA16公開數(shù)據(jù)集實(shí)驗(yàn),結(jié)果表明所構(gòu)建的圖像去噪模型可以很好地改善肺部CT圖像的質(zhì)量。4基于卷積神經(jīng)網(wǎng)絡(luò)的肺結(jié)節(jié)檢測(cè)4.1結(jié)節(jié)檢測(cè)模型4.1.1檢測(cè)模型建立YOLOv3[36]具有較高的檢測(cè)速度以及準(zhǔn)確率,在檢測(cè)過程中,將一個(gè)單神經(jīng)網(wǎng)絡(luò)應(yīng)用于整張圖像,提取圖像各個(gè)區(qū)域的特征信息,對(duì)每個(gè)區(qū)域的邊界框進(jìn)行預(yù)測(cè),得到概率較高的區(qū)域就可以視為檢測(cè)結(jié)果。YOLOv3[37]在YOLOv2上主要做了以下改進(jìn):(1)采用獨(dú)立邏輯的分類器代替softmax分類器;(2)采用與金字塔相似的概念從多個(gè)尺度中提取特征;(3)采用新的基礎(chǔ)網(wǎng)絡(luò)架構(gòu)Darknet-53(53個(gè)卷積層),并加入了殘差網(wǎng)絡(luò)。YOLOv3使用K-means聚類方法[38]得到9個(gè)不同大小的聚類中心,分別應(yīng)用于3種尺度上進(jìn)行預(yù)測(cè),每種尺度預(yù)測(cè)3個(gè)不同大小的邊界框。YOLOv3和GooLeNet網(wǎng)絡(luò)[39]模型結(jié)構(gòu)類似,都是以Darknet53為基礎(chǔ)網(wǎng)絡(luò)。尺度1的預(yù)測(cè)特征層大小是16×16,用于檢測(cè)大目標(biāo);尺度2的預(yù)測(cè)特征層大小是32×32,用于檢測(cè)中等目標(biāo);尺度3的預(yù)測(cè)特征層大小是64×64,用于檢測(cè)小目標(biāo)。YOLOv3_spp網(wǎng)絡(luò)是在YOLOv3的基礎(chǔ)上加以改進(jìn)的,結(jié)構(gòu)如圖4.1所示,在Darknet53輸出與預(yù)測(cè)層1之間加入了一個(gè)spp結(jié)構(gòu),如圖4.2所示,實(shí)現(xiàn)了不同尺度的特征融合,豐富最終特征圖的表達(dá)能力,從而提高檢測(cè)準(zhǔn)確率。其網(wǎng)絡(luò)結(jié)構(gòu)主要包括三部分:Darknet-53層、預(yù)測(cè)特征層和分類層。Darknet-53層:有53層卷積層,對(duì)圖像進(jìn)行特征提取,加入BN層對(duì)特征進(jìn)行標(biāo)準(zhǔn)化,同時(shí)為了增加非線性,采用LeakyReLU激活函數(shù)。其中使用了殘差學(xué)習(xí)技術(shù),通過添加快捷鍵獲取更多的淺層信息,加強(qiáng)網(wǎng)絡(luò)的學(xué)習(xí)能力。預(yù)測(cè)特征層:Darknet-53層的輸出通過快捷鍵連接后拼接,輸入到預(yù)測(cè)特征層。分類層:將預(yù)測(cè)特征層的輸出作為輸入,通過卷積層產(chǎn)生模型的最終輸出,最后一層通道數(shù)(Filters)大小為Filters=3×(classes+5)。其中classes是類別數(shù)。圖4.1YOLOv3_spp網(wǎng)絡(luò)模型結(jié)構(gòu)圖圖4.2SPP結(jié)構(gòu)圖4.1.2算法步驟結(jié)節(jié)檢測(cè)模型的算法步驟如下:首先加載數(shù)據(jù),對(duì)肺部CT圖像進(jìn)行肺實(shí)質(zhì)分割,得到肺實(shí)質(zhì)圖像;設(shè)置結(jié)節(jié)檢測(cè)模型參數(shù),將肺實(shí)質(zhì)圖像加載到結(jié)節(jié)檢測(cè)模型中進(jìn)行訓(xùn)練;增加迭代次數(shù),保存最優(yōu)的結(jié)節(jié)檢測(cè)模型權(quán)重;將最優(yōu)的模型權(quán)重加載到模型中對(duì)測(cè)試圖像進(jìn)行預(yù)測(cè),得到檢測(cè)結(jié)果,并與標(biāo)簽信息進(jìn)行對(duì)比。4.1.3評(píng)價(jià)指標(biāo)為了驗(yàn)證檢測(cè)模型的準(zhǔn)確性,對(duì)測(cè)試集的檢測(cè)結(jié)果與標(biāo)簽信息進(jìn)行對(duì)比,采用IoU(交并比)來判斷預(yù)測(cè)是否正確。當(dāng)IoU>0.5時(shí)預(yù)測(cè)正確,否則預(yù)測(cè)錯(cuò)誤。其中IoU表示原標(biāo)簽邊界框與預(yù)測(cè)邊界框的重疊度,計(jì)算方式如圖4.3和等式4-1所示;GIoU在IoU的基礎(chǔ)上改進(jìn)而來,對(duì)標(biāo)簽邊界框與預(yù)測(cè)邊界框的非重疊區(qū)域也有所關(guān)注,可以更好地反映兩者的重合度,計(jì)算方式如圖4.4和等式4-2所示。圖4.3IoU計(jì)算示意圖圖4.4GIoU計(jì)算示意圖 (4-1) (4-2)IoU損失和GIoU損失由等式4-3、等式4-4計(jì)算: (4-3) (4-4)準(zhǔn)確率(Precision)、召回率(Recall)由等式4-5、等式4-6計(jì)算: (4-5) (4-6)其中,RT表示檢測(cè)出的結(jié)節(jié)與標(biāo)記結(jié)節(jié)位置相同的CT圖像數(shù)目,F(xiàn)P表示檢測(cè)出的結(jié)節(jié)與標(biāo)記結(jié)節(jié)位置不同的CT圖像數(shù)目,F(xiàn)N表示未檢測(cè)出結(jié)節(jié)但標(biāo)記存在結(jié)節(jié)的CT圖像數(shù)目。4.2實(shí)驗(yàn)及結(jié)果分析4.2.1數(shù)據(jù)集本實(shí)驗(yàn)仍采用LUNA16公開數(shù)據(jù)集。在LUNA16數(shù)據(jù)集中選取了450張肺部CT圖像,將其按80%、15%、5%的比例分為訓(xùn)練集、驗(yàn)證集和測(cè)試集,用于后續(xù)實(shí)驗(yàn)。4.2.2實(shí)驗(yàn)環(huán)境為了加快訓(xùn)練速度,本章實(shí)驗(yàn)的硬件環(huán)境是ubuntu20.04,CPU型號(hào)為Inter?Xeon(R)Sliver4114CPU@2.20GHz×40,內(nèi)存64G,顯卡型號(hào)為NVIDIAGeForceGTX1080Ti;軟件環(huán)境使用語言為Python(Python3.6版本)。4.2.3參數(shù)設(shè)置在訓(xùn)練過程中,設(shè)置了六組實(shí)驗(yàn),參數(shù)設(shè)置如表4.1所示。表4.1參數(shù)設(shè)置實(shí)驗(yàn)編號(hào)batchsize迭代次數(shù)14450023225003324500432700053212000632150004.2.4實(shí)驗(yàn)結(jié)果分析為了驗(yàn)證基于YOLOv3_spp網(wǎng)絡(luò)的肺結(jié)節(jié)檢測(cè)方法的有效性,設(shè)置不同的batchsize和迭代次數(shù)對(duì)結(jié)節(jié)檢測(cè)模型進(jìn)行訓(xùn)練。首先為了排除肺部CT圖像中背景對(duì)肺結(jié)節(jié)檢測(cè)的影響,對(duì)肺實(shí)質(zhì)進(jìn)行分割,只有在CT圖像中提取出肺實(shí)質(zhì),才能夠進(jìn)一步更好的檢測(cè)肺結(jié)節(jié)。本文采用閾值分割法對(duì)肺部CT進(jìn)行肺實(shí)質(zhì)分割,首先根據(jù)肺部和背景在灰度值上的差異,設(shè)定合適的閾值,掃描CT圖像的像素點(diǎn)值進(jìn)行比較,判斷屬于背景還是待提取的肺實(shí)質(zhì),產(chǎn)生二值圖像,然后計(jì)算圖像的連通域,獲得最大連通域,采用腐蝕和膨脹操作分別濾除圖像中的顆粒以及吞噬肺部區(qū)域的血管,去除黑色噪聲,最后提取肺實(shí)質(zhì)mask,通過掩碼操作將肺實(shí)質(zhì)分割出來,分割好的肺實(shí)質(zhì)如圖4.5所示。(a)原始CT圖像(b)獲得掩碼(c)得到肺實(shí)質(zhì)圖4.5肺實(shí)質(zhì)分割圖像將切割好的肺實(shí)質(zhì)圖像與肺結(jié)節(jié)標(biāo)簽放入YOLOv3_spp網(wǎng)絡(luò)模型訓(xùn)練,得到六組實(shí)驗(yàn)結(jié)果如圖4.6至圖4.11所示。(a)IoU=0.50時(shí)mAP曲線圖(b)GIoU_Loss曲線圖圖4.6batchsize=4時(shí)迭代4500次訓(xùn)練結(jié)果(a)IoU=0.50時(shí)mAP曲線圖(b)GIoU_Loss曲線圖圖4.7batchsize=32時(shí)迭代2500次訓(xùn)練結(jié)果(a)IoU=0.50時(shí)mAP曲線圖(b)GIoU_Loss曲線圖圖4.8batchsize=32時(shí)迭代4500次訓(xùn)練結(jié)果(a)IoU=0.50時(shí)mAP曲線圖(b)GIoU_Loss曲線圖圖4.9batchsize=32時(shí)迭代7000次訓(xùn)練結(jié)果(a)IoU=0.50時(shí)mAP曲線圖(b)GIoU_Loss曲線圖圖4.10batchsize=32時(shí)迭代12000次訓(xùn)練結(jié)果(a)IoU=0.50時(shí)mAP曲線圖(b)GIoU_Loss曲線圖圖4.11batchsize=32時(shí)迭代15000次訓(xùn)練結(jié)果由圖4.6至圖4.11可以看出,設(shè)置IoU=0.5。當(dāng)batchsize=4時(shí),迭代4500次,mAP=0.42,損失值在前100次迭代迅速下降,GIoU_Loss降到了0.8。而當(dāng)batchsize=32時(shí),迭代2500次,mAP=0.75,GIoU_Loss降到了0.8。batchsize表示在每次迭代過程中一次性最多放入的樣本數(shù)量,增大batchsize,可以增加內(nèi)存利用率,減少每次迭代運(yùn)行次數(shù),提高模型的優(yōu)化程度和速度,同時(shí)減小訓(xùn)練震蕩,但仍然需要根據(jù)運(yùn)行機(jī)器的內(nèi)存合理設(shè)置batchsize的大小。實(shí)驗(yàn)中將batchsize由4增大到32,加速了模型的優(yōu)化,訓(xùn)練速度加快,準(zhǔn)確率有所提高。當(dāng)batchsize=32時(shí)再次迭代至4500次,mAP=0.85,GIoU_Loss降到了0.7。再次迭代至7000次,mAP=0.88,GIoU_Loss降到了0.6。迭代至12000次,mAP=0.9,GIoU_Loss降到了0.45。迭代至15000次,mAP=0.9,GIoU_Loss降到了0.38。可以看出隨著迭代次數(shù)的增加,平均準(zhǔn)確率不斷提高至0.9,GIoU_Loss不斷減小,并逐漸趨于收斂。最后將訓(xùn)練好的權(quán)重加載到模型中用于肺結(jié)節(jié)檢測(cè),得到圖4.12所示的檢測(cè)結(jié)果,可以看出,正確檢測(cè)出了肺結(jié)節(jié)。將測(cè)試集輸入檢測(cè)模型,得到測(cè)試數(shù)據(jù)如記錄在表4.2中??梢缘贸鲈摍z測(cè)網(wǎng)絡(luò)模型的準(zhǔn)確率為89.3%,召回率為92.6%,平均檢測(cè)時(shí)間為1.08s。表4.2測(cè)試結(jié)果評(píng)價(jià)指標(biāo)測(cè)試數(shù)據(jù)準(zhǔn)確率/%89.3召回率/%92.6平均檢測(cè)時(shí)間/s1.08(a)標(biāo)簽圖像1(b)檢測(cè)結(jié)果1(c)標(biāo)簽圖像2(d)檢測(cè)結(jié)果2圖4.12檢測(cè)結(jié)果4.3本章小結(jié)針對(duì)于現(xiàn)有檢測(cè)模型復(fù)雜且運(yùn)算速度慢的問題,提出了基于YOLOv3_spp網(wǎng)絡(luò)的肺結(jié)節(jié)檢測(cè)方法。首先對(duì)肺部CT圖像進(jìn)行肺實(shí)質(zhì)分割,再將分割好的肺實(shí)質(zhì)圖像加載到檢測(cè)模型,最后對(duì)結(jié)節(jié)進(jìn)行檢測(cè)。經(jīng)LUNA16公開數(shù)據(jù)集實(shí)驗(yàn),結(jié)果表明所提出的檢測(cè)方法是非常有效的,其準(zhǔn)確率高達(dá)89.3%,召回率達(dá)到92.6%。5系統(tǒng)總體設(shè)計(jì)5.1整體結(jié)構(gòu)肺癌輔助診斷系統(tǒng)主要由四部分組成:數(shù)據(jù)加載、數(shù)據(jù)預(yù)處理、肺實(shí)質(zhì)分割以及肺結(jié)節(jié)檢測(cè)。首先讀取患者對(duì)應(yīng)的編號(hào)文件加載CT圖像,對(duì)CT圖像進(jìn)行歸一化、圖像去噪等操作,然后對(duì)CT圖像進(jìn)行肺實(shí)質(zhì)分割,最后對(duì)分割好的肺實(shí)質(zhì)圖像進(jìn)行結(jié)節(jié)檢測(cè)。系統(tǒng)設(shè)計(jì)流程如圖5.1所示。圖5.1系統(tǒng)設(shè)計(jì)流程圖5.1.1圖像去噪模塊首先加載數(shù)據(jù),對(duì)CT圖像進(jìn)行歸一化,采用DRL-E-MP網(wǎng)絡(luò)來去除肺部CT圖像中的噪聲,訓(xùn)練DRL-E-MP網(wǎng)絡(luò)的模型權(quán)重使模型達(dá)到最優(yōu),并將訓(xùn)練好的權(quán)重載入模型用于肺部CT圖像去噪。具體實(shí)驗(yàn)步驟如下:數(shù)據(jù)預(yù)處理:加載數(shù)據(jù),對(duì)CT圖像進(jìn)行歸一化,得到歸一化圖像,并將歸一化圖像分為訓(xùn)練集和測(cè)試集;模型訓(xùn)練:將訓(xùn)練集圖像輸入到圖像去噪模型中進(jìn)行訓(xùn)練,通過增加迭代次數(shù),調(diào)整模型參數(shù),得到最優(yōu)去噪模型,具體訓(xùn)練流程圖如圖5.2(a)所示;模型測(cè)試:將測(cè)試集加載到訓(xùn)練好的圖像去噪模型上進(jìn)行測(cè)試,得到測(cè)試集的去噪圖像,將測(cè)試集的去噪圖像與噪聲圖像進(jìn)行對(duì)比,得到模型評(píng)價(jià)指標(biāo),驗(yàn)證模型的性能。(a)去噪模型(b)檢測(cè)模型圖5.2模型訓(xùn)練流程圖5.1.2結(jié)節(jié)檢測(cè)模塊將肺部CT圖像進(jìn)行肺實(shí)質(zhì)分割,得到肺實(shí)質(zhì)圖像,然后將肺實(shí)質(zhì)圖像放入YOLOv3_spp網(wǎng)絡(luò)模型中訓(xùn)練,得到最優(yōu)的模型權(quán)重,將權(quán)重加載到模型用于肺結(jié)節(jié)檢測(cè)。具體實(shí)驗(yàn)步驟如下:數(shù)據(jù)預(yù)處理:加載數(shù)據(jù),對(duì)CT圖像進(jìn)行肺實(shí)質(zhì)分割,得到肺實(shí)質(zhì)圖像,并將肺實(shí)質(zhì)圖像分為訓(xùn)練集、驗(yàn)證集和測(cè)試集;模型訓(xùn)練:將訓(xùn)練集和驗(yàn)證集圖像輸入結(jié)節(jié)檢測(cè)模型中進(jìn)行訓(xùn)練,通過增加迭代次數(shù),得到最優(yōu)檢測(cè)模型,具體訓(xùn)練流程圖如圖5.2(b)所示;模型測(cè)試:將測(cè)試集加載到訓(xùn)練好的結(jié)節(jié)檢測(cè)模型上進(jìn)行測(cè)試,得到測(cè)試集的檢測(cè)結(jié)果,將測(cè)試集的檢測(cè)結(jié)果與標(biāo)簽信息進(jìn)行對(duì)比,得到模型評(píng)價(jià)指標(biāo),驗(yàn)證模型的性能5.2用戶界面設(shè)計(jì)本系統(tǒng)通過Python3.7語言設(shè)計(jì),使用tkinter庫設(shè)計(jì)用戶界面,允許用戶通過選擇命令、調(diào)用程序來執(zhí)行任務(wù)。實(shí)現(xiàn)人機(jī)交互,輔助醫(yī)生進(jìn)行肺癌診斷。用戶界面設(shè)計(jì)如圖5.3所示。其中,設(shè)置了開始、上一張、下一張和結(jié)束四個(gè)按鈕,用于判斷是否執(zhí)行程序以及執(zhí)行哪位患者的CT圖像,同時(shí)在上方患者姓名處會(huì)顯示患者對(duì)應(yīng)的文件名稱。之后設(shè)置了原始CT圖像、去噪CT圖像、肺實(shí)質(zhì)分割以及肺結(jié)節(jié)檢測(cè)四個(gè)按鈕,通過點(diǎn)擊按鈕分別得到原始CT圖像、去噪CT圖像、肺實(shí)質(zhì)圖像以及肺結(jié)節(jié)檢測(cè)圖像并輸出程序運(yùn)行結(jié)果。圖5.3用戶界面設(shè)計(jì)示意圖通過點(diǎn)擊開始按鈕啟動(dòng)程序,輸入第一張CT圖像,并在患者姓名下方顯示患者CT圖像對(duì)應(yīng)的文件名,分別點(diǎn)擊原始CT圖像、去噪CT圖像、肺實(shí)質(zhì)分割以及肺結(jié)節(jié)檢測(cè)四個(gè)按鈕,如圖5.4所示得到原始CT圖像、去噪CT圖像、肺實(shí)質(zhì)圖像以及肺結(jié)節(jié)檢測(cè)圖像,并在右下方顯示程序運(yùn)行的結(jié)果。點(diǎn)擊上一張或下一張按鈕,將更改CT圖像,得到其他CT圖像的運(yùn)行結(jié)果。最后通過點(diǎn)擊結(jié)束按鈕關(guān)閉程序。圖5.4用戶界面顯示示意圖5.3本章小結(jié)本章針對(duì)現(xiàn)有圖像去噪模型和檢測(cè)模型,設(shè)計(jì)出一種肺癌輔助診斷系統(tǒng),主要包括用戶界面設(shè)計(jì),肺部CT圖像加載,圖像去噪,肺實(shí)質(zhì)分割以及肺結(jié)節(jié)檢測(cè)等操作,實(shí)現(xiàn)輔助醫(yī)生進(jìn)行肺癌診斷的功能。結(jié)論本文主要研究工作和所獲結(jié)論如下:基于卷積神經(jīng)網(wǎng)絡(luò)的肺部CT圖像去噪。由于肺部CT圖像中可能會(huì)存在噪聲,構(gòu)建基于DRL-E-MP網(wǎng)絡(luò)的圖像去噪模型對(duì)肺部CT圖像進(jìn)行去噪。首先對(duì)圖像進(jìn)行歸一化,再對(duì)圖像進(jìn)行去噪處理。經(jīng)LUNA16公開數(shù)據(jù)集實(shí)驗(yàn),結(jié)果表明所構(gòu)建的圖像去噪模型可以很好地改善肺部CT圖像的質(zhì)量。基于卷積神經(jīng)網(wǎng)絡(luò)的肺結(jié)節(jié)檢測(cè)。針對(duì)于現(xiàn)有檢測(cè)模型復(fù)雜且運(yùn)算速度慢的問題,研究基于YOLOv3_spp網(wǎng)絡(luò)的肺結(jié)節(jié)檢測(cè)方法,首先對(duì)肺部CT圖像進(jìn)行肺實(shí)質(zhì)分割,再將分割好的肺實(shí)質(zhì)圖像加載到檢測(cè)模型,最后對(duì)結(jié)節(jié)進(jìn)行檢測(cè)。經(jīng)LUNA16公開數(shù)據(jù)集實(shí)驗(yàn),結(jié)果表明所提出的檢測(cè)方法是非常有效的,其準(zhǔn)確率高達(dá)89.3%,召回率達(dá)92.6%。系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)。針對(duì)現(xiàn)有圖像去噪模型以及檢測(cè)模型,設(shè)計(jì)一種肺癌輔助診斷系統(tǒng),主要包括用戶界面設(shè)計(jì),肺部CT圖像加載,圖像去噪,肺實(shí)質(zhì)分割以及肺結(jié)節(jié)檢測(cè)等操作,實(shí)現(xiàn)輔助醫(yī)生進(jìn)行肺癌診斷的功能。下一步的工作展望:本文采用LUNA16公開數(shù)據(jù)集,數(shù)據(jù)集正負(fù)樣本不平衡,僅包含正樣本(有肺結(jié)節(jié)),接下來可以增加數(shù)據(jù)集數(shù)量,加入一些很多類似肺結(jié)節(jié)但不是肺結(jié)節(jié)的例子,繼續(xù)優(yōu)化檢測(cè)模型,提高檢測(cè)準(zhǔn)確率。本文針對(duì)肺癌輔助診斷系統(tǒng)中的關(guān)鍵技術(shù)進(jìn)行了研究,完成了系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn),但本文是基于二維空間對(duì)肺部CT圖像進(jìn)行研究分析,接下來應(yīng)該將二維空間轉(zhuǎn)化到三維空間上,充分利用肺部CT圖像的空間信息,完善系統(tǒng)的性能。參考文獻(xiàn)ValenteI,CortePC,NetoEC,etal.Automatic3DpulmonarynoduledetectioninCTimages:Asurvey[J].ComputerMethods&ProgramsinBiomedicine,2016,124(C):91-107.鄧忠豪,陳曉東.基于深度卷積神經(jīng)網(wǎng)絡(luò)的肺結(jié)節(jié)檢測(cè)算法[J].計(jì)算機(jī)應(yīng)用,2019,39(07):2109-2115.趙錫鵬,徐輝,黃卓,等.低劑量CT肺部掃描患者劑量與圖像質(zhì)量研究[J].中國(guó)輻射衛(wèi)生,2020,29(05):575-579.趙清一,孔平,閔建中,等.肺結(jié)節(jié)檢測(cè)與分類的深度學(xué)習(xí)方法綜述[J].生物醫(yī)學(xué)工程學(xué)雜志,2019,36(06):1060-1068.苗光,李朝鋒.二維和三維卷積神經(jīng)網(wǎng)絡(luò)相結(jié)合的CT圖像肺結(jié)節(jié)檢測(cè)方法[J].激光與光電子學(xué)進(jìn)展,2018,55(05):135-143.武盼盼.基于肺部CT圖像的肺結(jié)節(jié)檢測(cè)技術(shù)研究[D].天津:河北工業(yè)大學(xué),2017.田娟秀,劉國(guó)才,谷珊珊,等.醫(yī)學(xué)圖像分析深度學(xué)習(xí)方法研究與挑戰(zhàn)[J].自動(dòng)化學(xué)報(bào),2018,44(03):401-424.唐思源,劉燕茹,楊敏,等.基于CT圖像的肺結(jié)節(jié)檢測(cè)與識(shí)別[J].中國(guó)醫(yī)學(xué)物理學(xué)雜志,2019,36(07):800-807.HuangG,LiuZ,LaurensV,etal.DenselyConnectedConvolutionalNetworks[C]//ProceedingsoftheIEEEconferenceoncomputervisionandpatternrecognition(CVPR),2017:4700-4708.XieS,GirshickR,PDollár,etal.AggregatedResidualTransformationsforDeepNeuralNetworks[C]//2017IEEEConferenceonComputerVisionandPatternRecognition(CVPR),2017:5987-5995.ChenY,LiJ,XiaoH,etal.DualPathNetworks[C]//ConferenceandWorkshoponNeuralInformationProcessingSystems(NIPS),2017:4470-4478.GirshickR,DonahueJ,DarrellT,etal.Richfeaturehierarchiesforaccurateobjectdetectionandsemanticsegmentation[C]//IEEEConferenceonComputerVisionandPatternRecognition,2014:580-587.RenS,HeK,GirshickR,etal.FasterR-CNN:TowardsReal-TimeObjectDetectionwithRegionProposalNetworks[J].IEEETransactionsonPatternAnalysis&MachineIntelligence,2017,39(6):1137-1149.RedmonJ,DivvalaS,GirshickR,etal.Youonlylookonce:unified,real-timeobjectdetection[C]//ProceedingsofIEEEConferenceonComputerVisionandPatternRecognition,2016:779-788.RedmonJ,FarhadiA.YOLO9000:Better,Faster,Stronger[C]//2017IEEEConferenceonComputerVisionandPatternRecognition(CVPR),2017:6517-6525RedmonJ,FarhadiA.YOLOv3:AnIncrementalImprovement[J].arX,2018.Abdel-HamidO,Abdel-Rahman,etal.Convolutionalneuralnetworksforspeechrecognition[J].IEEE/ACMTransactionsonAudio,SpeechandLanguageProcessing(TASLP),2014,22(10):1533-1545.BogdanovaD,SantosCD,BarbosaL,etal.DetectingSemanticallyEquivalentQuestionsinOnlineUserForums[C]//NineteenthConferenceonComputationalNaturalLanguageLearning,2015:123-131.YangQ,YanP,ZhangY,etal.Low-DoseCTImageDenoisingUsingaGenerativeAdversarialNetworkWithWassersteinDistanceandPerceptualLoss[J].IEEETransactionsonMedicalImaging,2018,37(6):1348-1357.HuC,ZhangY,ZhangW,etal.Low-doseCTviaconvolutionalneuralnetwork[J].BiomedicalOpticsExpress,2017,8(2):679-694.KanE,MinJ,YeJC.Adeepconvolutionalneuralnetworkusingdirectionalwaveletsforlow-doseX-rayCTreconstruction[J].AmericanAssociationofPhysicistsinMedicine,2017,44(10):360-375.Maryam,Gholizadeh-Ansari,Javad,etal.Low-doseCTDenoisingUsingEdgeDetectionLayerandPerceptualLoss[C]//201941stAnnualInternationalConferenceoftheIEEEEngineeringinMedicine&BiologySociety(EMBC),2019:6247-6250.陳樹越,晁亞,鄒凌.基于幾何特征的孤立性肺結(jié)節(jié)檢測(cè)[J].生物醫(yī)學(xué)工程學(xué)雜志,2016,33(04):680-685.劉銀鳳,張俊杰,周濤,等.基于多維特征和支持向量機(jī)核函數(shù)優(yōu)化的自動(dòng)化肺結(jié)節(jié)檢測(cè)模型[J].生物醫(yī)學(xué)工程研究,2016,35(02):75-80.董林佳,強(qiáng)彥,趙涓涓,等.基于三維形狀指數(shù)的肺結(jié)節(jié)自動(dòng)檢測(cè)方法[J].計(jì)算機(jī)應(yīng)用,2017,37(11):3182-3187.譚雨蒙,劉毛,傅旭鵬,等.基于FasterR-CNN的肺結(jié)節(jié)檢測(cè)改進(jìn)方法[J].浙江師范大學(xué)學(xué)報(bào)(自然科學(xué)版),2020,43(04):396-402.SetioA,CiompiF,Litjens
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 基于大數(shù)據(jù)的2025年度冷藏車調(diào)度管理系統(tǒng)合同2篇
- 長(zhǎng)沙衛(wèi)生職業(yè)學(xué)院《中國(guó)古典文獻(xiàn)學(xué)》2023-2024學(xué)年第一學(xué)期期末試卷
- 2025版智能建筑抹灰分項(xiàng)工程勞務(wù)服務(wù)協(xié)議書4篇
- 科技助力川菜館實(shí)現(xiàn)可持續(xù)發(fā)展
- 從用戶需求出發(fā)的未來酒店餐飲空間設(shè)計(jì)策略
- 小學(xué)科學(xué)課程中實(shí)踐活動(dòng)的開展與問題解決
- 2025版門樓金屬卷簾門安裝與維護(hù)服務(wù)合同4篇
- 2025年度高端別墅定制設(shè)計(jì)與建造合同協(xié)議2篇
- 2024鋁質(zhì)板材市場(chǎng)銷售合作協(xié)議2篇
- 父母心理韌性培養(yǎng)家庭教育的關(guān)鍵要素
- 普通高中生物新課程標(biāo)準(zhǔn)
- 茉莉花-附指法鋼琴譜五線譜
- 結(jié)婚函調(diào)報(bào)告表
- SYT 6968-2021 油氣輸送管道工程水平定向鉆穿越設(shè)計(jì)規(guī)范-PDF解密
- 冷庫制冷負(fù)荷計(jì)算表
- 肩袖損傷護(hù)理查房
- 設(shè)備運(yùn)維管理安全規(guī)范標(biāo)準(zhǔn)
- 辦文辦會(huì)辦事實(shí)務(wù)課件
- 大學(xué)宿舍人際關(guān)系
- 2023光明小升初(語文)試卷
- GB/T 14600-2009電子工業(yè)用氣體氧化亞氮
評(píng)論
0/150
提交評(píng)論