基于CNN結(jié)合雙向LSTM網(wǎng)絡(luò) 的心電圖異常分析

LSTM單元一般由三個(gè)門(mén)控單元（輸入門(mén)、遺忘門(mén)、輸出門(mén)）和一個(gè)記憶單元組成，它們共同決定了如何更新內(nèi)部狀態(tài)和輸出值。LSTM單元的計(jì)算過(guò)程如下：其中，表示sigmoid函數(shù)，表示逐元素乘法，分別表示遺忘門(mén)、輸入門(mén)、輸出門(mén)、記憶單元、隱藏單元在時(shí)刻的值，分別表示各個(gè)門(mén)控單元和記憶單元對(duì)應(yīng)的權(quán)重矩陣和偏置向量。雙向LSTM是在正向和反向兩個(gè)方向上都運(yùn)行LSTM單元并將其輸出拼接起來(lái)形成一個(gè)新的張量的過(guò)程，即：其中，表示正向LSTM單元在時(shí)刻的輸出，表示反向LSTM單元在時(shí)刻的輸出，表示拼接操作。經(jīng)過(guò)雙向LSTM層后，本文得到了一個(gè)包含了時(shí)序信息的張量作為下一層的輸入。3.2.5全連接層全連接層用來(lái)將上一層所有節(jié)點(diǎn)與當(dāng)前層所有節(jié)點(diǎn)相連，并通過(guò)權(quán)重矩陣計(jì)算輸出值。全連接層通常用于最后一層或倒數(shù)第二層，在前者時(shí)通常配合激活函數(shù)實(shí)現(xiàn)分類或回歸任務(wù)，在后者時(shí)通常用于提取高級(jí)特征。本文在雙向LSTM后添加了一個(gè)全連接層作為最后一層，并利用softmax函數(shù)作為激活函數(shù)完成多分類任務(wù)。softmax函數(shù)將輸入向量轉(zhuǎn)換為一個(gè)概率分布，即每個(gè)元素都在0到1之間，并且所有元素之和為1。softmax函數(shù)的定義如下：其中，表示輸入向量的第個(gè)元素，表示輸入向量的維度。本文使用softmax函數(shù)將全連接層的輸出轉(zhuǎn)換為一個(gè)長(zhǎng)度為類別數(shù)的向量，表示每個(gè)類別的概率。本文使用交叉熵函數(shù)作為損失函數(shù)。交叉熵的定義如下：其中，表示真實(shí)標(biāo)簽的第個(gè)元素，表示預(yù)測(cè)概率的第個(gè)元素，表示類別數(shù)。本文使用Adam優(yōu)化器進(jìn)行網(wǎng)絡(luò)參數(shù)的更新，使用學(xué)習(xí)率衰減策略調(diào)整學(xué)習(xí)率。本文使用Keras框架實(shí)現(xiàn)了該深度學(xué)習(xí)網(wǎng)絡(luò)模型。3.3訓(xùn)練及仿真部分3.3.1模型訓(xùn)練本文的代碼在win10（64位）操作系統(tǒng)上運(yùn)行。本文使用Anaconda作為Python的包管理器，并創(chuàng)建了一個(gè)名為"tf1.15_py3.7"的虛擬環(huán)境，確保代碼運(yùn)行的穩(wěn)定性。本文的代碼在一臺(tái)配備了NVIDIAGeForceGTX3050TiGPU上進(jìn)行了加速，通過(guò)TensorFlow來(lái)實(shí)現(xiàn)GPU加速功能。本文在網(wǎng)絡(luò)上找到了可以支持CUDA11的特殊版本的TensorFlow1.15，解決了CUDA11+僅支持tensorflow2版本及以上的問(wèn)題。主要使用了以下主要的軟件庫(kù)和框架：3.3.2模型分類結(jié)果分析損失函數(shù)（lossfunction）是用來(lái)判斷模型的分類結(jié)果與真實(shí)標(biāo)簽之間誤差程度的運(yùn)算函數(shù)。損失函數(shù)輸出的值越低，代表模型擬合的程度越高，損失函數(shù)的意義如REF_Ref13031\h圖3.4所示：本文的仿真使用了cpsd-2018數(shù)據(jù)集，對(duì)DNN網(wǎng)絡(luò)和CNN結(jié)合LSTM網(wǎng)絡(luò)進(jìn)行了仿真。CNN結(jié)合LSTM方案的混淆矩陣如REF_Ref13207\h圖3.5所示。通過(guò)觀察可以發(fā)現(xiàn)，模型基本上可以較清晰的分別出各種疾病，但是對(duì)PAC和STE類不是很敏感，對(duì)應(yīng)的是房性早搏和ST段抬升。下REF_Ref13227\h圖3.6是此模型的loss曲線。從圖中可以看出，模型在第20次循環(huán)時(shí)loss快速降低，在約60次時(shí)經(jīng)歷一次小波動(dòng)后趨于穩(wěn)定，loss值基本保持收斂。在這里本文依舊使用準(zhǔn)確率(Accuracy)、靈敏度(Sensitivity)、特異度(Specificity)和F1值(F1-score)四個(gè)指標(biāo)來(lái)對(duì)模型進(jìn)行評(píng)價(jià)。數(shù)據(jù)通過(guò)混淆矩陣使用公式來(lái)計(jì)算獲得。公式在第二章提到過(guò)，這里本文不再贅述。表3.SEQ表3.\*ARABIC3CNN結(jié)合LSTM網(wǎng)絡(luò)的性能指標(biāo)類別準(zhǔn)確率靈敏度特異度F1值正常0.840.730.860.78心房顫動(dòng)（AF）0.920.890.930.91I度房室傳導(dǎo)阻滯（I-AVB）0.900.850.910.88左束支傳導(dǎo)阻滯（LBBB）0.870.790.880.83右束支傳導(dǎo)阻滯(RBBB)0.860.710.880.79房性早搏（PAC）0.830.600.860.69室性早搏（PVC）0.900.920.900.91ST段降低（STD）0.860.740.870.80ST段升高（STE）0.770.500.800.61觀察表格可以發(fā)現(xiàn)，房性早搏（PAC）和ST段升高（STE）的分?jǐn)?shù)都相對(duì)偏低。查閱相關(guān)書(shū)籍，得知其主要的表現(xiàn)是異位P波的出現(xiàn)以及PR間期的延長(zhǎng)；ST段的變化主要是抬升和下降，其具有多種的表現(xiàn)形式。本文認(rèn)為，這兩類和ST段抬升（STD）有一個(gè)共同的特點(diǎn)，那就是相比其他的類別，它們的主要特點(diǎn)不在于宏觀形態(tài)或統(tǒng)計(jì)特性的變化，而是很具體，但是又較難準(zhǔn)確定位的波段異常。可能的原因是模型的前半段網(wǎng)絡(luò)是很基礎(chǔ)的CNN網(wǎng)絡(luò)，若使用較新的特征提取網(wǎng)絡(luò)來(lái)處理，可能就可以解決這個(gè)問(wèn)題。3.4指標(biāo)分析與算法綜合分析對(duì)比為了分析此模型的性能，本文使用cpsc-2018數(shù)據(jù)集訓(xùn)練了第二章中的DNN網(wǎng)絡(luò)模型，來(lái)與基于CNN結(jié)合LSTM網(wǎng)絡(luò)模型來(lái)做對(duì)比。本文重新處理了數(shù)據(jù)集，使它可以輸入DNN網(wǎng)絡(luò)模型。3.4.1損失值圖像對(duì)比損失圖像可以直觀的看出模型的性能。損失值通常越小越好，它可以反映模型的學(xué)習(xí)效果和收斂情況。為了比較基于CNN結(jié)合LSTM網(wǎng)絡(luò)模型和第二章中的DNN網(wǎng)絡(luò)模型在損失值方面的表現(xiàn)，本文分別繪制了兩個(gè)模型在訓(xùn)練集和驗(yàn)證集上的損失值變化曲線圖，如REF_Ref14125\h圖3.7所示。虛線是原始曲線，實(shí)線是經(jīng)過(guò)了一定程度的平滑處理后的曲線。從REF_Ref14125\h圖3.7（a）和REF_Ref14125\h圖3.7（b）中可以看出，兩個(gè)模型在訓(xùn)練集上的損失值都隨著訓(xùn)練輪數(shù)（Epoch）的增加而逐漸下降，說(shuō)明兩個(gè)模型都能夠有效地學(xué)習(xí)訓(xùn)練數(shù)據(jù)。但是，在驗(yàn)證集上的損失值方面，兩個(gè)模型表現(xiàn)出了明顯的差異。CNN結(jié)合LSTM網(wǎng)絡(luò)模型在驗(yàn)證集上的損失值也隨著訓(xùn)練輪數(shù)的增加而逐漸下降，并且與訓(xùn)練集上的損失值相差不大，說(shuō)明此模型有好的泛化能力，能夠適應(yīng)新的數(shù)據(jù)。而DNN網(wǎng)絡(luò)模型在驗(yàn)證集上的損失值則隨著訓(xùn)練輪數(shù)的增加下降，并且與訓(xùn)練集上的損失值相差較大，說(shuō)明該模型可能會(huì)出現(xiàn)過(guò)擬合現(xiàn)象，即在訓(xùn)練數(shù)據(jù)上效果良好，但在新數(shù)據(jù)上效果較差。因此，從損失值方面來(lái)看，本文的基于CNN結(jié)合LSTM網(wǎng)絡(luò)模型優(yōu)于第二章中的DNN網(wǎng)絡(luò)模型。3.4.2性能指標(biāo)對(duì)比此處使用準(zhǔn)確率，靈敏度，特異度，F(xiàn)1值這四種指標(biāo)來(lái)進(jìn)行比較，如下表進(jìn)行比較可以看到，在大部分類型的得分中，CNN結(jié)合LSTM網(wǎng)絡(luò)模型在準(zhǔn)確率，靈敏度，特異度，F(xiàn)1值這四種性能指標(biāo)表現(xiàn)的得分均高于DNN網(wǎng)絡(luò)模型的得分。由此可得CNN結(jié)合LSTM網(wǎng)絡(luò)模型對(duì)于目標(biāo)的預(yù)測(cè)效果是比DNN網(wǎng)絡(luò)模型好的。3.5本章小結(jié)本章首先介紹了基于CNN結(jié)合LSTM網(wǎng)絡(luò)的心電圖分析算法，該算法通過(guò)結(jié)合卷積神經(jīng)網(wǎng)絡(luò)（CNN）和長(zhǎng)短期記憶網(wǎng)絡(luò)（LSTM），充分利用了CNN對(duì)局部特征的感知能力和LSTM對(duì)時(shí)間序列信息的建模能力。相比傳統(tǒng)的基于特征提取和手工設(shè)計(jì)特征的方法，該算法能夠自動(dòng)從原始心電圖數(shù)據(jù)中學(xué)習(xí)并提取特征，從而實(shí)現(xiàn)更準(zhǔn)確和可靠的心電圖分類。在數(shù)據(jù)集介紹和預(yù)處理部分，詳細(xì)介紹了使用的cpsc-2018數(shù)據(jù)庫(kù)以及針對(duì)這些數(shù)據(jù)進(jìn)行的預(yù)處理方法，以確保輸入網(wǎng)絡(luò)的數(shù)據(jù)質(zhì)量和一致性。通過(guò)對(duì)數(shù)據(jù)集的充分理解和處理，并提出了本文的思路和實(shí)現(xiàn)方法。接著，詳細(xì)闡述了基于CNN結(jié)合LSTM的主體網(wǎng)絡(luò)結(jié)構(gòu)。該結(jié)構(gòu)包括24個(gè)獨(dú)立的分支，每個(gè)分支對(duì)應(yīng)一個(gè)心電圖片段，通過(guò)獨(dú)立的1維CNN對(duì)局部特征進(jìn)行提取。隨后，這些特征被送入雙向LSTM層，以建模心電圖片段之間的時(shí)間序列屬性。這種分支結(jié)構(gòu)和時(shí)間序列建模的設(shè)計(jì)，使網(wǎng)絡(luò)能夠充分利用片段之間的相關(guān)性和時(shí)序信息，從而更好地捕捉心電圖中的關(guān)鍵特征。在訓(xùn)練及仿真部分，本文對(duì)模型進(jìn)行了訓(xùn)練，并通過(guò)混淆矩陣、loss曲線和性能指標(biāo)對(duì)模型的分類結(jié)果進(jìn)行了詳細(xì)分析?；煜仃嚳梢灾庇^地展示出模型的分類效果和錯(cuò)誤分類情況，而loss曲線則可以反映模型在訓(xùn)練過(guò)程中的收斂情況和泛化能力。通過(guò)性能指標(biāo)的分析，包括準(zhǔn)確率、靈敏度、特異度等，并且評(píng)估模型在不同類別心電圖分類中的表現(xiàn)，并驗(yàn)證算法的有效性和可靠性。最后，本文將該算法與DNN網(wǎng)絡(luò)模型進(jìn)行了對(duì)比分析。通過(guò)對(duì)比損失值圖像和性能指標(biāo)的差異，數(shù)據(jù)清楚地展示了基于CNN結(jié)合LSTM網(wǎng)絡(luò)的心電圖分析算法在心電圖分類任務(wù)中的優(yōu)越性。該算法在準(zhǔn)確率、靈敏度和特異度等方面都表現(xiàn)出較高的性能，為心電圖診斷提供了一種高效、準(zhǔn)確的自動(dòng)化解決方案。綜上所述，本章提出的基于CNN結(jié)合LSTM網(wǎng)絡(luò)的心電圖分析算法在心電圖分類任務(wù)中展現(xiàn)了出色的性能和效果。通過(guò)充分利用CNN和LSTM網(wǎng)絡(luò)的優(yōu)勢(shì)，該算法能夠自動(dòng)從原始數(shù)據(jù)中提取特征，并準(zhǔn)確地對(duì)心電圖進(jìn)行分類。它能夠有效地提高心電圖分類任務(wù)的準(zhǔn)確率和性能指標(biāo)，對(duì)于臨床醫(yī)學(xué)的心電圖診斷具有重要的實(shí)際應(yīng)用意義。4總結(jié)與展望4.1總結(jié)本文主要討論基于深度學(xué)習(xí)的心電圖分析，從理論和實(shí)踐兩個(gè)方面進(jìn)行了探索和實(shí)驗(yàn)。本文首先介紹了研究背景及意義，分析了心電圖分析的重要性和應(yīng)用場(chǎng)景，以及深度學(xué)習(xí)在心電圖分析中的優(yōu)勢(shì)和挑戰(zhàn)。然后，對(duì)國(guó)內(nèi)外研究現(xiàn)狀進(jìn)行了梳理，總結(jié)了深度學(xué)習(xí)的歷史發(fā)展進(jìn)程，以及國(guó)內(nèi)外學(xué)者在心電圖分析方面的主要成果和存在的問(wèn)題。接著，介紹了基于深度學(xué)習(xí)的心電圖識(shí)別系統(tǒng)的原理及設(shè)計(jì)方法。首先，對(duì)心電圖檢測(cè)相關(guān)知識(shí)進(jìn)行了概述，包括心電信號(hào)的簡(jiǎn)介、產(chǎn)生原理、導(dǎo)聯(lián)方式、波形特征、應(yīng)用領(lǐng)域等，以及心電信號(hào)自動(dòng)分類識(shí)別算法的大致流程。其次，對(duì)深度學(xué)習(xí)相關(guān)知識(shí)進(jìn)行了介紹，包括深度學(xué)習(xí)的基本概念、原理、優(yōu)勢(shì)等，以及深度學(xué)習(xí)在心電圖識(shí)別中的應(yīng)用前景。而后介紹了兩種效果良好的CNN網(wǎng)絡(luò)模型和DNN網(wǎng)絡(luò)模型等。然后，本文主要介紹了基于CNN結(jié)合LSTM網(wǎng)絡(luò)的心電圖分析算法。首先，對(duì)CNN結(jié)合LSTM網(wǎng)絡(luò)進(jìn)行了簡(jiǎn)述，包括網(wǎng)絡(luò)的簡(jiǎn)介、數(shù)據(jù)庫(kù)介紹及數(shù)據(jù)預(yù)處理、主體網(wǎng)絡(luò)結(jié)構(gòu)等。其次，對(duì)訓(xùn)練及仿真部分進(jìn)行了詳細(xì)說(shuō)明，包括模型訓(xùn)練、模型分類結(jié)果分析、性能指標(biāo)等。最后，對(duì)指標(biāo)分析與算法綜合分析對(duì)比進(jìn)行了展示，包括損失值圖像對(duì)比、性能指標(biāo)對(duì)比等。本文的敘述了一種基于CNN結(jié)合雙向LSTM網(wǎng)絡(luò)的心電圖分析算法，該算法能夠有效地提取心電信號(hào)中的波形特征和時(shí)間序列特征，并進(jìn)行自動(dòng)分類。該算法使用CNN網(wǎng)絡(luò)提取局部特征，并使用LSTM網(wǎng)絡(luò)提取時(shí)間序列關(guān)系，對(duì)心電信號(hào)的分析判斷效果較好。在最后本文對(duì)比了基于CNN結(jié)合LSTM網(wǎng)絡(luò)模型和DNN網(wǎng)絡(luò)模型在心電圖識(shí)別方面的性能，并分析了兩種模型各自的優(yōu)劣。數(shù)據(jù)顯示，基于CNN結(jié)合LSTM網(wǎng)絡(luò)模型更加優(yōu)秀一些。4.2展望本文雖然取得了一定的成果，但仍存在一些不足之處和改進(jìn)空間：本文使用的數(shù)據(jù)庫(kù)較為有限，只涉及到MIT-BIH心律失常數(shù)據(jù)庫(kù)和cpsc-2018分類數(shù)據(jù)集。未來(lái)可以考慮使用更多更豐富更復(fù)雜的數(shù)據(jù)庫(kù)來(lái)驗(yàn)證算法的通用性和魯棒性。本文使用的網(wǎng)絡(luò)結(jié)構(gòu)較為簡(jiǎn)單，只涉及到CNN網(wǎng)絡(luò)模型、DNN網(wǎng)絡(luò)模型和CNN結(jié)合LSTM網(wǎng)絡(luò)模型。未來(lái)可以考慮使用更多更先進(jìn)更復(fù)雜的網(wǎng)絡(luò)結(jié)構(gòu)來(lái)提高算法的性能和效率?；谏疃葘W(xué)習(xí)的心電圖分析是一個(gè)具有重要意義和廣闊前景的研究領(lǐng)域。隨著科學(xué)技術(shù)的不斷發(fā)展，科技的技術(shù)成果人們生活中的應(yīng)用也會(huì)越來(lái)越廣泛，現(xiàn)在已經(jīng)有成熟的方案來(lái)實(shí)現(xiàn)隨身設(shè)備上附帶傳感器來(lái)實(shí)時(shí)檢測(cè)人們的心電特征。在不遠(yuǎn)的未來(lái)，若有需求，一定可以做出一款產(chǎn)品，來(lái)實(shí)時(shí)向用戶顯示出當(dāng)前心跳狀態(tài)，在突發(fā)事件發(fā)生時(shí)，剛好的配合醫(yī)生，來(lái)減少醫(yī)生判斷所需的事件，爭(zhēng)取到救人的機(jī)會(huì)。此外，基于深度學(xué)習(xí)的心電圖分析技術(shù)也可以為用戶提供更多更個(gè)性化的服務(wù)和建議。例如，可以根據(jù)用戶的心電信號(hào)來(lái)推薦適合的音樂(lè)、視頻、游戲等娛樂(lè)內(nèi)容，以提升用戶的情緒和興趣；也可以根據(jù)用戶的心電信號(hào)來(lái)提醒用戶注意休息、鍛煉、飲食等健康習(xí)慣，以預(yù)防心臟疾病和其他相關(guān)疾病；還可以根據(jù)用戶的心電信號(hào)來(lái)識(shí)別用戶的情感狀態(tài)和心理狀態(tài)，以提供相應(yīng)的心理輔導(dǎo)和支持?？傊?，基于深度學(xué)習(xí)的心電圖分析技術(shù)不僅可以為用戶提供及時(shí)有效的醫(yī)療救助，還可以為用戶提供豐富多樣的生活服務(wù)和指導(dǎo)。這將極大地改善用戶的生活質(zhì)量和幸福感。本文期待這樣一款產(chǎn)品能夠早日面世，并惠及廣大用戶。參考文獻(xiàn)RothGA,MensahGA,JohnsonCO,etal.Globalburdenofcardiovasculardiseasesandriskfactors,1990–2019:updatefromtheGBD2019study[J].JournaloftheAmericanCollegeofCardiology,2020,76(25):2982~3021.中國(guó)心血管健康與疾病報(bào)告2020[J].心肺血管病雜志,2021,40(10):1005~1009RosenblattF.Theperceptron:aprobabilisticmodelforinformationstorageandorganizationinthebrain[J].Psychologicalreview,1958,65(6):386~388.MinskyM,PapertS.Perceptrons:Anintroductiontocomputationalgeometry[J].Cambridge:MITPress,1969,479:480~482.HopfieldJJ.Neuralnetworksandphysicalsystemswithemergentcollectivecomputationalabilities[J].Proceedingsofthenationalacademyofsciences,1982,79(8):2554~2558.JordanMI.Serialorder:Aparalleldistributedprocessingapproach[M].North-Holland,Advancesinpsychology.1997,471~495.ElmanJL.Findingstructureintime[J].Cognitivescience,1990,14(2):179~211.RumelhartDE,HintonGE,WilliamsRJ.Learningrepresentationsbyback-propagatingerrors[J].Nature,1986,323(6088):533~536.HochreiterS,SchmidhuberJ.Longshort-termmemory[J].Neuralcomputation,1997,9(8):1735~1780.LecunY,BottouL,BengioY,etal.Gradient-basedlearningappliedtodocumentrecognition[J].ProceedingsoftheIEEE,1998,86(11):2278~2324.HintonGE,SalakhutdinovRR.Reducingthedimensionalityofdatawithneuralnetworks[J].Science,2006,313(5786):504~507.SzegedyC,LiuW,JiaY,etal.Goingdeeperwithconvolutions[C].ProceedingsoftheIEEEconferenceoncomputervisionandpatternrecognition,2015:1~9.HeK,ZhangX,RenS,etal.Deepresiduallearningforimagerecognition[C].ProceedingsoftheIEEEconferenceoncomputervisionandpatternrecognition,2016:770~778.HuJ,ShenL,SunG.Squeeze-and-excitationnetworks[C].ProceedingsoftheIEEEconferenceoncomputervisionandpatternrecognition,2018:7132~7141.VaswaniA,ShazeerN,ParmarN,etal.AttentionIsAllYouNeed[C].31stAnnualConferenceonNeuralInformationProcessingSystems(NIPS),2017.SilverD,HuangA,MaddisonCJ,etal.MasteringthegameofGowithdeepneuralnetworksandtreesearch[J].Nature,2016,529(7587):484~489.MnihV,KavukcuogluK,SilverD,etal.Human-levelcontrolthroughdeepreinforcementlearning[J].Nature,2015,518(7540):529~533.TanWR,ChanCS,AguirreHE,etal.ArtGAN:ArtworksynthesiswithconditionalcategoricalGANs[C].2017IEEEInternationalConferenceonImageProcessing,ICIP,2017:3760~3764.ZhuK,NoakesPD,GreenADP.ECGmonitoringwithartificialneuralnetworks[C].1991SecondInternationalConferenceonArtificialNeuralNetworks.1991:205~209.HeL,HouW,ZhenX,etal..RecognitionofECGPatternsUsingArtificialNeuralNetwork[C].SixthInternationalConferenceonIntelligentSystemsDesignandApplications:2.2006:477~481.SalemABM,RevettK,El-dahshanESA.Machinelearninginelectrocardiogramdiagnosis[C].2009InternationalMulticonferenceonComputerScienceandInformationTechnology.Mragowo,Poland:IEEE,2009:429~433.PandeyB,MishraRb.AnintegratedintelligentcomputingmethodforthedetectionandinterpretationofECGbasedcardiacdiseases[J].InternationalJournalofKnowledgeEngineeringandSoftDataParadigms,2010,2(2):182~203.NashifS,RaihanR,IslamMR,etal..HeartDiseaseDetectionbyUsingMachineLearningAlgorithmsandaReal-TimeCardiovascularHealthMonitoringSystem[J].WorldJournalofEngineeringandTechno