基于協(xié)同深度學(xué)習(xí)的二階段絕緣子故障檢測(cè)方法

基于協(xié)同深度學(xué)習(xí)的二階段絕緣子故障檢測(cè)方法

0基于yolov3算法的精神故障檢測(cè)方法在線路巡檢作為電氣系統(tǒng)的重要絕緣器，絕緣器在構(gòu)建的輸電線上起著重要作用，尤其是在防止電流返回給磁體方面。對(duì)絕緣器件的故障檢測(cè)一直是巡檢工作中的重要組成部分。放電檢測(cè)法是較為成熟的一種檢測(cè)手段。傳統(tǒng)的放電檢測(cè)法可以分為電檢測(cè)法和非電量檢測(cè)法。常見的電檢測(cè)法有電壓分布法、敏感電阻法、電場(chǎng)分布法等，雖然應(yīng)用效果好，但需要登塔；非電量檢測(cè)法主要以紅外圖像法和紫外圖像法為發(fā)展方向，具有可遠(yuǎn)距離、大面積快速檢測(cè)的優(yōu)點(diǎn)，體現(xiàn)了絕緣子檢測(cè)精確、高效的發(fā)展方向。放電檢測(cè)法雖然技術(shù)成熟，但易受環(huán)境等諸多因素的影響，同時(shí)工作量巨大的定期斷網(wǎng)巡檢給人們的生活和工業(yè)生產(chǎn)帶來了諸多不便近年來，隨著無人機(jī)技術(shù)和計(jì)算機(jī)技術(shù)的飛速發(fā)展，基于航拍圖像的輸電線路中關(guān)鍵電氣設(shè)備的故障巡檢方式，已經(jīng)成為線路巡檢的主要發(fā)展方向。目前國內(nèi)外在電力設(shè)備檢測(cè)方面的研究已經(jīng)取得了一定的進(jìn)展在傳統(tǒng)圖像處理領(lǐng)域，文獻(xiàn)隨著神經(jīng)網(wǎng)絡(luò)算法的發(fā)展，深度學(xué)習(xí)取得了突破性進(jìn)展，由于其強(qiáng)大的表征和建模能力，使得在目標(biāo)檢測(cè)領(lǐng)域顯現(xiàn)出了巨大優(yōu)越性為解決目標(biāo)檢測(cè)算法訓(xùn)練和檢測(cè)速度緩慢的問題，基于回歸的目標(biāo)檢測(cè)算法被提出，標(biāo)志性算法有SSD(singleshotmultiboxdetection）算法為了排除航拍圖像中線路、桿塔等復(fù)雜因素對(duì)故障區(qū)域定位準(zhǔn)確性的干擾，提高模型的定位及檢測(cè)精度，本文提出一種協(xié)同全卷積網(wǎng)絡(luò)（FullyConvolutionalNetworks,FCN）與YOLOv3算法的二階段絕緣子故障檢測(cè)方法。第一階段，利用FCN網(wǎng)絡(luò)預(yù)處理圖像，初步分割出濾除背景的絕緣子區(qū)域，排除圖像中無關(guān)區(qū)域的干擾；第二階段，建立基于YOLOv3算法的絕緣子故障檢測(cè)模型，實(shí)現(xiàn)絕緣子故障的準(zhǔn)確檢測(cè)。采用K-means++聚類算法對(duì)數(shù)據(jù)集中的目標(biāo)重新聚類分析，優(yōu)化網(wǎng)絡(luò)錨點(diǎn)框參數(shù)，進(jìn)一步提高檢測(cè)精度。1fcn權(quán)重模型訓(xùn)練和測(cè)試本文提出一種基于協(xié)同深度學(xué)習(xí)的方法，即FCN和YOLOv3算法相協(xié)作，實(shí)現(xiàn)二階段絕緣子故障檢測(cè)的方法，其流程如圖1所示。一階段絕緣子數(shù)據(jù)集包含絕緣子無故障正樣本和故障負(fù)樣本；二階段訓(xùn)練集2為濾除背景的絕緣子圖像，測(cè)試/實(shí)際診斷數(shù)據(jù)為新獲取的航拍絕緣子圖像。訓(xùn)練和測(cè)試的具體流程為：(1）將訓(xùn)練集1輸入VGG16特征提取網(wǎng)絡(luò)，通過三次上采樣得到原圖相同尺寸的特征圖，建立FCN權(quán)重模型。(2）圖像分割：將待分割圖像輸入到同一網(wǎng)絡(luò)，調(diào)用FCN權(quán)重模型對(duì)一階段測(cè)試集中的絕緣子圖像進(jìn)行分割，輸出絕緣子分割結(jié)果。(3）邏輯運(yùn)算：將一階段測(cè)試集圖像與測(cè)試集分割圖進(jìn)行邏輯與運(yùn)算，得到去除背景區(qū)域的絕緣子圖像，邏輯運(yùn)算示意圖如圖2所示。(4）將步驟（3）的輸出作為訓(xùn)練集2輸入到Darknet-53特征提取網(wǎng)絡(luò)，采用級(jí)聯(lián)的方式得到三種尺度的特征圖，建立YOLOv3權(quán)重模型。(5）故障檢測(cè)：將測(cè)試/實(shí)際檢測(cè)數(shù)據(jù)輸入同一YOLOv3網(wǎng)絡(luò)，調(diào)用YOLOv3權(quán)重模型對(duì)圖像進(jìn)行絕緣子故障檢測(cè)，輸出故障檢測(cè)結(jié)果。2照片底片故障數(shù)據(jù)庫的建立由于目前還沒有絕緣子圖像的公開數(shù)據(jù)集，為了驗(yàn)證本文絕緣子故障檢測(cè)方法，自主建立了航拍絕緣子故障數(shù)據(jù)庫。以無人機(jī)航拍的方式獲取了大量絕緣子圖像數(shù)據(jù)，并用labelimg工具對(duì)絕緣子故障進(jìn)行人工標(biāo)記，定義I-1為均壓環(huán)脫落故障，I-2為玻璃絕緣子爆缸故障。2.1實(shí)際樣本拍攝情況由于絕緣子為非易損器件且電力部門發(fā)現(xiàn)后會(huì)及時(shí)維修，故障數(shù)據(jù)較難采集，導(dǎo)致完好的正樣本與故障的負(fù)樣本在數(shù)量上嚴(yán)重不均衡，實(shí)際拍攝包含四季中晴天、陰雨天等多條線路樣本，且正樣本數(shù)量遠(yuǎn)大于負(fù)樣本數(shù)量，數(shù)據(jù)集見表1。由表1可知，I-1和I-2故障負(fù)樣本一共280張，完好正樣本數(shù)量遠(yuǎn)超故障負(fù)樣本數(shù)量，而某一類樣本少會(huì)導(dǎo)致算法難以充分學(xué)習(xí)該類別的信息2.2網(wǎng)三卷積層模型結(jié)構(gòu)航拍絕緣子圖像中通常包含復(fù)雜的環(huán)境背景，為了避免背景區(qū)域?qū)^緣子故障檢測(cè)的干擾，一階段，訓(xùn)練一個(gè)FCN語義分割模型用于初步分割絕緣子。FCN算法為了實(shí)現(xiàn)對(duì)圖像像素級(jí)的分類，以CNN分類網(wǎng)絡(luò)為基礎(chǔ)，首先，通過五次卷積、池化操作提取特征，得到含有深層語義信息的特征圖；然后，采用反卷積代替CNN最后的全連接層，對(duì)最后一個(gè)卷積層的特征圖進(jìn)行上采樣，以恢復(fù)圖像的尺寸，從而預(yù)測(cè)每一個(gè)像素，同時(shí)保留了輸入圖像的空間信息；最后，利用Softmax分類器獲得各個(gè)像素點(diǎn)的二分類結(jié)果，實(shí)現(xiàn)像素級(jí)預(yù)測(cè)。絕緣子的分割流程如圖4a所示。本文以VGG16為基礎(chǔ)網(wǎng)絡(luò)，C1～C5卷積層提取淺層圖像特征，如邊緣、紋理等，C6～C8卷積層提取深層語義特征，得到1/32尺寸的熱圖。直接32倍上采樣得到FCN-32s模型，由于只使用了深層特征，無法充分利用淺層的空間位置信息，導(dǎo)致分割結(jié)果粗糙、分割邊界不連續(xù)。為了解決上述問題，充分利用淺層圖像信息，補(bǔ)充特征細(xì)節(jié)，本文設(shè)計(jì)了兩種跳躍結(jié)構(gòu)：(1)將C8特征2倍上采樣和P4特征融合，對(duì)融合結(jié)果16倍上采樣得到FCN-16s模型。(2)將以上所得2倍上采樣和P3特征融合，對(duì)融合結(jié)果8倍上采樣得到FCN-8s模型，跳躍結(jié)構(gòu)如圖4b所示。圖4中C1和C2分別表示連續(xù)的兩個(gè)卷積層，C3、C4、C5分別表示連續(xù)的三個(gè)卷積層，C6、C7、C8分別表示一個(gè)卷積層，P1、(43)、P5表示池化層，“2×”表示二倍上采樣，H和W分別表示長和寬。2.3成像尺寸不一，問題定位難由于計(jì)算資源的限制，且航拍設(shè)備拍攝獲得的圖像樣本尺寸不一，大大增加了絕緣子定位難度。根據(jù)圖像短邊長度，等比例對(duì)所有圖像的分辨率統(tǒng)一歸一化處理，調(diào)整為500×500大小。3yolov3算法3.1軟件卷積層resi卻-t第二階段故障檢測(cè)以YOLOv3算法為主體，其特征提取網(wǎng)絡(luò)由Darknet-53修改所得，網(wǎng)絡(luò)結(jié)構(gòu)如圖5所示。相比二代算法采用的Darknet-19，網(wǎng)絡(luò)深度大大加深，網(wǎng)絡(luò)的表達(dá)能力加強(qiáng)，但這也產(chǎn)生了梯度消失、梯度爆炸和性能退化的問題，為解決以上問題，Darknet-53采用了以下措施：(1）采用批量歸一化（BatchNormalization,BN）和激活函數(shù)（LeakyReLU）。(2）采用步長為2的卷積代替池化層進(jìn)行降采樣操作。(3）借鑒殘差網(wǎng)絡(luò)ResNet的思想，使用5組重復(fù)的殘差單元（Residual），在卷積層之間以跳躍連接的形式，將單元的輸入與輸出相加，構(gòu)造一個(gè)恒等映射，防止信息丟失。通過以上方式，解決了梯度消失、梯度爆炸和性能退化的問題。梯度BN還可以使訓(xùn)練更加穩(wěn)定和加快網(wǎng)絡(luò)收斂速度，其計(jì)算公式為式中，x為BN輸入；y為輸出；γ和β為可學(xué)習(xí)參數(shù)。為了有效提高網(wǎng)絡(luò)的表達(dá)能力，該算法采用非飽和的LeakyReLU激活函數(shù)，當(dāng)輸入為負(fù)時(shí)，給其一個(gè)很小的坡度a3.2模型收斂效果損失函數(shù)作為判定深度神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)效果的重要參數(shù)之一，很大程度上決定模型的收斂效果，損失收斂越快、數(shù)值越小說明模型性能越好。YOLOv3采用誤差的二次方和作為損失函數(shù)，整合了目標(biāo)定位偏移量損失、目標(biāo)置信度損失及目標(biāo)分類損失，其計(jì)算公式為式中，13.3特征圖預(yù)處理在一階段得到去除背景的分割絕緣子圖像的基礎(chǔ)上，二階段YOLOv3算法的故障檢測(cè)網(wǎng)絡(luò)結(jié)構(gòu)如圖6所示，輸入RGB三通道圖像，經(jīng)Darknet-53特征提取網(wǎng)絡(luò)，采用步長為2的卷積核進(jìn)行5次下采樣，分別在3～5次下采樣后輸出尺寸為52×52、26×26、13×13的特征圖。為了充分利用特征信息，對(duì)于大小為13×13、26×26的特征圖，執(zhí)行2倍上采樣，并借鑒特征金字塔的思想進(jìn)行不同尺寸特征圖的張量拼接，最終在三個(gè)尺度的特征圖上獨(dú)立執(zhí)行回歸預(yù)測(cè)目標(biāo)類別與形狀。在檢測(cè)階段，對(duì)于輸入的航拍絕緣子圖像，預(yù)測(cè)一個(gè)三維張量，包括目標(biāo)、目標(biāo)邊界框和目標(biāo)類別。YOLO層將特征圖劃分成S×S的網(wǎng)格（不同尺度的特征圖，S值不同），為每個(gè)網(wǎng)格預(yù)測(cè)三個(gè)不同的邊界框，并且張量大小可以表示為S×S×[3×(5+C)],5包含目標(biāo)框的坐標(biāo)信息（x,y,w,h）和置信度，C表示預(yù)測(cè)類別數(shù)，所以對(duì)于每個(gè)維度輸出結(jié)果為S×S×[3×(5+2)]，最終通過閾值設(shè)定及非極大值抑制，輸出最高置信度的邊界框。3.4基于聚類分析的loss值對(duì)比YOLO二代算法開始引入了FasterR-CNN中所使用的錨點(diǎn)框（anchorboxes）的思想，它是一組固定尺寸的候選框，往往根據(jù)訓(xùn)練集目標(biāo)框尺寸事先設(shè)定。YOLOv3的默認(rèn)錨點(diǎn)框參數(shù)是根據(jù)COCO數(shù)據(jù)集聚類得到的9個(gè)固定參數(shù)，不一定適合特定場(chǎng)景下的數(shù)據(jù)集。本文根據(jù)航拍絕緣子數(shù)據(jù)自身特點(diǎn)，設(shè)計(jì)出更適合絕緣子數(shù)據(jù)的錨點(diǎn)框參數(shù)，分別使用K-means和K-means++聚類算法對(duì)數(shù)據(jù)進(jìn)行聚類分析，計(jì)算樣本框與錨點(diǎn)框之間的平均交并比（avgIOU），以聚類值與樣本真實(shí)值之間的平均損失為目標(biāo)函數(shù)，目標(biāo)函數(shù)值越小，表明結(jié)果越準(zhǔn)確，其目標(biāo)函數(shù)D為式中，B為樣本目標(biāo)真實(shí)框；P為聚類中心；n為樣本總數(shù)；k為聚類中心個(gè)數(shù)；n由圖7可以看出，隨著K值的增加，兩種聚類算法損失函數(shù)Loss值逐漸減小，且K-means++聚類算法相比K-means算法，Loss值更小。然而，錨點(diǎn)框數(shù)量的增加會(huì)大大降低網(wǎng)絡(luò)計(jì)算速度，增加計(jì)算成本，且當(dāng)K=9時(shí)曲線趨于平穩(wěn)，故選取K=9時(shí)的聚類結(jié)果優(yōu)化網(wǎng)絡(luò)的錨點(diǎn)框參數(shù)。根據(jù)K-means++算法得到的9個(gè)錨點(diǎn)框參數(shù)，得到航拍絕緣子故障數(shù)據(jù)目標(biāo)真實(shí)框和錨點(diǎn)框參數(shù)的分布如圖8所示。圖8中橫縱坐標(biāo)分別表示寬度和高度，4結(jié)果與分析4.1g/lv/g/3g白砂糖/g/ti/g/ls-3g/3g控制器實(shí)驗(yàn)平臺(tái)的硬件配備Inter(R)E5-2620V4核心處理器，雙NvidiaGeForceGTX1080Ti顯卡，32G內(nèi)存。在Ubuntu16.04操作系統(tǒng)、Darknet深度學(xué)習(xí)框架下進(jìn)行實(shí)驗(yàn)。4.2fcn-32s方法的對(duì)比為驗(yàn)證跳躍結(jié)構(gòu)對(duì)分割性能的提升效果，本文分別以FCN-32s、FCN-16s、FCN-8s模型對(duì)絕緣子數(shù)據(jù)集進(jìn)行訓(xùn)練，得到針對(duì)絕緣子區(qū)域的分割模型，以像素準(zhǔn)確率（PA）、平均像素準(zhǔn)確率（MPA）、平均交并比（MIoU）和頻權(quán)交并比（FWIoU），作為評(píng)價(jià)指標(biāo)，評(píng)價(jià)模型性能，結(jié)果見表2。從表2可以看出，相比于FCN-32s方法，由于FCN-16s方法融合了淺層P4卷積特征，各項(xiàng)指標(biāo)均有顯著提高；相比于FCN-16s方法，本文使用的FCN-8s方法進(jìn)一步融合了淺層P3卷積特征，其像素準(zhǔn)確率、平均交并比、頻權(quán)交并比分別為99.91%、96.73%、98.26%，三項(xiàng)參數(shù)均高于FCN-32s和FCN-16s方法，平均像素準(zhǔn)確率略微下降，說明本文方法能有效提高分割性能。各指標(biāo)計(jì)算公式為式中，p4.3多次訓(xùn)練時(shí)定位使用K-means++算法聚類絕緣子故障數(shù)據(jù)所得參數(shù)訓(xùn)練YOLOv3網(wǎng)絡(luò)，網(wǎng)絡(luò)的默認(rèn)最大迭代次數(shù)為50200次，學(xué)習(xí)率決定著權(quán)值更新的速度，過大會(huì)導(dǎo)致振蕩，過小會(huì)使下降速度過慢，所以深度學(xué)習(xí)一般根據(jù)訓(xùn)練迭代次數(shù)設(shè)置動(dòng)態(tài)變化的學(xué)習(xí)率，通常設(shè)置較大的初始學(xué)習(xí)率，使模型前期快速學(xué)習(xí)，到達(dá)一定迭代次數(shù)后，模型無法進(jìn)一步收斂，此時(shí)應(yīng)該降低學(xué)習(xí)率。本文在多次訓(xùn)練過程中，通過觀察平均交并比的變化趨勢(shì)，發(fā)現(xiàn)訓(xùn)練到20000次附近時(shí)，曲線無法繼續(xù)收斂，所以分別在迭代到20000次和25000次時(shí)，設(shè)置衰減學(xué)習(xí)率，進(jìn)一步擬合。最終，平均交并比函數(shù)的變化趨勢(shì)如圖9所示，可以看出，隨著迭代次數(shù)的增加，平均交并比逐漸增大，在30000次迭代之后，比值在0.85處趨于穩(wěn)定，達(dá)到理想訓(xùn)練效果。4.4算法性能對(duì)比為驗(yàn)證本文方法的有效性，分別從定性和定量?jī)蓚€(gè)方面對(duì)YOLOv3、F-YOLOv3和F-YOLOv3-K算法進(jìn)行性能對(duì)比，將協(xié)同F(xiàn)CN和YOLOv3算法的模型命名為F-YOLOv3，同時(shí)結(jié)合K-means++算法優(yōu)化錨點(diǎn)框參數(shù)的協(xié)同F(xiàn)CN和YOLOv3算法模型命名為F-YOLOv3-K。4.4.1f-yolov3算法在地方的應(yīng)用在實(shí)驗(yàn)1中，分別用YOLOv3、F-YOLOv3和F-YOLOv3-K算法對(duì)測(cè)試/實(shí)際檢測(cè)數(shù)據(jù)集中的兩類目標(biāo)進(jìn)行測(cè)試，分別記錄檢測(cè)的漏檢與誤檢情況，以及對(duì)兩類目標(biāo)的檢測(cè)置信度，絕緣子故障在4張圖例的三種不同方法下的檢測(cè)效果及其局部區(qū)域放大圖如圖10所示。圖10中紫色矩形標(biāo)簽I-1表示均壓環(huán)脫落故障，綠色矩形標(biāo)簽I-2表示玻璃絕緣子爆缸故障，紅色菱形框表示漏檢處，黃色圓形框表示誤檢處，藍(lán)色線條表示正確檢出。由圖10可以看出，檢測(cè)位置分別以紫色與綠色框標(biāo)記出I-1和I-2故障目標(biāo)，并顯示置信度，置信度結(jié)果對(duì)比見表3，表中，0表示漏檢，×表示誤檢。由表3可以看出，原始YOLOv3算法在圖1、圖2中出現(xiàn)漏檢情況，在圖3、圖4中出現(xiàn)誤檢情況。F-YOLOv3方法解決了圖例中的漏檢與誤檢情況，并大幅提升了檢測(cè)置信度，本文最終提出的F-YOLOv3-K方法進(jìn)一步提升了檢測(cè)置信度。通過大量數(shù)據(jù)對(duì)比驗(yàn)證，該方法有效解決了漏檢與誤檢問題，且檢測(cè)的置信度有顯著提升，為進(jìn)一步驗(yàn)證所提方法的有效性，本文在定量方面補(bǔ)充了性能對(duì)比實(shí)驗(yàn)。4.4.2yolov3-ti三維算法的比較為驗(yàn)證協(xié)同深度學(xué)習(xí)方法對(duì)單一模型檢測(cè)性能的提升效果，本文使用FCN算法分別協(xié)同YOLOv3和YOLOv3的小型網(wǎng)絡(luò)YOLOv3-tiny算法，對(duì)檢測(cè)數(shù)據(jù)集進(jìn)行測(cè)試。為了具有可比性，實(shí)驗(yàn)均采用相同的處理策略，使用平均交并比（IoU）、單類故障精度（AP）、平均精度（MAP）、召回率（Recall）作為評(píng)價(jià)指標(biāo)，評(píng)價(jià)模型性能，結(jié)果見表4。YOLOv3-tiny為YOLOv3算法的小型網(wǎng)絡(luò)，協(xié)同F(xiàn)CN和YOLOv3-tiny算法的模型命名為F-YOLOv3-t，協(xié)同F(xiàn)CN和YOLOv3算法的模型命名為F-YOLOv3，同時(shí)結(jié)合K-means++算法優(yōu)化錨點(diǎn)框參數(shù)的協(xié)同F(xiàn)CN和YOLOv3算法模型命名為F-YOLOv3-K。從表4可以看出，相比YOLOv3的小型網(wǎng)絡(luò)YOLOv3-tiny算法，由于YOLOv3算法特征提取網(wǎng)絡(luò)更深，特征更加豐富，所以其檢測(cè)精度及平均交并比均有所提高。與原始單一的YOLOv3-tiny3及YOLOv3模型相比，F(xiàn)-YOLOv3-t和F-YOLOv3采用協(xié)同F(xiàn)CN的方法，顯著提升了模型的各項(xiàng)指標(biāo)，說明該方法適用于絕緣子故障檢測(cè)。F-YOLOv3-t比YOLOv3-tiny模型的MAP值