電力是我國經濟發展、社會發展、工業生產、民生生活、工程建設等方面不可或缺的重要元素,電力系統的穩定運行具有極其重要的意義。電力設備一旦出現故障,會影響電力系統的安全和穩定運行,甚至引起電力供應中斷,對國家和社會造成重大影響。若不能及時發現電力設備的缺陷并處理,可能會導致電力設備故障,所以進行電力設備缺陷管理具有十分重大且必要的意義。
缺陷識別是電力設備缺陷管理工作中的重要流程。維護人員一般通過日常或專項巡檢采集電力設備工作狀態,進而發現其中存在的缺陷。若無法及時、準確、全面地發現缺陷,則會影響后續的缺陷管理工作。
1.1 從人工巡檢到圖像采集
電力設備缺陷通常依靠人工巡檢在視距內或借助望遠鏡等設備被發現。對于輸電線路此類分布廣、規模大的電力設備,人工巡檢不僅工作量和難度極大,還面臨著復雜、多變的戶外環境,工作具有較高的危險性。隨著技術的進步與發展,越來越多的電力維護單位開始采用無人機、巡檢機器人、固定攝像頭、全景采集等圖像采集設備對電力設備進行圖像采集。
圖像采集設備采集到大量的電力設備圖像后,再由工程師根據經驗判斷是否存在缺陷。這種方法的識別效果受限于工程師的技術水平和工作經驗,且識別效率與工程師數量和工作時長相關。長時間進行人工識別,不僅使工程師精神疲勞,導致識別精度降低、效率下降,還易對工程師的身體健康造成傷害。
1.2 傳統圖像識別模式
隨著采集到的圖像數量越來越多,將圖像識別技術應用于電力設備缺陷識別中,已經成為缺陷識別的發展方向之一。在圖像識別技術中,特征提取是關鍵步驟。傳統圖像識別算法由人工根據先驗知識和對任務的理解提取圖像特征,如根據電力設備的特點,提取邊緣、梯度、顏色、紋理等特征,包括尺度不變特征變換(SIFT)特征、方向梯度直方圖(HOG)特征等。
但傳統的電力設備圖像缺陷識別算法對圖像特征提取的能力不足,擴展性也較差,無法很好地利用低層特征數據,無法提取深層特征,需要人工設計特征。人工設計的特征往往針對給定的設備類型,因而識別種類少,數據規模小,泛化能力差,難以滿足復雜場景下的多種類電力設備缺陷識別要求。
深度學習是機器學習領域的一個方向,近年來在圖像識別領域取得突出成果。基于深度學習的電力設備缺陷識別的主要任務在于對電力設備巡檢圖像進行圖像識別,判斷圖像中存在的缺陷并對其進行分類、定位和語義理解。經過多年發展,較為典型的深度學習模型包括深度信任網絡模型、自編碼網絡模型及卷積神經網絡(CNN)模型。
基于卷積神經網絡的圖像識別算法于2012年取得突破性進展,在基于公共圖像數據集的分類任務中取得良好的效果。近年來,越來越多的研究者將卷積神經網絡模型應用于電力設備缺陷識別中,相較于傳統的圖像識別算法取得了更佳的識別精度、更強的泛化能力和更快的識別速度。
2.1 卷積神經網絡缺陷識別模型
卷積神經網絡是一種包含卷積運算仿照生物視覺機制構建的深層前饋型神經網絡。經典的卷積神經網絡模型主要有兩類,即基于區域候選的兩階段模型和基于回歸的單階段模型。基于區域候選的模型主要有區域神經網絡(R-CNN)、快速區域神經網絡(Fast R-CNN)、基于區域的全卷積網絡( R-FCN)等;基于回歸的模型主要有YOLO、單點多框檢測器(SSD)等。
基于區域候選的模型以較快區域神經網絡(Faster R-CNN)為代表,是一種兩階段目標檢測模型,其特點是先生成可能包含需要檢測目標的候選框,再進一步對目標進行檢測。Faster R-CNN模型是由R-CNN、Fast R-CNN改進和優化而來。R-CNN模型是將提取候選區域替代傳統的窗口滑動檢測,使用卷積神經網絡計算候選區域的特征,最后使用支持向量機分類器進行分類。
Fast R-CNN模型在R-CNN基礎上進行了改進,不需要再對每個候選區域單獨提取特征,而是對整張圖片提取一次特征,同時提出感興趣區域池化對動態區域大小進行歸一化,并將分類器由支持向量機更換為softmax函數,從而提高速度。而Faster R-CNN在此基礎上增加了區域提取網絡(RPN),RPN在特征圖中進行滑動來選擇所需目標,既保證了候選框選擇的準確性,也提高了網絡訓練的效率。
有學者使用Faster R-CNN模型進行高壓電線的缺陷識別實驗,使用1917張原始樣本圖片,經過處理擴張成13419張樣本。檢測實驗結果顯示,對于高壓電線的斷股、異物缺陷,Faster R-CNN模型實現了90%以上的AP(average precision),對于損傷缺陷識別的AP值也達到了83%,綜合三類缺陷識別的mAP(mean average precision)為94%。
基于回歸的單階段檢測模型以端到端的YOLO、單點多框檢測器模型為代表。YOLO系列模型的特點在于取消了目標區域建議的機制,通過卷積神經網絡直接在一張完整的圖像上進行目標類別和邊界框回歸的檢測。由于從輸入到輸出只進行一次檢測,與兩階段檢測模型相比,其檢測速度更快,但檢測精度有所降低。
YOLO系列模型經過多年發展和迭代,目前已發展至第4代,且第5代也正處于構建當中。SSD模型將YOLO的回歸思想和Faster R-CNN的候選區域anchor機制相結合,其檢測速度較Faster R-CNN更快,檢測精度較YOLO更高。回歸思想可以對神經網絡的計算復雜度進行簡化,從而提高檢測速度;采用anchor機制可以提取不同尺寸的特征,且可提取局部特征以提高檢測精度。SSD模型采用多尺度的特征提取方法,可提升不同尺度目標檢測的魯棒性。
有學者提出基于改進YOLOv3的高壓輸電線路關鍵部件目標檢測算法,在對高壓輸電線路防震錘、鳥巢、金具、絕緣子、塔身、塔牌的六類缺陷識別中,具有較好的效果。實驗結果表明,YOLOv3針對防震錘、鳥巢、金具的檢測精度AP均在80%以上,針對絕緣子、塔身、塔牌的檢測精度AP在90%以上,六類的平均精度mAP為89.1%。
為了更好地說明深度學習缺陷識別模型的特點及其與傳統圖像識別算法的區別,表1從模型機制、優勢、缺點、適用場景四方面進行對比。
表1 卷積神經網絡與傳統圖像算法對比
2.2 模型的改進和優化
單階段、兩階段的卷積神經網絡在目標檢測中具有較好的效果,但面對電力設備缺陷識別任務還存在一定不足。為了進一步提高深度學習的電力設備缺陷識別效果,研究者還將級聯網絡、遷移學習、生成對抗網絡(GANs)、注意力機制、網絡剪枝等技術與卷積神經網絡結合使用,取得了較好的效果。
采用級聯形式的識別模型,可以先對目標部位進行檢測,將檢測結果裁剪放大作為下一階段缺陷識別模型的輸入,從而提高對小目標缺陷的檢測效果。有學者級聯YOLOv3和多個單分類(OCC)分類器對輸電線路缺陷進行識別。無人機采集到的缺陷圖像先傳入YOLOv3網絡,獲得部件的位置與邊界框,再對部件進行圖像裁剪,將裁剪后的部件圖像送入OCC分類器進行缺陷的判斷。
樣本的數量對于深度學習模型訓練的效果非常重要,樣本數量少不利于模型的訓練。遷移學習和GANs是深度學習中有效解決樣本數量少的重要方法。遷移學習的思想是從源區域將知識遷移到目標區域,從而提升目標區域模型的性能。
在缺陷識別中,遷移學習可以關聯不同數據集之間的特征,在具備大量樣本的源識別任務中進行模型訓練,把訓練出的模型參數遷移至小樣本識別任務模型中,這樣可以減少小樣本識別所需要的訓練樣本。有學者在電力設備紅外圖像的識別模型中使用遷移學習的方法,在電磁單元發熱、動靜觸頭接觸位置發熱、接線板發熱及金屬連接部分發熱四大類的熱成像圖像樣本中進行遷移學習,最終模型的識別率分別為96%和94%,達到了較好的效果。
通過遷移學習可以減少模型訓練對樣本的需求量,而通過GANs可以對小樣本進行擴充,緩解樣本數量不足的困境。傳統的樣本擴充技術主要利用幾何和光學維度的變換對圖像進行處理,未增加額外的特征,對樣本進行的修改較淺,得到的樣本在深度模型訓練中容易出現過擬合。
GANs主要包括兩個網絡模型,即生成模型和判別模型,其思想是通過兩個模型對抗的方式進行學習。生成模型生成圖像,判別模型對生成圖像和真實圖像的真偽進行判別,再根據判別器的輸出對生成器的參數進行修正,同時調整判別器自身參數,在反復的訓練過程中提高生成圖像的逼真度。
有學者基于GANs構建了電力設備缺陷樣本擴充模型,并針對X光耐張線夾圖像進行實驗。實驗結果表明,基于GANs的樣本擴充模型生成的樣本數據集可以應用于缺陷識別模型的訓練,且提高了識別精度。
復雜背景的干擾一直是提高電力設備缺陷識別精度的難點。在深度學習視覺圖像領域的發展過程中,研究者們引入了注意力機制。注意力機制模擬人腦在處理視覺信息時可以快速掃描圖像,獲取關鍵信息,形成注意力焦點,并在焦點區域內進行更加仔細地特征提取。注意力機制的核心目標是在輸入的大量信息中提高對當前任務更重要信息的關注度,降低或過濾其他無用信息,從而提高模型的效率和準確率。
有學者對SSD模型進行改進,引入注意力機制后,目標和背景的差異明顯被放大,網絡捕獲了更多的目標信息,減少了背景的影響。
網絡剪枝是實現深度學習網絡模型壓縮的一種有效方法。通過對權重低的冗余參數進行修剪,可以減少模型內的參數數量,降低網絡的復雜度,提高模型的運行速度,降低模型對計算資源的開銷,還能防止過擬合。因而可降低模型對計算設備的門檻要求,使可選的計算設備更加廣泛。除了高性能的中心化計算設備以外,移動計算設備亦可承擔計算工作,為邊緣計算提供條件。
有學者利用基于YOLOv3的改進模型進行五類電力設備缺陷樣本的識別,使用網絡剪枝方法對網絡模型進行壓縮,并成功部署在輕量級Jetson AGX Xavier平臺上。
表2對缺陷識別模型的改進和優化方法進行了梳理和總結,可以更清晰地說明不同方法的機制和應用效果。
表2 深度學習缺陷識別模型優化方法
2.3 市場應用情況
輸電線路缺陷識別是目前深度學習在我國電力設備缺陷管理中常見的應用場景。我國的高壓輸電線路長期處于惡劣的自然環境之中,容易產生各種缺陷,同時巡檢的成本較高、效率較低,對于提高巡檢和缺陷識別效率有迫切的需求。目前的缺陷識別需求方主要以負責輸電線路實際管理工作的各省市級電網公司為主;技術研發方以電網系統內各相關研究院、軟件院和主營無人機巡檢、人工智能的高新技術公司為主。
在國家“新基建”大力發展人工智能的背景下,電網公司已從戰略層面加強人工智能在電力系統中的投入和研究,暢通科技成果轉化渠道,推動成果落地。基于深度學習的電力設備缺陷識別是電力人工智能領域具有代表性的科技成果之一。
一方面,電網公司建立“人工智能聯合實驗室”,提出“兩庫一平臺”(即樣本庫、模型庫和訓練平臺)總部級訓練平臺的建設任務,推動在各個省市級公司的應用,并聯合各大互聯網公司共同探索和開發電力人工智能,發揮互聯網公司的算法技術優勢和電網公司的數據優勢;另一方面,各地市電網公司為了提高管理效率,通過招標的方式采購基于深度學習的輸電線路缺陷識別技術服務和產品,靈活滿足當前的缺陷數字化智能管理需求。
3.1 深度學習缺陷識別面臨的挑戰
盡管深度學習在圖像識別研究中具有良好的識別效果,技術發展也較為迅速和全面,但面對復雜多變的電力設備缺陷識別任務,現有的研究多在實驗室條件下進行,若要在實際缺陷管理中獲得良好的應用效果,仍然存在一些挑戰。
電力設備缺陷種類眾多,其跨度也較大,有數厘米大小的螺栓、銷釘缺陷,也有數米大小的塔桿缺陷。圖像采集設備的拍攝分辨率有限,小尺度的缺陷在圖像中占比較小,有效信息不足。而用于深度學習模型識別的圖像往往會被壓縮處理,進一步提高了小目標缺陷識別的難度。盡管模型的不斷改進、樣本質量的提高對小目標缺陷識別效果有較大提升,但在實際應用中,小目標缺陷識別精度的提高,依然是當前電力設備缺陷識別的挑戰之一。
由于樣本采集設備在不同季節、角度、光照、背景等條件下進行樣本采集,采集到的樣本具有復雜的視覺呈現,導致缺陷識別受到復雜背景和前景遮擋的嚴重干擾。即便是同一部件,在實際的樣本采集中,也會呈現出較大差異。缺陷識別模型必須能夠在高復雜背景下進行準確而高效的識別,同時還應該具備較好的泛化性能。
缺陷樣本數量缺失和樣本種類分布不平衡同樣是缺陷識別中的挑戰之一。深度學習進行模型訓練與測試時對樣本的數量要求較高,需要大量的經過標注的樣本。
一方面,由于缺陷種類眾多,設備材質、顏色、連接方式多樣,覆蓋所有缺陷需要的樣本數量極大;另一方面,采集的大量電力設備巡檢圖像需要有經驗的工程師進行缺陷標注和分類,效率較低,產生的有效樣本較少。
此外,不同電力設備部件數量不同,發生缺陷的概率也存在很大差異,導致缺陷樣本種類分布不平衡。數量少的缺陷樣本和發生頻次低的缺陷樣本占總缺陷樣本的比例較低,導致模型不能完整、準確地學習其特征,降低了識別效果。缺陷樣本數量分布不均給缺陷識別帶來了一定的局限。
盡管卷積神經網絡在圖像目標檢測中可以發揮較好的作用,在缺陷圖像檢測中亦有良好表現,但從電力設備缺陷管理的角度出發,對于缺陷的識別不能僅滿足于圖像層面的目標識別,更應該實現對圖像內容的理解和知識推理。如何結合電力行業相關的專業知識,利用好行業專家的知識和經驗,進一步提高缺陷識別的專業性和智能化,亦是當前提高缺陷識別效果、完善缺陷數據善后管理、增強其實用性的一大挑戰。
表3梳理了上述挑戰內容及對深度學習缺陷識別模型的要求。
表3 深度學習缺陷識別面臨的挑戰
3.2 技術展望
隨著我國電力系統建設力量不斷加大,對電力設備維護的要求也越來越高,利用人工智能等先進技術提高缺陷管理效率已成為行業內的共識。前沿的人工智能技術發展迅速,新的思路、算法和技術也會逐漸應用于電力系統維護之中,從而進一步提高缺陷識別的精確度、效率和智能化水平。
自動機器學習( Auto ML)是深度學習未來發展的方向之一。深度學習在缺陷識別中的應用需要工程師選擇合適的網絡架構、對模型進行訓練、調整各項參數等其他工作,整個過程非常耗時。而Auto ML的目標是使用自動化的數據驅動方式完成任務,只需要用戶提供缺陷樣本數據,Auto ML就可以實現大部分步驟自動化,自動化地分析網絡架構、訓練過程、正則化方法、超參數等對算法性能的影響,從而生成一個最優的網絡架構。
深度學習的模型訓練和測試對樣本數量的依賴程度較高,盡管多種方法可以緩解此問題,但依然無法從源頭解決。電力設備種類眾多,型號繁雜,適用場景各不相同,缺陷標注代價較高,所以構建電力行業缺陷數據庫較難實現。
未來的發展方向為:①可以構建電力設備缺陷樣本數據庫標準,規范缺陷分類、缺陷描述等結構化信息;②搭建高效的缺陷樣本管理信息系統,開發半自動缺陷標注算法和工具,提高人工標注的效率;③打通行業內不同管理單位的數據壁壘,建立行業樣本數據庫,實現數據共享。
當前深度學習算法對圖像中的缺陷特征提取和缺陷識別效果較好,但僅有圖像層級的缺陷識別缺少專業知識做支撐。電力設備各部件之間相互耦合,缺陷的呈現不僅體現在單一部件上,更體現在各個部件之間的耦合關系上,需要更加豐富和專業的行業知識才能更精準地識別缺陷。未來可以構建缺陷知識圖譜,利用先驗專業知識作為指導,再結合深度學習目標檢測算法實現對電力設備缺陷更加全面和精準的識別。
電力設備缺陷管理對于國家電力系統的安全和穩定具有重要意義。本文對電力設備缺陷管理中缺陷識別的發展進行了回顧,并從卷積神經網絡模型、模型優化和改進、市場應用情況三方面總結了深度學習在缺陷識別中的應用進展。
盡管當前深度學習技術發展迅速,但在應對復雜的缺陷識別任務、實現技術成果的轉化和突破方面還面臨眾多挑戰。未來可以通過自動機器學習、構建電力行業樣本數據庫和電力知識圖譜等技術進一步推動人工智能在電力行業的融合應用。
本文編自2022年第6期《電氣技術》,論文標題為“深度學習在電力設備缺陷識別中的應用進展”,作者為臧國強、劉曉莉 等。