深度學(xué)習(xí)與工業(yè)互聯(lián)網(wǎng)安全：應(yīng)用與挑戰(zhàn)

導(dǎo)讀：本文從產(chǎn)業(yè)宏觀、安全技術(shù)、深度學(xué)習(xí)系統(tǒng)等角度全面分析了發(fā)展需求，從設(shè)備層、控制層、網(wǎng)絡(luò)層、應(yīng)用層、數(shù)據(jù)層的角度剖析了深度學(xué)習(xí)應(yīng)用于工業(yè)互聯(lián)網(wǎng)安全的發(fā)展現(xiàn)狀；闡述了工業(yè)互聯(lián)網(wǎng)深度學(xué)習(xí)應(yīng)用在模型訓(xùn)練、模型預(yù)測方面的安全挑戰(zhàn)。文章前瞻研判了未來研究的重點方向：深度神經(jīng)網(wǎng)絡(luò)可解釋性、樣本收集和計算成本、樣本集不均衡、模型結(jié)果可靠性、可用性與安全性平衡等。文章建議，在總體安全策略方面，深化促進兩者的融合發(fā)展，建立動態(tài)的縱深防御體系；在技術(shù)攻關(guān)研究方面，采用應(yīng)用驅(qū)動和前沿探索相結(jié)合的攻關(guān)方式，加快領(lǐng)域關(guān)鍵技術(shù)問題的攻關(guān)突破；在政策支持與引導(dǎo)方面，合理增加交叉領(lǐng)域的資源投入，建立“產(chǎn)學(xué)研”聯(lián)合研發(fā)與應(yīng)用的生態(tài)體系。

1、前言

工業(yè)互聯(lián)網(wǎng)是新一代信息技術(shù)與制造業(yè)深度融合的新興工業(yè)生態(tài)與應(yīng)用模式，通過“人、機、物”的泛在可靠互聯(lián)，連接生產(chǎn)全要素、全產(chǎn)業(yè)鏈、全價值鏈，推動制造業(yè)生產(chǎn)方式和企業(yè)形態(tài)變革。工業(yè)互聯(lián)網(wǎng)安全是實現(xiàn)工業(yè)互聯(lián)網(wǎng)高質(zhì)量發(fā)展的前提條件?！都訌姽I(yè)互聯(lián)網(wǎng)安全工作的指導(dǎo)意見》（2019年）強調(diào)了工業(yè)互聯(lián)網(wǎng)安全的重要價值，要求探索利用人工智能等新興技術(shù)來提升安全防護水平。深度學(xué)習(xí)具有較強的自動特征提取能力，為大數(shù)據(jù)時代的工業(yè)互聯(lián)網(wǎng)安全（以應(yīng)用場景復(fù)雜、數(shù)據(jù)規(guī)模龐大為特征）提供了更智能、更準確、更先進的分析工具：基于原始數(shù)據(jù)，使用一系列非線性處理層來學(xué)習(xí)不同抽象級別的數(shù)據(jù)表示；通過端到端的優(yōu)化來定義、識別隱藏模式，提取高度非線性、極為復(fù)雜的特征；無需人工從領(lǐng)域知識中提取最佳特征，支持數(shù)據(jù)驅(qū)動的工業(yè)應(yīng)用。也要注意到，深度學(xué)習(xí)的引入和應(yīng)用，使得工業(yè)互聯(lián)網(wǎng)系統(tǒng)更易面臨惡意攻擊或非法利用（見圖1），具有導(dǎo)致決策判斷失準、造成工業(yè)制造損失的潛在風(fēng)險。圖1

工業(yè)互聯(lián)網(wǎng)安全面臨深度學(xué)習(xí)引入的攻擊威脅深度學(xué)習(xí)應(yīng)用于工業(yè)互聯(lián)網(wǎng)，有關(guān)安全方面的研究開始出現(xiàn)，但依然缺乏較為完善的應(yīng)用圖景，且對深度學(xué)習(xí)系統(tǒng)自身安全問題關(guān)注較少

[3]。因此，本文針對這一空白領(lǐng)域展開前瞻研究，分析工業(yè)互聯(lián)網(wǎng)安全需求，概括深度學(xué)習(xí)的具體應(yīng)用，凝練新技術(shù)引入后面臨的安全挑戰(zhàn)，研判領(lǐng)域重點研究方向，以期為我國工業(yè)互聯(lián)網(wǎng)安全發(fā)展提供策略參考。

2、工業(yè)互聯(lián)網(wǎng)安全的需求分析

（1）工業(yè)互聯(lián)網(wǎng)自身的安全需求工業(yè)互聯(lián)網(wǎng)安全是制造強國和網(wǎng)絡(luò)強國建設(shè)的基石，關(guān)系到我國經(jīng)濟高質(zhì)量發(fā)展。制造要素全面互聯(lián)、接入開放的工業(yè)互聯(lián)網(wǎng)網(wǎng)絡(luò)，帶來了規(guī)模和效率優(yōu)勢，也伴生了潛在安全問題：原本處于封閉狀態(tài)的海量制造資源暴露于網(wǎng)絡(luò)，面臨更加開放的互聯(lián)網(wǎng)環(huán)境，更容易被外部組織觸達和發(fā)起惡意攻擊；制造要素本身的計算資源有限、原生于封閉環(huán)境的防護能力普遍薄弱，易于被攻破和非法利用；鑒于工業(yè)系統(tǒng)普遍對可靠性、準確性、低時延等要求很高，即使網(wǎng)絡(luò)化協(xié)同工業(yè)系統(tǒng)的單點被破壞，所造成的危害也可能很大。因此，工業(yè)互聯(lián)網(wǎng)應(yīng)用對安全保障提出了更高要求，需要利用諸如深度學(xué)習(xí)等先進技術(shù)來解決這些挑戰(zhàn)。從技術(shù)層面看，傳統(tǒng)工業(yè)互聯(lián)網(wǎng)的安全防護措施可以防御許多已知的安全威脅；但隨著工業(yè)互聯(lián)網(wǎng)應(yīng)用領(lǐng)域的不斷拓寬，接入設(shè)備數(shù)量與種類的不斷增加，加之各類攻擊方式的“推陳出新”，目前工業(yè)互聯(lián)網(wǎng)攻擊的數(shù)量、規(guī)模、速度、種類正在持續(xù)增加，現(xiàn)有的傳統(tǒng)型安全防御工具和技術(shù)已難以全面應(yīng)對這些新型攻擊行為，亟需引入更加快速、高效、智能的安全防護新方法。深度學(xué)習(xí)的自學(xué)習(xí)能力強，在特征發(fā)現(xiàn)及自動分析方面具有優(yōu)異性能，因此將之用于工業(yè)互聯(lián)網(wǎng)設(shè)備、控制、網(wǎng)絡(luò)、應(yīng)用、數(shù)據(jù)等多個層次的安全防范，成為防護新型攻擊形式的可行技術(shù)方向。（2）工業(yè)互聯(lián)網(wǎng)中深度學(xué)習(xí)系統(tǒng)的安全需求深度學(xué)習(xí)技術(shù)能夠廣泛應(yīng)用于工業(yè)互聯(lián)網(wǎng)的五層體系架構(gòu)、全生命周期各個階段（見圖2），可顯著減少人工操作、提高自動化水平與生產(chǎn)效率。例如，設(shè)備層采用有監(jiān)督的深度學(xué)習(xí)，檢測機器設(shè)備的使用情況與故障原因，與基于聲紋的產(chǎn)品質(zhì)量檢測系統(tǒng)結(jié)合，實現(xiàn)質(zhì)量檢測自動化及智能化；應(yīng)用層采用基于深度學(xué)習(xí)的圖像識別技術(shù)進行視覺檢測、分揀、定位等，提高流水線的效率和智能化水平；還有需求/銷量預(yù)測、客戶畫像、供應(yīng)鏈優(yōu)化等可輔助企業(yè)進行決策的深度學(xué)習(xí)應(yīng)用。圖2

深度學(xué)習(xí)在工業(yè)互聯(lián)網(wǎng)安全方面的應(yīng)用分類當前已有一些面向工業(yè)互聯(lián)網(wǎng)安全的深度學(xué)習(xí)技術(shù)研究，如基于深度學(xué)習(xí)的入侵檢測系統(tǒng)，可實現(xiàn)范圍、速度、適應(yīng)性等更優(yōu)的惡意行為檢測；基于深度學(xué)習(xí)的數(shù)據(jù)審計系統(tǒng)，可支撐從海量工業(yè)數(shù)據(jù)中提取關(guān)鍵信息，尋找威脅工業(yè)互聯(lián)網(wǎng)安全的行為。隨著這些深度學(xué)習(xí)應(yīng)用的拓展和深入，深度學(xué)習(xí)系統(tǒng)自身存在的安全問題也引起了關(guān)注，如不防范這些安全問題，對可靠性、穩(wěn)定性、可預(yù)測性等要求較高的工業(yè)互聯(lián)網(wǎng)可能帶來重大隱患。

3、工業(yè)互聯(lián)網(wǎng)安全深度學(xué)習(xí)應(yīng)用的發(fā)展現(xiàn)狀

工業(yè)互聯(lián)網(wǎng)安全可細分為設(shè)備、控制、網(wǎng)絡(luò)、應(yīng)用、數(shù)據(jù)等層次的安全，以下分別討論各個層次的安全需求及深度學(xué)習(xí)應(yīng)用。（1）深度學(xué)習(xí)應(yīng)用于設(shè)備層安全工業(yè)互聯(lián)網(wǎng)的設(shè)備安全包括設(shè)備身份鑒別與訪問控制、固件安全保護等。深度學(xué)習(xí)對特征自動智能發(fā)現(xiàn)的能力、在二進制分析方面所具有的強大性能，為工業(yè)互聯(lián)網(wǎng)中非加密設(shè)備的身份識別及固件代碼分析提供了新思路。工業(yè)互聯(lián)網(wǎng)的開放性決定了大量非加密設(shè)備的接入導(dǎo)致相應(yīng)設(shè)備易受身份欺騙攻擊；攻擊者會模仿合法設(shè)備的身份，在工業(yè)互聯(lián)網(wǎng)中發(fā)送虛假信息或進行其他惡意活動。這類攻擊對關(guān)鍵工業(yè)設(shè)施而言非常危險，可能造成物理損壞。防止身份欺騙的傳統(tǒng)方法是使用加密算法來驗證設(shè)備身份，然而許多現(xiàn)有的工業(yè)互聯(lián)網(wǎng)系統(tǒng)并未使用密碼密鑰操作。例如，全球航空領(lǐng)域廣泛使用的ADS-B系統(tǒng)就未采用任何加密認證，對該系統(tǒng)進行密碼安全改造將需要重大投資。接入工業(yè)互聯(lián)網(wǎng)的設(shè)備在制造過程中會隨機得到某些細微特征，這些特征會反映在設(shè)備產(chǎn)生的脈沖驅(qū)動信號中。一種可行的技術(shù)路徑是利用自動編碼器、卷積神經(jīng)網(wǎng)絡(luò)對接入工業(yè)互聯(lián)網(wǎng)設(shè)備發(fā)出的物理層信號進行學(xué)習(xí)，在不知道設(shè)備發(fā)出信號具體特征的條件下建立對設(shè)備的辨識能力，進而判斷設(shè)備的屬性與身份，開展對所有已知設(shè)備的身份鑒別、對未知設(shè)備的情況報告。工業(yè)互聯(lián)網(wǎng)平臺和固件眾多，固件安全對工業(yè)互聯(lián)網(wǎng)整體安全架構(gòu)起著至關(guān)重要的作用?？缙脚_固件代碼的二進制相似性分析是常用的設(shè)備固件漏洞安全檢測方法，旨在檢測來自不同平臺的兩段二進制函數(shù)是否相似。常規(guī)檢測方法是近似圖匹配算法，檢測速度慢，如果僅存在幾個指令不同的微小差異則會發(fā)生誤判，在對速度和安全性要求很高的工業(yè)互聯(lián)網(wǎng)領(lǐng)域難以應(yīng)用。深度神經(jīng)網(wǎng)絡(luò)可以將二進制代碼函數(shù)段的圖嵌入表示為一個神經(jīng)網(wǎng)絡(luò)，通過對兩個相似二進制代碼函數(shù)的圖嵌入接近程度進行比對，即可準確高效地開展二進制相似度分析；比傳統(tǒng)檢測速度提高3~4個數(shù)量級，能夠克服傳統(tǒng)方法的誤判問題。因此深度學(xué)習(xí)技術(shù)可用于二進制代碼段的相似性推斷、漏洞檢測，有效支持固件安全分析工作。（2）深度學(xué)習(xí)應(yīng)用于控制層安全工業(yè)互聯(lián)網(wǎng)的控制系統(tǒng)向上接入網(wǎng)絡(luò)層、向下連接海量工業(yè)設(shè)備，其安全防護措施極為重要。工業(yè)互聯(lián)網(wǎng)控制安全包括控制協(xié)議安全機制、指令安全審計、控制軟件安全加固等。利用深度學(xué)習(xí)的自動特征發(fā)現(xiàn)能力，為控制協(xié)議指令攻擊檢測、控制軟件檢測提供了新思路。工業(yè)互聯(lián)網(wǎng)的控制系統(tǒng)分為過程控制子系統(tǒng)、監(jiān)控與數(shù)據(jù)采集子系統(tǒng)、分布式控制子系統(tǒng)、現(xiàn)場總線控制子系統(tǒng)等。這些子系統(tǒng)都是利用控制協(xié)議進行控制指令下發(fā)，而針對控制協(xié)議的攻擊較多通過在協(xié)議傳遞的控制指令中注入錯誤數(shù)據(jù)來實現(xiàn)。常規(guī)的指令攻擊檢測方式是分析攻擊消息的異常規(guī)律，發(fā)現(xiàn)相似攻擊行為；但在攻擊方式不斷更新的工業(yè)互聯(lián)網(wǎng)環(huán)境下，這種檢測方法并不能可靠地發(fā)現(xiàn)新的攻擊形式?；谏疃壬窠?jīng)網(wǎng)絡(luò)的特征發(fā)現(xiàn)能力，有望解決這一問題：深度神經(jīng)網(wǎng)絡(luò)從過程控制裝置獲取的傳感器和執(zhí)行器信號中學(xué)習(xí)正?？刂茀f(xié)議下的通信規(guī)律，進行控制協(xié)議和指令的安全檢測；既可以檢測已知的指令攻擊，還能識別新的攻擊形式。工業(yè)互聯(lián)網(wǎng)的控制軟件面臨惡意軟件注入等安全威脅，常見的惡意軟件樣本是精心制作的計算機程序片段，意圖在不被發(fā)現(xiàn)的前提下對受感染工業(yè)互聯(lián)網(wǎng)資產(chǎn)進行控制和監(jiān)視。傳統(tǒng)的惡意軟件檢測方式是人工發(fā)現(xiàn)惡意軟件攻擊特征，利用已知特征進行軟件檢測；但涉及多態(tài)性蠕蟲或病毒檢測時，這種方法不再可行。當前，諸多反病毒軟件供應(yīng)商對增強惡意軟件檢測能力的深度學(xué)習(xí)方法開展了深入研究，在實際測試中取得了很好的效果。因此，在工業(yè)互聯(lián)網(wǎng)控制層中引入深度學(xué)習(xí)技術(shù)，發(fā)揮其對特征自動提取的固有優(yōu)勢，動態(tài)分析工業(yè)互聯(lián)網(wǎng)控制軟件活動的特征；持續(xù)分析軟件活動情況、軟件執(zhí)行某些特定命令的活動情況，檢測控制軟件的行為，提高控制軟件抵御惡意軟件注入等安全威脅的能力。（3）深度學(xué)習(xí)應(yīng)用于網(wǎng)絡(luò)層安全工業(yè)互聯(lián)網(wǎng)的網(wǎng)絡(luò)層安全包括通信與傳輸保護、網(wǎng)絡(luò)攻擊防護等。利用深度學(xué)習(xí)的特征提取能力、自學(xué)能力、信息壓縮能力，為工業(yè)互聯(lián)網(wǎng)的通信數(shù)據(jù)加密、網(wǎng)絡(luò)入侵檢測提供新思路。工業(yè)互聯(lián)網(wǎng)包含數(shù)量眾多的傳感器、終端、控制、計算、存儲等設(shè)備，設(shè)備之間需要實時、可靠、安全地傳輸來自周圍環(huán)境、自身狀態(tài)、控制指令等各種信息。尤其在資源受限的工業(yè)互聯(lián)網(wǎng)終端節(jié)點，因其組成相對簡單、計算和存儲能力較弱，數(shù)據(jù)的安全傳輸是重大挑戰(zhàn)。依靠加密算法的傳統(tǒng)傳輸方式可靠性較高，但攻擊檢測的復(fù)雜度、延遲均比較高，不適合在通信低延遲、組成復(fù)雜的工業(yè)互聯(lián)網(wǎng)環(huán)境進行大規(guī)模部署。因此，考慮基于工業(yè)互聯(lián)網(wǎng)信號的深度學(xué)習(xí)框架，采用長短期記憶模塊（LSTM）從工業(yè)互聯(lián)網(wǎng)信號中提取隨機特征（如譜平坦度、偏度、峰度、中心矩等），將之轉(zhuǎn)換為水印并加載在原始信號中，利用云計算或邊緣計算節(jié)點驗證水印信息以保證信號的可靠性，據(jù)此完成針對工業(yè)互聯(lián)網(wǎng)的網(wǎng)絡(luò)攻擊行為檢測。工業(yè)互聯(lián)網(wǎng)因其復(fù)雜性、敏感性而易受各種針對性的網(wǎng)絡(luò)攻擊，需要配置入侵檢測系統(tǒng)來掃描網(wǎng)絡(luò)流量活動、識別惡意或異常行為。傳統(tǒng)的入侵檢測系統(tǒng)通常采用（淺層）機器學(xué)習(xí)技術(shù)，無法有效解決具有實時性要求、來自環(huán)境的海量數(shù)據(jù)入侵分類檢測問題。深度學(xué)習(xí)是十分理想的隱藏流量發(fā)現(xiàn)手段，可用于區(qū)分攻擊流量和檢測正常流量。例如，使用雙向長短期記憶遞歸神經(jīng)網(wǎng)絡(luò)（BLSTM-RNN）方法，詳細學(xué)習(xí)異常入侵所具有的網(wǎng)絡(luò)流量特征，快速準確地識別針對工業(yè)互聯(lián)網(wǎng)的網(wǎng)絡(luò)攻擊和網(wǎng)絡(luò)欺詐等異?；顒印＃?）深度學(xué)習(xí)應(yīng)用于應(yīng)用層安全工業(yè)互聯(lián)網(wǎng)的應(yīng)用層安全包括用戶授權(quán)認證、代碼安全等。利用深度學(xué)習(xí)在“理解”自然語言、特征提取等方面的獨特優(yōu)勢，為工業(yè)互聯(lián)網(wǎng)的代碼安全分析、用戶授權(quán)認證提供新思路。工業(yè)互聯(lián)網(wǎng)的構(gòu)成和功能復(fù)雜，涉及軟件眾多，對軟件源代碼的安全性提出了很高要求。傳統(tǒng)的代碼漏洞檢測較多依賴分析人員對代碼的人工分析、對安全問題的認識和經(jīng)驗積累，這一模式很難滿足工業(yè)互聯(lián)網(wǎng)的代碼漏洞分析需求。一種可行的思路是借鑒自然語言處理方法，利用深度學(xué)習(xí)在“理解”自然語言方面的獨特優(yōu)勢、LSTM對自然語言上下文的“記憶”功能，對由源代碼的抽象語法樹、控制/數(shù)據(jù)流圖、程序依賴圖等構(gòu)成的代碼屬性進行理解與分析，在源代碼編程階段及時發(fā)現(xiàn)并修正代碼缺陷，主動完成代碼漏洞分析檢測。工業(yè)互聯(lián)網(wǎng)覆蓋面廣，對安全性和隱私性要求高，涉及大量用戶授權(quán)認證過程。傳統(tǒng)上基于密碼和個人識別碼的認證系統(tǒng)雖然有效，但不足以抵御多類惡意攻擊行為。因此，利用深度學(xué)習(xí)在生物特征發(fā)現(xiàn)的優(yōu)勢發(fā)展形成的人臉識別等技術(shù)，已成功應(yīng)用于應(yīng)用層安全，起到配合傳統(tǒng)認證系統(tǒng)、提高用戶授權(quán)認證能力的作用。此外，為了有效提升用戶授權(quán)認證的安全性、降低認證成本，有研究者提出了在鍵盤端利用深度學(xué)習(xí)技術(shù)提取用戶每次敲擊鍵盤的時間、鍵入時施加的壓力以及移動設(shè)備、觸摸面積、觸摸位置等特征信息，輔助進行用戶身份判斷。這一方案為提升工業(yè)互聯(lián)網(wǎng)用戶授權(quán)認證能力提供了新途徑。（5）深度學(xué)習(xí)應(yīng)用于數(shù)據(jù)層安全工業(yè)互聯(lián)網(wǎng)數(shù)據(jù)安全的主要工作之一是數(shù)據(jù)防泄露。在包含大量碎片化數(shù)據(jù)的工業(yè)互聯(lián)網(wǎng)中，減少不必要的跨地域、跨組織的原始數(shù)據(jù)共享和流動，是提高數(shù)據(jù)安全性的重要方向，而這也是聯(lián)邦深度學(xué)習(xí)技術(shù)的優(yōu)勢所在。在聯(lián)邦深度學(xué)習(xí)系統(tǒng)中，自有數(shù)據(jù)不出本地，通過加密機制進行參數(shù)交換，在不違反數(shù)據(jù)隱私保護法規(guī)的情況下建立虛擬的共有模型。關(guān)于數(shù)據(jù)安全審計，敏感度低的工業(yè)互聯(lián)網(wǎng)數(shù)據(jù)可以存儲在成本價格相對低的工業(yè)大數(shù)據(jù)云平臺，采用基于深度學(xué)習(xí)的數(shù)據(jù)安全審計機制來監(jiān)管數(shù)據(jù)的訪問等行為，防止數(shù)據(jù)被竊取、篡改、破壞，實現(xiàn)數(shù)據(jù)存儲安全。工業(yè)互聯(lián)網(wǎng)存在傳感器、邊緣計算節(jié)點、云端、用戶端等多點通信需求。傳統(tǒng)的數(shù)據(jù)處理流程是數(shù)據(jù)產(chǎn)生于傳感器端，初步采集的數(shù)據(jù)會先存儲在相關(guān)軟件中。數(shù)據(jù)入侵、非法訪問較多隱藏在合理的授權(quán)之下，不容易被發(fā)現(xiàn)。使用無監(jiān)督深度學(xué)習(xí)對異常行為進行分類，確保數(shù)據(jù)不受到竊取、篡改、破壞。感知數(shù)據(jù)會反饋至邊緣計算節(jié)點，經(jīng)清洗、預(yù)處理分析后，再上傳至云端并經(jīng)進一步加工處理供用戶調(diào)用。敏感性、碎片化、海量數(shù)據(jù)流動十分不利于工業(yè)互聯(lián)網(wǎng)環(huán)境下的數(shù)據(jù)安全保護，因此針對工業(yè)互聯(lián)網(wǎng)數(shù)據(jù)的安全多方計算需求，可行的解決方案是引入聯(lián)邦深度學(xué)習(xí)技術(shù)，在不直接共享敏感數(shù)據(jù)的前提下開展數(shù)據(jù)處理，最大限度地減少數(shù)據(jù)流動和不必要的數(shù)據(jù)傳輸，確保工業(yè)互聯(lián)網(wǎng)的數(shù)據(jù)安全。4、工業(yè)互聯(lián)網(wǎng)安全深度學(xué)習(xí)應(yīng)用面臨的挑戰(zhàn)

深度學(xué)習(xí)技術(shù)在賦予工業(yè)互聯(lián)網(wǎng)安全新前景的同時，可能存在被攻擊者利用的漏洞，可能受到高級可持續(xù)威脅攻擊。例如，攻擊者可以針對性地修改惡意文件來繞過基于深度學(xué)習(xí)的檢測工具，加入一些不易察覺的噪音使得工廠語音控制系統(tǒng)被惡意調(diào)用，在交通指示牌或其他車輛上貼一些小標志使得基于深度學(xué)習(xí)的自動駕駛系統(tǒng)出現(xiàn)誤判。在高價值或高風(fēng)險的工業(yè)生產(chǎn)過程中，如果深度學(xué)習(xí)系統(tǒng)被惡意攻擊，可能會造成設(shè)備損壞，甚至威脅人員生命安全。針對深度學(xué)習(xí)的攻擊分為5種（見圖3）：投毒攻擊、模型逆向攻擊、模型提取攻擊、物理攻擊、對抗性攻擊，主要發(fā)生在模型訓(xùn)練階段和模型預(yù)測階段。圖3

工業(yè)互聯(lián)網(wǎng)中深度學(xué)習(xí)系統(tǒng)面臨的安全挑戰(zhàn)（1）模型訓(xùn)練階段投毒攻擊指通過攻擊訓(xùn)練數(shù)據(jù)集，使得模型無法正常工作。在工業(yè)互聯(lián)網(wǎng)中，競爭對手可能通過篡改傳感器的測量值來操縱訓(xùn)練數(shù)據(jù)。對于基于深度學(xué)習(xí)的故障檢測器來說，微小的數(shù)據(jù)篡改可能會導(dǎo)致有針對性的錯誤分類或不良行為。后門攻擊也是一種投毒攻擊，在訓(xùn)練數(shù)據(jù)過程中添加特殊標志（后門觸發(fā)器）來繞過模型的分類，如向標注為非惡意的文件中加入一段特殊的代碼（文字），將之用于訓(xùn)練深度學(xué)習(xí)模型。訓(xùn)練好的模型能夠正常識別惡意文件，但是當檢測到帶有這段特殊代碼的惡意文件時，模型將會把它識別為非惡意的，從而繞過檢測。這種攻擊大多數(shù)時間不影響模型正常工作，極為隱蔽。模型逆向攻擊發(fā)生在訓(xùn)練完成階段，可以通過模型的輸出（黑盒攻擊）、模型參數(shù)（白盒攻擊）將訓(xùn)練數(shù)據(jù)集信息從模型中逆向提取出來；換言之，通過已經(jīng)訓(xùn)練好的模型數(shù)據(jù)，還原出模型的訓(xùn)練數(shù)據(jù)成員。在工業(yè)互聯(lián)網(wǎng)中數(shù)據(jù)是寶貴資源，特別是涉及到商業(yè)價值的敏感數(shù)據(jù)。例如，產(chǎn)品質(zhì)量檢測模型的訓(xùn)練需要的產(chǎn)品參數(shù)（如重量、尺寸型號等），入侵檢測系統(tǒng)需要的工業(yè)生產(chǎn)系統(tǒng)中傳感器數(shù)據(jù)，這些都涉及到產(chǎn)品隱私，具有一定的商業(yè)價值。（2）模型預(yù)測階段不同于數(shù)字樣本攻擊，物理攻擊屬于實體樣本攻擊，通過在現(xiàn)實生活中改變目標物體的形態(tài)或者貼上特殊標記來欺騙深度學(xué)習(xí)模型。物理攻擊不需要對模型的訓(xùn)練數(shù)據(jù)“做手腳”，只需通過一定次數(shù)的模型功能測試，就能發(fā)現(xiàn)模型的漏洞和缺陷，進而設(shè)計實現(xiàn)物理攻擊。例如，自動駕駛汽車的視覺系統(tǒng)能夠使用深度學(xué)習(xí)技術(shù)對道路上的行人、車輛、道路標志等進行分類，但在道路標志上粘貼精心設(shè)計的紙條后，視覺系統(tǒng)便無法正確識別該道路標志。對于基于深度學(xué)習(xí)的人臉識別系統(tǒng)而言，帶有特殊標記的眼鏡便能干擾其正常工作；即使在相對穩(wěn)定的物理條件下，只需針對性調(diào)整姿勢、距離、光線，也能使人臉識別系統(tǒng)發(fā)生識別錯誤。工業(yè)互聯(lián)網(wǎng)中有很多人臉識別、產(chǎn)品質(zhì)量檢測的深度學(xué)習(xí)類應(yīng)用，如果內(nèi)部人員具有惡意，則這種物理攻擊將比較隱蔽且威脅明顯。模型提取攻擊指通過公開的應(yīng)用程序接口（API）來模擬功能類似甚至相同的模型，具體參數(shù)很難被掌握，且攻擊目的是復(fù)刻模型而不是還原數(shù)據(jù)成員。訓(xùn)練1個模型通常需要20~30d，較為復(fù)雜的模型甚至需要更長的時間，一些應(yīng)用于工業(yè)互聯(lián)網(wǎng)的模型具有一定的商業(yè)價值，如異常行為分類系統(tǒng)。這些模型具有一定的可移植性，如果將之公開在網(wǎng)絡(luò)上，即使只提供API接口，不法分子也能通過隨機組合的輸入來獲取輸入與輸出關(guān)系，從而復(fù)刻功能相同的模型，使得公司知識產(chǎn)權(quán)利益受到損失。對抗性攻擊又稱為躲避攻擊，指在正常樣本中加入了一些人眼難以察覺的干擾，從而造成模型預(yù)測錯誤；分為無特定目標攻擊、特定目標攻擊，前者只是干擾模型的正確判斷，后者需要模型將特定的輸入判斷為指定的一種輸出。目前，深度學(xué)習(xí)模型對于對抗性攻擊是比較脆弱的，較為輕微的擾動就可以干擾到模型的正常工作。例如，工業(yè)互聯(lián)網(wǎng)的產(chǎn)品檢測模型易受無特定目標的對抗性攻擊，攻擊者只需在產(chǎn)品圖片上加入肉眼不可見的噪聲點，就可以使得模型失去判斷能力，嚴重時甚至可以破壞整個工業(yè)生產(chǎn)流程。對于面向安全檢測的深度學(xué)習(xí)系統(tǒng)，攻擊者也可以通過添加一些特殊語句來繞過安全檢測模型，從而干擾工業(yè)系統(tǒng)的安全運行。

5、工業(yè)互聯(lián)網(wǎng)安全深度學(xué)習(xí)應(yīng)用的未來研究方向

（1）深度神經(jīng)網(wǎng)絡(luò)的可解釋性人類思維很難理解深度神經(jīng)網(wǎng)絡(luò)的決策依據(jù)，這是因為深度神經(jīng)網(wǎng)絡(luò)通常被當成“黑盒”模型使用，每個神經(jīng)元都是由上一層的線性組合再疊加1個非線性函數(shù)得到的，具有高度非線性的特征。對于工業(yè)互聯(lián)網(wǎng)安全應(yīng)用，除了模型輸出的最終結(jié)果外，人們還應(yīng)知道模型是基于哪些因素考量得出結(jié)論的；如果模型不可解釋，則意味著模型本身是不可知、不安全的。因此，只有確保信息可靠性（如沒有受到投毒攻擊、對抗性攻擊等）、明晰模型輸入輸出的因果關(guān)系，模型的預(yù)測結(jié)果才能令人信服，也才能交由深度學(xué)習(xí)來承擔(dān)工業(yè)互聯(lián)網(wǎng)安全體系中的核心任務(wù)。（2）樣本收集和計算成本隨著深度學(xué)習(xí)方法的發(fā)展，神經(jīng)網(wǎng)絡(luò)層數(shù)越來越深，所需的訓(xùn)練樣例數(shù)目、算力要求（電力消耗）也在迅猛增加。即使深度學(xué)習(xí)模型相比于傳統(tǒng)方法具有更好的效果，但提升效率帶來的收益甚至可能無法彌補增加成本，這將直接制約深度學(xué)習(xí)技術(shù)在工業(yè)互聯(lián)網(wǎng)安全中的推廣應(yīng)用。工業(yè)互聯(lián)網(wǎng)安全的應(yīng)用場景多樣，需要針對性地收集數(shù)量可觀的數(shù)據(jù)并加以手工標注，人力成本較高；深度神經(jīng)網(wǎng)絡(luò)規(guī)模龐大，為達到精度、實時性等要求，需要高性能計算系統(tǒng)的支持，帶來較高能耗需求。因此，需要研究更高效、自動化的數(shù)據(jù)集構(gòu)建方法，更低功耗的深度學(xué)習(xí)模型與計算系統(tǒng)。（3）樣本集不均衡深度學(xué)習(xí)在消費互聯(lián)網(wǎng)應(yīng)用方面體現(xiàn)出了優(yōu)勢，但工業(yè)互聯(lián)網(wǎng)的應(yīng)用領(lǐng)域及場景千變?nèi)f化，難以為深度學(xué)習(xí)模型提供足夠多的樣本量。因此，需要研究通過自動化工具增加樣本量的方法，基于小樣本的深度學(xué)習(xí)方法。面對碎片化、復(fù)雜多變的工業(yè)互聯(lián)網(wǎng)安全應(yīng)用及場景，構(gòu)建具有均衡性、可全面反映數(shù)據(jù)真實分布的樣本集，將之用于訓(xùn)練深度學(xué)習(xí)模型仍是挑戰(zhàn)。目前已有過采樣、欠樣本等方法來緩解深度學(xué)習(xí)中樣本不均衡的問題，但依然缺乏實際可用的系統(tǒng)性研究成果。（4）模型結(jié)果的可靠性工業(yè)互聯(lián)網(wǎng)涉及領(lǐng)域眾多，框架構(gòu)成復(fù)雜，對系統(tǒng)的整體可靠性要求很高。例如，航空、航天類飛行器的零部件生產(chǎn)，要求設(shè)備達到可靠性不低于99.999%；如果重要節(jié)點發(fā)生故障，會造成批次性的產(chǎn)品損壞或性能降級。在實際工業(yè)生產(chǎn)過程中，模型的穩(wěn)定性要比表達能力更為重要，一旦某個生產(chǎn)環(huán)節(jié)出現(xiàn)問題，可能影響整條生產(chǎn)線的運轉(zhuǎn)；很多深度學(xué)習(xí)模型的預(yù)測準確率不足90%，幾乎無法移植到