2024智能制造和智能城市中的人工智能應用安全

目錄 11 31. 42. 83. 81. 122. 123. 134. 135. 136. 131. 142. 143. 154. 16.4 171. 182. 192 191. 202. 223. 231. 252. 253. 261. 272. 273. 284. 281. 302. 313 3111.1智能制造的概念誕生于20世紀80年代，在anuaungngn一書中被提出，智能制人獨自完成小批量生產的過程1。20世紀90年代，歐、美、日等工業(yè)化發(fā)達地區(qū)國家普21造被賦予了新的內涵，即新一代信息技術條件下的智能制造。2010后推出智能制造和工業(yè)4.0戰(zhàn)略及相關概念2。我國也明確提出，以推進智能制造為主攻方向?！保ɑ蚣瘓F）的市場競爭能力[4]新智能資源能力產品層：該層包括接入系統(tǒng)的各種新智能制造資源（新軟制造資引擎等；新硬制造資源系統(tǒng)，如新智能機床機器人加工中心計算設備仿真試驗設備、云端智能制造單元、新材料及能源等）、新智能制造能力（制造過程中相關的論證、設力知識、組織、資金、業(yè)績、信譽、資源、流程和產品制造等）和新智能制造產品（數字化、網絡化、云化、智能化的新型智能制造產品等）4。圖5-1信息技術引擎服務、邊緣應用支撐服務），來越大。截至2018年3月，RISI（theRepositoryofIndustrialSecurityIncidents）數據庫就已目前國外的研究與成果較少，仍處于探索和發(fā)展階段。在工業(yè)4.0的背景下，隨著人工智對人工智能技術的應用處在認識和應用階段。CybersecurityFrameworkManufacturingProfile（CSF），以及美國工業(yè)互聯(lián)網聯(lián)盟（IIC）IndustrialInternetofThingsVolumeG4：SecurityFramework（IISF）。其中，NIST計劃開等。美國咨詢公司提到，要成功地在智能制造領域中應用人工智能技術，安全方面應的倫理和規(guī)章制度11。國外網絡安全廠商ndo在發(fā)布的報告中提出了工業(yè)4.0時代智能制造系統(tǒng)安全的幾大風險載體：工業(yè)終端、定制o設備、制造執(zhí)行系統(tǒng)（）數據庫，可能引發(fā)使用惡意工業(yè)外接程序的攻擊、自定義o設備的特洛伊木馬化、移動人機接口（）漏洞利用、全風險12。國外安全廠商yn在其發(fā)布的《工業(yè)4.0時代制造業(yè)更智能的安全》中提數據加密等13。在云計算安全領域，比較著名的是微軟u發(fā)布的最佳安全實踐解決方云應用程序七個方面的云安全實踐14。（）、工控系統(tǒng)異常檢測，信息防護中的身份認證服務（）、公鑰基礎設施I服務管理、加密（）、數據防泄密（）、身份訪問管理（）、網絡安全服務（）等制造領域安全產品13。ndn公司專門針對工控領域提供健康檢查，利用捕捉到的威脅行為、安全漏洞和領域知識，為用戶提供安全評估規(guī)劃和體系結構設計，如架構劃分、防護和監(jiān)控等15。值得一提的是，oog公司有意收購ndn公司，從而更好地與微軟Azure在云安全領域進行競爭[16]險的目的，與簽署網絡安全框架（）17。目前人工智能在智能制造領域中應用較為廣泛的場景包括裝配質量測試、產品開發(fā)與工程、采購、訂單管理、維修、后勤、發(fā)展，可能會對核心智能制造應用的場景產生影響18。面。生物特征識別安全標準包括TC260發(fā)布的GB/T36651—2018信環(huán)境的生物特征識別身份鑒別協(xié)議框架》、GB/T20979—2019別系統(tǒng)技術要求》、GB/T37076—2018GB/T38671—2020牽頭ISO34501標準的制定，在國內標準方面，發(fā)布了GB/T40429—2021《汽車駕駛自動面，中國發(fā)布了一項安全標準，即GB/T41387—2022《信息安全技術智能家居通用安全倫理七個方面加強應對23。目前國內外針對工控系統(tǒng)信息安全的防護措施缺乏系統(tǒng)級的統(tǒng)一安全設計方案，為解決這一問題，華中科技大學周純杰教授團隊發(fā)布了最新研究成果：AndhualppoahorbaantndualonolS，從出網絡系統(tǒng)過程工控系統(tǒng)信息安全防護體系架構24。李伯虎院士團隊提出云制造系統(tǒng)3.0的安全技術體系：物理安全防護技術、技術安全防護技術、管理安全防護技術、商業(yè)安全防護技術4。產品分為管理類產品和防護類產品，服務包含咨詢服務、實施服務和運營類服務25。在估和安全培訓的需求日趨旺盛26。在趨勢方面，隨著一系列標準和政策法規(guī)的實施，特別是隨著網絡安全等級保護2.0的實施，工業(yè)互聯(lián)網安全產業(yè)的內生需求不斷增多，除此之外，安全產品的國產化替代需求也促進工業(yè)互聯(lián)網安全產業(yè)快速發(fā)展26。目前工業(yè)互心競爭力不充分等26。造的重要支撐26。隨著大數據、云計算、人工智能、邊緣計算等新一代信息技術在工業(yè)和管理型產品向評估和培訓等服務型產品轉變9。目前，工業(yè)互聯(lián)網安全解決方案已在能1.2同時，確保出廠產品的合格率[28]。在制造執(zhí)行過程中，生產車間經常用到RFID技術包括深度學習、3視覺及智能路徑規(guī)劃，這些機器人系統(tǒng)及技術在保證安裝精度的同時提高了生產效率29。法的小車（群），使用蟻群算法等基于人工智能的算法進行路線規(guī)劃，并且考慮小車運行時間、能耗、防碰撞等情況，保證物料配送的最優(yōu)路徑和送達的時間最短28。.3此過程中引入人工智能技術（如智能裝備、智能感知與控制等），用人工智能算法模型的上述缺陷，在預測推理階段，針對運行時輸入的數據精心制作對（故障檢測、運行維護、業(yè)務決策等）目的。常見的對抗樣本防御方法包括數據清洗等30。使用受到破壞的訓練數據進行模型訓練，會導致有缺陷的模型的產生。針對噪聲數據集，有3種常見的應對措施：分箱法、聚類法、回歸法31；針對數據投毒攻擊，可使用應急響應、異常檢測、遷移學習進行防御32。當智能制造越來越多地受到智能決策支配時，對決策算法進行監(jiān)督與審查至關重要。然而，算法黑箱造成模型的不可解釋性，對系統(tǒng)的安全防護造成不利影響。.4圖5-2.5面向智能制造多場景的人工智能應用安全產品、軟件及應用研發(fā)與產業(yè)化。針對邊緣數據采集安全、邊緣平臺應用數據逆向攻擊防御安全、平臺數據存儲安全、應用數據分析及處理安全、平臺算法接入及訪問控制安全等，大力發(fā)展算法模型及數據入侵防御/產業(yè)化。面向智能制造中人工智能應用的系統(tǒng)化安全解決方案與運營服務的研發(fā)與產業(yè)化。架構（涵蓋云端平臺層、企業(yè)層、車間產線層、設備層等），改造解決方案，拓展平臺安全服務、數據安全應用等商業(yè)模式，提升安全運營服務能力。22.1術，促進城市規(guī)劃、建設、管理和服務智慧化的新理念和新模式33。目前，全球范圍內范圍探索階段，各國家、地區(qū)和組織正在計劃如何打造更加智慧的城市（群）。MarketsandMarkets的智能城市市場報告顯示，智能城市市場規(guī)模預計將從2020年的4108新業(yè)態(tài)：泛在互聯(lián)、數據驅動、共享服務、跨界融合、自主智慧、萬眾創(chuàng)新[37]圖5-3年6月，IEC成立了智慧城市系統(tǒng)評估組（IEC/SEG1）；2013年11月，ISO/IECJTC1成立了智慧城市研究組（ISO/IECJTC1/SG1）；ISO/TC268/SC1自2012年成立以來，一直在關ISO37101、ISO37120、（美國NIST的）SmartCitiesandCommunitiesFrameworkSeries等[39]在研究方向方面，國外更多地聚焦智能城市架構總體安全。國外研究機構nd于2017年發(fā)布的報告SeungSate介紹了智能城市中應用到的技術（如智能能源、智能交通、智能環(huán)境治理、智能聯(lián)網、智能治理）及智能城市面臨的安全威脅（如公共安全、金融安全、運營安全、隱私安全）40。其他的一些研究及咨詢機構（包括、德勤、）均發(fā)布了與智能城市網絡及信息安全相關的研究報告4143。方案供應商，如IBM、Cisco、Amazon、Siemens、Alphabet、Oracle、SchneiderElectric城市安全領域的初創(chuàng)公司包括美國人臉識別技術公司BlinkIdentity、韓國生物識別公司智能城市呈現與人工智能、5、大數據、區(qū)塊鏈等前沿科技融合的趨勢，逐步打通城市的系統(tǒng)和服務，優(yōu)化城市管理和服務。國外M、o等融合5、人工智能、云計算等構建智慧城市，歐洲的注于創(chuàng)建智慧城市解決方案的區(qū)塊鏈生態(tài)系統(tǒng)，目前已開發(fā)中，城市公鏈充當著城市大腦的角色，統(tǒng)籌協(xié)調城市運行44。在標準制定方面，我國已經發(fā)布兩項智能城市安全相關標準，一項標準是《信息安全技46。智原則和合規(guī)遵從、安全架構、措施等方面，對智慧城市中的安全問題給出了設計思路以nny”病毒入侵智能城市中的設備為例，提出要對數據系統(tǒng)及設備處理系統(tǒng)實現安全可控30?！度斯ぶ悄軙r代，如何筑牢信息安全屏障》一文提到了自動駕駛技基于人工智能的人臉識別技術，需要記錄公民面部特征以識別身份，這些數據一旦被竊取，會給公民的隱私帶來極大的危害31。為大量企業(yè)提供新機遇和新市場48。中國信息通信研究院和華為于2020年發(fā)布的《5智能城市安全》（Seuyondaonsor5GSaty）報告中，分析了5智能城市面臨的安全威脅與挑戰(zhàn)，提出了5智能城市安全架構，建立了終端層、網絡層、平臺層和應用層四個層面的安全防護應對措施49。2.2人工智能技術在智能政務中的應用主要包括政務辦公、政務監(jiān)管、政務服務及政務決策等。通過“互聯(lián)網政務服務”構建智能型政府，將云計算、移動物聯(lián)網、人工智能、數據便民的新型政府，實現由“電子政務向智能政務”的轉變50。智能政務系統(tǒng)加快推進政道，助力政務決策和流程優(yōu)化，提升利企便民服務體驗。安防從被動防御轉向主動防御，是安防行業(yè)不斷拓展邊界的有效手段51。智能算法、計金融、樓宇、工業(yè)等方面，其中公共安全是最為核心的應用。碳達峰碳中和是一場全球范圍的系統(tǒng)性社會大變革，我國已提出二氧化碳排放力爭在年前達到峰值，爭取在2060年前實現碳中和54。通過智慧低碳交通、智慧新能源設施、可以有效賦能碳達峰與碳中和53。確保城市可以對抗由全球變暖引起的水環(huán)境危機[52]2.3人員信息進行人臉識別等，一旦數據被