工業(yè)設(shè)計 智能功能安全設(shè)計指南 征求意見稿

1工業(yè)設(shè)計智能功能安全設(shè)計指南本文件適用于指導(dǎo)各類組織開展產(chǎn)品智能功能的安GB/T2099（所有部分）家用GB/T4706（所有部分）家用和GB/T32921信息安全技術(shù)信息技術(shù)產(chǎn)品供GB/T35273信息安全技術(shù)GB/T41295.1功能安全應(yīng)用指南第1部分：危害辨識和需求分析GB/T41295.2功能安全應(yīng)用指南2使產(chǎn)品或事物具備人類或類似人類智慧特征的技術(shù)或技術(shù)解3AI：人工智能（ArtificialIntelligenca)感知，接收并轉(zhuǎn)換信息的能力和過程；b)決策，對輸入的信息進行處理并作出判斷與決定的能力和過程；c)執(zhí)行，將決策結(jié)果付諸實施的能力和過程；在合理可預(yù)見使用情況下，智能功能應(yīng)滿足b)功能安全，不存在由電氣/電子系統(tǒng)的軟件錯誤、硬件失效等功能異常影響智能功能而導(dǎo)致不d)AI安全，AI系統(tǒng)在訓(xùn)練、部署和運行過程中，符合預(yù)期目標(biāo)與倫理準(zhǔn)則，具有較好的可解釋4在進行智能功能的安全設(shè)計過程中，除一般的安全設(shè)計要點外，還需注意以下內(nèi)容：a)智能功能的安全設(shè)計與通常工業(yè)設(shè)計并行；b)考慮由智能功能帶來的、一般產(chǎn)品不具備的特殊風(fēng)險；c)考慮非智能產(chǎn)品為智能化而改變結(jié)構(gòu)、材料等帶來的風(fēng)險。5a)對智能技術(shù)具有較低熟練度的用戶，如b)對數(shù)據(jù)隱私風(fēng)險具有較高敏感度的c)有特殊需求的用戶，如視覺或聽力障礙者、肢體殘疾者等；a)正常操作行為，如遵循使用說b)誤操作行為，如錯誤配置、忽視警告、錯誤輸入和不當(dāng)環(huán)境使用等；c)故障下行為，如嘗試故障排除、忽視故障問題和聯(lián)系技術(shù)a)應(yīng)對智能產(chǎn)品的智能功能在特定環(huán)境下能安全問題以及其他在實現(xiàn)智能功能時存在的c)應(yīng)對智能產(chǎn)品的智能功能承受黑客攻擊、硬件破壞等外部惡意攻擊行為的能力進行分析?；谥悄芄δ艿念A(yù)期用途和使用場景，進行理分析，并分析在特定的危害場景下，由于使用智能功能可能導(dǎo)致b)宜重點考慮在各使用場景下應(yīng)用智能功能可能使智能產(chǎn)品產(chǎn)生的新的風(fēng)6f)檢查表，檢查表提供了一系列典型的需要考慮的不確定性因素，使用者可參照以前的風(fēng)險清g)預(yù)先危險分析（PHA一種歸納分析h)失效模式與影響分析（FMEA一種識別失效模式、機制及其影響的技術(shù)，應(yīng)在故障模式被些應(yīng)處于規(guī)定限值內(nèi)的具體特征來確保產(chǎn)品質(zhì)量、可靠性以及過a)電氣危害，由于智能產(chǎn)品的電氣系統(tǒng)和機械結(jié)構(gòu)影響智能功能實現(xiàn)而導(dǎo)致的危害；b)功能危害，因電氣/電子系統(tǒng)的軟件錯誤、硬件失效等功能異常引致智能功能不能正常實現(xiàn)導(dǎo)c)信息安全危害，智能產(chǎn)品或功能因網(wǎng)絡(luò)攻擊或數(shù)據(jù)泄露而可能面臨的暴露或損失；d)AI危害，因智能產(chǎn)品的AI系統(tǒng)未達到預(yù)期目標(biāo)或倫理準(zhǔn)則，或可解釋性較差導(dǎo)致的危害。7a)冰箱、空調(diào)、洗衣機、微波爐、烤箱、窗簾驅(qū)動器等功能型家電，參考GB/T標(biāo)準(zhǔn)之間存在的差異部分，應(yīng)根據(jù)實際的工作環(huán)境選擇最不利的標(biāo)準(zhǔn)要求進行考應(yīng)參照GB/T41295.2規(guī)定的內(nèi)容制定a)對智能產(chǎn)品啟動前系統(tǒng)運行狀態(tài)進行c)防護裝置因檢測到危險發(fā)出停止指令后，智能產(chǎn)品需維持停止?fàn)顟B(tài)，直至有安全重啟條件為d)安全重啟時，需先復(fù)位防護裝置、解除停止指令，再恢復(fù)安全功能；e)對智能產(chǎn)品啟動前和運行過程中可預(yù)見的安全風(fēng)險進行預(yù)判和保護；性設(shè)計，以確保智能產(chǎn)品不會在運行或受到攻擊時產(chǎn)生數(shù)據(jù)泄露等信息危害，具a)應(yīng)參照GB/T35273和GB/T32921的相關(guān)規(guī)定對用戶的個人信息進行收集、存儲和使用；b)應(yīng)從硬件、固件、操作系統(tǒng)、應(yīng)用、接口等多個方面確軟件的安裝與更新應(yīng)經(jīng)過授權(quán)用戶的同意和確認(rèn)，軟件更新應(yīng)確保更新時智能產(chǎn)品處于安全狀態(tài)，且在發(fā)生預(yù)期外故障時能夠回滾至更e)對于帶操作系統(tǒng)的智能產(chǎn)品，具備登錄驗證與身份鑒8設(shè)計、系統(tǒng)的詳細(xì)設(shè)計以確保智能產(chǎn)品智能功能不存在因預(yù)期功能不足引起的危害而導(dǎo)致的不合理風(fēng)b)宜采用對抗訓(xùn)練與模型冗余設(shè)計，通過對抗樣本檢測、魯棒性測試等技術(shù)提升模型抗干擾能力，通過迭代優(yōu)化算法，直到智能功能滿足相應(yīng)的風(fēng)險可接受準(zhǔn)則以最大限度地減少安全風(fēng)險，確保輸入擾動下的輸出穩(wěn)定性與可靠性，避免因算法模型設(shè)計不足導(dǎo)致不d)應(yīng)考慮智能功能的倫理安全及合規(guī)性設(shè)計，避免算法設(shè)計中的偏見、歧視或違反社會公序良告知機制，確保用戶操作合規(guī)性，避免合理可f)宜建立數(shù)據(jù)質(zhì)量評估機制，避免因數(shù)據(jù)偏差或污染導(dǎo)致模型輸出錯誤或歧視性結(jié)果。測試，測試可以在研發(fā)團隊內(nèi)部進行，也可以考風(fēng)險；宜針對測試工作制定計劃，并將測試過程和結(jié)論文檔化。測試過程的文檔宜包a)測試前編制的測試規(guī)范，宜詳細(xì)規(guī)定測試內(nèi)容、方法、所用對每種危害的后果和可能性進行分析評估，度量每種危害的等級，以判斷其是否在可容許范圍內(nèi)。11.2.2對于不可容許風(fēng)險，應(yīng)重新進行b)結(jié)合危害場景的分析，需同時考慮初始場景發(fā)生的概率和危害場景中后果事件發(fā)生的概率；9檔，形成最終的智能功能安全設(shè)計方案，并由相關(guān)方對安全設(shè)計方案口ABCDEFGHIIKLMNOPQRSTUVXY能。通過文獻檢索、輿情搜索、實驗檢測、事故報告、召回信息、檢驗檢測數(shù)據(jù)、消費者投訴、專家意見、媒體報道等渠道的信息。（2）在密碼、指紋開鎖功能使用中存在障礙（4）AI安全問題，如活體檢測能力不足引有較好的耐久性；部署監(jiān)測系統(tǒng)監(jiān)測鎖具啟、閉操作執(zhí)針對場景4，擬采用如下安全設(shè)計：合理設(shè)置訓(xùn)作部件，測試鎖具自動終止功能能否正常運行且達到預(yù)改權(quán)限，確保認(rèn)證信息的使用遵循最小必要原則，且在獲取和修改時頻等偽造對受試產(chǎn)品進行測試，確保受試產(chǎn)品能檢測或防止偽造數(shù)據(jù)[1]GB/T20002.4-2015標(biāo)準(zhǔn)中特定內(nèi)容的起[3]GB/T20438.5-2017[5]GB/T28219-2018[7]GB/T34400-201[8]GB/T35248-201[9]GB/T40979-2021智能家用[10]GB/T41295.3-2022[11]GB/T41302-2022[1