TSIGA 003-2024 智能制造聯(lián)邦學(xué)習(xí)應(yīng)用指南

ICS35.240.50CCSL67

T/SIGA團(tuán) 體 標(biāo) 準(zhǔn)T/SIGA003—2024智能制造聯(lián)邦學(xué)習(xí)應(yīng)用指南Guidanceforfederatedlearningapplicationofintelligentmanufacturing2024-08-27發(fā)布 2024-08-28實(shí)施上海市圖像圖形學(xué)學(xué)會(huì) 發(fā)布T/SIGA003—2024T/SIGA003—2024目 次前言 I范圍 1規(guī)范性引用文件 1術(shù)語(yǔ)和定義 1縮略語(yǔ) 3架構(gòu) 3分類 4參與方角色 4實(shí)現(xiàn)過(guò)程 5軟件系統(tǒng) 6附錄A（資料性）智能制造聯(lián)邦學(xué)習(xí)實(shí)現(xiàn)過(guò)程流程圖 12附錄B（資料性）評(píng)價(jià)指標(biāo)計(jì)算公式 13參考文獻(xiàn) 15T/SIGA003—2024T/SIGA003—2024II前 言GB/T1.1—20201請(qǐng)注意本文件的某些內(nèi)容可能涉及專利。本文件的發(fā)布機(jī)構(gòu)不承擔(dān)識(shí)別專利的責(zé)任。本文件由上海市圖像圖形學(xué)學(xué)會(huì)歸口。T/SIGA003—2024T/SIGA003—2024PAGEPAGE10智能制造聯(lián)邦學(xué)習(xí)應(yīng)用指南范圍規(guī)范性引用文件本文件沒(méi)有規(guī)范性引用文件。術(shù)語(yǔ)和定義下列術(shù)語(yǔ)和定義適用于本文件。聯(lián)邦學(xué)習(xí)federatedlearning一種分布式機(jī)器學(xué)習(xí)技術(shù)，其核心思想是通過(guò)在多個(gè)擁有本地?cái)?shù)據(jù)的數(shù)據(jù)源之間進(jìn)行分布式模型訓(xùn)[來(lái)源：IEEEP3652.1—2020，1.1，有修改]聯(lián)邦簇federatedcluster以相同數(shù)據(jù)方案在資產(chǎn)數(shù)據(jù)上訓(xùn)練的模型的所有學(xué)習(xí)任務(wù)。聯(lián)邦學(xué)習(xí)任務(wù)federatedlearningtask需要用算法訓(xùn)練的機(jī)器學(xué)習(xí)模型，簡(jiǎn)稱任務(wù)。聯(lián)邦學(xué)習(xí)計(jì)劃federatedlearningprogram對(duì)應(yīng)一個(gè)聯(lián)邦學(xué)習(xí)任務(wù)，表示聯(lián)邦學(xué)習(xí)服務(wù)器和相關(guān)聯(lián)邦學(xué)習(xí)客戶端的聯(lián)邦執(zhí)行指令。聯(lián)邦學(xué)習(xí)軟件系統(tǒng)federatedlearningsystem一套完整的、嚴(yán)密的用于實(shí)現(xiàn)聯(lián)邦學(xué)習(xí)功能的軟件。元數(shù)據(jù)metadata數(shù)據(jù)集的字段信息，如字段名、字段類型、字段信息等。局部模型localmodel各個(gè)客戶端的模型。全局模型globalmodel各個(gè)客戶端聯(lián)邦聚合后的模型。參與方participant一個(gè)或一組自然人或法人，指參與聯(lián)邦學(xué)習(xí)互聯(lián)互通任務(wù)的主體，包含發(fā)起方、數(shù)據(jù)方、算法方、計(jì)算方、結(jié)果方、協(xié)調(diào)方等多種角色。算法組件algorithmcomponent用于執(zhí)行計(jì)算任務(wù)的一種可代替、可組合的部件，封裝了算法功能的實(shí)現(xiàn)并提供一系列可用的接口。同構(gòu)homogeneity多個(gè)相同類型的樣本參與完成一件事情。異構(gòu)heterogeneity多個(gè)不同類型的樣本參與完成一件事情。資產(chǎn)assets數(shù)據(jù)的來(lái)源，包括各種傳感器、加工設(shè)備、機(jī)器人等?？蛻舳薳nd位于聯(lián)邦學(xué)習(xí)模型的最底層，能執(zhí)行簡(jiǎn)單的計(jì)算來(lái)訓(xùn)練和評(píng)價(jià)模型，簡(jiǎn)稱端。誠(chéng)實(shí)客戶端honestend遵循協(xié)議規(guī)定、誠(chéng)實(shí)地提供數(shù)據(jù)或執(zhí)行計(jì)算任務(wù)的客戶端。半誠(chéng)實(shí)客戶端semi—honestend按照協(xié)議規(guī)定進(jìn)行操作，但同時(shí)會(huì)嘗試從其他方的輸入或計(jì)算過(guò)程中獲取更多信息的客戶端。惡意客戶端maliciousend試圖挖掘其他參與方隱私信息的客戶端。邊edge云cloud中心服務(wù)器，位于聯(lián)邦學(xué)習(xí)模型的最高層，具有更大的計(jì)算能力。鍵值key-value根據(jù)關(guān)鍵字取值，具有極高的并發(fā)讀寫性能。節(jié)點(diǎn)node互聯(lián)互通網(wǎng)絡(luò)的基本組成單元，對(duì)外提供交互接口。縮略語(yǔ)下列縮略語(yǔ)適用于本文件。API（applicationprogramminginterface）：應(yīng)用程序接口HMAC（hash—basedmessageauthenticationcode）：密鑰相關(guān)的哈希運(yùn)算消息認(rèn)證碼HTTPS（hypertextTransferprotocoloversecuresocketlayer）：超文本安全傳輸協(xié)議RPC（remoteprocedurecall）：遠(yuǎn)程過(guò)程調(diào)用TCP（transmissioncontrolprotocol）：傳輸控制協(xié)議TLS（transportlayersecurity）：傳輸層安全協(xié)議UDP（userdatagramprotocol）：用戶數(shù)據(jù)報(bào)協(xié)議VPN（virtualprivatenetwork）：虛擬專用網(wǎng)絡(luò)XML（extensiblemarkuplanguage）：可擴(kuò)展標(biāo)記語(yǔ)言QPS（Queriespersecond）：每秒查詢率架構(gòu)1圖1智能制造聯(lián)邦學(xué)習(xí)架構(gòu)客戶端（端）可以是設(shè)備、車間。位于分層聯(lián)邦學(xué)習(xí)模型的最底層，能執(zhí)行簡(jiǎn)單的計(jì)算來(lái)訓(xùn)練和評(píng)價(jià)模型。數(shù)據(jù)、模態(tài)同構(gòu)的客戶端組成聯(lián)邦簇。簇內(nèi)的客戶端是同構(gòu)的，可以減小訓(xùn)練的復(fù)雜度。邊緣設(shè)備（邊）位于分層聯(lián)邦學(xué)習(xí)模型的中間，是第一層聯(lián)邦學(xué)習(xí)的聚合中心，不同的邊緣設(shè)備間數(shù)據(jù)、模態(tài)異構(gòu)。通常邊緣設(shè)備比客戶端計(jì)算能力更強(qiáng)，位于工廠的不同部門或不同的工廠?？尚诺谌椒?wù)器（云）可以是功能強(qiáng)大的參與方，也可以不是參與方，其位于分層聯(lián)邦學(xué)習(xí)模示能力強(qiáng)。分類橫向聯(lián)邦學(xué)習(xí)縱向聯(lián)邦學(xué)習(xí)聯(lián)邦遷移學(xué)習(xí)參與方角色任務(wù)發(fā)起方任務(wù)調(diào)度方算法提供方數(shù)據(jù)提供方計(jì)算方結(jié)果使用方實(shí)現(xiàn)過(guò)程總體流程見(jiàn)附錄A。任務(wù)創(chuàng)建任務(wù)發(fā)起方利用調(diào)度方發(fā)起聯(lián)邦學(xué)習(xí)任務(wù)。任務(wù)分配數(shù)據(jù)準(zhǔn)備聯(lián)邦學(xué)習(xí)初始化配置協(xié)議定義通信協(xié)議和通信傳輸信息加密方式。模型初始化中央服務(wù)器（或協(xié)調(diào)服務(wù)器）初始化一個(gè)全局模型，并將其發(fā)送到各個(gè)工廠或生產(chǎn)線的本地設(shè)備。本地模型訓(xùn)練模型間通信模型參數(shù)上傳（梯度或權(quán)重更新或知識(shí)加密后上傳到中央服務(wù)器。隱私保護(hù)在上傳過(guò)程中，使用差分隱私、同態(tài)加密等技術(shù)保護(hù)數(shù)據(jù)隱私，確保上傳的參數(shù)不泄露敏感信息。全局模型聚合參數(shù)聚合中央服務(wù)器接收來(lái)自各個(gè)工廠或生產(chǎn)線的加密模型參數(shù)，使用聯(lián)邦平均或其他聚合算法更新全局模型。更新全局模型將聚合后的全局模型參數(shù)更新到全局模型中，并準(zhǔn)備分發(fā)給各個(gè)本地節(jié)點(diǎn)。模型分發(fā)與迭代模型分發(fā)中央服務(wù)器將更新后的全局模型分發(fā)給各個(gè)工廠或生產(chǎn)線，開(kāi)始下一輪的本地模型訓(xùn)練。迭代訓(xùn)練上述本地訓(xùn)練、模型更新和全局聚合過(guò)程重復(fù)進(jìn)行多輪，直至全局模型收斂或達(dá)到預(yù)設(shè)的訓(xùn)練輪次。模型驗(yàn)證與部署模型驗(yàn)證模型部署將最終的全局模型部署到各個(gè)工廠或生產(chǎn)線，應(yīng)用于實(shí)際生產(chǎn)過(guò)程中的預(yù)測(cè)、優(yōu)化和決策等工作。軟件系統(tǒng)軟件系統(tǒng)包括但不限于接入層模塊、基礎(chǔ)技術(shù)模塊、計(jì)算模塊、管理模塊，其框架參見(jiàn)圖2。接入層是參與方接入系統(tǒng)需要的各種協(xié)議以及連接器，實(shí)現(xiàn)網(wǎng)絡(luò)互聯(lián)。圖2聯(lián)邦學(xué)習(xí)軟件系統(tǒng)和現(xiàn)有智能制造系統(tǒng)對(duì)接現(xiàn)有智能制造系統(tǒng)相對(duì)成熟，聯(lián)邦學(xué)習(xí)系統(tǒng)需要和現(xiàn)有的制造系統(tǒng)做好對(duì)接，以發(fā)揮聯(lián)邦學(xué)習(xí)2聯(lián)邦學(xué)習(xí)系統(tǒng)宜支持不同類型的數(shù)據(jù)提供方，涵蓋目前智能制造系統(tǒng)通用的數(shù)據(jù)類型，包括但MySQL、Oracle、Hive、HBasetxt、csv、xml、key-value。webAPIhttps功能建議身份認(rèn)證身份認(rèn)證宜滿足以下要求：對(duì)隱私計(jì)算過(guò)程中的關(guān)鍵環(huán)節(jié)進(jìn)行身份認(rèn)證，保證操作方身份及行為的合法性和抗抵賴性；使用HMAC、數(shù)字簽名、動(dòng)態(tài)口令等技術(shù)對(duì)隱私計(jì)算系統(tǒng)中各參與方進(jìn)行身份認(rèn)證與管理；各參與方之間通信時(shí)進(jìn)行身份認(rèn)證，保證身份合法性；任務(wù)發(fā)起方對(duì)任務(wù)請(qǐng)求信息進(jìn)行簽名，任務(wù)調(diào)度方對(duì)身份進(jìn)行審核，并向任務(wù)涉及的相關(guān)方請(qǐng)求任務(wù)審核。當(dāng)身份和任務(wù)審核都通過(guò)時(shí)才允許任務(wù)發(fā)起方創(chuàng)建任務(wù)；結(jié)果方請(qǐng)求計(jì)算結(jié)果時(shí)，任務(wù)調(diào)度方進(jìn)行身份認(rèn)證和權(quán)限鑒別；采用兩種或兩種以上組合的認(rèn)證方式實(shí)現(xiàn)身份認(rèn)證，且其中至少一種認(rèn)證方式宜使用密碼技術(shù)來(lái)實(shí)現(xiàn)，身份認(rèn)證方式包括但不限于口令、證書、令牌、短信驗(yàn)證碼、郵箱驗(yàn)證碼、生物識(shí)別；身份認(rèn)證信息具有復(fù)雜度要求并定期更換；采用密碼技術(shù)保證身份認(rèn)證信息在傳輸過(guò)程中的完整性和保密性。授權(quán)訪問(wèn)授權(quán)訪問(wèn)宜滿足以下要求：系統(tǒng)能對(duì)各參與方進(jìn)行相應(yīng)的權(quán)限設(shè)置和訪問(wèn)控制，避免出現(xiàn)信息泄露或操作風(fēng)險(xiǎn)；按照最小安全訪問(wèn)原則設(shè)置訪問(wèn)控制權(quán)限；支持基于用戶賬戶和權(quán)限分配的細(xì)粒度訪問(wèn)控制，支持僅授權(quán)用戶才能訪問(wèn)特定資源；對(duì)數(shù)據(jù)提供方的數(shù)據(jù)使用進(jìn)行控制，防止數(shù)據(jù)在數(shù)據(jù)提供方非授權(quán)的情況下被使用；任務(wù)調(diào)度方宜對(duì)未被授權(quán)的計(jì)算請(qǐng)求協(xié)調(diào)發(fā)起數(shù)據(jù)使用授權(quán)申請(qǐng)，申請(qǐng)內(nèi)容包含授權(quán)主體、授數(shù)據(jù)提供方對(duì)每個(gè)任務(wù)請(qǐng)求驗(yàn)證其數(shù)據(jù)使用授權(quán)的合法性，包括但不限于授權(quán)是否有效、數(shù)據(jù)使用范圍和使用期限是否合理，進(jìn)而保證訪問(wèn)者是否具備操作該對(duì)象的權(quán)限；保證數(shù)據(jù)是在數(shù)據(jù)方授權(quán)的情況下被使用；支持根據(jù)用戶身份、行為、環(huán)境，以及安全監(jiān)測(cè)情況等綜合因素，動(dòng)態(tài)調(diào)整用戶的訪問(wèn)權(quán)限；數(shù)據(jù)提供方具備取消數(shù)據(jù)使用授權(quán)的權(quán)限;采用密碼技術(shù)保證訪問(wèn)控制信息的完整性；采用密碼技術(shù)保證重要信息資源安全標(biāo)記的完整性。存證審計(jì)存證審計(jì)宜滿足以下要求：具備對(duì)各參與方的用戶操作日志和結(jié)果存證的審計(jì)能力，對(duì)于違背約定的數(shù)據(jù)提供方、計(jì)算方和結(jié)果使用方能通過(guò)存證、審計(jì)等方法進(jìn)行發(fā)現(xiàn)、追蹤；對(duì)隱私計(jì)算全過(guò)程中各參與方的操作行為、模型參數(shù)、狀態(tài)信息、計(jì)算過(guò)程、數(shù)據(jù)的訪問(wèn)記錄等信息進(jìn)行存證；對(duì)數(shù)據(jù)提供方和結(jié)果使用方的計(jì)算結(jié)果和信息進(jìn)行存證和記錄，保證信息安全性與結(jié)果可追溯性；采用密碼技術(shù)保證日志及存證信息的完整性，并提供查詢功能，能夠?qū)χ匾爱惓２僮鬟M(jìn)行回溯和審計(jì)；將區(qū)塊鏈技術(shù)用于輔助存證審計(jì)，實(shí)現(xiàn)數(shù)據(jù)全節(jié)點(diǎn)可見(jiàn)，鏈上數(shù)據(jù)可追溯、不可篡改；使用核準(zhǔn)的密碼技術(shù)對(duì)存證內(nèi)容和審計(jì)記錄進(jìn)行保護(hù)，防止非授權(quán)的篡改和竊取。聯(lián)邦計(jì)算聯(lián)邦計(jì)算宜滿足以下要求：數(shù)據(jù)計(jì)算既能處理結(jié)構(gòu)化數(shù)據(jù)也能處理非結(jié)構(gòu)化數(shù)據(jù)；數(shù)據(jù)提供方將傳輸?shù)男畔⑼ㄟ^(guò)密碼變換轉(zhuǎn)換為密態(tài)數(shù)據(jù)，提供給計(jì)算方；具備數(shù)據(jù)格式轉(zhuǎn)換、精度處理等功能；提供多種聯(lián)邦計(jì)算能力，包括但不限于數(shù)據(jù)清洗、特征選擇等特征工程，常用的聯(lián)邦監(jiān)督學(xué)習(xí)算法，常用的聯(lián)邦非監(jiān)督學(xué)習(xí)算法，聯(lián)邦深度學(xué)習(xí)算法等；（loss（AUC,areaundercurve）值、準(zhǔn)確率（accuracy)、F1（F1score）。評(píng)價(jià)指標(biāo)的具體計(jì)算公式可參見(jiàn)B；支持聯(lián)邦模型在線、離線推理和批量推理；支持聯(lián)邦算法在線編寫、修改、調(diào)試、提交等。用戶加入和退出機(jī)制用戶加入和退出機(jī)制宜滿足以下要求：聯(lián)邦學(xué)習(xí)客戶端包括誠(chéng)實(shí)、半誠(chéng)實(shí)和惡意客戶端，在用戶加入時(shí)具有判別機(jī)制，拒絕惡意客戶端加入；對(duì)于一段時(shí)間內(nèi)沒(méi)有貢獻(xiàn)或拖慢整個(gè)聯(lián)邦學(xué)習(xí)系統(tǒng)的客戶端，給出預(yù)警、限期整改和強(qiáng)制退出等不同類別的警戒措施。非功能建議系統(tǒng)安全性數(shù)據(jù)安全性數(shù)據(jù)安全性宜確保數(shù)據(jù)全生命周期的安全性：在數(shù)據(jù)進(jìn)入聯(lián)邦學(xué)習(xí)系統(tǒng)前對(duì)法律法規(guī)禁止、未經(jīng)個(gè)人信息主體授權(quán)，與當(dāng)前業(yè)務(wù)場(chǎng)景無(wú)關(guān)、無(wú)法利用的數(shù)據(jù)等進(jìn)行數(shù)據(jù)去除；對(duì)法律法規(guī)禁止的輸入數(shù)據(jù)進(jìn)行匿名化處理，使個(gè)人信息主體無(wú)法被識(shí)別或關(guān)聯(lián)；具備接收數(shù)據(jù)訪問(wèn)權(quán)限申請(qǐng)、對(duì)權(quán)限進(jìn)行授權(quán)和管理的功能，保證流入數(shù)據(jù)在數(shù)據(jù)提供方授權(quán)后被訪問(wèn)，過(guò)程數(shù)據(jù)和結(jié)果數(shù)據(jù)的訪問(wèn)權(quán)限須符合參與方約定；對(duì)原始數(shù)據(jù)、中間數(shù)據(jù)及結(jié)果數(shù)據(jù)進(jìn)行分層存儲(chǔ)，保證原始數(shù)據(jù)與結(jié)果數(shù)據(jù)之間的獨(dú)立性；對(duì)數(shù)據(jù)的摘要等數(shù)據(jù)、數(shù)據(jù)關(guān)鍵操作、操作主體進(jìn)行存證，保證具有追溯能力。存證數(shù)據(jù)本身需要進(jìn)行脫敏、加密等處理，對(duì)存證數(shù)據(jù)約定的存儲(chǔ)時(shí)限符合法律法規(guī)的要求；各參與方遵循最小化原則存儲(chǔ)過(guò)程數(shù)據(jù)，在保證可追溯性的前提下，在數(shù)據(jù)隱私計(jì)算完成后采用覆寫法等方式刪除非必要的過(guò)程數(shù)據(jù)；保證敏感信息已被消除，無(wú)法通過(guò)聯(lián)邦學(xué)習(xí)處理后的數(shù)據(jù)進(jìn)行推斷、重建、還原。保證在采用計(jì)算安全性計(jì)算安全性宜確保在計(jì)算過(guò)程中安全性：確保各參與方的原始數(shù)據(jù)不出本地，隱私數(shù)據(jù)不可被逆推、竊取或篡改；保證計(jì)算結(jié)果只被約定的結(jié)果使用方獲知，不被其他參與方知曉，保障結(jié)果隱私性；采用同態(tài)加密、多方安全計(jì)算、差分隱私、可信硬件等安全技術(shù)保護(hù)中間數(shù)據(jù)，防止從中間數(shù)據(jù)逆推出原始數(shù)據(jù)及隱私參數(shù)。所使用的密碼方案具有可證明安全性，且能夠較全面地抵抗已知攻擊；在有第三方的架構(gòu)中，保證第三方未經(jīng)授權(quán)不可獲知或解密出模型參數(shù)明文、可逆推出模型參數(shù)或用戶隱私數(shù)據(jù)的中間參數(shù)明文；傳輸安全性傳輸安全性宜保證傳輸通道和通信網(wǎng)絡(luò)的安全性：使用SSL3.2/TLS1.1以上的安全通信機(jī)制，具體版本和加密套件由各參與方協(xié)商確定；傳輸過(guò)程中使用的簽名算法、雜湊算法、密鑰協(xié)商算法符合國(guó)家密碼主管部門的要求，采用國(guó)家商用密碼算法：SM2、SM3、SM4等；采用HTTPS等安全傳輸協(xié)議，若通過(guò)運(yùn)營(yíng)商進(jìn)行數(shù)據(jù)傳輸，采用VPN或者專線等技術(shù)保證傳輸通道的安全性；各參與方采取適當(dāng)?shù)募夹g(shù)和管理措施保證傳輸過(guò)程安全?？刹捎檬侄伟ǖ幌抻趥浞荽鎯?chǔ)、二次加密、一次一密、前置機(jī)技術(shù)、多租戶隔離；一般公網(wǎng)、內(nèi)網(wǎng)場(chǎng)景中使用TCP協(xié)議進(jìn)行傳輸。對(duì)于傳輸效率有更高要求的，使用UDP協(xié)議進(jìn)行傳輸，保證基于UDP協(xié)議可以在復(fù)雜網(wǎng)絡(luò)環(huán)境之中穩(wěn)定運(yùn)行。系統(tǒng)性能系統(tǒng)性能宜保證計(jì)算滿足一定的性能：在安全合規(guī)的前提下，支持完成海量數(shù)據(jù)的處理、計(jì)算；特征的聯(lián)邦學(xué)習(xí)建模，億級(jí)數(shù)據(jù)的聯(lián)邦學(xué)習(xí)在線推理。模型推理的耗時(shí)、吞吐量等分別滿足實(shí)時(shí)和非實(shí)時(shí)業(yè)務(wù)場(chǎng)景要求；對(duì)數(shù)據(jù)的計(jì)算和通信耗時(shí)符合各參與方預(yù)期，同時(shí)支持并行計(jì)算和分布式計(jì)算。易用性易用性宜滿足以下要求：使用率、網(wǎng)絡(luò)等；能對(duì)任務(wù)運(yùn)行過(guò)程中的詳細(xì)日志能進(jìn)行查看和下載；能對(duì)平臺(tái)的網(wǎng)絡(luò)通信量進(jìn)行觀測(cè)，如出入包的大小等；能對(duì)平臺(tái)的負(fù)載進(jìn)行監(jiān)控，如服務(wù)調(diào)用QPS；能對(duì)計(jì)算流程進(jìn)行監(jiān)控，如模型指標(biāo)等；聯(lián)邦學(xué)習(xí)平臺(tái)需要具備完善的部署和操作說(shuō)明文檔，方便用戶理解、部署、接入和使用。能支持可視化拖拉拽操作，包括數(shù)據(jù)管理、任務(wù)管理、模型管理等交互操作界面，降低用戶學(xué)習(xí)和使用的成本；能提供算法開(kāi)發(fā)框架，方便用戶可以基于框架開(kāi)發(fā)滿足安全約束條件的自定義算法開(kāi)發(fā)；能提供良好的應(yīng)用設(shè)計(jì)，減少升級(jí)時(shí)對(duì)用戶的打擾，最小化用戶升級(jí)成本；能支持容器化部署，方便用戶快速部署；在保持系統(tǒng)基礎(chǔ)設(shè)施穩(wěn)定和改動(dòng)量最小的情況下可靈活實(shí)現(xiàn)集群資源的彈性擴(kuò)展，如：資源層面的彈性增減，如CPU、存儲(chǔ)設(shè)備、輸入/輸出（I/O）設(shè)備等；系統(tǒng)層面，調(diào)度系統(tǒng)、計(jì)算引擎、數(shù)據(jù)服務(wù)均可彈性擴(kuò)展；具備魯棒性，如斷點(diǎn)續(xù)跑等能力，在模型訓(xùn)練執(zhí)行意外失敗時(shí)，可基于斷點(diǎn)，繼續(xù)運(yùn)行；具備主備、多活等高可用機(jī)制，單節(jié)點(diǎn)出現(xiàn)故障時(shí)可自動(dòng)隔離及切換，對(duì)外服務(wù)不存在單點(diǎn)。附 錄A（資料性）智能制造聯(lián)邦學(xué)習(xí)實(shí)現(xiàn)過(guò)程流程圖圖A.1給出了一種智能制造聯(lián)邦學(xué)習(xí)實(shí)現(xiàn)過(guò)程流程圖。圖A.1T/SIGA003—2024T/SIGA003—2024PAGEPAGE13附 錄B（資料性）評(píng)價(jià)指標(biāo)計(jì)算公式損失（loss)交叉熵?fù)p失，可按式（B.1）計(jì)算。L[ylog?1y)log1?)]

·