信息安全技術(shù) 人工智能計(jì)算平臺(tái)安全框架-編制說(shuō)明

一、工作簡(jiǎn)況1、任務(wù)來(lái)源《信息安全技術(shù)人工智能計(jì)算平臺(tái)安全框架》是全國(guó)信息安全技術(shù)標(biāo)準(zhǔn)化委員會(huì)（后文簡(jiǎn)稱(chēng)“信安標(biāo)委”）2022年11月公布立項(xiàng)的信息安全國(guó)家標(biāo)準(zhǔn)制定項(xiàng)目（國(guó)標(biāo)計(jì)劃號(hào)：20230249-T-469）。該標(biāo)準(zhǔn)是由華為技術(shù)有限公司牽頭，并聯(lián)合中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院、中國(guó)電信集團(tuán)有限公司等幾十家單位開(kāi)展編制與討論工作。2、標(biāo)準(zhǔn)編制的主要成員單位華為技術(shù)有限公司負(fù)責(zé)起草，中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院、中國(guó)電信集團(tuán)有限公司、上海商湯智能科技有限公司、北京交通大學(xué)、北京快手科技有限公司、北京神州綠盟科技有限公司從、北京數(shù)安行科技有限公司、北京數(shù)字認(rèn)證股份有限公司、北京信安世紀(jì)科技股份有限公司、北京眼神科技有限公司、北京銀聯(lián)金卡科技有限公司、北京遠(yuǎn)鑒信息技術(shù)有限公司、公安部第三研究所、公安部第一研究所、國(guó)家工業(yè)信息安全發(fā)展研究中心、國(guó)家信息技術(shù)安全研究中心、國(guó)家信息中心、國(guó)網(wǎng)區(qū)塊鏈科技（北京）有限公司、國(guó)網(wǎng)新疆電力有限公司電力科學(xué)研究院、國(guó)網(wǎng)智能電網(wǎng)研究院有限公司、杭州安恒信息技術(shù)股份有限公司、華控清交信息科技（北京）有限公司、華中科技大學(xué)、螞蟻科技集團(tuán)股份有限公司、美的集團(tuán)（上海）有限公司、南湖實(shí)驗(yàn)室、啟明星辰信息技術(shù)集團(tuán)股份有限公司、山石網(wǎng)科通信技術(shù)股份有限公司、上海觀安信息技術(shù)股份有限公司、上海市信息安全測(cè)評(píng)認(rèn)證中心、上海燧原科技有限公司、上海依圖網(wǎng)絡(luò)科技有限公司、深圳大學(xué)、深圳市洞見(jiàn)智慧科技有限公司、四川大學(xué)、騰訊云計(jì)算（北京）有限責(zé)任公司、武漢東湖大數(shù)據(jù)交易中心股份有限公司、西安交通大學(xué)、云從科技集團(tuán)股份有限公司、浙江大華技術(shù)股份有限公司、鄭州信大捷安信息技術(shù)股份有限公司、中國(guó)科學(xué)技術(shù)大學(xué)、中國(guó)科學(xué)院軟件研究所、中國(guó)科學(xué)院信息工程研究所、中國(guó)移動(dòng)通信集團(tuán)有限公司、中電科網(wǎng)絡(luò)安全科技股份有限公司、中國(guó)電力科學(xué)研究院有限公司等單位共同參與了該標(biāo)準(zhǔn)的起草工作。3、主要工作過(guò)程2021年4月至11月，開(kāi)展《AI模型保護(hù)參考架構(gòu)》研究項(xiàng)目，研究人工智能應(yīng)用、安全威脅、人工智能計(jì)算平臺(tái)層面能夠應(yīng)對(duì)的安全威脅、國(guó)內(nèi)外人工智能安全標(biāo)準(zhǔn)及政策法規(guī)對(duì)AI模型保護(hù)保護(hù)、人工智能計(jì)算平臺(tái)安全相關(guān)要求、國(guó)內(nèi)外關(guān)于人工智能計(jì)算平臺(tái)保障AI模型安全相關(guān)的前沿技術(shù)、產(chǎn)品及解決方案等，基于研究?jī)?nèi)容構(gòu)建“基于AI計(jì)算平臺(tái)的模型保護(hù)參考架構(gòu)”，在安標(biāo)委11月的會(huì)議周上通過(guò)工作組匯報(bào)，同意研究項(xiàng)目修改后提交秘書(shū)處驗(yàn)收、該標(biāo)準(zhǔn)研究項(xiàng)目為《信息安全技術(shù)人工智能計(jì)算平臺(tái)安全框架》標(biāo)準(zhǔn)編制奠定研究基礎(chǔ)、產(chǎn)業(yè)共識(shí)基礎(chǔ)等。2021年12月至2022年4月，編制組形成《人工智能計(jì)算平臺(tái)安全框架》標(biāo)準(zhǔn)草案，提交該標(biāo)準(zhǔn)制定需求，信安標(biāo)委發(fā)布《2022年網(wǎng)絡(luò)安全國(guó)家標(biāo)準(zhǔn)需求清單》，該項(xiàng)目被納入需求清單，華為技術(shù)有限公司協(xié)同中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院、中國(guó)電信、中國(guó)移動(dòng)等完成項(xiàng)目申報(bào)。2022年4月至5月，編制組密集討論形成正式草案，于5月20日在大數(shù)據(jù)工作組匯報(bào)答辯，通過(guò)工作組立項(xiàng)評(píng)審。2022年6月至11月，編制組進(jìn)行多輪研討、刷新草案，并完成相關(guān)研究報(bào)告、標(biāo)準(zhǔn)應(yīng)用實(shí)施報(bào)告等，通過(guò)安標(biāo)委專(zhuān)家評(píng)審、委員投票、主任辦公會(huì)等，于11月2日由安標(biāo)委公布正式立項(xiàng)。2022年11月至12月，編制組進(jìn)行正式立項(xiàng)后的第一次研討會(huì)，進(jìn)一步討論明確標(biāo)準(zhǔn)對(duì)象、范圍、安全威脅等重點(diǎn)問(wèn)題，并分工完善標(biāo)準(zhǔn)草案，通過(guò)大數(shù)據(jù)工作組匯報(bào)評(píng)審，同意推進(jìn)至征求意見(jiàn)稿。2022年12月27日，編制組對(duì)會(huì)議周期間大數(shù)據(jù)工作組專(zhuān)家提出的意見(jiàn)進(jìn)行逐一討論，形成一致結(jié)論，并結(jié)合項(xiàng)目責(zé)任專(zhuān)家、責(zé)任編輯等的意見(jiàn)，修改完善形成標(biāo)準(zhǔn)征求意見(jiàn)稿。2022年12月29日，牽頭單位組織研討會(huì)，向責(zé)任專(zhuān)家、責(zé)任編輯介紹標(biāo)準(zhǔn)內(nèi)容，以及會(huì)議周工作組意見(jiàn)，吸取責(zé)任專(zhuān)家及責(zé)任編輯的意見(jiàn)；2023年2月26日，秘書(shū)處組織專(zhuān)家審查會(huì)，本標(biāo)準(zhǔn)通過(guò)專(zhuān)家審查，同意進(jìn)入征求意見(jiàn)稿。2023年3月22日，編制組對(duì)牽頭單位按照專(zhuān)家審查會(huì)意見(jiàn)修改情況進(jìn)行一一討論，形成一致意見(jiàn)。2023年4月28日，牽頭單位組織標(biāo)準(zhǔn)試點(diǎn)啟動(dòng)會(huì)，邀請(qǐng)工作組秘書(shū)、責(zé)任專(zhuān)家及秘書(shū)處參會(huì)，傳遞國(guó)標(biāo)試點(diǎn)要求及計(jì)劃，動(dòng)員征集試點(diǎn)參與單位。二、標(biāo)準(zhǔn)編制原則和確定主要內(nèi)容的論據(jù)及解決的主要問(wèn)題1、編制原則本標(biāo)準(zhǔn)的編制原則是：1）實(shí)用性根據(jù)對(duì)金融、運(yùn)營(yíng)商、電力等諸多行業(yè)的主流AI應(yīng)用場(chǎng)景調(diào)研，國(guó)內(nèi)外政策法規(guī)及標(biāo)準(zhǔn)分析，歸納總結(jié)AI計(jì)算平臺(tái)安全需求，包括自身安全、AI核心資產(chǎn)保護(hù)等，針對(duì)這些安全需求，建立AI計(jì)算平臺(tái)安全框架，包括安全功能、安全機(jī)制、安全模塊和服務(wù)接口，指導(dǎo)人工智能計(jì)算平臺(tái)的設(shè)計(jì)與實(shí)現(xiàn)，也為平臺(tái)使用方應(yīng)用人工智能計(jì)算平臺(tái)安全功能提供參考。2）安全性在本標(biāo)準(zhǔn)中分析了人工智能計(jì)算平臺(tái)不同參與方的業(yè)務(wù)活動(dòng)，識(shí)別其核心資產(chǎn)及安全需求，保障AI核心資產(chǎn)傳輸、存儲(chǔ)、訓(xùn)練、推理全流程安全。3）符合性符合國(guó)家有關(guān)法律法規(guī)和已有標(biāo)準(zhǔn)規(guī)范的相關(guān)要求。2、確定主要內(nèi)容的依據(jù)標(biāo)準(zhǔn)制定的依據(jù)為：a）標(biāo)準(zhǔn)格式按照GB/T1.1—2020標(biāo)準(zhǔn)要求編寫(xiě)。b）本標(biāo)準(zhǔn)制定參考以下國(guó)家、行業(yè)標(biāo)準(zhǔn)：GB/T25069—2022信息安全技術(shù)術(shù)語(yǔ)GB/T41867—2022信息技術(shù)人工智能術(shù)語(yǔ)GB/T42018—2022信息技術(shù)人工智能平臺(tái)計(jì)算資源規(guī)范3、解決的主要問(wèn)題本標(biāo)準(zhǔn)要解決的問(wèn)題為，人工智能計(jì)算任務(wù)執(zhí)行過(guò)程中，AI計(jì)算平臺(tái)如何保障自身安全以及如何基于平臺(tái)保障AI核心資產(chǎn)安全。本標(biāo)準(zhǔn)主要框架如下：前言引言 1范圍 本文件規(guī)定了人工智能計(jì)算平臺(tái)安全框架的安全功能、安全機(jī)制、安全模塊以及服務(wù)接口。本文件適用于指導(dǎo)人工智能計(jì)算平臺(tái)的設(shè)計(jì)與實(shí)現(xiàn)，也為平臺(tái)使用方應(yīng)用人工智能計(jì)算平臺(tái)安全功能提供參考。2規(guī)范性引用文件 GB/T25069—2022信息安全技術(shù)術(shù)語(yǔ)GB/T41867—2022信息技術(shù)人工智能術(shù)語(yǔ)GB/T42018—2022信息技術(shù)人工智能平臺(tái)計(jì)算資源規(guī)范3術(shù)語(yǔ)和定義本標(biāo)準(zhǔn)定義了人工智能加速處理器、人工智能服務(wù)器、人工智能計(jì)算平臺(tái)、人工智能模型、人工智能核心資產(chǎn)、對(duì)抗樣本等相關(guān)術(shù)語(yǔ)定義。4.縮列語(yǔ)5.概述本節(jié)介紹人工智能計(jì)算平臺(tái)安全框架組成：安全框架結(jié)構(gòu)：介紹本文所述的人工智能計(jì)算平臺(tái)安全框架組成結(jié)構(gòu)；安全功能概述：分別介紹平臺(tái)自身安全和AI核心資產(chǎn)保護(hù)兩方面的安全功能以及各安全功能的作用目的；安全機(jī)制概述：介紹各安全機(jī)制的作用目的、涉及的安全模塊及服務(wù)接口。安全模塊概述：介紹各安全模塊基本功能作用；服務(wù)接口概述：介紹本文件所述安全機(jī)制涉及的服務(wù)接口。6.安全模塊規(guī)范各安全模塊具備的基本功能。7.安全機(jī)制規(guī)范各安全機(jī)制涉及的安全模塊交互關(guān)系和交互流程。8.服務(wù)接口歸納各安全機(jī)制涉及的服務(wù)接口及服務(wù)接口所屬安全模塊、接口作用。三、主要試驗(yàn)情況分析基于招商銀行異常行為識(shí)別場(chǎng)景對(duì)本文件定義的“加解密機(jī)制”及相關(guān)安全模塊功能進(jìn)行了試驗(yàn)驗(yàn)證，整體效果表明該機(jī)制符合實(shí)際場(chǎng)景需求，能夠有效保障招行AI模型、數(shù)據(jù)等核心資產(chǎn)從總行訓(xùn)練環(huán)境到分行邊緣推理環(huán)境傳輸、存儲(chǔ)全流程加密保護(hù)。四、知識(shí)產(chǎn)權(quán)情況說(shuō)明本標(biāo)準(zhǔn)不涉及專(zhuān)利及知識(shí)產(chǎn)權(quán)問(wèn)題。五、產(chǎn)業(yè)化情況、推廣應(yīng)用論證和預(yù)期達(dá)到的經(jīng)濟(jì)效果本標(biāo)準(zhǔn)所定義的安全框架適用于各類(lèi)人工智能應(yīng)用系統(tǒng)的底層軟硬件基礎(chǔ)設(shè)施?，F(xiàn)階段，在人工智能領(lǐng)域及關(guān)乎國(guó)計(jì)民生的行業(yè)領(lǐng)域，均已部署人工智能應(yīng)用系統(tǒng)，計(jì)劃通過(guò)采納人工智能技術(shù)促進(jìn)本行業(yè)的數(shù)字化、智能化水平，提高相關(guān)業(yè)務(wù)的性能、效率及準(zhǔn)確度。因此，本標(biāo)準(zhǔn)已具備足夠的產(chǎn)業(yè)化基礎(chǔ)。另一方面，在本標(biāo)準(zhǔn)編制過(guò)程中，金融/電信/能源等重點(diǎn)行業(yè)中的企業(yè)單位及人工智能產(chǎn)業(yè)中的軟件開(kāi)發(fā)商、安全服務(wù)商等專(zhuān)業(yè)公司均積極參與標(biāo)準(zhǔn)試點(diǎn)工作，組成標(biāo)準(zhǔn)推廣應(yīng)用工作組共同推動(dòng)本標(biāo)準(zhǔn)在不同領(lǐng)域的應(yīng)用驗(yàn)證，這也充分證明本標(biāo)準(zhǔn)具備足夠的產(chǎn)業(yè)化基礎(chǔ)，也是各領(lǐng)域亟需參考的關(guān)鍵標(biāo)準(zhǔn)。通過(guò)本標(biāo)準(zhǔn)的制定，一方面可以幫助人工智能領(lǐng)域及使用人工智能技術(shù)的各行各業(yè)構(gòu)筑安全的人工智能計(jì)算平臺(tái)，夯實(shí)基礎(chǔ)以提升人工智能應(yīng)用系統(tǒng)的安全性；另一方面可以幫助各領(lǐng)域人工智能技術(shù)的相關(guān)參與方保障其模型、訓(xùn)練數(shù)據(jù)集等AI核心資產(chǎn)安全?？偠灾緲?biāo)準(zhǔn)的制定能夠?yàn)槿斯ぶ悄芗夹g(shù)的發(fā)展以及各行業(yè)領(lǐng)域加速應(yīng)用人工智能技術(shù)保駕護(hù)航，具備顯著的經(jīng)濟(jì)效益，意義重大。六、采用國(guó)際標(biāo)準(zhǔn)和國(guó)外先進(jìn)標(biāo)準(zhǔn)情況無(wú)七、與現(xiàn)行相關(guān)法律、法規(guī)、規(guī)章及相關(guān)標(biāo)準(zhǔn)的協(xié)調(diào)性本標(biāo)準(zhǔn)與現(xiàn)行法律、法規(guī)、強(qiáng)制性國(guó)家標(biāo)準(zhǔn)及相關(guān)標(biāo)準(zhǔn)協(xié)調(diào)一致。TC260《機(jī)器學(xué)習(xí)算法安全評(píng)估規(guī)范》標(biāo)準(zhǔn)側(cè)重模型、數(shù)據(jù)、算法等自身安全增強(qiáng)，本標(biāo)準(zhǔn)側(cè)重AI計(jì)算平臺(tái)自身安全以及AI計(jì)算平臺(tái)如何加強(qiáng)AI模型、數(shù)據(jù)等AI核心資產(chǎn)保護(hù)，二者對(duì)象范圍等存在差異，但相輔相成共同促進(jìn)AI整體安全。與SC42《人工智能術(shù)語(yǔ)》、《人工智能平臺(tái)資源供給》在術(shù)語(yǔ)及AI平臺(tái)組成等存在一致性或映射關(guān)系；。八、重大分歧意見(jiàn)的處理經(jīng)過(guò)和依據(jù)無(wú)。九、標(biāo)準(zhǔn)性質(zhì)的建議建議作為國(guó)家推薦性標(biāo)準(zhǔn)發(fā)布。十、貫徹標(biāo)準(zhǔn)的要求和措施建議本標(biāo)準(zhǔn)期望達(dá)成以下兩方面效果：使得AI計(jì)算平臺(tái)提供方能夠參考本標(biāo)準(zhǔn)設(shè)計(jì)、研發(fā)AI計(jì)算平臺(tái)，保障AI計(jì)算平臺(tái)自身安全，并提供相關(guān)安全功能及服務(wù)接口輔助AI計(jì)算平臺(tái)使用方保障AI核心資產(chǎn)傳輸、存儲(chǔ)、訓(xùn)練、推理全流程安全；使得AI計(jì)算平臺(tái)使用方，包括數(shù)據(jù)提供方、模型提供方、應(yīng)用開(kāi)發(fā)方等，能夠參考調(diào)用本標(biāo)準(zhǔn)定義的安全功能模塊，加強(qiáng)對(duì)AI核心資產(chǎn)的安全保護(hù)。十一、替代或廢止現(xiàn)行相關(guān)標(biāo)準(zhǔn)的