人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）

人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）目錄CONTENTSTOC\o"1-2"\h\z\u一、人工智能發(fā)展現(xiàn)狀 1（一）人工智能技術(shù)特點(diǎn) 1（二）人工智能應(yīng)用趨勢(shì) 2（三）人工智能安全屬性 3二、人工智能安全風(fēng)險(xiǎn)分析 5（一）用戶數(shù)據(jù)用于訓(xùn)練，放大隱私信息泄露風(fēng)險(xiǎn) 5（二）算法模型日趨復(fù)雜，可解釋性目標(biāo)難實(shí)現(xiàn) 5（三）可靠性問(wèn)題仍然制約人工智能關(guān)鍵領(lǐng)域應(yīng)用 6（四）濫用誤用人工智能，擾亂生產(chǎn)生活安全秩序 6（五）模型和數(shù)據(jù)成為核心資產(chǎn)，安全保護(hù)難度提升 6（六）網(wǎng)絡(luò)意識(shí)形態(tài)安全面臨新風(fēng)險(xiǎn) 7三、人工智能安全政策與標(biāo)準(zhǔn)現(xiàn)狀 8（一）國(guó)內(nèi)外人工智能安全戰(zhàn)略與政策法規(guī) 8（二）國(guó)內(nèi)外人工智能安全標(biāo)準(zhǔn) 四、人工智能安全標(biāo)準(zhǔn)需求分析 15（一）人工智能安全屬性定義和度量指標(biāo) 15（二）用戶輸入數(shù)據(jù)安全保護(hù)相關(guān)規(guī)范 15（三）人工智能服務(wù)網(wǎng)絡(luò)安全防護(hù)相關(guān)指南 15（四）人工智能安全評(píng)估相關(guān)規(guī)范 16（五）生成式人工智能安全標(biāo)準(zhǔn) 16-IV-目錄CONTENTS五、人工智能安全標(biāo)準(zhǔn)化工作建議 17（一）持續(xù)完善人工智能安全標(biāo)準(zhǔn)體系 17（二）大力開(kāi)展基礎(chǔ)共性安全標(biāo)準(zhǔn)研究 17（三）加快出臺(tái)產(chǎn)業(yè)發(fā)展急需安全標(biāo)準(zhǔn) 17附錄A：標(biāo)準(zhǔn)列表 19國(guó)內(nèi)人工智能安全相關(guān)標(biāo)準(zhǔn)列表 19國(guó)外人工智能安全相關(guān)標(biāo)準(zhǔn)列表 22-V-一、人工智能發(fā)展現(xiàn)狀一、人工智能發(fā)展現(xiàn)狀一、人工智能發(fā)展現(xiàn)狀向應(yīng)用，已成為社會(huì)生產(chǎn)生活的支柱性技術(shù)。2020年后，當(dāng)自動(dòng)駕駛、人臉識(shí)別等熱門(mén)應(yīng)用發(fā)展逐漸放緩、社會(huì)對(duì)人工智能整體發(fā)展預(yù)期日益冷靜時(shí)，大模型技術(shù)潛力的釋放以最振聾發(fā)聵的方式宣告了人工智能第三次高速發(fā)展期遠(yuǎn)未結(jié)束，當(dāng)前正是攀登發(fā)展高峰的關(guān)鍵時(shí)期。另一方面，當(dāng)人工智能可以通過(guò)人類最嚴(yán)格的考試、同時(shí)執(zhí)行多種工作命令、具備一定的推理規(guī)劃能力、生成以假亂真的照片、模仿人類與人聊天不被發(fā)現(xiàn)時(shí)，其安全問(wèn)題也更為復(fù)雜棘手，傳統(tǒng)安全考慮以及管理方法需要重新審視。在此背景下，人工智能是否安全、如何保障安全成為全球焦點(diǎn)，統(tǒng)籌安全與發(fā)展是其中關(guān)鍵。（一）人工智能技術(shù)特點(diǎn)技術(shù)發(fā)展方面，隨著謂詞推理、專家系統(tǒng)、知識(shí)樹(shù)和向量機(jī)學(xué)習(xí)等傳統(tǒng)技術(shù)的發(fā)展日趨放緩，促使以聯(lián)結(jié)主義和概率統(tǒng)計(jì)等理論為基礎(chǔ)的深度學(xué)習(xí)加速發(fā)展，邁入了以人工神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)、以大模型為典型應(yīng)用的新發(fā)展階段。在模型方面，大規(guī)模人工智能模型逐步成為業(yè)界主流。以生成式人工智能為例，具備數(shù)百億參數(shù)的模型已非罕見(jiàn)，并隨著模型規(guī)模增長(zhǎng)產(chǎn)生了接近人類的“高級(jí)”能力，使人們相信通用人工智能或?qū)⒌絹?lái)。StableDiffusion、Midjourney等視覺(jué)生成模型具有類似人類的視覺(jué)創(chuàng)作能力，ChatGPT等文本生成模型具有高度近似人類的語(yǔ)言推理和規(guī)劃等能力。有研究認(rèn)為，這些能力是隨著模型參數(shù)達(dá)到數(shù)百億級(jí)別后逐漸產(chǎn)生的，雖其-1-人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）技術(shù)原理尚未明晰，但進(jìn)一步推動(dòng)了模型越來(lái)越大的技術(shù)趨勢(shì)。在訓(xùn)練方面，有人類參與的指令微調(diào)技術(shù)是近年來(lái)人工智能的另一大技術(shù)特點(diǎn)。指令微調(diào)主要有三種實(shí)現(xiàn)形式，以預(yù)訓(xùn)練語(yǔ)言模型為例：一是引入人工撰寫(xiě)的大量對(duì)話數(shù)據(jù)對(duì)模型進(jìn)行微調(diào)訓(xùn)練；二是人工對(duì)微調(diào)后模型面向同一提示詞生成的多個(gè)備選答案進(jìn)行價(jià)值排序，訓(xùn)練價(jià)值評(píng)分模型；三是在價(jià)值評(píng)分模型的獎(jiǎng)勵(lì)信號(hào)下，微調(diào)模型進(jìn)行強(qiáng)化學(xué)習(xí)訓(xùn)練，不斷改進(jìn)模型的表現(xiàn)。通過(guò)該部分技術(shù)，可將在海量語(yǔ)料庫(kù)上訓(xùn)練的模型與復(fù)雜的人類價(jià)值觀實(shí)現(xiàn)對(duì)齊，期望人工智能可以生成正確、有用、無(wú)害的內(nèi)容。（二）人工智能應(yīng)用趨勢(shì)應(yīng)用發(fā)展方面，人工智能進(jìn)一步與社會(huì)各方面融合?？珙I(lǐng)域、面向通用的人工智能應(yīng)用持續(xù)發(fā)展，各領(lǐng)域處理獨(dú)立任務(wù)的人工智能應(yīng)用更加深度嵌入產(chǎn)業(yè)生態(tài)。未來(lái)，預(yù)期形成以通用人工智能應(yīng)用為基座，專用人工智能應(yīng)用環(huán)繞的新人工智能“生態(tài)圈”。1、人工智能與實(shí)體經(jīng)濟(jì)融合發(fā)展近年來(lái)，人工智能與實(shí)體經(jīng)濟(jì)融合愈發(fā)深入，融合形式愈發(fā)多樣，對(duì)產(chǎn)業(yè)促進(jìn)作用明顯，推動(dòng)新型業(yè)態(tài)逐步形成。當(dāng)前，人工智能在多個(gè)行業(yè)領(lǐng)域廣泛應(yīng)用，在制造領(lǐng)域的運(yùn)營(yíng)管理優(yōu)化、制造過(guò)程優(yōu)化等環(huán)節(jié)，智能家居領(lǐng)域的身份鑒別、功能控制、安全防護(hù)等環(huán)節(jié)，智能交通領(lǐng)域的動(dòng)態(tài)感知、自動(dòng)駕駛、車路協(xié)同等方面，智能醫(yī)療領(lǐng)域的輔助診斷、治療監(jiān)護(hù)、疫情防控等方面，教育領(lǐng)域的虛擬實(shí)驗(yàn)室、虛擬教室、課件制作、智能判卷、教學(xué)效果分析等方面，金融領(lǐng)域的金融風(fēng)險(xiǎn)控制等方面，都推動(dòng)了相關(guān)產(chǎn)品服務(wù)的新一輪變革。-2-一、人工智能發(fā)展現(xiàn)狀一、人工智能發(fā)展現(xiàn)狀2、人工智能作為助手融入新領(lǐng)域人工智能的發(fā)展不僅顛覆了數(shù)字內(nèi)容生產(chǎn)方式、處理方式和消費(fèi)模式，而且極大豐富了人們的數(shù)字生活，虛擬試裝增加購(gòu)物體驗(yàn)、虛擬主播增強(qiáng)廣告效果、智能客服提升反饋效率、虛擬教師增強(qiáng)師生交互、智能辦公助手提高各類文檔的撰寫(xiě)效率、智能編程助手降低編程時(shí)間與人力成本、智能翻譯降低溝通壁壘，人工智能應(yīng)用已成為人類生產(chǎn)生活中必不可少的電子助手。（三）人工智能安全屬性伴隨著人工智能應(yīng)用的常態(tài)化，人工智能安全問(wèn)題的研討也持續(xù)開(kāi)展。除了網(wǎng)絡(luò)安全基本屬性，即人工智能系統(tǒng)及其相關(guān)數(shù)據(jù)的機(jī)密性、完整性、可用性以及系統(tǒng)對(duì)惡意攻擊的抵御能力之外，討論人工智能安全一般還需要考慮以下屬性。1、可靠性：指人工智能及其所在系統(tǒng)在承受不利環(huán)境或意外變化時(shí)，例如數(shù)據(jù)變化、噪聲、干擾等因素，仍能按照既定的目標(biāo)運(yùn)行、保持結(jié)果有效的特性?？煽啃酝ǔＰ枰C合考慮系統(tǒng)的容錯(cuò)性、恢復(fù)性、健壯性等多個(gè)方面。2、透明性：指人工智能在設(shè)計(jì)、訓(xùn)練、測(cè)試、部署過(guò)程中保持可見(jiàn)、可控的特性，只有具備了透明性，用戶才能夠在必要時(shí)獲取模型有關(guān)信息，包括模型結(jié)構(gòu)、參數(shù)、輸入輸出等，方可進(jìn)一步實(shí)現(xiàn)人工智能開(kāi)發(fā)過(guò)程的可審計(jì)以及可追溯。3、可解釋性：描述了人工智能算法模型可被人理解其運(yùn)行邏輯的特性。具備可解釋性的人工智能，其計(jì)算過(guò)程中使用的數(shù)據(jù)、算法、參數(shù)和邏輯等對(duì)輸出結(jié)果的影響能夠被人類理解，使人工智能更易于被人類管控、更容易被社會(huì)接受。-3-人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）4、公平性：指人工智能模型在進(jìn)行決策時(shí)，不偏向某個(gè)特定的個(gè)體或群體，也不歧視某個(gè)特定的個(gè)體或群體，平等對(duì)待不同性別、不同種族、不同文化背景的人群，保證處理結(jié)果的公正、中立，不引入偏見(jiàn)和歧視因素。5、隱私性：指人工智能在開(kāi)發(fā)與運(yùn)行的過(guò)程中實(shí)現(xiàn)了保護(hù)隱私的特性，包括對(duì)個(gè)人信息和個(gè)人隱私的保護(hù)、對(duì)商業(yè)秘密的保護(hù)等。隱私性旨在保障個(gè)人和組織的合法隱私權(quán)益，常見(jiàn)的隱私增強(qiáng)方案包括最小化數(shù)據(jù)處理范圍、個(gè)人信息匿名化處理、數(shù)據(jù)加密和訪問(wèn)控制等。-4-二、人工智能安全風(fēng)險(xiǎn)分析二、人工智能安全風(fēng)險(xiǎn)分析一、人工智能發(fā)展現(xiàn)狀二、人工智能安全風(fēng)險(xiǎn)分析一、人工智能發(fā)展現(xiàn)狀近年來(lái)，人工智能保持快速發(fā)展勢(shì)頭，但人工智能所帶來(lái)的安全風(fēng)險(xiǎn)也不容忽視。（一）用戶數(shù)據(jù)用于訓(xùn)練，放大隱私信息泄露風(fēng)險(xiǎn)當(dāng)前，人工智能利用服務(wù)過(guò)程中的用戶數(shù)據(jù)進(jìn)行優(yōu)化訓(xùn)練的情況較為普遍，但可能涉及在用戶不知情情況下收集個(gè)人信息、個(gè)人隱私、商業(yè)秘密等，安全風(fēng)險(xiǎn)較為突出。一方面，人工智能模型日益龐大，開(kāi)發(fā)過(guò)程日益復(fù)雜，數(shù)據(jù)泄露風(fēng)險(xiǎn)點(diǎn)更多、隱蔽性更強(qiáng)，人工智能所使用開(kāi)源庫(kù)漏洞引發(fā)數(shù)據(jù)泄露的情況也很難杜絕。另一方面，交互式人工智能的應(yīng)用降低了數(shù)據(jù)流入模型的門(mén)檻。用戶在使用交互式人工智能時(shí)往往會(huì)放松警惕，更容易透露個(gè)人隱私、商業(yè)秘密、科研成果等數(shù)據(jù)，例如企業(yè)員工在辦公時(shí)容易將商業(yè)秘密輸入人工智能尋找答案，繼而導(dǎo)致商業(yè)秘密的泄露。為應(yīng)對(duì)該問(wèn)題，特別是為保護(hù)個(gè)人信息安全，部分歐洲國(guó)家甚至已開(kāi)始著手禁止ChatGPT等人工智能應(yīng)用。（二）算法模型日趨復(fù)雜，可解釋性目標(biāo)難實(shí)現(xiàn)長(zhǎng)期以來(lái)可解釋性都是制約人工智能用在司法判決、金融信貸等關(guān)鍵領(lǐng)域的主要因素，時(shí)至今日問(wèn)題尚未解決、且變得更為棘手。由于深度模型算法的復(fù)雜結(jié)構(gòu)是黑盒，人工智能模型天然缺乏呈現(xiàn)決策邏輯進(jìn)而使人相信決策準(zhǔn)確性的能力。為提升可解釋性，技術(shù)上也出現(xiàn)了降低模型復(fù)雜度、突破神經(jīng)網(wǎng)絡(luò)知識(shí)表達(dá)瓶頸等方法，但現(xiàn)實(shí)中效果有限。主要是因?yàn)楫?dāng)前模型參數(shù)越來(lái)越多、結(jié)構(gòu)越來(lái)越復(fù)雜，解釋模型、讓人類理解模型的-5-人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）難度變得極大，目前部分研究正朝借助人工智能解釋大模型的方向探索。同時(shí)，由于近年來(lái)人工智能算法、模型、應(yīng)用發(fā)展演化速度快，如何判斷人工智能是否具備可解釋性一直缺乏統(tǒng)一認(rèn)知，難以形成統(tǒng)一判別標(biāo)準(zhǔn)。（三）可靠性問(wèn)題仍然制約人工智能關(guān)鍵領(lǐng)域應(yīng)用由于現(xiàn)實(shí)場(chǎng)景中環(huán)境因素復(fù)雜多變，人工智能難以通過(guò)有限的訓(xùn)練數(shù)據(jù)覆蓋現(xiàn)實(shí)場(chǎng)景中的全部情況，因此模型在受到干擾或攻擊等情況下會(huì)發(fā)生性能水平波動(dòng)，嚴(yán)重時(shí)甚至可引發(fā)安全事故。盡管可通過(guò)數(shù)據(jù)增強(qiáng)方法等方式提高人工智能可靠性，然而由于現(xiàn)實(shí)場(chǎng)景的異常情況無(wú)法枚舉，可靠性至今仍然是制約自動(dòng)駕駛、全自動(dòng)手術(shù)等關(guān)鍵領(lǐng)域應(yīng)用廣泛落地的主要因素。（四）濫用誤用人工智能，擾亂生產(chǎn)生活安全秩序人工智能在對(duì)加速社會(huì)發(fā)展、提升生產(chǎn)效率等方面產(chǎn)生極大促進(jìn)作用的同時(shí)，也出現(xiàn)了被濫用誤用、惡意使用的現(xiàn)象，引起威脅社會(huì)安全、人身安全等負(fù)面事件。近年來(lái)，濫用誤用人工智能方面，出現(xiàn)了物業(yè)強(qiáng)制在社區(qū)出入口使用人臉識(shí)別、手機(jī)應(yīng)用扎堆推送雷同信息構(gòu)筑信息繭房等問(wèn)題。惡意使用人工智能方面，出現(xiàn)了利用虛假視頻、圖像、音頻進(jìn)行詐騙勒索、傳播色情暴力信息等問(wèn)題。（五）模型和數(shù)據(jù)成為核心資產(chǎn)，安全保護(hù)難度提升人工智能訓(xùn)練數(shù)據(jù)的獲取以及模型開(kāi)發(fā)已經(jīng)逐漸變成重資產(chǎn)投入、重人力投入的工作，算法模型、參數(shù)、加工后的訓(xùn)練數(shù)據(jù)已成為核心資產(chǎn)，不免遭到覬覦。通過(guò)模型竊取、成員推理等攻擊手段反向獲取模型、數(shù)據(jù)，或者利用人工標(biāo)注、數(shù)據(jù)存儲(chǔ)等環(huán)節(jié)的安全管理漏洞套取數(shù)據(jù)的情況時(shí)有發(fā)生。-6-二、人工智能安全風(fēng)險(xiǎn)分析二、人工智能安全風(fēng)險(xiǎn)分析一、人工智能發(fā)展現(xiàn)狀（六）網(wǎng)絡(luò)意識(shí)形態(tài)安全面臨新風(fēng)險(xiǎn)一、人工智能發(fā)展現(xiàn)狀人工智能的目標(biāo)是模擬、擴(kuò)展和延伸人類智能，如果人工智能只是單純追求統(tǒng)計(jì)最優(yōu)解，可能表現(xiàn)得不那么有“人性”；相反，包含一些人類政治、倫理、道德等方面觀念的人工智能會(huì)表現(xiàn)得更像人、更容易被人所接受。事實(shí)上，為了解決人工智能面對(duì)敏感復(fù)雜問(wèn)題的表現(xiàn)，開(kāi)發(fā)者通常將包含著開(kāi)發(fā)者所認(rèn)為正確觀念的答案加入訓(xùn)練過(guò)程，并通過(guò)強(qiáng)化學(xué)習(xí)等方式輸入到模型中，當(dāng)模型掌握了這些觀念時(shí)，能夠產(chǎn)生更能被人接受的回答。然而，由于政治、倫理、道德等復(fù)雜問(wèn)題往往沒(méi)有全世界通用的標(biāo)準(zhǔn)答案，符合某一區(qū)域、人群觀念判斷的人工智能，可能會(huì)與另一區(qū)域、人群在政治、倫理、道德等方面有較大差異。因此，使用內(nèi)嵌了違背我國(guó)社會(huì)共識(shí)以及公序良俗的人工智能，可能對(duì)我國(guó)網(wǎng)絡(luò)意識(shí)形態(tài)安全造成沖擊。-7-人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）三、人工智能安全政策與標(biāo)準(zhǔn)現(xiàn)狀在人工智能技術(shù)快速發(fā)展、應(yīng)用規(guī)模迅速擴(kuò)大的背景下，世界各國(guó)紛紛開(kāi)展人工智能安全政策與標(biāo)準(zhǔn)相關(guān)工作。（一）國(guó)內(nèi)外人工智能安全戰(zhàn)略與政策法規(guī)1、聯(lián)合國(guó)持續(xù)關(guān)注人工智能倫理安全聯(lián)合國(guó)教科文組織于2021年11月發(fā)布《人工智能倫理問(wèn)題建議書(shū)》，旨在為和平使用人工智能系統(tǒng)、防范人工智能危害提供基礎(chǔ)。建議書(shū)提出了人工智能價(jià)值觀和原則，以及落實(shí)價(jià)值觀和原則的具體政策建議，推動(dòng)全球針對(duì)人工智能倫理安全問(wèn)題形成共識(shí)。2023年3月31日，該組織號(hào)召各國(guó)立即執(zhí)行《人工智能倫理問(wèn)題建議書(shū)》。2、歐盟嚴(yán)格人工智能監(jiān)管，持續(xù)推進(jìn)立法進(jìn)程歐盟專門(mén)立法，試圖對(duì)人工智能進(jìn)行整體監(jiān)管。2021年4月，歐盟委員會(huì)發(fā)布了立法提案《歐洲議會(huì)和理事會(huì)關(guān)于制定人工智能統(tǒng)一規(guī)則（人工智能法）和修訂某些歐盟立法的條例》（以下簡(jiǎn)稱《歐盟人工智能法案》），在對(duì)人工智能系統(tǒng)進(jìn)行分類監(jiān)管的基礎(chǔ)上，針對(duì)可能對(duì)個(gè)人基本權(quán)利和安全產(chǎn)生重大影響的人工智能系統(tǒng)建立全面的風(fēng)險(xiǎn)預(yù)防體系，該預(yù)防體系是在政府立法統(tǒng)一主導(dǎo)和監(jiān)督下，推動(dòng)企業(yè)建設(shè)內(nèi)部風(fēng)險(xiǎn)管理機(jī)制，但如何判斷評(píng)估人工智能系統(tǒng)風(fēng)險(xiǎn)等級(jí)是《歐盟人工智能法案》的重點(diǎn)和難點(diǎn)。歐盟及時(shí)填補(bǔ)通用目的人工智能監(jiān)管空白。2023年5月11日，歐洲議會(huì)的內(nèi)部市場(chǎng)委員會(huì)和公民自由委員會(huì)通過(guò)了關(guān)于《歐盟人工智能法案》-8-三、人工智能安全政策與標(biāo)準(zhǔn)現(xiàn)狀三、人工智能安全政策與標(biāo)準(zhǔn)現(xiàn)狀一、人工智能發(fā)展現(xiàn)狀的談判授權(quán)草案，新版本補(bǔ)充了針對(duì)“通用目的人工智能”和GPT等基礎(chǔ)模型的管理制度，擴(kuò)充了高風(fēng)險(xiǎn)人工智能覆蓋范圍，并要求生成式人工智能模型的開(kāi)發(fā)商必須在生成的內(nèi)容中披露“來(lái)自于人工智能”，并公布訓(xùn)練數(shù)據(jù)中受版權(quán)保護(hù)的數(shù)據(jù)摘要等。一、人工智能發(fā)展現(xiàn)狀3、美國(guó)強(qiáng)調(diào)安全原則，鼓勵(lì)企業(yè)行業(yè)自律相較于歐盟，美國(guó)監(jiān)管要求少，主要強(qiáng)調(diào)安全原則。美國(guó)參議院、聯(lián)邦政府、國(guó)防部、白宮等先后發(fā)布《算法問(wèn)責(zé)法（草案）》《人工智能應(yīng)用的監(jiān)管指南》《人工智能道德原則》《人工智能權(quán)利法案》《國(guó)家網(wǎng)絡(luò)安全戰(zhàn)略》等文件，提出風(fēng)險(xiǎn)評(píng)估與風(fēng)險(xiǎn)管理方面的原則，指導(dǎo)政府部門(mén)與私營(yíng)企業(yè)合作探索人工智能監(jiān)管規(guī)則，并為人工智能實(shí)踐者提供自愿適用的風(fēng)險(xiǎn)管理工具。美國(guó)鼓勵(lì)企業(yè)依靠行業(yè)自律，自覺(jué)落實(shí)政府安全原則保障安全。美國(guó)企業(yè)通過(guò)產(chǎn)品安全設(shè)計(jì)，統(tǒng)一將美國(guó)的法律法規(guī)要求、安全監(jiān)管原則、主流價(jià)值觀等置入產(chǎn)品。以生成式人工智能企業(yè)提高內(nèi)容安全水平為例，工作一般集中在三個(gè)方面，一是在產(chǎn)品設(shè)計(jì)階段加入符合安全要求的定制化內(nèi)容作為重點(diǎn)訓(xùn)練數(shù)據(jù)；二是在產(chǎn)品運(yùn)行階段的人機(jī)交互環(huán)節(jié)加入自動(dòng)化內(nèi)容過(guò)濾機(jī)制；三是在每個(gè)用戶使用產(chǎn)品時(shí)置入隱藏的安全前提引導(dǎo)生成內(nèi)容安全合規(guī)。4、其他國(guó)家均構(gòu)建各自人工智能戰(zhàn)略（1）英國(guó)：支持創(chuàng)新，建立監(jiān)管框架，暫緩立法2021年9月，英國(guó)數(shù)字、文化、媒體和體育部（DCMS）發(fā)布《國(guó)家人工智能戰(zhàn)略》，旨在推動(dòng)英國(guó)成為人工智能領(lǐng)域的大國(guó)。該文件闡述了英國(guó)人工智能戰(zhàn)略愿景，并提出了人工智能發(fā)展、人工智能作為經(jīng)濟(jì)支柱、人工智能治理和監(jiān)管的三個(gè)方面的核心目標(biāo)與行動(dòng)建議。-9-人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）2021年12月，英國(guó)政府發(fā)布《國(guó)家網(wǎng)絡(luò)戰(zhàn)略2022》。該文件闡述了英國(guó)將如何鞏固網(wǎng)絡(luò)強(qiáng)國(guó)地位、保障網(wǎng)絡(luò)安全、提升網(wǎng)絡(luò)空間行動(dòng)能力。其中明確了英國(guó)將積極引領(lǐng)人工智能等七項(xiàng)優(yōu)先技術(shù)領(lǐng)域的安全發(fā)展。2023年3月，英國(guó)政府發(fā)布了人工智能新監(jiān)管框架的提案《支持創(chuàng)新的人工智能監(jiān)管方法》。該文件圍繞以下五個(gè)方面展開(kāi)：一是自身安全、應(yīng)用安全和健壯性，二是適度的透明和可解釋性，三是公平性，四是問(wèn)責(zé)制和治理，五是競(jìng)爭(zhēng)和賠償，并表示近期不會(huì)將上述原則立法。（2）加拿大：聚焦人工智能應(yīng)用的民眾權(quán)益保護(hù)2022年6月，加拿大政府公布《2022年數(shù)字憲章實(shí)施法案》，旨在加強(qiáng)對(duì)加拿大私營(yíng)部門(mén)的管理，為負(fù)責(zé)任的人工智能開(kāi)發(fā)和使用創(chuàng)建新規(guī)則。其中擬議法案《人工智能與數(shù)據(jù)法》敦促各公司在開(kāi)發(fā)和部署人工智能系統(tǒng)時(shí)以減輕傷害和偏見(jiàn)風(fēng)險(xiǎn)為前提，進(jìn)而維護(hù)加拿大民眾的權(quán)益。（3）俄羅斯：關(guān)注人工智能對(duì)國(guó)家安全影響2019年，俄羅斯總統(tǒng)令批準(zhǔn)《2030年前國(guó)家人工智能發(fā)展戰(zhàn)略》，旨在加快推進(jìn)俄人工智能發(fā)展與應(yīng)用，確保國(guó)家安全，提升經(jīng)濟(jì)實(shí)力。2020年，俄聯(lián)邦政府批準(zhǔn)《至2024年人工智能和機(jī)器人技術(shù)監(jiān)管構(gòu)想》，旨在積極探索俄羅斯法律、人、機(jī)器之間的相互適應(yīng)關(guān)系，為人工智能和機(jī)器人技術(shù)的安全應(yīng)用和法律監(jiān)管提供指導(dǎo)。（4）新加坡：關(guān)注人工智能應(yīng)用安全治理和評(píng)估2019年11月，新加坡金融管理局（MAS）宣布與多家金融機(jī)構(gòu)共同設(shè)立Veritas計(jì)劃框架，旨在幫助金融機(jī)構(gòu)評(píng)估人工智能和數(shù)據(jù)分析解決方案，保證其遵循“公平、道德、負(fù)責(zé)和透明”的安全準(zhǔn)則。2022年5月，新加坡資訊通信媒體發(fā)展局（IMDA）和個(gè)人數(shù)據(jù)保護(hù)委員會(huì)（PDPC）共同發(fā)布人工智能安全治理評(píng)估框架和工具包—A.I.VERIFY，旨在結(jié)合人工智能系統(tǒng)的技術(shù)評(píng)估和程序檢查，提高評(píng)估主體與利益相關(guān)者之間的透明度。-10-三、人工智能安全政策與標(biāo)準(zhǔn)現(xiàn)狀三、人工智能安全政策與標(biāo)準(zhǔn)現(xiàn)狀一、人工智能發(fā)展現(xiàn)狀（5）日本：同時(shí)關(guān)注人工智能正面和負(fù)面影響一、人工智能發(fā)展現(xiàn)狀2022年4月，日本政府發(fā)布了《人工智能戰(zhàn)略2022》，旨在推動(dòng)人工智能克服自身社會(huì)問(wèn)題、提高產(chǎn)業(yè)競(jìng)爭(zhēng)力。其中提出以人為本、多樣性、可持續(xù)三項(xiàng)原則，圍繞社會(huì)安全、流行疾病、重大災(zāi)害等安全問(wèn)題提出了具體方針。5、我國(guó)高度重視，有效平衡發(fā)展和安全2021年12月和2022年11月，國(guó)家互聯(lián)網(wǎng)信息辦公室先后發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》和《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，針對(duì)利用人工智能算法從事傳播違法和不良信息、侵害用戶權(quán)益、操縱社會(huì)輿論等問(wèn)題，加強(qiáng)安全管理，推進(jìn)算法推薦技術(shù)和深度合成技術(shù)依法合理有效利用。2023年4月，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布了《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》，統(tǒng)籌安全與發(fā)展，提出生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守的規(guī)范要求，保障相關(guān)技術(shù)產(chǎn)品的良性創(chuàng)新和有序發(fā)展。（二）國(guó)內(nèi)外人工智能安全標(biāo)準(zhǔn)1、人工智能安全國(guó)際標(biāo)準(zhǔn)以基礎(chǔ)通用為主國(guó)際標(biāo)準(zhǔn)組織（ISO）在人工智能領(lǐng)域已開(kāi)展大量標(biāo)準(zhǔn)化工作，并專門(mén)成立了ISO/IECJTC1SC42人工智能分技術(shù)委員會(huì)。目前，與人工智能安全相關(guān)的國(guó)際標(biāo)準(zhǔn)及文件主要為基礎(chǔ)概念與技術(shù)框架類通用標(biāo)準(zhǔn)，在內(nèi)容上集中在人工智能管理、可信性、安全與隱私保護(hù)三個(gè)方面。在人工智能管理方面，國(guó)際標(biāo)準(zhǔn)主要研究人工智能數(shù)據(jù)的治理、人工智能系統(tǒng)全生命周期管理、人工智能安全風(fēng)險(xiǎn)管理等，并對(duì)相應(yīng)的方面提出建議，相關(guān)標(biāo)準(zhǔn)包括ISO/IEC38507:2022《信息技術(shù)治理組織使用人工智能的治理影響》、ISO/IEC23894:2023《人工智能風(fēng)險(xiǎn)管理》等。-11-人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）在可信性方面，國(guó)際標(biāo)準(zhǔn)主要關(guān)注人工智能的透明度、可解釋性、健壯性與可控性等方面，指出人工智能系統(tǒng)的技術(shù)脆弱性因素及部分緩解措施，相關(guān)標(biāo)準(zhǔn)包括ISO/IECTR24028:2020《人工智能人工智能中可信賴性概述》等。在安全與隱私保護(hù)方面，國(guó)際標(biāo)準(zhǔn)主要聚焦于人工智能的系統(tǒng)安全、功能安全、隱私保護(hù)等問(wèn)題，幫助相關(guān)組織更好地識(shí)別并緩解人工智能系統(tǒng)中的安全威脅，相關(guān)標(biāo)準(zhǔn)包括ISO/IEC27090《人工智能解決人工智能系統(tǒng)中安全威脅和故障的指南》、ISO/IECTR5469《人工智能功能安全與人工智能系統(tǒng)》、ISO/IEC27091《人工智能隱私保護(hù)》等。電氣與電子工程師協(xié)會(huì)（IEEE）在人工智能安全方面主要聚焦倫理安全風(fēng)險(xiǎn)、可解釋人工智能、深度學(xué)習(xí)評(píng)估、人工智能責(zé)任化等安全問(wèn)題。最新的標(biāo)準(zhǔn)和報(bào)告有IEEEP7000系列標(biāo)準(zhǔn)、IEEE2841-2022《深度學(xué)習(xí)評(píng)估過(guò)程與框架》，在研項(xiàng)目有IEEEP2840《責(zé)任化人工智能許可標(biāo)準(zhǔn)》、IEEEP2894《可解釋人工智能的體系框架指南》等。2、歐洲陸續(xù)發(fā)布多份人工智能安全指南文件及標(biāo)準(zhǔn)需求歐洲電信標(biāo)準(zhǔn)化協(xié)會(huì)（ETSI）近期關(guān)注的重點(diǎn)議題包括人工智能數(shù)據(jù)安全、完整性和隱私性、透明性、可解釋性、倫理與濫用、偏見(jiàn)緩解等方面，已發(fā)布多份人工智能安全研究報(bào)告，包括ETSIGRSAI004《人工智能安全：?jiǎn)栴}陳述》、ETSIGRSAI005《人工智能安全：緩解策略報(bào)告》等，描述了以人工智能為基礎(chǔ)的系統(tǒng)安全問(wèn)題挑戰(zhàn)，并提出了一系列緩解措施與指南。歐洲標(biāo)準(zhǔn)化委員會(huì)（CEN）、歐洲電工標(biāo)準(zhǔn)化委員會(huì)（CENELEC）成立了新的CEN-CENELEC聯(lián)合技術(shù)委員會(huì)JTC21“人工智能”，并在人工智能的風(fēng)險(xiǎn)管理、透明性、健壯性、安全性等多個(gè)方面提出了標(biāo)準(zhǔn)需求。-12-三、人工智能安全政策與標(biāo)準(zhǔn)現(xiàn)狀三、人工智能安全政策與標(biāo)準(zhǔn)現(xiàn)狀一、人工智能發(fā)展現(xiàn)狀3、美國(guó)關(guān)注可信任可解釋研究，出臺(tái)企業(yè)標(biāo)準(zhǔn)一、人工智能發(fā)展現(xiàn)狀美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）關(guān)注人工智能安全的可信任、可解釋等問(wèn)題。最新的標(biāo)準(zhǔn)項(xiàng)目有：NISTSP1270《建立識(shí)別和管理人工智能偏差的標(biāo)準(zhǔn)》，提出了用于識(shí)別和管理人工智能偏見(jiàn)的技術(shù)指南；NISTIR-8312《可解釋人工智能的四大原則》草案，提出了可解釋人工智能的四項(xiàng)原則；NISTIR-8332《信任和人工智能》草案，研究了人工智能應(yīng)用安全風(fēng)險(xiǎn)與用戶對(duì)人工智能的信任之間的關(guān)系；NISTAI100-1《人工智能風(fēng)險(xiǎn)管理框架》，旨在為人工智能系統(tǒng)設(shè)計(jì)、開(kāi)發(fā)、部署和使用提供指南。2022年3月，谷歌更新《人工智能原則》，提出人工智能對(duì)社會(huì)有益、避免制造或加強(qiáng)不公平的偏見(jiàn)、建立并測(cè)試安全性、對(duì)人負(fù)責(zé)、結(jié)合隱私設(shè)計(jì)、堅(jiān)持科學(xué)的高標(biāo)準(zhǔn)等原則。該文件同時(shí)聲明谷歌不會(huì)將人工智能技術(shù)應(yīng)用于武器開(kāi)發(fā)，也不會(huì)將人工智能用于可能侵犯人權(quán)的活動(dòng)。2022年6月，微軟發(fā)布新版《負(fù)責(zé)任人工智能標(biāo)準(zhǔn)》，提出公平性、可靠性和內(nèi)部安全性、隱私和外部安全性、包容性、透明度和問(wèn)責(zé)制六項(xiàng)基本原則，用于指導(dǎo)人工智能工作。4、我國(guó)提前布局，即將出臺(tái)多項(xiàng)人工智能安全標(biāo)準(zhǔn)2020年7月，國(guó)家標(biāo)準(zhǔn)委、中央網(wǎng)信辦、發(fā)展改革委、科技部、工業(yè)和信息化部聯(lián)合印發(fā)了《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》，形成了標(biāo)準(zhǔn)支撐人工智能高質(zhì)量發(fā)展新格局。（1）研制人工智能安全基礎(chǔ)標(biāo)準(zhǔn)我國(guó)首個(gè)人工智能安全國(guó)家標(biāo)準(zhǔn)《信息安全技術(shù)機(jī)器學(xué)習(xí)算法安全評(píng)估規(guī)范》即將發(fā)布，規(guī)定了機(jī)器學(xué)習(xí)算法技術(shù)在生存周期各階段的安全要求，以及應(yīng)用機(jī)器學(xué)習(xí)算法技術(shù)提供服務(wù)時(shí)的安全要求，并給出了對(duì)應(yīng)評(píng)估方法。-13-人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）2022年，全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)（TC260）啟動(dòng)編制《信息安全技術(shù)人工智能計(jì)算平臺(tái)安全框架》國(guó)家標(biāo)準(zhǔn)，規(guī)范了人工智能計(jì)算平臺(tái)安全功能、安全機(jī)制、安全模塊以及服務(wù)接口，指導(dǎo)人工智能計(jì)算平臺(tái)設(shè)計(jì)與實(shí)現(xiàn)。（2）推動(dòng)關(guān)鍵應(yīng)用方向安全保護(hù)標(biāo)準(zhǔn)在生物特征識(shí)別、智能汽車等人工智能應(yīng)用領(lǐng)域，針對(duì)網(wǎng)絡(luò)安全重點(diǎn)風(fēng)險(xiǎn)，多項(xiàng)國(guó)家標(biāo)準(zhǔn)已經(jīng)發(fā)布。生物特征識(shí)別方向，發(fā)布了GB/T40660—2021《信息安全技術(shù)生物特征識(shí)別信息保護(hù)基本要求》，以及人臉、聲紋、基因、步態(tài)等4項(xiàng)數(shù)據(jù)安全國(guó)家標(biāo)準(zhǔn)。智能汽車方向，發(fā)布了國(guó)家標(biāo)準(zhǔn)GB/T41871—2022《信息安全技術(shù)汽車數(shù)據(jù)處理安全要求》，有效支撐《汽車數(shù)據(jù)安全管理若干規(guī)定（試行）》，提升了智能汽車相關(guān)企業(yè)的數(shù)據(jù)安全水平。-14-四、人工智能安全標(biāo)準(zhǔn)需求分析四、人工智能安全標(biāo)準(zhǔn)需求分析一、人工智能發(fā)展現(xiàn)狀四、人工智能安全標(biāo)準(zhǔn)需求分析一、人工智能發(fā)展現(xiàn)狀（一）人工智能安全屬性定義和度量指標(biāo)隨著人工智能安全工作開(kāi)展，安全屬性定義逐步形成一些共識(shí)，國(guó)際標(biāo)準(zhǔn)以及相關(guān)技術(shù)文件也給出了部分安全屬性的定義描述，但不同文件之間仍有差異?？煽啃?、可解釋性、公平性等重要安全屬性定義的標(biāo)準(zhǔn)統(tǒng)一，以及其度量指標(biāo)的規(guī)范化，將對(duì)人工智能的發(fā)展有著重要促進(jìn)意義。（二）用戶輸入數(shù)據(jù)安全保護(hù)相關(guān)規(guī)范在人工智能通常收集用戶輸入數(shù)據(jù)用于訓(xùn)練的背景下，如何保障用戶輸入數(shù)據(jù)的安全亟需技術(shù)標(biāo)準(zhǔn)。根據(jù)操作場(chǎng)景的不同，用戶輸入的數(shù)據(jù)可能包含人臉、身份證號(hào)、家庭住址等個(gè)人信息，可能包括個(gè)人健康情況、情感狀況等個(gè)人隱私，可能包括企業(yè)技術(shù)和經(jīng)營(yíng)活動(dòng)有關(guān)的商業(yè)秘密，甚至可能包括國(guó)家秘密等。需要落實(shí)《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等法律法規(guī)，提出可以切實(shí)解決用戶輸入數(shù)據(jù)安全問(wèn)題的相關(guān)標(biāo)準(zhǔn)規(guī)范。（三）人工智能服務(wù)網(wǎng)絡(luò)安全防護(hù)相關(guān)指南圍繞人工智能服務(wù)過(guò)程中，可能會(huì)面臨的對(duì)抗樣本攻擊、爬山攻擊、模型竊取、供應(yīng)鏈攻擊等新型攻擊威脅，需要研究在數(shù)據(jù)集防護(hù)、算法模型保護(hù)、抗逆向攻擊等方面的安全技術(shù)措施指南，幫助人工智能服務(wù)提供者保護(hù)業(yè)務(wù)數(shù)據(jù)以及人工智能模型參數(shù)等的機(jī)密性和完整性。-15-人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）（四）人工智能安全評(píng)估相關(guān)規(guī)范當(dāng)前，隨著人工智能在各行各業(yè)的應(yīng)用逐步深入，需要以確認(rèn)其基本安全水平作為提供產(chǎn)品或服務(wù)的基礎(chǔ)。研究人工智能安全評(píng)估規(guī)范標(biāo)準(zhǔn)，將有助于確定人工智能產(chǎn)品或服務(wù)的安全水平，促進(jìn)安全隱患提前防范，推動(dòng)人工智能應(yīng)用與行業(yè)的進(jìn)一步融合發(fā)展。（五）生成式人工智能安全標(biāo)準(zhǔn)為應(yīng)對(duì)生成式人工智能帶來(lái)的安全挑戰(zhàn)，以促進(jìn)生成式人工智能發(fā)展為基本目標(biāo)，統(tǒng)籌發(fā)展和安全，亟需針對(duì)生成式人工智能的網(wǎng)絡(luò)安全問(wèn)題出臺(tái)專門(mén)標(biāo)準(zhǔn)，包括但不限于生成式人工智能訓(xùn)練數(shù)據(jù)安全、人工標(biāo)注過(guò)程安全等方面的標(biāo)準(zhǔn)規(guī)范。-16-五、人工智能安全標(biāo)準(zhǔn)化工作建議五、人工智能安全標(biāo)準(zhǔn)化工作建議一、人工智能發(fā)展現(xiàn)狀五、人工智能安全標(biāo)準(zhǔn)化工作建議一、人工智能發(fā)展現(xiàn)狀面對(duì)未來(lái)人工智能發(fā)展關(guān)鍵時(shí)期，我國(guó)人工智能安全標(biāo)準(zhǔn)化工作將繼續(xù)發(fā)揮基礎(chǔ)性、規(guī)范性、引領(lǐng)性作用。（一）持續(xù)完善人工智能安全標(biāo)準(zhǔn)體系面向人工智能變化快、安全挑戰(zhàn)新等特點(diǎn)，加大研究力度，強(qiáng)化頂層設(shè)計(jì)，結(jié)合當(dāng)前人工智能面臨的安全風(fēng)險(xiǎn)，完善人工智能安全標(biāo)準(zhǔn)體系，統(tǒng)籌規(guī)劃人工智能安全的基礎(chǔ)共性、技術(shù)系統(tǒng)、管理服務(wù)、測(cè)試評(píng)估、產(chǎn)品應(yīng)用等方面標(biāo)準(zhǔn)研制工作。（二）大力開(kāi)展基礎(chǔ)共性安全標(biāo)準(zhǔn)研究圍繞現(xiàn)階段人工智能安全發(fā)展所需的基礎(chǔ)共性標(biāo)準(zhǔn)，加快開(kāi)展標(biāo)準(zhǔn)化研制。一是加快推動(dòng)《信息安全技術(shù)機(jī)器學(xué)習(xí)算法安全評(píng)估規(guī)范》《信息安全技術(shù)人工智能計(jì)算平臺(tái)安全框架》等通用性標(biāo)準(zhǔn)編制發(fā)布。二是大力開(kāi)展技術(shù)標(biāo)準(zhǔn)研究，圍繞統(tǒng)一人工智能安全屬性和度量指標(biāo)、保護(hù)用戶輸入數(shù)據(jù)安全、人工智能服務(wù)網(wǎng)絡(luò)安全防護(hù)等方面做好標(biāo)準(zhǔn)預(yù)研。（三）加快出臺(tái)產(chǎn)業(yè)發(fā)展急需安全標(biāo)準(zhǔn)面向當(dāng)前人工智能安全發(fā)展的痛點(diǎn)、堵點(diǎn)問(wèn)題，聚焦以安全促發(fā)展，細(xì)化支撐《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理辦法》等法律法規(guī)，加快推動(dòng)《信息安全技術(shù)生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)安全規(guī)范》《信-17-人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）息安全技術(shù)生成式人工智能人工標(biāo)注安全規(guī)范》《信息安全技術(shù)互聯(lián)網(wǎng)信息服務(wù)深度合成安全規(guī)范》《基于個(gè)人信息的自動(dòng)化決策安全要求》等標(biāo)準(zhǔn)的編制發(fā)布。-18-附錄A：標(biāo)準(zhǔn)列表附錄A：標(biāo)準(zhǔn)列表附錄A附錄A一、人工智能發(fā)展現(xiàn)狀附錄A：標(biāo)準(zhǔn)列表一、人工智能發(fā)展現(xiàn)狀國(guó)內(nèi)人工智能安全相關(guān)標(biāo)準(zhǔn)列表人工智能安全標(biāo)準(zhǔn)負(fù)責(zé)/歸口標(biāo)準(zhǔn)類型標(biāo)準(zhǔn)編號(hào)標(biāo)準(zhǔn)名稱階段全國(guó)信安標(biāo)委（TC260）國(guó)家標(biāo)準(zhǔn)20211000-T-469信息安全技術(shù)機(jī)器學(xué)習(xí)算法安全評(píng)估規(guī)范報(bào)批稿全國(guó)信安標(biāo)委（TC260）國(guó)家標(biāo)準(zhǔn)20230249-T-469信息安全技術(shù)人工智能計(jì)算平臺(tái)安全框架征求意見(jiàn)稿（TC28/SC42）國(guó)家標(biāo)準(zhǔn)20221791-T-469人工智能管理體系立項(xiàng)中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)（CESA）團(tuán)體標(biāo)準(zhǔn)T/CESA1193-2022評(píng)估發(fā)布-19-人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）與人工智能直接相關(guān)的安全標(biāo)準(zhǔn)負(fù)責(zé)/歸口標(biāo)準(zhǔn)類型標(biāo)準(zhǔn)編號(hào)標(biāo)準(zhǔn)名稱階段全國(guó)信安標(biāo)委（TC260）國(guó)家標(biāo)準(zhǔn)GB/T38542-2020信息安全技術(shù)基于生物特征識(shí)別的移動(dòng)智能終端身份鑒別技術(shù)框架發(fā)布全國(guó)信安標(biāo)委（TC260）國(guó)家標(biāo)準(zhǔn)GB/T38671-2020信息安全技術(shù)遠(yuǎn)程人臉識(shí)別系統(tǒng)技術(shù)要求發(fā)布全國(guó)信安標(biāo)委（TC260）國(guó)家標(biāo)準(zhǔn)GB/T40660-2021信息安全技術(shù)生物特征識(shí)別信息保護(hù)基本要求發(fā)布全國(guó)信安標(biāo)委（TC260）國(guó)家標(biāo)準(zhǔn)GB/T41819-2022信息安全技術(shù)人臉識(shí)別數(shù)據(jù)安全要求發(fā)布全國(guó)信安標(biāo)委（TC260）國(guó)家標(biāo)準(zhǔn)GB/T41807-2022信息安全技術(shù)聲紋識(shí)別數(shù)據(jù)安全要求發(fā)布全國(guó)信安標(biāo)委（TC260）國(guó)家標(biāo)準(zhǔn)GB/T41806-2022信息安全技術(shù)基因識(shí)別數(shù)據(jù)安全要求發(fā)布全國(guó)信安標(biāo)委（TC260）國(guó)家標(biāo)準(zhǔn)GB/T41773-2022信息安全技術(shù)步態(tài)識(shí)別數(shù)據(jù)安全要求發(fā)布全國(guó)信安標(biāo)委（TC260）國(guó)家標(biāo)準(zhǔn)GB/T41871-2022信息安全技術(shù)汽車數(shù)據(jù)處理安全要求發(fā)布全國(guó)信安標(biāo)委（TC260）國(guó)家標(biāo)準(zhǔn)20230253-T-469信息安全技術(shù)基于個(gè)人信息的自動(dòng)化決策安全要求立項(xiàng)全國(guó)信標(biāo)委生物特征識(shí)別分委會(huì)（TC28/SC37）國(guó)家標(biāo)準(zhǔn)GB/T41815.1-2022信息技術(shù)生物特征識(shí)別呈現(xiàn)攻擊檢測(cè)第1部分：框架發(fā)布全國(guó)信標(biāo)委生物特征識(shí)別分委會(huì)（TC28/SC37）國(guó)家標(biāo)準(zhǔn)GB/T41815.2-2022信息技術(shù)生物特征識(shí)別呈現(xiàn)攻擊檢測(cè)第2部分：數(shù)據(jù)格式發(fā)布全國(guó)信標(biāo)委生物特征識(shí)別分委會(huì)（TC28/SC37）國(guó)家標(biāo)準(zhǔn)GB/T41815.3-2023信息技術(shù)生物特征識(shí)別呈現(xiàn)攻擊檢測(cè)第3部分：測(cè)試與報(bào)告發(fā)布全國(guó)信標(biāo)委生物特征識(shí)別分委會(huì)（TC28/SC37）國(guó)家標(biāo)準(zhǔn)GB/T37036.3-2019信息技術(shù)移動(dòng)設(shè)備生物特征識(shí)別第3部分：人臉發(fā)布全國(guó)信標(biāo)委生物特征識(shí)別分委會(huì)（TC28/SC37）國(guó)家標(biāo)準(zhǔn)GB/T37036.8-2022信息技術(shù)移動(dòng)設(shè)備生物特征識(shí)別第8部分：呈現(xiàn)攻擊檢測(cè)發(fā)布全國(guó)信標(biāo)委生物特征識(shí)別分委會(huì)（TC28/SC37）國(guó)家標(biāo)準(zhǔn)GB/T5271.37-2021信息技術(shù)詞匯第37部分：生物特征識(shí)別發(fā)布-20-一、人工智能發(fā)展現(xiàn)狀附錄A：標(biāo)準(zhǔn)列表一、人工智能發(fā)展現(xiàn)狀附錄A：標(biāo)準(zhǔn)列表負(fù)責(zé)/歸口標(biāo)準(zhǔn)類型標(biāo)準(zhǔn)編號(hào)標(biāo)準(zhǔn)名稱階段全國(guó)信標(biāo)委生物特征識(shí)別分委會(huì)（TC28/SC37）國(guó)家標(biāo)準(zhǔn)20221220-T-469信息技術(shù)生物特征識(shí)別人臉識(shí)別系統(tǒng)應(yīng)用要求立項(xiàng)中國(guó)通信標(biāo)準(zhǔn)化協(xié)會(huì)（CCSA）行業(yè)標(biāo)準(zhǔn)YD/T4087-2022移動(dòng)智能終端人臉識(shí)別安全技術(shù)要求及測(cè)試評(píng)估方法發(fā)布中國(guó)通信標(biāo)準(zhǔn)化協(xié)會(huì)（CCSA）行業(yè)標(biāo)準(zhǔn)2023-0041T-YD人工智能開(kāi)發(fā)平臺(tái)通用能力要求第2部分：安全要求立項(xiàng)中國(guó)通信標(biāo)準(zhǔn)化協(xié)會(huì)（CCSA）行業(yè)標(biāo)準(zhǔn)2023-0039T-YD面向人臉識(shí)別系統(tǒng)的人臉信息保護(hù)基礎(chǔ)能力要求立項(xiàng)中國(guó)通信標(biāo)準(zhǔn)化協(xié)會(huì)（CCSA）行業(yè)標(biāo)準(zhǔn)——人臉識(shí)別線下支付安全要求草案中國(guó)通信標(biāo)準(zhǔn)化協(xié)會(huì)（CCSA）行業(yè)標(biāo)準(zhǔn)2021-0630T-YD電信網(wǎng)和互聯(lián)網(wǎng)人臉識(shí)別數(shù)據(jù)安全檢測(cè)要求立項(xiàng)上海市市監(jiān)局地方標(biāo)準(zhǔn)——人工智能數(shù)據(jù)通用安全要求征求意見(jiàn)稿上海市市監(jiān)局地方標(biāo)準(zhǔn)——人臉識(shí)別分級(jí)分類應(yīng)用標(biāo)準(zhǔn)草案中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)（CESA）團(tuán)體標(biāo)準(zhǔn)T/CESA1124-2020信息安全技術(shù)人臉比對(duì)模型安全技術(shù)規(guī)范發(fā)布新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟（AITISA）團(tuán)體標(biāo)準(zhǔn)T/AI110.1-2020人工智能視覺(jué)隱私保護(hù)第1部分：通用技術(shù)要求發(fā)布新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟（AITISA）團(tuán)體標(biāo)準(zhǔn)T/AI110.2-2022人工智能視覺(jué)隱私保護(hù)第2部分：技術(shù)應(yīng)用指南發(fā)布新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟（AITISA）團(tuán)體標(biāo)準(zhǔn)T/AI113-2021生物特征識(shí)別服務(wù)中的隱私保護(hù)技術(shù)指南發(fā)布新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟（AITISA）團(tuán)體標(biāo)準(zhǔn)T/AI111-2020生物特征模板的安全使用要求發(fā)布新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟（AITISA）團(tuán)體標(biāo)準(zhǔn)2023011205信息技術(shù)數(shù)字視網(wǎng)膜系統(tǒng)第11部分：安全與隱私保護(hù)草案-21-人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）人工智能安全標(biāo)準(zhǔn)化白皮書(shū)（2023版）國(guó)外人工智能安全相關(guān)標(biāo)準(zhǔn)列表負(fù)責(zé)/歸口標(biāo)準(zhǔn)類型標(biāo)準(zhǔn)編號(hào)標(biāo)準(zhǔn)名稱階段ISOIEC/JTC1/SC27國(guó)際標(biāo)準(zhǔn)ISO/IECAWI27090Cybersecurity—ArtificialIntelligence—Guidanceforaddressingsecuritythreatsandfailuresinarti?cialintelligencesystems立項(xiàng)ISOIEC/JTC1/SC27國(guó)際標(biāo)準(zhǔn)ISO/IECAWI27091CybersecurityandPrivacy—ArtificialIntelligence—Privacyprotection立項(xiàng)ISOIEC/JTC1/SC27國(guó)際技術(shù)報(bào)告ISO/IECTR27563Securityandprivacyinarti?cialintelligenceusecases—Bestpractices發(fā)布ISOIEC/JTC1/SC42國(guó)際標(biāo)準(zhǔn)ISO/IEC22989:2022Informationtechnology—Artificialintelligence—Artificialintelligenceconceptsandterminology發(fā)布ISOIEC/JTC1/SC42國(guó)際標(biāo)準(zhǔn)ISO/IEC23894:2023Informationtechnology—Artificialintelligence—Guidanceonriskmanagement發(fā)布ISOIEC/JTC1/SC42國(guó)際技術(shù)報(bào)告ISO/IECTR24368:2022Informationtechnology—Artificialintelligence—Overviewofethicalandsocietalconcerns發(fā)布ISOIEC/JTC1/SC42國(guó)際預(yù)研項(xiàng)目ISO/IECPWI17866Artificialintelligence—Bestpracticeguidanceformitigatingethicalandsocietalconcerns預(yù)研（PWI）ISOIEC/JTC1/SC42國(guó)際技術(shù)報(bào)告ISO/IECDTR5469Artificialintelligence—FunctionalsafetyandAIsystems報(bào)批ISOIEC/JTC1/SC42國(guó)際標(biāo)準(zhǔn)ISO/IECFDIS42001Informationtechnology—Artificialintelligence—Managementsystem報(bào)批ISO/TC199國(guó)際技術(shù)報(bào)告ISO22100-5:2021Safetyofmachinery—RelationshipwithISO12100—Part5:Implicationsofarti?cialintelligencemachinelearning發(fā)布ISO/TC22/SC32國(guó)際標(biāo)準(zhǔn)I