DB11∕T2251-2024信息安全 人工智能數(shù)據(jù)安全通 用要求

信息安全人工智能數(shù)據(jù)安全通用要求Informtionsecurity—Generalrequirenatsfar2024-06-28發(fā)布2024-10-01北京市市場監(jiān)督管理局發(fā)布I I1 12規(guī)范性引用文件 1 14基本原則 25管理要求 2 3本文件按照GB/T1.1—2020《標準化工作導(dǎo)則第1部分：標準化文件的結(jié)構(gòu)和起草規(guī)則》的規(guī)定起草。本文件由北京市公安局提出并歸口。本文件由北京市公安局組織實施。本文件起草單位：北京市公安局、北京市公安局人工智能安全研究中心、北京百度網(wǎng)訊科技有限公司、北京瑞萊智慧科技有限公司、中國科學(xué)院計算技術(shù)研究所、科大訊飛股份有限公司、公安部第三研究所、北京市標準化研究院。本文件主要起草人：蔡瑜坤、曹奇、王崇鵬、張曉飛、孫毅、劉鳴、常峰博、吳尚、孔凡真、楊彬、李曉波、王東明、辛錚、王海棠、郭建嶺、周巧霖、樊子風、韋云霞、張旭東、曹娟、唐勝、朱莉莉、孔凡勝、程鳴、孫文琦。1信息安全人工智能數(shù)據(jù)安全通用要求1范圍本文件規(guī)定了人工智能數(shù)據(jù)安全的基本原則、管理要求和處理活動安全要求。本文件適用于指導(dǎo)人工智能服務(wù)提供者開展人工智能數(shù)據(jù)安全管理及數(shù)據(jù)處理活動的安全。2規(guī)范性引用文件下列文件中的內(nèi)容通過文中的規(guī)范性引用而構(gòu)成本文件必不可少的條款。其中，注日期的引用文件，僅該日期對應(yīng)的版本適用于本文件；不注日期的引用文件，其最新版本(包括所有的修改單)適用于本文件。GB/T25069信息安全技術(shù)術(shù)語GB/T35273信息安全技術(shù)個人信息安全規(guī)范GB/T41479信息安全技術(shù)網(wǎng)絡(luò)數(shù)據(jù)處理安全要求GB/T41867信息技術(shù)人工智能術(shù)語GB/T43697信息安全技術(shù)數(shù)據(jù)分類分級規(guī)則3術(shù)語和定義GB/T25069、GB/T35273、GB/T41867和GB/T43697界定的以及下列術(shù)語和定義適用于本文件。數(shù)據(jù)安全datasec通過采取必要措施，確保數(shù)據(jù)處于有效保護和合法利用的狀態(tài)，以及具備保障持續(xù)安全狀態(tài)的能力。特定領(lǐng)域、特定群體、特定區(qū)域或達到一定精度和規(guī)模的數(shù)據(jù)，一旦被泄露或篡改、損毀，可能直接危害國家安全、經(jīng)濟運行、社會穩(wěn)定、公共健康和安全。通過一系列數(shù)據(jù)處理方法對原始數(shù)據(jù)進行處理，以屏蔽敏感數(shù)據(jù)的一種數(shù)據(jù)保護方法。一旦泄露或者非法使用，容易導(dǎo)致自然人的人格尊嚴受到侵害或者人身、財產(chǎn)安全受到危害的個人信息，包括生物識別、宗教信仰、特定身份、醫(yī)療健康、金融賬戶、行蹤軌跡等信息，以及不滿十四周歲未成年人的個人信息。24基本原則人工智能數(shù)據(jù)安全在管理、數(shù)據(jù)處理活動等應(yīng)遵循以下原則：a)保密性：采用技術(shù)和管理手段保證人工智能數(shù)據(jù)的保密性，并記錄數(shù)據(jù)處理日志及確保日志的保密性；b)完整性：采用完整性校驗的技術(shù)和管理手段，并對人工智能數(shù)據(jù)的完整性進行監(jiān)測；c)隱私性：采用技術(shù)和流程以保護個人信息主體的個人信息，涉及個人信息的應(yīng)符合GB/T35273的要求；d)合規(guī)性：數(shù)據(jù)處理活動應(yīng)符合法規(guī)、政策文件、標準規(guī)范相關(guān)要求；e)分類分級：對人工智能數(shù)據(jù)進行分類和分級，并對不同類別不同級別的數(shù)據(jù)建立相應(yīng)的全流程數(shù)據(jù)安全保護措施。涉及敏感個人信息的，宜采取更強的保護措施；f)倫理安全：人工智能數(shù)據(jù)全生命周期保障倫理安全，促進公平、公正、和諧，避免偏見、歧視、隱私和信息泄露等問題。5管理要求5.1組織和人員管理組織和人員管理應(yīng)滿足以下要求：a)宜建立人工智能數(shù)據(jù)安全管理團隊及監(jiān)督職能部門，明確數(shù)據(jù)安全崗位和用戶角色職責；b)制定人員管理安全策略，明確不同崗位人員在數(shù)據(jù)生存周期各階段數(shù)據(jù)服務(wù)和系統(tǒng)服務(wù)相關(guān)的工作范疇和安全管控措施；c)應(yīng)確保人工智能數(shù)據(jù)安全人員符合相關(guān)崗位要求，與所有涉及人工智能數(shù)據(jù)崗位人員簽訂安全責任協(xié)議，并定期開展安全教育；d)建立第三方人員安全管理制度，對接觸人工智能數(shù)據(jù)的人員進行審批和記錄，定期開展操作安全審查；e)在重要崗位人員調(diào)離或終止勞動合同時，應(yīng)核查其在該崗位期間數(shù)據(jù)操作行為。5.2數(shù)據(jù)安全策略數(shù)據(jù)安全策略應(yīng)滿足以下要求：a)制定符合組織數(shù)據(jù)安全要求旦能覆蓋全部數(shù)據(jù)處理活動數(shù)據(jù)安全策略，明確數(shù)據(jù)安全方針、目標和原則，內(nèi)容應(yīng)包括目的、范圍、崗位、責任、管理層承諾、內(nèi)外部協(xié)調(diào)及合規(guī)性要求等；b)制定并實施與安全策略和規(guī)程相適應(yīng)的人工智能數(shù)據(jù)安全實施細則，并分發(fā)至組織內(nèi)數(shù)據(jù)安全部門、崗位和人員；c)定期審核和更新人工智能數(shù)據(jù)安全策略和規(guī)程，并隨之審核和更新人工智能數(shù)據(jù)安全實施細則。5.3合規(guī)管理合規(guī)管理應(yīng)滿足以下要求：a)明確組織所適用的外部合規(guī)要求并形成清單，定期跟進監(jiān)管機構(gòu)合規(guī)要求以更新該清單，同時將其進行分發(fā)宣貫；b)參考GB/T35273制定組織統(tǒng)一的個人信息保護制度，建立符合國家法律法規(guī)和相關(guān)標準的個人信息保護能力；c)參考GB/T41479建立組織統(tǒng)一的重要數(shù)據(jù)全生存周期保護的制度和管控措施；35.4數(shù)據(jù)資產(chǎn)管理數(shù)據(jù)資產(chǎn)管理應(yīng)滿足以下要求：a)在組織層面建立數(shù)據(jù)資產(chǎn)安全管理制度，定義數(shù)據(jù)資產(chǎn)相關(guān)的角色定位和職責，宜按照GB/T43697對數(shù)據(jù)進行分類分級管理；b)明確數(shù)據(jù)資產(chǎn)登記機制，明確數(shù)據(jù)資產(chǎn)管理范圍和屬性；c)根據(jù)數(shù)據(jù)資產(chǎn)安全管理制度識別數(shù)據(jù)并編制數(shù)據(jù)資產(chǎn)清單/數(shù)據(jù)保護目錄，包括數(shù)據(jù)類別、數(shù)據(jù)量、數(shù)據(jù)級別、數(shù)據(jù)資產(chǎn)責任部門和所處位置等內(nèi)容；d)應(yīng)建立數(shù)據(jù)資產(chǎn)使用制度及審批流程，并保留數(shù)據(jù)處理記錄。5.5數(shù)據(jù)安全審計數(shù)據(jù)安全審計應(yīng)滿足以下要求：a)在組織層面建立數(shù)據(jù)安全審計制度，定義數(shù)據(jù)安全審計的相關(guān)角色定位和職責；b)對人工智能數(shù)據(jù)生存周期的處理活動進行記錄，確保數(shù)據(jù)可審計、可追溯。5.6數(shù)據(jù)供應(yīng)鏈安全管理數(shù)據(jù)供應(yīng)鏈安全管理應(yīng)滿足以下要求：a)確保數(shù)據(jù)供應(yīng)鏈上下游各方對數(shù)據(jù)的收集、交換、使用符合相關(guān)法律法規(guī)要求；b)制定數(shù)據(jù)供應(yīng)鏈安全管理規(guī)范，明確數(shù)據(jù)供應(yīng)鏈安全目標、原則和范圍、數(shù)據(jù)供應(yīng)商選擇和管理等；c)要求數(shù)據(jù)提供者說明數(shù)據(jù)來源，并對數(shù)據(jù)提供者的身份進行審核，留存審核記錄；d)簽署合作協(xié)議明確數(shù)據(jù)供應(yīng)鏈上下游各方責任和義務(wù)，包括數(shù)據(jù)供應(yīng)鏈中數(shù)據(jù)的使用目的、供應(yīng)方式、保密約定、有效期等內(nèi)容，確保數(shù)據(jù)供應(yīng)鏈相關(guān)數(shù)據(jù)服務(wù)真實可用。e)建立數(shù)據(jù)供應(yīng)鏈目錄和相關(guān)數(shù)據(jù)源數(shù)據(jù)字典，用于及時查看供應(yīng)鏈的整體情況和事后追蹤分析數(shù)據(jù)供應(yīng)鏈合規(guī)情況；f)對數(shù)據(jù)供應(yīng)鏈上下游的數(shù)據(jù)提供者和數(shù)據(jù)使用者的行為進行合規(guī)性審核和分析；g)定期對數(shù)據(jù)供應(yīng)鏈上下游數(shù)據(jù)處理活動安全風險和數(shù)據(jù)安全管理能力進行評估。5.7數(shù)據(jù)安全事件應(yīng)急管理數(shù)據(jù)安全事件應(yīng)急管理應(yīng)滿足以下要求：a)制定數(shù)據(jù)安全應(yīng)急管理工作指南，定義數(shù)據(jù)安全事件類型、劃分數(shù)據(jù)安全事件等級明確不同類別、不同級別事件的處置流程和方法；b)建立數(shù)據(jù)安全事件應(yīng)急預(yù)案，定期開展應(yīng)急演練活動。6數(shù)據(jù)處理活動安全要求6.1數(shù)據(jù)收集6.1.1數(shù)據(jù)獲取數(shù)據(jù)獲取應(yīng)滿足以下要求：a)明確數(shù)據(jù)的收集目的、用途以及數(shù)據(jù)的獲取源、范圍、頻度，確保數(shù)據(jù)收集和獲取的合法性和正當性，對數(shù)據(jù)源進行評估；b)獲取個人信息時，應(yīng)征得個人信息主體的同意，并確保獲取數(shù)據(jù)過程中數(shù)據(jù)不被泄露；c)對數(shù)據(jù)收集和獲取環(huán)境中的設(shè)施和技術(shù)進行安全管控，確保數(shù)據(jù)的完整性、一致性和真實4d)對于所需公開標準數(shù)據(jù)集，應(yīng)確保數(shù)據(jù)未遭受污染；e)記錄數(shù)據(jù)收集和獲取過程，包括但不限于收集活動的時間、用戶、收集目的、收集方式等，對數(shù)據(jù)收集和獲取操作過程可追溯；f)在委托數(shù)據(jù)收集時，受委托方應(yīng)同樣遵照要求執(zhí)行；g)數(shù)據(jù)收集過程中應(yīng)提高數(shù)據(jù)的多樣性，對每種語言、類型的語料應(yīng)來自多個數(shù)據(jù)源。6.1.2數(shù)據(jù)清洗和轉(zhuǎn)換a)建立清洗和轉(zhuǎn)換前后數(shù)據(jù)間映射關(guān)系，確保數(shù)據(jù)清洗和轉(zhuǎn)換過程可溯源；對于不存在映射關(guān)系的清洗b)在數(shù)據(jù)清洗和數(shù)據(jù)轉(zhuǎn)換完成后對數(shù)據(jù)清洗和轉(zhuǎn)換過程中的中間數(shù)據(jù)c)采取必要的技術(shù)手段和管理措施，在數(shù)據(jù)有還原需求時能有效地還原數(shù)據(jù)。6.2數(shù)據(jù)存儲6.2.1數(shù)據(jù)備份c)對備份數(shù)據(jù)執(zhí)行和數(shù)據(jù)源同樣的安全管控措施，包括訪問控制、加密管理、完整性校驗等，對數(shù)據(jù)存儲狀態(tài)進行監(jiān)控，主動發(fā)現(xiàn)違規(guī)行為并進行處理；d)建立數(shù)據(jù)復(fù)制、備份與恢復(fù)的定期檢查和更新工作程序，包括數(shù)據(jù)副本更新頻率、保存期限等，確保6.2.2數(shù)據(jù)留存數(shù)據(jù)留存應(yīng)滿足以下要求：a)對人工智能應(yīng)用開發(fā)中的訓(xùn)練數(shù)據(jù)、驗證數(shù)據(jù)、模型數(shù)據(jù)等分別明確訪問、禁止使用和刪除的有效期；b)具備對過期存儲數(shù)據(jù)延長有效期或徹底刪除的能力；c)對于不同敏感類型的數(shù)據(jù)，分別選用針對敏感度差異的存儲加密技術(shù)和工具；d)涉及敏感個人信息的，用于恢復(fù)識別的數(shù)據(jù)和去標識化后的數(shù)據(jù)應(yīng)分開存儲。6.2.3權(quán)限管理權(quán)限管理應(yīng)滿足以下要求：a)對存儲系統(tǒng)用戶使用身份標識與鑒別、權(quán)限分配等安全控制措施；b)建立審計信息和使用日志的存儲機制和管控措施；c)建立用戶數(shù)據(jù)訪問的追溯機制，對數(shù)據(jù)訪問進行監(jiān)控，主動識別異常訪問并進行阻斷和告警。6.3數(shù)據(jù)加工6.3.1數(shù)據(jù)加工環(huán)境數(shù)據(jù)加工環(huán)境應(yīng)滿足以下要求：a)在數(shù)據(jù)加工系統(tǒng)的設(shè)計、開發(fā)和運維階段制定相應(yīng)的安全控制措施，確保數(shù)據(jù)不被泄5b)建立數(shù)據(jù)加工日志管理工具，記錄用戶在數(shù)據(jù)加工系統(tǒng)上的操作，建立數(shù)據(jù)加工前后數(shù)據(jù)間映射關(guān)系，確保數(shù)據(jù)加工過程可溯源；c)應(yīng)定期對數(shù)據(jù)加工環(huán)境進行安全評估，發(fā)現(xiàn)潛在的安全風險，及時進行修復(fù)，并詳細記錄漏洞發(fā)現(xiàn)及處置情況。6.3.2數(shù)據(jù)脫敏數(shù)據(jù)脫敏應(yīng)滿足以下要求：a)基于數(shù)據(jù)脫敏的安全審計要求，對數(shù)據(jù)脫敏過程中的操作進行記錄，保留其原始數(shù)據(jù)格式和特定屬性；b)根據(jù)人工智能應(yīng)用場景和數(shù)據(jù)屬性，明確數(shù)據(jù)脫敏規(guī)則、脫敏方法、使用限制和處理流程。6.3.3數(shù)據(jù)標注數(shù)據(jù)標注應(yīng)滿足以下要求：a)明確數(shù)據(jù)標注過程中的安全操作規(guī)范，建立與數(shù)據(jù)級別匹配的安全標注環(huán)境；b)建立健全標注規(guī)則機制，標注規(guī)則應(yīng)至少覆蓋數(shù)據(jù)標注以及數(shù)據(jù)審核等環(huán)節(jié)；c)采取機器驗證或人工檢測的方式對數(shù)據(jù)標注的結(jié)果進行質(zhì)量檢查和控制，必要時建立仲裁機制對標注結(jié)果進行最終核驗，形成核驗報告，核驗報告包括核驗時間、核驗方式、核驗內(nèi)容等；d)開展標注人員培訓(xùn)及考核，對標注過程中的行為進行規(guī)范和檢測，暫?；蛉∠缓细裾叩臉俗⑸蠉徺Y格。6.4數(shù)據(jù)使用6.4.1數(shù)據(jù)使用環(huán)境數(shù)據(jù)使用環(huán)境應(yīng)滿足以下要求：a)在服務(wù)器和移動端的處理器中為數(shù)據(jù)和代碼執(zhí)行提供安全區(qū)域，建立與數(shù)據(jù)級別匹配的安全處理環(huán)境；b)在合作開發(fā)情況下，宜采用聯(lián)邦學(xué)習(xí)等技術(shù)構(gòu)建聯(lián)合開發(fā)環(huán)境，避免數(shù)據(jù)的交換和泄露；c)采用訪問控制模塊實施數(shù)據(jù)使用用戶身份標識與鑒別策略、數(shù)據(jù)訪問權(quán)限分配策略等，并采取安全控制措施。6.4.2數(shù)據(jù)檢測數(shù)據(jù)檢測應(yīng)滿足以下要求：a)通過人工核查或自動化檢測技術(shù)對投毒數(shù)據(jù)、后門數(shù)據(jù)等惡意數(shù)據(jù)做篩查和剔除，確保參與模型訓(xùn)練的數(shù)據(jù)集沒有受到人為污染；b)依據(jù)模型訓(xùn)練的任務(wù)要求，明確數(shù)據(jù)質(zhì)量評估方法，對數(shù)據(jù)進行質(zhì)量評估；c)對存在特征值缺失、規(guī)模不達標、分布不均衡、偏見等質(zhì)量問題的數(shù)據(jù)，采取必要的技術(shù)手段進行調(diào)整或刪除。6.4.3數(shù)據(jù)利用數(shù)據(jù)利用應(yīng)滿足以下要求：a)確保人工智能模型訓(xùn)練、推理等數(shù)據(jù)利用的目的、范圍符合國家相關(guān)法律法規(guī)要求和數(shù)據(jù)收集目的以及使用范圍；6b)對于通過人工智能模型訓(xùn)練、推理等數(shù)據(jù)利用獲得的中間數(shù)據(jù)和結(jié)果數(shù)據(jù)，保證對其中的個人信息、重要數(shù)據(jù)合法使用；c)記錄并管理完整的人工智能模型訓(xùn)練、推理等數(shù)據(jù)利用操作，以備違約責任的識別和追d)建立數(shù)據(jù)使用和數(shù)據(jù)訪問的安全審計機制和管控措施；e)涉及數(shù)據(jù)展示的，應(yīng)對展示的必要性和安全性進行評估，采取數(shù)據(jù)脫敏、數(shù)據(jù)水印等技術(shù)手段對個人信息、重要數(shù)據(jù)等進行保護，不應(yīng)展示違法不良信息。6.5數(shù)據(jù)傳輸6.5.1傳輸安全傳輸安全應(yīng)滿足以下要求：a)區(qū)分不同數(shù)據(jù)形態(tài)和安全域內(nèi)、安全域間等不同數(shù)據(jù)傳輸場景，建立相應(yīng)的數(shù)據(jù)傳輸安全策略和操作規(guī)程；b)建立數(shù)據(jù)傳輸安全策略相應(yīng)的安全控制措施，以保證數(shù)據(jù)在傳輸過程中的保密性；c)依照數(shù)據(jù)傳輸場景，對數(shù)據(jù)傳輸相關(guān)方進行身份鑒別，并對傳輸數(shù)據(jù)加密傳輸；d)采用基于密碼技術(shù)的完整性和機密性保護機制，保護數(shù)據(jù)傳輸過程中的完整性和機密性，防止數(shù)據(jù)篡改和泄露。6.5.2傳輸監(jiān)控傳輸監(jiān)控應(yīng)滿足以下要求：a)使用監(jiān)控技術(shù)與機制對數(shù)據(jù)傳輸接口進行審核及監(jiān)控，發(fā)現(xiàn)數(shù)據(jù)傳輸失敗/錯誤等安全事件，并自動應(yīng)急處置；b)如發(fā)現(xiàn)數(shù)據(jù)泄露事件，及時告警并應(yīng)急處置。6.6數(shù)據(jù)提供6.6.1提供安全提供安全應(yīng)滿足以下要求：a)向他人提供數(shù)據(jù)前，應(yīng)按照GB/T41479安全要求進行評估；b)所提供數(shù)據(jù)需經(jīng)過提供者授權(quán)，數(shù)據(jù)提供的與方應(yīng)保證數(shù)據(jù)安全防護能力處于同等級c)采用數(shù)據(jù)加密、安全通道等措施保護數(shù)據(jù)提供過程中的個人信息、重要數(shù)據(jù)等；d)數(shù)據(jù)提供完成后應(yīng)清除數(shù)據(jù)提供通道的緩存數(shù)據(jù)并確保數(shù)據(jù)不能被恢復(fù)；e)采用自動和人工審計相結(jié)合的方法或手段對數(shù)據(jù)提供操作進行監(jiān)控，記錄操作事件，并制定數(shù)據(jù)提供風險行為識別和評估規(guī)則；f)在跨組織數(shù)據(jù)交換