2024人工智能安全治理框架

人工智能安全治理框架（2024）目錄TOC\o"1-2"\h\z\u人工智能安全治理原則 1人工智能安全治理框架構(gòu)成 2人工智能安全風(fēng)險分類 3人工智能內(nèi)生安全風(fēng)險 3人工智能應(yīng)用安全風(fēng)險 5技術(shù)應(yīng)對措施 7針對人工智能內(nèi)生安全風(fēng)險 7針對人工智能應(yīng)用安全風(fēng)險 9綜合治理措施 10人工智能安全開發(fā)應(yīng)用指引 12模型算法研發(fā)者安全開發(fā)指引 12人工智能服務(wù)提供者安全指引 13重點領(lǐng)域使用者安全應(yīng)用指引 14社會公眾安全應(yīng)用指引 15人工智能安全治理框架人工智能安全治理框架人工智能安全治理框架人工智能安全治理框架--人工智能安全治理框架（V1.0）落實《全球人工智能治理倡議》，遵循“以人為本、智能向善”的發(fā)展方向，為推動政府、國際組織、企業(yè)、科研院所、民間機構(gòu)和社會公眾等各方，就人工智能安全治理達(dá)成共識、協(xié)調(diào)一致，有效防范化解人工智能安全風(fēng)險，制定本框架。人工智能安全治理原則秉持共同、綜合、合作、可持續(xù)的安全觀，堅持發(fā)展和安全并重，以促進(jìn)人工智能創(chuàng)新發(fā)展為第一要務(wù)，以有效防范化解人工智能安全風(fēng)險為出發(fā)點和落腳點，構(gòu)建各方共同參與、技管結(jié)合、分工協(xié)作的治理機制，壓實相關(guān)主體安全責(zé)任，打造全過程全要素治理鏈條，培育安全、可靠、公平、透明的人工智能技術(shù)研發(fā)和應(yīng)用生態(tài)，推動人工智能健康發(fā)展和規(guī)范應(yīng)用，切實維護(hù)國家主權(quán)、安全和發(fā)展利益，保障公民、法人和其他組織的合法權(quán)益，確保人工智能技術(shù)造福于人類。包容審慎、確保安全。風(fēng)險及時采取措施。風(fēng)險導(dǎo)向、敏捷治理。措施。關(guān)注安全風(fēng)險發(fā)展變化，快速動態(tài)精準(zhǔn)調(diào)整治理措施，持續(xù)優(yōu)化治理機制和方式，對確需政府監(jiān)管事項及時予以響應(yīng)。管理相結(jié)合的安全治理措施，防范應(yīng)對不同類型安全風(fēng)險。圍繞人工智能研發(fā)應(yīng)用生態(tài)鏈，明確模型算法研發(fā)者、服務(wù)提供者、使用者等相關(guān)主體的安全責(zé)任，有機發(fā)揮政府監(jiān)管、行業(yè)自律、社會監(jiān)督等治理機制作用。共享最佳實踐，提倡建立開放性平臺，通過跨學(xué)科、跨領(lǐng)域、跨地區(qū)、跨國界的對話和合作，推動形成具有廣泛共識的全球人工智能治理體系。人工智能安全治理框架構(gòu)成應(yīng)動態(tài)調(diào)整更新，需要各方共同對治理框架持續(xù)優(yōu)化完善。安全風(fēng)險方面。通過分析人工智能技術(shù)特性，以及在不同行業(yè)領(lǐng)域應(yīng)用場景，梳理人工智能技術(shù)本身，及其在應(yīng)用過程中面臨的各種安全風(fēng)險隱患。應(yīng)用場景，提出通過安全軟件開發(fā)、數(shù)據(jù)質(zhì)量提升、安全建設(shè)運維、測評監(jiān)測加固等技術(shù)手段提升人工智能產(chǎn)品及應(yīng)用的安全性、公平性、可靠性、魯棒性的措施。綜合治理措施方面。明確技術(shù)研發(fā)機構(gòu)、服務(wù)提供者、用戶、政府手段，推動各方協(xié)同共治。安全開發(fā)應(yīng)用指引方面。明確模型算法研發(fā)者、服務(wù)提供者、重點領(lǐng)域用戶和社會公眾用戶，開發(fā)應(yīng)用人工智能技術(shù)的若干安全指導(dǎo)規(guī)范。人工智能安全風(fēng)險分類人工智能系統(tǒng)設(shè)計、研發(fā)、訓(xùn)練、測試、部署、使用、維護(hù)等生命周期各環(huán)節(jié)都面臨安全風(fēng)險，既面臨自身技術(shù)缺陷、不足帶來的風(fēng)險，也面臨不當(dāng)使用、濫用甚至惡意利用帶來的安全風(fēng)險。人工智能內(nèi)生安全風(fēng)險模型算法安全風(fēng)險可解釋性差的風(fēng)險。以深度學(xué)習(xí)為代表的人工智能算法內(nèi)部運行邏有異常難以快速修正和溯源追責(zé)。魯棒性弱風(fēng)險。由于深度神經(jīng)網(wǎng)絡(luò)存在非線性、大規(guī)模等特點，人工智能易受復(fù)雜多變運行環(huán)境或惡意干擾、誘導(dǎo)的影響，可能帶來性能下降、決策錯誤等諸多問題。密泄露，推理過程不可信、決策輸出錯誤，甚至運行故障?！盎糜X對抗攻擊風(fēng)險。攻擊者通過創(chuàng)建精心設(shè)計的對抗樣本數(shù)據(jù)，隱蔽地數(shù)據(jù)安全風(fēng)險違規(guī)收集使用數(shù)據(jù)風(fēng)險。人工智能訓(xùn)練數(shù)據(jù)的獲取，以及提供服務(wù)侵犯知識產(chǎn)權(quán)等違法有害信息，或者來源缺乏多樣性，導(dǎo)致輸出違法的、不良的、偏激的等有害信息內(nèi)容。訓(xùn)練數(shù)據(jù)還面臨攻擊者篡改、注入錯誤、誤導(dǎo)數(shù)據(jù)的“投毒”風(fēng)險，“污染”模型的概率分布，進(jìn)而造成準(zhǔn)確性、可信度下降。訓(xùn)練數(shù)據(jù)標(biāo)注不規(guī)范風(fēng)險。訓(xùn)練數(shù)據(jù)標(biāo)注過程中，存在因標(biāo)注規(guī)則不完備、標(biāo)注人員能力不夠、標(biāo)注錯誤等問題，不僅會影響模型算法準(zhǔn)確度、可靠性、有效性，還可能導(dǎo)致訓(xùn)練偏差、偏見歧視放大、泛化能力不足或輸出錯誤。數(shù)據(jù)泄露風(fēng)險。人工智能研發(fā)應(yīng)用過程中，因數(shù)據(jù)處理不當(dāng)、非授權(quán)訪問、惡意攻擊、誘導(dǎo)交互等問題，可能導(dǎo)致數(shù)據(jù)和個人信息泄露。系統(tǒng)安全風(fēng)險缺陷、后門被攻擊利用風(fēng)險。人工智能算法模型設(shè)計、訓(xùn)練和驗證漏洞等脆弱點，還可能被惡意植入后門，存在被觸發(fā)和攻擊利用的風(fēng)險。供應(yīng)鏈安全風(fēng)險。人工智能產(chǎn)業(yè)鏈呈現(xiàn)高度全球化分工協(xié)作格局。全球人工智能供應(yīng)鏈，帶來突出的芯片、軟件、工具斷供風(fēng)險。人工智能應(yīng)用安全風(fēng)險網(wǎng)絡(luò)域安全風(fēng)險混淆事實、誤導(dǎo)用戶、繞過鑒權(quán)的風(fēng)險。人工智能系統(tǒng)及輸出內(nèi)容難以鑒別生成內(nèi)容的真實性，影響用戶判斷，導(dǎo)致誤解。同時，人工智能生成圖片、音頻、視頻等高仿真內(nèi)容，可能繞過現(xiàn)有人臉識別、語音識別等身份認(rèn)證機制，導(dǎo)致認(rèn)證鑒權(quán)失效。不當(dāng)使用引發(fā)信息泄露風(fēng)險。政府、企業(yè)等機構(gòu)工作人員在業(yè)務(wù)工導(dǎo)致工作秘密、商業(yè)秘密、敏感業(yè)務(wù)數(shù)據(jù)泄露。濫用于網(wǎng)絡(luò)攻擊的風(fēng)險。人工智能可被用于實施自動化網(wǎng)絡(luò)攻擊或網(wǎng)絡(luò)掃描、社會工程學(xué)攻擊等，降低網(wǎng)絡(luò)攻擊門檻，增大安全防護(hù)難度。模型復(fù)用的缺陷傳導(dǎo)風(fēng)險。依托基礎(chǔ)模型進(jìn)行二次開發(fā)或微調(diào)，是常見的人工智能應(yīng)用模式，如果基礎(chǔ)模型存在安全缺陷，將導(dǎo)致風(fēng)險傳導(dǎo)至下游模型。現(xiàn)實域安全風(fēng)險兩用物項和技術(shù)濫用風(fēng)險。因不當(dāng)使用或濫用人工智能兩用物項和技術(shù)，對國家安全、經(jīng)濟安全、公共衛(wèi)生安全等帶來嚴(yán)重風(fēng)險。包括極大降低動挖掘與利用漏洞等方式，對廣泛潛在目標(biāo)發(fā)起網(wǎng)絡(luò)攻擊。認(rèn)知域安全風(fēng)險效應(yīng)進(jìn)一步加劇。用于開展認(rèn)知戰(zhàn)的風(fēng)險。人工智能可被利用于制作傳播虛假新聞、圖像、音頻、視頻等，宣揚恐怖主義、極端主義、有組織犯罪等內(nèi)容，干涉他國內(nèi)政、社會制度及社會秩序，危害他國主權(quán)；通過社交機器人在網(wǎng)絡(luò)空間搶占話語權(quán)和議程設(shè)置權(quán)，左右公眾價值觀和思維認(rèn)知。倫理域安全風(fēng)險加劇社會歧視偏見、擴大智能鴻溝的風(fēng)險。利用人工智能收集分析人類行為、社會地位、經(jīng)濟狀態(tài)、個體性格等，對不同人群進(jìn)行標(biāo)識分類、區(qū)別對待，帶來系統(tǒng)性、結(jié)構(gòu)性的社會歧視與偏見。同時，拉大不同地區(qū)人工智能鴻溝。未來脫離控制的風(fēng)險。隨著人工智能技術(shù)的快速發(fā)展，不排除人工智能自主獲取外部資源、自我復(fù)制，產(chǎn)生自我意識，尋求外部權(quán)力，帶來謀求與人類爭奪控制權(quán)的風(fēng)險。技術(shù)應(yīng)對措施針對上述安全風(fēng)險，模型算法研發(fā)者、服務(wù)提供者、系統(tǒng)使用者等需從訓(xùn)練數(shù)據(jù)、算力設(shè)施、模型算法、產(chǎn)品服務(wù)、應(yīng)用場景各方面采取技術(shù)措施予以防范。針對人工智能內(nèi)生安全風(fēng)險模型算法安全風(fēng)險應(yīng)對推理邏輯、技術(shù)接口、輸出結(jié)果提供明確說明，正確反映人工智能系統(tǒng)產(chǎn)生結(jié)果的過程。能消除模型算法存在的安全缺陷、歧視性傾向，提高魯棒性。數(shù)據(jù)安全風(fēng)險應(yīng)對在訓(xùn)練數(shù)據(jù)和用戶交互數(shù)據(jù)的收集、存儲、使用、加工、傳輸、提嚴(yán)格落實關(guān)于用戶控制權(quán)、知情權(quán)、選擇權(quán)等法律法規(guī)明確的合法權(quán)益。識產(chǎn)權(quán)。對訓(xùn)練數(shù)據(jù)進(jìn)行嚴(yán)格篩選，確保不包含核生化導(dǎo)武器等高危領(lǐng)域敏感數(shù)據(jù)。符合數(shù)據(jù)安全和個人信息保護(hù)相關(guān)標(biāo)準(zhǔn)規(guī)范。使用真實、準(zhǔn)確、客觀、多樣且來源合法的訓(xùn)練數(shù)據(jù)，及時過濾失效、錯誤、偏見數(shù)據(jù)。向境外提供人工智能服務(wù)，應(yīng)符合數(shù)據(jù)跨境管理規(guī)定。向境外提供人工智能模型算法，應(yīng)符合出口管制要求。系統(tǒng)安全風(fēng)險應(yīng)對對聚合多個人工智能模型或系統(tǒng)的平臺，應(yīng)加強風(fēng)險識別、檢測、防護(hù)，防止因平臺惡意行為或被攻擊入侵影響承載的人工智能模型或系統(tǒng)。加強人工智能算力平臺和系統(tǒng)服務(wù)的安全建設(shè)、管理、運維能力，確?；A(chǔ)設(shè)施和服務(wù)運行不中斷。高度關(guān)注供應(yīng)鏈安全。跟蹤軟硬件產(chǎn)品的漏洞、缺陷信息并及時采取修補加固措施，保證系統(tǒng)安全性。針對人工智能應(yīng)用安全風(fēng)險網(wǎng)絡(luò)域風(fēng)險應(yīng)對建立安全防護(hù)機制，防止模型運行過程中被干擾、篡改而輸出不可信結(jié)果。應(yīng)建立數(shù)據(jù)護(hù)欄，確保人工智能系統(tǒng)輸出敏感個人信息和重要數(shù)據(jù)符合相關(guān)法律法規(guī)?，F(xiàn)實域風(fēng)險應(yīng)對根據(jù)用戶實際應(yīng)用場景設(shè)置服務(wù)提供邊界，裁減人工智能系統(tǒng)可能被濫用的功能，系統(tǒng)提供服務(wù)時不應(yīng)超出預(yù)設(shè)應(yīng)用范圍。提高人工智能系統(tǒng)最終用途追溯能力，防止被用于核生化導(dǎo)等大規(guī)模殺傷性武器制造等高危場景。認(rèn)知域風(fēng)險應(yīng)對通過技術(shù)手段判別不符合預(yù)期、不真實、不準(zhǔn)確的輸出結(jié)果，并依法依規(guī)監(jiān)管。喜好以及個人思想傾向的人工智能系統(tǒng)，應(yīng)嚴(yán)格防范其濫用。加強對人工智能生成合成內(nèi)容的檢測技術(shù)研發(fā)，提升對認(rèn)知戰(zhàn)手段的防范、檢測、處置能力。倫理域風(fēng)險應(yīng)對在算法設(shè)計、模型訓(xùn)練和優(yōu)化、提供服務(wù)等過程中，應(yīng)采取訓(xùn)練數(shù)職業(yè)、健康等方面歧視。應(yīng)用于政府部門、關(guān)鍵信息基礎(chǔ)設(shè)施以及直接影響公共安全和公民措施。綜合治理措施政府部門、行業(yè)協(xié)會、社會組織等多方參與的人工智能安全風(fēng)險綜合治理制度規(guī)范。途管理，對特定人群及場景下使用人工智能技術(shù)提出相關(guān)要求，防止人工智能系統(tǒng)被濫用。對算力、推理能力達(dá)到一定閾值或應(yīng)用在特定行業(yè)領(lǐng)域的人工智能系統(tǒng)進(jìn)行登記備案，要求其具備在設(shè)計、研發(fā)、測試、部署、使用、維護(hù)等全生命周期的安全防護(hù)能力。建立人工智能服務(wù)可追溯管理制度。對面向公眾服務(wù)的人工智能系統(tǒng)，通過數(shù)字證書技術(shù)對其進(jìn)行標(biāo)識管理。制定出臺人工智能生成合成內(nèi)容分發(fā)渠道等關(guān)鍵環(huán)節(jié)，便于用戶識別判斷信息來源及真實性。完善人工智能數(shù)據(jù)安全和個人信息保護(hù)規(guī)范。針對人工智能技術(shù)人信息保護(hù)要求。構(gòu)建負(fù)責(zé)任的人工智能研發(fā)應(yīng)用體系。研究提出“以人為本、智能向善”在人工智能研發(fā)應(yīng)用中的具體操作指南和最佳實踐，持續(xù)推進(jìn)人工智能設(shè)計、研發(fā)、應(yīng)用的價值觀、倫理觀對齊。探索適應(yīng)人工智能時代的版權(quán)保護(hù)和開發(fā)利用制度，持續(xù)推進(jìn)高質(zhì)量基礎(chǔ)語料庫和數(shù)據(jù)集建設(shè)，為人工智能安全發(fā)展提供優(yōu)質(zhì)營養(yǎng)供給。制定人工智能倫理審查準(zhǔn)則、規(guī)范和指南，完善倫理審查制度。強化人工智能供應(yīng)鏈安全保障。推動共享人工智能知識成果，開源人工智能技術(shù)，共同研發(fā)人工智能芯片、框架、軟件，引導(dǎo)產(chǎn)業(yè)界建立開放生態(tài)，增強供應(yīng)鏈來源多樣性，保障人工智能供應(yīng)鏈安全性穩(wěn)定性。推進(jìn)人工智能可解釋性研究。從機器學(xué)習(xí)理論、訓(xùn)練方法、人機交互等方面組織研究人工智能決策透明度、可信度、糾錯機制等問題，不斷提高人工智能可解釋性和可預(yù)測性，避免人工智能系統(tǒng)意外決策產(chǎn)生惡意行為。人工智能安全風(fēng)險威脅信息共享和應(yīng)急處置機制。持續(xù)跟蹤分析安全事件等動向，協(xié)調(diào)有關(guān)研發(fā)者、服務(wù)提供者建立風(fēng)險威脅信息通報和共享機制。構(gòu)建人工智能安全事件應(yīng)急處置機制，制定應(yīng)急預(yù)案，開展應(yīng)急演練，及時快速有效處置人工智能安全威脅和事件。加大人工智能安全人才培養(yǎng)力度。推動人工智能安全教育與人工智能學(xué)科同步發(fā)展，依托學(xué)校、科研機構(gòu)等加強人工智能安全設(shè)計、開發(fā)、治理人才的培養(yǎng)，支持培養(yǎng)人工智能安全前沿基礎(chǔ)領(lǐng)域頂尖人才，壯大無人駕駛、智能醫(yī)療、類腦智能、腦機接口等領(lǐng)域安全人才隊伍。建立健全人工智能安全宣傳教育、行業(yè)自律、社會監(jiān)督機制。面向政府、企業(yè)、社會公用事業(yè)單位加強人工智能安全規(guī)范應(yīng)用的教育培訓(xùn)。加強人工智能安全風(fēng)險及防范應(yīng)對知識的宣傳，全面提高全社會人工智能安全意識。指導(dǎo)支持網(wǎng)絡(luò)安全、人工智能領(lǐng)域行業(yè)協(xié)會加強行業(yè)自律，制定提出高于監(jiān)管要求、具有引領(lǐng)示范作用的人工智能安全自律公約，引導(dǎo)督促人工智能技術(shù)研發(fā)機構(gòu)、服務(wù)提供者持續(xù)提升安全能力水平；面向公眾建立人工智能安全風(fēng)險隱患投訴舉報受理機制，形成有效的人工智能安全社會監(jiān)督氛圍。促進(jìn)人工智能安全治理國際交流合作。積極與各國就人工智能開展合作交流，支持在聯(lián)合國框架下成立國際人工智能治理機構(gòu)，協(xié)調(diào)人工智能發(fā)展、安全與治理重大問題。推進(jìn)APEC、G20、金磚國家等多邊機制下的人工智能安全治理合作，加強與共建“一帶一路”國家、“全球南方”國家合作，踐，共同制定人工智能安全國際標(biāo)準(zhǔn)。人工智能安全開發(fā)應(yīng)用指引模型算法研發(fā)者安全開發(fā)指引研發(fā)者應(yīng)在需求分析、項目立項、模型設(shè)計開發(fā)、訓(xùn)練數(shù)據(jù)選用等關(guān)鍵環(huán)節(jié)，切實踐行“以人為本、智能向善”理念宗旨，遵循科技倫理規(guī)范，采用戶溝通交流、加強員工安全教育培訓(xùn)等措施。研發(fā)者應(yīng)重視數(shù)據(jù)安全和個人信息保護(hù)，尊重知識產(chǎn)權(quán)和版權(quán)，確保數(shù)據(jù)來源清晰、途徑合規(guī)。建立完善的數(shù)據(jù)安全管理制度，確保數(shù)據(jù)安全性和質(zhì)量，以及合規(guī)使用，防范數(shù)據(jù)泄露、流失、擴散等風(fēng)險，人工智能產(chǎn)品終止下線時妥善處理用戶數(shù)據(jù)。研發(fā)者應(yīng)確保模型算法訓(xùn)練環(huán)境的安全性，包括網(wǎng)絡(luò)安全配置和數(shù)據(jù)加密措施等。研發(fā)者應(yīng)評估模型算法潛在偏見，加強訓(xùn)練數(shù)據(jù)內(nèi)容和質(zhì)量的抽查檢測，設(shè)計有效、可靠的對齊算法，確保價值觀風(fēng)險、倫理風(fēng)險等可控。研發(fā)者應(yīng)結(jié)合目標(biāo)市場適用法律要求和風(fēng)險管理要求，評估人工智能產(chǎn)品和服務(wù)能力成熟度。研發(fā)者應(yīng)做好人工智能產(chǎn)品及所用數(shù)據(jù)集的版本管理，商用版本應(yīng)可以回退到以前的商用版本。研發(fā)者應(yīng)定期開展安全評估測試，測試前明確測試目標(biāo)、范圍和安全維度，構(gòu)建多樣化的測試數(shù)據(jù)集，涵蓋各種應(yīng)用場景?；旌蠝y試等，利用沙箱仿真等技術(shù)對模型進(jìn)行充分測試和驗證。研發(fā)者應(yīng)評估人工智能模型算法對外界干擾的容忍程度，以適用范圍、注意事項或使用禁忌的形式告知服務(wù)提供者和使用者。研發(fā)者應(yīng)生成詳細(xì)的測試報告，分析安全問題并提出改進(jìn)方案。人工智能服務(wù)提供者安全指引場景。服務(wù)提供者應(yīng)在合同或服務(wù)協(xié)議中，以使用者易于理解的方式，告知人工智能產(chǎn)品和服務(wù)的適用范圍、注意事項、使用禁忌，支持使用者知情選擇、審慎使用。服務(wù)提供者應(yīng)在告知同意、服務(wù)協(xié)議等文件中，支持使用者行使人類監(jiān)督和控制責(zé)任。服務(wù)提供者應(yīng)讓使用者了解人工智能產(chǎn)品的精確度，在人工智能決策有重大影響時，做好解釋說明預(yù)案。服務(wù)提供者應(yīng)檢查研發(fā)者提供的責(zé)任說明文件，確保責(zé)任鏈條可以追溯到遞歸采用的人工智能模型。服務(wù)提供者應(yīng)提高人工智能風(fēng)險防范意識，建立健全實時風(fēng)險監(jiān)控管理機制，持續(xù)跟蹤運行中安全風(fēng)險。服務(wù)提供者應(yīng)評估人工智能產(chǎn)品與服務(wù)在面臨故障、攻擊等異常條度有效功能。服務(wù)提供者應(yīng)將人工智能系統(tǒng)運行中發(fā)現(xiàn)的安全事故、安全漏洞等及時向主管部門報告。服務(wù)提供者應(yīng)在合同或服務(wù)協(xié)議中明確，一旦發(fā)現(xiàn)不符合使用意圖和說明限制的誤用、濫用，服務(wù)提供者有權(quán)采取糾正措施或提前終止服務(wù)。服務(wù)提供者應(yīng)評估人工智能產(chǎn)品對使用者的影響，防止對使用者身心健康、生命財產(chǎn)等造成危害。重點領(lǐng)域使用者安全應(yīng)用指引對于政府部門、關(guān)鍵信息基礎(chǔ)設(shè)施以及直接影響公共安全和公民生命健康安全的領(lǐng)域等重點領(lǐng)域使用者，應(yīng)審慎評估目標(biāo)應(yīng)用場景采用人工智能技術(shù)后帶來的長期和潛在影響，開展風(fēng)險評估與定級，避免技術(shù)濫用。可控性等，定期進(jìn)行系統(tǒng)審計，加強風(fēng)險防范意識與風(fēng)險應(yīng)對處置能力。重點領(lǐng)域使用者在使用人工智能產(chǎn)品前，應(yīng)全面了解其數(shù)據(jù)處理和隱私保護(hù)措施。制，增強賬戶安全性。重點領(lǐng)域使用者應(yīng)增強網(wǎng)絡(luò)安全、供應(yīng)鏈安全等方面的能力，降低人工智能系統(tǒng)被攻擊、重要數(shù)據(jù)被竊取或泄露的風(fēng)險，保障業(yè)務(wù)不中斷。重點領(lǐng)域使用者應(yīng)合理限制人工智能系統(tǒng)對數(shù)據(jù)的訪問權(quán)限，制定數(shù)據(jù)備份和恢復(fù)計劃，定期對數(shù)據(jù)處理流程進(jìn)行檢查。重點領(lǐng)域使用者應(yīng)確保操作符合保密規(guī)定，在處理敏感數(shù)據(jù)時使用加密技術(shù)等保護(hù)措施。重點領(lǐng)域使用者應(yīng)對人工智能行為和影響進(jìn)行有效監(jiān)督，確保人工智能產(chǎn)品和服務(wù)的運行基于人的授權(quán)、處于人的控制之下。重點領(lǐng)域使用者應(yīng)避免完全依賴人工智能的決策，監(jiān)控及記錄未采換到人工或傳統(tǒng)系統(tǒng)等的能力。社會公眾安全應(yīng)用指引社會公眾應(yīng)提高對人工智能產(chǎn)品安全風(fēng)險的認(rèn)識，選擇信譽良好的人工智能產(chǎn)品。社會公眾應(yīng)在使用前仔細(xì)閱讀產(chǎn)品合同或服務(wù)協(xié)議，了解產(chǎn)品的功定使用預(yù)期。社會公眾應(yīng)提高個人信息保護(hù)意識，避免在不必要的情況下輸入敏感信息。社會公眾應(yīng)了解人工智能產(chǎn)品的數(shù)據(jù)處理方式，避免使用不符合隱私保護(hù)原則的產(chǎn)品。社會公眾在使用人工智能產(chǎn)品時，應(yīng)關(guān)注網(wǎng)絡(luò)安全風(fēng)險，避免人工智能產(chǎn)品成為網(wǎng)絡(luò)攻擊的目標(biāo)。社會公眾應(yīng)注意人工智能產(chǎn)品對兒童和青少年的影響，預(yù)防沉迷及過度使用。安全風(fēng)險與技術(shù)應(yīng)對措施、綜合治理措施映射表安全風(fēng)險技術(shù)應(yīng)對措施綜合治理措施內(nèi)生（自身）安全風(fēng)險模型算法安全風(fēng)險可解釋性差的風(fēng)險4.1.1（a）