通用人工智能AGI等級(jí)保護(hù)白皮書

I賦能等級(jí)保護(hù)場景等，并初步形成《通用人工智能等級(jí)保護(hù)白皮書（2023版）》，全面介紹當(dāng)前公安部第三研究所在通用人工智能等術(shù)語和定義狹義人工智能是一種專注于解決特定問題或執(zhí)行特定任務(wù)的人模型即服務(wù)是一種基于云計(jì)算的AI服務(wù)模式，它提供了一種將 I II 1 2 7 9 12 12 15 17 20 23 23 27 29 32 39 41 44 46 49V 54 60 61 68 73 75 7611通用人工智能發(fā)展現(xiàn)狀和停滯。到了21世紀(jì)初，隨著計(jì)算機(jī)硬件技術(shù)的快速發(fā)展，加之大2），境的人工智能系統(tǒng)。與目前較為常見的ANI相比，AGI具有思考、限制和人工智能領(lǐng)域的研究方向問題，實(shí)現(xiàn)AGI仍然是一項(xiàng)挑戰(zhàn)性超級(jí)人工智能（ASI）是一種超越人類智能的人工智1.1通用人工智能的組成架構(gòu)3層、數(shù)據(jù)層和應(yīng)用層等，并闡述每一層的作用和主要內(nèi)容。本文還將介紹各層之間的關(guān)系以及它們的合作模式，以便把握AGI的整體運(yùn)通用人工智能平臺(tái)集中管控平臺(tái)層是指用于搭建、訓(xùn)練和部署AGI模型的基礎(chǔ)設(shè)施和工具以支持不同類型的AGI應(yīng)用程序和服務(wù)。通用人工智能的平臺(tái)層通常包括計(jì)算平臺(tái)、存儲(chǔ)平臺(tái)、開發(fā)工具和框架、API和SDK,這些平臺(tái)可以是云端的、本地的或是混合的。其中計(jì)算平臺(tái)用于處理AGI模型訓(xùn)練和推理所需的計(jì)算任務(wù)，通常采用GPU、TPU等專門加速器進(jìn)行計(jì)算。存儲(chǔ)平臺(tái)用于存儲(chǔ)訓(xùn)練數(shù)據(jù)、模型參數(shù)、日志和其他文件等，支持高可用性、可擴(kuò)展性和安全性。開發(fā)工具和框架用于創(chuàng)建和管理AGI模型的代碼和資源，可支4模型。API（應(yīng)用程序接口）和SDK（軟件開發(fā)工具包）用于簡化AGI服務(wù)的集成和使用，可提供對AGI功能的訪問界面，例如語音識(shí)別、圖像識(shí)別、自然語言處理等，可為開發(fā)者快速搭建AGI應(yīng)用平臺(tái)層為AGI開發(fā)者提供了高效、靈活、可擴(kuò)展的環(huán)境，幫助他們更好地搭建、訓(xùn)練和部署AGI模型，從而支持不同類型的AGI5強(qiáng)化學(xué)習(xí)技術(shù)用于訓(xùn)練AGI模型進(jìn)行智能決策的技術(shù)，例如棋性的數(shù)據(jù)，就能夠讓AGI模型擁有更好的學(xué)習(xí)效果，從而提升其性6數(shù)據(jù)清洗和預(yù)處理是指借助各種工具和技術(shù)對采集到的數(shù)據(jù)進(jìn)數(shù)據(jù)存儲(chǔ)和管理是將處理后的數(shù)據(jù)存儲(chǔ)到數(shù)據(jù)庫或其他數(shù)據(jù)存數(shù)據(jù)分析和挖掘是借助各種工具和技術(shù)對各種統(tǒng)計(jì)學(xué)和機(jī)器學(xué)高AGI模型的學(xué)習(xí)效果和泛化能力，數(shù)據(jù)標(biāo)注和增強(qiáng)需要注意數(shù)據(jù)數(shù)據(jù)層是構(gòu)建AGI模型的基礎(chǔ)，其中的每個(gè)組件都需要花費(fèi)大7深化，其應(yīng)用場景還將不斷擴(kuò)展。在整個(gè)通用人工智能系統(tǒng)中，平臺(tái)層、模型層、數(shù)據(jù)層和應(yīng)用層之間相互協(xié)作。平臺(tái)層提供計(jì)算資源和AGI庫，幫助模型層快速訓(xùn)練和優(yōu)化；數(shù)據(jù)層提供數(shù)據(jù)監(jiān)控和清洗功能，確保模型層使用數(shù)據(jù)的質(zhì)量和安全性；模型層提供各種AGI算法和模型實(shí)現(xiàn)，幫助應(yīng)用層快速部署和使用；應(yīng)用層根據(jù)業(yè)務(wù)需求和場景設(shè)計(jì)開發(fā)具有個(gè)性化特點(diǎn)的應(yīng)用，并通過模型層為用戶提供增加價(jià)值的功能。本小節(jié)將主要介紹通用人工智能的參與方，包括通用人工智能服務(wù)提供方和通用人工智能服務(wù)用戶方。在此基礎(chǔ)上，本文結(jié)合網(wǎng)絡(luò)安全責(zé)任制進(jìn)行闡述。通用人工智能平臺(tái)組成部分通用人工智能服務(wù)提供方8通用人工智能服務(wù)提供方包括AGI平臺(tái)提供方、AGI模型提供方、AGI數(shù)據(jù)提供方和AGI應(yīng)用提供方，分別對應(yīng)通用人工智能平AGI平臺(tái)提供方、AGI模型提供方和AGI應(yīng)用提供方是通用人工智能服務(wù)的重要參與方。其主要目的是為AGI的數(shù)據(jù)、算法以及通用人工智能服務(wù)平臺(tái)是實(shí)現(xiàn)AGI技術(shù)商業(yè)化的重要基礎(chǔ)設(shè)施解決方案，促進(jìn)AGI技術(shù)的發(fā)展和應(yīng)用。同時(shí)這些平臺(tái)使用強(qiáng)大的AGI數(shù)據(jù)提供方是指為通用人工智能服務(wù)用戶方提供數(shù)據(jù)的機(jī)9技術(shù)發(fā)展和商業(yè)化方面扮演著重要的角色，他們的數(shù)據(jù)為各種AGI通用人工智能服務(wù)用戶方通過通用人工智能服務(wù)平臺(tái)構(gòu)建和訓(xùn)練模通用人工智能服務(wù)用戶方是指使用AGI技術(shù)解決實(shí)際問題的用1.3通用人工智能網(wǎng)絡(luò)安全應(yīng)用趨勢本小節(jié)將主要介紹目前AGI未來在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用趨勢。我們將列舉AGI在網(wǎng)絡(luò)滲透、漏洞掃描、預(yù)警監(jiān)測、態(tài)勢感知、入2通用人工智能安全風(fēng)險(xiǎn)分析2.1傳統(tǒng)安全風(fēng)險(xiǎn)（1）物理攻擊方面。由于IDC（Inter（2）網(wǎng)絡(luò)攻擊方面。針對通信網(wǎng)絡(luò)的攻擊形勢依然相當(dāng)嚴(yán)峻，（3）計(jì)算環(huán)境的安全風(fēng)險(xiǎn)。風(fēng)險(xiǎn)一方面主要來自基礎(chǔ)設(shè)施自身由于供應(yīng)鏈攻擊本身具有極強(qiáng)的隱蔽性，再加上AGI開發(fā)框架、大（2）漏洞攻擊。隨著通用人工智能的爆發(fā)式發(fā)展，傳統(tǒng)安全廠（3）API安全問題。API的開放一方面為企業(yè)發(fā)展提供了強(qiáng)有（4）運(yùn)維安全問題。同通用人工智能平臺(tái)基礎(chǔ)設(shè)施一樣，模型2.2數(shù)據(jù)泄露和濫用風(fēng)險(xiǎn)模型即服務(wù)（MaaS），這些算法模型、訓(xùn)練數(shù)據(jù)勢必面臨著來自互除了傳統(tǒng)的因流程管理不善和基礎(chǔ)設(shè)施平臺(tái)被入侵導(dǎo)致的數(shù)據(jù)2.3模型可靠性風(fēng)險(xiǎn)另一方面，由于大模型神經(jīng)網(wǎng)絡(luò)訓(xùn)練和推理需要使用高耗能的的樣本，例如海綿樣本（SpongeSample），可讓大模型在極低的性模型魯棒性缺乏主要由訓(xùn)練數(shù)據(jù)集不完整、致了AGI圖像識(shí)別技術(shù)在真實(shí)場景下無法準(zhǔn)確識(shí)別出圖像。魯棒性2.3.4算法的偏見性導(dǎo)致網(wǎng)絡(luò)空間意識(shí)2.4大模型濫用誤用風(fēng)險(xiǎn)現(xiàn)過利用AGI技術(shù)偽造政治人物負(fù)面新聞抹黑政治人物的事件。另訓(xùn)練數(shù)據(jù)本身包含的人類社會(huì)的固有偏見和不同地區(qū)文化差異等各3通用人工智能等級(jí)保護(hù)合規(guī)需求3.1安全物理環(huán)境進(jìn)行防浪涌處理，機(jī)房內(nèi)采用綜合接地手段，相線、零線、PE線分度范圍應(yīng)在45%-65%。如果設(shè)備自身能夠在所處環(huán)境的溫濕度中正發(fā)生變化時(shí)不影響設(shè)備正常運(yùn)行。通過配備UPS設(shè)備保證在突然斷3.2安全通信網(wǎng)絡(luò)通用人工智能大模型的訓(xùn)練和推理依賴于算力大規(guī)模集中的數(shù)備的硬件冗余，DCS設(shè)備、重要通信設(shè)備等應(yīng)實(shí)現(xiàn)雙網(wǎng)冗余或環(huán)網(wǎng)通用人工智能大模型的訓(xùn)練和推理依賴于算力大規(guī)模集中的數(shù)通信過程中的數(shù)據(jù)可以使用奇偶校驗(yàn)、累加通用人工智能大模型的訓(xùn)練和推理依賴于算力大規(guī)模集中的數(shù)3.3安全區(qū)域邊界容等方面進(jìn)行檢查，提供允許/拒絕訪問的能力。核查設(shè)備中訪問控統(tǒng)的關(guān)鍵網(wǎng)絡(luò)節(jié)點(diǎn)處部署惡意代碼防范產(chǎn)品時(shí)要保證系統(tǒng)的業(yè)務(wù)通3.4安全計(jì)算環(huán)境從而允許未經(jīng)授權(quán)的用戶與通用人工智能大模型交互并可能利用漏角色的訪問控制(RBAC)實(shí)現(xiàn)不充分允許用戶執(zhí)行超出其預(yù)期權(quán)限的（1）身份鑒別是網(wǎng)絡(luò)業(yè)務(wù)應(yīng)用系統(tǒng)（軟件系統(tǒng)）、應(yīng)用服務(wù)器（2）對于在網(wǎng)絡(luò)系統(tǒng)、網(wǎng)絡(luò)應(yīng)用服務(wù)器和終端以及計(jì)算機(jī)網(wǎng)絡(luò)（3）在網(wǎng)絡(luò)應(yīng)用服務(wù)器和終端以及計(jì)算機(jī)網(wǎng)絡(luò)系統(tǒng)以遠(yuǎn)程管理（4）應(yīng)使用兩種或兩種以上組合的鑒別認(rèn)證方式加強(qiáng)身份鑒別通用人工智能大模型的訓(xùn)練和推理依賴于大模型的框架和各種同訓(xùn)練、推理任務(wù)建立GPU側(cè)安全隔離環(huán)境，包括但（1）企業(yè)或集成商在進(jìn)行系統(tǒng)安裝時(shí)，遵循最小安裝原則，僅（2）企業(yè)或集成商進(jìn)行應(yīng)用軟件開發(fā)時(shí)，需要考慮應(yīng)用軟件本（3）企業(yè)或集成商在選擇主機(jī)安全防護(hù)軟（4）解決安全漏洞最直接的辦法是更新補(bǔ)丁，企業(yè)可委托第三此外，通用人工智能大模型結(jié)合提示工程可以用于創(chuàng)建更智能、注入漏洞包括通過使用特定的語言模式或標(biāo)記來繞過過濾器或限制，通用人工智能大模型的訓(xùn)練和推理依賴于大模型的框架和各種取平臺(tái)化管理，安全設(shè)備集中防護(hù)；也可以分區(qū)域，前置安全設(shè)備或密碼技術(shù)確保信息或數(shù)據(jù)不被未授權(quán)用戶非法篡改或在被篡改后數(shù)據(jù)保密性安全要求實(shí)現(xiàn)的安全目標(biāo)主要是指采用密碼技術(shù)保網(wǎng)絡(luò)安全等級(jí)保護(hù)的第三級(jí)系統(tǒng)中要求對這兩類信息的存儲(chǔ)空個(gè)人信息的保護(hù)應(yīng)根據(jù)個(gè)人信息的使用場景不同采取不同的管3.5安全管理中心審計(jì)管理員可以通過安全產(chǎn)品自身或額外的審計(jì)工具對審計(jì)記具有審計(jì)管理權(quán)限的用戶可以對安全管理員用戶的各類操作進(jìn)），各安全產(chǎn)品應(yīng)具有將各類運(yùn)行狀況和審計(jì)數(shù)據(jù)主動(dòng)發(fā)送至安全3.6安全管理制度網(wǎng)絡(luò)安全責(zé)任機(jī)構(gòu)應(yīng)是網(wǎng)絡(luò)系統(tǒng)中保護(hù)對象全生命周期中關(guān)鍵安全管理制度體系應(yīng)當(dāng)覆蓋網(wǎng)絡(luò)安全等級(jí)保護(hù)測評對象的全部統(tǒng)發(fā)布、機(jī)構(gòu)電子郵箱發(fā)布、企業(yè)辦公終端APP發(fā)布和正式文件發(fā)3.7安全管理機(jī)構(gòu)網(wǎng)絡(luò)安全領(lǐng)導(dǎo)委員會(huì)或領(lǐng)導(dǎo)小組的主要職責(zé)包括對機(jī)構(gòu)安全管3.8安全管理人員3.9安全建設(shè)管理或部門應(yīng)當(dāng)提交系統(tǒng)建設(shè)的過程文檔以及系統(tǒng)運(yùn)行維護(hù)的詳細(xì)技術(shù)對供應(yīng)商的要求主要基于與其簽訂協(xié)議或合同中約定的網(wǎng)絡(luò)安3.10安全運(yùn)維管理在設(shè)備維護(hù)管理制度中明確含有重要數(shù)據(jù)的設(shè)備帶離時(shí)的加密手段址、MAC地址和掩碼等信息，也包括網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)、的軟件組件、軟件/固件組件的版本和補(bǔ)丁信息、各個(gè)設(shè)備或軟件組4通用人工智能賦能等級(jí)保護(hù)通用人工智能大模型賦能是指利用開發(fā)出的超大規(guī)模深度學(xué)習(xí)4.1網(wǎng)絡(luò)安全等級(jí)保護(hù)知識(shí)賦能場景1058號(hào)）等。這些法律法規(guī)和政策文件的出臺(tái)，意味著等級(jí)保護(hù)從過分析和學(xué)習(xí)大量的等級(jí)保護(hù)領(lǐng)域相關(guān)的法律法規(guī)和政策文件知識(shí)絡(luò)安全等級(jí)保護(hù)基本要求》兩代核心標(biāo)準(zhǔn)，包括與之相關(guān)的GB/T22240-2020《信息安全技術(shù)28448-2019《信息安全技術(shù)25058-2019《信息安全技術(shù)網(wǎng)絡(luò)安全等級(jí)保護(hù)定級(jí)指南》、GB/T網(wǎng)絡(luò)安全等級(jí)保護(hù)測評要求》、GB/T引入通用人工智能大模型能夠有效地解決上述標(biāo)準(zhǔn)之間復(fù)雜的連貫的解析和執(zhí)行指導(dǎo)，從而提高標(biāo)準(zhǔn)執(zhí)行的準(zhǔn)確率和效率。此外，國家要求信息系統(tǒng)的信息系統(tǒng)運(yùn)營使用單位開展網(wǎng)絡(luò)安全等級(jí)2007年7月，公安部、國家保密局、國家密碼管理局和國務(wù)院年修訂為《信息安全技術(shù)網(wǎng)絡(luò)安全等級(jí)保護(hù)定級(jí)指南》（GB/T第二級(jí)以上的信息系統(tǒng)運(yùn)營使用單位或主管部門到公安部網(wǎng)站下載等級(jí)測評工作是指測評機(jī)構(gòu)依據(jù)國家網(wǎng)絡(luò)安全等級(jí)保護(hù)制度規(guī)4.2等級(jí)測評賦能場景方案編制階段的目標(biāo)是依據(jù)系統(tǒng)調(diào)研階