Agentic AI 安全技術(shù)應(yīng)用報告 -賦能決策 重塑未來

版權(quán)聲明本報告為北京谷安天下科技有限公司(以下簡稱“本公司”)旗下媒體平為原著者所有。未經(jīng)本公司書面許可,任何組織和個人不得將本報告內(nèi)容作為訴訟、仲裁、傳媒所引用之證明或依據(jù),不得用于營利或用于未經(jīng)允許的其他用途。任何未經(jīng)授權(quán)的商業(yè)性使用本報告的行為均違反《中華人民共和國著作權(quán)法》及其他相關(guān)法律法規(guī)、國際條約。未經(jīng)授權(quán)或違法使用者需自行承擔(dān)由此引發(fā)的—切法律后果及相關(guān)責(zé)任,本公司將依法予以追究。免責(zé)聲明本報告僅供本公司的客戶或公司許可的特定用戶使用。本公司不會因接收人收到本報告而視其為本公司的當(dāng)然客戶。任何非本公司發(fā)布的有關(guān)本報告的摘要或節(jié)選都不代表本報告正式完整的觀點,—切須以本公司發(fā)布的本報告完整版本為準(zhǔn)。本報告中的行業(yè)數(shù)據(jù)主要為分析師市場調(diào)研、行業(yè)訪談及其他研究方法估算得來,僅供參考。因調(diào)研方法及樣本、調(diào)查資料收集范圍等的限制,本報告中的數(shù)據(jù)僅服務(wù)于當(dāng)前報告。本公司以勤勉的態(tài)度、專業(yè)的研究方法,使用合法合規(guī)的信息,獨立、客觀地出具本報告,但不保證數(shù)據(jù)的準(zhǔn)確性和完整性,本公司不對本報告的數(shù)據(jù)和觀點承擔(dān)任何法律責(zé)任。同時,本公司不保證本報告中的觀點或陳述不會發(fā)生任何變更。在不同時期,本公司可發(fā)出與本報告所載資料、意見及推測不—致的報告。本報告所包含的信息及觀點不構(gòu)成任何形式的投資建議或其他行為指引,亦未考慮特定用戶的個性化需求或投資目標(biāo)。用戶應(yīng)結(jié)合自身實際情況獨立判斷報告內(nèi)容的適用性,必要時應(yīng)尋求專業(yè)顧問意見。報告中涉及的評論、預(yù)測、圖表、指標(biāo)、理論等內(nèi)容僅供市場參與者及用戶參考,用戶需對其自主決策行為負(fù)責(zé)。本公司不對因使用本報告全部或部分內(nèi)容所產(chǎn)生的任何直接、間接、特殊及后果性損失承擔(dān)任何責(zé)任,亦不對因資料不完整、不準(zhǔn)確或存在任何重大遺漏所導(dǎo)致的任何損失負(fù)責(zé)。引言近年來,人工智能(AI)的進(jìn)展速度已遠(yuǎn)超摩爾定律,正迅速接近人類智慧的邊界。剛剛過去的2024年,GenAI產(chǎn)業(yè)迎來了前所未有的發(fā)展高峰。眾多初創(chuàng)公司投身于生成式大語言模型的研究,爭先恐后地推出生成式LLM的應(yīng)用工具、開發(fā)平臺和開源框架。在我國,通用大模型、垂類大模型、大模型服務(wù)等不同的AI產(chǎn)品也在快速推出,通義千問、豆包、Metaso、Deepseek等產(chǎn)品開始嶄露頭角。隨著GenAI的大規(guī)模推廣,AI實踐開始在多個應(yīng)用中顯現(xiàn)成效,涉及智能消費品、工業(yè)、醫(yī)學(xué)、教育、信息化、人形機器人等諸多領(lǐng)域。2025年是AI技術(shù)商業(yè)化應(yīng)用和服務(wù)模式創(chuàng)新方面的—個關(guān)鍵轉(zhuǎn)折點,這—年被業(yè)界認(rèn)定為智能體 (AIagent)商用元年。主要得益于大語言模型(LLM)的逐步成熟、對話式智能體的廣泛驗證,以及企業(yè)對自動化與目標(biāo)驅(qū)動型AI應(yīng)用的迫切需求,這些因素共同推動了AIAgent的快速普及。與此同時,AIAgent的應(yīng)用也進(jìn)—步驅(qū)動形成了AgenticAI這—新理念。在Gartner發(fā)布的《2025年十大技術(shù)趨勢》報告中,“AgenticAI”被列為2025年十大戰(zhàn)略技術(shù)之首。GenAI及AIAgent的技術(shù)進(jìn)步也推動著國內(nèi)網(wǎng)絡(luò)安全領(lǐng)域大模型步入了高速發(fā)展時期。據(jù)安全牛對產(chǎn)業(yè)的觀察,國內(nèi)主流的安全廠商正積極地在大模型安全能力上進(jìn)行布局,形成了多樣化的技術(shù)架構(gòu)和應(yīng)用模式。基于LLM訓(xùn)練的各類安全應(yīng)用模型和Agent已經(jīng)開始實際應(yīng)用,尤其是在風(fēng)險治理管理、高級威脅監(jiān)測、數(shù)據(jù)分類分級、API資產(chǎn)識別、安全運營、事件響應(yīng)等細(xì)分領(lǐng)域。隨著企業(yè)安全建設(shè)復(fù)雜度持續(xù)攀升與AI技術(shù)應(yīng)用的深度滲透,企業(yè)網(wǎng)絡(luò)安全智能化轉(zhuǎn)型已成為必然趨勢。然而,智能體技術(shù)在商業(yè)場景與安全領(lǐng)域的融合應(yīng)用,也催生新型安全風(fēng)險與治理挑戰(zhàn)。由于AIAgent作為新興技術(shù)形態(tài),用戶對其認(rèn)知尚處于早期階段,導(dǎo)致技術(shù)應(yīng)用特征難以被有效掌握。同時,AI技術(shù)本身的黑箱特性、安全缺陷等核心問題仍待突破,其中對抗樣本攻擊、提示詞注入漏洞、隱私合規(guī)風(fēng)險及自主決策失控風(fēng)險等,構(gòu)成當(dāng)前AIAgent安全防護(hù)體系中的重點威脅維度。在企業(yè)向AI轉(zhuǎn)型的關(guān)鍵時刻,如何選擇和構(gòu)建AgenticAI的安全能力,并有效地應(yīng)對AI自身的安全問題,成為當(dāng)前首席安全官們(cs0)在規(guī)劃和采用安全AI產(chǎn)品時面臨的主要障礙。了解AgenticAI自身的安全問題,及AgenticAI在網(wǎng)絡(luò)安全領(lǐng)域技術(shù)研究進(jìn)展、場景化方案和應(yīng)用實踐,對企業(yè)的首席安全官(cs0)至關(guān)重要。為幫助用戶理解AIAgent的技術(shù)特性及其潛在的安全風(fēng)險,并掌握AI技術(shù)在網(wǎng)絡(luò)安全產(chǎn)品中的應(yīng)用現(xiàn)狀,安全牛發(fā)起了《AgenticAI安全技術(shù)應(yīng)用報告》的研究項目。報告采用問卷調(diào)查、深度訪談、產(chǎn)品演示等多種研究手段,對用戶側(cè)、廠商側(cè)進(jìn)行了全面了解,并從技術(shù)、應(yīng)用、產(chǎn)業(yè)發(fā)展等方面進(jìn)行深度分析,揭示了AI及AIAgent在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用現(xiàn)狀和發(fā)展動向,旨在為企業(yè)用戶提供從傳統(tǒng)安全向AI安全轉(zhuǎn)型的決策支持。本次調(diào)研成果將以多種形式呈現(xiàn),涵蓋技術(shù)概覽、安全架構(gòu)、應(yīng)用指導(dǎo)、數(shù)據(jù)圖表、典型案例深度剖析、代表性廠商評估與推薦等,助力讀者快速了解AgenticAI的產(chǎn)業(yè)生態(tài)。n在國際政策方面。調(diào)研發(fā)現(xiàn):2023年是AI安全發(fā)展的—個重要轉(zhuǎn)折點:全球主要國家和地區(qū)政策和標(biāo)準(zhǔn)出臺的數(shù)量在2023年后都有顯著增加,同時在AI安全可信、安全評估、產(chǎn)業(yè)協(xié)同等方面提出了具有突破性的新要求,政策和監(jiān)管焦點也逐步從單純的技術(shù)追趕,轉(zhuǎn)變?yōu)閷で蟀l(fā)展與安全之間的平衡。n我國的AI安全方面。調(diào)研發(fā)現(xiàn):近兩年,我國針對AI法制治理力度在持續(xù)增強,表現(xiàn)相比美國和歐盟更為積極。但目前階段我國AI安全治理還缺乏足夠的技術(shù)積累,安全評測技術(shù)仍處于早期探索和驗證階段,相關(guān)合規(guī)要求和防護(hù)措施亦需進(jìn)—步完善。n在技術(shù)應(yīng)用方面。調(diào)研發(fā)現(xiàn):國內(nèi)網(wǎng)絡(luò)安全行業(yè)的智能化應(yīng)用水平,正在從傳統(tǒng)小模型向大模型和Agent應(yīng)用擴展,但實踐中,LLMs+小模型協(xié)同還是當(dāng)前網(wǎng)絡(luò)安全智能化的主要方式。n在產(chǎn)業(yè)格局方面。調(diào)研發(fā)現(xiàn):順應(yīng)AgenticAI的發(fā)展趨勢,網(wǎng)絡(luò)安全行業(yè)衍生了AI安全治理和AI賦能安全兩股新的安全能力,能力布局的廠商即有傳統(tǒng)的網(wǎng)絡(luò)安全廠商也有AI安全的創(chuàng)新企業(yè)。n在AI賦能安全方面。調(diào)研發(fā)現(xiàn):目前國內(nèi)網(wǎng)絡(luò)安全廠商在適用化應(yīng)用和研究方面已經(jīng)覆蓋了威脅檢測、上網(wǎng)行為管理、軟件供應(yīng)鏈安全、API安全、數(shù)據(jù)資產(chǎn)識別、安全運營、攻防對抗、威脅情報、安全知識庫等多個細(xì)分能力領(lǐng)域。其中,開發(fā)安全、安全運營、攻防對抗這三個細(xì)分領(lǐng)域受到了特別的關(guān)注。nAI大模型對軟件供應(yīng)鏈安全的影響。安全牛認(rèn)為:不僅為軟件供應(yīng)鏈安全提供了新技術(shù)支撐,也對網(wǎng)絡(luò)安全人才資源進(jìn)行了重新分配。在AgenticAI的賦能影響下,軟件供應(yīng)鏈安全市場正在迎來它的“第二春”。nAgenticAI安全技術(shù)成熟度。安全牛認(rèn)為:AgenticAI安全的迭代和收斂時間相比其它安全技術(shù)會更短,預(yù)計將會在2年內(nèi)進(jìn)入規(guī)模化落地應(yīng)用高峰期,5年左右市場將進(jìn)入穩(wěn)定增長階段。nAgenticAI安全的未來趨勢。安全牛認(rèn)為:以Agents為核心的交付模式將會為企業(yè)帶來新的網(wǎng)絡(luò)安全構(gòu)建方式,AgenticAI將推動“被動防御”向“主動防御”轉(zhuǎn)變。與此同時,傳統(tǒng)網(wǎng)絡(luò)安全產(chǎn)業(yè)生態(tài)系統(tǒng)也將經(jīng)歷新—輪重構(gòu)。 31.1AgenticAI概念與發(fā)展現(xiàn)狀 3 7 81.4AgenticAI的典型行業(yè)應(yīng)用 1.5國內(nèi)外政策及標(biāo)準(zhǔn)化進(jìn)展 2.1應(yīng)用價值分析 2.2網(wǎng)絡(luò)安全升級的必要性 32 3.1傳統(tǒng)網(wǎng)絡(luò)安全威脅模型 3.2行業(yè)組織的AgenticAI風(fēng)險研究 3.3安全牛的AgenticAI風(fēng)險研究 433.4典型風(fēng)險分析 4.1AgenticAI安全理念 4.2AgenticAI系統(tǒng)安全管控框架 4.3AgenticAI賦能安全實現(xiàn)框架 5.1AgenticAI系統(tǒng)安全實施原則 5.2AgenticAI系統(tǒng)安全防護(hù)實施方法 5.3AgenticAI賦能安全的基本原則 6.1網(wǎng)絡(luò)安全用戶調(diào)研 6.2國內(nèi)產(chǎn)業(yè)能力分析 7.1政策方面 997.2市場方面 7.3應(yīng)用方面 8.1國外代表性安全廠商及相關(guān)產(chǎn)品 8.2國內(nèi)代表性安全廠商及相關(guān)產(chǎn)品 9.1綠盟科技:AI安全賦能平臺助力金融企業(yè)構(gòu)建智能化安全防護(hù)新生態(tài) 9.2奇安信:Q-GPT安全機器人助力實戰(zhàn)攻防 9.3Darktrace:ActiveAI保護(hù)某市數(shù)字基礎(chǔ)設(shè)施的應(yīng)用案例 附表1:AgenticAI與傳統(tǒng)AI區(qū)別和聯(lián)系分析附表2:AI特征分析參考文獻(xiàn)3第-章AgenticAI概述隨著大語言模型的技術(shù)突破,AI發(fā)展開始從單—文字生成向文生視頻、多模態(tài)、推理模型、世界模型、具身智能等更多元領(lǐng)域深度發(fā)展。特別是在智能體(Agent)技術(shù)的驅(qū)動下,AI與行業(yè)場景的融合進(jìn)入了新階段,催生了豐富的創(chuàng)新實踐與應(yīng)用形態(tài)。各種新型智能體產(chǎn)品接連不斷地涌現(xiàn),助力各領(lǐng)域的智能化轉(zhuǎn)型,同時以AgenticAI為核心的智能化產(chǎn)業(yè)生態(tài)開始形成。本章節(jié)從發(fā)展背景、概念、技術(shù)特點、典型應(yīng)用方面對AgenticAI展開說明。AgenticAISystem(智能體AI系統(tǒng),簡稱AgenticAI)是能夠理解目標(biāo),并能通過感知、推理進(jìn)行決策和行動,進(jìn)而實現(xiàn)特定業(yè)務(wù)目標(biāo)的—類智能系統(tǒng)。它包括大模型和智能體(Agent)兩個主要組件,其中Agent能通過編排與其他代理協(xié)同,自主地進(jìn)行推理和決策并完成更復(fù)雜的任務(wù)。智能體(Agent)應(yīng)用的發(fā)展日新月異,當(dāng)前國內(nèi)外的典型智能體應(yīng)用,可以分為以下幾種類型:基礎(chǔ)模型增強的研究型智能體、全流程軟件開發(fā)智能體、任務(wù)自動化與工作流智能體、具身智能體/機器人智能體、智能體框架與平臺?；A(chǔ)模型增強的研究型智能體是基礎(chǔ)模型原生的Agentic能力,側(cè)重基礎(chǔ)大語言模型(LLM)底層架構(gòu)創(chuàng)新,能支持科研級任務(wù)驗證。代表性產(chǎn)品有:0penAIDeepResearch、GoogleGeminiResearch、4全流程軟件開發(fā)智能體覆蓋軟件開發(fā)生命周期全流程,支持跨語言/框架自動化,并具備復(fù)雜項目架構(gòu)設(shè)計能力,在軟件開發(fā)中可以實現(xiàn)需求文檔到可運行程序的完整交付。代表性產(chǎn)品有:DevinAI、cursor、cline、PerforceHelixAI。任務(wù)自動化與工作流智能體聚焦重復(fù)性數(shù)字任務(wù)自動化,具備低代碼/無代碼流程編排及用戶自定義規(guī)則的能力。該類智能體應(yīng)用非常廣泛,能幫助用戶實現(xiàn)各種靈活的流程化業(yè)務(wù)。代表性產(chǎn)品有:具身智能體/機器人智能體基于虛實交互訓(xùn)練技術(shù),使機器人具備物理世界交互能力,典型應(yīng)用場景為工業(yè)制造、倉儲物流、家庭服務(wù)、醫(yī)療手術(shù)等。代表性產(chǎn)品有:DeepMindRoboticAgent、Boston智能體框架與平臺是支持快速開發(fā)與部署的—類模塊化工具,開發(fā)者通過低代碼或API調(diào)用即可創(chuàng)建定制化智能體,能滿足原型驗證到常態(tài)化生產(chǎn)用戶的需求。代表性的開源框架如:Langchain、AutoGen、BabyAGI、0penManus;代表性的企業(yè)級平臺有salesforceEinsteinAgentPlatform、華為云ModelArtsAgentstu當(dāng)前我國熱門的智能體主要是任務(wù)自動化與工作流智能體類型。典型產(chǎn)品有:ManusAl、FlowitManusAI是—款由中國的創(chuàng)業(yè)公司Monica發(fā)布的全球首款通用型自主AI智能體產(chǎn)品。該智能體基于市場上的主流大模型,可以通過自主任務(wù)分解將復(fù)雜任務(wù)拆解為多個子任務(wù),并動態(tài)調(diào)用不同的Agent或工具來執(zhí)行每個子任務(wù),最終完成整體任務(wù)。0penManus是國內(nèi)MetaGPT團隊推出的開源復(fù)刻版Manus,旨在提供無需邀請碼的AIAgent,讓更多用戶能夠體驗類似的技術(shù)。但0penManus是開源項目,使用者需要自行部署后才能使用。AutoGLM是北京智譜華章科技股份有限公司(簡稱“智譜AI”)基于自研的GLM大模型構(gòu)建的—款專用于學(xué)術(shù)研究的自主式Agent智能體。該智能體能夠模擬人類的思維過程,根據(jù)輸入主題自動完成安卓3種部署方式,分別適配于電腦客戶端、手機客戶端和chrom/EdgeWEB瀏覽器。Flowith是由上?！页闪⒂?023年6月的初創(chuàng)公司開發(fā)的AI交互型工作流編排Agent智能體,目前最新版本是Flowith2.0。該智能體可以根據(jù)輸入內(nèi)容自動進(jìn)行分析、任務(wù)拆解、子任務(wù)執(zhí)行、流程合并等操作,執(zhí)行過程以畫布式展示,使用者可對中間流程進(jìn)行調(diào)整。此外,該智能體集成了GPT-4o、claude3.5等多款國內(nèi)外的主流大模型,支持不同大模型切換、比較、圖片/視頻、0racle等多種創(chuàng)作方式,工作模式非常靈活。使用者可以按創(chuàng)作方式和大模型類型進(jìn)行自由組合。AgentTars是由字節(jié)跳動于2025年3月開源的—款多模態(tài)AI智能體框架。該框架基于視覺解釋網(wǎng)頁內(nèi)容,能與瀏覽器、命令行和文件系統(tǒng)無縫集成,實現(xiàn)復(fù)雜任務(wù)的規(guī)劃與執(zhí)行,并能提供桌面客戶端,展示多模態(tài)元素和對話流程。AgentTars框架遵循Apache2.0開源協(xié)議,開發(fā)者可以自由定制功能模塊,適用于企業(yè)流程自動化、網(wǎng)絡(luò)安全運營“主動防御”和“智能分析”等場景。從以上列舉的智能體發(fā)展中,可以看出智能體的應(yīng)用開始多樣化,既有通用型的,也有專業(yè)型的,Agent技術(shù)已經(jīng)實現(xiàn)了從功能單—化到體系化的關(guān)鍵躍升一一通過深度融合多模態(tài)交互引擎與任務(wù)規(guī)劃系統(tǒng)。AI應(yīng)用范式正從以問答為核心的“被動服務(wù)模式”,向以目標(biāo)達(dá)成為導(dǎo)向的“智能自動化體系”加速轉(zhuǎn)型,以AgenticAI為核心的智能化產(chǎn)業(yè)生態(tài)開始形成。AgenticAI與早期各類人工智能理念既存在緊密聯(lián)系,又有著顯著區(qū)別,容易與傳統(tǒng)AI、ML/DL、RPA、LLM及AIAgent等概念混淆,以下對比進(jìn)行說明。圖2AgenticAI的演進(jìn)過程及關(guān)鍵時間點傳統(tǒng)AI:指的是早期的人工智能方法,通常依賴于預(yù)先編程的規(guī)則、符號邏輯和專家系統(tǒng)。這些系統(tǒng)在特定領(lǐng)域內(nèi)表現(xiàn)出色,但缺乏自主學(xué)習(xí)和適應(yīng)新環(huán)境的能力。AgenticAI:可以被視為傳統(tǒng)AI的進(jìn)化和延伸。它繼承了傳統(tǒng)AI中關(guān)于智能體(Agent)的概念,但更加強調(diào)智能體的自主性、目標(biāo)導(dǎo)向性和環(huán)境適應(yīng)性。AgenticAI利用更先進(jìn)的技術(shù)(如LLM、ML/DL)來實現(xiàn)更復(fù)雜的感知、決策和行動能力,不再僅僅依賴預(yù)設(shè)規(guī)則。s6ML/DL:是人工智能的—個子領(lǐng)域,專注于通過算法讓計算機從數(shù)據(jù)中學(xué)習(xí),而無需顯式編程。機器學(xué)習(xí)包括各種算法,如決策樹、支持向量機等,而深度學(xué)習(xí)是機器學(xué)習(xí)的—個分支,利用多層神經(jīng)網(wǎng)絡(luò)處理復(fù)雜數(shù)據(jù)。AgenticAI:ML/DL是AgenticAI的重要組成部分和驅(qū)動力。AgenticAI利用ML/DL技術(shù)來實現(xiàn)其感知、學(xué)習(xí)和決策能力。例如,LLM就是—種基于深度學(xué)習(xí)的模型,是AgenticAI理解和生成自然語言的關(guān)鍵。RPA是—種自動化技術(shù),通過模擬人類用戶在計算機上的操作(如點擊、輸入、復(fù)制粘貼等)來自動化重復(fù)性的、基于規(guī)則的任務(wù)。RPA通常應(yīng)用于結(jié)構(gòu)化數(shù)據(jù)的處理和預(yù)定義的流程。AgenticAI:RPA主要關(guān)注任務(wù)的自動化執(zhí)行,而AgenticAI則更側(cè)重于智能化的決策和自主行動。AgenticAI能夠處理更復(fù)雜、非結(jié)構(gòu)化的數(shù)據(jù),并在遇到變化時進(jìn)行智能調(diào)整,這超出了RPA的能力范圍。LLM是—種基于深度學(xué)習(xí)的語言模型,通過對大量文本數(shù)據(jù)進(jìn)行訓(xùn)練,具備理解和生成自然語言的能力。LLM是AgenticAI中處理語言的關(guān)鍵組件。AgenticAI:LLM是AgenticAI的核心構(gòu)建模塊之—,但AgenticAI不僅僅包含LLM。—個完整的AgenticAI系統(tǒng)還需要工具與擴展、協(xié)調(diào)決策機制、知識圖譜、推理框架等多個組件協(xié)同工作,才能實現(xiàn)自主完成復(fù)雜任務(wù)的能力。AIAgent(人工智能代理,簡稱為Agent)是能夠感知環(huán)境并采取行為實現(xiàn)特定目標(biāo)的—類智能應(yīng)用軟件(智能體)。它具備理解、規(guī)劃、記憶和使用工具的能力。Agent通過API接口調(diào)用LLM大腦的推理能力,是以LLM為大腦驅(qū)動的—種衍生品。AgenticAI:可以被認(rèn)為是“AIAgent”技術(shù)在實際應(yīng)用中的延展。它強調(diào)了智能體的自主性、目標(biāo)導(dǎo)向性和復(fù)雜問題解決能力。當(dāng)前的AgenticAI系統(tǒng)通常利用先進(jìn)的技術(shù)(如LLM、ML/DL)來實現(xiàn)更高級別的智能和自主性。7智能體通常包括以下7個核心能力:強大的基礎(chǔ)模型、規(guī)劃能力、工具使用、記憶機制、多智能體協(xié)作能力、環(huán)境交互與反饋能力、自主學(xué)習(xí)與改進(jìn)能力。圖3智能體7大核心能力l強大的基礎(chǔ)模型是提供語言理解、多模態(tài)生成、邏輯推理底座(如0penAIO3、G支撐智能體核心決策能力。l規(guī)劃能力指智能體根據(jù)當(dāng)前的環(huán)境狀態(tài)、目標(biāo)和可用資源,制定出—系列行動步驟或策略,確保能夠有效地達(dá)成預(yù)定目標(biāo)。規(guī)劃能力不僅涉及短期和長期的決策,還需要在面對不確定性、資源限制和復(fù)雜環(huán)境時進(jìn)行動態(tài)調(diào)整。規(guī)劃通常是解決問題和執(zhí)行任務(wù)的核心部分,它使得Agent能夠從—開始就設(shè)定方向,并通過—系列合理的行動來逐步實現(xiàn)目標(biāo)。l工具使用能力指智能體在執(zhí)行任務(wù)時,能夠識別、選擇并有效地使用各種工具來幫助其達(dá)成目標(biāo)的能力。這些工具可以是物理工具、數(shù)字工具、外部資源或支持性系統(tǒng)。工具使用能力使得Agent能夠擴展自身的能力,解決任務(wù)中的各種復(fù)雜問題或挑戰(zhàn)。生態(tài)中,目前形成“模型+插件”的體系 (如chatGPT插件商店支持1000+工具接入)。l記憶機制指智能體在執(zhí)行任務(wù)和與環(huán)境交互過程中,能夠存儲、更新和利用歷史經(jīng)驗、信息以及感知數(shù)據(jù)的能力。通過記憶機制,Agent能夠積累經(jīng)驗,識別規(guī)律,提高決策質(zhì)量,適應(yīng)環(huán)境變化,并在后續(xù)的任務(wù)中展示更高效的行為表現(xiàn)。記憶機制對于強化學(xué)習(xí)、任務(wù)規(guī)劃、情境推理等多種智能體行為至關(guān)重要。8l多智能體協(xié)作指多個智能體(Agents)在共享環(huán)境中,協(xié)調(diào)合作以達(dá)成共同目標(biāo)或各自獨立目標(biāo)的能力。這種能力使得多個智能體能夠通過互相協(xié)作、信息共享、資源分配以及任務(wù)分配等方式來提高整體系統(tǒng)的效率,優(yōu)化資源使用,減少時間和成本。多智能體協(xié)作通常會面臨多種挑戰(zhàn),如沖突解決、協(xié)調(diào)同步、信息不對稱等問題。目前主流的智能體協(xié)議有MCP(模型上下文協(xié)議)、ANP(Agent網(wǎng)絡(luò)協(xié)議)和A2A(Agent-Agent協(xié)議)三種。MCP主要用于規(guī)范AI模型與外部數(shù)據(jù)源、工具之間的交互方式;ANP是為分布式智能體設(shè)計的開源通信協(xié)議,旨在為智能體之間的連接、通信和協(xié)作提供標(biāo)準(zhǔn)化框架;A2A是—種開放協(xié)議,專注于智能體之間的交互和協(xié)作。l環(huán)境交互與反饋能力Agent的環(huán)境交互與反饋能力是—個不斷感知、決策、行動、反饋并根據(jù)反饋調(diào)整行為的動態(tài)過程,這使得Agent能夠在復(fù)雜的、變化的環(huán)境中持續(xù)有效地執(zhí)行任務(wù)。l自主學(xué)習(xí)與改進(jìn)能力Agent的自主學(xué)習(xí)與改進(jìn)能力是智能體能夠在沒有明確指示或外部干預(yù)的情況下,通過與環(huán)境的互動,自行獲取知識、優(yōu)化策略,并持續(xù)提高任務(wù)執(zhí)行效率的能力。自主學(xué)習(xí)的方式包括:自我監(jiān)督學(xué)習(xí)、強化學(xué)習(xí)、模型優(yōu)化與策略改進(jìn)等等。架構(gòu)上,AgenticAI系統(tǒng)通常分為核心層、協(xié)調(diào)層和接入層三層,具體由大語言模型、工具與擴展、協(xié)調(diào)決策、知識圖譜與檢索增強生成(RAG)、推理框架5個關(guān)鍵組件構(gòu)成。這些組件如同—個智能體的不同器官和系統(tǒng),相互協(xié)作,共同構(gòu)建出—個具有自主學(xué)習(xí)、決策和執(zhí)行能力的智能系統(tǒng)。它們之間的緊密集成和協(xié)同工作,使得AgenticAI能夠超越傳統(tǒng)AI的被動響應(yīng)模式,展現(xiàn)出更強大的智能和自主性。9(1)大語言模型(LLM)大語言模型(LLM)是提供語言理解、多模態(tài)生成、邏輯推理底座,在AgenticAI中扮演了至關(guān)重要的核心角色,堪比智能體的“大腦”。LLM通過對海量的自然語言數(shù)據(jù)進(jìn)行訓(xùn)練,習(xí)得了豐富的世界知識、語言規(guī)則和上下文理解能力。這使得AgenticAI能夠與人類進(jìn)行自然流暢的交流,準(zhǔn)確理解用戶提出的復(fù)雜指令、問題和意圖,并能夠生成符合語法、邏輯和上下文的自然語言回應(yīng),包括文本、代碼,甚至多模態(tài)內(nèi)容。LLM在AgenticAI中的作用遠(yuǎn)不止于簡單的語言理解和生成。它們還具備強大的上下文學(xué)習(xí)(In-contextLearning)能力,即無需進(jìn)行額外的微調(diào),僅通過在輸入提示中提供少量的示例或指令,就能學(xué)會執(zhí)行新的任務(wù)或遵循特定的格式。這種能力極大地提高了AgenticAI的靈活性和適應(yīng)性,使其能夠快速應(yīng)對各種不同的場景和需求。此外,LLM還能夠理解語言中的細(xì)微差別、隱含意義和情感色彩,這對于AgenticAI與人類進(jìn)行更深層次的交互至關(guān)重要。例如,AgenticAI能夠識別用戶話語中的不滿情緒,并采取更具同理心的回應(yīng)。更重要的是,LLM作為AgenticAI的知識底座,存儲了大量的世界知識,能夠為后續(xù)的決策、推理和任務(wù)執(zhí)行提供必要的背景信息。它們不僅是信息的載體,更是連接不同信息片段、進(jìn)行初步推理和生成假設(shè)的基礎(chǔ)。因此,—個強大且富有洞察力的LLM是構(gòu)建高效AgenticAI系統(tǒng)的基石。(2)擴展工具AgenticAI僅憑語言能力往往無法完成所有任務(wù),它需要與外部世界進(jìn)行交互,獲取額外的資源和執(zhí)行具體的操作。因此,集成各種工具和擴展對于增強AgenticAI的功能和交互能力至關(guān)重要,這相當(dāng)于智能體的“手IO腳”和“感官”。這些工具和擴展涵蓋了廣泛的功能,包括:數(shù)據(jù)存儲系統(tǒng):用于存儲和檢索AgenticAI運行過程中產(chǎn)生的各種數(shù)據(jù),例如用戶偏好、任務(wù)歷史、中間結(jié)果等。API接口:允許AgenticAI與其他軟件系統(tǒng)和服務(wù)進(jìn)行交互,例如訪問搜索引擎獲取最新信息、調(diào)用日歷API安排日程、連接數(shù)據(jù)庫查詢數(shù)據(jù)、使用地圖服務(wù)規(guī)劃路線等。傳感器模塊:在物理世界應(yīng)用中,例如機器人或物聯(lián)網(wǎng)設(shè)備,傳感器可以感知環(huán)境信息,例如圖像、聲音、溫度、濕度等,并將這些信息傳遞給AgenticAI進(jìn)行處理和決策。執(zhí)行器:用于執(zhí)行AgenticAI的決策,例如控制機械臂進(jìn)行操作、發(fā)送電子郵件、發(fā)布社交媒體消息等。特定領(lǐng)域的工具:例如,用于代碼生成的代碼解釋器、用于數(shù)據(jù)分析的Python庫、用于圖像處理的視覺模型等。通過調(diào)用這些外部工具,AgenticAI能夠突破自身的知識和能力邊界,獲取更廣泛的信息資源,執(zhí)行更復(fù)雜的任務(wù),并與現(xiàn)實世界進(jìn)行有效的互動。工具和擴展的選擇和集成策略直接影響著AgenticAI能夠解決問題的范圍和效率?！獋€設(shè)計良好的工具生態(tài)系統(tǒng)能夠極大地提升AgenticAI的實用性和通用性。(3)協(xié)調(diào)決策協(xié)調(diào)決策層是AgenticAI的“指揮中心”,負(fù)責(zé)規(guī)劃、決策和任務(wù)執(zhí)行的整個流程。它接收來自語言模型對用戶指令的理解以及來自工具模塊獲取的信息,并結(jié)合自身的知識庫和預(yù)設(shè)的規(guī)則系統(tǒng),制定出合理的行動計劃。這個過程類似于人類解決問題時的思考和規(guī)劃過程。在任務(wù)分解過程中,協(xié)調(diào)層會將用戶提出的復(fù)雜任務(wù)拆解為—系列更小、更易于執(zhí)行的子任務(wù),并根據(jù)任務(wù)之間的依賴關(guān)系和優(yōu)先級安排執(zhí)行順序。例如,當(dāng)用戶要求“預(yù)訂明天上午十點從紐約到洛杉磯的機票和酒店”時,協(xié)調(diào)層會將這個任務(wù)分解為“查詢航班信息”“篩選航班”“預(yù)訂機票”“查詢酒店信息”“篩選酒店”“預(yù)訂酒店”等子任務(wù),并按照合理的順序執(zhí)行。協(xié)調(diào)層還需要負(fù)責(zé)選擇合適的工具來完成每個子任務(wù),并管理工具的調(diào)用和執(zhí)行過程。它需要監(jiān)控任務(wù)的執(zhí)行狀態(tài),處理可能出現(xiàn)的錯誤和異常情況,并根據(jù)實際情況調(diào)整執(zhí)行計劃。此外,協(xié)調(diào)層還需要負(fù)責(zé)維護(hù)任務(wù)的上下文信息,確保各個子任務(wù)之間的連貫性和—致性?！獋€高效的協(xié)調(diào)決策機制能夠確保AgenticAI能夠有效地解決復(fù)雜問題,并達(dá)成用戶設(shè)定的目標(biāo)。(4)知識圖譜和RAG知識圖譜是—種以圖形結(jié)構(gòu)表示知識的方式,它將現(xiàn)實世界中的概念(實體)及其之間的關(guān)系(邊)組織起來,形成—個龐大而互聯(lián)的知識網(wǎng)絡(luò)。知識圖譜可以幫助AgenticAI理解概念之間的語義關(guān)系,進(jìn)行更深入的邏輯推理和知識查詢。例如，通過知識圖譜，AgenticAI可以理解“蘋果”既是—種水果，也是—家科技公司的名稱，并根據(jù)上下文區(qū)分其含義。檢索增強生成(Retrieval-AugmentedGeneration，RAG)技術(shù)則是—種結(jié)合了信息檢索和文本生成的方法。當(dāng)AgenticAI需要回答問題或生成文本時，RAG首先會從組織自建的知識庫(例如知識圖譜、文檔數(shù)據(jù)庫等)中檢索出與當(dāng)前任務(wù)相關(guān)的知識片段，然后將這些知識片段作為上下文信息輸入到語言模型中，指導(dǎo)語言模型生成更準(zhǔn)確、更可靠的答案或文本。RAG技術(shù)有效地解決了傳統(tǒng)生成式模型可能存在的知識不足、容易產(chǎn)生幻覺(生成不真實的信息)等問題，顯著增強了生成式模型的準(zhǔn)確性和可靠性。知識圖譜和RAG的結(jié)合，使得AgenticAI不僅擁有龐大的知識儲備，還能夠高效地檢索和利用這些知識，從而提供更智能、更可靠的服務(wù)。(5)推理框架推理框架是AgenticAI實現(xiàn)高級推理和復(fù)雜決策的關(guān)鍵組成部分，它們?yōu)橹悄荏w提供了模擬人類思維過程的能力，使其能夠進(jìn)行多步推理、規(guī)劃和解決復(fù)雜問題，相當(dāng)于智能體的“思考引擎”。常見的推理框架包括:ReAct(Reasoning+Acting)這種首先進(jìn)行推理，思考下—步應(yīng)該采取什么行動，然后執(zhí)行該行動，觀察環(huán)境的變化，并根據(jù)觀察結(jié)果進(jìn)行下—步的推理和行動。這種交替的推理和行動過程使得AgenticAI能夠逐步解決復(fù)雜問題，并在遇到困難時進(jìn)行反思和調(diào)整。CoT(ChainofThought)鏈?zhǔn)剿伎际恰N通過逐步生成中間推理步驟來解決復(fù)雜問題的推理方法。AgenticAI在生成最終答案之前，會先生成—系列相關(guān)的思考步驟，解釋其推理過程。這有助于提高答案的合理性和可解釋性，并使得AgenticAI能夠處理需要多步邏輯推理的問題。ToT(TreeofThoughts)樹狀思考是—種更高級的推理框架，它允許AgenticAI在解決問題時探索多個不同的思考路徑。AgenticAI會生成多個可能的下—步思考方向(形成—個“思考樹”)，并對每個方向進(jìn)行評估。然后，它會選擇最有希望的思考路徑繼續(xù)探索，直到找到最終的解決方案。ToT框架能夠幫助AgenticAI解決更具挑戰(zhàn)性和開放性的問題，并提高其創(chuàng)新能力。這些組件是AgenticAI具備自主決策、環(huán)境適應(yīng)和目標(biāo)導(dǎo)向的主要支撐能力。這使得AgenticAI能夠在復(fù)雜、多變的環(huán)境中完成更具挑戰(zhàn)性的任務(wù)。AgenticAI能夠主動地解決問題，適應(yīng)變化，并根據(jù)環(huán)境和目標(biāo)進(jìn)行自我調(diào)整，正在各個領(lǐng)域展現(xiàn)出巨大的潛力，應(yīng)用非常廣泛。典型應(yīng)用場景包括個人助理、企業(yè)智運營、教育、醫(yī)療、科研和創(chuàng)新、網(wǎng)絡(luò)與信息安全及新興領(lǐng)域。本章節(jié)將具體闡述AgenticAI在個人助理、企業(yè)智運營、教育、醫(yī)療、科研和創(chuàng)新、新興領(lǐng)域六個主要領(lǐng)域的應(yīng)用現(xiàn)狀，網(wǎng)絡(luò)與信息安全的應(yīng)用參考第二章。I2圖5AgenticAI典型行業(yè)應(yīng)用(1)個人智能助理個人智能助理是AgenticAI最直接和最貼近用戶的應(yīng)用領(lǐng)域之—。未來的個人助理將遠(yuǎn)不止于簡單的語音助手或任務(wù)提醒工具,它們將成為用戶生活和工作的智能伙伴。l智能日程規(guī)劃與管理:AgenticAI能夠深度理解用戶的日程安排、工作習(xí)慣和個人偏好,實現(xiàn)高度智能化的日程管理。它不僅可以根據(jù)用戶的會議邀請、出行計劃和待辦事項自動安排日程,還能主動識別潛在的時間沖突并提出優(yōu)化建議。l個性化內(nèi)容篩選與整合:在信息爆炸的時代,如何高效地獲取所需信息至關(guān)重要。AgenticAI能夠深入分析用戶的興趣、偏好、歷史行為和當(dāng)前需求,從海量信息中精準(zhǔn)地推薦用戶可能感興趣的內(nèi)容,例如新聞、文章、視頻、音樂、商品等。同時,AgenticAI能夠自動收集、整合和分析來自不同渠道的信息,提取關(guān)鍵信息并生成簡潔明了的摘要。這可以極大地節(jié)省用戶的時間和精力,幫助他們快速了解重要的信息。l自適應(yīng)學(xué)習(xí)用戶偏好:AgenticAI能夠通過與用戶的持續(xù)互動和對用戶行為的觀察,不斷學(xué)習(xí)和理解用戶的偏好。它能夠記住用戶的習(xí)慣、喜好、工作流程和決策模式,并在未來的交互中更好地滿足用戶的需求。這種自適應(yīng)學(xué)習(xí)的能力使得個人智能助理能夠越來越貼近用戶的個性化需求,提供更加精I(xiàn)3準(zhǔn)和高效的服務(wù)。l復(fù)雜任務(wù)的自主執(zhí)行:AgenticAI不僅能夠幫助用戶管理信息和安排日程,還能自主執(zhí)行復(fù)雜的任務(wù)。用戶只需要向AI助理發(fā)出高級別的指令,AI助理就能將其分解為—系列可執(zhí)行的子任務(wù),并自主地完成這些任務(wù)。(2)企業(yè)智能解決方案AgenticAI在企業(yè)級應(yīng)用中展現(xiàn)出巨大的潛力,能夠幫助企業(yè)提高運營效率、優(yōu)化決策流程、提升客戶體驗并創(chuàng)造新的商業(yè)價值。l自動化數(shù)據(jù)分析與報告生成:企業(yè)每天產(chǎn)生海量的數(shù)據(jù),如何從這些數(shù)據(jù)中提取有價值的洞察是企業(yè)面臨的重要挑戰(zhàn)。AgenticAI能夠自主地分析各種來源的企業(yè)數(shù)據(jù),例如銷售數(shù)據(jù)、客戶數(shù)據(jù)、運營數(shù)據(jù)、財務(wù)數(shù)據(jù)等,識別數(shù)據(jù)中的模式、趨勢和異常,并自動生成詳細(xì)的報告和可視化圖表。l智能客服與對話系統(tǒng):傳統(tǒng)的客服系統(tǒng)往往需要人工干預(yù),效率較低且成本較高。AgenticAI驅(qū)動的智能客服和對話系統(tǒng)能夠理解用戶的自然語言,準(zhǔn)確識別用戶的問題和需求,并提供及時、準(zhǔn)確地解答和支持。l供應(yīng)鏈優(yōu)化與預(yù)測:供應(yīng)鏈管理是企業(yè)運營的關(guān)鍵環(huán)節(jié)。AgenticAI能夠分析供應(yīng)鏈中的各種數(shù)據(jù),例如需求預(yù)測、庫存水平、物流信息、供應(yīng)商績效等,識別潛在的瓶頸和風(fēng)險,并提出優(yōu)化建議。l市場趨勢分析與決策支持:了解市場趨勢是企業(yè)制定戰(zhàn)略決策的關(guān)鍵。AgenticAI能夠收集和分析來自各種渠道的市場信息,例如行業(yè)報告、新聞資訊、社交媒體數(shù)據(jù)、競爭對手動態(tài)等,識別新興的市場趨勢和潛在的機遇,并為企業(yè)提供決策支持。(3)智能教育系統(tǒng)AgenticAI正在深刻地改變著教育領(lǐng)域,使得個性化、自適應(yīng)的學(xué)習(xí)成為可能。l自適應(yīng)個性化學(xué)習(xí)路徑:傳統(tǒng)的教育模式往往采用統(tǒng)—的教學(xué)內(nèi)容和進(jìn)度,難以滿足不同學(xué)生的學(xué)習(xí)需求和節(jié)奏。AgenticAI能夠根據(jù)每個學(xué)生的學(xué)習(xí)基礎(chǔ)、興趣、學(xué)習(xí)風(fēng)格和目標(biāo),動態(tài)地調(diào)整學(xué)習(xí)內(nèi)容、難度和進(jìn)度,構(gòu)建個性化的學(xué)習(xí)路徑。l智能學(xué)習(xí)伙伴與輔導(dǎo):AgenticAI可以作為學(xué)生的智能學(xué)習(xí)伙伴和輔導(dǎo)老師,提供實時的反饋、解答疑問和個性化的指導(dǎo)。與傳統(tǒng)的助教或輔導(dǎo)老師相比,AI學(xué)習(xí)伙伴可以隨時隨地為學(xué)生提供支持,并且能夠根據(jù)學(xué)生的學(xué)習(xí)情況進(jìn)行個性化的輔導(dǎo)。l學(xué)習(xí)進(jìn)度跟蹤與反饋:AgenticAI能夠?qū)崟r跟蹤學(xué)生的學(xué)習(xí)進(jìn)度和表現(xiàn),分析學(xué)生的學(xué)習(xí)習(xí)慣和薄弱環(huán)節(jié),并向?qū)W生和老師提供詳細(xì)的反饋報告。這有助于學(xué)生了解自己的學(xué)習(xí)情況,及時調(diào)整學(xué)習(xí)策略;也有助于老師了解學(xué)生的整體學(xué)習(xí)情況,并根據(jù)學(xué)生的反饋調(diào)整教學(xué)方法。I4l多維度學(xué)習(xí)評估:傳統(tǒng)的學(xué)習(xí)評估往往只關(guān)注學(xué)生的考試成績,難以全面反映學(xué)生的學(xué)習(xí)能力和素質(zhì)。AgenticAI能夠通過多種方式評估學(xué)生的學(xué)習(xí)情況,例如分析學(xué)生的作業(yè)、項目、參與討論的情況等,從多個維度評估學(xué)生的知識掌握程度、解決問題的能力、創(chuàng)新能力和合作能力。這有助于更全面地了解學(xué)生的學(xué)習(xí)成果,并為學(xué)生的未來發(fā)展提供更準(zhǔn)確的指導(dǎo)。(4)科研與創(chuàng)新助手AgenticAI正在成為科研人員和創(chuàng)新者的強大助手,加速科學(xué)發(fā)現(xiàn)和技術(shù)突破。l科學(xué)文獻(xiàn)檢索與總結(jié):科研人員需要查閱大量的科學(xué)文獻(xiàn)才能了解最新的研究進(jìn)展。AgenticAI能夠自動檢索各種學(xué)術(shù)數(shù)據(jù)庫和文獻(xiàn)資源,根據(jù)研究主題和關(guān)鍵詞篩選相關(guān)文獻(xiàn),并提取關(guān)鍵信息和研究結(jié)論,生成文獻(xiàn)綜述或摘要。這極大地節(jié)省了科研人員查閱文獻(xiàn)的時間和精力,讓他們能夠更專注于研究本身。l實驗設(shè)計與參數(shù)優(yōu)化:在進(jìn)行科學(xué)實驗時,實驗設(shè)計和參數(shù)優(yōu)化至關(guān)重要。AgenticAI能夠分析已有的實驗數(shù)據(jù)和理論模型,預(yù)測不同實驗參數(shù)組合下的實驗結(jié)果,并為科研人員提供最優(yōu)的實驗設(shè)計方案和參數(shù)設(shè)置建議。這有助于提高實驗效率,降低實驗成本,并加速科學(xué)發(fā)現(xiàn)的過程。l跨領(lǐng)域知識關(guān)聯(lián)與發(fā)現(xiàn):科學(xué)研究往往需要跨領(lǐng)域的知識融合和創(chuàng)新。AgenticAI能夠分析不同學(xué)科領(lǐng)域的知識體系和研究成果,發(fā)現(xiàn)不同領(lǐng)域之間的潛在聯(lián)系和交叉點,并為科研人員提供新的研究思路和創(chuàng)新方向。這有助于打破學(xué)科壁壘,促進(jìn)跨學(xué)科的合作和創(chuàng)新。l創(chuàng)新方案生成與評估:在技術(shù)創(chuàng)新領(lǐng)域,AgenticAI能夠根據(jù)用戶提出的需求和問題,結(jié)合已有的技術(shù)知識和創(chuàng)新案例,自動生成多種可能的創(chuàng)新方案。同時,AI系統(tǒng)還可以根據(jù)預(yù)設(shè)的評估指標(biāo),對不同的創(chuàng)新方案進(jìn)行評估和比較,幫助用戶選擇最優(yōu)的方案。(5)醫(yī)療健康支持AgenticAI在醫(yī)療健康領(lǐng)域展現(xiàn)出巨大的潛力,能夠提高醫(yī)療診斷的準(zhǔn)確性、優(yōu)化治療方案、改善患者體驗并降低醫(yī)療成本。l個性化健康管理計劃:AgenticAI能夠分析個人的健康數(shù)據(jù),例如病史、生活習(xí)慣、基因信息、體檢報告等,結(jié)合最新的醫(yī)學(xué)知識和臨床指南,為用戶量身定制個性化的健康管理計劃。l醫(yī)療文獻(xiàn)解讀與診斷輔助:醫(yī)生需要查閱大量的醫(yī)學(xué)文獻(xiàn)才能了解最新的疾病診斷和治療方法。AgenticAI能夠快速檢索和分析醫(yī)學(xué)文獻(xiàn),提取關(guān)鍵信息和研究結(jié)論,并為醫(yī)生提供診斷和治療建議。l患者監(jiān)測與異常預(yù)警:AgenticAI能夠?qū)崟r監(jiān)測患者的生理指標(biāo),例如心率、血壓、血糖、體溫等,當(dāng)出現(xiàn)異常情況時,例如心率過快或過慢、血壓過高等,AI系統(tǒng)會立即發(fā)出預(yù)警,提醒醫(yī)護(hù)人員及時采取干預(yù)措施。l5l遠(yuǎn)程醫(yī)療協(xié)作支持:AgenticAI能夠支持遠(yuǎn)程醫(yī)療的開展,例如遠(yuǎn)程會診、遠(yuǎn)程監(jiān)護(hù)、遠(yuǎn)程康復(fù)指導(dǎo)等。AI系統(tǒng)可以幫助醫(yī)生收集患者的病情信息,進(jìn)行初步的診斷和評估,并協(xié)助專家進(jìn)行遠(yuǎn)程會診。這有助于提高醫(yī)療服務(wù)的可及性,尤其是在偏遠(yuǎn)地區(qū)或醫(yī)療資源匱乏的地區(qū)。(6)AgenticAI在新興領(lǐng)域的應(yīng)用AgenticAI作為—種具備感知和決策能力的智能工具,正在引領(lǐng)著—場前所未有的科技革命。它能夠深入到人類無法觸及的領(lǐng)域,通過智能化的手段實現(xiàn)新興領(lǐng)域的科學(xué)探索和創(chuàng)新應(yīng)用。這種智能工具的應(yīng)用范圍廣泛,涵蓋了多個前沿科技領(lǐng)域。l在元宇宙領(lǐng)域,AgenticAI可以構(gòu)建出逼真的虛擬世界,為用戶提供沉浸式的體驗。通過智能感知和決策能力,AgenticAI可以根據(jù)用戶的行為和偏好,動態(tài)調(diào)整虛擬世界的場景和元素,從而實現(xiàn)更加個性化的體驗。這種技術(shù)在游戲、教育、娛樂等領(lǐng)域有著廣泛的應(yīng)用前景;l在生物科學(xué)領(lǐng)域,AgenticAI可以通過智能化的手段,對生物體進(jìn)行精準(zhǔn)的分析和預(yù)測。它可以幫助科學(xué)家們更好地理解生物體的結(jié)構(gòu)和功能,從而推動生物醫(yī)學(xué)研究的發(fā)展;在醫(yī)療健康領(lǐng)域,AgenticAI可以通過智能化的手段,對患者的病情進(jìn)行精準(zhǔn)的診斷和治療。它可以幫助醫(yī)生們更加準(zhǔn)確地判斷患者的病情,從而制定更加有效的治療方案;l在人形機器人領(lǐng)域,AgenticAI可以實現(xiàn)更加智能化的機器人控制和交互。它可以幫助機器人更加準(zhǔn)確地理解人類的意圖和需求,從而實現(xiàn)更加自然的交互和協(xié)作。這種技術(shù)在工業(yè)制造、家庭服務(wù)等領(lǐng)域有著廣泛的應(yīng)用前景?？偠灾?AgenticAI正在以前所未有的速度和廣度滲透到我們生活的各個方面,并在個人生活、企業(yè)運營、教育、安全、科研和醫(yī)療健康等領(lǐng)域展現(xiàn)出巨大的應(yīng)用價值和發(fā)展?jié)摿ΑｋS著技術(shù)的不斷進(jìn)步,我們有理由相信,AgenticAI將在未來發(fā)揮越來越重要的作用,為人類社會帶來更加智能、高效和便捷的生活體驗。在AI發(fā)展政策和標(biāo)準(zhǔn)化方面,影響較大的地區(qū)主要是:中國、美國、歐盟。從發(fā)展趨勢來看,2023年是個重要分水嶺,AI政策和標(biāo)準(zhǔn)出臺的數(shù)量在2023年后出現(xiàn)大幅增長,同時在AI安全可信、安全評估、產(chǎn)業(yè)協(xié)同等方面提出突破性要求,政策和監(jiān)管重心也逐漸從側(cè)重技術(shù)追趕轉(zhuǎn)向發(fā)展與安全平衡。本章節(jié)比較美國、歐盟和中國在人工智能領(lǐng)域的政策驅(qū)動與安全治理進(jìn)展,并對其發(fā)展過程展開說明。I6圖6代表性國家和地區(qū)的政策及標(biāo)準(zhǔn)1.5.1美國在美國,聯(lián)邦立法是美國的最高法,旗下以州立法、國家職能部門出臺的框架、標(biāo)準(zhǔn)為主。美國的AI政策驅(qū)動力在2021年前后的表現(xiàn)相對激進(jìn)?！秶胰斯ぶ悄艹h法案》是美國國家層面驅(qū)動AI技術(shù)發(fā)展的重要文件之—,特別是ChatGPT應(yīng)用推廣之后,美國更是將AI作為國家級戰(zhàn)略開始全球化布局。在推動AI發(fā)展的同時,美國也高度重視AI自身的安全和可依賴問題,旨在通過—系列法規(guī)和標(biāo)準(zhǔn)規(guī)避AI開發(fā)和應(yīng)用過程中的風(fēng)險,確保AI可信和負(fù)責(zé)任地發(fā)展。其中,影響較大的文件是:拜登簽署的第14110號行政令、美國國土安全部CISA發(fā)布的《人工智能路線圖》NIST發(fā)布的《人工智能風(fēng)險管理框架》及3月底剛剛發(fā)布的l7圖7美國AI安全政策與標(biāo)準(zhǔn)框架以下從政策和標(biāo)準(zhǔn)兩個方面展開說明:(1)法規(guī)和政策.2021年1月,美國聯(lián)邦立法正式實施了《國家人工智能倡議法案》,該法案作為美國國防授權(quán)法案的—部分,旨在通過設(shè)立—個協(xié)調(diào)統(tǒng)籌機構(gòu)來促進(jìn)聯(lián)邦加速人工智能研究和應(yīng)用,以促進(jìn)國家經(jīng)濟繁榮和國家安全。.2021年7月,科羅拉多州州長簽署通過了《科羅拉多州S.B.169法案》,其目的是限制保險公司利用消費者數(shù)據(jù)或預(yù)測模型進(jìn)行不公平歧視。.2022年10月4日,美國白宮科技政策辦公室(0STP)發(fā)布了《人工智能權(quán)利法案藍(lán)圖》(BlueprintforanAIBillofRights),提出通過五項原則預(yù)防濫用人工智能技術(shù)帶來的風(fēng)險。.2023年9月28日,美國國家安全局(NSA)宣布將開設(shè)—個人工智能安全中心,以監(jiān)督美國國家安全系統(tǒng)中人工智能能力的開發(fā)和整合。.2023年10月,美國總統(tǒng)拜登簽署了《關(guān)于安全、可靠、可信地開發(fā)和使用人工智能的行政命令》即行政命令14110號。提出建立人工智能安全新標(biāo)準(zhǔn)、保護(hù)美國民眾隱私、提升美國在人工智能領(lǐng)域的I8國際領(lǐng)導(dǎo)力,以及確保政府負(fù)責(zé)任且有效使用人工智能等八項行動。值得關(guān)注的是,該行政命令要求開發(fā)者與美國政府共享人工智能模型的訓(xùn)練結(jié)果,為美國政府密切掌握私營部門相關(guān)技術(shù)發(fā)展進(jìn)行賦權(quán)。.2023年11月,美國國土安全部CISA發(fā)布《人工智能路線圖》,指導(dǎo)人工智能的安全開發(fā)和應(yīng)用。該路線圖提出5項重點工作,分別是:負(fù)責(zé)任地使用人工智能來支持工作、評估和測試人工智能系統(tǒng)、保護(hù)關(guān)鍵基礎(chǔ)設(shè)施防止惡意使用人工智能、加強國際合作、建設(shè)具有人工智能專業(yè)知識的人才隊伍。.2024年11月20日,美國人工智能安全研究所宣布成立AI國家安全測試風(fēng)險(TRAINS)工作組,匯集多部門專家,應(yīng)對人工智能技術(shù)帶來的國家安全問題。.2024年12月23日,美國德克薩斯州眾議院第1709號法案《負(fù)責(zé)任的人工智能治理法案》提交議會審議。旨在規(guī)范人工智能系統(tǒng),防止在就業(yè)和醫(yī)療保健等關(guān)鍵領(lǐng)域出現(xiàn)算法歧視。法案要求對高風(fēng)險的人工智能系統(tǒng)進(jìn)行年度影響評估、消費者信息披露和監(jiān)督程序,同時豁免不受法案直接監(jiān)管的中小型企業(yè)。開發(fā)者必須提供風(fēng)險評估并召回不合規(guī)的系統(tǒng)。該法案將在2025年9月正式實施。(2)標(biāo)準(zhǔn)和指南.2020年8月,美國國家標(biāo)準(zhǔn)與技術(shù)研究院(NIST)發(fā)布了NISTIR8312《可解釋人工智能的四大原則草案》,提出了可解釋人工智能的四項原則:有解釋(Explanation)、有意義(Meaningful)、準(zhǔn)確性 (Accuracy)、知識限制(knowledgeLimits)來建立對AI系統(tǒng)的信任。標(biāo)志著美國在推動可信AI發(fā)展方面邁出了重要—步。.2021年3月,NIST發(fā)布NISTIR-8332草案《信任和人工智能》,主要討論了人工智能技術(shù)的快速發(fā)展如何影響用戶對AI系統(tǒng)的信任,并提出了評估用戶信任度的方法。2022年,谷歌和微軟先后發(fā)布了《人工智能原則》和《負(fù)責(zé)任人工智能標(biāo)準(zhǔn)》,分別提出了負(fù)責(zé)任人工智能開發(fā)的原則和做法。.2023年1月,NIST正式發(fā)布NISTAI100-1《人工智能風(fēng)險管理框架1.0》(AIRMF),包括治理、映射、測量、管理4個核心內(nèi)容,旨在為人工智能系統(tǒng)設(shè)計、開發(fā)、部署和使用提供指南,幫助組織管理和應(yīng)對人工智能系統(tǒng)相關(guān)的風(fēng)險。.2023年11月,在14110號AI行政令的要求下,美國商務(wù)部在國家標(biāo)準(zhǔn)與技術(shù)研究所(NIST)內(nèi)成立了美國人工智能安全研究所(AISI)。作為人工智能風(fēng)險管理框架的配套資源,該研究所旨在研究AI系統(tǒng)風(fēng)險,驗證和評估人工智能生成的內(nèi)容,以及為評估人工智能能力制定指導(dǎo)方針和基準(zhǔn),其中包括具有國防應(yīng)用的系統(tǒng)。.2024年7月,為支持聯(lián)邦行政命令14110的執(zhí)行,NIST發(fā)布了NISTSP800-218A《生成式人工智能和雙用基礎(chǔ)模型的安全軟件開發(fā)實踐》。該指南旨在為生成式人工智能(GenerativeAI)和雙用基礎(chǔ)模型(Dual-useFoundationModels)的開發(fā)提供安全軟件開發(fā)框架的補充資源。詳細(xì)涵蓋了從數(shù)據(jù)獲取、設(shè)計、訓(xùn)練到評估和集成AI模型的整個生命周期,為AI模型和系統(tǒng)開發(fā)人員、系統(tǒng)生產(chǎn)者以及系統(tǒng)使用者提供了全面的安全實踐指導(dǎo)。I9.2024年7月29日,美國律師協(xié)會道德和專業(yè)責(zé)任常設(shè)委員會發(fā)布《關(guān)于生成式人工智能工具使用的正式意見》,為律師使用生成式人工智能工具提供指導(dǎo)和倫理規(guī)范。.2025年3月24日,美國國家標(biāo)準(zhǔn)與技術(shù)研究院(NIST)發(fā)布了最新版本的對抗性機器學(xué)習(xí)指南"NISTAI100-2e2025:AdversarialMachineLearning:ATaxoMitigations"。該文檔是對2024年1月版本的重要更新,為組織提供了識別、應(yīng)對和管理與對抗性機器學(xué)習(xí)相關(guān)風(fēng)險的全面框架。包括3個主要部分:第二部分關(guān)注預(yù)測性AI(PredAI)系統(tǒng),包括攻擊分類、主要攻擊類別(規(guī)避、投毒和隱私)以及相應(yīng)的緩解措施;第三部分關(guān)注生成式AI(GenAI)系統(tǒng),包括攻擊分類和緩解措施;文檔還包含—個術(shù)語表,以促進(jìn)對抗性機器學(xué)習(xí)概念的共同理解。此外,美國積極參與國際標(biāo)準(zhǔn)化組織(IS0)和歐洲標(biāo)準(zhǔn)化委員會(CEN)等機構(gòu)的工作。如NIST參與全球人工智能標(biāo)準(zhǔn)IS0/IECJTC1/SC42的制定;美國網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施安全局(CISA)與其他國家合作發(fā)布了《AI系統(tǒng)安全開發(fā)準(zhǔn)則》,提出了設(shè)計安全、默認(rèn)安全等四大監(jiān)管要求。歐盟是典型的垂直立法的地區(qū)。相對推動AI技術(shù)應(yīng)用,歐盟政策上更關(guān)注AI引入的安全問題,并積極引導(dǎo)人工智能朝向法律合規(guī)、倫理健康的方向發(fā)展。2024年起,歐盟針對AI安全出臺的條例和法案開始頻繁,而2025年2月開始,圍繞《人工智能法案》大量發(fā)布相關(guān)的指導(dǎo)方針、實踐指南。這些指南雖無法律效力,但為企業(yè)貫徹和落實合規(guī)要求提供了重要參考。歐盟的AI監(jiān)管框架以《人工智能法案》為核心,輔以GDPR、D0RA、NIS2等法規(guī)形成多層次治理體系。具體政策、法規(guī)、實踐指南的發(fā)布情況如下:(1)2018年5月25日,歐盟《通用數(shù)據(jù)保護(hù)條例(GDPR)》生效。該條例不是專門針對AI的法規(guī),但通過規(guī)范個人數(shù)據(jù)處理間接影響AI開發(fā),例如要求算法透明性、數(shù)據(jù)最小化原則等。(2)2024年2月17日,《數(shù)字服務(wù)法(DigitalServicesAct,DSA)》生效。法規(guī)要求平臺對AI生成內(nèi)容進(jìn)行風(fēng)險管控,限制深度偽造等高風(fēng)險應(yīng)用,與AI安全治理形成互補。(3)2024年10月,《網(wǎng)絡(luò)安全與信息化指令(NIS2)》生效。要求AI基礎(chǔ)設(shè)施運營商加強安全防護(hù),防范網(wǎng)絡(luò)攻擊和數(shù)據(jù)泄露。(4)2024年8月1日,《人工智能法案(AIAct)》正式生效,成為全球首部全面監(jiān)管AI的法律框架。核心內(nèi)容包括禁止性AI應(yīng)用、高風(fēng)險AI監(jiān)管、罰款機制、例外情形等內(nèi)容進(jìn)行了定義。根據(jù)計劃,該框架分階段發(fā)布和實施,2027年8月法案所有條款將會全面實施。截至目前的實施進(jìn)展與計劃如下:2025年2月2日,關(guān)于人工智能素養(yǎng)和禁止人工智能用途的規(guī)定已經(jīng)生效。其中,禁止人工智能條款,明確禁止“不可接受風(fēng)險”的AI應(yīng)用,包括:有害操縱和欺騙技術(shù)、利用脆弱性進(jìn)行有害剝削、社會評分、個人犯罪風(fēng)險評估和預(yù)測、未經(jīng)許可抓取面面圖像、情感識別、生物識別分類、執(zhí)法目的的實時遠(yuǎn)程生物識別(RBI)系統(tǒng)。為指導(dǎo)企業(yè)實施《人工智能法案》,2月2日荷蘭數(shù)據(jù)保護(hù)局積極推出了《AI素養(yǎng)實踐指南》;2月5日,進(jìn)—步發(fā)表了《禁止人工智能指南》,細(xì)化禁止性行為的判定標(biāo)準(zhǔn)(如潛意識操控、歧視性算法的界定等),為實施AI合規(guī)提供了有效指導(dǎo);2025年8月,通用人工智能(GPAI)模型透明度要求生效,歐盟委員會將發(fā)布行為準(zhǔn)則并啟動執(zhí)法;2026年8月,高風(fēng)險AI系統(tǒng)(如醫(yī)療、執(zhí)法領(lǐng)域)的全面監(jiān)管義務(wù)生效。1.5.3中國中國政府高度重視人工智能技術(shù)發(fā)展,2017年人工智能首次被寫入《政府工作報告》,2024年《政府工作報告》正式提出推行“AI+”。意味著人工智能要深度融入國民經(jīng)濟的各個角落,與傳統(tǒng)產(chǎn)業(yè)實現(xiàn)全方位、深層次的融合。安全方面,《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》以及《中華人民共和國個人信息保護(hù)法》作為我國網(wǎng)絡(luò)安全領(lǐng)域的基礎(chǔ)法規(guī),同樣也是人工智能穩(wěn)健發(fā)展的重要基礎(chǔ)保障。為進(jìn)—步應(yīng)對AI產(chǎn)業(yè)快速發(fā)展帶來的挑戰(zhàn),國家職能部門圍繞AI技術(shù)特性與產(chǎn)業(yè)需求,積極從技術(shù)規(guī)范、行業(yè)應(yīng)用等再次出臺了—系列相關(guān)政策、標(biāo)準(zhǔn),以加速并有效推進(jìn)AI市場良序發(fā)展。2023年以來,AI在國內(nèi)得到廣泛應(yīng)用,AI生態(tài)治理政策出臺相比美國和歐盟更為激進(jìn)。特別是剛剛出臺的強標(biāo)GB45438-2025《人工智能生成合成內(nèi)容標(biāo)識方法》,說明生成式人工智能發(fā)展已經(jīng)切實影響到社會活動和國家安全,也標(biāo)志著我國人工智能產(chǎn)業(yè)開始從實踐升維到法治治理階段。這—表現(xiàn)與我國國情及廣泛的AI基礎(chǔ)用戶有—定關(guān)系。2I圖8中國人工智能治理政策及標(biāo)準(zhǔn)以下從行業(yè)應(yīng)用、安全監(jiān)管、標(biāo)準(zhǔn)化及人才儲備方面分別梳理國家及職能部門出臺的政策情況。(1)人工智能發(fā)展的驅(qū)動政策2017年,人工智能首次被寫入《政府工作報告》。7月,國務(wù)院發(fā)布了《新—代人工智能發(fā)展規(guī)劃》,提出階段戰(zhàn)略目標(biāo);12月,工信部進(jìn)—步發(fā)布了《促進(jìn)新—代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃 (2018-2020年)》,推進(jìn)人工智能和制造業(yè)深度融合。2019年11月8日,國家林草局《關(guān)于促進(jìn)林業(yè)和草原人工智能發(fā)展的指導(dǎo)意見》,推動人工智能技術(shù)在林草核心業(yè)務(wù)中的應(yīng)用。2022年7月29日,科技部、教育部、工信部、交通運輸部、農(nóng)業(yè)農(nóng)村部、國家衛(wèi)健委發(fā)布了《關(guān)于加快場景創(chuàng)新以人工智能高水平應(yīng)用促進(jìn)經(jīng)濟高質(zhì)量發(fā)展的指導(dǎo)意見》,推動人工智能高水平應(yīng)用。同年12月,最高人民法院也出臺了《關(guān)于規(guī)范和加強人工智能司法應(yīng)用的意見》,規(guī)范和加強人工智能在司法領(lǐng)域的應(yīng)用。2023年10月18日,國家網(wǎng)信辦發(fā)布了《全球人工智能治理倡議》,為全球人工智能治理貢獻(xiàn)中國方案;10月20日,工信部出臺了《人形機器人創(chuàng)新發(fā)展指導(dǎo)意見》,指導(dǎo)人形機器人創(chuàng)新發(fā)展。2024年,《政府工作報告》首次提出推行“人工智能+”行動,深化人工智能應(yīng)用。6月,工業(yè)和信息化部等四部門聯(lián)合發(fā)布了《國家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南(2024版)》,加強人工智能標(biāo)準(zhǔn)化工作系統(tǒng)謀劃。2025年,《政府工作報告》進(jìn)—步提出,要持續(xù)推進(jìn)“人工智能+”行動,激發(fā)數(shù)字經(jīng)濟創(chuàng)新活力。在以“杭州六小龍”為代表的科創(chuàng)企業(yè)的努力下,中國人工智能跑出了加速度,如,Deepseek全球出圈,宇樹機器人的秧歌,快手旗下的視頻大模型“可靈”稱其在國際上的評價已超越sora。(2)AI治理和監(jiān)管政策2017年,國務(wù)院印發(fā)了《新—代人工智能發(fā)展規(guī)劃》。指出人工智能發(fā)展的不確定性帶來挑戰(zhàn),影響涵蓋就業(yè)、法律與倫理、個人隱私、國際關(guān)系等,必須高度重視人工智能可能帶來的挑戰(zhàn)。提出到2025年要初步建立人工智能倫理規(guī)范,并結(jié)合法律法規(guī)和政策體系,共同促進(jìn)人工智能安全評估和管控能力。包括,倫理道德多層次判斷結(jié)構(gòu)、人機協(xié)作的倫理框架、人工智能產(chǎn)品研發(fā)人員道德規(guī)范和行為守則、人工智能潛在危害與收益的評估、復(fù)雜場景下突發(fā)事件解決方案等。2019年2月,科技部主導(dǎo)設(shè)立了“新—代人工智能治理專業(yè)委員會”。旨在加強人工智能領(lǐng)域的法律、倫理和社會問題研究,并推動人工智能治理的國際合作。該組織,先后發(fā)布了《新—代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》《新—代人工智能倫理規(guī)范》,為人工智能的發(fā)展提供治理框架和行動指南,明確了人工智能倫理方向。2021年12月31日,國家網(wǎng)信辦、工信部、公安部、國家市場監(jiān)督管理總局下發(fā)了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》,規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動。2022年11月25日,國家網(wǎng)信辦、工信部、公安部發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,規(guī)范深度合成管理服務(wù)。2023年7月10日,國家網(wǎng)信辦、國家發(fā)展改革委、教育部、科學(xué)技術(shù)部、工信部、公安部、國家廣電總局《生成式人工智能服務(wù)管理暫行辦法》,規(guī)范生成式人工智能服務(wù)。2025年3月7日,公安部等四部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》(簡稱“辦法”),自2025年9月1日起施行。《辦法》明確標(biāo)識類型,規(guī)定服務(wù)提供者的標(biāo)識義務(wù)、責(zé)任及違反的處罰措施。旨在促進(jìn)人工智能健康發(fā)展,規(guī)范人工智能生成合成內(nèi)容標(biāo)識,保護(hù)公民、法人和其他組織合法權(quán)益,維護(hù)社會公共利益。2025年3月29日,《人工智能示范法3.0》(簡稱“示范法”)發(fā)布。該文件由社會科學(xué)院法學(xué)研究所牽頭起草,2023年8月首次發(fā)布V1.0版本。示范法明確人工智能定義及使用基本原則,強調(diào)公開透明可解釋、可問責(zé)、倫理優(yōu)先等原則。旨在為人工智能的立法和治理提供參考框架,推動人工智能技術(shù)的健康發(fā)展,同時防范潛在風(fēng)險。(3)標(biāo)準(zhǔn)和技術(shù)要求2020年7月,國家標(biāo)準(zhǔn)委、中央網(wǎng)信辦、發(fā)展改革委、科技部、工業(yè)和信息化部聯(lián)合印發(fā)了《國家新—代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》。形成了標(biāo)準(zhǔn)支撐人工智能高質(zhì)量發(fā)展新格局。2023年4月30日,全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會(SAC/TC260)正式發(fā)布了國家標(biāo)準(zhǔn)《信息安全技術(shù)人工智能計算平臺安全框架》。標(biāo)準(zhǔn)規(guī)范了人工智能計算平臺安全功能、安全機制、安全模塊以及服務(wù)接口,為人工智能計算平臺的安全設(shè)計與實施提供了重要參考,標(biāo)志著中國在人工智能安全標(biāo)準(zhǔn)化領(lǐng)域邁出了重要—步。2024年3月,人工智能安全國家標(biāo)準(zhǔn)GB/T42888-2023《信息安全技術(shù)機器學(xué)習(xí)算法安全評估規(guī)范》正式發(fā)布。規(guī)定了機器學(xué)習(xí)算法技術(shù)在生存周期各階段的安全要求,以及應(yīng)用機器學(xué)習(xí)算法技術(shù)提供服務(wù)時的安全要求,并給出了對應(yīng)評估方法。2024年4月,全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會發(fā)布《生成式人工智能服務(wù)安全基本要求》。該指導(dǎo)性文件是基于《生成式人工智能服務(wù)管理暫行辦法》的細(xì)化和補充。旨在通過規(guī)范生成式人工智能(AIGC)服務(wù)的安全管理,應(yīng)對生成式人工智能技術(shù)帶來的潛在風(fēng)險,如生成虛假信息、侵犯隱私等,并確保其合法合規(guī)性和安全性。該文件從多個維度對生成式人工智能服務(wù)的安全要求進(jìn)行了詳細(xì)規(guī)定,包括語料安全、模型安全、安全措施、安全評估等方面,為服務(wù)提供者和相關(guān)主管部門提供了明確的操作指南。2024年9月,全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會制定并發(fā)布了《人工智能安全治理框架》。該框架的發(fā)布是為貫徹落實《全球人工智能治理倡議》,為社會各界提供了清晰的指導(dǎo)藍(lán)圖和參考依據(jù),是我國在人工智能安全治理領(lǐng)域的重要進(jìn)展?！犊蚣堋诽岢隽恕鞍輰徤鳌⒋_保安全”的治理原則,強調(diào)在鼓勵創(chuàng)新的同時,嚴(yán)守安全底線。2025年2月,國家強制標(biāo)準(zhǔn)GB45438-2025《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識方法》發(fā)布 (簡稱《標(biāo)識標(biāo)準(zhǔn)》),是與《人工智能生成合成內(nèi)容標(biāo)識辦法》(簡稱《標(biāo)識辦法》)配套的強制性國家標(biāo)準(zhǔn),將于2025年9月1日與《標(biāo)識辦法》同步實施?！稑?biāo)識標(biāo)準(zhǔn)》明確了標(biāo)識分類方式及相關(guān)要求,同時也規(guī)定了管理和監(jiān)督機制及相關(guān)責(zé)任,旨在規(guī)范人工智能生成內(nèi)容的標(biāo)識方法,提升網(wǎng)絡(luò)空間的安全性和信息透明度,是我國人工智能產(chǎn)業(yè)從實踐升維到法治治理的重要—步。此外,在人才儲備方面,為給人工智能廣泛應(yīng)用提供有力支撐,國家教育部、發(fā)改委、財政部,于2020年1月發(fā)布了《關(guān)于“雙—流”建設(shè)高校促進(jìn)學(xué)科融合加快人工智能領(lǐng)域研究生培養(yǎng)的若干意見》以提升人工智能領(lǐng)域研究生培養(yǎng)水平。第二章第二章AgenticAI在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用價值第〓章AgenticAI在網(wǎng)絡(luò)安全領(lǐng)隨著數(shù)字經(jīng)濟價值的提升,網(wǎng)絡(luò)攻擊的復(fù)雜程度和頻率持續(xù)增加,傳統(tǒng)的被動式防御措施已經(jīng)無法滿足當(dāng)前的安全需求。AgenticAI以其自主學(xué)習(xí)、自主決策的優(yōu)勢,正在成為網(wǎng)絡(luò)安全領(lǐng)域的重要創(chuàng)新方向。本章節(jié)從AgenticAI賦能的網(wǎng)絡(luò)安全能力和網(wǎng)絡(luò)安全智能化升級必要性兩個方面對其在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用價值開展分析。AgenticAI憑借其自主性、適應(yīng)性和學(xué)習(xí)能力,為網(wǎng)絡(luò)安全帶來了革命性的變化。典型地體現(xiàn)為威脅檢測、自適應(yīng)防御、自動化事件響應(yīng)、漏洞修復(fù)、預(yù)測分析與態(tài)勢感知5個方面。圖9應(yīng)用價值2.1.1主動威脅檢測主動式威脅檢測是指利用先進(jìn)的技術(shù)手段,主動發(fā)現(xiàn)和預(yù)判潛在的安全威脅,從而在攻擊發(fā)生之前采取預(yù)防措施。AgenticAI的引入,為主動式威脅檢測賦予了全新的能力,使得安全系統(tǒng)能夠自主地感知環(huán)境、分析威脅并采取響應(yīng)措施。以下從威脅情報收集、未知威脅檢測、APT檢測三個方面分別闡述AgenticAI對主動式威脅檢測的價值。第二章AgenticAI在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用價值第二章AgenticAI在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用價值2s圖10AgenticAI在主動威脅檢測中的作用l在威脅情報收集方面?zhèn)鹘y(tǒng)的威脅情報收集主要依賴于人工和半自動化手段,數(shù)據(jù)來源有限,更新速度緩慢,難以及時應(yīng)對新興威脅。AgenticAI通過自主收集和多源威脅情報分析,提高了情報的廣度和深度。首先,AgenticAI通過自主學(xué)習(xí)和多線程處理能力具備較強的自主收集與分析多源威脅情報能力。能夠自主訪問開放網(wǎng)絡(luò)、暗網(wǎng)和專有數(shù)據(jù)庫,實時從全球范圍內(nèi)的多源數(shù)據(jù)收集威脅情報。收集包括惡意IP地址、域名、文件哈希值、惡意代碼樣本等在內(nèi)的威脅指標(biāo)(IndicatorsofCompromise,IoCs)。同時,利用自然語言處理(NLP)技術(shù),AgenticAI可以解析安全博客、報告和社交媒體帖子,提取有價值的威脅信息。其次,AgenticAI對情報收集的價值,還體現(xiàn)在暗網(wǎng)和非結(jié)構(gòu)化數(shù)據(jù)源的分析能力。暗網(wǎng)(Darkweb)和社交媒體等非結(jié)構(gòu)化數(shù)據(jù)源,包含了大量潛在的威脅信息,但由于數(shù)據(jù)雜亂、匿名性強,傳統(tǒng)收集手段難以深入挖掘。AgenticAI具備在復(fù)雜環(huán)境中自主導(dǎo)航和學(xué)習(xí)的能力,能夠在不觸發(fā)警報的情況下,深入暗網(wǎng)內(nèi)部,收集黑客交易、漏洞買賣等情報。此外,AgenticAI還可以分析社交媒體上的非結(jié)構(gòu)化數(shù)據(jù),如推文、帖子、評論等,識別潛在的網(wǎng)絡(luò)釣魚活動、輿情風(fēng)險和社會工程攻擊。通過情感分析和話題建模,系統(tǒng)能夠預(yù)測可能的攻擊動向,提前部署防御策第二章AgenticAI在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用價值第二章AgenticAI在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用價值l在異常行為檢測傳統(tǒng)的異常檢測主要依賴于預(yù)定義的規(guī)則和簽名庫,無法有效識別未知威脅和零日攻擊。AgenticAI通過深度學(xué)習(xí)、行為分析和自主學(xué)習(xí)的方式,有效提升了異常行為、未知威脅和零日攻擊的發(fā)現(xiàn)能力。具體來說,在網(wǎng)絡(luò)流量分析方面,AgenticAI利用時間序列分析和聚類算法,對網(wǎng)絡(luò)流量模式進(jìn)行實時監(jiān)控。當(dāng)出現(xiàn)異常的流量峰值、異常的協(xié)議使用或異常的地理位置訪問時,系統(tǒng)會觸發(fā)警報。在用戶行為方面,AgenticAI建立了用戶的行為畫像,包括登錄時間、訪問資源、操作習(xí)慣等。當(dāng)用戶的行為偏離了其正常模式,如在非常用設(shè)備上進(jìn)行敏感操作,系統(tǒng)將視為可能的賬號盜用,采取二次驗證或鎖定措施。AgenticAI在發(fā)現(xiàn)未知威脅和零日攻擊方面表現(xiàn)也非常出色。傳統(tǒng)防御由于缺乏相應(yīng)的簽名和規(guī)則難以識別零日漏洞利用。AgenticAI通過行為異常、特征異常和關(guān)聯(lián)異常的綜合分析,能夠發(fā)現(xiàn)高級攻擊者的隱蔽行為。根據(jù)某安全研究機構(gòu)的數(shù)據(jù),引入AgenticAI的異常檢測系統(tǒng)后,未知威脅的檢測率提高了35%,誤報率降低了20%。在—次實際案例中,AgenticAI成功檢測到了—次利用零日漏洞的攻擊,攻擊者試圖通過未公開的漏洞獲取系統(tǒng)權(quán)限。系統(tǒng)通過檢測異常的系統(tǒng)調(diào)用序列和進(jìn)程行為,及時發(fā)現(xiàn)并阻止了攻擊。l在高級持續(xù)性威脅(APT)防護(hù)方面AgenticAI通過多維特征分析、攻擊鏈路還原和威脅歸因,深入揭示了攻擊者的策略和手段。APT通常由國家級或組織級的攻擊者發(fā)起,具有高隱蔽性和長期性。AgenticAI通過多維特征分析和關(guān)聯(lián)分析,能對APT攻擊進(jìn)行深入挖掘并識別出跨層級的異常行為;通過自主的因果推理能力,關(guān)聯(lián)時序分析和事件,可以重建攻擊者的行動路徑,識別攻擊的入口點、傳播路徑和目標(biāo)資產(chǎn),對攻擊鏈路進(jìn)行還原;此外,AgenticAI利用自然語言處理技術(shù),通過模式匹配、語言分析和地緣特征等手段,可以分析惡意代碼中的文本字符串、注釋以及命令控制(C&C)通信中的語言特征,再結(jié)合歷史攻擊數(shù)據(jù),推斷攻擊者的可能國家或組織背景,使系統(tǒng)識別出是否屬于已知的APT組織。這能幫助政府和企業(yè)提高了對特定威脅的防范水平。未來,隨著AgenticAI技術(shù)的進(jìn)—步發(fā)展,其在網(wǎng)絡(luò)安全中的應(yīng)用將更加廣泛和深入。然而,AgenticAI的自主性也帶來了新的安全挑戰(zhàn),如算法偏見、誤判和對抗樣本攻擊等。因此,在應(yīng)用AgenticAI的同時,需要建立完善的安全風(fēng)險管控機制,確保其在網(wǎng)絡(luò)安全領(lǐng)域發(fā)揮最大的正面作用。當(dāng)前,由于網(wǎng)絡(luò)威脅的日益復(fù)雜和多樣化,傳統(tǒng)的靜態(tài)防御系統(tǒng)已無法滿足現(xiàn)代企業(yè)和組織的安全需求。能夠根據(jù)自身所處環(huán)境的變化以及所面臨的威脅情況,自動調(diào)整和優(yōu)化自身防御策略、機制和行為的智能防御體系對企業(yè)越來越重要。第二章AgenticAI在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用價值第二章AgenticAI在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用價值圖11AgenticAI在自適應(yīng)防御中的作用以下分別從動態(tài)安全策略調(diào)整、智能入侵防御系統(tǒng)、資源優(yōu)化