【數(shù)世咨詢】LLM驅(qū)動數(shù)字安全2024-AI安全系列報告

Al安全系列報告Al安全系列報告報告編號：DWC-20240507主筆分析師：靳慧超(戰(zhàn)略分析師&合伙人)報告類型：研究報告報告名稱：LLM驅(qū)動數(shù)字安全主筆分析師：靳慧超(戰(zhàn)略分析師&合伙人)報告審核：李少鵬(首席分析師&創(chuàng)始人)>本報告的研究方向聚焦于如何通過LLM(LargeLanguageModel)來賦能我國數(shù)字安全，以及怎樣應(yīng)用數(shù)字安全這一垂直領(lǐng)域的各類LLMs來切實提升我國數(shù)字安全能力。關(guān)于LLM自身的安全性，以及如何保障各類LLMs訓練和應(yīng)用的安全并不是本報告研究的方向，相關(guān)續(xù)AI安全(LLM基礎(chǔ)安全、Al治理等方向)相關(guān)研究。>本報告分析使用的相關(guān)數(shù)據(jù)(截止日期2024年4月7日)從兩方面獲取，>據(jù)數(shù)世咨詢粗略統(tǒng)計，現(xiàn)階段國內(nèi)具備LLM研發(fā)或應(yīng)用能力的數(shù)字安全供應(yīng)商有28家左右。本次入選報告的有17家，有些具備LLM相關(guān)應(yīng)用能力>本報告調(diào)研的供應(yīng)商包括兩類，一是和數(shù)世咨詢保持有效溝通的，二是通過公開信息搜尋的。如果有具備LLM相關(guān)的安全應(yīng)用能力但并未收到數(shù)世咨詢調(diào)研邀請的供應(yīng)商，歡迎聯(lián)系本報告主筆分析師(16601182683微信同號)進行交流。>具有AI研究能力。>投入了一定規(guī)模的資源，如算力、人力等。>產(chǎn)品具備商業(yè)化能力，已有真實落地或試用案例。>接受數(shù)世咨詢的調(diào)研與訪談，并承諾提供數(shù)據(jù)的真實性。安全大模型卓越能力供應(yīng)商(按品牌首字母排序)吉大正元眾智維科技AI驅(qū)動安全E6d嘗微步在線云起無垠√雖然“安全大模型”(LLM驅(qū)動的安全能力)的應(yīng)用還處在早期階段，但用戶方面已經(jīng)展現(xiàn)出較強的采購意愿。這樣的現(xiàn)狀主要來源于LLM涌現(xiàn)出的績效牽引.√LLM提升了交互性并極大的增加了可解釋性和模仿人的思維兩方面。在單純的攻防技術(shù)層面，尚未發(fā)現(xiàn)√高投入服務(wù)于高價值，現(xiàn)階段由于我國數(shù)字化程度的不充分以及安全工作價值的不直觀，高投入的LLM并不適用于所有安全場景。較高的投入產(chǎn)出比和較多的適用方向為“大模型+小模型”,即“安全調(diào)度官”。知識科普化和安全運營效率化4個方面。少量安全專項能力應(yīng)用，集中在數(shù)據(jù)分析和代碼應(yīng)用2個方面。√具備較大模型規(guī)模(大于等于60B)的“安全大模型”已經(jīng)在數(shù)據(jù)分類分級√從全球范圍來看，由于數(shù)字化建設(shè)程度和治理模式的區(qū)別，我國“安全大模型”的頭部用戶依然傾向于私有化部署方式全大模型”的資源投入、算力需求和應(yīng)用性能之間作出√現(xiàn)階段我國“安全大模型”的發(fā)展主要受制于算力資源緊張。長久來看則取決于安全法治、AI基礎(chǔ)研究和科技治理(開源、開放)的發(fā)展?！獭鞍踩竽Ｐ汀蔽磥淼陌l(fā)展方向是能解決多場景的關(guān)聯(lián)任務(wù)，即“安全指揮官”,高級形態(tài)需具備多模態(tài)和多類型安全邏輯的“安全AGI”能力。報告編號：DWC_20240507LLM驅(qū)動數(shù)字安全界格局動蕩、百年未有之大變局中，搶占AI(ArtificialIntelligence,人工智能)高地就是霸主之爭的戰(zhàn)略目標，因為AI可以讓拳頭打得更準、打得更疼。1950年，艾倫·圖靈提出了圖靈測試的概念，指出如果一個機器能夠在人類無專家系統(tǒng)、神經(jīng)網(wǎng)絡(luò)直到深度學習的興起，一次次的推動著AI浪潮。2016年，AlphaGo擊敗了圍棋世界冠軍李世石，AI一石激起千層浪引起了全球造，包括但不限于：(以下回答由“豆包”提供)列舉出列舉出AI在哪些領(lǐng)域具有顛覆性的作用AIAI在一些領(lǐng)域確實具有顛覆性的作用，可能會徹底改變?nèi)藗兊纳詈凸ぷ鞣绞健Ｒ韵率且恍┛赡苁艿街卮笥绊懙念I(lǐng)域：·自動駕駛：AI驅(qū)動的自動駕駛技術(shù)有可能改變交通運輸行業(yè)，提高交通安全和效率?！めt(yī)療保?。篈I可以輔助疾病診斷、藥物研發(fā)，甚至提供個性化的醫(yī)療方案。·金融服務(wù)：Al可以用于風險管理、信用評估和投資建議，可能改變金融行業(yè)的運作方式?！そ逃簜€性化學習、智能輔導(dǎo)和教學評估等AI應(yīng)用可能會重塑教育模式?！ぶ圃鞓I(yè)：智能工廠和自動化生產(chǎn)可能會提高制造業(yè)的效率和靈活性?！に囆g(shù)與娛樂：AI生成的內(nèi)容，如音樂、繪畫和文學作品，可能會挑戰(zhàn)傳統(tǒng)的創(chuàng)作模式。當然，這些領(lǐng)域的變革并非一蹴而就，還需要技術(shù)的進一步發(fā)展和相關(guān)法律、倫理等問題的解決。你覺得哪個領(lǐng)域的顛覆性作用最讓你感到驚訝自2022年開始，在自然語言處理領(lǐng)域中的LLM(LargeLanguageModel)的突破性進展又一次給人類帶來了巨大的沖擊。以ChatGpt3、DALL·E3、Sora為代表的研究成果使得人類距離實現(xiàn)AGI(ArtificialGeneralIntelligence,通用人工智能)報告編號：DWC_20240507第7頁共45頁的展現(xiàn)在“碳基生命”眼前。而LLM在賦能各產(chǎn)業(yè)的同時也在逐漸形成自身的產(chǎn)業(yè)生態(tài)，我國已經(jīng)在國家層面確立了LLM發(fā)展的戰(zhàn)略高度。同時，國內(nèi)文心一言、通義千問、星火、盤古、云雀、混元、360奇元、智譜清言、百川、MoonshotAI等LLM也在不斷的成長著，魔搭社區(qū)中更是展現(xiàn)出個人開發(fā)者在LLM應(yīng)用上的百花齊放?；氐綌?shù)字安全領(lǐng)域，有關(guān)LLM的研究和討論主要包含LLM安全(AI治理，AI安全防護方向)和LLM驅(qū)動安全兩類。LLM驅(qū)動安全LLM安全方面，除AI基礎(chǔ)設(shè)施、軟件供應(yīng)鏈、社會工程與現(xiàn)有數(shù)字安全技術(shù)、解決方案具有較高的匹配性外，其他方向的數(shù)字安全技術(shù)、解決方案均需根據(jù)AI工程和LLM原理進行升級以從根本上解決安全問題，才能體現(xiàn)出令人滿意的數(shù)世咨詢認為，在AI治理以及相關(guān)算法和數(shù)據(jù)安全這幾個細分賽道，未來會誕生一批以LLM研發(fā)為核心能力的新興數(shù)字安全供應(yīng)商，并且成長為傳統(tǒng)數(shù)字安LLM驅(qū)動安全方面，是數(shù)字安全供應(yīng)商創(chuàng)新能力和技術(shù)沉淀的最佳戰(zhàn)場，也是是現(xiàn)階段最具技術(shù)可行性和應(yīng)用落地性的方式.數(shù)世咨詢認為，通過LLM的賦能，可以有效提升各類安全場景中的工作效率，更為重要的是，只有LLM驅(qū)動的數(shù)字安全才能對抗利用LLM的數(shù)字威脅。作為自然語言處理領(lǐng)域的重大突破，LLM革新了人機交互、知識獲取、內(nèi)容生成方式，這些變革的產(chǎn)生，主要源于LLM新興能力的涌現(xiàn)。而數(shù)字安全也正是LLM的新興能力是在小型模型中不存在但在大型模型中出現(xiàn)的能力，這是區(qū)分LLM與以前的PLM(預(yù)訓練語言模型)最顯著的特點之一。主要表現(xiàn)為當模型規(guī)模達到一定水平時，性能顯著高于隨機情況.很多人習慣用復(fù)雜系統(tǒng)中出現(xiàn)的“涌現(xiàn)”現(xiàn)象來說明，也可以用物理學中“相變”(例如物體性狀的轉(zhuǎn)變)的概>上下文學習(In-contextLearning,ICL):在提示中為語言模型提供自然語言>指令遵循(InstructionFollowing):通過使用自然語言描述的多任務(wù)示例數(shù)據(jù)集進行微調(diào)(指令微調(diào)或監(jiān)督微調(diào)),大語言模型可以在沒有使用顯式示例的情況下按照任務(wù)指令完成新任務(wù)，有效提升了模型的泛化能力。>逐步推理(Step-by-stepReasoning):對于小型語言模型而言，通常很難解決涉及多個推理步驟的復(fù)雜任務(wù)(如數(shù)學應(yīng)用題),而大語言模型則可以利用思維鏈(Chain-of-Thought,CoT)提示策略來加強推理性能。具體來說，大語言模型可以在提示中引入任務(wù)相關(guān)的中間推理步驟來加強復(fù)雜任務(wù)的求解，從而獲得更為可靠的答案。1.2什么是數(shù)字安全大模型數(shù)世咨詢認為，“安全大模型”(LLM驅(qū)動的安全能力)是指LLM在數(shù)字安全領(lǐng)域的應(yīng)用。對于數(shù)字安全領(lǐng)域>專業(yè)能力包括：密碼學、社會工程學和攻防對抗知識，以及專業(yè)級安全數(shù)據(jù)(威脅情報、安全運營信息等)和實網(wǎng)作戰(zhàn)經(jīng)驗(實網(wǎng)攻防能力、應(yīng)急處置能力等),專業(yè)能力的強弱決定了“安全大模型”的應(yīng)用效果。>法律適應(yīng)性(亦或者人類價值觀對齊)特點：由于“安全大模型”和通用大模型在受眾(如安全運營人員)、使用范圍(如內(nèi)網(wǎng))方面的差異，在對齊調(diào)整上可以采取一些簡單粗曠的方法(例如輸入控制、敏感詞過濾等)來減少整體資源投入，在現(xiàn)階段甚至可以屏蔽非數(shù)字安全相關(guān)內(nèi)容的輸出。數(shù)字安全大模型由基礎(chǔ)能力(通用模型，提供基礎(chǔ)知識和LLM新興能力)、專業(yè)能力(安全領(lǐng)域的知識和解決問題的邏輯)、擴展能力(利用輔助工具和可視化)三方面構(gòu)成。LLM驅(qū)動數(shù)字安全安全大模型的構(gòu)成基礎(chǔ)能力專業(yè)能力能源計算模型惡意樣本安全場景信息搜集威脅監(jiān)測擴展能力攻擊路徑分析研判對于通用模型，現(xiàn)階段大部分數(shù)字安全供應(yīng)商都選擇開源LLM(LLaMa和Qwen居多),少部分規(guī)模較大的企業(yè)會完全自主訓練。對于一定規(guī)模之內(nèi)(例如10B)的LLM來說，自主訓練的模型可能在安全知識的理解和問答上具備一定優(yōu)勢，因為預(yù)訓練數(shù)據(jù)中安全數(shù)據(jù)的占比會比一般通用模型高。但模型規(guī)模較大(例如報告編號：DWC_20240507第11頁共45頁60B以上)時，因為用于預(yù)訓練的安全知識以及安全數(shù)據(jù)自身數(shù)量有限，自主訓型解決了人機交互和邏輯推理的能力問題.具備數(shù)字安全實戰(zhàn)經(jīng)驗的專家將自身對于工具使用，由于LLM知識的更新存在滯后性、分析數(shù)據(jù)缺乏實時性，要想“安全大模型”效用延伸和價值提升的核心。第2部分卓越供應(yīng)商&雷達圖由于安全大模型屬于新興技術(shù)，尤其在我國數(shù)字安全產(chǎn)業(yè)中暫未形成規(guī)模化市場，故本報告中所有市場方面的描述，是在綜合考慮了已簽單和試用項目對供應(yīng)商的影響后，加權(quán)綜合計算得出的。數(shù)世咨詢認為，對于安全大模型，現(xiàn)在是一個探索大于應(yīng)用的階段，不適合以點陣圖的方式為各供應(yīng)商排序。本報告的核心目的是向行業(yè)用戶展示安全大模型的可行性以及供應(yīng)商在各方面的能力，故通過雷達圖的形式將供應(yīng)商所涉及的安全大模型的8個方向做出展示，以供行業(yè)用戶參考。>預(yù)訓練與基礎(chǔ)模型：安全大模型對數(shù)字安全知識的儲備和理解能力。>泛化能力：安全大模型處理數(shù)字安全問題的準確性。>理論與基礎(chǔ)研究：供應(yīng)商在AI,尤其是LLM的資源投入和研發(fā)能力。>業(yè)務(wù)場景化與技術(shù)融合度：安全大模型對安全場景賦能的多樣性。>產(chǎn)品工程化：安全大模型產(chǎn)品的成熟度和客戶體驗。>市場營收：供應(yīng)商的市場執(zhí)行能力。>市場滲透度：供應(yīng)商客戶的多樣性和規(guī)模。>品牌影響力：安全大模型在行業(yè)和用戶側(cè)的認知程度。本章所有關(guān)于供應(yīng)商的展現(xiàn)順序全部根據(jù)品牌中文首字母排序，入選本次報告的數(shù)世咨詢數(shù)世咨詢w美亞帕科④360數(shù)字安全云起無垠海云安互斷-代網(wǎng)絡(luò)安全領(lǐng)軍卡亭科技2.1專項類供應(yīng)商專項類供應(yīng)商主要是指專注于某一方向，并且具備通過安全大模型提升產(chǎn)品能力的供應(yīng)商。>海云安：代碼檢測方向應(yīng)用。提升漏洞、安全隱患、隱私合規(guī)的檢測準確度與效率。>吉大正元：數(shù)據(jù)安全方向應(yīng)用。目前處于研究和試點應(yīng)用階段，重點面向關(guān)>美亞柏科：業(yè)務(wù)數(shù)據(jù)分析方向應(yīng)用。助力公安行業(yè)業(yè)務(wù)應(yīng)用，提升查詢、報>微步在線：威脅情報的融合分析與擴展方向應(yīng)用。賦能安全風險預(yù)測、研判、溯源等能力。除常規(guī)化應(yīng)用外，還是首家通過網(wǎng)信辦備(),有效促動安全知識學習主觀能動性，有助于提>云起無垠：模糊測試方向應(yīng)用。解決模糊測試使用門檻高的問題，助力模糊測試易用化，極大地提高行業(yè)用戶接受和使用度.除常規(guī)化應(yīng)用外，還是首家中國開源安全大模型(/Clouditera/SecGPT),有效促動數(shù)字安全開源領(lǐng)域發(fā)展.專項類和綜合類在8個方向上的具體指標和評分權(quán)重不同，兩種類別之間不具備比較性。分析師標簽重保專業(yè)戶，安全場景見多識廣分析師標簽重保專業(yè)戶，安全場景見多識廣數(shù)據(jù)分類分級初見成效泛化能力產(chǎn)品工程化定位明晰，應(yīng)用為先分析師標簽：分析師標簽報告編號：DWC_20240507第16頁共4分析師標簽工控安全賽道的嘗鮮者持續(xù)研究、蓄勢待發(fā)分析師標簽巨人背后的巨人智能化攻擊平臺分析師標簽國家級實網(wǎng)對抗能力“八邊形”戰(zhàn)士沒有短板的木桶分析師標簽雙滿分選手Al同事“紅衣”戰(zhàn)斗力滿格分析師標簽首家“安全大模型”商業(yè)化應(yīng)用領(lǐng)先的可視化與使用體驗客戶“遍天下”懂專業(yè)的Al客服，產(chǎn)品問題全知曉“小天”賦能全線產(chǎn)品值得期待分析師標簽專注安全運營管理持續(xù)跟進多模態(tài)分析師標簽專注安全運營管理持續(xù)跟進多模態(tài)預(yù)訓練與基礎(chǔ)模型品牌影響力理論與業(yè)務(wù)場景化與技術(shù)融合度產(chǎn)品工程化市場涉透度近化能力2.3.1360數(shù)字安全●場景問題●總體方案w360安全產(chǎn)品第三方安全產(chǎn)品用戶自建系統(tǒng)安全運營智能體框架樣本檢測工具流量還原工具情報查詢工具外部插件本地部署規(guī)劃中樞云端賦能360智腦攻防技戰(zhàn)術(shù)私有知識庫360本腦運營應(yīng)用安全知識問答應(yīng)用管理技能編排郵件識360安全大模型系統(tǒng)支持對信息安全、計算機技術(shù)、開發(fā)語言、安全產(chǎn)品手化交流。>輔助安全運營工作360安全大模型系統(tǒng)集成到安全運營工作平臺的工作流節(jié)點中，為安全運營>安全威脅情報分析360安全大模型系統(tǒng)支持對IP、域名、網(wǎng)址、樣本、證書、病毒、漏洞和惡意組織等不同類型情報的智能問答分析。>威脅溯源分析360安全大模型系統(tǒng)通過統(tǒng)一調(diào)度大模型、情報和安全產(chǎn)品的能力，實現(xiàn)對告警的溯源分析，尤其在APT組織等高階威脅溯源方面具有獨特性。>打造高端安全能力360安全大模型系統(tǒng)與已有或新建安全體系相融合，增強傳統(tǒng)安全能力，全>創(chuàng)新安全產(chǎn)品體驗360安全大模型系統(tǒng)將全面重塑安全產(chǎn)品，改變傳統(tǒng)的操作模式，給用戶帶>重塑智能安全運營體系形成一站式看見、處置、溯源、報告等智能化安全運營能力.2.3.2深信服深信服以“XDR+GPT”雙擎，結(jié)合配套的安全運營服務(wù)，幫助用戶構(gòu)建安全效果領(lǐng)先的“3+1+1”安全運營體系：基于XDR重塑3項核心能力、結(jié)合1個安全GPT深度賦能、配套1類安全運營服務(wù)，實現(xiàn)“讓實戰(zhàn)對抗更高效，讓運營工作LLM驅(qū)動數(shù)字安全能印查人機共處能力保守加件全酵型無營8(云●方案優(yōu)勢>極致降噪實：現(xiàn)海量告警95%以上的降噪效>業(yè)界率先創(chuàng)新威脅定性能力：XDR可實現(xiàn)對告警進行一鍵定性(業(yè)務(wù)誤報、普通病毒、自動化攻擊、定向攻擊),幫助用戶快速聚焦高風險的攻擊威脅.>攻擊故事線還原，構(gòu)建高質(zhì)量可視化故事線，精準還原安全事件的過程可實現(xiàn)深度上下文的聚合分析，轉(zhuǎn)換為用戶能夠理解于情境檢測分析，精準還原黑客攻擊鏈，大幅降低>AI智能檢測：聚焦高級威脅識別，檢出率達到95.7%,誤報率僅4.3%。三萬高對抗釣魚樣本測試中，檢出率達到94.8%,誤報率小于0.1%,正報樣本準確率是傳統(tǒng)防釣魚類產(chǎn)品的4倍多。>AI輔助運營：脫離高重復(fù)性的工作，聚焦高價值的創(chuàng)新，減少92%需要多次手動的運營工作、MTTD/MTTR減少85%。級響應(yīng)閉環(huán)、支持自動研判調(diào)查、思維鏈透明處置件全流程閉環(huán)約需要3小時，通過安全GPT的輔助駕駛可縮短至5-10分鐘，若進一步啟用安全GPT的智能駕駛則可控制在30s?！窈诵募夹g(shù)一致的安全效果，是XDR開放性、可生長性的關(guān)鍵技術(shù)。>AI大模型技術(shù)：利用自然語言與安全大模型進行交互，承載80%安全運營操第3部分有關(guān)市場現(xiàn)狀的調(diào)研各家供應(yīng)商在2023年下半年開始集中在用戶側(cè)進行試用，少數(shù)供應(yīng)商憑借強大雖然安全大模型的戰(zhàn)役在2023年已經(jīng)打響了第一槍，然而2024年，才是各家供在政府部門和頭部企業(yè)擁有了充足的預(yù)算，各家供應(yīng)商也在2024年紛紛推出了2024年，對于安全大模型以及通過安全大模型賦能升級的產(chǎn)品、服務(wù)，各家供應(yīng)商預(yù)估總額可以達到5.85億元人民幣的市場規(guī)模。在這其中，預(yù)估最高銷售額為1.2億，預(yù)估最低銷售額為0.1億。需要注意的是，這里并不包括有關(guān)國家主要用戶行業(yè)分布粉可以看到，運營商、監(jiān)管機構(gòu)、金融行業(yè)是現(xiàn)階段安全大模型接受度最高的3加便捷的生成相關(guān)報告等，直觀的提高了工作效率.還有1點，教育與科研行業(yè)一直是數(shù)字安全的弱需求行業(yè)，然而在安全大模型上卻成為了主力選手。從這里也可以看到，LLM在各行業(yè)的落地應(yīng)用不僅僅是一在安全大模型的主力需求用戶中，華北地區(qū)以40.6%的絕對優(yōu)勢占據(jù)首位，這與數(shù)字安全產(chǎn)業(yè)整體結(jié)構(gòu)相似。華北地區(qū)主要由監(jiān)管機構(gòu)、運營商、科技企業(yè)總部以及教育與科研機構(gòu)組成，安全大模型呈現(xiàn)出集中性需求.華南與華東位列第2和第3,華南主要集中在廣東，華東依然沿長三角地區(qū)分布。華南作為技術(shù)創(chuàng)新和商業(yè)創(chuàng)新的高地，對于安全大模型的應(yīng)用具備天然的吸引力。華東由金融行業(yè)為主，依托互聯(lián)網(wǎng)以及智能制造業(yè)形成了安全大模型的集中需求。根據(jù)數(shù)世咨詢的研究，華南和華東兩地也是未來數(shù)字安全市場規(guī)模增幅潛力最大的地方。第4部分有關(guān)能力應(yīng)用的調(diào)研現(xiàn)階段，LLM并不適用于全部安全場景或安全產(chǎn)品的賦能。一方面是因為訓練安全大模型需要極大的投入，某些場景的安全能力提升結(jié)果與資源投入不成正比，并且有些安全場景的數(shù)據(jù)還不足以訓練LLM以支撐其完成任務(wù)。還有一方面是因為LLM在不斷的進化并且我國對LLM的基礎(chǔ)研究還不夠，LLM的能力進化不是線性增長的，現(xiàn)階段的困難對于下一版本的LLM可能不值一提，雖然我國已經(jīng)有諸多本土LLM,但大部分還是根據(jù)國外開源LLM修改而來，并且能力與ChatGPT4.0依然存在一定差距，而LLM基礎(chǔ)研究的欠缺也直接導(dǎo)致了其在數(shù)字安全應(yīng)用方面的限制。數(shù)世咨詢通過調(diào)研發(fā)現(xiàn)，現(xiàn)階段的安全大模型，主要集中在5個方向?qū)Π踩芰M行賦能。這5個方向主要包括安全運營效率化、攻防對抗智能化、威脅狩獵深度化、安全知識科普化和專項能力賦能，這5個方向也得到了用戶側(cè)的廣泛認同，可以在實際生產(chǎn)環(huán)境中進行測試。代碼審計、修復(fù)數(shù)據(jù)分級分類隱私合規(guī)檢查安全知識整合、問答安全意識演練內(nèi)容生成威脅監(jiān)測安全情報關(guān)聯(lián)分析安全運營信息檢索告警解讀告警降噪告警洲源代碼、樣本分析風險評估報告自動生成智能滲透腳本生成智能漏洞挖據(jù)與修復(fù)值得注意的是，7B以上規(guī)模的安全大模型就具備解決安全問題的能力，而數(shù)據(jù)分級分類與隱私合規(guī)檢查普遍需要60B以上的模型規(guī)模才具備理解和推理業(yè)務(wù)數(shù)據(jù)的能力。這種差異主要由處理對象的不同而產(chǎn)生，安全數(shù)據(jù)分析主要為代碼，而數(shù)據(jù)安全業(yè)務(wù)主要需求對人類語言的理解，而60B以上規(guī)模的LLM才可以達到基礎(chǔ)要求?，F(xiàn)階段的安全大模型規(guī)模主要集中在7至15B、30至40B、60至70B三個區(qū)間，根據(jù)不同的安全場景匹配不同規(guī)模的安全大模型，真正做到性能與效果的平衡。與此同時，數(shù)世咨詢還發(fā)現(xiàn)了現(xiàn)階段對于安全大模型應(yīng)用的共性難點，大致可分為兩方面，一是應(yīng)用的難點，一是落地的難點。>應(yīng)用成熟度：國內(nèi)大模型技術(shù)雖然發(fā)展迅速，但與國際先進水平如OpenAI>數(shù)據(jù)可用性：盡管擁有大量安全數(shù)據(jù)，但直接適用于大模型訓練的數(shù)據(jù)比例>算力資源：訓練大模型需要巨大的算力資源，而當前GPU資源受限，導(dǎo)致>價值觀偏見：大模型可能放大或曲解訓練樣本中的偏見，需要確保生成內(nèi)容>數(shù)據(jù)安全與隱私保護：需要在保證訓練效果的同時確保數(shù)據(jù)安全性和隱私保>應(yīng)用技術(shù)成熟度：安全領(lǐng)域的應(yīng)用技術(shù)尚未成熟，存在技術(shù)和成本挑戰(zhàn)。>模型安全：需要防御惡意數(shù)據(jù)對模型可靠性和穩(wěn)定性的威脅，保護模型不被攻擊者通過詢問獲取內(nèi)部結(jié)構(gòu)和功能，提高模型魯棒性>用戶認知：部分用戶對大模型技術(shù)存在誤解，有的神化其能力，有的則低估>產(chǎn)品結(jié)合：安全大模型需要與現(xiàn)有安全產(chǎn)品深度結(jié)合，但用戶對于購買新產(chǎn)品的驅(qū)動力不足.>AI工程化能力：用戶需要具備一定的AI工程化能力，尤其是在增量訓練或>私有數(shù)據(jù)和網(wǎng)絡(luò)環(huán)境限制：企業(yè)私有數(shù)據(jù)和網(wǎng)絡(luò)環(huán)境限制導(dǎo)致無法在外網(wǎng)訓練私有數(shù)據(jù)，且難以接受SaaS化部署方案。>算力成本：算力資源昂貴，增加了企業(yè)的成本負擔。>第三方權(quán)威機構(gòu)：缺少大模型領(lǐng)域的第三方測評機構(gòu)和標準，缺乏具有公信力和號召力的聯(lián)盟組織統(tǒng)籌行業(yè)標準、規(guī)范，亟需流活動。報告編號：DWC_20240507第30頁共4第5部分創(chuàng)新與實踐案例近年來，北京銀行積極擁抱數(shù)字化轉(zhuǎn)型，致力于構(gòu)建數(shù)字銀行4.0時代，在數(shù)字化環(huán)境建設(shè)方面取得了顯著進展。在2021年年報業(yè)績說明會上，北京銀行公開表示，通過三年時間，推動北京銀行數(shù)字化轉(zhuǎn)型達到同業(yè)領(lǐng)先水平，建成國內(nèi)領(lǐng)先的數(shù)字銀行。數(shù)字化環(huán)境方面，北京銀行采取了多項舉措。首先，提出了“數(shù)字京行”戰(zhàn)略體系，并堅持以數(shù)字化轉(zhuǎn)型統(tǒng)領(lǐng)發(fā)展模式、業(yè)務(wù)結(jié)構(gòu)、客戶結(jié)構(gòu)、營運能力、管理方式等五大轉(zhuǎn)型。然后，成立了數(shù)字化轉(zhuǎn)型戰(zhàn)略委員會、金融科技委員會以及北京市首家金融企業(yè)科學技術(shù)協(xié)會，以完善數(shù)字化轉(zhuǎn)型的頂層設(shè)計。這些措施共同推動了北京銀行在數(shù)字化環(huán)境建設(shè)方面的快速發(fā)展.主營業(yè)務(wù)方面，北京銀行涵蓋了個人銀行業(yè)務(wù)、公司銀行業(yè)務(wù)、資本市場業(yè)務(wù)、國際業(yè)務(wù)和小微企業(yè)金融等五大板塊。個人銀行業(yè)務(wù)包括開戶、存取款、信用卡、個人貸款、投資理財、電子銀行等多種業(yè)務(wù)，為客戶提供全方位的金融服務(wù)。公司銀行業(yè)務(wù)則涵蓋了資金管理、貿(mào)易融資、結(jié)算清算、投資理財、企業(yè)貸款等，以滿足企業(yè)客戶的多元化金融需求。資本市場業(yè)務(wù)包括股票交易、基金銷售、債券發(fā)行、期貨交易等，為客戶提供全面的投資咨詢和交易服務(wù)。國際業(yè)務(wù)則包括進出口貿(mào)易融資、信用證業(yè)務(wù)、外匯買賣、對外投資融資等，助力客戶拓展國際市場。此外，北京銀行還致力于服務(wù)小微企業(yè)，提供小額貸款、融資租賃、小額保理、小額擔保等多種金融業(yè)務(wù)，支持小微企業(yè)的發(fā)展。北京銀行以“數(shù)字京行”戰(zhàn)略體系為引領(lǐng)，錨定數(shù)字化轉(zhuǎn)型方向，啟動數(shù)字化轉(zhuǎn)型“新三大戰(zhàn)役”,通過全面數(shù)字化賦能，實現(xiàn)規(guī)模、結(jié)構(gòu)、效益、質(zhì)量的均衡穩(wěn)健發(fā)展。具體為三步走策略：>建設(shè)并補全網(wǎng)絡(luò)安全基礎(chǔ)能力，實現(xiàn)網(wǎng)絡(luò)安全能力內(nèi)生，達到安全能力全覆采用集約化架構(gòu)，建設(shè)由多源威脅檢測、安全大數(shù)據(jù)歸集、威脅計算與智能化分析研判、安全事件自動化響應(yīng)處置組成的四級網(wǎng)絡(luò)智能化處置比例，積極探索將人工智能技術(shù)與網(wǎng)絡(luò)安全防御體系全面融合，5.1.2總體設(shè)計2023年開始，北京銀行不斷加強以大模型等AI技術(shù)為核心的新一代金融智能基礎(chǔ)能力，包括成立“金融智能化創(chuàng)新實驗室”,聚焦金融大模型體系構(gòu)建和創(chuàng)新大應(yīng)用體系，累計上線智能服務(wù)150余項，智能決策模型400余個。2024年北京銀行會進一步擴大信息源的接入，細化顆粒度，隨之而來的信息量還會增長3-5倍，安全團隊手工處理告警的壓力很大。規(guī)劃，同步建設(shè)，當前的告警處理節(jié)奏顯然會面臨極大的壓力。這就是北京銀行和奇安信合作共建QAX-GPT安全機器人的起源的各種自動化能力。再往后，還能夠?qū)W會用好AI打敗壞AI,通過QAX-GPT安全機器人打擊暗黑AI生成的虛假信息，還能夠在北京銀行全行實現(xiàn)完全個性化的安全意識文化教育和實戰(zhàn)化訓練，以及完全個性化的安全技術(shù)支持的智能服務(wù)。下圖為項目建設(shè)總體架構(gòu)：I醒北京銀行利用GPT等人工智能技術(shù)打造智能化安全運營新模式，構(gòu)建一個能夠自動化處理告警和提供智能建議的系統(tǒng)框架，提升網(wǎng)絡(luò)安全防護能力.QAX-GPT安全機器人一方面可以用大模型分析能力對海量告警進行全天候分析，另一方面可以將行內(nèi)的知識沉淀為知識庫，成為安全運營團隊的資產(chǎn)。5.1.3落地與應(yīng)用QAX-GPT安全機器人能7*24小時全天候快速研判威脅告警，并從中甄選出真實有效的威脅告警，通俗易懂地全面呈現(xiàn)詳細的解讀過程。支持查看告警的詳細智能研判信息，包括攻擊的原理分析、過程分析、結(jié)果分析、處置建議等。如對攻擊過程存疑，支持查看QAX-GPT安全機器人解讀的詳細攻擊過程和取證信息。針對威脅可進一步對機器人提問，探索與該威脅相關(guān)的詳細信息。C9AX-GPTaamLLM驅(qū)動數(shù)字安全Da 5.1.4應(yīng)用效果北京銀行為解決海量告警導(dǎo)致的告警監(jiān)控疲勞問題，創(chuàng)新性地運用GPT人工智能技術(shù)處理網(wǎng)絡(luò)安全設(shè)備產(chǎn)生的告警數(shù)據(jù)，人機配合大大超出了純?nèi)斯じ婢O(jiān)控、分析研判的工作效率。同時，QAX-GPT安全機器人研判準確率，基本達到了初級和中級網(wǎng)絡(luò)安全運營人員水平.同努力，在態(tài)勢感知平臺安全運營流程中加入Q機混編”(下圖)新模式，大幅度提升安全運營人效。全分析配門◎33338報告編號：DWC_20240507第35頁共45頁5.2360安全大模型賦能金融企業(yè)安全運營XX省XX銀行是國有大型股份制商業(yè)銀行，為全國的農(nóng)村和小微企業(yè)提供全方行業(yè)普遍存在的安全人員，尤其是高級別安全專家稀缺的問題.痛點問題，客戶提出積極擁抱人工智能技術(shù)，從“AI+安全運營”入手，解決網(wǎng)模型為“大腦”,構(gòu)建智能體框架，通過智能體框架的任務(wù)編排、指令調(diào)度、記家能力。程序生成樣本庫網(wǎng)絡(luò)空間繪圖08研序執(zhí)行反饋記Z存儲360安全智能體由360安全大模型、記憶存儲、任務(wù)編排引擎、任務(wù)生成引擎、監(jiān)督評測引擎、指令調(diào)度引擎、執(zhí)行反饋7個核心模塊組成。安全智能體通過任務(wù)。規(guī)劃中樞、判別中樞、道德中樞和記憶中樞。五大中樞>智能體配套模塊：智能體以大模型為核心，輔以“記憶存儲、任務(wù)編排引擎、>安全知識庫、安全工具庫：智能體與安全知識庫、安全工具連接起來，就像組裝一臺復(fù)雜的數(shù)字機器人一樣，讓整個數(shù)字人運任務(wù)。5.2.3落地與應(yīng)用360安全大模型系統(tǒng)支持對安全知識、產(chǎn)品操作、威脅情報、態(tài)勢報告、安全法工具。告警和事件知識·如何處置安全事件·如何處置合并告警可視化分析操作本腦如何設(shè)置常用儀表盤資產(chǎn)漏洞運營360安全大模型系統(tǒng)集成到態(tài)勢感知平臺的工作流節(jié)點中，為安全運營人員在告警研判、日志解讀、樣本分析和響應(yīng)處置等功能提供幫助。e開e人*主*360安全大模型系統(tǒng)通過調(diào)用安全知識、工具，充分發(fā)揮檢索和工具的增強能力，實現(xiàn)對告警的自動化溯源分析，尤其在APT組織等高階威脅溯源方面具有獨特5.2.4應(yīng)用效果35.3.1應(yīng)用環(huán)境與需求某國家部委的數(shù)字化環(huán)境呈現(xiàn)出高度復(fù)雜和龐大的特點，涵蓋了約300個系統(tǒng)和30種安全設(shè)備，在日常運營中產(chǎn)生了海量數(shù)據(jù)。安全部門每天需要負責處理和管理一天內(nèi)產(chǎn)生的數(shù)億條日志和數(shù)萬條安全告警。安全事件管理存在滯后發(fā)現(xiàn)、事件處理效率低下(預(yù)計耗時7~8小時以上)以及安全運維報告的編制周期過長(至少1周時間)等挑戰(zhàn)，使得該客戶對于安全運營的效率和效果有著迫切的提升需求。LLM驅(qū)動數(shù)字安全客戶需要一個統(tǒng)一的平臺，能夠整合現(xiàn)有的300多系統(tǒng)以及眾多安全設(shè)備的數(shù)天產(chǎn)生的安全告警數(shù)量大幅縮減，將平均每次安全事件的處理時間縮短至0.5小5.3.2總體設(shè)計大數(shù)據(jù)存儲第三方接口數(shù)據(jù)預(yù)處理：ETL智能層分析層教據(jù)層接入層組件層自身采集接口大數(shù)據(jù)計算安金業(yè)層深信服安全GPT建設(shè)的總體設(shè)計基于已有安全運營平臺，實現(xiàn)生成式人工智能模型的應(yīng)用升級，提升安全運營的智能化、自動化水平.>安全檢測大模型：通過對網(wǎng)絡(luò)流量的深度分析，及時發(fā)現(xiàn)潛在的安全威脅，增強代碼混淆、編碼繞過類的Oday/lday攻擊檢出能力。輔助運營大模型：基于自然語言交互的安全運營助手，快速了解漏洞數(shù)量、類型和嚴重程度等信息。在安全事件研判環(huán)節(jié)，通過按>智能運營大模型：通過智能運營大模型的部署及運行，實現(xiàn)全網(wǎng)24小時人報告編號：DWC_20240507第40頁共45頁針實時采集流量，送入安全運營平臺；經(jīng)過該系統(tǒng)的基礎(chǔ)過濾，將HT統(tǒng)一運營.將客戶安全運營平臺上的部分數(shù)據(jù)以API調(diào)用的方式按需傳輸至運營大模型，包括告警統(tǒng)計信息、事件統(tǒng)計信息、流量數(shù)據(jù)(責任人名稱、聯(lián)系方式及漏洞)。高級威脅檢測