白璐：大模型技術助力企業(yè)IT運維智能化升級

大模型助力企業(yè)IT運維智能化升級中國信息通信研究院工程師運維可觀測性能力要求》《IT基礎資源運營成熟度模型》《企業(yè)架GOGOPS全球運維大會暨XOps技術創(chuàng)新峰會2024·北京站02大模型時代背景概述03大模型在研發(fā)運營領域的應用現(xiàn)狀04大模型驅動的研發(fā)運營場景展望GOGOPS全球運維大會暨XOps技術創(chuàng)新峰會2024·北京站01新時代大運維現(xiàn)代化保障體系GOPS全球運維大會暨XOps技術創(chuàng)新峰會2024·北京站外部環(huán)境與需求變化促進運維(Ops)理念不斷演進運維的需求與環(huán)境發(fā)生巨大變化：隨著數(shù)字技術可靠性、可維護性和可擴展性將軟件工程的原則和運維的實踐結合，通過智能化、自動化、監(jiān)控、故障注入等手段提高系統(tǒng)的可靠性、可維護性可靠性、可維護性和可擴展性將軟件工程的原則和運維的實踐結合，通過智能化、自動化、監(jiān)控、故障注入等手段提高系統(tǒng)的可靠性、可維護性快速部署、持續(xù)集成、交付和部署●研發(fā)和運維是緊密協(xié)作的一體化團隊。使用自動化工具和流程實現(xiàn)快速部署、持續(xù)集成、持續(xù)交付和持續(xù)部署●●●自動化服務器配置與部署流程自動化服務器配置與部署流程●采用自動化工具和腳本減少手工操作。通過配置管理工具自動化服務器配置和部署流程，減少手工錯誤和提高一致●文檔化人工維護與更新應用程序的開發(fā)、測試、部署之后，由運維負責部署、監(jiān)控和維護。在這個階段，操作流程和文檔以人工方式維護GOGOPS全球運維大會暨XOps技術創(chuàng)新峰會2024·北京站構建新時代穩(wěn)定、高效、精細、安全的圍繞質量、成本、效率、安全5個維度；結合穩(wěn)定性、高效能、精細化、安全運維4大工程實踐，共同構建穩(wěn)定、高效、精細、安全的運維現(xiàn)代化運維現(xiàn)代化保障體系場景場景能力效率設計與開發(fā)質量保障部署發(fā)布故障預防故障觀測故障處置優(yōu)化改進SLO運營安全運營威脅感知安全監(jiān)測響應處置威脅狩獵程應用性能觀測知識庫管理效能管理安全成本質量智能運維AIOps系統(tǒng)與工具FinOps平臺工具能力研發(fā)運營大模型運維數(shù)據(jù)治理算法服務化模型工程化知識庫構建GOGOPS全球運維大會暨XOps技術創(chuàng)新峰會2024·北京站研發(fā)運營系統(tǒng)可靠性與連續(xù)性（SRE）系統(tǒng)技術更迭快、架構復雜系統(tǒng)技術更迭快、架構復雜，所以理論上說，“沒有絕對穩(wěn)定的系統(tǒng)，只有相對完善的保障體系”。本部分工作主要針對如何通過各類保障手段，最大限度確保系統(tǒng)的穩(wěn)定性.集產(chǎn)學研多方力量，聚焦信息系統(tǒng)穩(wěn)定性(STABILITY)&韌性(RESILIENCE)研究。完成技術標準4個，研究報告2個，19家機構參與過基于標準的評測工作?？蚣苋律壙蚣苋律塆OGOPS全球運維大會暨XOps技術創(chuàng)新峰會2024·北京站國際領先：智能運維(AIOps)國際標準發(fā)布中國信息通信研究院牽頭提出首個智能運維（AIOps）國際標basedcloudservicedeve智能技術的加持下進一步提高軟件開發(fā)和運營管理效率。旨在通過進一步明確智能運維的功能要求，推進各方對智能運維能力體系架構達成共識，加強國際交流合作，以促進智能運維領域技術、應用的有效落地，持續(xù)推動國內外AIOps相關產(chǎn)業(yè)的健GOGOPS全球運維大會暨XOps技術創(chuàng)新峰會2024·北京站智能運維能力成熟度系列標準GOGOPS全球運維大會暨XOps技術創(chuàng)新峰會2024·北京站《IT基礎設施資源運營能力成熟度模型》標準國務院關于印發(fā)的“十四五”數(shù)字經(jīng)濟規(guī)范健康可持續(xù)是數(shù)字經(jīng)濟高質量發(fā)展的迫切要求。我國數(shù)字經(jīng)濟規(guī)模快速擴張，但發(fā)展不平衡、不充分、不規(guī)范的問題較為突出，迫切需要轉變傳統(tǒng)發(fā)展方式，加快補齊短板弱項，提高我國數(shù)字經(jīng)濟治理水平，走出一科學。牢固樹立過“緊日子”“高質量發(fā)展是全面建設社會主義現(xiàn)代化國家的首要任務”2023年12月2023年1月2023年2-3月2023年3月2023年4月標準正式立項標準啟動會標準研討會形成標準初稿試點評估《IT基礎設施資源運營能力成熟度模型》標準從預算管理、交付管理、容量管理、成本管理、效能管理、持續(xù)運營等幾容量管理容量管理能力層預算管理成本管理效能管理持續(xù)運營容量規(guī)劃需求管理可視化報表成本洞察利用效率監(jiān)控告警需求審批采購管理需求交付成本分攤指標管理權限配置成本優(yōu)化容量分析流程管理管理規(guī)范資源調度成本核算組織建設交付管理能力層預算管理成本管理效能管理持續(xù)運營容量規(guī)劃需求管理可視化報表成本洞察利用效率監(jiān)控告警需求審批采購管理需求交付成本分攤指標管理權限配置成本優(yōu)化容量分析流程管理管理規(guī)范資源調度成本核算組織建設交付管理預算計劃預算執(zhí)行預算分析預算變更資源優(yōu)化資源優(yōu)化數(shù)據(jù)存儲數(shù)據(jù)存儲數(shù)據(jù)采集數(shù)據(jù)處理數(shù)據(jù)傳輸物理機數(shù)據(jù)治理虛擬機網(wǎng)虛擬機網(wǎng)絡中間件云資源數(shù)據(jù)庫...本標準已立項，將于2024年1月18日召開標準啟動會暨第一次研討會，參編單位持續(xù)征集中！招商銀行、平安銀行、華泰證券、銀河證券、招商基金、中國航信、百度、聯(lián)想、京東、小紅書等GOGOPS全球運維大會暨XOps技術創(chuàng)新峰會2024·北京站智能化運維(AIOps)能力成熟度模型第5部分：運維數(shù)據(jù)治理?數(shù)據(jù)來源多樣、格式不一，數(shù)據(jù)質量控制。?企業(yè)內部或企業(yè)間數(shù)據(jù)標準不統(tǒng)一，導致數(shù)據(jù)整合困難，影響數(shù)據(jù)的有效利用?；A設施監(jiān)控數(shù)據(jù)：服務器、存儲設備、網(wǎng)絡設備的運行狀態(tài)和性能指標。系統(tǒng)和應用日志數(shù)據(jù)：操作?數(shù)據(jù)來源多樣、格式不一，數(shù)據(jù)質量控制。?企業(yè)內部或企業(yè)間數(shù)據(jù)標準不統(tǒng)一，導致數(shù)據(jù)整合困難，影響數(shù)據(jù)的有效利用?；A設施監(jiān)控數(shù)據(jù)：服務器、存儲設備、網(wǎng)絡設備的運行狀態(tài)和性能指標。系統(tǒng)和應用日志數(shù)據(jù)：操作系統(tǒng)日志、數(shù)據(jù)庫日志、中間件日志以及應用系統(tǒng)日志。3?不同系統(tǒng)或部門之間的數(shù)據(jù)往往孤立，缺乏有效的整合和共享機制。安全和訪問數(shù)據(jù)：系統(tǒng)安全事件、入侵檢測報警、用戶登錄和訪問記錄等。配置和變更管理數(shù)據(jù)：系統(tǒng)配置、網(wǎng)絡配置、安全配置以及應用配置的變更記錄。24廠?企業(yè)內部或企業(yè)間數(shù)據(jù)標準不統(tǒng)一，導致數(shù)據(jù)整合困難，影響數(shù)據(jù)的有效利用。時間計劃運維數(shù)據(jù)治理是運維數(shù)智化轉型的關鍵組成部分，通過數(shù)據(jù)治理，可以確保運維數(shù)據(jù)的準確性、完整性和一致性，并有助于數(shù)據(jù)的共享和開放。在當前智能運維工作中存在數(shù)據(jù)匯聚能力不足、數(shù)據(jù)管控能力薄弱、數(shù)據(jù)治理體系不完善、數(shù)據(jù)價值評估難等痛點問題。GOGOPS全球運維大會暨XOps技術創(chuàng)新峰會2024·北京站02大模型時代背景概述GOPS全球運維大會暨XOps技術創(chuàng)新峰會2024·北京站大模型顛覆人工智能產(chǎn)業(yè)大語言模型(LLM)是使用深度學習算法處理和理解自然語言的基礎機器學習模型。他們可以理解復雜的文本數(shù)據(jù)，識別實體和它們之間的關系，并生成連貫且語法準確的新文本。大模型顛覆了人工智能技術、合作、研發(fā)、運營、服務模式，加速了生態(tài)變化和影響GOGOPS全球運維大會暨XOps技術創(chuàng)新峰會2024·北京站政策助力大模型技術快速發(fā)展近年來國內外大模型技術發(fā)展迅猛近年來國內外大模型技術發(fā)展迅猛Google：BardMeta：LLaMa……百度：ERNIE3.0文心大模型清華大學：GLM-130B模型阿里巴巴：通義大模型騰訊：混元大模型……隨著人工智能技術的飛速發(fā)展，大模型在自然語言處理、計算機視覺、語音識別等多個領域取得了顯著的突破。特別是在自然語言處理領域，預訓練大模型如BERT、GPT系列等已經(jīng)成為研究和產(chǎn)業(yè)應用的標配。2023年政策助推大模型在各行業(yè)應用快速落地2023年7月，國家互聯(lián)網(wǎng)信息辦公室等七部門聯(lián)合發(fā)布了《生成式人工智能服務管理暫行辦法》：鼓勵生成式人工智能技術在各行業(yè)、各領域的創(chuàng)新應用，探索優(yōu)化應用場景，構建應用生態(tài)體系。2023年12月，國家數(shù)據(jù)局發(fā)布《“數(shù)據(jù)要素x”三年行動計劃（征求意見稿）》：提出以科學數(shù)據(jù)支持大模型開發(fā)，支持開展通用人工智能大模型和垂直領域人工智能大模型訓練。北京、上海、深圳、安徽、四川等省市出臺大模型產(chǎn)業(yè)發(fā)展措施：《上海市推動人工智能大模型創(chuàng)新發(fā)展若干措施》等政策，加速大模型應用落地，建設大模型算法及工具開源開放平臺，構建完整大模型技術創(chuàng)新體系。GOGOPS全球運維大會暨XOps技術創(chuàng)新峰會2024·北京站大模型分類及應用根據(jù)模型的應用范圍和特定性可將大模型劃分為通用大模型、行業(yè)大模型、垂直大模型和專有大模型。通用大模型以其廣泛的適用性和靈活性而受到青睞；行業(yè)大模型和垂直大模型則在特定領域內提供更加精準和專業(yè)的服務；而專有大模型則為特定組織提供了獨特的競爭優(yōu)勢。CMetaLLaMACMetaLLaMA指針對特定行業(yè)或領域的應用需求而設計的人工指針對特定行業(yè)或領域的應用需求而設計的人工指專注于某一具體應用或服務的人工智能模型。指專注于某一具體應用或服務的人工智能模型。NOMIMate2.0NOMIMate2.0GOGOPS全球運維大會暨XOps技術創(chuàng)新峰會2024·北京站大模型在研發(fā)運營領域的應用現(xiàn)狀GOPS全球運維大會暨XOps技術創(chuàng)新峰會2024·北京站研發(fā)運營大模型與通用大模型的區(qū)別分析粵通用大模型具有廣泛的知識基礎、可粵通用大模型具有廣泛的知識基礎、可靈活處理多種問題，往往是公開的，但資源消耗與維護成本較高。研發(fā)運營行業(yè)大模型在研發(fā)運營領域更加專精，處理特定問題效率更高，并可以衍生多種定制化工具，助力企業(yè)提高生產(chǎn)力，且成本效益比更高。研發(fā)運營行業(yè)大模型通用大模型研發(fā)運營行業(yè)大模型通用大模型更廣的用戶群體。更高的靈活性。泛化能力更高能處理多種問題處理問題針對性更強可衍生多種定制化應用“博古通今”靈活性定制化應用“行業(yè)專家”開放性成本效益“博古通今”靈活性定制化應用“行業(yè)專家”開放性成本效益專業(yè)性強效率更高GOGOPS全球運維大會暨XOps技術創(chuàng)新峰會2024·北京站軟件研運大模型構建方式打造研運行業(yè)大模型，高效的工具與流水線化加工扮演著至關重要的角色，包括語料收集與治理、基座模型選擇與預訓練、模型微調、模型評測與優(yōu)化等。AdaLoRA等。模型評測與優(yōu)化模型微調模型評測與優(yōu)化模型微調語料收集與治理語料收集與治理行業(yè)大模型的預訓練模型對齊行業(yè)大模型的預訓練模型對齊GOGOPS全球運維大會暨XOps技術創(chuàng)新峰會2024·北京站研運大模型國內外實踐現(xiàn)狀?OpenAICodex?GitHubCopilot代碼建議并自動編寫測試等功能。Copil?谷歌AlphaCode?清華大學CodeGeeXCodeGeeX是清華大學發(fā)布的一個具有130億參數(shù)的多編程語?Baidu?BaiduComate??華為PanGu-CoderGOGOPS全球運維大會暨XOps技術創(chuàng)新峰會2024·北京站軟件研運大模型參考架構通過研運大模型的構建，形成了面向行業(yè)各場景的研運大模型框架。大模型將基于基礎公共語料及行業(yè)研運數(shù)據(jù)私有語料，提供面向場景的應用服務平臺。模型應用風險管理與審計模型應用風險管理與審計應用場景研運大模型生成研運大模型生成研運基座大模型大模型開發(fā)管理工具行業(yè)研運數(shù)據(jù)語料公共基礎設施行業(yè)研運數(shù)據(jù)語料公共基礎設施研運大模研運大模型應用服務平臺理GOGOPS全球運維大會暨XOps技術創(chuàng)新峰會2024·北京站研運大模型場景能力現(xiàn)狀大模型技術在研發(fā)、測試和運維領域的應用正逐步成熟，未來將更加注重與現(xiàn)有工具和流程的集成，提供更加個性化和智能化的服務。同時，隨著模型能力的不斷提升，可以預見大模型將在提高軟件開發(fā)效率、降低維護成本、提升系統(tǒng)穩(wěn)定性等方面發(fā)揮更大的作用。助手CodeFuse。CodeFuse幫助GOGOPS全球運維大會暨XOps技術創(chuàng)新峰會2024·北京站信通院牽頭制定首個研發(fā)運維大模型標準時間計劃時間計劃2024年1月：形成初稿2024年2-3月：征GOGOPS全球運維大會暨XOps技術創(chuàng)新峰會2024·北京站04大模型驅動的研發(fā)運營場景展望GOPS全球運維大會暨XOps技術創(chuàng)新峰會2024·北京站研運大模型痛點問題及核心目標研發(fā)運營大模型發(fā)展所面臨的主要痛點包括計算資源的高研發(fā)運營大模型發(fā)展所面臨的主要痛點包括計算資源的