人工智能行業(yè)應(yīng)用建設(shè)發(fā)展參考架構(gòu)-國家信息中心公共技術(shù)服務(wù)部

目錄一、人智能業(yè)應(yīng)總進(jìn)展 1（一）國內(nèi)外人工智能行業(yè)應(yīng)用發(fā)展現(xiàn)狀 1全人工能技演進(jìn)趨激烈 1我具有特的展資優(yōu)勢 3行業(yè)應(yīng)正成人工能競的焦點 4（二）人工智能行業(yè)應(yīng)用建設(shè)發(fā)展模式 6自創(chuàng)新式 6平賦能式 6兩模式關(guān)系 7（三）推進(jìn)統(tǒng)一參考架構(gòu)設(shè)計是發(fā)展關(guān)鍵 7行應(yīng)用展受多方挑戰(zhàn) 7統(tǒng)架構(gòu)有于加應(yīng)用?；?9二、人智能業(yè)應(yīng)建發(fā)展一參架構(gòu) 9（一）統(tǒng)一參考架構(gòu)的內(nèi)涵與特性 10統(tǒng)一參架構(gòu)內(nèi)涵 10統(tǒng)一參架構(gòu)特性 11（二）統(tǒng)一參考架構(gòu)組成 11總架構(gòu) 11算基礎(chǔ) 13數(shù)服務(wù) 13模服務(wù) 14應(yīng)開發(fā) 14運平臺 15運平臺 15三、統(tǒng)參架構(gòu)建設(shè) 15（一）統(tǒng)一參考架構(gòu)技術(shù)要求 15算基礎(chǔ) 15數(shù)服務(wù) 17模型服務(wù) 19應(yīng)開發(fā) 21運平臺 21運平臺 22（二）基于統(tǒng)一參考架構(gòu)的應(yīng)用建設(shè) 22各務(wù)模下的設(shè)能力 22自創(chuàng)新式下技術(shù)構(gòu) 23平賦能式下技術(shù)構(gòu) 24四、總與展望 25一、人工智能行業(yè)應(yīng)用總體進(jìn)展（一）國內(nèi)外人工智能行業(yè)應(yīng)用發(fā)展現(xiàn)狀全球人工智能技術(shù)演進(jìn)日趨激烈進(jìn)。一是當(dāng)前大模型能力快速提升。OpenAI最新發(fā)布的o1大PaLM-E、文生圖模型DALL-E、多模態(tài)經(jīng)典模型CLIP等。注意力機制與其他機制結(jié)合的模型能夠在DeepMind的Griffin模型結(jié)合了線性遞歸和局部注意二是基礎(chǔ)技術(shù)體系加速收斂淀和市場選擇，美國AI產(chǎn)業(yè)逐漸形成統(tǒng)一收斂的局面，展現(xiàn)出強大競爭力。在算力（英偉達(dá)GPU占比85%以上）、人工智能深度學(xué)習(xí)框架（PyTorch占比90%以上）、模型（GPT、Llama系列）等層面，基于收斂的技術(shù)棧，吸納了全球開發(fā)者的貢獻(xiàn)，形成了強大的生態(tài)體系。英偉達(dá)GPU等為大規(guī)模并行計算提供支持，英特爾、AMD等則布局多種人工智能專用芯片，滿足以英偉達(dá)CUDA為代表，憑借其豐富的算子生態(tài)、強大的社區(qū)EULA鞏固了其產(chǎn)業(yè)地位。人工智能深度學(xué)習(xí)框架上，形成了以Meta主導(dǎo)的和Google主導(dǎo)的為代表的聚集效應(yīng)。是目前全球最流行的人工智能深度學(xué)習(xí)框架，并結(jié)合英偉達(dá)GPU90%以上的份源AI社區(qū)HuggingFace為例，吸引了大量的開發(fā)者和企業(yè)參與，截止2024年11月平臺收錄超過100萬個大小模型和超過20萬個數(shù)據(jù)集，包括微軟、谷歌在內(nèi)的超過15萬家機構(gòu)使用。研發(fā)、基因組研究、智能健康監(jiān)測等方面廣泛應(yīng)用。DeepMind的AlphaFold系列模型專注于蛋白質(zhì)結(jié)構(gòu)預(yù)測，獲得2024年諾貝DRIVEFSD領(lǐng)域廣泛應(yīng)用。DeepMind的AlphaChip利用了強化學(xué)習(xí)方法來設(shè)設(shè)計工作，并應(yīng)用于谷歌TPU芯片設(shè)計中。我國具有獨特的發(fā)展資源優(yōu)勢中國的市場規(guī)模體現(xiàn)在消費者基數(shù)大和144億人，連續(xù)多年保持世界第二大商品消費市場、世界第一制造業(yè)大國、中國在全球I2024AI2018842022年的392271502222729.2%AI市場規(guī)模占全球AI市場規(guī)201811.9%202216.1%，預(yù)計于202720.6%。據(jù)前瞻產(chǎn)業(yè)研究院《2024年中國人工智能行業(yè)全景圖譜》，在2200家人工智能骨干企業(yè)中，提供基礎(chǔ)硬件設(shè)備和數(shù)據(jù)服務(wù)的企業(yè)僅有53家，從事包括核心算法、開發(fā)平臺等在內(nèi)的關(guān)鍵技27385.18%1873家。人工智能技術(shù)在互聯(lián)網(wǎng)領(lǐng)域中的應(yīng)用尤為活躍，并且正積極展?；ヂ?lián)網(wǎng)頭部企業(yè)作為智能化先鋒，主導(dǎo)AI技術(shù)的研發(fā)和應(yīng)AI技術(shù)應(yīng)用于核心場景。電力、醫(yī)療、制造、交通和零售等行業(yè)處于數(shù)字化階段，積極探索AI應(yīng)用二是人工智2024》，中國已建90%以上的示范工廠應(yīng)用了人工智能和數(shù)字孿生技術(shù)。行業(yè)應(yīng)用正成為人工智能競爭的焦點技術(shù)與產(chǎn)業(yè)競爭的焦點已經(jīng)從單一的計算量和模型參數(shù)量（Scaling一是三是從追求短在當(dāng)前國際產(chǎn)業(yè)競爭大環(huán)境條件（二）人工智能行業(yè)應(yīng)用建設(shè)發(fā)展模式為目標(biāo)的平臺賦能模式。自研創(chuàng)新模式業(yè)務(wù)系統(tǒng)融合和功能復(fù)雜定制的問題。其特點如下：平臺賦能模式的規(guī)范應(yīng)用和發(fā)展。兩種模式的關(guān)系不實現(xiàn)內(nèi)部成熟能力的自建他用，從而創(chuàng)造新的業(yè)務(wù)和市場空間。（三）推進(jìn)統(tǒng)一參考架構(gòu)設(shè)計是發(fā)展關(guān)鍵行業(yè)應(yīng)用發(fā)展受到多方面挑戰(zhàn)優(yōu)勢，包括技術(shù)、成本和安全三方面。技術(shù)方面，不同廠商和平臺之間無法實現(xiàn)互聯(lián)互通。獨立技術(shù)體系，一是技術(shù)不兼容AI技數(shù)據(jù)流通不暢三是缺乏互操性性差，不同AI模型的基礎(chǔ)原理各不相同，缺乏互操作性，限制了不同模型之間的協(xié)同發(fā)展。四是技術(shù)發(fā)展不均衡，不同領(lǐng)域的AI技術(shù)發(fā)展速度和質(zhì)量參差不齊。五是技術(shù)擴(kuò)散受阻，不同子用。和推廣成本高。各個公司需要獨立開發(fā)和維護(hù)自己的制成本仍比較高，不利于成果轉(zhuǎn)化。安全是人工智能行業(yè)應(yīng)用的重要保障，部分國外技術(shù)存在“斷供”統(tǒng)一架構(gòu)有利于加速應(yīng)用規(guī)?；涞啬軌蜃杂慑噙x并整合多家頂大模型及技術(shù)供應(yīng)商AI應(yīng)用的能力AI解決方案；當(dāng)業(yè)務(wù)需求發(fā)生變化時，企業(yè)可以快速地在技術(shù)上實AI應(yīng)用和服務(wù)，加速不同廠商的AI應(yīng)用，實現(xiàn)跨平臺的數(shù)據(jù)和功能整合，提升業(yè)務(wù)二、人工智能行業(yè)應(yīng)用建設(shè)發(fā)展統(tǒng)一參考架構(gòu)（一）統(tǒng)一參考架構(gòu)的內(nèi)涵與特性統(tǒng)一參考架構(gòu)的內(nèi)涵能力模塊。系統(tǒng)架構(gòu)能力模塊統(tǒng)一參考架構(gòu)的特性的變化進(jìn)行擴(kuò)展和適應(yīng)，且易于維護(hù)升級。（二）統(tǒng)一參考架構(gòu)組成總體架構(gòu)圖1人工智能行業(yè)應(yīng)用統(tǒng)一參考架構(gòu)參考架構(gòu)共性能力以模型和數(shù)據(jù)兩大關(guān)鍵要素提出共性支即共性能力中的功能建議以任意力的相關(guān)功能即可。算力基礎(chǔ)和AI開發(fā)平臺。AI和應(yīng)用服務(wù)，是企業(yè)數(shù)字化轉(zhuǎn)型的基石。企業(yè)優(yōu)化資源配置，提高運營效率。三是AIAI數(shù)據(jù)服務(wù)數(shù)據(jù)服務(wù)能力包含4個共性和4個特性能力關(guān)注采集、處理、共享、數(shù)據(jù)集管理，形成統(tǒng)一的數(shù)據(jù)服務(wù)。其中，4個共性能力分別是，①數(shù)據(jù)工程工具鏈：應(yīng)關(guān)注訓(xùn)4包括開放API接口、數(shù)據(jù)導(dǎo)入、數(shù)據(jù)源接入和數(shù)據(jù)埋點等方式；持各領(lǐng)域數(shù)據(jù)分析模型和展現(xiàn)形式。模型服務(wù)模型服務(wù)包含4個共性能力AI資產(chǎn)的可沉淀、可Agent資產(chǎn)做好標(biāo)準(zhǔn)化管理和安全訪問控制的能力。應(yīng)用開發(fā)應(yīng)用開發(fā)包含2個特性能力GIS開發(fā)功能。運維平臺運維平臺（特性能力），是指面向人工智能應(yīng)用系統(tǒng)需求，確保系統(tǒng)的穩(wěn)定和安全。運營平臺運營平臺（特性能力），是指面向服務(wù)用戶提供用戶管理、用戶服務(wù)等相應(yīng)功能。基于不同的業(yè)務(wù)目標(biāo)，側(cè)重點不同，具體有服務(wù)內(nèi)部業(yè)務(wù)和服務(wù)外部客戶兩類。三、統(tǒng)一參考架構(gòu)的建設(shè)（一）統(tǒng)一參考架構(gòu)技術(shù)要求質(zhì)量發(fā)展。算力基礎(chǔ)AI術(shù)規(guī)范統(tǒng)一，具體應(yīng)實現(xiàn)以下9點技術(shù)能力。協(xié)同通信優(yōu)化、支持訓(xùn)推共池及算力切分。練框架和分布式并行推理。和跨域故障快速修復(fù)。API。五是具備數(shù)據(jù)資源管理功能。提供數(shù)據(jù)資源管理功能，支持團(tuán)隊資源管理模式，包括成員權(quán)限控制、任務(wù)分配和進(jìn)度跟蹤。實時監(jiān)控數(shù)據(jù)服務(wù)的性能，并提供詳細(xì)的報告和分析。訪問控制和審計日志，以保護(hù)數(shù)據(jù)不被未授權(quán)訪問。足于國內(nèi)主導(dǎo)的開源社區(qū)的條件，并預(yù)置主流算子加速庫。時接口、模型加載與執(zhí)行接口、算子編譯和執(zhí)行接口、性能Profiling型的便捷部署。數(shù)據(jù)服務(wù)數(shù)據(jù)工程工具數(shù)據(jù)采集管理IOT數(shù)據(jù)集管理數(shù)據(jù)交換空間支持常用數(shù)據(jù)格式的對接能力，包括且不限于JSONL、XML等常用AI環(huán)境、打造可組合的使用控制策略和安全審計追溯。企業(yè)數(shù)據(jù)空間數(shù)據(jù)服務(wù)應(yīng)有效支撐面向企業(yè)應(yīng)用的數(shù)據(jù)管理。一是滿足多型態(tài)的數(shù)據(jù)服務(wù)和管理，確保數(shù)據(jù)的一致性、可訪問性和質(zhì)量，同時優(yōu)化數(shù)據(jù)的利用，滿足場景對各型態(tài)數(shù)據(jù)服務(wù)的支持。二是需支持多模態(tài)數(shù)據(jù)集成融合、數(shù)據(jù)分析和處理、數(shù)據(jù)質(zhì)量控制、數(shù)據(jù)安全和隱私保護(hù)、實施高級安全措施、團(tuán)隊協(xié)作和工作空間管理、數(shù)據(jù)共享和隔離。（6）4個特性能力API模型服務(wù)成本，從而提升開發(fā)效率。多模型組合型能力提升而不斷進(jìn)化、具備基礎(chǔ)大模型的組合能力。模型工程工具從而提升開發(fā)效率。Agent工程工具具備自主決策、多模態(tài)數(shù)據(jù)處理、記憶機制、推理與規(guī)劃、加快開發(fā)周期，快速將大模型能力傳導(dǎo)至應(yīng)用側(cè)。AI資產(chǎn)管理包括模型管理、組件管理、應(yīng)用和Agent管理、空間管理、監(jiān)控和報告等能力。全面維護(hù)關(guān)鍵人工智能資產(chǎn)，包括模型、Agent進(jìn)。統(tǒng)一多模型推理服務(wù)用。推理服務(wù)應(yīng)統(tǒng)一Restful訪問接口，支持多種推理框架，同時支持多種模型和Agent服務(wù)。應(yīng)用開發(fā)和樣本，并形成數(shù)據(jù)飛輪，推動模型持續(xù)迭代。運維平臺力，滿足安全可信等級保護(hù)要求，保障平臺平穩(wěn)運行。運營平臺（二）基于統(tǒng)一參考架構(gòu)的應(yīng)用建設(shè)各服務(wù)模式下的建設(shè)能力圖2自研創(chuàng)新模式和平臺賦能模式建設(shè)能力差異自研創(chuàng)新模式下的技術(shù)架構(gòu)自研創(chuàng)新模式的參考架構(gòu)如下圖所示：圖3自研創(chuàng)新模式下的架構(gòu)對照統(tǒng)一參考架構(gòu)，在自