2024人工智能算力高質量發(fā)展評估體系報告

目發(fā)展現狀及挑 發(fā)展現 政策上：政策導向日益明 技術上：生成式AI突破發(fā) 市場上：算力投資持續(xù)加 規(guī)模上：智算規(guī)模增速明 發(fā)展水平上：算力發(fā)展由“量”向“質 面臨挑 挑戰(zhàn)一：算力供給不足，供需匹配不平 挑戰(zhàn)二：算力智能水平較低，難以滿足多元應用場 挑戰(zhàn)三：算力面臨能源考驗，節(jié)能降碳刻不容 挑戰(zhàn)四：多樣化算力需求提升，普適普惠水平較 挑戰(zhàn)五：供應鏈完備性不足，生態(tài)構建待完 挑戰(zhàn)六：性能評價簡單，算力實測性能欠 定義、內涵及特 定 內 特 高算效：設計與運行計算效率“雙優(yōu)”體 高智效：兼?zhèn)涓咝Ш椭悄艿腁I業(yè)務支撐能 高碳效：最低碳排放前提下實現最大化算力輸 可獲得：普適應用需求和普惠使用成本的極致追 可評估：反映算力實際應用水平的多元評 發(fā)展路徑及展 發(fā)展路 系統設計，提升算 協同驅動，提升智 全生命周期管理，提升碳 基建先行，推動算力普適普 繁榮生態(tài)，推動算力可持續(xù)發(fā) 多元評估，加速算力規(guī)范化發(fā) 展 評估體系探 評估體系構建背 評估體系構建現 評估體系構建建 評估體系構建原 評估體系構建實 評估體 算效水 智效水 碳效水 可獲得水 可持續(xù)水 評估體系構建意 評估體系應用建 競爭力。2024財年政府預算，包括國防部、能源部、國土“東數西算”工程加快構建全國1我國算力中心相關政策規(guī)劃（部分20247202312《深入實施“東數西算”2023102023220245年）20244（2024—2027年）20244202432025年）2024320242劃（2024-2025年)20241202312202312202312（2023-2025年)2023820237方案（2023-2025年)2023420233（來源：公開資料AIAIGCAI領域的最新發(fā)展方向，對經濟社會發(fā)展產生了重大的影響。隨著人工智能預訓練大模型的不斷進步、AIGC算AIGC模型的通用性和工業(yè)化水平，AIGC的商業(yè)潛力變得AI領域競爭的核心焦點。AIAI降低了GPU的利用率。2800435200012億歐元的公共資金用于“歐洲共同利益重要計劃5生成式AI服務 非生成式AI服務1全球人工智能服務器市場規(guī)模預測（單位：百萬美元（科技巨頭發(fā)力智能算力，萬卡算力集群布局加快。2023年以來IDC20222032 202220232024202520262027202820292030 20222023202420252026202720282029203020312AI產業(yè)規(guī)模預測（單位：十億美元（來源：IDC、Bloomberg、Mandeep2全球科技巨頭智算布局（部分20235月，推出AI超級計算機A326000塊H100GPU，為202435H100GPU的龐大基礎設施，以支撐其元宇宙和AI研究AI服務領域的發(fā)展AmazonEC2Ultra2H100TensorCoreGPU，為用戶在處202381H100GPU10萬卡GPU3.2T，為未來的AI和大數據應用提供了廣闊的發(fā)展空間MegaScale12288Ampere架構訓練集群，為字AI應用方面提供了強大的算力保障GPU2024150004500P的萬卡算力池。20243月，天翼云上海臨港萬卡算力池已正式啟用（來源：公開資料2023202120222023通用算 智能算202120222023通用算 智能算 超算算3全球算力規(guī)模（我國算力發(fā)展正處在由“量的擴張”轉向“質的提高”這一重要關一方面，AIGC帶動算力需求總量不斷增長，大模型訓練亟需大AI算力支撐。AI算力需求400%復合增長，AI15萬倍，4050億的Llama3.1大模型為例，其單次訓練算力需700億的Llama2504000億千瓦時，若不加大可再生能源利用增例，20302計算能耗，根據DigitalInformationWorldAI模型產生的能耗是常規(guī)云工作的三倍。OpenAI2012年以來，AI訓練的電力需求每3-4個月就會翻一倍。據浪潮信息測算，一個1010萬卡H1001193天，所消 45年我國算力中心耗電量（單位：億千瓦時（來源：中國信通院2024OpenAIGPT-47800萬美元的計算資源進行訓練，而谷歌的GeminiUltra1.91億美元的計算資源成本目前大模型異構算力的發(fā)展不同OS固件整機芯片平兼容性問題突出，1-2天，復雜應用類故障的定位時間則更長。節(jié)點3（馬爾薩斯陷阱（來源：浪潮信息、中國信通院

5

（來源：中國信通院和應用，在AI模型訓練和部署上更具優(yōu)勢，推動預訓練大模型在海AI應用的門檻。在科學研究方面，高質量算力強大的計算能力能夠2023年年底，全國在用算力中心平均算效為11.8GFLOPS/W，達到Token數10%GPU布數據顯示Google云平均GPU25%AIAI業(yè)務的能力和較高的自動化、CPUPUEPUE50%，意味著算力6（來源：中國信通院過硬件重構和軟件定義對GPU、AI芯片等進行聚合池化，再利用先方面不斷優(yōu)化完善，提高模型框架與底層AI芯片適配度，開發(fā)更加存算一體、Chiplet技術等改進芯片的架構、互聯、封裝，滿足人工智能。例如通過專門為AI算法設計的硬件加速器，可以顯著提高數據AI算力在特定應用場景和任務中的智能處理能力。7（來源：浪潮信息算力系統的建設設備選型平運營等方面均采用綠色低碳技AI和大數8（來源：中國信通院生成式AI帶來的智能時代需要大量增加智能算力的供給才能滿不同等問題算力平可實現對算力資源的統計監(jiān)測匹配和分析，促進算力平的建設，以平為依托進行供需對接，充分連接算力資9中國算力平

（來源：中國信通院AI框架、算法模型、數據處理技術、廣泛的行業(yè)應用等，CPU、服務器、云操作系統、平層、應用層等分層解耦，消除單一建立完善的標準體系，推進不同OS、固件、整機、芯片平兼從技術、接口、設備、平等多個維度，全面采用標準化的設計，不同層次間可通過虛擬化、API等標準化方式對接，實現產業(yè)鏈整體標10

（來源：中國信通院IT計算設方政府也紛紛出相關政策，提供稅收優(yōu)惠、資金補貼等支持措施，AI技術更深入地融入到各行各業(yè)的業(yè)務流程中，人工智能在各個隨著AI大模型等新興技術和應用的快速發(fā)展，算力資源將加速試，如內存的StreamIOzone等，反映硬件SPEC、CPUBench等，只關注IT計算設備的單設備性能，無法完Linpack（集群環(huán)境下多采用HPL基準）等，重點呈現系統在稠密矩陣求解方面的能力。AI業(yè)務支撐能力評估。人工智能升算力在垂直行業(yè)領域的智能支撐水平是未來算力高質量發(fā)展的重AI業(yè)務中的性能表現，PUE及耗電量通常被認為是算力綠色評估的核心指標，如2020年底全國數據PUE1.62939億kWh，2023PUE1.481500kWh。算力產業(yè)耗電量急劇增加，PUEPUE角度進行評估優(yōu)化已無法適PUEWUE等據中國信通院統計，202366.7%12個指11（來源：中國信通院理論算效：理論算效（CE）是算力（CP）IT設備公式為：CE=CP/∑ITFLOPS/W，即單位功率的IT設備本身的運行成本和制冷設備的AI業(yè)務的處理能AI應用負載的實測性能