人工智能算力高質(zhì)量發(fā)展評估體系報告 2024

1 1 1 3 4 6 7 8 8 9 10 10 11 12 12 12 14 15 15 162.3.3高碳效：最低碳排放前提下 172.3.4可獲得：普適應(yīng)用需求和普惠 182.3.5可持續(xù)：技術(shù)兼容、供應(yīng)鏈完備、產(chǎn)業(yè)生態(tài)開放的共同選擇.18 19 19 20 20 21 22 24 25 27 28 29 30 30 31 33 34 34 34 35 36 37 37 39 391發(fā)展現(xiàn)狀及挑戰(zhàn)1《數(shù)據(jù)中心綠色低碳發(fā)展專項行動計劃》《深入實施“東數(shù)西算”工程加快構(gòu)建全國《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動計劃》《數(shù)字中國建設(shè)整體布局規(guī)劃》《浙江省運力提升行動方案（2024—2027（2024—2027年）》《江蘇省算力基礎(chǔ)設(shè)施發(fā)展專項規(guī)劃》《上海市智能算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展2025年）》《重慶市算力網(wǎng)絡(luò)發(fā)展“算力山城強算賦（2023-2025年)》《全國一體化算力網(wǎng)絡(luò)國家樞紐節(jié)點寧夏（來源：公開資料）23040 5其在機器學(xué)習(xí)和深度學(xué)習(xí)研究中的應(yīng)用提供強大的算理大規(guī)模數(shù)據(jù)分析和機器學(xué)習(xí)任務(wù)方面提供節(jié)跳動在內(nèi)容推薦、圖像處理等AI應(yīng)用建成后將為中國聯(lián)通在數(shù)據(jù)中心和云計算市場提供新的競爭優(yōu)勢（來源：公開資料）6算力總規(guī)模約為910EFLOPS1，同增增長40%，智能算力規(guī)模達到2025年智算規(guī)模目標。從區(qū)域分布上來看，智算中心呈集群建設(shè)趨02021年2021.1.5發(fā)展水平上：算力發(fā)展由“量”向“質(zhì)”我國算力發(fā)展正處在由“量的擴張”轉(zhuǎn)向“質(zhì)的提高”這一重要關(guān)7遠超摩爾定律。在單個大模型訓(xùn)練需求上，模型越大算8求相較于700億的Llama2翻了50倍。另外伴9013001116（來源：中國信通院）但對于絕大多數(shù)企業(yè)而言，大模型的應(yīng)用開發(fā)流程繁瑣，模型設(shè)計、對算力質(zhì)量進行系統(tǒng)評估，保障算力安全穩(wěn)定運行和資源高效利用。故障不僅會導(dǎo)致訓(xùn)練時間大幅延長，還會對算力資源造成巨大浪費。2定義、內(nèi)涵及特征（馬爾薩斯陷阱）（來源：浪潮信息、中國信通院）（來源：中國信通院）AI應(yīng)用的門檻。在科學(xué)研究方面，高質(zhì)量算力強大的計算能力能夠效率，降低科研成本，同時加速前沿科學(xué)問題的探究，量數(shù)據(jù)轉(zhuǎn)化為先進生產(chǎn)要素，暢通生產(chǎn)、分配、流通、消費高算效指的是在提高算力理論算效的同時考慮更高的實測性能率指標。理論算效數(shù)值越大，代表單位功率的算力越強，效能越高。布數(shù)據(jù)顯示Google云平均GPU利用率為25%，算力資源利用率存在通過綠色采購、綠色設(shè)計、清潔生產(chǎn)、綠色包裝和運輸、綠色運營、智慧城市等多個領(lǐng)域的廣泛應(yīng)用，是推動這些領(lǐng)域發(fā)展的關(guān)鍵因素。2.3.5可持續(xù)：技術(shù)兼容、供應(yīng)鏈完備在技術(shù)上，算力的可持續(xù)特征體現(xiàn)在可向“前”兼容，向“后”在供應(yīng)鏈上，算力的可持續(xù)特征體現(xiàn)在從核心部件到專用芯片、3發(fā)展路徑及展望（來源：中國信通院）高效、易用的模型訓(xùn)練工具，降低用戶開發(fā)大軟硬件聯(lián)合設(shè)計與優(yōu)化的核心在于將軟件算法與硬件架構(gòu)緊密軟硬件協(xié)同設(shè)計消除軟硬件之間的瓶頸，提高整體的算力應(yīng)用（來源：浪潮信息）（來源：中國信通院）（來源：中國信通院）（來源：中國信通院）方政府也紛紛出臺相關(guān)政策，提供稅收優(yōu)惠、資金補貼等支持措成具有良好精度和性能的下游應(yīng)用。高質(zhì)量算力的進一步普及將為加、倍增，推動算力經(jīng)濟蓬勃發(fā)展。算力投入將帶動制造業(yè)、工業(yè)、4評估體系探索不斷涌現(xiàn)，對算力要求不斷提高，我國算力發(fā)展開始走向了由“量”目前我國算力評估主要可分為規(guī)格算力評估和算力綜合評估兩場景作為測試負載，得到該設(shè)備的整機算力，如通用算力評測工具SPEC、CPUBench等，只關(guān)注IT計算外，雖然理論算效衡量方式較為簡潔，但不能完整反映真實的網(wǎng)指標直觀地反映計算系統(tǒng)在特定作業(yè)上的、用戶可獲得的計算能力。提升算力在垂直行業(yè)領(lǐng)域的智能支撐水平是未來算力高質(zhì)量發(fā)展的價指標的篩選上強調(diào)以下六個原則:擇與高質(zhì)量算力特征緊密相關(guān)的指標，使評估更具針對質(zhì)量算力評估體系既符合當前需求，又能夠靈活適應(yīng)4.3.1評估體系（來源：中國信通院）4.3.2算效水平（3）資源利用率：通過算力系統(tǒng)實際運行過程中的平均資源利（1）模算效率：模算效率正增于模型精度與模型的計算效率，（2）智能化程度：通過算力系統(tǒng)自動化水平和智能優(yōu)化能力來4.3.4碳效水平可獲得水平考察算力是否能夠滿足普適應(yīng)用需求和普惠使用成（1）普適能力：主要考量算力對多樣化應(yīng)用場景的廣泛支撐能（2）普惠能力：主要考量算力是否滿足各行各業(yè)低成本使用需（1）技術(shù)兼容性：通過模擬實際應(yīng)用場景，對算力系統(tǒng)進行兼（2）供應(yīng)鏈完備程度：評估供應(yīng)鏈中供應(yīng)商的數(shù)量和質(zhì)量，包（3）產(chǎn)業(yè)生態(tài)開放水平：分析算力系統(tǒng)的標準化建設(shè)程度，如模算效率正增于模型精度與模型的計算效率，模型本身精度越高、在對應(yīng)軟件上對硬件性能利用率越全生命周期低通過算力系統(tǒng)碳足跡和全生命周期綠色發(fā)展戰(zhàn)略來通過模擬實際應(yīng)用場景，對設(shè)備和系統(tǒng)進行兼容性供應(yīng)鏈完備程度評估供應(yīng)鏈中