人工智能算力高質(zhì)量發(fā)展評(píng)估體系報(bào)告 2024

1 1 1 3 4 6 7 8 8 9 10 10 11 12 12 12 14 15 15 162.3.3高碳效：最低碳排放前提下 172.3.4可獲得：普適應(yīng)用需求和普惠 182.3.5可持續(xù)：技術(shù)兼容、供應(yīng)鏈完備、產(chǎn)業(yè)生態(tài)開(kāi)放的共同選擇.18 19 19 20 20 21 22 24 25 27 28 29 30 30 31 33 34 34 34 35 36 37 37 39 391發(fā)展現(xiàn)狀及挑戰(zhàn)1《數(shù)據(jù)中心綠色低碳發(fā)展專項(xiàng)行動(dòng)計(jì)劃》《深入實(shí)施“東數(shù)西算”工程加快構(gòu)建全國(guó)《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動(dòng)計(jì)劃》《數(shù)字中國(guó)建設(shè)整體布局規(guī)劃》《浙江省運(yùn)力提升行動(dòng)方案（2024—2027（2024—2027年）》《江蘇省算力基礎(chǔ)設(shè)施發(fā)展專項(xiàng)規(guī)劃》《上海市智能算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展2025年）》《重慶市算力網(wǎng)絡(luò)發(fā)展“算力山城強(qiáng)算賦（2023-2025年)》《全國(guó)一體化算力網(wǎng)絡(luò)國(guó)家樞紐節(jié)點(diǎn)寧夏（來(lái)源：公開(kāi)資料）23040 5其在機(jī)器學(xué)習(xí)和深度學(xué)習(xí)研究中的應(yīng)用提供強(qiáng)大的算理大規(guī)模數(shù)據(jù)分析和機(jī)器學(xué)習(xí)任務(wù)方面提供節(jié)跳動(dòng)在內(nèi)容推薦、圖像處理等AI應(yīng)用建成后將為中國(guó)聯(lián)通在數(shù)據(jù)中心和云計(jì)算市場(chǎng)提供新的競(jìng)爭(zhēng)優(yōu)勢(shì)（來(lái)源：公開(kāi)資料）6算力總規(guī)模約為910EFLOPS1，同增增長(zhǎng)40%，智能算力規(guī)模達(dá)到2025年智算規(guī)模目標(biāo)。從區(qū)域分布上來(lái)看，智算中心呈集群建設(shè)趨02021年2021.1.5發(fā)展水平上：算力發(fā)展由“量”向“質(zhì)”我國(guó)算力發(fā)展正處在由“量的擴(kuò)張”轉(zhuǎn)向“質(zhì)的提高”這一重要關(guān)7遠(yuǎn)超摩爾定律。在單個(gè)大模型訓(xùn)練需求上，模型越大算8求相較于700億的Llama2翻了50倍。另外伴9013001116（來(lái)源：中國(guó)信通院）但對(duì)于絕大多數(shù)企業(yè)而言，大模型的應(yīng)用開(kāi)發(fā)流程繁瑣，模型設(shè)計(jì)、對(duì)算力質(zhì)量進(jìn)行系統(tǒng)評(píng)估，保障算力安全穩(wěn)定運(yùn)行和資源高效利用。故障不僅會(huì)導(dǎo)致訓(xùn)練時(shí)間大幅延長(zhǎng)，還會(huì)對(duì)算力資源造成巨大浪費(fèi)。2定義、內(nèi)涵及特征（馬爾薩斯陷阱）（來(lái)源：浪潮信息、中國(guó)信通院）（來(lái)源：中國(guó)信通院）AI應(yīng)用的門檻。在科學(xué)研究方面，高質(zhì)量算力強(qiáng)大的計(jì)算能力能夠效率，降低科研成本，同時(shí)加速前沿科學(xué)問(wèn)題的探究，量數(shù)據(jù)轉(zhuǎn)化為先進(jìn)生產(chǎn)要素，暢通生產(chǎn)、分配、流通、消費(fèi)高算效指的是在提高算力理論算效的同時(shí)考慮更高的實(shí)測(cè)性能率指標(biāo)。理論算效數(shù)值越大，代表單位功率的算力越強(qiáng)，效能越高。布數(shù)據(jù)顯示Google云平均GPU利用率為25%，算力資源利用率存在通過(guò)綠色采購(gòu)、綠色設(shè)計(jì)、清潔生產(chǎn)、綠色包裝和運(yùn)輸、綠色運(yùn)營(yíng)、智慧城市等多個(gè)領(lǐng)域的廣泛應(yīng)用，是推動(dòng)這些領(lǐng)域發(fā)展的關(guān)鍵因素。2.3.5可持續(xù)：技術(shù)兼容、供應(yīng)鏈完備在技術(shù)上，算力的可持續(xù)特征體現(xiàn)在可向“前”兼容，向“后”在供應(yīng)鏈上，算力的可持續(xù)特征體現(xiàn)在從核心部件到專用芯片、3發(fā)展路徑及展望（來(lái)源：中國(guó)信通院）高效、易用的模型訓(xùn)練工具，降低用戶開(kāi)發(fā)大軟硬件聯(lián)合設(shè)計(jì)與優(yōu)化的核心在于將軟件算法與硬件架構(gòu)緊密軟硬件協(xié)同設(shè)計(jì)消除軟硬件之間的瓶頸，提高整體的算力應(yīng)用（來(lái)源：浪潮信息）（來(lái)源：中國(guó)信通院）（來(lái)源：中國(guó)信通院）（來(lái)源：中國(guó)信通院）方政府也紛紛出臺(tái)相關(guān)政策，提供稅收優(yōu)惠、資金補(bǔ)貼等支持措成具有良好精度和性能的下游應(yīng)用。高質(zhì)量算力的進(jìn)一步普及將為加、倍增，推動(dòng)算力經(jīng)濟(jì)蓬勃發(fā)展。算力投入將帶動(dòng)制造業(yè)、工業(yè)、4評(píng)估體系探索不斷涌現(xiàn)，對(duì)算力要求不斷提高，我國(guó)算力發(fā)展開(kāi)始走向了由“量”目前我國(guó)算力評(píng)估主要可分為規(guī)格算力評(píng)估和算力綜合評(píng)估兩場(chǎng)景作為測(cè)試負(fù)載，得到該設(shè)備的整機(jī)算力，如通用算力評(píng)測(cè)工具SPEC、CPUBench等，只關(guān)注IT計(jì)算外，雖然理論算效衡量方式較為簡(jiǎn)潔，但不能完整反映真實(shí)的網(wǎng)指標(biāo)直觀地反映計(jì)算系統(tǒng)在特定作業(yè)上的、用戶可獲得的計(jì)算能力。提升算力在垂直行業(yè)領(lǐng)域的智能支撐水平是未來(lái)算力高質(zhì)量發(fā)展的價(jià)指標(biāo)的篩選上強(qiáng)調(diào)以下六個(gè)原則:擇與高質(zhì)量算力特征緊密相關(guān)的指標(biāo)，使評(píng)估更具針對(duì)質(zhì)量算力評(píng)估體系既符合當(dāng)前需求，又能夠靈活適應(yīng)4.3.1評(píng)估體系（來(lái)源：中國(guó)信通院）4.3.2算效水平（3）資源利用率：通過(guò)算力系統(tǒng)實(shí)際運(yùn)行過(guò)程中的平均資源利（1）模算效率：模算效率正增于模型精度與模型的計(jì)算效率，（2）智能化程度：通過(guò)算力系統(tǒng)自動(dòng)化水平和智能優(yōu)化能力來(lái)4.3.4碳效水平可獲得水平考察算力是否能夠滿足普適應(yīng)用需求和普惠使用成（1）普適能力：主要考量算力對(duì)多樣化應(yīng)用場(chǎng)景的廣泛支撐能（2）普惠能力：主要考量算力是否滿足各行各業(yè)低成本使用需（1）技術(shù)兼容性：通過(guò)模擬實(shí)際應(yīng)用場(chǎng)景，對(duì)算力系統(tǒng)進(jìn)行兼（2）供應(yīng)鏈完備程度：評(píng)估供應(yīng)鏈中供應(yīng)商的數(shù)量和質(zhì)量，包（3）產(chǎn)業(yè)生態(tài)開(kāi)放水平：分析算力系統(tǒng)的標(biāo)準(zhǔn)化建設(shè)程度，如模算效率正增于模型精度與模型的計(jì)算效率，模型本身精度越高、在對(duì)應(yīng)軟件上對(duì)硬件性能利用率越全生命周期低通過(guò)算力系統(tǒng)碳足跡和全生命周期綠色發(fā)展戰(zhàn)略來(lái)通過(guò)模擬實(shí)際應(yīng)用場(chǎng)景，對(duì)設(shè)備和系統(tǒng)進(jìn)行兼容性供應(yīng)鏈完備程度評(píng)估供應(yīng)鏈中