2023智算產(chǎn)業(yè)發(fā)展

2023年82023年81智算產(chǎn)業(yè)發(fā)展白皮書（2023年）PAGEPAGE3目錄引言 5一、智算發(fā)展迎來(lái)新機(jī)遇 71、AI大模型驅(qū)動(dòng)的智算時(shí)代正加速到來(lái) 72、智能算力成為數(shù)字經(jīng)濟(jì)發(fā)展的新引擎 83、國(guó)家和地方密集出臺(tái)政策支持智算布局 9二、智算產(chǎn)業(yè)全景及新進(jìn)展 121、智算產(chǎn)業(yè)鏈初步形成，生態(tài)集聚效應(yīng)不斷增強(qiáng) 122、國(guó)產(chǎn)自研AI芯片加速入場(chǎng)，短期高效供給仍受限 153、智算中心建設(shè)版圖持續(xù)擴(kuò)張，智算服務(wù)靈活多樣 164、大模型呈蓬勃發(fā)展態(tài)勢(shì)，助力產(chǎn)數(shù)業(yè)務(wù)發(fā)展 19三、智算發(fā)展五大新趨勢(shì) 21趨勢(shì)1：國(guó)產(chǎn)多元異構(gòu)算力融合推動(dòng)智算長(zhǎng)效發(fā)展 21趨勢(shì)2：智算從單節(jié)點(diǎn)向區(qū)域化協(xié)同、邊端部署演變 21趨勢(shì)3：普惠泛在的智算服務(wù)生態(tài)正逐步構(gòu)建 23趨勢(shì)4：確定性、高性能網(wǎng)絡(luò)助推大規(guī)模智算集群構(gòu)建 24趨勢(shì)5：低碳化發(fā)展格局需創(chuàng)新智算-電網(wǎng)協(xié)同模式 25四、智算技術(shù)發(fā)展的七大關(guān)鍵詞 27關(guān)鍵詞1：存算一體 27關(guān)鍵詞2：一云多芯 27關(guān)鍵詞3：CPO 28關(guān)鍵詞4：RDMA 29關(guān)鍵詞5：DDC 30關(guān)鍵詞6：并行計(jì)算 32關(guān)鍵詞7：液冷 32五、智算發(fā)展?jié)摿υu(píng)估 341、評(píng)估方法 342、評(píng)估結(jié)果 36六、典型案例 411、中國(guó)電信安徽智算中心 412、中國(guó)電信（國(guó)家）數(shù)字青海綠色大數(shù)據(jù)中心 423、海蘭信海底數(shù)據(jù)中心 43七、總結(jié)與展望 47八、附錄-智算評(píng)估實(shí)施方案 481、評(píng)估指標(biāo)模型構(gòu)建 482、評(píng)估指標(biāo)賦值 493、評(píng)估指標(biāo)權(quán)重設(shè)計(jì) 494、各省評(píng)估得分 51引言30算力是數(shù)據(jù)中心的服務(wù)器通過(guò)對(duì)數(shù)據(jù)進(jìn)行處理后實(shí)現(xiàn)結(jié)果輸出的一種能力[1]CPUGPUFPGA、ASIC等加速芯片的異構(gòu)組合，實(shí)現(xiàn)高精度通用算力和低精度專用算[2,20]PAGEPAGE35一、智算發(fā)展迎來(lái)新機(jī)遇1、AI大模型驅(qū)動(dòng)的智算時(shí)代正加速到來(lái)圖1人工智能產(chǎn)業(yè)發(fā)展歷程人工智能自1956年誕生以來(lái)，歷經(jīng)三次發(fā)展浪潮。第一次浪潮（1956-1970s），神經(jīng)網(wǎng)絡(luò)相關(guān)基礎(chǔ)理論被提出，搜AIAIIBMAIAI9018[3]AI2016研發(fā)的AlphaGoAIAI202211MAIAIAI2、智能算力成為數(shù)字經(jīng)濟(jì)發(fā)展的新引擎人工智能產(chǎn)業(yè)市場(chǎng)前景廣闊，成為推動(dòng)全球經(jīng)濟(jì)發(fā)展的新動(dòng)力。IDCAI154020263000億美元，預(yù)計(jì)2022202627%[4]2021Al53.92025103.4億美元，20212025CAGR17.7%[5]。展的新動(dòng)力。2035202620%[6]1.8508018%[7]；2022年我國(guó)新增算力基礎(chǔ)設(shè)施中智能算力占比過(guò)半，智算成為算力增202540005110[8]。3、國(guó)家和地方密集出臺(tái)政策支持智算布局表1.我國(guó)部委智算中心建設(shè)相關(guān)政策數(shù)據(jù)來(lái)源：各部委官方文件2035工信部、國(guó)家發(fā)改委等先后出臺(tái)《新型數(shù)據(jù)中心發(fā)展三年行動(dòng)計(jì)劃（2021-2023年2023425。表2.我國(guó)各省市智算中心建設(shè)相關(guān)政策數(shù)據(jù)來(lái)源：各省市官方政策文件AI201000用于支持算力中介服務(wù)機(jī)構(gòu)、科技型中小微企業(yè)和創(chuàng)客、科研機(jī)構(gòu)、高校等使用國(guó)家超算成都中心、成都智算中心算力資源。二、智算產(chǎn)業(yè)全景及新進(jìn)展1、智算產(chǎn)業(yè)鏈初步形成，生態(tài)集聚效應(yīng)不斷增強(qiáng)圖2智算產(chǎn)業(yè)鏈圖譜（一）上游：AI芯片領(lǐng)域形成多方競(jìng)爭(zhēng)格局GPU、FPGA技術(shù)壁壘高，迅速形成寡頭格局。英偉達(dá)（NVIDIA）憑借NVLinkNVSwitchCUDAGPUA100GPU90%以IDC2025GPUAI8FPGA90%[9]。TPUNPUTPUNPUASICTPU等公司也都推出了深度神經(jīng)網(wǎng)絡(luò)加速的ASICNPU、阿里平頭哥NPUOmdia32Arista18%。TOP3MetaInfiniand和RoE智算網(wǎng)絡(luò)的低時(shí)延、大帶寬、穩(wěn)定運(yùn)行、大規(guī)模以及可運(yùn)維的需求。InfiniBandRoCERoCENVIDIAConnectX（二IDC決方案Meta11人工智能數(shù)據(jù)中心的建設(shè)。另一方面加速布局AI大模型，如谷歌域建設(shè)超算中心Dojo，擁有超過(guò)100萬(wàn)個(gè)訓(xùn)練節(jié)點(diǎn)，算力達(dá)到1.1EFLOPS[10]AIAI“AppleGPT”。IDC服務(wù)商依托云/網(wǎng)資源優(yōu)勢(shì)，積極參與智算建設(shè)。國(guó)內(nèi)運(yùn)營(yíng)1.6Tb[11]IDC2023NTT585902023IT（三）下游：車企領(lǐng)銜行業(yè)大模型落地應(yīng)用MetaAISandbox為廣告生成不同的文字、Apple推出生成式人工智能元宇宙產(chǎn)品VisinProsiriGPTGPTAI 圖3國(guó)內(nèi)外大模型行業(yè)分布[13]車企布局智算中心用于自動(dòng)駕駛大模型訓(xùn)練。特斯拉基于BEV2024100EFLOPSAI湖州20251.2EFLOPS[14]。170[15]基于6POS倍[16]。2、國(guó)產(chǎn)自研AI芯片加速入場(chǎng)，短期高效供給仍受限國(guó)產(chǎn)硬件廠商持續(xù)突破AI芯片性能，提升市場(chǎng)競(jìng)爭(zhēng)力。AIMindSporeAIAI大型云商自研AI芯片，以擺脫對(duì)國(guó)外技術(shù)依賴。阿里面向自身AIRISC-V800TFlopsAIAIAI47（FP64）生態(tài)方面，CUDA用OpenCL3、智算中心建設(shè)版圖持續(xù)擴(kuò)張，智算服務(wù)靈活多樣智算中心聚焦東部城市，以政府主導(dǎo)國(guó)產(chǎn)化為主。202353544（1529）AI9（%9東部多為政府主導(dǎo)建設(shè)，且國(guó)產(chǎn)化占比高（54%），西部以云商自建為主。34AI（成熟等因素影響，智算規(guī)模普遍偏小。智算中心規(guī)模在100-300PFLOPS701EFLOPS（圖4我國(guó)智算中心及大模型分布務(wù)以及各種組合模式。（一（主要面向云商、AI公司、大型央企等客戶。（二IT（10BGPU（三IaaS到SaaSGPUIaaSMaaS大模型和MaaSSaaS圖5智算服務(wù)體系A(chǔ)IAI4、大模型呈蓬勃發(fā)展態(tài)勢(shì)，助力產(chǎn)數(shù)業(yè)務(wù)發(fā)展從8020201079/地區(qū)（38、（20（5（5）[18]/科研機(jī)構(gòu)是開(kāi)源主力。清華大學(xué)的ChatGLM-6B大學(xué)的MOSS通用大模型不僅需要海量數(shù)據(jù)與雄厚算力支撐，對(duì)資金實(shí)力、人ChatGPT87未來(lái)將呈現(xiàn)少勢(shì)。AI能為這些行100030002023872（14（14（8（8圖6大模型潛在影響矩陣[19]三、智算發(fā)展五大新趨勢(shì)趨勢(shì)1：國(guó)產(chǎn)多元異構(gòu)算力融合推動(dòng)智算長(zhǎng)效發(fā)展大模型發(fā)展推動(dòng)、GPU、DPU等“XPU”異構(gòu)算力融合。[20]GPUDPUDPU實(shí)現(xiàn)PPS高端AI芯片國(guó)產(chǎn)化能力是我國(guó)智算產(chǎn)業(yè)長(zhǎng)效發(fā)展的關(guān)鍵。一方AIIDC18GPU、ASIC和FPGAAI芯片性能與國(guó)際領(lǐng)先水平仍有差距，對(duì)美國(guó)依賴較大。隨著美國(guó)AI含香港GPU趨勢(shì)2：智算從單節(jié)點(diǎn)向區(qū)域化協(xié)同、邊端部署演變大模型驅(qū)動(dòng)的智算成為東數(shù)西算的最佳實(shí)踐。由于異構(gòu)算力封裝、超大帶寬和超低延遲傳輸網(wǎng)絡(luò)技術(shù)仍未解決，以當(dāng)前模型訓(xùn)練參數(shù)量（）AI（5億以上usT訓(xùn)練-推理的集中-邊緣/終端兩級(jí)化布局逐步形成。ChatGPT12.8GPT4的Bing用戶訪問(wèn)規(guī)模已超ChatGPT2B2C2023212H100[21]圖7智算中心業(yè)務(wù)訪問(wèn)模式趨勢(shì)3：普惠泛在的智算服務(wù)生態(tài)正逐步構(gòu)建智能算力使用具有周期性，復(fù)用難。AI大模型以“大規(guī)模預(yù)訓(xùn)練﹢AIAI復(fù)用。據(jù)IDC802-3地方政府主導(dǎo)建設(shè)公共算力服務(wù)平臺(tái)，提供普惠算力。算力服務(wù)趨勢(shì)4：確定性、高性能網(wǎng)絡(luò)助推大規(guī)模智算集群構(gòu)建0.1（）1.6104GB400Gbit/s44Tbit/s1050km400G[22]10TB趨勢(shì)5：低碳化發(fā)展格局需創(chuàng)新智算-電網(wǎng)協(xié)同模式203050005OpenAIGPT-3128712011000010402030四、智算技術(shù)發(fā)展的七大關(guān)鍵詞關(guān)鍵詞1：存算一體AI數(shù)據(jù)速度之間嚴(yán)重失衡的問(wèn)題，嚴(yán)重影響目標(biāo)應(yīng)用程序的功率和性能），10力能耗，在VR/AR的實(shí)現(xiàn)方案包括：一是利用先進(jìn)封裝技術(shù)把計(jì)算邏輯芯片和存儲(chǔ)器（如封裝到一起；二是在傳統(tǒng)DRAMSRAMNORFlashNANDFlash關(guān)鍵詞2：一云多芯一云多芯是指用一套云操作系統(tǒng)來(lái)管理不同架構(gòu)的硬件服務(wù)器IT5GGPUX86ARM、RISC-V關(guān)鍵詞3：CPOAICPO800G100AIGC800G/1.6T20256051.2T800GCPO64800G3.2AIGCGPU25%，TCO30[23]。圖8以太網(wǎng)轉(zhuǎn)發(fā)芯片演進(jìn)關(guān)鍵詞4：RDMARDMA(RemoteDirectMemoryAccess)RDMA技術(shù)主要采用的方案為InfiniBand和RoCEv2InfiniBand200Gbps、400GbpsInfiniBandGPUInfiniBandRoCEv2InfiniBand圖9InfiniBand和RoCEv2的技術(shù)對(duì)比關(guān)鍵詞5：DDC傳統(tǒng)CLOS網(wǎng)絡(luò)架構(gòu)面臨多級(jí)轉(zhuǎn)發(fā)導(dǎo)致時(shí)延高、設(shè)備低緩存、易丟包等挑戰(zhàn)，目前業(yè)界主要圍繞優(yōu)化CLOS架構(gòu)、DDC等開(kāi)展研究。（一云商普遍采用多軌道流量聚合優(yōu)化面向大模型訓(xùn)練的三層CLOS架構(gòu)，確保在大規(guī)模訓(xùn)練時(shí)集群的性能和加速比。在多軌道網(wǎng)（Rsth（圖10多軌道流量聚合（二AT&TDD（DisaggrgtedDisribuedhassis）架構(gòu)，支持I超大規(guī)模集群彈性部署。DDC群通過(guò)集中式或者分布式的DDCAIVOQ+CellECMPDDCDDC圖11DDC架構(gòu)[24]關(guān)鍵詞6：并行計(jì)算40模的GPUGPU一系列優(yōu)化算法和技術(shù)有效提升了算法的運(yùn)行效率和并發(fā)性能以及關(guān)鍵詞7：液冷AI6-82800WAI41800WAI25kw25-30kw[25]PUE15kW/柜以100%液體冷卻，具有更優(yōu)的節(jié)能效果，PUE1.21.1；浸PUE202540%[26]。五、智算發(fā)展?jié)摿υu(píng)估AI1、評(píng)估方法評(píng)估簡(jiǎn)稱為ICDP-EM（Intelligentcomputingdevelopmentpotentialevaluationmodel）。ICDP-EM13圖12中國(guó)智算產(chǎn)發(fā)展?jié)摿υu(píng)估模型(ICDP-EM)（一）模型分析1）外部環(huán)境AIGDP基礎(chǔ)設(shè)施5GIPV6AIIDC服務(wù)應(yīng)用AIAIAI（二）評(píng)估方案1依據(jù)ICDP-EM模型分析，設(shè)計(jì)評(píng)估體系的評(píng)估方案，流程如下：1詳細(xì)的評(píng)估流程，見(jiàn)附錄指標(biāo)構(gòu)建：ICDP-EM3。指標(biāo)賦值計(jì)三級(jí)指標(biāo)對(duì)應(yīng)的最新數(shù)據(jù)，為三級(jí)指標(biāo)賦值提供權(quán)威、客權(quán)重確定：AHPAHP評(píng)估指數(shù)結(jié)果評(píng)估結(jié)果，包括綜合評(píng)估指數(shù)、外部環(huán)境評(píng)估指數(shù)、基礎(chǔ)設(shè)施評(píng)估指數(shù)、服務(wù)應(yīng)用評(píng)估指數(shù)。2、評(píng)估結(jié)果圖13 2023國(guó)31算發(fā)綜評(píng)指數(shù)312（一）智算發(fā)展?jié)摿C合評(píng)估指數(shù)有較高智算發(fā)展?jié)摿Φ某鞘小?3、14502514長(zhǎng)三角地區(qū)人均GDP展建設(shè)上有更大的優(yōu)勢(shì)，助力大模型等AI業(yè)務(wù)快速發(fā)展。圖14人均GDP與綜合指數(shù)的象限圖（二）外部環(huán)境評(píng)估指數(shù)2因數(shù)據(jù)獲取難度等限制，本報(bào)告只統(tǒng)計(jì)中國(guó)31省數(shù)據(jù)，不包括中國(guó)香港、中國(guó)臺(tái)灣和中國(guó)澳門中西部地區(qū)因綠電、建設(shè)成本低等特點(diǎn)，在智算發(fā)展的外部環(huán)境方面優(yōu)勢(shì)凸顯。15GDP圖152023中國(guó)31省智算發(fā)展外部環(huán)境評(píng)估指數(shù)（三）基礎(chǔ)設(shè)施評(píng)估指數(shù)區(qū)圖162023中國(guó)31省智算發(fā)展基礎(chǔ)設(shè)施評(píng)估指數(shù)16梯隊(duì)，京津冀基礎(chǔ)設(shè)施能力處于中上游水平,山東躋身第一梯隊(duì)。西部地區(qū)在基礎(chǔ)設(shè)施建設(shè)上還有很大發(fā)展空間，尤其寧夏、甘肅作為八大樞紐節(jié)之二，在光纖、5G基站、IDC機(jī)架建設(shè)等方面可重點(diǎn)發(fā)力。（四）服務(wù)應(yīng)用評(píng)估指數(shù)圖172023中國(guó)31省智算發(fā)展服務(wù)應(yīng)用評(píng)估指數(shù)智算服務(wù)應(yīng)用能力主要聚集在經(jīng)濟(jì)較發(fā)達(dá)的一、二線城市17用方面遠(yuǎn)高于其他省份。服務(wù)應(yīng)用能力受基礎(chǔ)設(shè)施能力的影響較大，服務(wù)應(yīng)用評(píng)估指數(shù)的第一梯隊(duì)（北京、廣東）和第二梯隊(duì)（上海、江蘇、浙江、山東），其均處于基礎(chǔ)設(shè)施評(píng)估指數(shù)的第一梯隊(duì)。圖18綜合評(píng)估指數(shù)Top10省份細(xì)分評(píng)估指數(shù)對(duì)比基于以上評(píng)估指數(shù)排序，對(duì)綜合評(píng)估指數(shù)top10的城市進(jìn)行外部18（六、典型案例1、中國(guó)電信安徽智算中心150100202112月投產(chǎn)2024A6棟2121600030持算力規(guī)?？蛇_(dá)到2.2EFLOPS，使安徽省的整體算力規(guī)模翻番[27]。2090%。224920+448910100P智3000PAIPUE1.2520222、中國(guó)電信（國(guó)家）數(shù)字青海綠色大數(shù)據(jù)中心（100%清潔2023430節(jié)能技術(shù)方面，利用青海的自然條件優(yōu)勢(shì)，采用冷凍水+間接蒸314PUE1.260[28]入駐。3、海蘭信海底數(shù)據(jù)中心GPTAIAI圖19海底數(shù)據(jù)中心概念圖23141001157.871能20221225PUE300圖20全球首例商用海底數(shù)據(jù)中心入海瞬間IT中國(guó)電信海南分公司在海底數(shù)據(jù)中心部署的業(yè)務(wù)包括媒體存儲(chǔ)CDN4m打造海上新能源與數(shù)字經(jīng)濟(jì)融合發(fā)展新賽道。圖21海底數(shù)據(jù)中心與海上風(fēng)電融合方案七、總結(jié)與展望AIGCAIAI八、附錄-智算評(píng)估實(shí)施方案本白皮書對(duì)中國(guó)智算產(chǎn)業(yè)潛力發(fā)展評(píng)估的具體實(shí)施方案如下。1、評(píng)估指標(biāo)模型構(gòu)建附表1.中國(guó)智算發(fā)展?jié)摿υu(píng)估指標(biāo)體系2、評(píng)估指標(biāo)賦值313124????′。3、評(píng)估指標(biāo)權(quán)重設(shè)計(jì)AHP（一）一、二級(jí)指標(biāo)權(quán)重確定基于AHP附表2.智算發(fā)展?jié)摿υu(píng)估指標(biāo)評(píng)判矩陣模板指標(biāo)1指標(biāo)2…指標(biāo)n指標(biāo)1????????????…??????指標(biāo)2????????????…??????……………指標(biāo)n????????????