計(jì)算機(jī)行業(yè)深度報(bào)告:國產(chǎn)AI算力行業(yè)報(bào)告浪潮洶涌勢不可擋_第1頁
計(jì)算機(jī)行業(yè)深度報(bào)告:國產(chǎn)AI算力行業(yè)報(bào)告浪潮洶涌勢不可擋_第2頁
計(jì)算機(jī)行業(yè)深度報(bào)告:國產(chǎn)AI算力行業(yè)報(bào)告浪潮洶涌勢不可擋_第3頁
計(jì)算機(jī)行業(yè)深度報(bào)告:國產(chǎn)AI算力行業(yè)報(bào)告浪潮洶涌勢不可擋_第4頁
計(jì)算機(jī)行業(yè)深度報(bào)告:國產(chǎn)AI算力行業(yè)報(bào)告浪潮洶涌勢不可擋_第5頁
已閱讀5頁,還剩15頁未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡介

東吳證券研究所東吳證券研究所內(nèi)容目錄海外:模型、應(yīng)用和算力相互推進(jìn) 4國內(nèi)模型逐步追趕,提升算力需求 5國內(nèi)算力產(chǎn)業(yè)現(xiàn)狀盤點(diǎn) 6算力有哪些核心指標(biāo)? 6國產(chǎn)算力和海外的差距 7國產(chǎn)化和生態(tài)抉擇 8國內(nèi)算力廠商競爭要素 9國內(nèi)AI算力市場空間 9國內(nèi)供給端:騰一馬當(dāng)先,各家競相發(fā)展 10昇騰計(jì)算產(chǎn)業(yè)鏈 10昇騰服務(wù)器 12昇騰一體機(jī) 13海光信息 14寒武紀(jì) 15景嘉微 15算力租賃 15算力液冷 16全國一體化算力網(wǎng) 17央企AI 20投資建議 21風(fēng)險(xiǎn)提示 212/22東吳證券研究所東吳證券研究所圖表目錄圖1:Claude3benchmarks 4圖2:GB200超級芯片 5圖3:GPU算力浮點(diǎn)數(shù)圖示 6圖4:關(guān)鍵參數(shù)關(guān)系示意圖 7圖5:主流國內(nèi)外AI芯片性能對比 7圖6:中國AI服務(wù)器市場規(guī)模 9圖7:華為昇騰人工智能生態(tài) 圖8:華為大模型生態(tài)合作伙伴 12圖9:華為昇騰整機(jī)合作伙伴主業(yè)情況(截至2024年3月24日) 12圖10:已發(fā)布訓(xùn)推一體機(jī)主要產(chǎn)品 13圖海光DCU深算一號和英偉達(dá)A100性能對比 14圖12:寒武紀(jì)主要產(chǎn)品矩陣 15圖13:算力調(diào)度涉及的關(guān)鍵環(huán)節(jié) 18圖14:2019-2022年中國IaaS市場規(guī)模(公有云) 19圖15:2022年中國公有云IaaS市場格局 19圖16:中國算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展指標(biāo) 20表1:冷板和浸沒式液冷存量改造市場空間測算 17表2:冷板和浸沒式液冷AI服務(wù)器增量改造市場空間測算 17表3:2025年中國算力調(diào)度潛在市場規(guī)模測算 203/22東吳證券研究所海外:模型、應(yīng)用和算力相互推進(jìn)東吳證券研究所月16發(fā)布了首個(gè)文生視頻模型SoraSora60秒月4日,Anthropic發(fā)布了新一代AI大模型系列——Claude3。Claude3HaikuClaude3Sonnet和Claude3Opus。Opus和Gemini1.0Ultra,Claude(OpusMMMUGemini1.0Ultra持平。圖1:Claude3benchmarks數(shù)據(jù)來源:Anthropic,3月18AIxAIGrok-1xAIGrok-1xAI202310JAXRust3140OpenAI的GPT模型。在CEO奧爾特曼的帶領(lǐng)下,OpenAI或許有望在今年夏季推出GPT-5。3月23日,OpenAIOpenAIOpenAIAISora應(yīng)用到電影制作中,從而拓展OpenAI4/22東吳證券研究所3月19日,英偉達(dá)GTC大會(huì)上,英偉達(dá)發(fā)布新的B200GPU,以及將兩個(gè)B200東吳證券研究所與單個(gè)GraceCPU相結(jié)合的GB200。全新B200GPU擁有2080億個(gè)晶體管,采用臺積電4NP工藝節(jié)點(diǎn),提供高達(dá)20petaflopsFP4的算力。與H100相比,B200的晶體管數(shù)量是其(800億)2倍多。而單個(gè)H100最多提供4petaflops算力,直接實(shí)現(xiàn)了5倍性能提升。而GB200是將2個(gè)BlackwellGPU和1個(gè)GraceCPU結(jié)合在一起,能夠?yàn)長LM推理工作負(fù)載提供30倍性能,同時(shí)還可以大大提高效率。圖2:GB200超級芯片數(shù)據(jù)來源:英偉達(dá),計(jì)算能力不斷提升。過去,訓(xùn)練一個(gè)1.8萬億參數(shù)的模型,需要8000個(gè)HopperGPU15MW個(gè)BlackwellGPU4MW。的性能是H1007H1004倍。國內(nèi)模型逐步追趕,提升算力需求Kimi逐漸走紅。月之暗面Kimi智能助手2023年10月初次亮相時(shí),憑借約20萬漢字的無損上下文能力,幫助用戶解鎖了專業(yè)學(xué)術(shù)論文的翻譯和理解、輔助分析法律問題、一次性幾十張發(fā)票、快速理解API開發(fā)文檔等,獲得了良好的用戶口碑和用戶量的快速增長。2024年3月18日,Kimi智能助手在長上下文窗口技術(shù)上再次取得突破,無損上200過去要1000010就能接近任KimiKimi幫助2005/22東吳證券研究所訪問量提升,kimi算力告急。321KimiAPP3209東吳證券研究所30Kimi2010SaaS429:engineisoverloaded2024年3月23日,階躍星辰發(fā)布StepStep-1千億參Step-1VStep-2MoEAPI相比于GPT-3.5是一個(gè)千億參數(shù)模型,GPT-4是擁有萬億規(guī)模參數(shù),國內(nèi)大模型廠商如果想追趕,需要各個(gè)維度要求都上一個(gè)臺階。階躍星辰發(fā)布了萬億參數(shù)大模型預(yù)覽版,標(biāo)志著國產(chǎn)AI大模型取得了巨大進(jìn)步。國產(chǎn)AI大模型正在不斷迭代,對算力需求會(huì)不斷提升。國內(nèi)算力產(chǎn)業(yè)現(xiàn)狀盤點(diǎn)算力有哪些核心指標(biāo)?算力芯片的主要參數(shù)指標(biāo)為算力浮點(diǎn)數(shù),顯存,顯存帶寬,功耗和互連技術(shù)等。,英文Floating-pointOperationsPerINT8FP64仿真等;FP32計(jì)算多用于大模型訓(xùn)練等場景;FP16和INT8多用于模型推理等對精度要求較低的場景。圖3:GPU算力浮點(diǎn)數(shù)圖示數(shù)據(jù)來源:CSDN,GPU顯存:顯存用于存放模型,數(shù)據(jù)顯存越大,所能運(yùn)行的網(wǎng)絡(luò)也就越大。6/22東吳證券研究所在預(yù)訓(xùn)練階段,大模型通常選擇較大規(guī)模的數(shù)據(jù)集獲取泛化能力,因此需要較大的東吳證券研究所32進(jìn)行訓(xùn)練。需要消耗大量的GPU16在推理階段,通常只是將一個(gè)輸入數(shù)據(jù)經(jīng)過模型的前向計(jì)算得到結(jié)果即可,因此需要最少的顯存即可運(yùn)行。顯存帶寬:是運(yùn)算單元和顯存之間的通信速率,越大越好?;ミB技術(shù):一般用于顯存之間的通信,分布式訓(xùn)練,無論是模型并行還是數(shù)據(jù)并行,GPU之間都需要快速通信,不然就是性能的瓶頸。圖4:關(guān)鍵參數(shù)關(guān)系示意圖數(shù)據(jù)來源:繪制國產(chǎn)算力和海外的差距從單芯片能力看,訓(xùn)練產(chǎn)品與英偉達(dá)仍有1-2代硬件差距。根據(jù)科大訊飛,華為昇騰910B能力已經(jīng)基本做到可對標(biāo)英偉達(dá)A100。推理產(chǎn)品距離海外差距相對較小。圖5:主流國內(nèi)外AI芯片性能對比7/22東吳證券研究所東吳證券研究所數(shù)據(jù)來源:公司官網(wǎng),從片間互聯(lián)看,片間和系統(tǒng)間互聯(lián)能力較弱。國產(chǎn)AI芯片以免費(fèi)CCIX為主,生AI從研發(fā)能力看,(PHB)國產(chǎn)化和生態(tài)抉擇海外制裁后,AI芯片國產(chǎn)化訴求加大。主要系供應(yīng)鏈安全和政策強(qiáng)制要求。2024322(2024-2025年到2025年,上海50%,50%10家。但國產(chǎn)AI8/22東吳證券研究所于訓(xùn)練。如用于訓(xùn)練,則需花費(fèi)較多人員進(jìn)行技術(shù)服務(wù),額外投入資源較大。東吳證券研究所華為與訊飛構(gòu)建騰萬卡集群。2023年10月24日,科大訊飛攜手華為,宣布130日,騰AIROCE間的全閃和混閃并行文件系統(tǒng),可支撐萬億參數(shù)大模型高速訓(xùn)練。國內(nèi)算力廠商競爭要素供應(yīng)鏈安全。受美國制裁影響,眾多算力芯片廠商芯片供應(yīng)鏈出現(xiàn)問題。如果能夠解決供應(yīng)鏈問題,持續(xù)為客戶供應(yīng)芯片,將是一大核心競爭力。AI政府關(guān)系。AIAI國內(nèi)AI算力市場空間IDC報(bào)告預(yù)計(jì),2023年中國人工智能服務(wù)器市場規(guī)模將達(dá)91億美元,同比增長82.5%,2027年將達(dá)到134億美元,2022-2027年年復(fù)合增長率達(dá)21.8%。圖6:中國AI服務(wù)器市場規(guī)模9/22東吳證券研究所東吳證券研究所中國人工智能服務(wù)器市場規(guī)模(億美元)13491134911401201008060402002023 2027數(shù)據(jù)來源:IDC,算力需求市場空間巨大。在英偉達(dá)GTC大會(huì)上,黃仁勛講到,如果要訓(xùn)練一個(gè)1.8萬億參數(shù)量的GPT8000張Hopper15908H100GPUH100隨著國產(chǎn)化率逐步提升,我們預(yù)計(jì)AI芯片逐步成為國內(nèi)芯片的主要組成。國內(nèi)供給端:昇騰一馬當(dāng)先,各家競相發(fā)展北京商報(bào)對華為公司董事長梁華的主題演講的分享中提到,昇騰已經(jīng)在華為云和28個(gè)城市的智能算力中心大規(guī)模部署,根據(jù)財(cái)聯(lián)社報(bào)道,2022年昇騰占據(jù)國內(nèi)智算中心約79%的市場份額。昇騰計(jì)算產(chǎn)業(yè)鏈華為主打AI芯片產(chǎn)品有310和910B。310偏推理,當(dāng)前主打產(chǎn)品為910B,擁有FP32和FP16兩種精度算力,可以滿足大模型訓(xùn)練需求。910B單卡和單臺服務(wù)器性能對標(biāo)A800/A100。騰計(jì)算產(chǎn)業(yè)是基于騰AI芯片和基礎(chǔ)軟件構(gòu)建的全棧AIAIAICANN、AIAI;基于騰AI軟件系統(tǒng):10/22東吳證券研究所異構(gòu)計(jì)算架構(gòu)CANN以及對應(yīng)的調(diào)試調(diào)優(yōu)工具、開發(fā)工具鏈MindStudio和各種運(yùn)維管理工具等。東吳證券研究所Al計(jì)算框架包括開源的MindSpore,以及各種業(yè)界流行的框架。昇思MindSporeAI計(jì)算架構(gòu)位居AI框架第一梯隊(duì)。下游應(yīng)用:昇騰應(yīng)用使能MindX,可以支持上層的ModelArts和HiAl等應(yīng)用使能服務(wù)。行業(yè)應(yīng)用是面向千行百業(yè)的場景應(yīng)用軟件和服務(wù),如互聯(lián)網(wǎng)推薦、自然語言處理、語音識別、機(jī)器人等各種場景。圖7:華為昇騰人工智能生態(tài)數(shù)據(jù)來源:華為昇騰計(jì)算產(chǎn)業(yè)白皮書,3.0AICANNAI昇MindSpore,AIModelArts3807101000know-how11/22東吳證券研究所華為與行業(yè)伙伴一起推動(dòng)華為大模型行業(yè)化。東吳證券研究所圖8:華為大模型生態(tài)合作伙伴數(shù)據(jù)來源:華為官方公眾號,騰服務(wù)器華為昇騰整機(jī)合作伙伴與鯤鵬整機(jī)合作伙伴幾乎一致,產(chǎn)線共用,從華為直接獲取AI服務(wù)器或者芯片板卡制造成服務(wù)器。圖9:華為昇騰整機(jī)合作伙伴主業(yè)情況(截至2024年3月24日)12/22東吳證券研究所東吳證券研究所數(shù)據(jù)來源:公司年報(bào),騰一體機(jī)AI訓(xùn)推一體機(jī)是指將大模型等軟件和普通AI服務(wù)器整合在一起對外銷售的整機(jī)。用戶畫像:主要為AI能力自建能力較弱,想要借助AI軟硬件一體化解決方案構(gòu)建AI能力的客戶。銷售方:主要為ISV,從華為整機(jī)廠拿到昇騰整機(jī),然后裝上AI模型和相關(guān)軟件直接銷售給終端使用客戶。AIAI服務(wù)圖10:已發(fā)布訓(xùn)推一體機(jī)主要產(chǎn)品數(shù)據(jù)來源:各公司公眾號,官網(wǎng),13/22東吳證券研究所海光信息東吳證券研究所DCUDCUGPGPU兼容通用的“類Q3100%。海光DCU7nmFinFETGPUNVIDIA公司GPUA100)AMDGPUMI100)進(jìn)行對平。圖11:海光DCU深算一號和英偉達(dá)A100性能對比數(shù)據(jù)來源:招股說明書,英偉達(dá)官網(wǎng),生態(tài)兼容性好。DCUAMDROCmGPU于ROCm和CUDA較低代價(jià)快速遷移至Om平臺,因此OCm也被稱為“類CA海光DCUAI在商業(yè)應(yīng)用方面公司的并推出14/22東吳證券研究所聯(lián)合方案,打造全國產(chǎn)軟硬件一體全棧AI基礎(chǔ)設(shè)施。東吳證券研究所寒武紀(jì)寒武紀(jì)成立于2016IP圖12:寒武紀(jì)主要產(chǎn)品矩陣數(shù)據(jù)來源:公司官網(wǎng),Baichuan2-53B、Baichuan2-13BBaichuan2-7B達(dá)到國際主流產(chǎn)品的水平。2024年1月22(HiDream.ai)景嘉微2024年3月12日,公司面向AI訓(xùn)練、AI推理、科學(xué)計(jì)算等應(yīng)用領(lǐng)域的景宏系列高性能智算模塊及整機(jī)產(chǎn)品“景宏系列”研發(fā)成功,并將盡快面向市場推廣。AIAIINT8FP16FP32FP64CPU流的計(jì)算生態(tài)、深度學(xué)習(xí)框架和算法模型庫,大幅縮短用戶適配驗(yàn)證周期。算力租賃算力租賃就是對算力資源進(jìn)行出租。使用者可以按需調(diào)用算力資源而無需自建算力基礎(chǔ)設(shè)施。15/22東吳證券研究所算力租賃是數(shù)字經(jīng)濟(jì)時(shí)代的新興產(chǎn)物。算力使用者無需投入大量資金購買計(jì)算設(shè)備,東吳證券研究所AI當(dāng)前布局AIIDC4)AI算力租賃目前的核心競爭力是誰能拿到滿足客戶需求的AI算力卡。+算力液冷上半90%。1)AIGPUGPUCPU319日,GTCGB200GB200NVL7236個(gè)CPU和72個(gè)BlackwellMGX252)PUE測算:液冷服務(wù)器市場空間主要來自于兩方面,一方面是存量服務(wù)器改造,另一方面是新增服務(wù)器建設(shè)。存量改造:元4000元/kwAI4萬元。2022年5201900假設(shè)2025年滲透率提升,單價(jià)和服務(wù)器機(jī)架數(shù)維持不變。16/22東吳證券研究所表1:冷板和浸沒式液冷存量改造市場空間測算東吳證券研究所2024E2025及以后滲透率10%50%存量服務(wù)器機(jī)架(萬架)520冷板單價(jià)(元)40000浸沒單價(jià)(元)110000冷板市場空間(億元)832浸沒市場空間(億元)2288數(shù)據(jù)來源:《基于價(jià)值工程的數(shù)據(jù)中心液冷與風(fēng)冷比較分析》,CEC,電信運(yùn)營商液冷技術(shù)白皮書,新增數(shù)量:2027年,中國AI652022-2027(CAGR)2027表2:冷板和浸沒式液冷AI服務(wù)器增量改造市場空間測算2027E中國AI服務(wù)器出貨量(萬臺)65冷板單價(jià)(元)40000浸沒單價(jià)(元)110000冷板市場空間(億元)260浸沒市場空間(億元)715數(shù)據(jù)來源:前瞻研究院,《基于價(jià)值工程的數(shù)據(jù)中心液冷與風(fēng)冷比較分析》,全國一體化算力網(wǎng)20231229202560%資源使用率顯著超過全國平均水平。1ms5ms17/22東吳證券研究所培育算網(wǎng)服務(wù)商:支持培育專業(yè)化算網(wǎng)運(yùn)營商,加強(qiáng)算力與網(wǎng)絡(luò)在運(yùn)行、管理及維東吳證券研究所為數(shù)據(jù)要素市場建設(shè)打基礎(chǔ):1)據(jù)流動(dòng)可以依托國家算力樞紐。圖13:算力調(diào)度涉及的關(guān)鍵環(huán)節(jié)發(fā)電廠 算力中心發(fā)電廠算力中心變壓等措施算力虛擬化、封裝等供電網(wǎng)絡(luò)算力互聯(lián)網(wǎng)絡(luò)用電用戶變壓等措施算力虛擬化、封裝等供電網(wǎng)絡(luò)算力互聯(lián)網(wǎng)絡(luò)用電用戶算力用戶數(shù)據(jù)來源:中國信通院,18/22調(diào)度。央國企有望在算力調(diào)度中大有作為。算力網(wǎng)絡(luò)運(yùn)營和調(diào)度猶如運(yùn)營國家電網(wǎng)和石油運(yùn)輸網(wǎng)絡(luò),央國企有望承擔(dān)起算力網(wǎng)絡(luò)運(yùn)營和調(diào)度的重任。行業(yè)機(jī)構(gòu)主導(dǎo)。1AppStore”2022年中國IaaS市場規(guī)模為3413億元。IaaSAIIaaS24422022IaaS9712022IaaS圖14:2019-2022年中國IaaS市場規(guī)模(公有云) 圖15:2022年中國公有云IaaS市場格局0

453

98%895

161

80%

阿里22%25%%10%244222%25%%10%7東吳證券研究所東吳證券研究所數(shù)據(jù)來源:中國信通院, 數(shù)據(jù)來源:中國信通院,2025300EFLOPS,20231.4IaaS202320222025年中IaaS4778202230%。我們按2025年35%利用率計(jì)算,2025年僅需要盤活的IaaS市場空間就有8873億元。19/22東吳證券研究所圖16:中國算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展指標(biāo)東吳證券研究所數(shù)據(jù)

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲(chǔ)空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

最新文檔

評論

0/150

提交評論