AI算力芯片市場分析

AI算力芯片市場分析一、AI處史上最長繁榮期，算力國產(chǎn)化需求迫切AI正處史上最長繁榮大周期人工智能從1956年被正式提出以來，經(jīng)歷了數(shù)十年的發(fā)展歷程。人工智能誕生初期，其研究主要分為三個流派，即邏輯演繹、歸納統(tǒng)計和類腦計算。人工智能研究的三大流派各有優(yōu)劣勢。類腦計算流派的目標最為宏遠，但在未得到生命科學的支撐之前，難以取得實際應(yīng)用。歸納演繹流派的思考方式與人類相似，具有較強的可解釋性。由于對數(shù)據(jù)和算力的依賴較少，歸納演繹流派成為人工智能前兩次繁榮的主角。隨著學界對人工智能困難程度的理解逐漸加深，數(shù)理邏輯方法的局限性被不斷放大，并最終在第三次繁榮期中，逐漸讓位于統(tǒng)計學習的“暴力美學”。在進入21世紀以來，在大數(shù)據(jù)和大算力的支持下，歸納統(tǒng)計方法逐漸占據(jù)了人工智能領(lǐng)域的主導地位，深度學習的浪潮席卷人工智能，人工智能迎來史上最長的第三次繁榮期，至今仍未有結(jié)束的趨勢。智能算力規(guī)模將快速增長復(fù)雜的模型和大規(guī)模的訓練需要大規(guī)模的高算力支持，這不僅需要消耗大量計算資源，而且對算力的速度、精度、性能也提出更高要求。市場對于更高性能的智能算力需求將顯著提升，智能算力增長速率約通用算力的兩倍。據(jù)IDC和浪潮信息測算，2022年中國通用算力規(guī)模達54.5EFLOPS，預(yù)計到2027年通用算力規(guī)模將達到117.3EFLOPS。2022年中國智能算力規(guī)模達259.9EFLOPS，預(yù)計到2027年將達到1117.4EFLOPS。2022-2027年期間，中國智能算力規(guī)模年復(fù)合增長率達33.9%，同期通用算力規(guī)模年復(fù)合增長率為16.6%。AI服務(wù)器需求旺盛從感知智能到生成式智能，人工智能越來越需要依賴“強算法、高算力、大數(shù)據(jù)”的支持。模型的大小、訓練所需的參數(shù)量等因素將直接影響智能涌現(xiàn)的質(zhì)量，人工智能模型需要的準確性越高，訓練該模型所需的計算力就越高。IDC預(yù)計，全球人工智能硬件市場（服務(wù)器）規(guī)模將從2022年的195億美元增長到2026年的347億美元，五年年復(fù)合增長率達17.3%；在中國，預(yù)計2023年中國人工智能服務(wù)器市場規(guī)模將達到91億美元，同比增長82.5%，2027年將達到134億美元，五年年復(fù)合增長率達21.8%。二、AI技術(shù)收斂，GPU主宰算力芯片AI芯片架構(gòu)眾多AI芯片根據(jù)其技術(shù)架構(gòu)，可分為GPU、FPGA、ASIC及類腦芯片，同時CPU可執(zhí)行通用AI計算。相較于傳統(tǒng)的中央處理器（CPU），GPU具有并行計算、高效能和高并發(fā)等優(yōu)勢，因此在人工智能、機器學習、數(shù)據(jù)挖掘等領(lǐng)域得到廣泛應(yīng)用。AI芯片根據(jù)其在網(wǎng)絡(luò)中的位置可以分為云端AI芯片、邊緣及終端AI芯片；根據(jù)其在實踐中的目標，可分為訓練芯片和推理芯片。云端主要部署訓練芯片和推理芯片，承擔訓練和推理任務(wù)，具體指智能數(shù)據(jù)分析、模型訓練任務(wù)和部分對傳輸帶寬要求比高的推理任務(wù)；邊緣和終端主要部署推理芯片，承擔推理任務(wù)，需要獨立完成數(shù)據(jù)收集、環(huán)境感知、人機交互及部分推理決策控制任務(wù)。GPU與深度學習技術(shù)相契合GPU設(shè)計之初用于對圖形進行渲染，需要并行處理海量數(shù)據(jù)，涉及大量矩陣運算。深度學習依賴于數(shù)學和統(tǒng)計學計算，所以圖形渲染與深度學習有著相似之處，這兩種場景都需要處理每秒大量的矩陣乘法運算。GPU擁有數(shù)千個內(nèi)核的處理器，能夠并行執(zhí)行數(shù)百萬個數(shù)學運算。因此GPU完美地與深度學習技術(shù)相契合。使用GPU做輔助計算，能夠更快地提高AI的性能。CPU+GPU是人工智能異構(gòu)計算的主要組合形式異構(gòu)計算仍然是芯片發(fā)展趨勢之一。異構(gòu)計算通過在單一系統(tǒng)中利用不同類型的處理器（如CPU、GPU、ASIC、FPGA、NPU等）協(xié)同工作，執(zhí)行特定任務(wù)，以優(yōu)化性能和效率，更高效地利用不同類型的計算資源，滿足不同的計算需求。得益于硬件支持與軟件編程、設(shè)計方面的優(yōu)勢，CPU+GPU成為了目前應(yīng)用最廣泛的平臺。截至2023年10月，中國市場普遍認為“CPU+GPU”的異構(gòu)方式是人工智能異構(gòu)計算的主要組合形式。三、“AI信創(chuàng)”驅(qū)動，培育國產(chǎn)算力生態(tài)GPU行業(yè)需跨越CUDA橫亙英偉達CUDA已經(jīng)實現(xiàn)了與算法工程師、芯片客戶的強綁定，眾多算法工程師已經(jīng)習慣了一套工具庫、一套編程語言，向外遷移存在不習慣等問題。所以很多算力芯片硬件廠商選擇了兼容CUDA的路線——使硬件能夠直接用CUDA調(diào)動起來，以降低用戶的硬件遷移痛點。兼容CUDA需要巨大時間和成本投入。據(jù)集微網(wǎng)，兼容CUDA涉及50個驅(qū)動、50個編譯器、50個數(shù)學庫、300個應(yīng)用層工程師，3-5年的時間。功能的驗證，用戶的培養(yǎng)需要額外3-5年，每年還要至少開支1000萬-3000萬元資助外部開發(fā)者。從頭部AI廠商布局來看，英偉達競爭者AMD選擇兼容CUDA+自研原生“兩條腿”并行，英偉達客戶谷歌、Meta、亞馬遜等均已推出自己的AI芯片。我們認為，國產(chǎn)GPU在起步階段兼容CUDA生態(tài)更容易發(fā)展，易于生存。在美國技術(shù)封鎖的大背景之下，“AI信創(chuàng)”為國產(chǎn)算力芯片提供了市場窗口，遠期國產(chǎn)GPU還是需要發(fā)展原生生態(tài)。國產(chǎn)算力有待提升當下諸多國內(nèi)本土芯片技術(shù)儲備和生態(tài)能力仍圍繞小模型時代的識別式人工智能展開，難以匹配大模型和生成式人工智能發(fā)展所需的軟件生態(tài)、模型框架、性能需求，因此本土人工智能芯片仍需在發(fā)展、繼承和競爭中成長。在中美脫鉤的時代背景下，國產(chǎn)算力芯片正經(jīng)歷“可用”到“好用”的階段，國產(chǎn)算力芯片整體實力有待提升。從生態(tài)成熟度來看，我們認為，華為海思和海光信息有望率先替代英偉達算力芯片。受益于華為ICT行業(yè)的領(lǐng)先地位，昇騰系列將獲得從芯片設(shè)計、芯片制造、算力部署、應(yīng)用生態(tài)的全方位支持，有更大概率成為主流國產(chǎn)算力芯片。四、HBM解決GPU內(nèi)存危機，成為存儲下一主戰(zhàn)場AI算力刺激更多存儲器用量AI服務(wù)器存儲容量倍增，帶動存儲器需求成長。據(jù)TrendForce，AI服務(wù)器需要配置更多DRAM、SSD和HBM等大容量存儲以應(yīng)對日益復(fù)雜的大模型所帶來的海量數(shù)據(jù)。當前普通服務(wù)器DRAM普遍配置約為500至600GB，而AI服務(wù)器DRAM配置可達1.2至1.7TB，是普通服務(wù)器的二到三倍。此外，相較于一般服務(wù)器而言，AI服務(wù)器多增加GPGPU的使用，因此以NVIDIAA10080GB配置4或8張計算，HBM用量約為320~640GB。未來在AI模型逐漸復(fù)雜化的趨勢下，將刺激更多的存儲器用量，并同步帶動ServerDRAM、SSD以及HBM的需求成長。HBM解決GPU內(nèi)存危機處理器的性能按照摩爾定律規(guī)劃的路線不斷飆升，內(nèi)存所使用的DRAM卻從工藝演進中獲益很少，性能提升速度遠慢于處理器速度，造成了DRAM的性能成為制約計算機性能的一個重要瓶頸，即所謂的“內(nèi)存墻”。HBM成為增加存儲器帶寬的路徑之一，以解決大數(shù)據(jù)時代下的“內(nèi)存墻”問題。HBM（HighBandwidthMemory）即高帶寬存儲器，按照JEDEC的分類，HBM屬于GDDR內(nèi)存的一種，其通過使用先進的封裝方法（如TSV硅通孔技術(shù)）垂直堆疊多個DRAM，并與GPU封裝在一起。HBM主要優(yōu)勢是在高帶寬和低功耗領(lǐng)域，應(yīng)用場景以配合并行計算的GPU和ASIC芯片為主。HBM供不應(yīng)求AI創(chuàng)造純增量市場，HBM需求量年增近六成。目前高端AI服務(wù)器GPU搭載HBM已成主流，TrendForce預(yù)估2023年全球HBM需求量將年增近六成，來到2.9億GB，2024年將再成長三成。根據(jù)MordorIntelligence，2020年HBM市場價值為10.68億美元，預(yù)計到2026年將達到40.89億美元，在2021-2026年預(yù)測期間的復(fù)合年增長率為25.4%。HBM頭部企業(yè)SK海力士在2023年7月表示，目前其HBM的銷量占比還不足營收1%，但2023年銷售額占比有望成長到10%，同時預(yù)計在2024年應(yīng)用于AI服務(wù)器的HBM和DDR5的銷量將翻一番。2023年10月，SK海力士表示，已經(jīng)在2023年出售了明年HBM3和HBM3E的所有產(chǎn)量。五、異構(gòu)計算時代，先進封裝戰(zhàn)略地位凸顯異構(gòu)計算時代，先進封裝戰(zhàn)略地位凸顯異構(gòu)集成（HeterogeneousIntegration），即橫向和縱向連接多個半導體，可將更多的晶體管裝在一個更小的半導體上，準確地說是在更小的半導體封裝內(nèi)，從而提供比其各部分之和更大的功用。CPU+GPU是人工智能異構(gòu)計算的主要組合形式，英偉達的GraceHopper超級芯片通過異構(gòu)集成CPU、GPU以及存儲器，實現(xiàn)芯片更高帶寬的互連，能夠承擔更大的數(shù)據(jù)集、更復(fù)雜的模型和新的工作負載。先進封裝成為突破“摩爾定律”局限的技術(shù)。先進封裝技術(shù)充當著半導體器件與系統(tǒng)之間的橋梁，是實現(xiàn)異構(gòu)集成的關(guān)鍵技術(shù)，因此，這種連接方法變得越來越重要。先進封裝技術(shù)本身已成為一種系統(tǒng)解決方案，半導體頭部設(shè)計、制造商均通過此方法，在摩爾定律放緩的時代，從系統(tǒng)層面繼續(xù)提升芯片性能。順應(yīng)AI算力芯片發(fā)展，封裝技術(shù)持續(xù)創(chuàng)新自2020年開始，先進封裝進入技術(shù)融合期，成為關(guān)鍵的系統(tǒng)級解決方案。不僅需要借助多項技術(shù)將各類芯片集成到同一封裝內(nèi)，還需要在整合系統(tǒng)時將多個部分連接至同一模塊。AI計算芯片融合了多項先進封裝技術(shù)，HBM應(yīng)用TSV堆疊技術(shù)獲得超高帶寬，而為了將HBM和GPU集成，CoWoS封裝技術(shù)被深度開發(fā)。因此，封裝技術(shù)將成為提供整體系統(tǒng)解決方案的重要手段。海力士判斷，未來各公司將依賴封裝技術(shù)助力其成為半導體行業(yè)的領(lǐng)軍者。順應(yīng)AI算力芯片發(fā)展，封裝技術(shù)持續(xù)創(chuàng)新隨著封裝技術(shù)的發(fā)展，近十年中，重新分配層（RDL）、倒片封裝（FlipChip）和硅穿孔（TSV）等封裝技術(shù)得到了積極廣泛的應(yīng)用，在硅晶圓或芯片堆疊結(jié)構(gòu)晶圓中進行工藝處理，大幅提高了產(chǎn)品的性能和容量。SK海力士憑借業(yè)界領(lǐng)先的TSV堆疊技術(shù)引領(lǐng)了市場發(fā)展，這其中包括HBM封裝存儲器解決方案，以及用于服務(wù)器的高密度存儲器（HDM）三維堆疊技術(shù)。同時，海力士持續(xù)迭代封裝技術(shù)，研發(fā)了批量回流模制底部填充、混合鍵合、扇出型晶圓級封裝等技術(shù)，以進一步提升了HBM的堆疊層數(shù)。六、電源技術(shù)提升計算能效，背面供電蓄勢待發(fā)AI算力對高效電源提出新需求據(jù)高性能電源解決方案供應(yīng)商MPS測算，云計算領(lǐng)域的電源市場規(guī)模增長迅速，從2015年8億美元，至2021年增長四倍，達到40億美元。云計算模擬電源市場由CPU服務(wù)器電路、GPU服務(wù)器電路、機架電路構(gòu)成，市場規(guī)模分別為10億美元、10億美元、20億美元。CPU服務(wù)器中，CPU供電、存儲器供電、PoL（負載點）供電、eFuse（電子保險絲）市場規(guī)模分別為6億、2.8億美元、0.6億美元、0.6億美元。服務(wù)器電源架構(gòu)轉(zhuǎn)向48V48V直流供電能夠降低服務(wù)器配電損耗。據(jù)松下測試結(jié)果，計算配電路徑的電阻為0.1mΩ時的配電損耗，12V時為100W，48V時為6.25W，會出現(xiàn)16倍的計算差異。在各家公司都在積極致力于節(jié)省電力消耗中，谷歌公司于2016年率先引入了48V直流供電的手法。算力電路的供電設(shè)計擁有較高壁壘典型48V電源架構(gòu)包含一個AC/DC前端，負責生成48V直流電。該直流電會被輸送至DC/DC變換器，在這里電壓被轉(zhuǎn)