AI 大算力爆發(fā)四大新興賽道卡位風(fēng)口

AI大算力爆發(fā)四大新興賽道卡位風(fēng)口GPT模型在持續(xù)迭代過程中，能力持續(xù)增強(qiáng)，算力需求同樣也呈幾何倍增長(zhǎng)?，F(xiàn)階段的ChatGPT是在擁有3000億個(gè)單詞的語(yǔ)料基礎(chǔ)上預(yù)訓(xùn)練擁有1750億參數(shù)的模型。據(jù)OpenAI測(cè)算，2012年以來全球頭部AI模型訓(xùn)練算力需求3-4個(gè)月翻一番，每年頭部訓(xùn)練模型所需算力增長(zhǎng)幅度高達(dá)10倍，遠(yuǎn)超摩爾定律的增長(zhǎng)速度。據(jù)此前IDC預(yù)測(cè)，預(yù)計(jì)到2025年，中國(guó)數(shù)據(jù)圈將增長(zhǎng)至48.6ZB，占全球數(shù)據(jù)圈的27.8%，成為全球最大的數(shù)據(jù)圈。AI大算力的高需求將提升服務(wù)器性能，AI服務(wù)器需搭載多個(gè)CPU和GPU處理器，同時(shí)服務(wù)器CPU性能不斷升級(jí)，要求內(nèi)存技術(shù)同步升級(jí)。DDR5、HBM、CXL、NVLink等新興技術(shù)有望加速滲透，并充分受益于AI帶來的算力需求增長(zhǎng)。AI服務(wù)器服務(wù)器一般可分為通用服務(wù)器、云計(jì)算服務(wù)器、邊緣服務(wù)器、AI服務(wù)器等類型。AI服務(wù)器專為人工智能訓(xùn)練和推理應(yīng)用而設(shè)計(jì)，大模型帶來算力的巨量需求，有望進(jìn)一步推動(dòng)AI服務(wù)器市場(chǎng)的增長(zhǎng)。其中，訓(xùn)練任務(wù)對(duì)服務(wù)器算力要求較高，需要訓(xùn)練型服務(wù)器提供高密度算力支持，典型產(chǎn)品有中科曙光X785-G30和華為昇騰Atlas800（型號(hào)9000、型號(hào)9010）。一個(gè)典型的人工智能服務(wù)器的DRAM容量是普通服務(wù)器的8倍，NAND容量是普通服務(wù)器的3倍。根據(jù)IDC數(shù)據(jù)，2022年全球AI服務(wù)器市場(chǎng)規(guī)模202億美元，同比增長(zhǎng)29.8%，占服務(wù)器市場(chǎng)規(guī)模的比例為16.4%，同比提升1.2pct。2022年上半年全球AI服務(wù)器市場(chǎng)中，浪潮、戴爾、惠普、聯(lián)想、新華三分別以15.1%、14.1%、7.7%、5.6%、4.7%的市場(chǎng)份額位居前五位。

根據(jù)TrendForce，2023年ChatGPT相關(guān)應(yīng)用有望再度刺激AI相關(guān)領(lǐng)域，預(yù)計(jì)2023年出貨量增長(zhǎng)率可達(dá)8%，2022-2026年復(fù)合成長(zhǎng)率將達(dá)10.8%。01DDR5:新一代內(nèi)存接口芯片

海量數(shù)據(jù)對(duì)存儲(chǔ)的需求持續(xù)推動(dòng)內(nèi)存接口芯片量?jī)r(jià)齊升和市場(chǎng)高速擴(kuò)容。持續(xù)受益于服務(wù)器出貨量增長(zhǎng)和單臺(tái)服務(wù)器內(nèi)存模組用量不斷上升。內(nèi)存接口是服務(wù)器CPU與內(nèi)存橋梁，當(dāng)前正迎來DDR5升級(jí)。從存儲(chǔ)的分類看，存儲(chǔ)主要可分為RAM（隨機(jī)存儲(chǔ)器）和ROM（只讀存儲(chǔ)器）。RAM可分為SRAM（靜態(tài)隨機(jī)存儲(chǔ)器）和DRAM（動(dòng)態(tài)隨機(jī)存儲(chǔ)器）。SDRAM（同步動(dòng)態(tài)隨機(jī)存取存儲(chǔ)器)是在DRAM的基礎(chǔ)上發(fā)展而來，為DRAM的一種。DDRSDRAM（雙倍速率同步動(dòng)態(tài)隨機(jī)存儲(chǔ)器）又在SDRAM的基礎(chǔ)上發(fā)展而來，為具有雙倍傳輸率的SDRAM，其數(shù)據(jù)傳輸速度為系統(tǒng)時(shí)鐘頻率的兩倍，由于速度增加，其傳輸性能優(yōu)于傳統(tǒng)的SDRAM。DDRSDRAM經(jīng)歷了DDR2、DDR3、DDR4等幾代技術(shù)更迭，其差異性主要體現(xiàn)存儲(chǔ)器的電源電壓值越來越低，而數(shù)據(jù)傳輸速率卻是呈幾何倍數(shù)增長(zhǎng)，同時(shí)存儲(chǔ)容量也隨之大幅增加。DDR5內(nèi)存性能遠(yuǎn)超DDR4的規(guī)格上限，配套內(nèi)存接口芯片性能及技術(shù)難度隨之提升。根據(jù)市場(chǎng)調(diào)研機(jī)構(gòu)推測(cè)，DDR5已占據(jù)整個(gè)DRAM市場(chǎng)份額的10%，2024年則將進(jìn)一步擴(kuò)大至43%。服務(wù)器市場(chǎng)對(duì)高性能有著絕對(duì)的需求，可能最先推廣DDR5。隨著新一代DDR產(chǎn)品的升級(jí)，內(nèi)存接口芯片有望迎來量?jī)r(jià)齊升，DRAM市場(chǎng)有望開啟新一輪增長(zhǎng)。數(shù)據(jù)來源：EEtop內(nèi)存接口芯片行業(yè)壁壘高，競(jìng)爭(zhēng)格局相對(duì)較好。國(guó)內(nèi)瀾起科技正在拓展津逮@服務(wù)器平臺(tái)&PCIeRetimer和AI芯片產(chǎn)品線；聚辰股份SPD受益于算力需求增加及DDR5升級(jí)。SPD用于服務(wù)器等領(lǐng)域，受益于算力需求增加及DDR5升級(jí)。聚辰和瀾起科技合作開發(fā)配套新一代DDR5內(nèi)存條的SPD產(chǎn)品，該產(chǎn)品系列內(nèi)置SPDEEPROM，系DDR5內(nèi)存模組不可或缺組件。02HBM：為大算力芯片提供支撐高帶寬存儲(chǔ)器（HBM）是一款新型的CPU/GPU內(nèi)存芯片，通過將多個(gè)DDR芯片堆疊在一起，實(shí)現(xiàn)大容量，高位寬的DDR組合陣列。HBM

可支持更高速率的帶寬，并實(shí)現(xiàn)高于256GBps的突破性帶寬，單顆粒的帶寬遠(yuǎn)超過DDR4和GDDR6。HBM將為大算力芯片提供能力支撐，同時(shí)生成類模型也會(huì)加速HBM內(nèi)存進(jìn)一步增大容量和增大帶寬。如今搭載于新興AI應(yīng)用的內(nèi)存芯片亟待升級(jí)，這種設(shè)計(jì)能夠大大提升信息交換的速率。資料來源：AMD從競(jìng)爭(zhēng)格局來看，全球范圍內(nèi)，HBM2內(nèi)存核心廠商主要包括SK海力士、三星、Altera、英特爾和超微半導(dǎo)體等。全球第一梯隊(duì)廠商主要有SK海力士、三星、Altera和英特爾；第二梯隊(duì)廠商有超微半導(dǎo)體和美光。海力士HBM技術(shù)起步早，占據(jù)較大市場(chǎng)，2018年發(fā)布HBM2，2021年發(fā)布全球首款HBM3，目前在研HBM4。三星從HBM2開始布局，2016年量產(chǎn)HBM2，2021年2月，三星電子推出了HBM-PIM（存算一體），將內(nèi)存半導(dǎo)體和AI處理器合二為一，2022年HBM3已量產(chǎn)。國(guó)內(nèi)布局廠商中，通富微電在Chiplet、WLP、SiP、Fanout、2.5D、3D堆疊等方面均有布局和儲(chǔ)備；深科技是國(guó)內(nèi)最大的獨(dú)立DRAM內(nèi)存芯片封測(cè)企業(yè)，全球第二大硬盤磁頭制造商，全資子公司沛頓科技封裝技術(shù)包括wBGA/FBGA等，具備先進(jìn)封裝FlipChip/TSV技術(shù)（DDR4封裝）能力；長(zhǎng)電科技具有高集成度的晶圓級(jí)WLP、2.5D/3D、系統(tǒng)級(jí)(SiP)封裝技術(shù)和高性能的FlipChip和引線互聯(lián)封裝技術(shù)；兆易創(chuàng)新是國(guó)內(nèi)存儲(chǔ)龍頭，是國(guó)內(nèi)技術(shù)最為先進(jìn)的存儲(chǔ)廠商，NORFlash、NANDFlash及MCU為主要產(chǎn)品的業(yè)務(wù)板塊。TrendForce預(yù)估2023-2025年HBM市場(chǎng)年復(fù)合成長(zhǎng)率有望成長(zhǎng)至40-45%以上。03CXL：存儲(chǔ)芯片界的CPO隨著存儲(chǔ)成本不斷增加，傳統(tǒng)的PCI-e技術(shù)逐漸乏力。在此背景下，基于PCI-e協(xié)議的CXL技術(shù)應(yīng)運(yùn)而生。CXL全稱為ComputeExpressLink，是由英特爾于2019年3月在InterconnectDay2019上推出的一種開放性互聯(lián)協(xié)議，能夠讓CPU與GPU、FPGA或其他加速器之間實(shí)現(xiàn)高速高效的互聯(lián)，從而滿足高性能異構(gòu)計(jì)算的要求?？焖俪砷L(zhǎng)的人工智能(AI)與機(jī)器學(xué)習(xí)(ML)新興任務(wù)，持續(xù)激增的云端運(yùn)算以及網(wǎng)絡(luò)和邊緣的“云端化”將成為推動(dòng)CXL發(fā)展的重要因素之一。CXL技術(shù)用途：資料來源：CXLConsortiumCXL聯(lián)盟董事會(huì)成員包括Intel、Google、IBM、Facebook等科技巨擘，發(fā)起者Intel擁有80%服務(wù)器CPU市場(chǎng)份額。CXL聯(lián)盟成員：根據(jù)TrendForce，CXL導(dǎo)入將隨著未來CPU內(nèi)建CXL功能而普及化。同時(shí)CXL建立數(shù)據(jù)高速互聯(lián)性的優(yōu)點(diǎn)，有助于擴(kuò)展AI算力，未來AI服務(wù)器將能見到更多采用CXL的設(shè)計(jì)。瀾起科技推出首款支持CXL的MXC芯片并研發(fā)支持CXL的PCIeRetimer芯片。美光科技在22年5月與投資者交流時(shí)曾預(yù)測(cè)CXL相關(guān)產(chǎn)品的市場(chǎng)規(guī)模，到2025年預(yù)計(jì)將達(dá)到20億美金，到2030年可能超過200億美金。04NVLink：芯片互連技術(shù)NVLink是為了解決服務(wù)器內(nèi)部GPU之間點(diǎn)到點(diǎn)通訊的一種協(xié)議。英偉達(dá)在2023年美國(guó)消費(fèi)電子展（CES）上，發(fā)布了數(shù)據(jù)中心專屬CPU——“GraceCPU超級(jí)芯片”。該芯片由兩顆CPU芯片組成，其間通過NVLink-C2C技術(shù)進(jìn)行互連。NVLink-C2C技術(shù)是一種新型的高速、低延遲、芯片到芯片的互連技術(shù)，可最大化提升系統(tǒng)吞吐量。與Chiplet技術(shù)有異曲同工之妙，可支持定制裸片與GPU、CPU、DPU、NIC、SoC實(shí)現(xiàn)互連。第四代NVIDIA?NVLink?技術(shù)可為多GPU系統(tǒng)配置提供高于以往1.5倍的帶寬，以及增強(qiáng)的可擴(kuò)展性，進(jìn)而實(shí)現(xiàn)超快速的深度學(xué)習(xí)訓(xùn)練。隨著模型參數(shù)數(shù)量增大，訓(xùn)練所需要算力不斷增長(zhǎng)，英偉達(dá)有望進(jìn)一步鞏固公司龍頭地位。國(guó)內(nèi)廠商浪潮推出的NF5688M6是新一代NVLinkAI服務(wù)器，在超大規(guī)模數(shù)據(jù)中心研發(fā)的同時(shí)擁有高性能，高兼容，強(qiáng)擴(kuò)展性能。在6U空間內(nèi)支持2顆