2024年美光科技研究報(bào)告：HBM自我突破在AI浪潮中引領(lǐng)重估

2024年美光科技研究報(bào)告：HBM自我突破在AI浪潮中引領(lǐng)重估美光的自我突破，在AI浪潮下引領(lǐng)的新一輪估值重估區(qū)別于市場(chǎng)觀點(diǎn)：我們認(rèn)為，美光將來到重估的分水嶺，估值提升或?qū)⑹请p輪驅(qū)動(dòng)，1）存儲(chǔ)行業(yè)步入新一輪上行周期，傳統(tǒng)DRAM和NAND的ASP回穩(wěn)及下游需求改善所帶來的估值修復(fù)；2）同時(shí)借助AI浪潮催生的新需求，HBM3E和DDR5營(yíng)收占比提升帶動(dòng)利潤(rùn)率優(yōu)化，引領(lǐng)估值突破。我們認(rèn)為市場(chǎng)低估了存儲(chǔ)行業(yè)上行周期的持續(xù)性和重估能力，以及對(duì)美光能如何受益于本輪以AI驅(qū)動(dòng)的周期存在認(rèn)知差。市場(chǎng)普遍認(rèn)知到DRAM及NAND兩種傳統(tǒng)存儲(chǔ)產(chǎn)品在24年將出現(xiàn)量?jī)r(jià)修復(fù)，并認(rèn)為PC出貨量將伴隨AIPC崛起、下游庫存出清以及新一輪換機(jī)潮回暖，同時(shí)手機(jī)市場(chǎng)在24年也將開始復(fù)蘇。但我們認(rèn)為，市場(chǎng)忽略了本輪以AI驅(qū)動(dòng)的上行周期的持續(xù)性與18年（云計(jì)算數(shù)據(jù)中心搭建和虛擬貨幣潮）、21年（期間在家辦公）兩輪周期不同，并低估了內(nèi)存（特別是HBM）在AI計(jì)算里起到的重要作用。另外，市場(chǎng)也普遍認(rèn)為美光在HBM技術(shù)里落后于龍頭SK海力士和晶圓代工一體化的三星兩家韓系企業(yè)，對(duì)美光在HBM等高端產(chǎn)線增長(zhǎng)及在HBM市場(chǎng)爭(zhēng)奪中的定位尚存不確定性，但我們認(rèn)為，美光1-β制程幫助其HBM3E實(shí)現(xiàn)效能優(yōu)勢(shì)，其HBM3E已經(jīng)成功進(jìn)入英偉達(dá)供應(yīng)鏈，并有望拓展客戶至其他AI芯片，需求能見度高，或?qū)臒o到有實(shí)現(xiàn)更高的營(yíng)收彈性。高存儲(chǔ)密度和高帶寬的特性讓HBM成為了AI場(chǎng)景下內(nèi)存容量和帶寬瓶頸的解決方案，減少算力浪費(fèi)，在訓(xùn)練和推理場(chǎng)景扮演不同角色：1）AI訓(xùn)練的大容量“數(shù)據(jù)中轉(zhuǎn)站”：訓(xùn)練數(shù)據(jù)需從SSD等外部?jī)?chǔ)存器分批次（batch）加載進(jìn)HBM，等待加速器調(diào)用，同時(shí)，訓(xùn)練過程中的模型參數(shù)、正向傳播的中間狀態(tài)（activation）、優(yōu)化器狀態(tài)以及反向傳播的梯度（gradient）也需存入HBM，方便加速器在計(jì)算和優(yōu)化過程中快速訪問和讀寫。HBM以其大容量、高帶寬的特性，減少加速器訪問外部?jī)?chǔ)存器次數(shù)，降低數(shù)據(jù)傳輸延遲，從而提升AI訓(xùn)練效率；2）AI推理的“模型參數(shù)倉庫”：訓(xùn)練后的數(shù)據(jù)本質(zhì)上是一大堆的參數(shù)，HBM可容納更為復(fù)雜的模型，方便加速器推理時(shí)調(diào)用，減少數(shù)據(jù)搬運(yùn)時(shí)間，提升AI推理效率。作為AI芯片的核心組件之一，HBM的需求能見度高，展望未來，我們認(rèn)為單卡HBM堆棧數(shù)目增多、層數(shù)增高和迭代趨勢(shì)已初見端倪。GTC2024上英偉達(dá)發(fā)布新一代架構(gòu)Blackwell及B200GPU，通過搭載8顆HBM3E實(shí)現(xiàn)192GB內(nèi)存容量和8TB/s的帶寬，對(duì)比上一代H200（6顆HBM3E，內(nèi)存容量141GB，帶寬4.8TB/s）在內(nèi)存/帶寬上提升36.2%/66.67%。除去英偉達(dá)，AMD、英特爾和云廠商自研ASIC也呈現(xiàn)相同趨勢(shì)：1）AMD：2023年6月AMD發(fā)布的MI300X搭載8顆12層HBM3實(shí)現(xiàn)192GB內(nèi)存容量和5.3TB/s帶寬，對(duì)比上一代MI250X（8顆HBM2E，內(nèi)存容量128GB，帶寬3.2TB/s）在內(nèi)存/帶寬上提升50%/65.6%；2）谷歌：2023年12月6日谷歌公布TPUv5p性能參數(shù)，配置95GBHBM3，對(duì)比上一代TPUv5e（16GBHBM2/2E）在GPT3-175B模型上訓(xùn)練速度提升近50%；3）AWS：2023年12月7日Digitimes援引韓媒DigitalTimes消息，AWS于年度大會(huì)re:Invent2023公開的Trainium2芯片搭載4顆12層24GBHBM3，對(duì)比上一代Trainium32GBHBM2E容量提升200%；4）英特爾：2024年4月9日英特爾發(fā)布Gaudi3，搭載8顆16GBHBM2E，實(shí)現(xiàn)3.7TB/s帶寬，對(duì)比上一代Gaudi2（6顆16GBHBM2E）內(nèi)存容量提升33%。截至2024年5月12日美光估值為2.60xForwardPB，超過上一輪上行周期（21年，2.0xForwardPB）估值峰值。14年以來美光估值曾經(jīng)歷三次峰值，分別受益于：移動(dòng)互聯(lián)網(wǎng)普及（14年，2.8xForwardPB,3.7xTTMPB）、上云趨勢(shì)帶來的服務(wù)器需求和加密貨幣潮（18年，1.7xForwardPB，3.1xTTMPB）以及居家辦公帶來的短期需求激增（21年，2.0xForwardPB，2.65xTTMPB）：（1）2014年：12-14年移動(dòng)互聯(lián)網(wǎng)普及帶動(dòng)智能手機(jī)和平板電腦銷售量快速增長(zhǎng)，根據(jù)Gartner2015年數(shù)據(jù)，11-14年全球智能手機(jī)銷售量同比增長(zhǎng)均超28%，CAGR38.2%。下游終端需求帶動(dòng)全球半導(dǎo)體銷售額上行，根據(jù)WSTS歷史數(shù)據(jù)及DRAMeXchange11-15年每季度統(tǒng)計(jì)，本輪上行周期歷時(shí)約33個(gè)月，全球半導(dǎo)體銷售額自12Q1谷底波動(dòng)上升至14Q3峰值，12-14年期間全球半導(dǎo)體銷售額漲幅15%，其中DRAM和NAND銷售額漲幅均超70%。FY14美光營(yíng)收164億美元，同比增長(zhǎng)80.3%，F(xiàn)Y12-14期間營(yíng)收增長(zhǎng)98.7%，主要系美光收購(gòu)爾必達(dá)（Elpida）迅速擴(kuò)張DRAM市場(chǎng)份額，以及智能手機(jī)和平板電腦出貨擴(kuò)增拉動(dòng)美光NANDFlash營(yíng)收增長(zhǎng)。（2）2018年：16下半年到18年，企業(yè)上云趨勢(shì)帶動(dòng)服務(wù)器需求高速增加，疊加加密貨幣潮帶動(dòng)的礦機(jī)需求，全球半導(dǎo)體行業(yè)迎來新一輪上行周期，DRAM及NAND產(chǎn)品領(lǐng)漲顯著。根據(jù)IDC和Gartner16-18年季度統(tǒng)計(jì)數(shù)據(jù)，16-18年全球服務(wù)器出貨量和ASP增長(zhǎng)帶動(dòng)營(yíng)收漲幅達(dá)56%，18Q4出貨量近350萬臺(tái)，同比增長(zhǎng)8.5%。根據(jù)Coinmarketcap17年12月31日數(shù)據(jù)，2017年虛擬貨幣市場(chǎng)總值達(dá)5724.8億美元，全年累計(jì)增長(zhǎng)3028%，比特幣（BTC）價(jià)格上漲13倍，一度突破20089美元。以太坊（Ethereum）的數(shù)字代幣以太幣2017年漲幅達(dá)111%，其采用名為Ethash的硬內(nèi)存（memory-hard）算法，要求在挖礦過程中頻繁地從一個(gè)大型數(shù)據(jù)集（稱為DAG）中讀取數(shù)據(jù)，該操作主要受到內(nèi)存帶寬，加上當(dāng)時(shí)還采用ProofofWork（POW）計(jì)算，故拉動(dòng)GPU和存儲(chǔ)的熱度提升。根據(jù)WSTS歷史數(shù)據(jù)及DRAMeXchange16-19年每季度統(tǒng)計(jì)，全球半導(dǎo)體銷售額16-18年漲幅38%，其中DRAM和NAND銷售額漲幅分別為145%和63%，而本輪上行周期歷時(shí)約27個(gè)月。FY18美光營(yíng)收304億美元，同比增長(zhǎng)49.5%，F(xiàn)Y16-18期間營(yíng)收增長(zhǎng)145.1%，主要系兩年間下游需求使得DRAM市場(chǎng)供應(yīng)緊俏，ASP持續(xù)保持高位。（3）2021年：2020年開始的居家辦公場(chǎng)景帶來短期消費(fèi)電子產(chǎn)品（智能手機(jī)、PC等）需求的快速增長(zhǎng)。根據(jù)Gartner2019-2023年數(shù)據(jù)，2021年全球智能手機(jī)銷售量同比增長(zhǎng)6.1%，為19-23年間唯一實(shí)現(xiàn)同比增長(zhǎng)的年份，而全球PC出貨量同比增長(zhǎng)20.2%，為19-23年間唯一實(shí)現(xiàn)兩位數(shù)增長(zhǎng)的年份。根據(jù)WSTS歷史數(shù)據(jù)及DRAMeXchange20-22年統(tǒng)計(jì)，全球半導(dǎo)體銷售額自20Q3起實(shí)現(xiàn)約20個(gè)月的連續(xù)環(huán)比增長(zhǎng)，期間漲幅34%，21年全球DRAM/NAND銷售額同比增長(zhǎng)42%/21%。FY21美光營(yíng)收277億美元，同比增長(zhǎng)29.3%，其中DRAM營(yíng)收同比增長(zhǎng)38%，NAND營(yíng)收同比增長(zhǎng)14%。本輪短期上行美光增長(zhǎng)不及行業(yè)，主要系：1）20年底美光DRAM工廠斷電、中國(guó)臺(tái)灣地震導(dǎo)致其DRAM產(chǎn)能損失；2）20-21年美光NAND擴(kuò)產(chǎn)對(duì)比三星、鎧俠等競(jìng)爭(zhēng)對(duì)手較為保守，同年海力士收購(gòu)英特爾NAND業(yè)務(wù)份額趕超美光。帶來的短期需求于22下半年見頂，22下半年至23Q3期間消費(fèi)電子需求疲軟，AI等新的增長(zhǎng)點(diǎn)尚未成熟，半導(dǎo)體市場(chǎng)處于下行周期。我們認(rèn)為24年內(nèi)存行業(yè)邁入新一輪上行周期，由AI浪潮驅(qū)動(dòng)，并將受益于AI芯片及AI應(yīng)用普及所帶來的中長(zhǎng)期增長(zhǎng)，跟14年的邏輯類似，而并非如同加密貨幣潮和帶來的短期需求激增，因此我們認(rèn)為美光有望借助AI東風(fēng)，估值應(yīng)往2014年水平靠攏，甚至突破。我們預(yù)計(jì)FY24/25/26公司營(yíng)收分別為251/404/449億美元，同比為61.3%/61.2%/11.1%。具體而言：DRAM業(yè)務(wù)：我們預(yù)計(jì)DRAM業(yè)務(wù)FY24/25/26營(yíng)收為178/278/320億美元，對(duì)應(yīng)同比為62.4%/56.2%/15.1%，主要由HBM的量?jī)r(jià)齊升帶動(dòng)，疊加AI手機(jī)、AIPC和AI服務(wù)器的DRAM需求。1）HBM受惠于AI芯片需求和設(shè)計(jì)進(jìn)化，美光作為后起之秀，通過1-βHBM3E追趕市場(chǎng)份額：我們認(rèn)為，隨著AI芯片需求的增加和在設(shè)計(jì)上的進(jìn)化，更多的HBM將更緊密的搭載在AI芯片周邊，在AI訓(xùn)練和推理時(shí)增加內(nèi)存和降低延時(shí)。目前，HBM3/3E市場(chǎng)已打破“獨(dú)供”，由SK海力士、三星和美光三家割據(jù)：SK海力士原為英偉達(dá)HBM3獨(dú)供，率先敲定英偉達(dá)HBM3E商單，24年3月19日宣布開始8層HBM3E量產(chǎn)，24Q2業(yè)績(jī)會(huì)公司宣布12層HBM3E將于24Q3完成開發(fā)，隨即向客戶送樣；三星于23H2宣布量產(chǎn)HBM3Icebolt（8/12層堆疊）并確認(rèn)供貨AMDMI300系列，隨后三星加速產(chǎn)品迭代并積極拓展客戶，GTC2024期間展示其12層36GBHBM3E，英偉達(dá)CEOJensenHuang會(huì)上于三星12層HBM3E旁簽下“JensenApproved”，確認(rèn)該產(chǎn)品正在通過英偉達(dá)效能驗(yàn)證，Digitimes24年4月報(bào)道三星HBM3E測(cè)試已近尾聲，最快24Q2開始供貨英偉達(dá)，相較之前市場(chǎng)預(yù)期的24H2提前。相比之下，美光并非HBM3/3E的先行者，公司跳過HBM3直接研發(fā)HBM3E，23年7月，美光宣布與臺(tái)積電3D-Fabric聯(lián)盟，推出1-β制程的HBM3E，并于24年2月率先宣布實(shí)現(xiàn)量產(chǎn)，確認(rèn)供貨英偉達(dá)H200并于24年3月22日確認(rèn)出樣12層36GBHBM3E，預(yù)期25年量產(chǎn)。通過測(cè)算存儲(chǔ)廠商HBM產(chǎn)線晶圓投入量和臺(tái)積電先進(jìn)封裝產(chǎn)量，我們認(rèn)為24/25年HBM3/3E供需缺口約為5.4%/4.1%。美光作為后起之秀，HBM產(chǎn)能相較SK海力士和三星仍顯不足，主要是承接兩者溢出的訂單。根據(jù)FY24Q2業(yè)績(jī)會(huì)，美光管理層對(duì)HBM3E前景樂觀，重申24年HBM3E產(chǎn)能已售罄，并正在接受除英偉達(dá)之外客戶驗(yàn)證。公司目標(biāo)FY24HBM3E的營(yíng)收為數(shù)億美元，而DRAM和整體毛利率將于FY24Q3開始改善。相較23年約3-10%的市場(chǎng)份額，公司預(yù)計(jì)25年HBM的市占率將與其在DRAM的市占率平齊（約20%），將帶來較高的增長(zhǎng)空間。我們認(rèn)為通過供應(yīng)英偉達(dá)H200，美光HBM3E現(xiàn)已具有初步客戶基礎(chǔ)，若能按照計(jì)劃在FY24-25實(shí)現(xiàn)HBM3E擴(kuò)產(chǎn)和產(chǎn)品驗(yàn)證，進(jìn)一步滿足下游客戶需求，將顯著受惠于高速增長(zhǎng)的HBM市場(chǎng)，并憑借HBM產(chǎn)品更高的ASP帶來利潤(rùn)率的優(yōu)化。2）傳統(tǒng)DRAM供應(yīng)商庫存已降低，以DDR5為代表的AI相關(guān)內(nèi)存需求則受惠于AI手機(jī)、AIPC和AI服務(wù)器滲透率提升帶來的商機(jī)：根據(jù)Digitimes24年3月12日?qǐng)?bào)道并結(jié)合美光FY24Q2業(yè)績(jī)會(huì)信息，DDR5供應(yīng)較為吃緊，DDR5在24年初仍處于供不應(yīng)求，24Q1約有3%的供給缺口，伴隨存儲(chǔ)廠商陸續(xù)恢復(fù)增產(chǎn)，預(yù)期24Q2起缺口收斂至1%，24H2產(chǎn)能將持續(xù)開出，伴隨DDR5在服務(wù)器和終端側(cè)滲透率快速提升，下游需求可望消化新增產(chǎn)能，從而維持DDR5ASP漲勢(shì)。相較而言，DDR4和DDR3等傳統(tǒng)DDR方面，DDR4是23年上游原廠減產(chǎn)的重點(diǎn)，23Q3DDR4仍處于虧損出貨狀態(tài)，盡管下游庫存水平逐漸恢復(fù)健康，短期內(nèi)成熟制程產(chǎn)品（如中低端服務(wù)器和消費(fèi)電子產(chǎn)品）需求增長(zhǎng)并不強(qiáng)勁，故美光等主要供應(yīng)商仍不傾向恢復(fù)產(chǎn)能，疊加HBM和DDR5需求增長(zhǎng)產(chǎn)生DRAM產(chǎn)能排擠，整體將對(duì)DDR4和DDR3等傳統(tǒng)DRAM保持積極的產(chǎn)能控制。24Q2，短期內(nèi)受4月3日中國(guó)臺(tái)灣強(qiáng)震對(duì)供應(yīng)鏈影響，DRAMASP或見較大漲幅，根據(jù)Digitimes24年4月15日至17日系列報(bào)道，該次地震對(duì)美光廠房和基礎(chǔ)設(shè)施未造成永久影響，單季DRAM供應(yīng)影響約為4%-6%，鑒于DRAM廠商原先已有24Q2DRAMASP調(diào)升10-15%規(guī)劃，疊加地震影響，24Q2美光DRAM合約價(jià)將調(diào)漲25%，整體主流DRAM合約價(jià)調(diào)漲約20%。分應(yīng)用場(chǎng)景來看來看，PC方面，23年P(guān)C庫存已基本出清，順應(yīng)新CPU機(jī)種逐漸轉(zhuǎn)往DDR5的趨勢(shì)，下游DDR5采購(gòu)量或?qū)⒗^續(xù)上升。疊加微軟將于25年10月14日開始停止支持Windows10所帶動(dòng)，以及AIPC的崛起，PCDRAM市場(chǎng)有望進(jìn)一步迎來復(fù)蘇。根據(jù)IDC24年2月7日預(yù)測(cè)，AIPC24年出貨量約為50萬臺(tái)，2027年則有望突破1670萬臺(tái)，3年CAGR約為222%。整體而言，PC24Q1出貨量已基本恢復(fù)至19Q1水平，24H1PC市況已經(jīng)逐步好轉(zhuǎn)，雖然需求大規(guī)模增長(zhǎng)尚未出現(xiàn)，但24H2PC市場(chǎng)可望迎來進(jìn)一步復(fù)蘇。AI服務(wù)器方面，我們認(rèn)為，硬件設(shè)備的規(guī)模和性能是AI大模型時(shí)代的必然要求，CPU+加速器異構(gòu)帶動(dòng)DDR5和HBM需求高速增長(zhǎng)。鑒于目前生成式AI主要以大參數(shù)模型路徑實(shí)行，隨著模型數(shù)量和所需處理的數(shù)據(jù)量增長(zhǎng)，其訓(xùn)練與推理均需大量的計(jì)算能力與存儲(chǔ)資源。展望24年，AI基礎(chǔ)設(shè)施將是重點(diǎn)投入領(lǐng)域，頭部云廠商和互聯(lián)網(wǎng)巨頭加大AI領(lǐng)域資本開支，將進(jìn)一步支撐AI服務(wù)器行情。IDC23年12月發(fā)布數(shù)據(jù)顯示，23年全球AI服務(wù)器市場(chǎng)規(guī)模達(dá)211億美元，預(yù)計(jì)2025年達(dá)317.9億美元，2023-2025年CAGR22.7%。同時(shí)，AI服務(wù)器自身需要處理一系列密切相關(guān)但要求各異的任務(wù)，包括數(shù)據(jù)預(yù)處理、模型訓(xùn)練、推理和后處理等，因此需要CPU+加速器異構(gòu)以靈活面對(duì)使用場(chǎng)景。AI服務(wù)器搭載的CPU負(fù)責(zé)系統(tǒng)啟動(dòng)和維護(hù)以及系統(tǒng)各組件統(tǒng)籌協(xié)作等邏輯，在AI訓(xùn)練和推理中亦涉及數(shù)據(jù)預(yù)處理等通用計(jì)算場(chǎng)景。例如，AI訓(xùn)練和推理的原始數(shù)據(jù)往往參差不齊，需要通過數(shù)據(jù)清洗、轉(zhuǎn)換、特征工程等一系列流程，最終才能為系統(tǒng)所用，而這些任務(wù)涉及大量邏輯運(yùn)算和內(nèi)存操作，對(duì)處理速度和時(shí)延要求較高，因此通常由CPU承擔(dān)，需要更大帶寬、更大容量的內(nèi)存作為支撐，帶動(dòng)DDR4向DDR5迭代；而如前文所述，HBM在AI訓(xùn)練和推理中同樣扮演重要角色，AI服務(wù)器的加速器搭配HBM已成標(biāo)配，邏輯芯片頻繁讀取片外HBM進(jìn)行內(nèi)存調(diào)度。根據(jù)美光FY24Q2業(yè)績(jī)會(huì)，一臺(tái)AI服務(wù)器的DRAM容量是通用服務(wù)器的6-8倍，因此快速增長(zhǎng)的AI服務(wù)器需求將帶動(dòng)DRAM需求的高速增長(zhǎng)。通用服務(wù)器方面，24年或迎來換機(jī)潮，產(chǎn)品組合將向DDR5傾斜。根據(jù)Digitimes24年2月1日?qǐng)?bào)道，業(yè)界預(yù)期24上半年服務(wù)器需求“淡季不淡”，北美云廠商除了持續(xù)采購(gòu)AI服務(wù)器，也開始對(duì)通用型服務(wù)器進(jìn)行新一輪采購(gòu)，加速英特爾EagleStream和AMDGeona等新平臺(tái)導(dǎo)入，其中以谷歌和微軟采購(gòu)力度較大。根據(jù)24年2月YoleIntelligence預(yù)測(cè)，未來五年內(nèi)，DDR4份額將進(jìn)一步被DDR5取代。到2027年，DDR5將占DRAM總出貨量的80%以上。AI手機(jī)方面，GalaxyS24帶動(dòng)AI手機(jī)熱潮方興未艾，端側(cè)AI功能強(qiáng)化對(duì)LPDDR5需求。美光FY24Q2業(yè)績(jī)會(huì)透露AI手機(jī)相較傳統(tǒng)非AI旗艦機(jī)型多出50%-100%的DRAM需求，而鑒于手機(jī)功耗限制，因此帶動(dòng)LPDDR5X需求，預(yù)測(cè)24年手機(jī)出貨量同比增長(zhǎng)3-5%。根據(jù)Digitimes23年3月援引IDC預(yù)測(cè)，2024年全球AI手機(jī)出貨量或增至1.7億臺(tái)，占手機(jī)市場(chǎng)出貨比重達(dá)15%。面向DDR5商機(jī)，美光于CES2024上展示基于LPDDR5X的LPCAMM2內(nèi)存模組，相較DDR5DIMM在帶寬和能效表現(xiàn)上更具優(yōu)勢(shì)，能更有效解決AIPC和AI手機(jī)的內(nèi)存問題。該款LPCAMM2已獲Intel、聯(lián)想和仁寶等業(yè)界支持，預(yù)計(jì)24上半年投產(chǎn)。我們預(yù)計(jì)公司的1-β16GBDDR5、LPDDR5X和LPCAMM2作為面向端側(cè)AI的內(nèi)存方案將顯著受益。NAND業(yè)務(wù)：我們預(yù)計(jì)NAND業(yè)務(wù)FY24/25/26營(yíng)收為69/122/125億美元，對(duì)應(yīng)營(yíng)收同比為64.2%/77.1%/2.4%。1）伴隨下游客戶庫存水平正?；?，美光對(duì)FY24NAND和SSD趨勢(shì)較樂觀。根據(jù)BloombergIntelligence22-24年數(shù)據(jù)統(tǒng)計(jì)，NANDASP下降12個(gè)月后于23Q2觸底，于23Q3開始回升。而根據(jù)TrendForce2024年3月報(bào)道，供應(yīng)商正在推動(dòng)提高NANDFlash的合同價(jià)格，24Q1漲幅約為23-28%，Q2NANDFlash采購(gòu)量將較Q1小幅下滑，但整體市場(chǎng)氛圍持續(xù)受供應(yīng)商庫存降低，以及減產(chǎn)效應(yīng)影響，預(yù)估24Q2NANDFlash合約價(jià)將上漲約13~18%。需求方面，根據(jù)公司FY24Q2業(yè)績(jī)會(huì)，預(yù)期未來數(shù)年NAND需求CAGR約為21%-23%，而公司計(jì)劃FY24NAND供給策略維持保守，著力于進(jìn)一步優(yōu)化庫存，縮短周轉(zhuǎn)天數(shù)，預(yù)計(jì)NAND需求增長(zhǎng)將顯著高于供給。2）232層NAND布局?jǐn)?shù)據(jù)中心SSD、AIPC和大容量智能手機(jī)：公司基于232層TLCNANDFlash，分別于2023年5月、10月和12月推出6500IONNVMeSSD、7500NVMeSSD和3500NVMeSSD。其中，6500SSD提供30TB容量，打破QLC和TLC界限，以QLC的價(jià)格實(shí)現(xiàn)TLC的性能，F(xiàn)Y24Q2美光業(yè)績(jī)會(huì)透露該款SSD營(yíng)收環(huán)比增長(zhǎng)逾50%，而7500SSD和3500SSD分別是面向數(shù)據(jù)中心和用戶端的另兩款解決方案。Digitimes24年4月26日?qǐng)?bào)道提及，高層QLCNAND在PC中滲透率不斷提高，AIPC搭載LLM和圖片/影片生成模型，將耗費(fèi)大量存儲(chǔ)容量，同時(shí)，由于用戶不會(huì)立即刪除生成的大量圖片和視頻，帶來AIPC所需存儲(chǔ)空間顯著提升，同時(shí)出于降低存儲(chǔ)成本考量，QLCNAND導(dǎo)入PC成為趨勢(shì)。24年4月公司宣布率先量產(chǎn)232層QLCNAND，并推出面向用戶端的2500NVMeSSD，現(xiàn)已向PCOEM送樣。同時(shí)，根據(jù)Digitimes24年1月報(bào)道，業(yè)界預(yù)期24年QLCNAND將導(dǎo)入大容量存儲(chǔ)的手機(jī)新品，隨著影像存儲(chǔ)需求增加及QLCNAND更低的單位存儲(chǔ)成本，iPhone及部分國(guó)產(chǎn)手機(jī)品牌（如Oppo）已進(jìn)入大容量1TB機(jī)種采用QLCNAND的產(chǎn)品驗(yàn)證階段。我們預(yù)計(jì)24-25年AI手機(jī)“DRAM+NAND”配合升級(jí)趨勢(shì)和大容量機(jī)種陸續(xù)上架，有望帶動(dòng)美光NANDUFS3.1（176層NAND）/UFS4.0（232層NAND）需求增長(zhǎng)。美光FY24Q2營(yíng)收和利潤(rùn)均超預(yù)期，凈利潤(rùn)實(shí)現(xiàn)連續(xù)5個(gè)季度虧損后首度扭虧。美光FY24Q2營(yíng)收5824百萬美元，同比+58%，環(huán)比+23%，超彭博一致預(yù)期的5354百萬美元；Non-GAAP凈利潤(rùn)476百萬美元，超彭博一致預(yù)期的-266百萬美元；Non-GAAPEPS0.42美元，超彭博一致預(yù)期的-0.24美元。受益于ASP恢復(fù)和高階產(chǎn)品銷量提升，美光經(jīng)調(diào)整毛利率為20%，超彭博一致預(yù)期的13.6%，環(huán)比+19.2pct；經(jīng)調(diào)整凈利率為3.5%，實(shí)現(xiàn)扭虧，超彭博一致預(yù)期的-5.7%,環(huán)比+30.3pct。公司指引FY24Q3營(yíng)收中位66億美元，超彭博一致預(yù)期的60億美元，毛利率/凈利率為26.5%/15.0%，超彭博一致預(yù)期的20.9%/4.6%，主要系HBM和DDR5營(yíng)收貢獻(xiàn)將帶來利潤(rùn)率持續(xù)優(yōu)化。公司預(yù)計(jì)24年DRAM需求增速約為15-17%，NAND約為21-23%。FY24Q2美光DRAM營(yíng)收為4158百萬美元，同比+53%，環(huán)比+21%，出貨量環(huán)比低個(gè)位數(shù)上升，ASP環(huán)比上升17-19%；NAND營(yíng)收為1567百萬美元，同比+77%，環(huán)比+27%。公司預(yù)計(jì)24年DRAM需求增長(zhǎng)率將為15-17%，NAND將為21-23%。HBM：AI芯片性能催生內(nèi)存需求，后起之秀美光該如何布局？我們認(rèn)為，在AI芯片需求強(qiáng)勁的背景下，伴隨著英偉達(dá)和AMD積極的AIGPU迭代藍(lán)圖，以及頭部云以及互聯(lián)網(wǎng)廠商考慮削減TCO、提升研發(fā)可控性及集成自身生態(tài)圈而積極推進(jìn)自研芯片（ASIC為主），HBM的容量、效能和功耗要求將不斷提升，HBM的需求量將受AI芯片的需求增長(zhǎng)拉動(dòng)。我們預(yù)測(cè)，HBM產(chǎn)品在24-25年將出現(xiàn)需求缺口，疊加HBM的復(fù)雜工藝需求（TSV硅穿孔、鍵合堆疊和后續(xù)以CoWoS封裝與AI芯片搭載一起），將帶來相對(duì)傳統(tǒng)DRAM更高的ASP。伴隨HBM產(chǎn)品在美光DRAM中營(yíng)收占比提升，我們預(yù)計(jì)公司營(yíng)收和利潤(rùn)率將得到優(yōu)化。AI芯片存算發(fā)展不同步，內(nèi)存瓶頸催生HBM需求在AI訓(xùn)練場(chǎng)景中，加速器（如GPU）多數(shù)利用片外內(nèi)存，需要頻繁讀取片外DRAM進(jìn)行內(nèi)存調(diào)度。一方面，訓(xùn)練數(shù)據(jù)（如圖像、文本和視頻）需從SSD等外部?jī)?chǔ)存器經(jīng)由CPU初步處理，分批次（batch）加載進(jìn)內(nèi)存，等待加速器調(diào)用。相較于加速器直接從外部存儲(chǔ)器調(diào)用數(shù)據(jù)，HBM等內(nèi)存“中轉(zhuǎn)站”縮短了數(shù)據(jù)傳輸?shù)奈锢砭嚯x，同時(shí)利用其支持更高速數(shù)據(jù)傳輸?shù)男再|(zhì)，提升AI訓(xùn)練效率；另一方面，訓(xùn)練過程中的模型參數(shù)、正向傳播的中間狀態(tài)（activation）、優(yōu)化器狀態(tài)以及反向傳播的梯度（gradient）也需存入內(nèi)存，方便加速器在計(jì)算和優(yōu)化過程中快速訪問和讀寫。根據(jù)AmirGholami21年3月發(fā)表的《AIandMemoryWall》，相較模型參數(shù)，模型訓(xùn)練的中間狀態(tài)等需要3-4倍的內(nèi)存空間，其中正向傳播的中間狀態(tài)為反向傳播計(jì)算梯度所必須。AI模型訓(xùn)練可視作數(shù)據(jù)的抽象和壓縮，數(shù)據(jù)量的增大需要提升模型的復(fù)雜度（如參數(shù)量）來“消化”訓(xùn)練集中包含的信息。鑒于內(nèi)存在AI訓(xùn)練中的作用，大型AI模型訓(xùn)練基于龐大的數(shù)據(jù)量，其自身復(fù)雜的網(wǎng)絡(luò)結(jié)構(gòu)亦包含數(shù)十億個(gè)參數(shù)，對(duì)內(nèi)存容量和帶寬提出挑戰(zhàn)：1）如果內(nèi)存不足，加速器調(diào)用數(shù)據(jù)就需要頻繁訪問傳輸速率較慢的大容量存儲(chǔ)器（如SSD），帶來算力浪費(fèi)和延遲；2）除訓(xùn)練數(shù)據(jù)外，模型訓(xùn)練的中間狀態(tài)等信息同樣需要存入內(nèi)存，因此內(nèi)存不足將限制模型的復(fù)雜度上限，從而影響模型性能和迭代；3）“中轉(zhuǎn)站”定位對(duì)其與外部存儲(chǔ)器和加速器之間的數(shù)據(jù)傳輸速率提出要求，HBM作為內(nèi)存提供更高的帶寬，提升存算間通信效率，實(shí)現(xiàn)單次更大批量（batchsize）的數(shù)據(jù)傳輸，從而降低延遲，并提升算力利用率和訓(xùn)練效率。計(jì)算能力與帶寬能力之間的差距致使內(nèi)存容量和帶寬難以跟上AI硬件的計(jì)算速度，成為限制AI芯片性能發(fā)揮的主要瓶頸，即“內(nèi)存墻”（MemoryWall）。盡管內(nèi)存容量和帶寬在AI訓(xùn)練中地位重要，但AI芯片“存”和“算”的性能提升并不同步。根據(jù)AmirGholami發(fā)表的《AIandMemoryWall》，2018-2021年，Transformer模型（LLM背后的算法）大小每?jī)赡暝鲩L(zhǎng)410倍，而同時(shí)間AI加速卡內(nèi)存容量每?jī)赡陜H增長(zhǎng)2倍。同時(shí)，主流加速卡的算力增長(zhǎng)和內(nèi)存方案/傳輸協(xié)議的帶寬增長(zhǎng)也并不同步。1996-2023近20年間，AI芯片峰值算力提升約60000倍（平均每?jī)赡晏嵘?倍），而同時(shí)期DRAM內(nèi)存帶寬提升為100倍（平均每?jī)赡晏嵘?.6倍），芯片/設(shè)備間數(shù)據(jù)傳輸協(xié)議（如PCIe和NVLink）帶寬提升僅30倍（平均每?jī)赡晏嵘?.4倍）。因此，高存儲(chǔ)密度和高帶寬的特性讓HBM成為了AI訓(xùn)練場(chǎng)景下內(nèi)存容量和帶寬瓶頸的解決方案，作為AI芯片的核心組件之一得到廣泛應(yīng)用。而除去訓(xùn)練，內(nèi)存容量和帶寬對(duì)AI推理同樣重要，對(duì)響應(yīng)時(shí)間的需求、圖像生成和視頻生成提高了推理計(jì)算需求的標(biāo)準(zhǔn)：1）容量上，訓(xùn)練之后的AI模型本質(zhì)上是優(yōu)化之后的參數(shù)，根據(jù)TheNextPlatform24年2月新聞，一個(gè)參數(shù)量1750億的GPT-3推理時(shí)需要175GB的內(nèi)存容納模型參數(shù)。加速器搭配大容量HBM方案便于模型整體置入內(nèi)存，方便加速器推理時(shí)調(diào)用，減少設(shè)備間數(shù)據(jù)搬運(yùn)時(shí)間，提升AI推理效率；2）帶寬上，HBM的高帶寬支持單次更大批量數(shù)據(jù)傳輸，降低推理延遲，同時(shí)亦可以滿足推理場(chǎng)景下更多的高并發(fā)請(qǐng)求（如META的智能推薦系統(tǒng)）。根據(jù)三星24年2月新聞，其12層HBM3E相比上一代8層HBM3，在推理場(chǎng)景下支持并發(fā)用戶數(shù)提升11.5倍。內(nèi)存迭代提升AI芯片性能，HBM相較傳統(tǒng)顯存實(shí)現(xiàn)容量和帶寬倍增在算力接近的情形下，AI芯片可以通過擴(kuò)容內(nèi)存和帶寬提升模型訓(xùn)練和推理性能，而內(nèi)存迭代對(duì)AI芯片性能的提升可以英偉達(dá)H200為例。23年11月全球超算大會(huì)（SC23）上，英偉達(dá)推出的H200搭載6顆HBM3E，內(nèi)存達(dá)141GB，帶寬4.8TB/S。作為H100（搭載6顆HBM3，內(nèi)存達(dá)80GB）的升級(jí)款，H200依然采用Hopper架構(gòu)和臺(tái)積電4納米工藝。兩者的算力指標(biāo)基本相同，但在GPU核心數(shù)和頻率保持不變的情況下，僅通過內(nèi)存從HBM3向HBM3E的迭代，就能實(shí)現(xiàn)在Llama2和GPT-3等大語言模型推理性能40%-90%的提升。對(duì)比美光GDDR6X和HBM3E，同樣24GB內(nèi)存容量，前者搭載于英偉達(dá)GeForceRTX3080Ti/3090Ti顯卡，顯存位寬384位，提供76-96GB/s的帶寬，后者則面向AI訓(xùn)練場(chǎng)景，顯存位寬1024位，提供1.2TB/s的帶寬，為GDDR6X的13-16倍。面向ASIC新藍(lán)海，HBM同樣蓄勢(shì)待發(fā)我們?cè)?024年2月14日的《競(jìng)爭(zhēng)格局千變?nèi)f化，英偉達(dá)欲切入專用芯片設(shè)計(jì)市場(chǎng)》的報(bào)告中提出，AI芯片市場(chǎng)競(jìng)爭(zhēng)日趨白熱化，除卻GPU等通用型芯片，ASIC專用芯片通過更低的ASP、在特定場(chǎng)景提供更高效和更低功耗、以及更靈活的設(shè)計(jì)周期，將是通用型GPU的互補(bǔ)或替代。伴隨AI模型多元化和算法日趨成熟，ASIC作為“算法的物理呈現(xiàn)”，也將適配各大廠商的差異化模型需求，承接部分算力。頭部云及互聯(lián)網(wǎng)廠商考慮到削減TCP、提升研發(fā)可控性及集成自身生態(tài)圈等，均在推進(jìn)自研芯片，而根據(jù)路透社與彭博24年2月報(bào)道，英偉達(dá)也正在建立一個(gè)專注于為云計(jì)算、AI等領(lǐng)域設(shè)計(jì)ASIC專用芯片的新業(yè)務(wù)部門。相較以算力作為核心護(hù)城河的GPU，ASIC專用芯片并不以算力見長(zhǎng)，但隨著芯片設(shè)計(jì)的進(jìn)化，ASIC能通過增加HBM內(nèi)存等有效提升性能并降低延時(shí)，從而彌補(bǔ)“算力差距”。根據(jù)谷歌23年12月發(fā)布的TPUv5p參數(shù)及英偉達(dá)H100參數(shù)，盡管對(duì)比INT8算力，TPUv5p僅為H100SXM的23%（918TOPSvs.3958TOPS），但特定場(chǎng)景下（如GPT-3175B訓(xùn)練）二者已可基本對(duì)標(biāo)。其中，H100SXM搭載80GBHBM3，帶寬3.35TB/s；谷歌TPUv5p搭載95GBHBM2e，帶寬2765GB/s。另外，算法的進(jìn)步也可有效降低對(duì)芯片算力需求，例如特斯拉FSD已采用FP8，而不需采用傳統(tǒng)的FP16。HBM核心工藝：TSV和鍵合堆疊HBM在工藝上是由高性能DRAM通過3D堆疊鍵合而成，其通過TSV（ThroughSiliconVia，硅通孔）技術(shù)垂直連接多片DRAM，從而獲得多個(gè)單片的大容量。TSV和鍵合堆疊（bonding）是HBM的兩大核心工藝，工藝精進(jìn)是HBM的迭代的基礎(chǔ)：1）TSV工藝：HBM1到HBM3E的迭代實(shí)現(xiàn)了帶寬從128GB/s到1.2TB/s近10倍增長(zhǎng)，而帶寬和數(shù)據(jù)傳輸速率的提升需要單位面積上更多的TSV穿孔，對(duì)縮小TSV穿孔間距和穿孔直徑提出更高要求；2）散熱：HBM迭代逐步提升堆疊層數(shù)和集成度的同時(shí)，也意味著單位面積內(nèi)熱量的增加。另外，芯片在垂直方向上的堆疊阻礙熱量疏散，帶來堆疊層數(shù)的散熱瓶頸，而芯片堆疊鍵合的材料/鍵合方式的導(dǎo)熱效率是散熱關(guān)鍵；3）層數(shù)與高度：將堆疊層數(shù)擴(kuò)展到12層以上，同時(shí)仍保持相同的總物理堆疊高度，需要降低單片DRAM的厚度，并盡量縮小DRAM間距，而堆疊鍵合過程中的施壓易造成芯片翹曲，影響成品良率。CoWoS成HBM搭載關(guān)鍵，英特爾EMIB能否接力？HBM透過CoWoS2.5D封裝將自身的DRAM堆棧（Stack）與GPU等邏輯芯片集成在中介層（Interposer）上，增加內(nèi)存和計(jì)算芯片間的鏈路數(shù)量，縮短內(nèi)存與邏輯芯片傳輸?shù)奈锢砭嚯x，并借助硅中介板的高速I/O接口形成“近存計(jì)算”架構(gòu)，從而增加訪存帶寬、減少數(shù)據(jù)搬移次數(shù)，以提升整體計(jì)算效率，節(jié)約頻繁數(shù)據(jù)搬運(yùn)帶來的無用能耗。因此，相較于傳統(tǒng)DRAM（例如GDDRGraphicsDoubleDataRate），HBM擁有更高的內(nèi)存密度和I/O數(shù)量（1024位的顯存位寬），更加適應(yīng)AI大模型訓(xùn)練場(chǎng)景。第一代HBM由AMD與海力士合作研發(fā)，已經(jīng)采用硅中介層集成內(nèi)存和邏輯芯片，但局限于成本問題，早期HBM并未得到廣泛應(yīng)用。根據(jù)AMDHBM1的訪談、相關(guān)演示材料和Chang-ChiLee于2016年在IEEE上發(fā)表的論文《AnOverviewoftheDevelopmentofaGPUwithIntegratedHBMonSiliconInterposer》，2014-2015年發(fā)布并量產(chǎn)的HBM1研發(fā)耗時(shí)8年，盡管彼時(shí)臺(tái)積電CoWoS工藝尚未成熟，但AMD就已意識(shí)到需要通過硅中介層使得存儲(chǔ)和邏輯芯片物理靠近（集成），以提升帶寬和每瓦性能，HBM1的中介層由AMD和日月光、Amkor和UMC合作研發(fā)。AMD并未披露HBM1的單片成本，但根據(jù)ANANDTech2018年12月報(bào)道，8GBHBM2成本約150美元，硅中介層成本25美元，一張搭載HBM2的AMDRXVega56零售價(jià)僅400美元，在未考慮先進(jìn)封裝成本下，HBM2成本已占近50%，同時(shí)，HBM2成本對(duì)比同時(shí)期8GBGDDR5售價(jià)貴出約3倍，在AI大模型訓(xùn)練需求尚未迅速增長(zhǎng)的背景下，早期HBM并未獲得廣泛采用。HBM2由英偉達(dá)、三星和臺(tái)積電合作研發(fā)，臺(tái)積電CoWoS成為HBM2與邏輯芯片集成的封裝方案。Semianalysis在23年7月的分析指出，鑒于光刻設(shè)備的限制，一般芯片最大尺寸為858平方毫米（26mmx33mm）,而搭載HBM的GPU一般采用HBM內(nèi)存環(huán)繞邏輯芯片的設(shè)計(jì)，所需硅中介層面積超過該上限，而臺(tái)積電通過其十字線縫合技術(shù)使得硅中介面積可突破該限制，從而適應(yīng)大尺寸設(shè)計(jì)需要。根據(jù)臺(tái)積電ShangY.Hou2017年發(fā)布的論文《Wafer-LevelIntegrationofanAdvancedLogic-MemorySystemThroughtheSecond-GenerationCoWoSTechnology》，HBM2相較HBM1在尺寸上從40平方毫米增長(zhǎng)到92平方毫米，適逢臺(tái)積電迭代第二代CoWoS，將硅中介層尺寸從1代的800平方毫米拓展到2代的1200平方毫米，同時(shí)1代CoWoS僅支持同質(zhì)芯片間互連，而2代開始實(shí)現(xiàn)異質(zhì)芯片互聯(lián)（Memory-Logic），疊加測(cè)試中臺(tái)積電CoWoS封裝芯片對(duì)比其他封裝方案更出色的性能表現(xiàn)，因此臺(tái)積電CoWoS成為HBM2的封裝方案。時(shí)至今日，臺(tái)積電CoWoS仍然是HBM與邏輯芯片封裝首選。根據(jù)Semianalysis23年7月發(fā)布的《AICapacityConstraints-CoWoSandHBMSupplyChain》一文，HBM1至HBM3E均采用1024-bit位寬，帶來相較傳統(tǒng)DRAM更高的I/O焊盤數(shù)（padcount），同時(shí)HBM與邏輯芯片集成要求更短的走線長(zhǎng)度（tracelength），高密度短連接在傳統(tǒng)印制電路板（PCBPrintedcircuitboard）或封裝基板（PKGPackageSubstrate）難以實(shí)現(xiàn)，從而催生2.5D封裝需求，而臺(tái)積電CoWoS利用硅中介以合理的成本提供應(yīng)對(duì)方案，因此成為主流。值得一提的是，HBM與邏輯芯片垂直堆疊的3D封裝（如SoIC），鑒于散熱和成本問題尚未被采納，但海力士和三星據(jù)Tom’sHardware在23年11月援引韓媒中央日?qǐng)?bào)報(bào)導(dǎo)，正在與包括英偉達(dá)在內(nèi)討論HBM4集成設(shè)計(jì)方案，擬將HBM4與邏輯芯片堆疊在一起，實(shí)現(xiàn)在單芯片上存儲(chǔ)器與邏輯芯片的垂直整合。除去臺(tái)積電CoWoS，英特爾EMIB在技術(shù)上也能實(shí)現(xiàn)HBM與邏輯芯片的封裝，但短期內(nèi)難以替代。EMIB對(duì)標(biāo)臺(tái)積電CoWoS-L，與臺(tái)積電CoWoS-S（即一般所說的臺(tái)積電CoWoS）2.5D封裝采用的硅中介層結(jié)構(gòu)不同，英特爾直接將小型硅橋嵌入基板中實(shí)現(xiàn)芯片之間的互聯(lián)，在互聯(lián)效率相似的基礎(chǔ)上不需要花較高成本來制造足夠大的硅中介層，因此技術(shù)上也能滿足HBM內(nèi)存與邏輯芯片的封裝需要。我們認(rèn)為相比2.5DCoWoS封裝，EMIB有如下提升良率和降低成本的優(yōu)勢(shì)：1）采用硅橋而不是整片硅中介層；2）無需使用硅通孔技術(shù)（TSV）；3）設(shè)計(jì)簡(jiǎn)單，靈活度高，芯片封裝不會(huì)受制于硅中介層的大小。根據(jù)Tom’sHardware在24年1月援引臺(tái)灣經(jīng)濟(jì)日?qǐng)?bào)報(bào)道，鑒于臺(tái)積電CoWoS封裝產(chǎn)能吃緊，英偉達(dá)新增英特爾提供封裝服務(wù)，月產(chǎn)能約5000片，不過英特爾并未涉及英偉達(dá)的晶圓代工訂單。但EMIB替代臺(tái)積電CoWoS-S仍有部分問題需時(shí)驗(yàn)證：1）硅橋雖可解決互聯(lián)帶寬問題，但不采用硅基板的RDL中介，載板翹曲和熱穩(wěn)定性需驗(yàn)證；2）鑒于凸塊間距，EMIB封裝的性能和臺(tái)積電CoWoS有所不同，亦需封裝廠和芯片設(shè)計(jì)方驗(yàn)證。根據(jù)臺(tái)灣力成23年10月業(yè)績(jī)會(huì)說法，尋找臺(tái)積電CoWoS替代方案或需一年時(shí)間去驗(yàn)證，短期內(nèi)難有替代。HBM本質(zhì)上仍是DRAM產(chǎn)品，各廠商設(shè)計(jì)、流片和封測(cè)均自行完成，出貨后將HBM成品交由AI芯片封裝廠與邏輯芯片整合，因此DRAM工藝制程將直接影響HBM芯片性能。對(duì)于存儲(chǔ)芯片，制程工藝的迭代是縮減晶體管尺寸，帶來單位面積上實(shí)現(xiàn)更小、更緊密的晶體管布局，提升內(nèi)存密度，實(shí)現(xiàn)更高性能的同時(shí)達(dá)到更好的功耗表現(xiàn)。根據(jù)美光DRAM副總裁ThyTran于2021年4月的采訪，DRAM在2015年基本進(jìn)入20nm以下節(jié)點(diǎn)之后，制程上的微縮相對(duì)放緩，頭部廠商在10nm+節(jié)點(diǎn)上拓展多代工藝節(jié)點(diǎn)（如1x、1y、1z和1α等），而使用字母代替確切數(shù)字的動(dòng)因在于，內(nèi)存行業(yè)確切數(shù)字與芯片性能并非線性相關(guān)，因此用新字母代表新制程，表示性能有了較大提升。以美光為例，公司于2020年公布1-α制程節(jié)點(diǎn)（第四代10nm級(jí)），并于2021年開始量產(chǎn)，之后于2022年率先推出1-β制程（第五代10nm級(jí)），相較1-α，該節(jié)點(diǎn)可實(shí)現(xiàn)約15%的能效提升和35%以上的內(nèi)存密度提升。2023年三星電子及SK海力士也于其后跟進(jìn)1-β節(jié)點(diǎn)。美光和海力士HBM3E均采用1-β制程，領(lǐng)先于三星的1-α制程，而根據(jù)公司FY24Q2業(yè)績(jī)會(huì)，美光HBM3E相較于同代競(jìng)品實(shí)現(xiàn)約10%的性能提升，降低約30%的功耗，我們認(rèn)為DRAM制程上的領(lǐng)先功不可沒。HBM3/3E擴(kuò)產(chǎn)加速，但供需缺口短期或難以緩解市場(chǎng)對(duì)HBM3/3E反響積極，伴隨AI芯片迅速迭代，所需HBM搭載量和技術(shù)要求隨之提高，在供需失衡下三大廠商紛紛擴(kuò)產(chǎn)。據(jù)Tom’sHardware在23年12月報(bào)道，英偉達(dá)向海力士和美光提前支付數(shù)億美元以鎖定HBM產(chǎn)能，印證了HBM產(chǎn)能的迫切需求和對(duì)AI芯片的重要。英偉達(dá)在GTC2024上發(fā)布了新一代架構(gòu)Blackwell及B200GPU，通過搭載8顆HBM3E實(shí)現(xiàn)192GB內(nèi)存容量和8TB/s帶寬，對(duì)比上一代H200（6顆HBM3E，內(nèi)存容量141GB，帶寬4.8TB/s）在內(nèi)存/帶寬上提升36.2%/66.67%。亞馬遜AWS已計(jì)劃采購(gòu)2萬片GB200芯片，以部署高達(dá)27萬億參數(shù)的模型。根據(jù)Digitimes24年3月的報(bào)道，Meta計(jì)劃在24年底前儲(chǔ)備約35萬顆H100，加上其采用的其他AI芯片，將擁有相當(dāng)于60萬顆H100。Meta在3月19日指出，目前Meta正在以2個(gè)GPU叢集訓(xùn)練其第三代Llama模型，據(jù)稱每個(gè)叢集包含約2.4萬個(gè)H100GPU，公司計(jì)劃導(dǎo)入Blackwell訓(xùn)練Llama的未來版本。根據(jù)美光FY24Q2業(yè)績(jī)會(huì)，公司預(yù)期24年5月HBM3E出現(xiàn)初步營(yíng)收貢獻(xiàn)，8月營(yíng)收將進(jìn)一步提升，F(xiàn)Y24Q3開始對(duì)公司的DRAM業(yè)務(wù)和整體毛利率作出改善，并預(yù)計(jì)在FY24整年，HBM3E將貢獻(xiàn)約數(shù)億美元營(yíng)收。管理層對(duì)HBM3E前景樂觀，并宣布24年產(chǎn)能已售罄，25年產(chǎn)能也幾近售罄。公司預(yù)計(jì)FY24CAPEX在75-80億美元，略高于FY23水平，主要用于支持HBM3E量產(chǎn)和擴(kuò)產(chǎn)。管理層雖未透露除CAPEX之外更多的HBM擴(kuò)產(chǎn)信息，但預(yù)期25年HBM市占率將與公司在DRAM市占率平齊，約為20%。根據(jù)Digitimes24年3月12日和4月15日?qǐng)?bào)道，美光將逐季提高稼動(dòng)率，增產(chǎn)重點(diǎn)將以HBM等高端DRAM為主，并與韓美半導(dǎo)體（HanmiSemiconductor）簽訂HBMTC鍵合設(shè)備DualTCBonderTiger的供應(yīng)合約，訂單規(guī)模225.9億韓元（約1653億美元），合約期限為2024年4月10日至7月8日。我們也注意到HBM另兩大廠商海力士和三星亦在HBM擴(kuò)產(chǎn)上有所動(dòng)作。繼23年“獨(dú)供”英偉達(dá)H100HBM3之后，海力士積極推動(dòng)產(chǎn)能向HBM3E迭代。公司預(yù)計(jì)將于利川工廠生產(chǎn)HBM3E，清州M15工廠閑置空間新增HBM產(chǎn)線，預(yù)期于24H1量產(chǎn)HBM3，同時(shí)清州正在興建的M15X廠房也將作為HBM生產(chǎn)基地，產(chǎn)能預(yù)期于25H1開出。根據(jù)先前海力士23Q3業(yè)績(jī)電話會(huì)，24年公司的HBM3和HBM3E產(chǎn)能已全部售出，正與客戶、合作伙伴討論25年HBM供應(yīng)。根據(jù)Digitimes24年4月15日、3月11日和2月7日?qǐng)?bào)道，23年以來海力士已從韓美半導(dǎo)體訂購(gòu)逾2000億韓元的TC鍵合設(shè)備，包括DualTCBonderGriffin及DualTCBonder1.0Dragon，而同時(shí)24年海力士將于HBM投資超10億美元，其中大多新投資將用于改善封裝制程，包括MR-MUF鍵合工藝和TSV技術(shù)，從而提升其HBM產(chǎn)品散熱能力和生產(chǎn)效率。考量新設(shè)備安裝后擴(kuò)大量產(chǎn)仍需時(shí)間，海力士計(jì)劃24年底實(shí)現(xiàn)將HBM產(chǎn)能增加2倍，從23年每月4.5萬片晶圓提升至24年底每月12-12.5萬片晶圓。根據(jù)Digitimes24年1月和Trendforce24年3月報(bào)道，24年三星決定將HBM產(chǎn)能投資增加近3倍，從23年每月4.5萬片晶圓提升至24年底每月13萬片晶圓，25年也將進(jìn)行類似規(guī)模的投資。根據(jù)Digitimes23年12月匯總信息，23H2以來三星在設(shè)備采購(gòu)和產(chǎn)線增加上動(dòng)作積極：1）Theelec12月5日?qǐng)?bào)道，三星以5億韓元單價(jià)從Shinkawa訂購(gòu)16臺(tái)鍵合設(shè)備，其中7臺(tái)已交付，推測(cè)該批設(shè)備將服務(wù)于英偉達(dá)GPU相關(guān)的HBM和封裝業(yè)務(wù)；2）韓媒ZDNetKorea12月1日?qǐng)?bào)道，韓國(guó)設(shè)備供應(yīng)商YEST收到三星123億韓元HBM加壓設(shè)備訂單，發(fā)往三星天安生產(chǎn)線；3）三星于CES2024宣布計(jì)劃在2024年將HBM年產(chǎn)能擴(kuò)大2.5倍以上，并隨后投資105億韓元從子公司三星顯示（SDC）處收購(gòu)天安工廠的建筑和設(shè)施。根據(jù)韓國(guó)經(jīng)濟(jì)日?qǐng)?bào)24年3月28日?qǐng)?bào)道，三星管理層在Memcon2024宣布上調(diào)24年HBM產(chǎn)能預(yù)期至23年的2.9倍。HBM供需測(cè)算：24-25年需求高速增長(zhǎng)，供給缺口短期難以緩解綜合Trendforce、Semianalysis和Digitimes等多方信息，我們對(duì)2024年HBM產(chǎn)能和需求做出預(yù)測(cè)，我們預(yù)計(jì)24/25年HBM需求動(dòng)態(tài)缺口約為產(chǎn)能的5.4%/4%。供給側(cè)關(guān)鍵假設(shè)：1)產(chǎn)能假設(shè)：以HBM與TSV產(chǎn)線晶圓投入量為計(jì)，我們預(yù)期截至2024年底海力士、三星和美光將分別投入12-12.5萬片/月、13萬片/月和2萬片/月?？紤]后道設(shè)備交付時(shí)間較長(zhǎng)，以及新設(shè)備安裝后擴(kuò)大量產(chǎn)仍需時(shí)間，我們預(yù)測(cè)24年三星、海力士和美光HBM產(chǎn)線平均月度晶圓投入量將達(dá)8.5萬片/月、8.5萬片/月和1.2萬片/月。鑒于海力士和美光25年HBM產(chǎn)能亦出現(xiàn)售罄跡象，結(jié)合前文三星25年HBM擴(kuò)產(chǎn)投資計(jì)劃，我們認(rèn)為25年三大廠商擴(kuò)產(chǎn)仍將持續(xù)，預(yù)測(cè)25年三星、海力士和美光HBM產(chǎn)線平均月度晶圓投入量將達(dá)11.5萬片/月、12.5萬片/月和4.0萬片/月。2)切割良率假設(shè)：根據(jù)美光官方公布HBM3E產(chǎn)品細(xì)節(jié)，HBM3E單片DRAM尺寸約為為121平方毫米（11mmx11mm），因此單片12英寸晶圓理論可切割HBM3/3EDRAM491顆。同時(shí)，引用韓國(guó)經(jīng)濟(jì)日?qǐng)?bào)21年7月報(bào)道，我們估計(jì)DRAM切割良率約為90%，故單晶圓可切割DRAM442顆。此外，根據(jù)Digitimes24年3月報(bào)道，鑒于TSV穿孔和鍵合過程易帶來芯片翹曲，海力士HBM3/TSV+鍵合工藝良率僅60%-70%，較一般DRAM低20-30pct，而海力士采用的AdvancedMR-MUF鍵合已較三星和美光采用的TC-NCF鍵合在良率上有所優(yōu)勢(shì)，因此美光和三星HBM鍵合良率可能更低。同時(shí)，臺(tái)媒科技新報(bào)24年3月報(bào)道指出，供應(yīng)商試圖拉高良率會(huì)帶來產(chǎn)量下降，鑒于HBM產(chǎn)能吃緊，因此確保產(chǎn)量?jī)?yōu)先級(jí)更高。結(jié)合上述信息，我們認(rèn)為美光和三星HBM3量產(chǎn)后，伴隨產(chǎn)能爬坡，工藝良率將有所提升并趨于穩(wěn)定，但使用TC-NCF鍵合所以良率仍將低于海力士，預(yù)測(cè)24年海力士/三星/美光整體HBM良率60%/40%/45%，25年小有爬升，將是60%/42%/47%。3)單個(gè)DRAM容量假設(shè)：伴隨HBM3/3E產(chǎn)能不斷開出，HBM產(chǎn)品組合將向HBM3/3E傾斜，根據(jù)YoleIntelligence24年2月報(bào)告，23年HBM3產(chǎn)量占總產(chǎn)能的33%，24年HBM3/3E產(chǎn)量占比將躍升至81%（HBM3：62%，HBM3E：19%），25年將進(jìn)一步提升至89%。我們認(rèn)為，海力士作為英偉達(dá)HBM3/3E主供，產(chǎn)能向HBM3/3E傾斜將更為激進(jìn)；與之相比，三星憑借其“一站式策略”承接更多云廠商自研芯片的HBM需求，因此HBM2/2E仍占部分產(chǎn)能；美光計(jì)劃通過HBM3E追趕市場(chǎng)份額，在產(chǎn)能本不富裕的情形下，擴(kuò)產(chǎn)HBM3E并順利交付將是首要發(fā)力點(diǎn)。因此，我們預(yù)測(cè)，24年海力士/三星/美光HBM的單片DRAM容量為2.2/2.1/3.0GB，25年伴隨芯片迭代及HBM3E產(chǎn)能開出，其占比將持續(xù)擴(kuò)大，帶動(dòng)HBM的單片DRAM容量提升至2.6/2.4/3.0GB。需求側(cè)關(guān)鍵假設(shè)：1)CoWoS產(chǎn)能假設(shè)：結(jié)合臺(tái)積電23年底CoWoS月產(chǎn)能為1.9萬片，考慮產(chǎn)能爬坡時(shí)間，我們預(yù)測(cè)24年臺(tái)積電動(dòng)態(tài)CoWoS產(chǎn)能為2.8萬片/月，與外溢部分合計(jì)3.3萬片/月，24年CoWoS總產(chǎn)能約39.6萬片；25年除去臺(tái)積電CoWoS產(chǎn)能擴(kuò)張，英特爾EMIB、Amkor和ASE等外溢產(chǎn)能同樣有望進(jìn)一步開出，預(yù)測(cè)25年CoWoS月產(chǎn)能5.2萬片，總產(chǎn)能62萬片。2)各廠商AI芯片單晶圓切出量、單卡HBM堆棧數(shù)量以及單HBM堆棧容量：我們基于各AI芯片尺寸計(jì)算每片切出芯片數(shù)目，并根據(jù)HBM參數(shù)，結(jié)合各廠商取得的CoWoS產(chǎn)能，以芯片出貨量為權(quán)重計(jì)算三項(xiàng)參數(shù)的加權(quán)平均。產(chǎn)能分布上，我們認(rèn)為24-25年HBM需求仍以英偉達(dá)AIGPU為主體，英偉達(dá)24-25年仍將每年取得逾40%產(chǎn)能，同時(shí)關(guān)注到AMDMI300、谷歌TPUv5、AWSTrainium/Inferentia以及英特爾Gaudi2/3帶來的需求增量；單晶圓切出量上，伴隨設(shè)計(jì)尺寸增大，以及Blackwell對(duì)比Hopper產(chǎn)能占比提升，25年每片切出的AI芯片將隨之下降；結(jié)合前文，雖然每片切出數(shù)目減少，但單卡HBM堆棧數(shù)目增多、層數(shù)增高和容量增大將是大勢(shì)所趨。因此，我們預(yù)測(cè)24/25年單晶圓平均切出AI芯片39/38顆、單卡平均HBM堆棧數(shù)量5.3/5.9顆，以及單HBM堆棧平均容量14.0/14.7GB?；谝陨霞僭O(shè)，我們預(yù)測(cè)24/25年HBM總供給1067.3/1933.1mnGB，同比+123.3%/81.1%，其中24年海力士、三星和美光分別占總供給的57%、36%和8%，伴隨美光25年HBM產(chǎn)能開出，海力士、三星和美光HBM供給量將分別占總供給的50%、35%和15%。同時(shí)，我們預(yù)測(cè)24/25年HBM總需求1128.6/2014.3mnGB，由此測(cè)算得24/25年HBM供給缺口約為產(chǎn)能的5.4%/4%。鑒于三大廠商均提及與下游討論25年HBM供應(yīng)，我們認(rèn)為24年HBM擴(kuò)產(chǎn)后，25年缺口雖收窄但仍將維持輕微的供給不足，從而使得HBMASP維持穩(wěn)定。以ASP11美元/GB測(cè)算，對(duì)應(yīng)市場(chǎng)空間124.1/221.6億美元，同比+125.6%/78.6%。從AI服務(wù)器需求看HBM，高速增長(zhǎng)帶來內(nèi)存新增長(zhǎng)點(diǎn)AI服務(wù)器的興起拉動(dòng)HBM市場(chǎng)需求持續(xù)增長(zhǎng)。根據(jù)TrendForce23年4月報(bào)道，現(xiàn)階段通用服務(wù)器DRAM約為500-600GB，而AI服務(wù)器則需要更多，平均為1.2-1.7TB，其中HBM容量為320-640GB。隨著AI模型日益復(fù)雜，對(duì)服務(wù)器訓(xùn)練速度的追求將越來越高，因此DRAM和HBM是必不可少，同時(shí)，在SSD容量提升上亦呈現(xiàn)擴(kuò)大的態(tài)勢(shì)。Trendforce估計(jì)未來AI服務(wù)器每臺(tái)DRAM容量為2.2-2.7TB，其中HBM容量為512-1024GB。根據(jù)海力士23Q3業(yè)績(jī)電話會(huì)，管理層預(yù)期未來5年HBM總市場(chǎng)規(guī)模的CAGR為60%-80%。AI服務(wù)器市場(chǎng)火熱亦可從服務(wù)器廠商業(yè)績(jī)略見一斑。2024年2月29日盤后Dell發(fā)布FY24Q4業(yè)績(jī)，Serversandnetworking業(yè)務(wù)收入環(huán)比增長(zhǎng)4.3%至48.57億美元，超過彭博一致預(yù)期的48.09億美元，AI服務(wù)器出貨達(dá)8億美元。展望未來，公司的AI服務(wù)器累計(jì)在手訂單增長(zhǎng)至29億美元，接近第三季度16億美元的兩倍，因此將帶來穩(wěn)健的增長(zhǎng)前景，公司預(yù)計(jì)InfrastructureSolutionGroup（ISG）板塊（分為Serversandnetworking和Storage業(yè)務(wù)，包含AI基礎(chǔ)設(shè)施中的儲(chǔ)存產(chǎn)品PowerScale）將受益于來自AI客戶的強(qiáng)勁需求，同步增長(zhǎng)15%-17%（mid-teensgrowth）。業(yè)績(jī)發(fā)布后一交易日，Dell股價(jià)盤中一度飆升至131.1元的高點(diǎn)，最終收盤于124.59美元，上漲31.62%。競(jìng)爭(zhēng)格局：三大廠商瓜分HBM3/3E市場(chǎng)，各顯神通角逐HBM4在半導(dǎo)體行業(yè)，先進(jìn)制程技術(shù)的發(fā)展呈現(xiàn)資金和技術(shù)壁壘不斷提高的趨勢(shì)，HBM所需工藝的復(fù)雜性和其應(yīng)用場(chǎng)景，以及對(duì)供需雙方深度合作的要求，使得行業(yè)格局集中于海力士、三星和美光三大廠商。綜合YoleIntelligence24年2月發(fā)布的全球HBM市場(chǎng)報(bào)告，23年海力士市場(chǎng)份額為56%，三星市場(chǎng)份額為41%，美光市場(chǎng)份額為3%。美光：跳過HBM3，1-β制程HBM3E加速追趕我們看好美光HBM業(yè)務(wù)的邏輯不是其“贏在起跑線上”，相反，美光并非HBM市場(chǎng)的先行者，但我們預(yù)期美光將是本輪HBM高速增長(zhǎng)的主要受惠者：1）中短期內(nèi)HBM市場(chǎng)仍將供不應(yīng)求，美光HBM3E可作為“二供”承接溢出訂單，同時(shí)其相較同業(yè)競(jìng)品更優(yōu)的產(chǎn)品性能也有利于幫助其擴(kuò)展下游客戶；2）HBM3E相較傳統(tǒng)DRAMASP更高，借助HBM3E的營(yíng)收貢獻(xiàn)美光利潤(rùn)率有望迎來優(yōu)化，同時(shí)HBM銷售多基于年度合同，相較傳統(tǒng)DRAM大宗商品屬性更低，擁有更好的抗周期性；3）與海力士和三星不同，美光借HBM3E“重啟”HBM業(yè)務(wù)幾近“從無到有”，2023年HBM市場(chǎng)份額僅為3%，低基數(shù)帶來相較前兩者更高的成長(zhǎng)性；4）英偉達(dá)扶持，受益于英偉達(dá)大量HBM需求。23年英偉達(dá)H100HBM3由海力士獨(dú)供，我們認(rèn)為一方面海力士HBM3/3E產(chǎn)能擴(kuò)展有限，為保證AI芯片按期交付，英偉達(dá)積極扶持美光作為HBM“二供”；另一方面也是出于避免過分依賴海力士，防止海力士一家獨(dú)大的考量，尋求替代方案，“貨比三家”從而掌握更大的議價(jià)主動(dòng)性。目前海力士HBM3/3E“獨(dú)供”格局已被打破，截至24年4月中旬，海力士和美光HBM3E均已通過英偉達(dá)效能驗(yàn)證，確認(rèn)供貨H200，三星HBM3E仍在驗(yàn)證進(jìn)程中，但Digitimes24年4月15日?qǐng)?bào)道指出三星上修24年HBM出貨目標(biāo)及訪臺(tái)謀求HBM合作當(dāng)作積極，或隱含英偉達(dá)產(chǎn)品驗(yàn)證進(jìn)程順利。我們認(rèn)為美光能否借HBM“東風(fēng)”成功實(shí)現(xiàn)估值重估，關(guān)鍵在于在HBM的蛋糕不斷做大的前提下，其能否成功搶占份額：1）產(chǎn)能：當(dāng)前美光HBM產(chǎn)能較海力士和三星仍然較低，24-25年美光能否成功擴(kuò)產(chǎn)并滿足下游需求將是關(guān)鍵；2）良率：相較海力士MR-MUF鍵合，美光和三星均使用TC-NCF，鍵合技術(shù)良率仍然較低，能否通過良率提升進(jìn)一步減少損耗成本，同時(shí)變相提升產(chǎn)能也將是未來發(fā)力重點(diǎn)。美光并非HBM領(lǐng)域的先行者，自研HMC未獲廣泛應(yīng)用。2011年9月，英特爾于開發(fā)者論壇（IDF）介紹其與美光合作開發(fā)的HMC（HybridMemoryCube混合內(nèi)存立方體）技術(shù)，同樣基于TSV技術(shù)構(gòu)建DRAM堆棧，以解決DDR3面臨的帶寬問題。但限于成本高昂及并非開放標(biāo)準(zhǔn)，并未獲得業(yè)界廣泛采用。根據(jù)MicroprocessorReport14年9月的報(bào)道，富士通Sparc64XIfx是為數(shù)不多采用美光HMC的處理器之一，搭載于15年推出的富士通PRIMEHPCFX100超級(jí)電腦。2018年8月，因未獲市場(chǎng)采納，美光宣布放棄HMC，轉(zhuǎn)向HBM，2020年3月美光開始提供HBM2產(chǎn)品，面向高端AI芯片的顯存方案，并于2020年7月宣布量產(chǎn)HBM2E，此時(shí)較2016年三星率先發(fā)布HBM2已然過去近4年。美光跳過HBM3，意圖通過1-β制程占領(lǐng)HBM3E市場(chǎng)份額。為追趕SK海力士和三星，美光決定跳過HBM3直接生產(chǎn)HBM3E。2023年7月，美光宣布與臺(tái)積電3D-Fabric聯(lián)盟，推出1-β制程的HBM3E，其DRAM堆棧為8層，提供24GB容量，帶寬、傳輸速度達(dá)到1.2TB/s、9.2Gbps。24年2月26日，美光率先宣布實(shí)現(xiàn)HBM3E量產(chǎn)，確認(rèn)供貨英偉達(dá)H200，24年3月美光已宣布出樣12層36GBHBM3E，預(yù)期25年量產(chǎn)。對(duì)比海力士和三星的HBM3E，美光布局較晚，欲在工藝上彎道超車，提升產(chǎn)品性能。根據(jù)公司FY24Q2業(yè)績(jī)會(huì)，美光HBM3E相較于同代競(jìng)品實(shí)現(xiàn)約10%的性能提升，降低約30%的功耗，管理層稱美光HBM3E的性能優(yōu)勢(shì)獲得客戶青睞，并證實(shí)其跳過HBM3直接布局HBM3E戰(zhàn)略的可行性：1）制程上：根據(jù)Digitimes24年1月報(bào)道，美光和海力士HBM3E均采用1-β制程，領(lǐng)先于三星的1-α制程，而美光預(yù)期于25年率先量產(chǎn)下一代1-γDRAM，由于HBM本質(zhì)是DRAM堆疊，若率先采用1-γ制程的DRAM將同樣為HBM產(chǎn)品帶來性能優(yōu)勢(shì)；2）布局中國(guó)臺(tái)灣，加強(qiáng)供應(yīng)鏈合作：根據(jù)臺(tái)媒數(shù)位時(shí)代24年3月專訪中國(guó)臺(tái)灣美光董事長(zhǎng)盧東暉的報(bào)道，結(jié)合Digitimes24年3月相關(guān)新聞，美光HBM3E封測(cè)和出貨均在中國(guó)臺(tái)灣完成，自產(chǎn)品設(shè)計(jì)階段開始與中國(guó)臺(tái)灣供應(yīng)鏈合作緊密，例如，在中國(guó)臺(tái)灣供應(yīng)鏈部分，美光與IP供應(yīng)商合作提供GPU與HBM快速交互的相關(guān)技術(shù)。同時(shí)，相較三星集存儲(chǔ)、AI芯片設(shè)計(jì)、晶圓代工和封裝為一體，美光定位與海力士接近，與臺(tái)積電不存在競(jìng)爭(zhēng)關(guān)系，因此自HBM3E研發(fā)初期開始即可以與臺(tái)積電緊密合作商討HBM與GPU整合方案，鑒于英偉達(dá)和AMD等下游客戶是臺(tái)積電CoWoS的“頭號(hào)客戶”，美光與臺(tái)積電的合作加速客戶驗(yàn)證其HBM3E進(jìn)程，糾錯(cuò)過程亦更易進(jìn)行。同時(shí)，三星24年3月下旬訪臺(tái)就HBM加強(qiáng)與臺(tái)積電合作，并拉攏更多供應(yīng)鏈伙伴，海力士HBM開發(fā)過程中也曾數(shù)次訪問臺(tái)積電，側(cè)面印證HBM供應(yīng)鏈合作的必要性。SK海力士：超越三星的HBM領(lǐng)頭羊，先發(fā)優(yōu)勢(shì)、領(lǐng)先制程和鍵合工藝穩(wěn)坐頭把交椅我們認(rèn)為，海力士自獨(dú)供英偉達(dá)HBM3開始的先發(fā)優(yōu)勢(shì)使得其坐穩(wěn)行業(yè)龍頭，但面對(duì)來勢(shì)洶洶的美光，其在HBM市場(chǎng)50%左右的份額能否保持則有待觀察。盡管英偉達(dá)對(duì)HBM3E需求增加，但AMD和云廠商自研芯片對(duì)HBM3需求也不可忽視，24-25年HBM3仍將是海力士營(yíng)收增長(zhǎng)的“基本盤”。相較美光和三星，海力士已積累與下游客戶合作的豐富經(jīng)驗(yàn)，如我們前文所述，其效能驗(yàn)證和糾錯(cuò)效率或較競(jìng)爭(zhēng)對(duì)手更高；相較三星，海力士HBM3已形成成熟供應(yīng)鏈，良率穩(wěn)定且技術(shù)較三星更有優(yōu)勢(shì)。SK海力士的第一代HBM與AMD聯(lián)合開發(fā)，之后公司多次發(fā)布新產(chǎn)品，保持HBM領(lǐng)先地位。2013年12月，公司與AMD聯(lián)合開發(fā)HBM1，和AMDFijiGPU一起應(yīng)用于AMDRadeonFury系列顯卡。之后的7年間迭代更新HBM2和HBM2E；于2021年10月推出全球首款HBM3，2022年6月實(shí)現(xiàn)量產(chǎn)后獨(dú)供英偉達(dá)H100。2023年4月推出24GB12層堆疊的HBM3，通過將單個(gè)DRAM的高度磨削到約30微米（比16GBHBM3單片薄40%），實(shí)現(xiàn)了與16GB產(chǎn)品相同的高度。2023年8月發(fā)布HBM3E。海力士在CES2024展示的HBM3E提供1.18TB/s數(shù)據(jù)處理速度（發(fā)布初為1.15TB/s），并已經(jīng)于24年3月實(shí)現(xiàn)HBM3E量產(chǎn)，開始向英偉達(dá)供貨。根據(jù)TechInsights轉(zhuǎn)載24年2月國(guó)際固態(tài)電路研討會(huì)（ISSCC2024）日程，海力士于會(huì)上Paper13.4中公開其16層堆疊的HBM3E技術(shù)，提供48GB內(nèi)存和近1.3TB/s的帶寬。根據(jù)Digitimes24年2月26日?qǐng)?bào)道，業(yè)界估計(jì)24年海力士HBM營(yíng)收將達(dá)10兆韓元（約74.9億美元），相當(dāng)于23年總營(yíng)收的一半，Digitimes該篇報(bào)道亦假設(shè)利潤(rùn)率為50%，由此推出海力士HBM利潤(rùn)約為5兆韓元，將占24年整體利潤(rùn)的50%。相較三星和美光，海力士采用領(lǐng)先的HBM鍵合工藝，是業(yè)內(nèi)唯一將MR-MUF技術(shù)應(yīng)用于HBM的公司。海力士的HBM2和三星HBM鍵合均采用TC-NCF（基于熱壓的非導(dǎo)電薄膜ThermalCompression-NonConductiveFilm）工藝，該過程需要高溫高壓環(huán)境將凸點(diǎn)（bumps）推入非導(dǎo)電薄膜，在單個(gè)DRAM高度減少的環(huán)境下更易導(dǎo)致芯片翹曲。海力士在HBM2E中首次使用MR-MUF（批量回流模制底部填充MassReflowMoldedUnderfill），通過在芯片間注入EMC（液態(tài)環(huán)氧樹脂模塑料EpoxyMoldingCompound）填充芯片之間或芯片與凸塊之間間隙。EMC本身具備中低溫固化、低翹曲、低吸水率等優(yōu)點(diǎn)，無需借助高溫高壓，可有效解決芯片翹曲從而提升良率。在設(shè)計(jì)12層HBM3時(shí)，公司采用了AdvancedMR-MUF技術(shù)，進(jìn)一步提升工藝良率和散熱性能。與三星不同，海力士沒有晶圓代工業(yè)務(wù)，與臺(tái)積電合作更加緊密，二者作為受益于AI芯片的利益共同體，合作推進(jìn)HBM4研發(fā)。2024年4月，海力士與臺(tái)積電簽署合作備忘錄，合作開發(fā)預(yù)計(jì)在2026年投產(chǎn)的HBM4，以此與三星的“一站式策略（TurnkeyStrategy）”競(jìng)爭(zhēng)。該合作主要分為兩個(gè)方面：1）海力士和臺(tái)積電將首先致力改善HBM封裝內(nèi)最底層的基礎(chǔ)裸片（BaseDie），該片與上方的DRAM不同，對(duì)上方的DRAM堆棧（CoreDie）起到控制作用，同樣連接至GPU。過往包括HBM3E在內(nèi)的海力士HBM產(chǎn)品的基礎(chǔ)裸片由海力士基于自身制程工藝制造，但從HBM4開始采用臺(tái)積電先進(jìn)邏輯制程，更細(xì)微的工藝可以在基礎(chǔ)裸片上增加更多功能，從而滿足客戶定制化產(chǎn)品在性能和功效上更加多樣的需求；2）雙方將進(jìn)一步優(yōu)化海力士HBM產(chǎn)品和臺(tái)積電CoWoS技術(shù)融合，改善性能表現(xiàn)。三星：依托自家晶圓代工部門，一站式策略追趕海力士市場(chǎng)份額三星于23H2開始量產(chǎn)16GB/24GB1-ZHBM3，根據(jù)Trendforce24年3月報(bào)道，其16/24GBHBM3已于23年底確認(rèn)供貨英偉達(dá)，打破海力士作為英偉達(dá)HBM3“獨(dú)供”格局。GTC2024期間三星展示其12層36GBHBM3E，預(yù)期于24H2實(shí)現(xiàn)量產(chǎn)。英偉達(dá)CEOJensenHuang會(huì)上于三星12層HBM3E旁簽下“JensenApproved”，確認(rèn)該產(chǎn)品正在通過英偉達(dá)效能驗(yàn)證。Digitimes24年4月報(bào)道三星HBM3E測(cè)試已近尾聲，最快24Q2開始供貨英偉達(dá)，相較之前市場(chǎng)預(yù)期24H2提前。我們認(rèn)為，三星是海力士HBM市場(chǎng)的有力競(jìng)爭(zhēng)者，短期HBM3市場(chǎng)或難以追趕海力士，但中期HBM3E/4將凸顯其優(yōu)勢(shì)：1）相較海力士，三星HBM3起步較晚，因此市場(chǎng)份額或難以相匹敵，然而24年2月三星12層36GBHBM3E已經(jīng)宣布開發(fā)完成，且?guī)捥嵘噍^海力士更為激進(jìn)，若三星成功于24H1量產(chǎn)HBM3E，并后續(xù)通過英偉達(dá)驗(yàn)證，則將與海力士重回同一起跑線；2）對(duì)比海力士和美光，三星的獨(dú)特之處在于其整合存儲(chǔ)芯片和晶圓代工的能力，從而實(shí)現(xiàn)“一站式策略（TurnkeyStrategy）”。中期來看，三星的“一站式策略”將服務(wù)于HBM4的研發(fā)，其邏輯類似海力士與臺(tái)積電的合作，三星存儲(chǔ)與封裝部門協(xié)同將縮短HBM4從研發(fā)到生產(chǎn)的中間環(huán)節(jié)，并在未來的量產(chǎn)中縮短從存儲(chǔ)顆粒制造、封裝到交付的周期，從而能占得HBM4及后續(xù)產(chǎn)品先機(jī)；3）對(duì)比海力士積極推進(jìn)HBM3/3E產(chǎn)能迭代，三星在HBM2E市場(chǎng)仍然有著來自AMDXilinx、中國(guó)芯片廠商以及云廠商自研芯片的HBM需求。例如XilinxVersalFPGA、GoogleTPUv5e、AmazonInferentia2和Trainum、壁仞科技（Biren）106系列和燧原科技（Enflame）云燧T20仍采用HBM2E，短期內(nèi)仍有部分需求。海力士HBM3率先量產(chǎn)占得先機(jī)，三星加速迭代奮起直追。16年1月，三星跳過HBM