科技行業(yè)專題研究：AI智算時代已至算力芯片加速升級

AI智算時代已至，算力芯片加速升級《AI大模型開啟新一輪大國競爭，半導體戰(zhàn)略地位凸顯》分析師：劉牧野股市有風險入市需謹慎中航證券研究所發(fā)布證券研究報告請務必閱讀正文后的免責條款部分式計算的市場主要由算力芯片(55-75%)、內(nèi)存(10-20%)和互聯(lián)設備（10-20%）三部分組成。美國已限制對華銷售最先進、使用最廣泛的AI訓練IDC預測，全球CoWoS供需缺口約20目錄目錄AI正處史上最長繁榮大周期AI正處史上最長繁榮大周期派，即邏輯演繹、歸納統(tǒng)計和類腦計算。目標最為宏遠，但在未得到生命科學的支撐之前，難以取得實際應用。歸納演繹流派的思考方式與人類相似，具有較強的可解釋性。由于對數(shù)據(jù)和算力的依賴較少，歸納演繹流派成為人工智能前兩次繁榮的主角。隨著學界對人工智能困難程度的理解逐漸加深，數(shù)理邏輯方法的局限性被不斷放大，并最終在第三次繁榮期中，逐漸讓位于統(tǒng)計學習的“暴力美學”。統(tǒng)計方法逐漸占據(jù)了人工智能領域的主導地位，深度學AI生態(tài)加速收斂AI生態(tài)加速收斂智能算力規(guī)模將快速增長智能算力規(guī)模將快速增長2022-2027年期間，中國智能算力規(guī)模年復合增長率達33.9%，同期通用算力規(guī)模年復合增AI服務器需求旺盛AI服務器需求旺盛年的195億美元增長到2026年的347億美元，五年年復合增長率達17.2023年10月《算力基礎設施高質(zhì)量發(fā)展行動2023年10月《算力基礎設施高質(zhì)量發(fā)展行動計劃》算力規(guī)模超過300EFLOPS，智能算力占比達到35%，東西部算力2023年12月《深圳市算力基礎設施高質(zhì)量發(fā)展行動計劃》到2025年，通用算力達到14EFLOPS（FP32），智能算力達到25EFLOPS（FP16），超算算力達到2EFLOPS（FP64）。全國推進算力建設，加大算力投資2023年4月2023年4月《上海市推進算力資源統(tǒng)一調(diào)度指導意見》到2023年，可調(diào)度智能算力達到1000PFLOPS（FP16）以上；到2025年，本市數(shù)據(jù)中心算力超過18000PFLOPS（FP32）算力、存儲、網(wǎng)絡構建智算中心基礎算力、存儲、網(wǎng)絡構建智算中心基礎集群為載體，而當前算法模型的發(fā)展趨勢以AI大模型為代表。資料來源：國家信息中心《智能計算中心創(chuàng)新發(fā)展指南》系統(tǒng)芯片：CPU推理芯片GPU、ASIC、FPGA算力芯片主導AI計算市場系統(tǒng)芯片：CPU推理芯片GPU、ASIC、FPGA算力芯片主導AI計算市場算力芯片訓練芯片：訓練芯片：GPU、ASIC、FPGA邊緣推理：邊緣推理：GPU、SoC、AppleSilicon存儲芯片集成算力與存力，先進封裝產(chǎn)能緊缺集成算力與存力，先進封裝產(chǎn)能緊缺AI算力對高效電源提出新需求AI算力對高效電源提出新需求國外國外國內(nèi)國外國內(nèi)甬矽電子興森科技、聯(lián)瑞新材、生國外國內(nèi)源算力產(chǎn)業(yè)鏈面臨國產(chǎn)化機會和挑戰(zhàn)國外國內(nèi)技目錄目錄AI芯片架構眾多AI芯片架構眾多行計算、高效能和高并發(fā)等優(yōu)勢，因此在人工智能、機器學習、數(shù)據(jù)挖掘等領域得到廣泛應用。 芯片架構芯片特點CPU的通用架構設計使運行效率受限。當前CPU雖然在機器學習領域的計算大大減少,但是 CPU的通用架構設計使運行效率受限。當前CPU雖然在機器學習領域的計算大大減少,但是 TPU/ASIC當前為谷歌公司專用,還不是市像FPGA很快改變架構,適應變化,谷歌L5模仿人腦神經(jīng)元和神經(jīng)突觸的結構,功耗非常低。有可能實現(xiàn)人工智能領域的通用化路徑,寬寬AI算力路線向GPU收斂AI算力路線向GPU收斂注意力層和前饋神經(jīng)網(wǎng)絡層組成，這種設計使得它在構造大型型，算力芯片技術路線也向適合并行計算的GPU收斂。達到萬卡級別。因此，出于對大模型的訓練需求，市場選擇了GPU作為主流的算力芯片。據(jù)IDC，在中國人工智能芯片市場，異構方式是人工智能異構計算的主要組合形式。鏈需要長時間積累，目前難以繞過CUDA去兼容英偉達的生態(tài)，所以CUDA成為了英偉達的堅效應，微軟和英特爾在市場獲得巨大優(yōu)勢。在AI大模型時代，軟硬件協(xié)同完善的生態(tài)是客戶選擇CUDA的原因，英偉達打造的GPU運算生態(tài)系統(tǒng)已擁有龐大的使用群體和客戶粘性，英偉達算力王者的地位仍然穩(wěn)健。庫件應用應用剖析和除剖析和除錯工具GPUGPU應用程序程序語言程序語言和APIGPUGPU硬件程序庫程序庫資料中心資料中心工具優(yōu)勢和創(chuàng)新，可以為AI計算提供高性能、高并行度、高可擴展性和高能效等特點，滿足大規(guī)模數(shù)據(jù)處理和復雜模型訓練的需求。因此，英偉達的增速分別高達171%、285%。英偉達芯片進口受限，國產(chǎn)算力需求迫切英偉達芯片進口受限，國產(chǎn)算力需求迫切9月，美國芯片巨頭英偉達收到美國官方通知，若對中國和俄羅斯的客戶出口兩款高端GPU芯片——A100和H100，需要出口合規(guī)限制。美國商務部長雷蒙多表示，管制目的就是遏制中國獲得先進芯片，從而阻礙中國「人工智能和復雜計算服務，從而在這場競爭中擁有先發(fā)權。隨著一系列英偉達算力供給縮水動作，使得國內(nèi)市場上已有的英偉達系列顯卡進務和NVIDIAAIEnterprise軟件都是全速增長的引擎。因此，英龍芯中科表：英偉達國產(chǎn)替代產(chǎn)品產(chǎn)品型號理論對標英偉達產(chǎn)品一一一一一目錄目錄所以很多算力芯片硬件廠商選擇了兼容CUDA的路線——使對標英偉達GPU15254715對標英特爾CPU35151515型框架、性能需求，因此本土人工智能芯片仍需在發(fā)展、繼承和競爭中成長。在中美脫鉤的時代背景下，國產(chǎn)算力芯片正經(jīng)歷“可用”到“好用”芯片制造、算力部署、應用生態(tài)的全方位支持，有更大概率英偉達英偉達華為海思海光信息寒武紀摩爾線程-------23--1-----昇思MindSpore原生支持預訓練大模型開發(fā),已在中國Omdia在對人工智能開發(fā)者的調(diào)研中發(fā)現(xiàn),在所有主流人工智能框架中,TensorFl圖：TensorFlow和MindSpore對“負責任的人工智能”提供的支持能力最好華為：打造全棧AI軟硬件平臺，構筑國產(chǎn)智能華為：打造全棧AI軟硬件平臺，構筑國產(chǎn)智能對標英偉達GPU華為：引領國內(nèi)AI芯片發(fā)展華為：引領國內(nèi)AI芯片發(fā)展段，在智能計算中心的建設過程中，投-建-運使用華為昇騰人工智能計算系統(tǒng)作為底層技設計企業(yè)。基于x86指令框架、“類CUDA”計算環(huán)境和國際先進處理器設二號于2023Q3發(fā)布，深算三號研發(fā)進展順利。產(chǎn)品類型處理器種類指令集主要產(chǎn)品產(chǎn)品特征典型應用場景兼容x86指令集海光3000系列算和事務處理等通用型應用海光5000系列海光7000系列海光8000系列GPU上編程模型使用的是HIP或者OpenCL，運行環(huán)境是ROCm。英偉達顯卡上，編程模型是CUDA，運行環(huán)境也是寒武紀：云邊端AI硬件協(xié)同發(fā)展寒武紀：云邊端AI硬件協(xié)同發(fā)展產(chǎn)品線產(chǎn)品類型寒武紀主要產(chǎn)品推出時間寒武紀：互聯(lián)網(wǎng)客戶存較大增長空間寒武紀：互聯(lián)網(wǎng)客戶存較大增長空間目錄目錄AI算力刺激更多存儲器用量AI算力刺激更多存儲器用量帶來的海量數(shù)據(jù)。當前普通服務器DRAM普遍配置約為500至600GB，而AI服務器DRAM配置可達1.2至1.7TB，是普通服務器的普通服務器AI服務器未來AI服務器DRAM容量500-600GB1.2-1.7TB2.2-2.7TBSSD容量4.1TB4.1TB8TBHBM容量——320-640GB512-1024GB圖：存儲計算性能存在“剪刀差”推出時間45405040.892021-20262021-2026CAGR25.4%10.6820262020202660%50%40%30%20%10%0%53%50%38%40%38%10%9%SK海力士三星電子SK海力士2022年2023年建議關注：香農(nóng)芯創(chuàng)——深度布局存儲產(chǎn)業(yè)建議關注：香農(nóng)芯創(chuàng)——深度布局存儲產(chǎn)業(yè)新公司擬開展SSD存儲產(chǎn)品的設計、生產(chǎn)和銷售業(yè)務，當前我國企業(yè)級SSD市場國產(chǎn)化率較低，而2022-2026年我國企業(yè)級SSD市場規(guī)模將球形氧化鋁等產(chǎn)品已開始向客戶穩(wěn)定供貨工業(yè)用六氟化硫受益于推出新High-K材料及超力士主要供應商江蘇先科工廠量產(chǎn)在即球形氧化鋁等產(chǎn)品已開始向客戶穩(wěn)定供貨工業(yè)用六氟化硫受益于推出新High-K材料及超力士主要供應商江蘇先科工廠量產(chǎn)在即亞微米球形二氧化硅完成研發(fā)，供貨給住友電木、日立化成等知名環(huán)氧塑封料的廠商子公司科美特供應臺積建議關注：雅克科技——海力士重要供應商中芯國際、海力士、京東方等業(yè)國際頭部企業(yè)。RDL層用i-Line光刻膠等導入客戶測試目錄目錄異構計算時代，先進封裝戰(zhàn)略地位凸顯異構計算時代，先進封裝戰(zhàn)略地位凸顯CPU、GPU以及存儲器，實現(xiàn)芯片更高帶寬的互連，能夠集成GPU\CPU\存儲順應AI算力芯片發(fā)展，封裝技術持續(xù)創(chuàng)新開發(fā)減少封裝高度的技術(封裝堆疊→芯片堆疊)開發(fā)提升封裝性能的技術(凸塊→TSV)開發(fā)增強封裝整合競爭力的新技術(SiP*)順應AI算力芯片發(fā)展，封裝技術持續(xù)創(chuàng)新順應AI算力芯片發(fā)展，封裝技術持續(xù)創(chuàng)新存儲器解決方案，以及用于服務器的高密度存儲器（HDM）三維堆疊技術。同時，海力士持續(xù)迭代封裝技術，研發(fā)了批量回流模制底部填充、混帶寬128GB/s307GB/s460GB/s819GB/s堆疊高度4層4層/8層4層/8層4層/12層容量4GB/8GB8GB/16GB16GB/24GBI/O速率2.4Gbps3.6Gbps6.4Gbps硅通孔封裝技術大幅提升HBM帶寬硅通孔封裝技術大幅提升HBM帶寬量增加，引線變得更加復雜，而且也需8、背面UBM，重布線8、背面UBM，重布線先進封裝生態(tài)已形成，國產(chǎn)替代空間廣闊力芯片上建議關注：興森科技——引領IC載板國產(chǎn)替代建議關注：興森科技——引領IC載板國產(chǎn)替代表面貼裝；半導體業(yè)務聚焦于IC封裝基板（含CSP封裝基板和FCBGA封裝基板）及半導體測試板。要由海外公司主導，國內(nèi)正在積極擴充產(chǎn)能,大陸廠商對IC載板的投資額占比達全球的46%，興森科技（fastprint）的資本投入在2021-2022年間排建議關注：興森科技——引領IC載板國產(chǎn)替代建議關注：興森科技——引領IC載板國產(chǎn)替代幅下滑導致整體產(chǎn)能利用率下降，隨著行業(yè)回暖以珠海FCBGA封裝基板項目擬建設產(chǎn)能200萬顆/月季度進入小批量生產(chǎn)階段。；廣州FCBGA封裝基板建議關注：華海誠科——環(huán)氧塑封領先企業(yè)建議關注：華海誠科——環(huán)氧塑封領先企業(yè)體封裝技術的發(fā)展息息相關，是保證芯片功能穩(wěn)定實現(xiàn)的關鍵材料。現(xiàn)建有先進的環(huán)氧模塑料中試線1條、大生產(chǎn)線5條。目前公司的研發(fā)能力和一，具體類型包括FC-BGA、FC-SiP等先進封裝技術，目前該市場仍主要為日本納美仕、日立化成等要尚處于實驗室階段。公司FC底填膠已通建議關注：艾森股份——先進封裝材料平臺建議關注：艾森股份——先進封裝材料平臺公司主要產(chǎn)品以傳統(tǒng)封裝材料為主，先進封裝材料逐步放量。公司先進封裝用電鍍銅基液（高純硫酸銅）已在華天科技正式供應；先進封裝用電研發(fā)，目前，公司自研先進封裝用g/i線負性光目錄目錄AI算力對高效電源提出新需求AI算力對高效電源提出新需求服務器電源架構轉(zhuǎn)向48V服務器電源架構轉(zhuǎn)向48V器計算能力增長快速，總體功耗也隨之提升。據(jù)華12-15kW/柜@2027，超算、智算中心功率密度將提升至30kW以上。高達40%的數(shù)據(jù)中心運營成本來自為服務器機架供電與冷卻所需的能源，由于數(shù)據(jù)中心功率密度增加，提高供電效率成為數(shù)據(jù)中心試結果，計算配電路徑的電阻為0.1mΩ時的配電損倍的計算差異。在各家公司都在積極致力于節(jié)省電力消耗中，谷歌公司于2016年率先引入了48V直流算力電路的供電設計擁有較高壁壘算力電路的供電設計擁有較高壁壘然后將12V母線電壓分配至板上多個負載點（堆棧才能為下方的晶體管提供供電和數(shù)據(jù)信號。因此，業(yè)界在研究一種“將電源線遷移到芯片背面”的方法，這樣可以讓芯片正面只需要專注于與傳遞。背面供電技術能減輕線路后端的布線從50mV下降到20mV高了30資料來源：半導體行業(yè)觀察、維科網(wǎng)電子工程、中圓反轉(zhuǎn)，并對背面進行打磨減薄，再通過