電子行業(yè)市場前景及投資研究報告:機柜放量核心算力增量高速銅連接_第1頁
電子行業(yè)市場前景及投資研究報告:機柜放量核心算力增量高速銅連接_第2頁
電子行業(yè)市場前景及投資研究報告:機柜放量核心算力增量高速銅連接_第3頁
電子行業(yè)市場前景及投資研究報告:機柜放量核心算力增量高速銅連接_第4頁
電子行業(yè)市場前景及投資研究報告:機柜放量核心算力增量高速銅連接_第5頁
已閱讀5頁,還剩28頁未讀, 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)

文檔簡介

券研究報告

行業(yè)動態(tài)研究機柜放量在即,核心算力增量之高速銅連接發(fā)布日期:2024年7月23日摘要

核心觀點:英偉達推出新一代GB200

NVL72服務器,集成化程度全面提升,其機柜內(nèi)部采用高速銅纜進行通信互連。無源DAC作為電通信的主要解決方案其不包含光電轉(zhuǎn)換器模塊,具有很高的成本效益和運營可靠性,成為實現(xiàn)短距離傳輸?shù)膬?yōu)秀解決方案。目前的銅纜已經(jīng)實現(xiàn)224G網(wǎng)Serdes高速通信技術(shù)升級,短距離性價比突出,合理假設(shè)下測算,英偉達NVL7

2

/3

6服務器帶來的增量銅纜市場空間超過70億人民幣。在AI服務器高集成度的趨勢下,我們認為銅連接或成為AI服務器的重要組成。目前安費諾是NVL72/36機柜銅連接的核心供應商,部分國內(nèi)企業(yè)或成為安費諾供應商從而受益于英偉達NVL72/36機柜放量。

英偉達推出新一代GB200

NVL72服務器,集成化程度全面提升。2024春季GTC上,英偉達CEO黃仁勛正式推出了Blackwell計算架構(gòu),主打GB200超級芯片,GB200計算托盤包含兩個Grac

e

CPU和四個Blackwell

GPU,18個計算托盤組成NVL72服務器,其中包括36個CPU和72個Blackwell構(gòu)架GPU。GB200

NVL72服務器集成化程度相對較高,并提供水冷散熱方案,內(nèi)部大量使用高速銅纜進行通信互連。

GB200

NVL7

2服務器使用銅纜進行柜內(nèi)互聯(lián),銅連接成為AI服務器的重要組成。通信網(wǎng)絡中常見的連接解決方案包括光通信和高速電通信,無源DAC作為電通信的主要解決方案其不包含光電轉(zhuǎn)換器模塊,具有很高的成本效益和運營可靠性,成為實現(xiàn)短距離傳輸?shù)膬?yōu)秀解決方案。服務器中的銅纜種類大致包括外部高速連接、OverPass高速飛線、背板連接器,NVL72服務器中均有分布,合理假設(shè)下測算,英偉達NVL72/36服務器帶來的增量芯線市場規(guī)模超過40億,成纜市場空間超過70億人民幣。目前的銅纜已經(jīng)實現(xiàn)224G技術(shù)升級,短距離傳輸性價比突出,在AI服務器高集成度的趨勢下,我們認為銅連接將成為AI服務器的重要組成。網(wǎng)Serdes高速通信

安費諾是NVL72服務器銅連接的唯一供應商,部分國內(nèi)企業(yè)或受益于整個供應體系。根據(jù)線束中國信息,目前安費諾是GB200

NVL72服務器銅連接的唯一供應商,其產(chǎn)品可以支持224G高速通信的批量交付,受限于產(chǎn)能或成本考量,部分國內(nèi)企業(yè)或成為安費諾供應商從而受益于英偉達NVL72服務器銅連接供應體系。

風險提示:人工智能技術(shù)發(fā)展不及預期、互聯(lián)網(wǎng)廠商資本開支不及預期、參與廠商眾多導致競爭格局惡化、政策監(jiān)管力度不及預期。第一章第二章第三章第四章GB200NVL72服務器銅連接成為AI服務器的重要組成相關(guān)上市公司4122532風險提示第一章

GB200NVL72服務器4英偉達AI服務器技術(shù)演進

英偉達從2006年進軍AI計算之后,其計算架構(gòu)基本保持兩年一代的迭代速度。從初代Tesla架構(gòu)到最新的Blackwell架構(gòu),芯片晶體管密度不斷增大,并行計算能力不斷提升,針對AI計算不斷優(yōu)化,互聯(lián)能力持續(xù)升級。

2024春季GTC上,英偉達CEO黃仁勛正式推出了Blackwell計算架構(gòu),以出眾的性能、效率和規(guī)模揭開了生成式AI領(lǐng)域的新篇章。圖:英偉達GPU微架構(gòu)演進歷程TeslaKeplerPascalTuringHopper

第一個統(tǒng)一著色器微架構(gòu)引入CUDA

支持PCIe3.0動態(tài)并行計算

配備專用的RT

Core深度學習超采樣

(DLSS)

第四代

Tensor

CoreHBM2的CoWoS技術(shù)

GPU動態(tài)超頻3.0

FP8

浮點格式

28

nm

GDDR6顯存

12

nm

Transformer

引擎16

nm

90/65/55

nm

四代NVLink

互連技術(shù)20102014201720202024

4nm20062016201820222012FermiMaxwellVoltaAmpereBlackwell

支持ECC

SMM流處理器

引入Tensor

Core改進MPS

二代RT

Core

第五代

Tensor

Core

流式多處理器

動態(tài)高分辨率技術(shù)

PCIe4.0

8/7

nm

FP4

浮點格式支持GDDR5顯存

28

nm

12

nm

第二代Transformer

引擎五代NVLink

互連技術(shù)

40/28

nm

4nm資料:英偉達官網(wǎng),中信建投英偉達AI服務器技術(shù)演進

從英偉達計算架構(gòu)演進趨勢來看,大致的技術(shù)進步集中在幾個方面:

計算能力不斷增強。最新的NVIDIA

B200半精度計算能力可達2250TFLOPS,是上一代NVIDIA

H100的2.3倍。

顯卡內(nèi)存不斷提升。B200預計配備192GB

HBM3e內(nèi)存,內(nèi)存為NVIDIA

H100的2.4倍。

互聯(lián)帶寬持續(xù)升級。

功耗及散熱持續(xù)提升。B200功耗相較于H100提升43%,從風冷散熱過渡向液冷散熱。

集成能力逐步提升。早期的GPU傾向于單卡或者單服務器的售賣模式,B200系列芯片初步采用rack的售賣形式。圖:英偉達服務器公布及量產(chǎn)時間2017

Q

3NVIDIA

V1002020.5.14NVIDIA

A100發(fā)布公告量產(chǎn)開始2022.92024

Q

4NVIDIA

H100NVIDIA

B1002017.5.10隨后?即開始量產(chǎn)量產(chǎn)開始預計開始量產(chǎn)NVIDIA

V100發(fā)布公告201720182019202020212022202320242025NVIDIA

V100NVIDIA

H100NVIDIA

B100正式發(fā)布發(fā)布公告發(fā)布公告2017.6.212022.3.222024.3.18資料:英偉達官網(wǎng),中信建投英偉達推出新一代計算平臺Blackwell和B200芯片

英偉達推出全新GPU平臺Blackwell,配備B200芯片。Blackwell架構(gòu)GPU具有2080億個晶體管,采用專門定制的臺積電N4P工藝制造。Blackwell產(chǎn)品均采用兩塊光刻極限尺寸的裸片,通過10TB/s的片間互聯(lián)技術(shù)連接成統(tǒng)一的GPU。Blackwell構(gòu)架B200

GPU的AI運算性能是前一代Hopper構(gòu)架H100的2.3倍,功耗顯著優(yōu)化,配備192GB

HBM3E內(nèi)存。圖:Blackwell技術(shù)優(yōu)勢圖:Blackwell平臺性能比對B200B1002024H1002022A1002020Blackwell

技術(shù)創(chuàng)新發(fā)布時間制程2024TSMC4NPTSMC4NPTSMC4NTSMC7N2080億個晶體管,雙倍光刻極限尺寸4NP

TSMC工藝,10TB/s的片間互聯(lián)全球最強大的芯片架構(gòu)BlackwellBlackwellHopperAmpere顯存類型顯存帶寬8GbpsHBM3E8GbpsHBM3E5.23GbpsHBM33.35TB/s80GB3.2GbpsHBM2e1.99TB/s80GB第二代transformer引擎將在新型4位浮點AI推理能力下實現(xiàn)算力和模型大小翻倍8TB/s8TB/sec顯存容量192GB(2x96GB)192GB(2x96GB)FP32

VectorFP64

VectorFP4

Tensor----67TFLOPS34TFLOPS-19.5TFLOPS9.7TFLOPS-為每塊GPU提供突破性的1.8TB/s雙向吞吐量,確保多達576塊GPU之間的無縫高速通信第五代NVLinkRAS引擎9PFLOPS7PFLOPSINT8/FP8Tensor4500T(FL)OPS3500T(FL)OPS1980T(FL)OPS624TOPS包含一個用于保障可靠性、可用性和可維護性的專用引擎,提高大規(guī)模AI部署的彈性,同時降低運營成本FP16

TensorTF32

TensorFP64

Tensor2250TFLOPS1120TFLOPS1800TFLOPS900TFLOPS990TFLOPS495TFLOPS312TFLOPS156TFLOPS先進的機密計算功能可以在不影響性能的情況下保護AI模型和客戶數(shù)據(jù),并且支持全新本地接口加密協(xié)議安全AI40TFLOPSNVLink530TFLOPSNVLink567TFLOPSNVLink419.5TFLOPSNVLink3NVLinkTDP專用的解壓縮引擎支持最新格式,通過加速數(shù)據(jù)庫查詢提供極其強大的數(shù)據(jù)分析和數(shù)據(jù)科學性能18Links(1800GB/s)

18Links(1800GB/s)

18Links(900GB/s)

12Links(600GB/s)解壓縮引擎1000W

700W

700W

400W資料:英偉達官網(wǎng),中信建投GB200超級芯片=兩個B200

GPU+一個Grace

CPU

英偉達推出GB200超級芯片,它基于兩個B200

GPU,外加一個Grace

CPU,使用

NVIDIA

NVLink-C2C連接B200

GPU和GraceCPU,整個超級芯片的TDP功耗高達2700W。

訓練一個1.8萬億個參數(shù)的模型以前需要8000個Hopper

GPU和15兆瓦的電力?,F(xiàn)在2000個Blackwell

GPU就能完成這項工作,耗電量僅為

4

兆瓦。在參數(shù)為1750億的GPT-3

LLM基準測試中,Nvidia稱GB200的推理性能是H100的7倍,而訓練速度是

H100的4倍。圖:GB200芯片圖:GB200性能提升圖:B系列芯片性能列表GB200B200B1002xB200GPU,GPUBlackwellGPUBlackwellGPU1xGraceCPU20petaflops10petaflops10petaopsFP4

TensorFP6/FP8

TensorINT8

TensorFP16/BF16

TensorTF32

TensorFP64

Tensor容量9petaflops4.5petaflops4.5petaops2.25petaflops1.12petaflops40teraflops192GB(8x24GB)8TB/s7petaflops3.5petaflops3.5petaops1.8petaflops0.9petaflops30teraflops192GB(8x24GB)8TB/S5petaflops2.5petaflops90teraflops384GB(2x8x24GB)16TB/s帶寬NVLink

帶寬功率2x1.8TB/s1.8TB/s1.8TB/sUp

to

2700W1000W700W資料:英偉達官網(wǎng),中信建投GB200

NVL72服務器

GB200

NVL72服務器:GB200

NVL72是NVIDIA

GB200

Grace

Blackwell超級芯片組成的服務器,整個服務器內(nèi)包含72個GPU和36個CPU芯片。將兩個高性能NVIDIA

Blackwell

Tensor

Core

GPU

NVIDIA

Grace

CPU

通過

NVLink芯片到芯片

(C2C)接口連接,可提供

900

GB/s

的雙向帶寬。

GB200計算托盤基于新的NVIDIA

MGX設(shè)計。它包含兩個

Grace

CPU

和四個

Blackwell

GPU。GB200具有冷卻板和液體冷卻接口,PCIe

Gen

6支持高速網(wǎng)絡,以及用于

NVLink

線纜盒的

NVLink

接口。GB200計算托盤提供

80

petaflop

的AI

性能和

1.7

TB

的快速內(nèi)存(包括768GB的HBM3e以及960GB的LPDDR5X)。圖:GB200圖:GB200

NVL72服務器IB網(wǎng)絡交換機GB200計算托盤NVSwitch交換托盤GB200計算托盤資料:AI閑談,英偉達官網(wǎng),中信建投NVL72服務器采用集成化設(shè)計

集成化設(shè)計的Rack形態(tài)是NVL72服務器最典型的特征,一個服務器機柜中包含72個GPU芯片,比傳統(tǒng)AI服務器機柜中的芯片密度更高,功耗更高,對服務器的散熱系統(tǒng)也提出了更高的要求。傳統(tǒng)AI服務器多采用風冷形態(tài),高芯片密度要求NVL72服務器采用液冷散熱,同時高芯片密度允許不同GPU芯片之間采用短距高速銅連接方案,銅連接和液冷是NVL72服務器另外兩個典型特征。圖:英偉達服務器演進趨勢資料:Coatue,中信建投72個GPU高速互聯(lián):更大的NVLink域

高密度設(shè)計方案的優(yōu)勢:更大的NVLink域內(nèi)實現(xiàn)高速互聯(lián)。對于NVLink互聯(lián)的Scale-Up網(wǎng)絡,一個NVLink組成的高速互聯(lián)域規(guī)模對集群整體性能至關(guān)重要,對NVLink域內(nèi)的卡的數(shù)目K進行研究。針對GPT-1T的模型來看,K=36以上時對性能提升相對于K=8還是很明顯的,而對于K>72到K=576時的邊際收益相對于系統(tǒng)的復雜性而言是得不償失的,另一方面,當Scale-Up的NVLINK網(wǎng)絡規(guī)模增大時,實際上HBD之間互聯(lián)的RDMA帶寬帶來的性能收益在減小,最終的一個平衡就是通過NVL72并用RDMA

Scale-Out來構(gòu)建一個32,000卡的集群。圖:High

Bandwidth

Domain圖:

High

Bandwidth

Domain對整體性能的影響資料:Optimized

Network

Architectures

for

Large

Language

Model

Training

with

Billions

of

Parameters,中信建投第二章銅連接成為AI服務器的重要組成12通信網(wǎng)絡中常見的連接解決方案

通信網(wǎng)絡中常見的連接解決方案包括光模塊+光纖、有源光纜(AOC)和直連電纜(DAC)。

有源光纜由兩端的兩個模塊組成,由在中間的一段光纖連接。具備高傳輸速率、遠距離功能、低功耗、重量輕,易于使用,信號信噪比表現(xiàn)好,抗干擾能力強的優(yōu)點,是數(shù)據(jù)中心、HPC計算和InfiniBand交換機互連的理想選擇。

DAC(直連電纜)電纜是一種網(wǎng)絡電纜,用于連接不同的網(wǎng)絡設(shè)備(例如交換機、路由器和服務器)以形成網(wǎng)絡。DAC可以進一步分為有源DAC和無源DAC。有源DAC電纜不僅可以轉(zhuǎn)換信號,還可以放大信號,它們不易隨著距離的推移而丟失信號,非常適合較長的電纜長度。無源DAC不包含光電轉(zhuǎn)換器模塊,電纜端由簡單的電纜連接器組成,具有很高的成本效益,由于其經(jīng)濟實惠和高速性能,無源DAC已成為實現(xiàn)短距離傳輸?shù)膬?yōu)秀解決方案。圖:AOC與DAC通信的區(qū)別圖:高速銅纜和光通信市場空間產(chǎn)品比較

AOCDAC

(passive)傳輸信號

光學信號低壓脈沖信號光纖(石英)絕緣,屬于光纖通信,不受電磁干銅質(zhì)電纜,DAC高速電纜采用銅質(zhì)材料,傳輸介質(zhì)功耗擾的影響。屬于電氣通信,并受到電磁干擾的影響。高低AOC(0M3)傳

輸距離一

般可達

100米

,在300米傳輸距離價格無源DAC:最大7米以內(nèi)高低AOC有源光纜的重量約為DAC高速光纜的四分尺寸之一,體積約為DAC

的一半,使其更易于布線

體積大于AOC和運輸。傳輸性能

高:AOC有源光纜的誤碼率低于DAC高速光纜。低設(shè)備差異

AOC有源光纜包含一個激光器

DAC高速電纜沒有光學組件資料:CSDN,LightCounting,中信建投銅連接具備性價比、可靠性等優(yōu)勢

性價比優(yōu)勢:在短距離內(nèi),光模塊價格顯著高于銅纜以及連接器,銅連接方案的成本相對較低。并且其具有高兼容度并不需要額外的轉(zhuǎn)換設(shè)備。

可靠性優(yōu)勢:可靠性用平均無故障時間(MTBF)來衡量。無源銅纜的MTBF大約為50000小時――通常比光纜的行業(yè)標準高出一個數(shù)量級。隨著數(shù)據(jù)中心中GPU規(guī)模數(shù)量的顯著提升,通信方式的可靠性成為重要的考量因素。

散熱及低功耗優(yōu)勢:DAC消耗<0.1W,相比與有源光纜AOC和有源電纜AEC來說幾乎可以忽略不計,相對來說散熱更容易。并且銅連接整體設(shè)計更加靈活,機柜擴展維護相對更加簡單。圖:AOC與DAC成本比較圖:AOC與DAC功耗比較資料:precisionot,中信建投典型的銅纜類型

外部I/O連接:插拔連接器加速不同設(shè)備之間的數(shù)據(jù)傳輸,提升連接電連接中的速度、密度、靈活性、效率和標準化。可以以10Gbps、25Gbps、40Gbps、50Gbps

100Gbps

的速度傳輸數(shù)據(jù),具體取決于所連接的網(wǎng)絡設(shè)備。此外,DAC

電纜可以制造為各種長度,例如

1m、3m、5m、7m

10m,以適應不同的網(wǎng)絡設(shè)置。

背板連接器:薄型、高密度布線解決方案包含多種電纜出口選項,如直線、直角和共面,有助于導線管理、端接和布線。

OverPass高速飛線:跨芯片與外部端口建立低損耗互連。圖:典型銅纜類型資料:安費諾官網(wǎng),中信建投GB200

NVL72服務器采用224G高速通信技術(shù)

IP

Nest預計2023年將有三到五款224G設(shè)計開始啟動,224G的設(shè)計方案采用在未來幾年會快速提升。224G的最初采用和應用將在于重定時器和變速器、交換機、AI

擴展、光學模塊、IO

三叉和現(xiàn)場可編程門陣列

(FPGA),數(shù)據(jù)中心中的高速通信是224G高速協(xié)議的重要領(lǐng)域。圖:高速通信協(xié)議演進資料:新思科技,中信建投差分對是高速銅纜的基本構(gòu)成

差分信號是常見的信號傳輸方式。差分信號作用在兩個導體上,信號值是兩個導體間的電壓差。使用差分信號的好處在于可以容易的傳輸微弱信號、有較強的外部電磁抗干擾能力,是一種常見的信號傳輸方式。

差分對是高速銅纜的基本組成。一個差分信號線中包括兩根銅導線以及一根地線,同時還包括相應的絕緣層和屏蔽層。目前一組差分信號線已經(jīng)可以實現(xiàn)224Gbps傳輸速率,多對差分信號線組成的高速銅纜可以實現(xiàn)800Gbps甚至1.6Tbps的通信速率。圖:差分信號波形和單端等價圖:差分對橫截面示意圖圖:

QSFP-DD高速線纜組件截面示意圖資料:eetrend,國知局,中信建投銅質(zhì)線纜制作過程

高速銅纜通過拉制、絞制、包覆三種工藝來制作完成的。

電纜一般選用銅材質(zhì),常溫下利用拉絲設(shè)備通過一道或數(shù)道拉伸模具的???,達到長度增加,截面減小,強度提高的作用,之后再通過退火工序處理,以再結(jié)晶的方式提高單絲韌性。

為了提高電線電纜的柔軟度、整體度,采用多根單股絞合成多股導電線芯。

根據(jù)對電線電纜不同的性能要求,采用專用的設(shè)備在導體的外面連續(xù)擠壓,將塑料包覆在導體上,達到絕緣層、護套層甚至屏蔽層等的目的,可能涉及擠包、縱包、繞包、浸涂等工藝。圖:成品線纜制作過程芯線差分對成纜成纜+連接器資料:TE,中信建投GB200

NVL72/36中銅連接使用總覽相鄰的72機柜可IB網(wǎng)絡交換機能用銅纜在交換機部分進行部分數(shù)據(jù)傳輸IB交

至計

盤/NVSwitch

交換

用銅連接GB200計算托盤IB交換機NVSwitch交換托盤Rack

1GB200計算托盤PaladinHD母連接PaladinHD公連接nvswitch芯片OSFPcageACC連接器DensiLinkoverpassNVSwitch交換托盤PCBPaladinHD母連接PaladinHD公連接36機柜外銅連接OSFPcageGB200芯片PCBGB200計算托盤托盤間銅連接IB交換機PaladinHD母連接PaladinHD公連接nvswitch芯片ACC連接器OSFPcageDensiLinkoverpassPCBRack2NVSwitch交換托盤PaladinHD母連接PaladinHD公連接OSFPcageGB200芯片PCBGB200計算托盤PCIE線資料:semianlysis,中信建投GB200

NVL72中的柜外銅連接

GB200

NVL72/36服務器中包含三種銅纜:三種柜內(nèi)線(NVL72機柜以內(nèi)的定義為柜內(nèi)線)以及柜外線(機柜間的互聯(lián)定義為柜外線,帶有編織線)。其中柜外線分為兩種:從頂部IB交換機到計算托盤/NVSwitch交換托盤的線、GB200

NVL36服務器還涉及到額外的雙機柜互聯(lián)連接,柜外線長度相對較長,一般均采用ACC電纜設(shè)計。

NVL36中額外的柜外互聯(lián),每一層為18根線互聯(lián),共計9層NVSwitch托盤,所以共計需要18*9=162根1.6T的ACC線。若假設(shè)每個1.6T的ACC線由8根224G差分對組成,按照一根2米計算,折合224G差分對后為2592米,平均一個NVL36機柜所需為1296米。圖:GB200

NVL72/36服務器中的柜外互聯(lián)GB200

NVL72GB200

NVL36

RackAGB200

NVL36

RackB從頂部交換機到計算托盤/NVSwitch交換托盤的柜外線ipmi0002ipmi0001ipmi0002ipmi0001NVL36中額外的柜外互聯(lián),每一層為18根線互聯(lián),共計9層NVSwitch托盤,共計需要18*9=162根1.6TACC線1U

Power

Shelf

33kW1U

Power

Shelf

33kW1U

Compute

Tray1U

Power

Shelf

33kW2U

Compute

Tray1U

Power

Shelf

33kW1U

Compute

Tray1U

Compute

Tray2U

Compute

Tray2U

Compute

Tray2U

Compute

Tray2U

Compute

Tray1U

Compute

Tray1U

Compute

Tray1U

Compute

Tray1U

Compute

Tray1U

Compute

Tray1U

Compute

Tray1U

Compute

Tray1U

Non-Scalable

NVSwitch5Tray1U

Non-Scalable

NVSwitch5Tray1U

Non-Scalable

NVSwitch5Tray1U

Non-Scalable

NVSwitch5Tray1U

Non-Scalable

NVSwitch5Tray1U

Non-Scalable

NVSwitch5Tray1U

Non-Scalable

NVSwitch5Tray1U

Non-Scalable

NVSwitch5Tray1U

Non-Scalable

NVSwitch5Tray1U

Compute

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

TrayCableCableCableCableCableCableCableCableCable1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Compute

Tray2U

Compute

Tray2U

Compute

Tray2U

Compute

Tray2U

Compute

Tray2U

Compute

Tray2U

Compute

Tray2U

Compute

Tray2U

Compute

Tray1U

Compute

Tray1U

Compute

Tray1U

Compute

Tray1U

Compute

Tray1U

Compute

Tray1U

Compute

TrayDrip

Tray1U

Power

Shelf

33kW1U

Power

Shelf

33kWDrip

TrayDrip

Tray1U

Power

Shelf

33kW1U

Power

Shelf

33kW資料:semianalysis,中信建投GB200

NVL72中的托盤間銅連接

柜內(nèi)線進一步可以分為托盤間的和托盤內(nèi)的連接線,其中托盤間連接占到主要部分。

計算托盤間的銅纜連接:單張B200對應1條NVLink5.0連接,每條傳輸雙向1.8TB/s帶寬,Serdes對應的規(guī)格為224Gbps通信協(xié)議,銅纜也采用難度更高的224Gbps產(chǎn)品,即單張B200上面通常連接72個差分對即可以達到可支持的1.8TB/s的帶寬。NVL72單個Rack中共有72張B200,可以得出至少需要5184根線,平均長度約0.6米。

根據(jù)黃仁勛在臺灣computex大會的演講得知,外部銅纜長度超過2英里(3.2公里),同時會搭配背板連接器使用。圖:計算托盤間的銅纜連接圖:外部銅連接使用背板連機器和DAC銅線背板連接器資料:英偉達官網(wǎng),中信建投GB200

NVL72中的NVSwitch托盤內(nèi)銅連接

NVSwitch交換托盤內(nèi)部線:NVSwitch交換托盤內(nèi)部含兩顆NVSwitch芯片,合計總帶寬14.4TB/s。

在NVL72解決方案中,NVSwitch芯片全部通信帶寬連接背板連接器,總共需要640根overpass線,每根0.3米,9個交換托盤合計1728米。

在NVL36解決方案中,NVSwitch芯片一方面連接背板連接器,一方面連前端I/O端口,其中連接背板連接器的OverPass1線共320根,每根0.3米;連接前端I/O端口的OverPass2線共160根(帶寬為后端的一半,約3.6-4TB/s),每根0.5米,9個交換托盤合計1584米。圖:NVSwitch交換托盤內(nèi)部連接線圖:NVSwitchtray內(nèi)部結(jié)構(gòu)OverPass

1內(nèi)部的銅連接線OverPass

2資料:英偉達,servethehome,中信建投GB200

NVL72中的計算托盤內(nèi)銅連接

GB200計算托盤內(nèi)部線:GB200芯片分別連接后端的背板連接器和前端的DensiLink連接,其主要連接ConnectX-7/8網(wǎng)卡和機箱正面的OSFP連接口,其中背板連接器會進一步連接到托盤間銅連接;通過OSFP連接口可以接入前端網(wǎng)絡實現(xiàn)連接互聯(lián)網(wǎng)、SLURM/Kubernetes、網(wǎng)絡存儲、數(shù)據(jù)加載、模型檢查點等功能。

每個計算托盤有1-2個400Gb/s

Bluefield-3,每個計算托盤有4個GPU,每個GPU獲得100-200Gb/s的前端帶寬,根據(jù)帶寬要求,PCIE5.0標準的銅連接線即可滿足需求。圖:GB200計算托盤內(nèi)部結(jié)構(gòu)圖:計算托盤內(nèi)部銅連接背板連接器前端通信銅連接資料:

semianlysis,servethehome,中信建投線芯及線纜市場空間測算

在NVL72/36整體解決方案中,背板鏈接、交換托盤、機柜間ACC占據(jù)主要價值組成,合理假設(shè)線芯售價為7元/米,預期英偉達5.5萬臺NVL36、1.5萬臺NVL72產(chǎn)能,測算線芯市場空間約44億人民幣,考慮到芯線占成品線成本的60%左右,則成纜市場規(guī)模為74億。

注:以上測算不包括柜內(nèi)PCIE線、機柜間的短距互聯(lián)、IB交換機和計算托盤/NVSwitch托盤之間的連接。圖:NVL72/36服務器線芯及線纜市場空間測算差分對數(shù)量長度(差分對需要乘2)

單價(元/米)價值量(元)43545.624192NVL72解決方案背板連接51840.6*20.3*277交換托盤OverPass1

5760合計67737.621772.812096NVL36解決方案背板連接25920.6*20.3*20.5*22*27777交換托盤OverPass1

2880交換托盤OverPass2

144010080機柜間ACC64818144合計62092.844.3億元73.9億元線芯市場空間測算(5.5萬臺NVL36、1.5萬臺NVL72)線纜市場空間測算(5.5萬臺NVL36、1.5萬臺NVL72)資料:中信建投測算第三章相關(guān)上市公司25安費諾

美國安費諾集團創(chuàng)立于1932年,是全球TOP2的連接器制造商。1984年進駐中國,1991年在紐約證交所上市。

安費諾主要產(chǎn)品包括電氣、電子和光纖連接器,同軸和扁平帶狀電纜及互連系統(tǒng),服務于通訊、信息處理、航空航天、軍事電子、汽車、鐵路和其他交通運輸以及工業(yè)應用市場。

根據(jù)線束中國信息,安費諾被確認為NVGB200銅纜方案的獨家供應商。圖:公司營收情況圖:公司毛利率凈利率情況營業(yè)收入yoy銷售毛利率銷售凈利率14012030%25%20%15%10%5%40.0%35.0%30.0%25.0%20.0%15.0%10.0%5.0%126.23125.55108.7633.4%17.0%32.5%15.5%31.8%14.2%31.9%31.0%14.1%31.3%14.7%10082.258085.9960402015.2%32.560%0-5%0.0%201920202021202220232024Q1201920202021202220232024Q1資料:Wind,中信建投沃爾核材

公司成立于1998年6月19日,2007年在深交所上市,主要從事高分子核輻射改性新材料及系列電子、電力、電線新產(chǎn)品的研發(fā)、制造和銷售。公司以熱縮材料起家,并進行業(yè)務多元化拓展,目前已擁有電子、電力、電線、新能源四大業(yè)務板塊。

子公司樂庭智聯(lián)生產(chǎn)的高速通信線為無源DAC銅電纜,在短距離信號傳輸方面,具備低功耗、高性價比、高速率等優(yōu)勢,廣泛應用于數(shù)據(jù)中心、服務器、交換機/工業(yè)路由器等數(shù)據(jù)信號傳輸,部分規(guī)格的產(chǎn)品可應用于AI服務器中,主要客戶包括安費諾、豪利士、莫仕、泰科等,400G、800G高速通信線均已實現(xiàn)穩(wěn)定量產(chǎn)。圖:公司營收及利潤情況圖:公司毛利率凈利率情況營業(yè)收入(億元)歸母凈利潤(億元)歸母yoy毛利率凈利率營收yoy45%40%35%30%25%20%15%10%5%706050403020100100%90%80%70%60%50%40%30%20%10%0%39.3%88.8%57.2354.0753.4177.3%21.6%33.2%32.5%32.6%31.5%40.9539.7%32.0%14.3%13.2%13.8912.4%14.0%7.0010.5%10.8%11.2%6.147.2%5.533.926.9%20201.842024Q1-1.2%-10%0%20212022202320202021202220232024Q1資料:Wind,中信建投神宇股份

神宇通信科技股份公司于2003年在江蘇省江陰市成立,致力于成為國內(nèi)一流、國際知名的射頻同軸電纜行業(yè)的領(lǐng)先企業(yè)及電子線纜應用解決方案供應商。

公司主要產(chǎn)品為射頻同軸電纜,包括細微射頻同軸電纜,極細微射頻同軸電纜,半柔、半剛射頻同軸電纜,穩(wěn)相微波射頻同軸電纜,軍標系列射頻同軸電纜等多種系列產(chǎn)品。產(chǎn)品已經(jīng)廣泛應用于消費電子、航空航天、數(shù)據(jù)通信、基站通信及醫(yī)療系統(tǒng)。圖:公司營收及利潤情況圖:公司毛利率凈利率情況毛利率凈利率營業(yè)收入(億元)歸母凈利潤(億元)歸母yoy營收yoy30%25%20%15%10%5%98765432108.40500%442.5%27.0%15.5%7.687.55400%300%200%100%0%21.3%10.0%6.2116.6%16.0%8.3%13.9%1.866.7%31.9%15.3%35.1%0.7033.3%16.8%0.505.6%12.7%-1.7%-8.5%0.430.620.50-38.0%-100%0%20202021202220232024Q120202021202220232024Q1資料:Wind,中信建投鼎通科技

鼎通科技是一家專注于研發(fā)、生產(chǎn)、銷售通訊連接器精密組件和汽車連接器精密組件的高新技術(shù)企業(yè)。

鼎通科技生產(chǎn)的通訊連接器組件主要應用于通信基站、服務器等超大型數(shù)據(jù)存儲和交換設(shè)備,以實現(xiàn)信號的高速傳輸。鼎通科技的通訊連接器組件主要面向安費諾、莫仕和中航光電等行業(yè)內(nèi)知名的連接器廠商,經(jīng)客戶集成其他功能件后形成通訊連接器模組或連接器系統(tǒng)。圖:公司營收及利潤情況圖:公司毛利率凈利率情況毛利率凈利率營業(yè)收入(億元)歸母凈利潤(億元)歸母yoy40%35%30%25%20%15%10%5%營收yoy37.3%20.3%35.7%20.1%

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
  • 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論