電子行業(yè)市場前景及投資研究報(bào)告:機(jī)柜放量核心算力增量高速銅連接_第1頁
電子行業(yè)市場前景及投資研究報(bào)告:機(jī)柜放量核心算力增量高速銅連接_第2頁
電子行業(yè)市場前景及投資研究報(bào)告:機(jī)柜放量核心算力增量高速銅連接_第3頁
電子行業(yè)市場前景及投資研究報(bào)告:機(jī)柜放量核心算力增量高速銅連接_第4頁
電子行業(yè)市場前景及投資研究報(bào)告:機(jī)柜放量核心算力增量高速銅連接_第5頁
已閱讀5頁,還剩28頁未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡介

券研究報(bào)告

行業(yè)動(dòng)態(tài)研究機(jī)柜放量在即,核心算力增量之高速銅連接發(fā)布日期:2024年7月23日摘要

核心觀點(diǎn):英偉達(dá)推出新一代GB200

NVL72服務(wù)器,集成化程度全面提升,其機(jī)柜內(nèi)部采用高速銅纜進(jìn)行通信互連。無源DAC作為電通信的主要解決方案其不包含光電轉(zhuǎn)換器模塊,具有很高的成本效益和運(yùn)營可靠性,成為實(shí)現(xiàn)短距離傳輸?shù)膬?yōu)秀解決方案。目前的銅纜已經(jīng)實(shí)現(xiàn)224G網(wǎng)Serdes高速通信技術(shù)升級,短距離性價(jià)比突出,合理假設(shè)下測算,英偉達(dá)NVL7

2

/3

6服務(wù)器帶來的增量銅纜市場空間超過70億人民幣。在AI服務(wù)器高集成度的趨勢下,我們認(rèn)為銅連接或成為AI服務(wù)器的重要組成。目前安費(fèi)諾是NVL72/36機(jī)柜銅連接的核心供應(yīng)商,部分國內(nèi)企業(yè)或成為安費(fèi)諾供應(yīng)商從而受益于英偉達(dá)NVL72/36機(jī)柜放量。

英偉達(dá)推出新一代GB200

NVL72服務(wù)器,集成化程度全面提升。2024春季GTC上,英偉達(dá)CEO黃仁勛正式推出了Blackwell計(jì)算架構(gòu),主打GB200超級芯片,GB200計(jì)算托盤包含兩個(gè)Grac

e

CPU和四個(gè)Blackwell

GPU,18個(gè)計(jì)算托盤組成NVL72服務(wù)器,其中包括36個(gè)CPU和72個(gè)Blackwell構(gòu)架GPU。GB200

NVL72服務(wù)器集成化程度相對較高,并提供水冷散熱方案,內(nèi)部大量使用高速銅纜進(jìn)行通信互連。

GB200

NVL7

2服務(wù)器使用銅纜進(jìn)行柜內(nèi)互聯(lián),銅連接成為AI服務(wù)器的重要組成。通信網(wǎng)絡(luò)中常見的連接解決方案包括光通信和高速電通信,無源DAC作為電通信的主要解決方案其不包含光電轉(zhuǎn)換器模塊,具有很高的成本效益和運(yùn)營可靠性,成為實(shí)現(xiàn)短距離傳輸?shù)膬?yōu)秀解決方案。服務(wù)器中的銅纜種類大致包括外部高速連接、OverPass高速飛線、背板連接器,NVL72服務(wù)器中均有分布,合理假設(shè)下測算,英偉達(dá)NVL72/36服務(wù)器帶來的增量芯線市場規(guī)模超過40億,成纜市場空間超過70億人民幣。目前的銅纜已經(jīng)實(shí)現(xiàn)224G技術(shù)升級,短距離傳輸性價(jià)比突出,在AI服務(wù)器高集成度的趨勢下,我們認(rèn)為銅連接將成為AI服務(wù)器的重要組成。網(wǎng)Serdes高速通信

安費(fèi)諾是NVL72服務(wù)器銅連接的唯一供應(yīng)商,部分國內(nèi)企業(yè)或受益于整個(gè)供應(yīng)體系。根據(jù)線束中國信息,目前安費(fèi)諾是GB200

NVL72服務(wù)器銅連接的唯一供應(yīng)商,其產(chǎn)品可以支持224G高速通信的批量交付,受限于產(chǎn)能或成本考量,部分國內(nèi)企業(yè)或成為安費(fèi)諾供應(yīng)商從而受益于英偉達(dá)NVL72服務(wù)器銅連接供應(yīng)體系。

風(fēng)險(xiǎn)提示:人工智能技術(shù)發(fā)展不及預(yù)期、互聯(lián)網(wǎng)廠商資本開支不及預(yù)期、參與廠商眾多導(dǎo)致競爭格局惡化、政策監(jiān)管力度不及預(yù)期。第一章第二章第三章第四章GB200NVL72服務(wù)器銅連接成為AI服務(wù)器的重要組成相關(guān)上市公司4122532風(fēng)險(xiǎn)提示第一章

GB200NVL72服務(wù)器4英偉達(dá)AI服務(wù)器技術(shù)演進(jìn)

英偉達(dá)從2006年進(jìn)軍AI計(jì)算之后,其計(jì)算架構(gòu)基本保持兩年一代的迭代速度。從初代Tesla架構(gòu)到最新的Blackwell架構(gòu),芯片晶體管密度不斷增大,并行計(jì)算能力不斷提升,針對AI計(jì)算不斷優(yōu)化,互聯(lián)能力持續(xù)升級。

2024春季GTC上,英偉達(dá)CEO黃仁勛正式推出了Blackwell計(jì)算架構(gòu),以出眾的性能、效率和規(guī)模揭開了生成式AI領(lǐng)域的新篇章。圖:英偉達(dá)GPU微架構(gòu)演進(jìn)歷程TeslaKeplerPascalTuringHopper

第一個(gè)統(tǒng)一著色器微架構(gòu)引入CUDA

支持PCIe3.0動(dòng)態(tài)并行計(jì)算

配備專用的RT

Core深度學(xué)習(xí)超采樣

(DLSS)

第四代

Tensor

CoreHBM2的CoWoS技術(shù)

GPU動(dòng)態(tài)超頻3.0

FP8

浮點(diǎn)格式

28

nm

GDDR6顯存

12

nm

Transformer

引擎16

nm

90/65/55

nm

四代NVLink

互連技術(shù)20102014201720202024

4nm20062016201820222012FermiMaxwellVoltaAmpereBlackwell

支持ECC

SMM流處理器

引入Tensor

Core改進(jìn)MPS

二代RT

Core

第五代

Tensor

Core

流式多處理器

動(dòng)態(tài)高分辨率技術(shù)

PCIe4.0

8/7

nm

FP4

浮點(diǎn)格式支持GDDR5顯存

28

nm

12

nm

第二代Transformer

引擎五代NVLink

互連技術(shù)

40/28

nm

4nm資料:英偉達(dá)官網(wǎng),中信建投英偉達(dá)AI服務(wù)器技術(shù)演進(jìn)

從英偉達(dá)計(jì)算架構(gòu)演進(jìn)趨勢來看,大致的技術(shù)進(jìn)步集中在幾個(gè)方面:

計(jì)算能力不斷增強(qiáng)。最新的NVIDIA

B200半精度計(jì)算能力可達(dá)2250TFLOPS,是上一代NVIDIA

H100的2.3倍。

顯卡內(nèi)存不斷提升。B200預(yù)計(jì)配備192GB

HBM3e內(nèi)存,內(nèi)存為NVIDIA

H100的2.4倍。

互聯(lián)帶寬持續(xù)升級。

功耗及散熱持續(xù)提升。B200功耗相較于H100提升43%,從風(fēng)冷散熱過渡向液冷散熱。

集成能力逐步提升。早期的GPU傾向于單卡或者單服務(wù)器的售賣模式,B200系列芯片初步采用rack的售賣形式。圖:英偉達(dá)服務(wù)器公布及量產(chǎn)時(shí)間2017

Q

3NVIDIA

V1002020.5.14NVIDIA

A100發(fā)布公告量產(chǎn)開始2022.92024

Q

4NVIDIA

H100NVIDIA

B1002017.5.10隨后?即開始量產(chǎn)量產(chǎn)開始預(yù)計(jì)開始量產(chǎn)NVIDIA

V100發(fā)布公告201720182019202020212022202320242025NVIDIA

V100NVIDIA

H100NVIDIA

B100正式發(fā)布發(fā)布公告發(fā)布公告2017.6.212022.3.222024.3.18資料:英偉達(dá)官網(wǎng),中信建投英偉達(dá)推出新一代計(jì)算平臺Blackwell和B200芯片

英偉達(dá)推出全新GPU平臺Blackwell,配備B200芯片。Blackwell架構(gòu)GPU具有2080億個(gè)晶體管,采用專門定制的臺積電N4P工藝制造。Blackwell產(chǎn)品均采用兩塊光刻極限尺寸的裸片,通過10TB/s的片間互聯(lián)技術(shù)連接成統(tǒng)一的GPU。Blackwell構(gòu)架B200

GPU的AI運(yùn)算性能是前一代Hopper構(gòu)架H100的2.3倍,功耗顯著優(yōu)化,配備192GB

HBM3E內(nèi)存。圖:Blackwell技術(shù)優(yōu)勢圖:Blackwell平臺性能比對B200B1002024H1002022A1002020Blackwell

技術(shù)創(chuàng)新發(fā)布時(shí)間制程2024TSMC4NPTSMC4NPTSMC4NTSMC7N2080億個(gè)晶體管,雙倍光刻極限尺寸4NP

TSMC工藝,10TB/s的片間互聯(lián)全球最強(qiáng)大的芯片架構(gòu)BlackwellBlackwellHopperAmpere顯存類型顯存帶寬8GbpsHBM3E8GbpsHBM3E5.23GbpsHBM33.35TB/s80GB3.2GbpsHBM2e1.99TB/s80GB第二代transformer引擎將在新型4位浮點(diǎn)AI推理能力下實(shí)現(xiàn)算力和模型大小翻倍8TB/s8TB/sec顯存容量192GB(2x96GB)192GB(2x96GB)FP32

VectorFP64

VectorFP4

Tensor----67TFLOPS34TFLOPS-19.5TFLOPS9.7TFLOPS-為每塊GPU提供突破性的1.8TB/s雙向吞吐量,確保多達(dá)576塊GPU之間的無縫高速通信第五代NVLinkRAS引擎9PFLOPS7PFLOPSINT8/FP8Tensor4500T(FL)OPS3500T(FL)OPS1980T(FL)OPS624TOPS包含一個(gè)用于保障可靠性、可用性和可維護(hù)性的專用引擎,提高大規(guī)模AI部署的彈性,同時(shí)降低運(yùn)營成本FP16

TensorTF32

TensorFP64

Tensor2250TFLOPS1120TFLOPS1800TFLOPS900TFLOPS990TFLOPS495TFLOPS312TFLOPS156TFLOPS先進(jìn)的機(jī)密計(jì)算功能可以在不影響性能的情況下保護(hù)AI模型和客戶數(shù)據(jù),并且支持全新本地接口加密協(xié)議安全AI40TFLOPSNVLink530TFLOPSNVLink567TFLOPSNVLink419.5TFLOPSNVLink3NVLinkTDP專用的解壓縮引擎支持最新格式,通過加速數(shù)據(jù)庫查詢提供極其強(qiáng)大的數(shù)據(jù)分析和數(shù)據(jù)科學(xué)性能18Links(1800GB/s)

18Links(1800GB/s)

18Links(900GB/s)

12Links(600GB/s)解壓縮引擎1000W

700W

700W

400W資料:英偉達(dá)官網(wǎng),中信建投GB200超級芯片=兩個(gè)B200

GPU+一個(gè)Grace

CPU

英偉達(dá)推出GB200超級芯片,它基于兩個(gè)B200

GPU,外加一個(gè)Grace

CPU,使用

NVIDIA

NVLink-C2C連接B200

GPU和GraceCPU,整個(gè)超級芯片的TDP功耗高達(dá)2700W。

訓(xùn)練一個(gè)1.8萬億個(gè)參數(shù)的模型以前需要8000個(gè)Hopper

GPU和15兆瓦的電力。現(xiàn)在2000個(gè)Blackwell

GPU就能完成這項(xiàng)工作,耗電量僅為

4

兆瓦。在參數(shù)為1750億的GPT-3

LLM基準(zhǔn)測試中,Nvidia稱GB200的推理性能是H100的7倍,而訓(xùn)練速度是

H100的4倍。圖:GB200芯片圖:GB200性能提升圖:B系列芯片性能列表GB200B200B1002xB200GPU,GPUBlackwellGPUBlackwellGPU1xGraceCPU20petaflops10petaflops10petaopsFP4

TensorFP6/FP8

TensorINT8

TensorFP16/BF16

TensorTF32

TensorFP64

Tensor容量9petaflops4.5petaflops4.5petaops2.25petaflops1.12petaflops40teraflops192GB(8x24GB)8TB/s7petaflops3.5petaflops3.5petaops1.8petaflops0.9petaflops30teraflops192GB(8x24GB)8TB/S5petaflops2.5petaflops90teraflops384GB(2x8x24GB)16TB/s帶寬NVLink

帶寬功率2x1.8TB/s1.8TB/s1.8TB/sUp

to

2700W1000W700W資料:英偉達(dá)官網(wǎng),中信建投GB200

NVL72服務(wù)器

GB200

NVL72服務(wù)器:GB200

NVL72是NVIDIA

GB200

Grace

Blackwell超級芯片組成的服務(wù)器,整個(gè)服務(wù)器內(nèi)包含72個(gè)GPU和36個(gè)CPU芯片。將兩個(gè)高性能NVIDIA

Blackwell

Tensor

Core

GPU

NVIDIA

Grace

CPU

通過

NVLink芯片到芯片

(C2C)接口連接,可提供

900

GB/s

的雙向帶寬。

GB200計(jì)算托盤基于新的NVIDIA

MGX設(shè)計(jì)。它包含兩個(gè)

Grace

CPU

和四個(gè)

Blackwell

GPU。GB200具有冷卻板和液體冷卻接口,PCIe

Gen

6支持高速網(wǎng)絡(luò),以及用于

NVLink

線纜盒的

NVLink

接口。GB200計(jì)算托盤提供

80

petaflop

的AI

性能和

1.7

TB

的快速內(nèi)存(包括768GB的HBM3e以及960GB的LPDDR5X)。圖:GB200圖:GB200

NVL72服務(wù)器IB網(wǎng)絡(luò)交換機(jī)GB200計(jì)算托盤NVSwitch交換托盤GB200計(jì)算托盤資料:AI閑談,英偉達(dá)官網(wǎng),中信建投NVL72服務(wù)器采用集成化設(shè)計(jì)

集成化設(shè)計(jì)的Rack形態(tài)是NVL72服務(wù)器最典型的特征,一個(gè)服務(wù)器機(jī)柜中包含72個(gè)GPU芯片,比傳統(tǒng)AI服務(wù)器機(jī)柜中的芯片密度更高,功耗更高,對服務(wù)器的散熱系統(tǒng)也提出了更高的要求。傳統(tǒng)AI服務(wù)器多采用風(fēng)冷形態(tài),高芯片密度要求NVL72服務(wù)器采用液冷散熱,同時(shí)高芯片密度允許不同GPU芯片之間采用短距高速銅連接方案,銅連接和液冷是NVL72服務(wù)器另外兩個(gè)典型特征。圖:英偉達(dá)服務(wù)器演進(jìn)趨勢資料:Coatue,中信建投72個(gè)GPU高速互聯(lián):更大的NVLink域

高密度設(shè)計(jì)方案的優(yōu)勢:更大的NVLink域內(nèi)實(shí)現(xiàn)高速互聯(lián)。對于NVLink互聯(lián)的Scale-Up網(wǎng)絡(luò),一個(gè)NVLink組成的高速互聯(lián)域規(guī)模對集群整體性能至關(guān)重要,對NVLink域內(nèi)的卡的數(shù)目K進(jìn)行研究。針對GPT-1T的模型來看,K=36以上時(shí)對性能提升相對于K=8還是很明顯的,而對于K>72到K=576時(shí)的邊際收益相對于系統(tǒng)的復(fù)雜性而言是得不償失的,另一方面,當(dāng)Scale-Up的NVLINK網(wǎng)絡(luò)規(guī)模增大時(shí),實(shí)際上HBD之間互聯(lián)的RDMA帶寬帶來的性能收益在減小,最終的一個(gè)平衡就是通過NVL72并用RDMA

Scale-Out來構(gòu)建一個(gè)32,000卡的集群。圖:High

Bandwidth

Domain圖:

High

Bandwidth

Domain對整體性能的影響資料:Optimized

Network

Architectures

for

Large

Language

Model

Training

with

Billions

of

Parameters,中信建投第二章銅連接成為AI服務(wù)器的重要組成12通信網(wǎng)絡(luò)中常見的連接解決方案

通信網(wǎng)絡(luò)中常見的連接解決方案包括光模塊+光纖、有源光纜(AOC)和直連電纜(DAC)。

有源光纜由兩端的兩個(gè)模塊組成,由在中間的一段光纖連接。具備高傳輸速率、遠(yuǎn)距離功能、低功耗、重量輕,易于使用,信號信噪比表現(xiàn)好,抗干擾能力強(qiáng)的優(yōu)點(diǎn),是數(shù)據(jù)中心、HPC計(jì)算和InfiniBand交換機(jī)互連的理想選擇。

DAC(直連電纜)電纜是一種網(wǎng)絡(luò)電纜,用于連接不同的網(wǎng)絡(luò)設(shè)備(例如交換機(jī)、路由器和服務(wù)器)以形成網(wǎng)絡(luò)。DAC可以進(jìn)一步分為有源DAC和無源DAC。有源DAC電纜不僅可以轉(zhuǎn)換信號,還可以放大信號,它們不易隨著距離的推移而丟失信號,非常適合較長的電纜長度。無源DAC不包含光電轉(zhuǎn)換器模塊,電纜端由簡單的電纜連接器組成,具有很高的成本效益,由于其經(jīng)濟(jì)實(shí)惠和高速性能,無源DAC已成為實(shí)現(xiàn)短距離傳輸?shù)膬?yōu)秀解決方案。圖:AOC與DAC通信的區(qū)別圖:高速銅纜和光通信市場空間產(chǎn)品比較

AOCDAC

(passive)傳輸信號

光學(xué)信號低壓脈沖信號光纖(石英)絕緣,屬于光纖通信,不受電磁干銅質(zhì)電纜,DAC高速電纜采用銅質(zhì)材料,傳輸介質(zhì)功耗擾的影響。屬于電氣通信,并受到電磁干擾的影響。高低AOC(0M3)傳

輸距離一

般可達(dá)

100米

,在300米傳輸距離價(jià)格無源DAC:最大7米以內(nèi)高低AOC有源光纜的重量約為DAC高速光纜的四分尺寸之一,體積約為DAC

的一半,使其更易于布線

體積大于AOC和運(yùn)輸。傳輸性能

高:AOC有源光纜的誤碼率低于DAC高速光纜。低設(shè)備差異

AOC有源光纜包含一個(gè)激光器

DAC高速電纜沒有光學(xué)組件資料:CSDN,LightCounting,中信建投銅連接具備性價(jià)比、可靠性等優(yōu)勢

性價(jià)比優(yōu)勢:在短距離內(nèi),光模塊價(jià)格顯著高于銅纜以及連接器,銅連接方案的成本相對較低。并且其具有高兼容度并不需要額外的轉(zhuǎn)換設(shè)備。

可靠性優(yōu)勢:可靠性用平均無故障時(shí)間(MTBF)來衡量。無源銅纜的MTBF大約為50000小時(shí)――通常比光纜的行業(yè)標(biāo)準(zhǔn)高出一個(gè)數(shù)量級。隨著數(shù)據(jù)中心中GPU規(guī)模數(shù)量的顯著提升,通信方式的可靠性成為重要的考量因素。

散熱及低功耗優(yōu)勢:DAC消耗<0.1W,相比與有源光纜AOC和有源電纜AEC來說幾乎可以忽略不計(jì),相對來說散熱更容易。并且銅連接整體設(shè)計(jì)更加靈活,機(jī)柜擴(kuò)展維護(hù)相對更加簡單。圖:AOC與DAC成本比較圖:AOC與DAC功耗比較資料:precisionot,中信建投典型的銅纜類型

外部I/O連接:插拔連接器加速不同設(shè)備之間的數(shù)據(jù)傳輸,提升連接電連接中的速度、密度、靈活性、效率和標(biāo)準(zhǔn)化??梢砸?0Gbps、25Gbps、40Gbps、50Gbps

100Gbps

的速度傳輸數(shù)據(jù),具體取決于所連接的網(wǎng)絡(luò)設(shè)備。此外,DAC

電纜可以制造為各種長度,例如

1m、3m、5m、7m

10m,以適應(yīng)不同的網(wǎng)絡(luò)設(shè)置。

背板連接器:薄型、高密度布線解決方案包含多種電纜出口選項(xiàng),如直線、直角和共面,有助于導(dǎo)線管理、端接和布線。

OverPass高速飛線:跨芯片與外部端口建立低損耗互連。圖:典型銅纜類型資料:安費(fèi)諾官網(wǎng),中信建投GB200

NVL72服務(wù)器采用224G高速通信技術(shù)

IP

Nest預(yù)計(jì)2023年將有三到五款224G設(shè)計(jì)開始啟動(dòng),224G的設(shè)計(jì)方案采用在未來幾年會(huì)快速提升。224G的最初采用和應(yīng)用將在于重定時(shí)器和變速器、交換機(jī)、AI

擴(kuò)展、光學(xué)模塊、IO

三叉和現(xiàn)場可編程門陣列

(FPGA),數(shù)據(jù)中心中的高速通信是224G高速協(xié)議的重要領(lǐng)域。圖:高速通信協(xié)議演進(jìn)資料:新思科技,中信建投差分對是高速銅纜的基本構(gòu)成

差分信號是常見的信號傳輸方式。差分信號作用在兩個(gè)導(dǎo)體上,信號值是兩個(gè)導(dǎo)體間的電壓差。使用差分信號的好處在于可以容易的傳輸微弱信號、有較強(qiáng)的外部電磁抗干擾能力,是一種常見的信號傳輸方式。

差分對是高速銅纜的基本組成。一個(gè)差分信號線中包括兩根銅導(dǎo)線以及一根地線,同時(shí)還包括相應(yīng)的絕緣層和屏蔽層。目前一組差分信號線已經(jīng)可以實(shí)現(xiàn)224Gbps傳輸速率,多對差分信號線組成的高速銅纜可以實(shí)現(xiàn)800Gbps甚至1.6Tbps的通信速率。圖:差分信號波形和單端等價(jià)圖:差分對橫截面示意圖圖:

QSFP-DD高速線纜組件截面示意圖資料:eetrend,國知局,中信建投銅質(zhì)線纜制作過程

高速銅纜通過拉制、絞制、包覆三種工藝來制作完成的。

電纜一般選用銅材質(zhì),常溫下利用拉絲設(shè)備通過一道或數(shù)道拉伸模具的???,達(dá)到長度增加,截面減小,強(qiáng)度提高的作用,之后再通過退火工序處理,以再結(jié)晶的方式提高單絲韌性。

為了提高電線電纜的柔軟度、整體度,采用多根單股絞合成多股導(dǎo)電線芯。

根據(jù)對電線電纜不同的性能要求,采用專用的設(shè)備在導(dǎo)體的外面連續(xù)擠壓,將塑料包覆在導(dǎo)體上,達(dá)到絕緣層、護(hù)套層甚至屏蔽層等的目的,可能涉及擠包、縱包、繞包、浸涂等工藝。圖:成品線纜制作過程芯線差分對成纜成纜+連接器資料:TE,中信建投GB200

NVL72/36中銅連接使用總覽相鄰的72機(jī)柜可IB網(wǎng)絡(luò)交換機(jī)能用銅纜在交換機(jī)部分進(jìn)行部分?jǐn)?shù)據(jù)傳輸IB交

機(jī)

至計(jì)

盤/NVSwitch

交換

用銅連接GB200計(jì)算托盤IB交換機(jī)NVSwitch交換托盤Rack

1GB200計(jì)算托盤PaladinHD母連接PaladinHD公連接nvswitch芯片OSFPcageACC連接器DensiLinkoverpassNVSwitch交換托盤PCBPaladinHD母連接PaladinHD公連接36機(jī)柜外銅連接OSFPcageGB200芯片PCBGB200計(jì)算托盤托盤間銅連接IB交換機(jī)PaladinHD母連接PaladinHD公連接nvswitch芯片ACC連接器OSFPcageDensiLinkoverpassPCBRack2NVSwitch交換托盤PaladinHD母連接PaladinHD公連接OSFPcageGB200芯片PCBGB200計(jì)算托盤PCIE線資料:semianlysis,中信建投GB200

NVL72中的柜外銅連接

GB200

NVL72/36服務(wù)器中包含三種銅纜:三種柜內(nèi)線(NVL72機(jī)柜以內(nèi)的定義為柜內(nèi)線)以及柜外線(機(jī)柜間的互聯(lián)定義為柜外線,帶有編織線)。其中柜外線分為兩種:從頂部IB交換機(jī)到計(jì)算托盤/NVSwitch交換托盤的線、GB200

NVL36服務(wù)器還涉及到額外的雙機(jī)柜互聯(lián)連接,柜外線長度相對較長,一般均采用ACC電纜設(shè)計(jì)。

NVL36中額外的柜外互聯(lián),每一層為18根線互聯(lián),共計(jì)9層NVSwitch托盤,所以共計(jì)需要18*9=162根1.6T的ACC線。若假設(shè)每個(gè)1.6T的ACC線由8根224G差分對組成,按照一根2米計(jì)算,折合224G差分對后為2592米,平均一個(gè)NVL36機(jī)柜所需為1296米。圖:GB200

NVL72/36服務(wù)器中的柜外互聯(lián)GB200

NVL72GB200

NVL36

RackAGB200

NVL36

RackB從頂部交換機(jī)到計(jì)算托盤/NVSwitch交換托盤的柜外線ipmi0002ipmi0001ipmi0002ipmi0001NVL36中額外的柜外互聯(lián),每一層為18根線互聯(lián),共計(jì)9層NVSwitch托盤,共計(jì)需要18*9=162根1.6TACC線1U

Power

Shelf

33kW1U

Power

Shelf

33kW1U

Compute

Tray1U

Power

Shelf

33kW2U

Compute

Tray1U

Power

Shelf

33kW1U

Compute

Tray1U

Compute

Tray2U

Compute

Tray2U

Compute

Tray2U

Compute

Tray2U

Compute

Tray1U

Compute

Tray1U

Compute

Tray1U

Compute

Tray1U

Compute

Tray1U

Compute

Tray1U

Compute

Tray1U

Compute

Tray1U

Non-Scalable

NVSwitch5Tray1U

Non-Scalable

NVSwitch5Tray1U

Non-Scalable

NVSwitch5Tray1U

Non-Scalable

NVSwitch5Tray1U

Non-Scalable

NVSwitch5Tray1U

Non-Scalable

NVSwitch5Tray1U

Non-Scalable

NVSwitch5Tray1U

Non-Scalable

NVSwitch5Tray1U

Non-Scalable

NVSwitch5Tray1U

Compute

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

TrayCableCableCableCableCableCableCableCableCable1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Non-Scalable

NVSwitch5

Tray1U

Compute

Tray2U

Compute

Tray2U

Compute

Tray2U

Compute

Tray2U

Compute

Tray2U

Compute

Tray2U

Compute

Tray2U

Compute

Tray2U

Compute

Tray1U

Compute

Tray1U

Compute

Tray1U

Compute

Tray1U

Compute

Tray1U

Compute

Tray1U

Compute

TrayDrip

Tray1U

Power

Shelf

33kW1U

Power

Shelf

33kWDrip

TrayDrip

Tray1U

Power

Shelf

33kW1U

Power

Shelf

33kW資料:semianalysis,中信建投GB200

NVL72中的托盤間銅連接

柜內(nèi)線進(jìn)一步可以分為托盤間的和托盤內(nèi)的連接線,其中托盤間連接占到主要部分。

計(jì)算托盤間的銅纜連接:單張B200對應(yīng)1條NVLink5.0連接,每條傳輸雙向1.8TB/s帶寬,Serdes對應(yīng)的規(guī)格為224Gbps通信協(xié)議,銅纜也采用難度更高的224Gbps產(chǎn)品,即單張B200上面通常連接72個(gè)差分對即可以達(dá)到可支持的1.8TB/s的帶寬。NVL72單個(gè)Rack中共有72張B200,可以得出至少需要5184根線,平均長度約0.6米。

根據(jù)黃仁勛在臺灣computex大會(huì)的演講得知,外部銅纜長度超過2英里(3.2公里),同時(shí)會(huì)搭配背板連接器使用。圖:計(jì)算托盤間的銅纜連接圖:外部銅連接使用背板連機(jī)器和DAC銅線背板連接器資料:英偉達(dá)官網(wǎng),中信建投GB200

NVL72中的NVSwitch托盤內(nèi)銅連接

NVSwitch交換托盤內(nèi)部線:NVSwitch交換托盤內(nèi)部含兩顆NVSwitch芯片,合計(jì)總帶寬14.4TB/s。

在NVL72解決方案中,NVSwitch芯片全部通信帶寬連接背板連接器,總共需要640根overpass線,每根0.3米,9個(gè)交換托盤合計(jì)1728米。

在NVL36解決方案中,NVSwitch芯片一方面連接背板連接器,一方面連前端I/O端口,其中連接背板連接器的OverPass1線共320根,每根0.3米;連接前端I/O端口的OverPass2線共160根(帶寬為后端的一半,約3.6-4TB/s),每根0.5米,9個(gè)交換托盤合計(jì)1584米。圖:NVSwitch交換托盤內(nèi)部連接線圖:NVSwitchtray內(nèi)部結(jié)構(gòu)OverPass

1內(nèi)部的銅連接線OverPass

2資料:英偉達(dá),servethehome,中信建投GB200

NVL72中的計(jì)算托盤內(nèi)銅連接

GB200計(jì)算托盤內(nèi)部線:GB200芯片分別連接后端的背板連接器和前端的DensiLink連接,其主要連接ConnectX-7/8網(wǎng)卡和機(jī)箱正面的OSFP連接口,其中背板連接器會(huì)進(jìn)一步連接到托盤間銅連接;通過OSFP連接口可以接入前端網(wǎng)絡(luò)實(shí)現(xiàn)連接互聯(lián)網(wǎng)、SLURM/Kubernetes、網(wǎng)絡(luò)存儲(chǔ)、數(shù)據(jù)加載、模型檢查點(diǎn)等功能。

每個(gè)計(jì)算托盤有1-2個(gè)400Gb/s

Bluefield-3,每個(gè)計(jì)算托盤有4個(gè)GPU,每個(gè)GPU獲得100-200Gb/s的前端帶寬,根據(jù)帶寬要求,PCIE5.0標(biāo)準(zhǔn)的銅連接線即可滿足需求。圖:GB200計(jì)算托盤內(nèi)部結(jié)構(gòu)圖:計(jì)算托盤內(nèi)部銅連接背板連接器前端通信銅連接資料:

semianlysis,servethehome,中信建投線芯及線纜市場空間測算

在NVL72/36整體解決方案中,背板鏈接、交換托盤、機(jī)柜間ACC占據(jù)主要價(jià)值組成,合理假設(shè)線芯售價(jià)為7元/米,預(yù)期英偉達(dá)5.5萬臺NVL36、1.5萬臺NVL72產(chǎn)能,測算線芯市場空間約44億人民幣,考慮到芯線占成品線成本的60%左右,則成纜市場規(guī)模為74億。

注:以上測算不包括柜內(nèi)PCIE線、機(jī)柜間的短距互聯(lián)、IB交換機(jī)和計(jì)算托盤/NVSwitch托盤之間的連接。圖:NVL72/36服務(wù)器線芯及線纜市場空間測算差分對數(shù)量長度(差分對需要乘2)

單價(jià)(元/米)價(jià)值量(元)43545.624192NVL72解決方案背板連接51840.6*20.3*277交換托盤OverPass1

5760合計(jì)67737.621772.812096NVL36解決方案背板連接25920.6*20.3*20.5*22*27777交換托盤OverPass1

2880交換托盤OverPass2

144010080機(jī)柜間ACC64818144合計(jì)62092.844.3億元73.9億元線芯市場空間測算(5.5萬臺NVL36、1.5萬臺NVL72)線纜市場空間測算(5.5萬臺NVL36、1.5萬臺NVL72)資料:中信建投測算第三章相關(guān)上市公司25安費(fèi)諾

美國安費(fèi)諾集團(tuán)創(chuàng)立于1932年,是全球TOP2的連接器制造商。1984年進(jìn)駐中國,1991年在紐約證交所上市。

安費(fèi)諾主要產(chǎn)品包括電氣、電子和光纖連接器,同軸和扁平帶狀電纜及互連系統(tǒng),服務(wù)于通訊、信息處理、航空航天、軍事電子、汽車、鐵路和其他交通運(yùn)輸以及工業(yè)應(yīng)用市場。

根據(jù)線束中國信息,安費(fèi)諾被確認(rèn)為NVGB200銅纜方案的獨(dú)家供應(yīng)商。圖:公司營收情況圖:公司毛利率凈利率情況營業(yè)收入yoy銷售毛利率銷售凈利率14012030%25%20%15%10%5%40.0%35.0%30.0%25.0%20.0%15.0%10.0%5.0%126.23125.55108.7633.4%17.0%32.5%15.5%31.8%14.2%31.9%31.0%14.1%31.3%14.7%10082.258085.9960402015.2%32.560%0-5%0.0%201920202021202220232024Q1201920202021202220232024Q1資料:Wind,中信建投沃爾核材

公司成立于1998年6月19日,2007年在深交所上市,主要從事高分子核輻射改性新材料及系列電子、電力、電線新產(chǎn)品的研發(fā)、制造和銷售。公司以熱縮材料起家,并進(jìn)行業(yè)務(wù)多元化拓展,目前已擁有電子、電力、電線、新能源四大業(yè)務(wù)板塊。

子公司樂庭智聯(lián)生產(chǎn)的高速通信線為無源DAC銅電纜,在短距離信號傳輸方面,具備低功耗、高性價(jià)比、高速率等優(yōu)勢,廣泛應(yīng)用于數(shù)據(jù)中心、服務(wù)器、交換機(jī)/工業(yè)路由器等數(shù)據(jù)信號傳輸,部分規(guī)格的產(chǎn)品可應(yīng)用于AI服務(wù)器中,主要客戶包括安費(fèi)諾、豪利士、莫仕、泰科等,400G、800G高速通信線均已實(shí)現(xiàn)穩(wěn)定量產(chǎn)。圖:公司營收及利潤情況圖:公司毛利率凈利率情況營業(yè)收入(億元)歸母凈利潤(億元)歸母yoy毛利率凈利率營收yoy45%40%35%30%25%20%15%10%5%706050403020100100%90%80%70%60%50%40%30%20%10%0%39.3%88.8%57.2354.0753.4177.3%21.6%33.2%32.5%32.6%31.5%40.9539.7%32.0%14.3%13.2%13.8912.4%14.0%7.0010.5%10.8%11.2%6.147.2%5.533.926.9%20201.842024Q1-1.2%-10%0%20212022202320202021202220232024Q1資料:Wind,中信建投神宇股份

神宇通信科技股份公司于2003年在江蘇省江陰市成立,致力于成為國內(nèi)一流、國際知名的射頻同軸電纜行業(yè)的領(lǐng)先企業(yè)及電子線纜應(yīng)用解決方案供應(yīng)商。

公司主要產(chǎn)品為射頻同軸電纜,包括細(xì)微射頻同軸電纜,極細(xì)微射頻同軸電纜,半柔、半剛射頻同軸電纜,穩(wěn)相微波射頻同軸電纜,軍標(biāo)系列射頻同軸電纜等多種系列產(chǎn)品。產(chǎn)品已經(jīng)廣泛應(yīng)用于消費(fèi)電子、航空航天、數(shù)據(jù)通信、基站通信及醫(yī)療系統(tǒng)。圖:公司營收及利潤情況圖:公司毛利率凈利率情況毛利率凈利率營業(yè)收入(億元)歸母凈利潤(億元)歸母yoy營收yoy30%25%20%15%10%5%98765432108.40500%442.5%27.0%15.5%7.687.55400%300%200%100%0%21.3%10.0%6.2116.6%16.0%8.3%13.9%1.866.7%31.9%15.3%35.1%0.7033.3%16.8%0.505.6%12.7%-1.7%-8.5%0.430.620.50-38.0%-100%0%20202021202220232024Q120202021202220232024Q1資料:Wind,中信建投鼎通科技

鼎通科技是一家專注于研發(fā)、生產(chǎn)、銷售通訊連接器精密組件和汽車連接器精密組件的高新技術(shù)企業(yè)。

鼎通科技生產(chǎn)的通訊連接器組件主要應(yīng)用于通信基站、服務(wù)器等超大型數(shù)據(jù)存儲(chǔ)和交換設(shè)備,以實(shí)現(xiàn)信號的高速傳輸。鼎通科技的通訊連接器組件主要面向安費(fèi)諾、莫仕和中航光電等行業(yè)內(nèi)知名的連接器廠商,經(jīng)客戶集成其他功能件后形成通訊連接器模組或連接器系統(tǒng)。圖:公司營收及利潤情況圖:公司毛利率凈利率情況毛利率凈利率營業(yè)收入(億元)歸母凈利潤(億元)歸母yoy40%35%30%25%20%15%10%5%營收yoy37.3%20.3%35.7%20.1%

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲(chǔ)空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

最新文檔

評論

0/150

提交評論