2024年AI服務(wù)器和AI PC趨勢解讀-38正式版

2024年AI服務(wù)器和AIPC趨勢解讀電子電子發(fā)燒友網(wǎng)副主編章鷹2024.07.011數(shù)據(jù)中心、AI服務(wù)器市場趨勢AI服務(wù)器的發(fā)展挑戰(zhàn)和質(zhì)量檢測目錄AIPC市場規(guī)模和趨勢AIPC終端廠商和上游產(chǎn)業(yè)鏈AIPC產(chǎn)業(yè)應(yīng)用和生態(tài)總結(jié)2數(shù)據(jù)中心、AI服務(wù)器市場趨勢數(shù)據(jù)中心?數(shù)據(jù)中心按照算力可以分為三類：云數(shù)據(jù)中心、智算中心和超算中心。云數(shù)據(jù)中心面向眾多應(yīng)用場景和應(yīng)用層級擴(kuò)張；智算中心以AI專用芯片為計(jì)算算力底座，以促進(jìn)AI產(chǎn)業(yè)化和智能化為目標(biāo)，面向AI典型應(yīng)用場景；超算中心主要支持科學(xué)計(jì)算和工程計(jì)算，主要由國家科技部布局建設(shè)。?國內(nèi)數(shù)據(jù)中心建設(shè)較全球起步晚，目前處于云中心深化階段，向智能算力中心轉(zhuǎn)型，總體處于成長期。發(fā)燒友根據(jù)公開資料制圖4生成式AI支出高速增長?國際調(diào)研機(jī)構(gòu)IDC統(tǒng)計(jì)，2023年全球生成式AI支出的市場規(guī)模預(yù)計(jì)為387.9億美元，2027年全球生成式AI支出將達(dá)1454.2億美元，2023-2027年CAGR為55.3%。中國生成式AI支出將達(dá)到35.3億美元，2027年預(yù)計(jì)中國生成式AI支持將達(dá)到129.3億美元，

2023-2027年CAGR為54.1%。?海外企業(yè)應(yīng)用生成式AI意愿強(qiáng)烈。OpenAI首席運(yùn)營官BradLightcap預(yù)測2024年是AI應(yīng)用元年，目前已有超過60萬人注冊使用ChatGPT企業(yè)版。6月11日，

nAI在官網(wǎng)宣布與蘋果達(dá)成技

合作，將

ChatGPT深度集成

蘋果產(chǎn)品矩陣中，包括最新的

S、iPadOS和macOS。蘋果將語言模型集成到iPhone、Mac等設(shè)備中，算力從云端轉(zhuǎn)移趨勢出現(xiàn)。數(shù)據(jù)來自IDC，電子發(fā)燒友制圖數(shù)據(jù)來自IDC，電子發(fā)燒友制圖5全球需求快速增長，國內(nèi)AI服務(wù)器處于增長期?

根據(jù)Trendforce測算，2023年全球

AI服務(wù)器出貨量逾120.8萬臺，同比增長超過37.7%。這家機(jī)構(gòu)預(yù)測，2024年全球AI服務(wù)器整機(jī)出貨量將達(dá)167.2萬臺，同比增長38.4%。臺積電在Q1法說會上表示，AI需求的增長將以50%的復(fù)合增長率持續(xù)至2028年，AI服務(wù)器需求增長也有望以較高速度持續(xù)至2028年。?

國際數(shù)據(jù)公司（IDC）與浪潮信息聯(lián)合發(fā)布報告顯示，2023年，中國人工智能服務(wù)器市場規(guī)模將達(dá)91億美元，同比增長82.5%；智能算力

預(yù)計(jì)達(dá)到414.1EFLOPS年復(fù)合增長率達(dá)到39%。百億億次浮點(diǎn)運(yùn)算）增長59.3%，2022年到年，圖片：臺

電Q1財(cái)報數(shù)據(jù)來自Trendforce,電子發(fā)燒友制圖6AI

服務(wù)器分類?

按照用途區(qū)分，AI服務(wù)器分為訓(xùn)練和推理兩大類別。訓(xùn)練用服務(wù)器對存儲空間、帶寬和算力的要求較高，主要采用8-GPU設(shè)計(jì)；推理用服務(wù)器對算力、存儲和帶寬的要求相對較低，取決于業(yè)務(wù)場景，可以采用

GPU、NPU、CPU等不同芯片承擔(dān)推理任務(wù)，可以采用PCLe接口的AI加速器實(shí)現(xiàn)推理任務(wù)。?

服務(wù)器隨場景需求經(jīng)歷通用服務(wù)器-云服務(wù)器-邊緣服務(wù)器-AI服務(wù)器四種模式，AI服務(wù)器采用GPU增強(qiáng)其并行計(jì)算能力。CPU+GPU是AI服務(wù)器心部件。機(jī)柜級解決方成為未來

AI服務(wù)器主流形式之一。電子發(fā)燒友拍攝圖片來自慧投研7AI

服務(wù)器-上游產(chǎn)業(yè)鏈構(gòu)成（一）CPU+GPUHDD/SSDDRAM內(nèi)存冷卻方案電源CPUGPUAurasTechnologySunon;臺達(dá)電子艾默生光寶科技中國長城歐陸通英特爾AMD三星金士頓威剛?cè)?、SK海力士美光英偉達(dá)AMD英特爾芯中科AVC寒武紀(jì)TechnologyAI服務(wù)器產(chǎn)業(yè)鏈上游為基礎(chǔ)設(shè)施供應(yīng)商，包括芯片CPU、GPU，存儲（內(nèi)存DRAM和內(nèi)存接口及HBM，存儲SSD），被動元器

、智能網(wǎng)卡、機(jī)箱、、散熱、電源等。8AI

服務(wù)器-上游產(chǎn)業(yè)鏈構(gòu)成（二）固態(tài)硬盤PCB散熱器被動元器件互聯(lián)網(wǎng)接口質(zhì)量檢測臺達(dá)電子富士康A(chǔ)EC三星金士頓威剛鵬鼎控股東山精密技村田TDK蔡司英偉達(dá)是德科技愛德萬測試福祿克TI太陽誘電9AI服務(wù)器中游和下游國外廠商：

Wiwynn、Supermicro中游：ODM廠商國內(nèi)廠商：工業(yè)富聯(lián)、廣達(dá)、英業(yè)達(dá)、緯創(chuàng)、技嘉中游：AI服務(wù)器廠國外廠商：戴爾、思科、富士通、甲骨文（Oracle）商國內(nèi)廠商：聯(lián)想、浪潮、華為、新華三、

德、思騰合力企業(yè)類型：互聯(lián)網(wǎng)企業(yè)、云計(jì)算企業(yè)、電信運(yùn)營商、金融機(jī)構(gòu)AI服務(wù)器下游-應(yīng)用市場其他類型：政門、數(shù)據(jù)中心服務(wù)商

醫(yī)療領(lǐng)域10六

AI服務(wù)器廠商戴爾中科曙光0102030405PowerEdgeXE9680Texthere浪潮華為AI服務(wù)器NF5468M6Atlas800AI服務(wù)器廠商聯(lián)想新華三06ThinkSystemSR670V2AI服務(wù)器H3CUniserverR5360G6AI服務(wù)器的品牌廠商，包括戴爾、浪潮、聯(lián)想、中科曙光、新華三、華為、寶德、安擎和工業(yè)富聯(lián)等。AI服務(wù)器的發(fā)展挑戰(zhàn)和質(zhì)量檢測AI

服務(wù)器發(fā)展的三大挑戰(zhàn)AI服務(wù)器有五大硬件板塊：CPU母板組、GPU板組、電源模組、硬盤和配件（機(jī)殼、機(jī)架、連接器和電感）。今年，隨著大模型部署加速，AI算力需求飆升，英偉達(dá)GB200服務(wù)器下半年出貨，帶動液冷、GPU板組上的PCB需求的增加。三大挑戰(zhàn)：一、先進(jìn)的GPU加速卡需要使用多層高階HDI板，PCB的材料和產(chǎn)品質(zhì)量如何保證；二、AI服務(wù)器對傳輸速度要求較高，高速連接器正朝向“56G－112G－224G”的方向發(fā)展，高速和高密度背板連接器如何滿足AI算力釋放需這都需要工業(yè)檢測領(lǐng)域1000W，達(dá)到了傳統(tǒng)風(fēng)冷散

的極限，液冷技術(shù)成為主

趨勢。效方案來護(hù)航。三、智中心走向高密度，單顆能AI芯片的熱設(shè)計(jì)功耗破圖片來自網(wǎng)絡(luò)圖：聯(lián)想ThinkSystemSR6AI服務(wù)器，來自聯(lián)想官網(wǎng)13數(shù)據(jù)中心與AI服務(wù)器的生產(chǎn)制造品質(zhì)更高要求AI服務(wù)器具有高功率、高速運(yùn)算和數(shù)據(jù)傳輸?shù)忍攸c(diǎn)，以及不間斷運(yùn)行的高價值設(shè)備，因此對于各方面的元器件的質(zhì)量要求更高，要在生產(chǎn)制造各個環(huán)節(jié)的檢測有更高的技術(shù)支持。支持更強(qiáng)算力的AI服務(wù)器會用到：就目前的數(shù)據(jù)中心硬件方面，蔡司已識別出5個應(yīng)用場景和7趨勢點(diǎn)，如何做好質(zhì)

制，以及一系列的失效分析檢查才是保證數(shù)據(jù)中心發(fā)揮最大效能的關(guān)鍵點(diǎn)。1多層高階HDIPCB板

更多層，更高的線路密度、高功率機(jī)架3、多相電源供電系統(tǒng)4、采用更好的被動元件，如疊層片式鐵氧體磁珠5、高速的背板服務(wù)器6、固態(tài)硬盤、光模塊7、液體冷卻系統(tǒng)等。對于這類產(chǎn)品的失效性分析、質(zhì)量檢查的品質(zhì)要求更高例如：通過檢查層片式鐵氧體磁珠，可以使用蔡司工業(yè)顯

鏡去直觀的發(fā)現(xiàn)失效點(diǎn)，通常我們使用電鏡觀察，使用Sigma電鏡

且無需額外的消磁處理即可放大到1萬倍去觀測磁珠表面的情況14AI服務(wù)器5個新趨勢，10個重點(diǎn)應(yīng)用多相電源疊層片式鐵氧體磁珠多層高階HDI板高速背板連接器高功率機(jī)架AI服務(wù)器IT算力設(shè)備固態(tài)硬盤圖片來源于網(wǎng)核心交換機(jī)絡(luò)交換機(jī)通信設(shè)備光模塊路由器散熱統(tǒng)液體冷卻系統(tǒng)液冷板15散熱制冷系統(tǒng)?

冷板冷卻是數(shù)據(jù)中心主流的液體冷卻解決方案IT設(shè)備制冷設(shè)備其它電源系統(tǒng)照明系統(tǒng)數(shù)據(jù)中心能耗組成圖片圖片來源于網(wǎng)絡(luò)

PUE是國內(nèi)外數(shù)據(jù)中心普遍接受和采用的一種衡量數(shù)據(jù)中心基礎(chǔ)設(shè)施能效的指標(biāo).

到2025年，全國新建大型、超大型數(shù)據(jù)中心電能

冷板直接安裝在熱源的頂部，中間有一層熱界面材料以增強(qiáng)傳熱。在冷板內(nèi)部，液體流過微觀結(jié)構(gòu)并流出到某種形式的熱交換器。利率（PUE）降到1.3以

冷設(shè)備占非IT設(shè)備能耗

大部分。16AI服務(wù)器的液冷板尺寸測量GOMScan1樣品平面度和孔間距測量。測試要求采用GOM藍(lán)光技術(shù)攝像原理，提供高精度三

數(shù)據(jù)。價值主張小巧，可移動，超級易用。搭配ZeissInspect軟件，輕松處理檢測過程中的簡單和復(fù)雜的任務(wù)。17行業(yè)常用的生產(chǎn)制造的檢測方案行業(yè)檢測解決方案包括CMM&VMM檢測，光學(xué)系統(tǒng)AOI檢測，能夠穿透元器件及產(chǎn)品內(nèi)部的X射線檢測，以及各種工業(yè)顯微鏡。圖片來源：蔡司ZEISS官網(wǎng)18算力從云端向終端遷移?

隨著生成式AI的飛速普及和計(jì)算需求的日益增長，云經(jīng)濟(jì)難以支持生成式AI規(guī)?；瘮U(kuò)展，云端必須與終端側(cè)協(xié)同運(yùn)行AI應(yīng)用。端側(cè)AI部署成為AI實(shí)現(xiàn)規(guī)模化擴(kuò)展及應(yīng)用落地的關(guān)鍵。邊緣設(shè)備數(shù)據(jù)中心服務(wù)器低功耗低帶寬計(jì)算效率機(jī)汽車19AIPC市場規(guī)模和趨勢PC市場現(xiàn)狀：全球PC疲軟，中國市場企穩(wěn)回暖?

IDC預(yù)測，2024年全球PC市場與2023年持平，出貨量達(dá)到2.602億臺。盡管帶有NPU，有能力運(yùn)行端側(cè)生成式AI功能的AIPC集中在下半年上市，暫時未能顯著帶動PC市場的出貨量。?

2024年，中國整體PC市場轉(zhuǎn)好，2024年出貨量同比去年增長

3.8%。Q1全球PC市場回暖，六大PC廠商聯(lián)想、惠普、戴爾、蘋果、宏碁和華碩業(yè)績出現(xiàn)分化。今年將成為中國AIPC快速發(fā)展的第一年，預(yù)計(jì)2024年整體PC市場AIPC占比將達(dá)到55%，而2027年將達(dá)到85%。?

AIPC在中小企業(yè)市場

展最快，2024年將超過60%；市場受游戲場景和學(xué)習(xí)創(chuàng)作

景帶動，2024年將達(dá)到55.4%大企業(yè)受到安全因素影響，初期部署較慢，估計(jì)到2027年，AIPC在大客戶市場的占比將達(dá)到76.8%。?

PC市場目前以存量市場為主，用戶換機(jī)周期長。AIPC的上市能夠?qū)崿F(xiàn)PC的新升級，有望拉動PC的換機(jī)需求。圖來

DC21AI

PC

的定義?

英特爾和微軟聯(lián)手定義AIPC：PC除了需要CPU、GPU、NPU之外，鍵盤上還有物理的MicrosoftCopilot鍵，能夠在本地運(yùn)行Copilot。?

目標(biāo)：與傳統(tǒng)PC不同，AIPC最重要的是嵌入了AI芯片，形成“CPU+GPU+NPU”的異構(gòu)方案，可以支持本地化AI模型，能夠更快地執(zhí)行AI任務(wù)，并且無需將數(shù)據(jù)（尤其是敏感數(shù)據(jù)）發(fā)送到基于云的AI服務(wù)器進(jìn)行處理。圖片：絡(luò)圖：華碩靈耀14雙屏，搭載Inte，電子發(fā)燒友拍攝22AI

PC市場規(guī)模展望?

2024是AIPC發(fā)展元年。IDC預(yù)測，到2028年中國下一代AIPC年出貨量將是2024年的60倍。摩根士丹利認(rèn)為，AIPC將從今年下半年開始劇增，預(yù)計(jì)將從1000美元以上的筆記型電腦開始普及，最終將下降到500美元的價格區(qū)間。?調(diào)研機(jī)構(gòu)Canalys數(shù)據(jù)顯示，2024年下半年，AIPC的廣泛推出將推動市場發(fā)展，為暫緩購買的用戶提供創(chuàng)新性和吸引力的產(chǎn)品。2024年全球AIPC出貨量將達(dá)到4800萬臺，占個人電腦總出貨量的18%。5月底，微軟Copilot發(fā)模型，基于本地算力可以提供本地大模型的訓(xùn)練和計(jì)算。相比云端，端側(cè)模型較高安全性和及時性下一代PC必不可少部分。23微軟Copilot

+

PC

技術(shù)亮點(diǎn)1、算力升級2、回溯記憶（Recall）NPU達(dá)到40Tops+16GBRAM配置，新一代CopilotPC運(yùn)行速度比蘋果MacBookAir快在GPT-4o加持下，這項(xiàng)功能允許截取設(shè)備使用情況的屏幕截屏，并且存儲在本地，加強(qiáng)隱私保護(hù)。4、實(shí)時字幕3、渲染

互在強(qiáng)大算力和語言模型幫助下

機(jī)器將40多實(shí)時交互能力，尤其在圖像生成、視頻剪輯、游戲渲染方面為物體和人物強(qiáng)化視覺效果。種語言的實(shí)時字幕翻譯成英語。24AIPC終端廠商和上游產(chǎn)業(yè)鏈部分國際廠商AIPC終端產(chǎn)品（一）價格（元）公司名稱聯(lián)想產(chǎn)品型號處理器發(fā)布時間Q4,20232024模型AI功能ThinkPadX1Carbon支持200億參數(shù)11999—16999AI智能會議、智能降噪、AI個人助理Intel酷睿

Ultra7Intel酷睿i5大模型支持200億參數(shù)生成式AI創(chuàng)作，圖IdeaPadPr299歐元語言大模型文轉(zhuǎn)換支持200億參數(shù)配備

YogaCreatorZone軟件YOGABook9iIntel酷睿

Ultra7Q2,202415999語言大模型AI能效提升、文本生成、語言翻譯，運(yùn)行AI軟件Intel酷睿Ultra7支持200億參數(shù)14999-19999DellXPS14Q1,2024Q4,2023新165H大模型AI圖像生成，Intel酷睿Ultra9支持200億參華碩靈耀114999大模型，適0款185H語言大模國內(nèi)大模型Intel酷睿Ultra9支持200億參數(shù)AI圖像處理、視頻編輯、AI降噪Zenbook14SwiftGo14Q1,2024Q1,20241000美金5499元起185H語言大模型Intel酷睿Ultra9支持200億參數(shù)宏碁AI降噪、圖形優(yōu)化185H語言大模型電子發(fā)燒友根據(jù)公開整理26部分國際廠商AIC終端產(chǎn)品（二）公司名稱產(chǎn)品型號處理器發(fā)布時間模型價格（元）14999AI功能AI增強(qiáng)視覺、AI輔助，AI音頻體驗(yàn)優(yōu)化幽靈Spectrex36016英寸Intel酷睿

Ultra7支持200億參數(shù)惠普Q1,2024155H語言模型支持200億

數(shù)生成式AI創(chuàng)

、AI助手星BookPro14AIIntel酷睿

Ultra5Q1,2024Q2,20245399-7099語言模型Intel酷睿

Ultra9支持200億參數(shù)6499-13999AI輔助內(nèi)容創(chuàng)作，AI降噪OMENTranscend185H語言模型Recall功能，實(shí)時翻譯、支持文生圖支持端側(cè)運(yùn)行130億參數(shù)的語言大模型8688-16088SurfacePro11版驍龍

XElite2024音交互Recall功能，實(shí)時翻譯、支持文生圖、語音交互支持端側(cè)運(yùn)行130億參數(shù)的語言大模型11188-15388SurfaceLaptop7驍龍

XEliteQ2,20242024文本生成、語言翻譯，AI軟件MagicBookPro16Intel酷睿

Ultra5支持200億參數(shù)耀9299語言模型電子發(fā)燒友根據(jù)公開資料整理27聯(lián)想AI

PC產(chǎn)品陸續(xù)上市?

4月，聯(lián)想YOGABook9iAI正式上市，搭載酷睿Ultra7155U處理器，集顯性翻倍體驗(yàn)，保證了其在處理各種復(fù)雜任務(wù)時的流暢性和高效性。?

6月26日，聯(lián)想集團(tuán)宣布推出基于高通驍龍XElite平臺的YOGAAir14s驍龍AI元啟，以及YOGAAir14cAI元啟和拯救者Y9000PAI元啟三款A(yù)IPC。YOGAAir14s驍龍AI元啟基于高通驍龍XElite平臺，NPU算力高達(dá)每秒45萬億次，搭配聯(lián)想小天，文檔總結(jié)速度提升22%，生

速度提升45%，可輕松駕馭Off文檔處理、瀏覽網(wǎng)頁、PS作長達(dá)24小時。多任務(wù)并行狀態(tài)，續(xù)航圖片來自聯(lián)想28搭配驍龍X系列的20款A(yù)I

PC圖片來自高通29AI

PC處理器芯片?

AIPC芯片廠商：WindowsOnARM應(yīng)用拐點(diǎn)到來，全新Arm版Surface具備高性能和低功耗。目前，高通、蘋果都已經(jīng)推出ARM架構(gòu)的PC處理器芯片,聯(lián)發(fā)科攜手英偉達(dá)推進(jìn)ArmPC處理器開發(fā)。?

X86芯片迭代更新，性能持續(xù)提升。英特爾MeteorLake首次集成NPU，LunarLake和ArrowLake加速提高處理器性能，SnapdragonXEliteIntelCoreUltraAMDRyzenAI3006月，AMD推出RyzenAI300,50Tops算力。HP、Lenovo、Dell預(yù)計(jì)7月推出含該款芯片的PC新品。已經(jīng)20多臺型號搭載驍龍X系列的Copilot+PC開始接受預(yù)訂。Intel宣布與主流OEM伙伴推出230余款機(jī)型，開啟AIPC新紀(jì)元。30國際廠商推出CoplotPC處理器

片公司名稱高通產(chǎn)品型號NPU45Topsops制程4nm4nmIntel4發(fā)布時間Q3.2023Q2.20合作品牌宏碁、華碩、戴爾、惠普、聯(lián)想、微軟和三星SnapdragonXElitenapdragonXPLus酷睿Ultra7155H宏碁、華碩、戴爾、惠普聯(lián)想、微軟和三星聯(lián)想、Dell、惠普、華碩、Intel34TOPSQ4.2023宏碁、榮耀、新華三Intel18ALunarLake40TopsQ3,2024/ArrowLakeRyzen8050RyzenAI300//預(yù)計(jì)2025年Q2.2024/AMD40Tops50Tops4nm4nm/惠普、華碩、聯(lián)想計(jì)劃7月推出帶有AMD的AIPCQ2.202431AI

PC

產(chǎn)業(yè)鏈-上游硬件顯示器CPUGPU主板內(nèi)存電源X86架構(gòu)Intel、D、ARM架構(gòu)高通英偉達(dá)AMD三星、SK海力士美光BOE新普德賽電池欣旺達(dá)珠海華碩ECS三星蘋果爾線程兆芯華為江波龍長鑫HP龍芯中科聯(lián)發(fā)科AIPC產(chǎn)業(yè)鏈上游為基礎(chǔ)設(shè)施供應(yīng)商，包括CPU芯片、GPU芯片、EC芯片、存儲芯片、操作系統(tǒng)、顯示器等。IPC拉動存儲需求上

驅(qū)動DDR5成為主流需

。2、伴隨

AIPC對數(shù)對大容量存儲需求增速率及功耗提出更高要求，高頻高速

PCB是未來發(fā)展必然趨勢。1輸32AI

PC

產(chǎn)業(yè)鏈-軟件操作系統(tǒng)社交應(yīng)用娛樂應(yīng)用支付應(yīng)用數(shù)據(jù)庫管理系統(tǒng)辦公應(yīng)用釘釘企業(yè)微信WPSOracleMicrosoft信軟件微信微博QQ嗶哩嗶哩快手微信支付支付寶甲骨ONBASE蘋果IOS、麒麟軟件招行AP華為支付中游為AI整機(jī)廠，包括科技、廣達(dá)、仁寶、華，包括聯(lián)想、惠普、DELL、HONOR、華為等。術(shù)、聞泰科技、LCFC聯(lián)技、英業(yè)達(dá)，下游是品商33AIPC產(chǎn)業(yè)應(yīng)用和生態(tài)AI

PC的六大應(yīng)用場景1、AIChatbot（AI聊天機(jī)器人）,Chatbot將面向特定行業(yè)和領(lǐng)域進(jìn)行定向優(yōu)化，帶來專業(yè)問答體驗(yàn)；2、AIPC助理，可以簡化用戶對PC的各種操作，管理PC上的數(shù)據(jù)和個人文檔。3、AIOffice助手，以O(shè)ffice插件的形態(tài)出現(xiàn)，提升辦公軟件使用效率。4、AI本地知識庫，AIPC將個人或企業(yè)的文件轉(zhuǎn)換成運(yùn)行在設(shè)備上的知識庫，幫助用戶進(jìn)行快速的文檔處理。