2024年AI服務器和AI PC趨勢解讀

2024年AI

服務器和AI

PC趨勢解讀電子發(fā)燒友網副主編章鷹12024.07.01目錄數(shù)據(jù)中心、AI服務器市場趨勢AI

PC市場規(guī)模和趨勢AI PC終端廠商和上游產業(yè)鏈AI

PC產業(yè)應用和生態(tài)總結AI服務器的發(fā)展挑戰(zhàn)和質量檢測2數(shù)據(jù)中心、AI服務器市場趨勢

數(shù)據(jù)中心 數(shù)據(jù)中心按照算力可以分為三類：云數(shù)據(jù)中心、智算中心和超算中心。云數(shù)據(jù)中心面向眾多應用場景和應用層級擴張；智算中心以AI專用芯片為計算算力底座，以促進AI產業(yè)化和智能化為目標，面向AI典型應用場景；超算中心主要支持科學計算和工程計算，主要由國家科技部布局建設。國內數(shù)據(jù)中心建設較全球起步晚，目前處于云中心深化階段，向智能算力中心轉型，總體處于成長期。電子發(fā)燒友根據(jù)公開資料制圖4

生成式AI支出高速增長 國際調研機構IDC統(tǒng)計，2023年全球生成式AI支出的市場規(guī)模預計為387.9億美元，2027年全球生成式AI支出將達1454.2億美元，2023-2027年CAGR為55.3%。中國生成式AI支出將達到35.3億美元，2027年預計中國生成式AI支持將達到129.3億美元，

2023-2027年CAGR為54.1%。海外企業(yè)應用生成式AI意愿強烈。OpenAI首席運營官Brad

Lightcap預測2024年是AI應用元年，目前已有超過60萬人注冊使用ChatGPT企業(yè)版。6月11日，OpenAI在官網宣布與蘋果達成技術合作，將

ChatGPT

深度集成在蘋果產品矩陣中，包括最新的iOS、iPadOS和macOS。蘋果將AI大語言模型集成到iPhone、iPad、Mac等設備中，算力從云端向終端轉移趨勢出現(xiàn)。數(shù)據(jù)來自IDC，電子發(fā)燒友制圖數(shù)據(jù)來自IDC，電子發(fā)燒友制圖5

全球需求快速增長，國內AI服務器處于增長期 根據(jù)Trendforce

測算，2023

年全球

AI服務器出貨量逾120.8萬臺，同比增長超過37.7%。這家機構預測，2024年全球AI服務器整機出貨量將達167.2萬臺，同比增長38.4%。臺積電在Q1法說會上表示，AI需求的增長將以50%的復合增長率持續(xù)至2028年，AI服務器需求增長也有望以較高速度持續(xù)至2028年。國際數(shù)據(jù)公司（IDC）與浪潮信息聯(lián)合發(fā)布報告顯示，2023年，中國人工智能服務器市場規(guī)模將達91億美元，同比增長82.5%；智能算力規(guī)模預計達到414.1EFLOPS（每秒百億億次浮點運算），同比增長59.3%，2022年到2027年，年復合增長率達到33.9%。數(shù)據(jù)來自Trendforce,電子發(fā)燒友制圖圖片：臺積電Q1財報6

AI

服務器分類 按照用途區(qū)分，AI服務器分為訓練和推理兩大類別。訓練用服務器對存儲空間、帶寬和算力的要求較高，主要采用8-GPU

設計；推理用服務器對算力、存儲和帶寬的要求相對較低，取決于業(yè)務場景，可以采用

GPU、NPU、CPU

等不同芯片承擔推理任務，可以采用PCLe接口的AI加速器實現(xiàn)推理任務。服務器隨場景需求經歷通用服務器-云服務器-邊緣服務器-AI服務器四種模式，AI服務器采用GPU增強其并行計算能力。CPU+GPU是AI服務器的核心部件。機柜級解決方案有望成為未來

AI

服務器出貨主流形式之一。電子發(fā)燒友拍攝圖片來自慧博智能投研7

AI

服務器-上游產業(yè)鏈構成（一） CPU+GPU英特爾AMD龍芯中科HDD/SSD三星金士頓威剛DRAM內存三星、SK海力士美光AurasTechnologySunon;AVCTechnology電源冷卻方案AI

服務器產業(yè)鏈上游為基礎設施供應商，包括芯片CPU、GPU，存儲（內存DRAM和內存接口及HBM，本地存儲SSD），被動元器件、智能網卡、機箱、主板、散熱、電源等。臺達電子艾默生光寶科技中國長城歐陸通英偉達AMD英特爾寒武紀CPUGPU8

AI

服務器-上游產業(yè)鏈構成（二） 固態(tài)硬盤三星金士頓威剛PCB鵬鼎控股東山精密健鼎科技被動元器件村田TDK太陽誘電散熱器互聯(lián)網接口臺達電子富士康AEC質量檢測蔡司是德科技愛德萬測試福祿克英偉達TIADI9AI服務器中游和下游中游：ODM廠商國外廠商：

Wiwynn、Supermicro國內廠商：工業(yè)富聯(lián)、廣達、英業(yè)達、緯創(chuàng)、技嘉中游：AI服務器廠商國外廠商：戴爾、思科、富士通、甲骨文（Oracle）國內廠商：聯(lián)想、浪潮、華為、新華三、寶德、思騰合力企業(yè)類型：互聯(lián)網企業(yè)、云計算企業(yè)、電信運營商、金融機構AI服務器下游-應用市場其他類型：政府部門、數(shù)據(jù)中心服務商、醫(yī)療領域10AI服務器廠商戴爾01PowerEdge

XE9680中科曙光Text

here04新華三H3CUniserverR5360

G60603浪潮02華為Atlas

800

AI服務器05六大AI服務器廠商AI

服務器的品牌廠商，包括戴爾、浪潮、聯(lián)想、中科曙光、新華三、華為、寶德、安擎和工業(yè)富聯(lián)等。聯(lián)想ThinkSystem

SR670

V2AI服務器NF5468M6AI服務器的發(fā)展挑戰(zhàn)和質量檢測

AI

服務器發(fā)展的三大挑戰(zhàn) AI服務器有五大硬件板塊：CPU母板組、GPU板組、電源模組、硬盤和配件（機殼、機架、連接器和電感）。今年，隨著大模型部署加速，AI算力需求飆升，英偉達GB200服務器下半年出貨，帶動液冷、GPU板組上的PCB需求的增加。三大挑戰(zhàn)：一、先進的GPU加速卡需要使用多層高階HDI板，PCB的材料和產品質量如何保證；二、AI服務器對傳輸速度要求較高，高速連接器正朝向“56G－112G－224G”的方向發(fā)展，高速和高密度背板連接器如何滿足AI算力釋放需求，這都需要工業(yè)檢測領域的有效方案來護航。三、智能算中心走向高密度，單顆高性能AI芯片的熱設計功耗將突破1000W，達到了傳統(tǒng)風冷散熱的極限，液冷技術成為主要趨勢。圖：聯(lián)想ThinkSystem

SR670

V2

AI服務器，來自聯(lián)想官網圖片來自網絡13

數(shù)據(jù)中心與AI服務器的生產制造品質更高要求 AI服務器具有高功率、高速運算和數(shù)據(jù)傳輸?shù)忍攸c，以及不間斷運行的高價值設備，因此對于各方面的元器件的質量要求更高，要在生產制造各個環(huán)節(jié)的檢測有更高的技術支持。支持更強算力的AI服務器會用到：1、多層高階HDI

PCB板

更多層，更高的線路密度2、高功率機架3、多相電源供電系統(tǒng)4、采用更好的被動元件，如疊層片式鐵氧體磁珠5、高速的背板服務器6、固態(tài)硬盤、光模塊7、液體冷卻系統(tǒng)等。就目前的數(shù)據(jù)中心硬件方面，蔡司已識別出5個應用場景和7個新趨勢點，如何做好質量控制，以及一系列的失效分析檢查才是保證數(shù)據(jù)中心發(fā)揮最大效能的關鍵點。對于這類產品的失效性分析、質量檢查的品質要求更高例如：通過檢查層片式鐵氧體磁珠，可以使用蔡司工業(yè)顯微鏡去直觀的發(fā)現(xiàn)失效點，通常我們使用電鏡去觀察，使用Sigma電鏡去且無需額外的消磁處理即可放大到1萬倍去觀測磁珠表面的情況14數(shù)據(jù)中心IT

算力設備AI

服務器多相電源疊層片式鐵氧體磁珠多層高階HDI板高速背板連接器高功率機架固態(tài)硬盤交換機核心交換機光模塊通信設備路由器散熱制冷系統(tǒng)液體冷卻系統(tǒng)液冷板圖片來源于網絡

AI服務器5個新趨勢，10個重點應用 15

散熱制冷系統(tǒng) 冷板冷卻是數(shù)據(jù)中心主流的液體冷卻解決方案數(shù)據(jù)中心能耗組成PUE是國內外數(shù)據(jù)中心普遍接受和采用的一種衡量數(shù)據(jù)中心基礎設施能效的指標.到2025年，全國新建大型、超大型數(shù)據(jù)中心電能利用效率（PUE）降到1.3以下。制冷設備占非IT設備能耗的大部分。冷板直接安裝在熱源的頂部，中間有一層熱界面材料以增強傳熱。在冷板內部，液體流過微觀結構并流出到某種形式的熱交換器。圖片來源于網絡圖片來源于網絡電源系統(tǒng)IT設備 制冷設備照明系統(tǒng) 其它16平面度和孔間距測量。采用GOM藍光技術和立體攝像原理，提供高精度三維數(shù)據(jù)。小巧，可移動，超級易用。搭配Zeiss

Inspect軟件，輕松處理檢測過程中的簡單和復雜的任務。樣品測試要求價值主張GOMScan

1

AI服務器的液冷板尺寸測量 17

行業(yè)常用的生產制造的檢測方案 行業(yè)檢測解決方案包括CMM&VMM檢測，光學系統(tǒng)AOI檢測，能夠穿透元器件及產品內部的X射線檢測，以及各種工業(yè)顯微鏡。圖片來源：蔡司ZEISS官網18

算力從云端向終端遷移 隨著生成式AI的飛速普及和計算需求的日益增長，云經濟難以支持生成式AI規(guī)模化擴展，云端必須與終端側協(xié)同運行AI應用。端側AI部署成為AI實現(xiàn)規(guī)模化擴展及應用落地的關鍵。數(shù)據(jù)中心服務器低功耗低帶寬計算效率邊緣設備手機PC汽車19AI

PC市場規(guī)模和趨勢PC市場現(xiàn)狀：全球PC疲軟，中國市場企穩(wěn)回暖IDC預測，2024年全球PC市場與2023年持平，出貨量達到2.602億臺。盡管帶有NPU，有能力運行端側生成式AI功能的AI

PC集中在下半年上市，暫時未能顯著帶動PC市場的出貨量。2024年，中國整體PC市場轉好，2024年出貨量同比去年增長

3.8%。Q1全球PC市場回暖，六大PC廠商聯(lián)想、惠普、戴爾、蘋果、宏碁和華碩業(yè)績出現(xiàn)分化。今年將成為中國AIPC快速發(fā)展的第一年，預計2024年整體PC市場AI

PC占比將達到55%，而2027年將達到85%。AI

PC在中小企業(yè)市場發(fā)展最快，2024年將超過60%；消費市場受游戲場景和學習創(chuàng)作場景帶動，2024年將達到55.4%。大企業(yè)受到安全因素影響，初期部署較慢，估計到2027年，AI

PC在大客戶市場的占比將達到76.8%。PC市場目前以存量市場為主，用戶換機周期長。AI

PC的上市能夠實現(xiàn)PC的新升級，有望拉動PC的換機需求。圖來自IDC21

AI

PC

的定義 英特爾和微軟聯(lián)手定義AI

PC：PC除了需要CPU、GPU、NPU之外，鍵盤上還有物理的MicrosoftCopilot鍵，能夠在本地運行Copilot。目標：與傳統(tǒng)PC不同，AIPC最重要的是嵌入了AI芯片，形成“CPU+GPU+NPU”的異構方案，可以支持本地化AI模型，能夠更快地執(zhí)行AI任務，并且無需將數(shù)據(jù)（尤其是敏感數(shù)據(jù)）發(fā)送到基于云的AI服務器進行處理。圖：華碩靈耀14雙屏，搭載Intel

Ultra9，電子發(fā)燒友拍攝圖片：來自網絡22

AI

PC市場規(guī)模展望 2024是AI

PC發(fā)展元年。IDC

預測，到2028年中國下一代AI

PC年出貨量將是2024年的60倍。摩根士丹利認為，AI

PC將從今年下半年開始劇增，預計將從1000美元以上的筆記型電腦開始普及，最終將下降到500美元的價格區(qū)間。調研機構Canalys數(shù)據(jù)顯示，2024年下半年，AI

PC的廣泛推出將推動市場發(fā)展，為暫緩購買的用戶提供創(chuàng)新性和吸引力的產品。2024年全球AI

PC出貨量將達到4800萬臺，占個人電腦總出貨量的18%。5月底，微軟Copilot發(fā)布端側模型，基于本地算力可以為用戶提供本地大模型的訓練和功能計算。相比云端，端側模型具備較高安全性和及時性，是下一代PC必不可少部分。23

微軟Copilot

+

PC

技術亮點 241、算力升級NPU達到40Tops+16GB

RAM配置，新一代Copilot

PC運行速度比蘋果MacBook

Air快38%。2、回溯記憶（Recall）在GPT-4o加持下，這項功能允許截取設備使用情況的屏幕截屏，并且存儲在本地，加強隱私保護。3、渲染交互實時交互能力，尤其在圖像生成、視頻剪輯、游戲渲染方面為物體和人物強化視覺效果。4、實時字幕在強大算力和語言模型幫助下，機器將40多種語言的實時字幕翻譯成英語。AI

PC終端廠商和上游產業(yè)鏈公司名稱產品型號處理器發(fā)布時間模型價格（元）AI功能聯(lián)想ThinkPad

X1CarbonIntel

酷睿

Ultra

7Q4,2023支持200億參數(shù)大模型11999—16999AI智能會議、智能降噪、AI個人助理IdeaPad

ProIntel

酷睿i5Q2,2024支持200億參數(shù)語言大模型1299歐元生成式AI創(chuàng)作，圖文轉換YOGABook

9iIntel

酷睿

Ultra

7Q2,2024支持200億參數(shù)語言大模型15999配備

Yoga

CreatorZone

軟件Dell新

XPS14Intel

酷睿Ultra

7165HQ1,2024支持200億參數(shù)大模型14999-19999AI

能效提升、文本生成、語言翻譯，運行AI軟件華碩靈耀14雙屏Intel酷睿Ultra

9185HQ4,2023支持200億參數(shù)語言大模型14999AI圖像生成，運行大模型，適配10款國內大模型Zenbook

14Intel酷睿Ultra

9185HQ1,2024支持200億參數(shù)語言大模型1000美金AI圖像處理、視頻編輯、AI降噪宏碁Swift

Go14Intel酷睿Ultra

9185HQ1,2024支持200億參數(shù)語言大模型5499元起AI降噪、圖形優(yōu)化部分國際廠商AI

PC終端產品（一）電子發(fā)燒友根據(jù)公開資料整理26公司名稱產品型號處理器發(fā)布時間模型價格（元）AI功能惠普幽靈Spectrex360

16英寸Intel

酷睿

Ultra

7155HQ1,2024支持200億參數(shù)語言模型14999AI增強視覺、AI輔助，AI音頻體驗優(yōu)化星Book

Pro14

AIIntel酷睿

Ultra

5Q1,2024支持200億參數(shù)語言模型5399-7099生成式AI創(chuàng)作、AI助手OMEN

TranscendIntel酷睿

Ultra

9185HQ2,2024支持200億參數(shù)語言模型6499-13999AI輔助內容創(chuàng)作，AI降噪微軟Surface

Pro11版驍龍

X

EliteQ2,2024支持端側運行130億參數(shù)的語言大模型8688-16088Recall功能，實時翻譯、支持文生圖、語音交互SurfaceLaptop

7驍龍

X

EliteQ2,2024支持端側運行130億參數(shù)的語言大模型11188-15388Recall功能，實時翻譯、支持文生圖、語音交互榮耀MagicBookPro

16Intel酷睿

Ultra

5Q1,2024支持200億參數(shù)語言模型9299文本生成、語言翻譯，運行AI軟件部分國際廠商AI

PC終端產品（二）電子發(fā)燒友根據(jù)公開資料整理27

聯(lián)想AI

PC產品陸續(xù)上市 4月，聯(lián)想YOGA

Book

9i

AI正式上市，搭載酷睿Ultra

7

155U處理器，集顯性翻倍體驗，保證了其在處理各種復雜任務時的流暢性和高效性。6月26日，聯(lián)想集團宣布推出基于高通驍龍X

Elite平臺的YOGAAir

14s驍龍AI元啟，以及YOGA

Air

14c

AI元啟和拯救者Y9000P

AI元啟三款AI

PC。YOGA

Air

14s驍龍AI元啟基于高通驍龍X

Elite平臺，NPU算力高達每秒45萬億次，搭配聯(lián)想小天，文檔總結速度提升22%，生圖速度提升45%，可輕松駕馭Office文檔處理、瀏覽網頁、PS作圖的多任務并行狀態(tài)，續(xù)航長達24小時。圖片來自聯(lián)想28

搭配驍龍X系列的20款AI

PC ? 。圖片來自高通29AI

PC處理器芯片AI

PC芯片廠商：Windows

On

ARM應用拐點到來，全新Arm版Surface具備高性能和低功耗。目前，高通、蘋果都已經推出ARM架構的PC處理器芯片,聯(lián)發(fā)科攜手英偉達推進Arm

PC處理器開發(fā)。X86芯片迭代更新，性能持續(xù)提升。英特爾Meteor

Lake首次集成NPU，Lunar

Lake和Arrow

Lake加速提高處理器性能，SnapdragonX

Elite已經20多臺型號搭載驍龍X系列的Copilot+

PC開始接受預訂。IntelCore

UltraIntel宣布與主流OEM伙伴推出230余款機型，開啟AI

PC新紀元。AMDRyzenAI

3006月，AMD推出Ryzen

AI

300,

50Tops算力。HP、Lenovo、Dell預計7月推出含該款芯片的PC新品。30公司名稱產品型號NPU制程發(fā)布時間合作品牌高通SnapdragonX

Elite45Tops4nmQ3.2023宏碁、華碩、戴爾、惠普、聯(lián)想、微軟和三星SnapdragonX

PLus45Tops4nmQ2.2024宏碁、華碩、戴爾、惠普、聯(lián)想、微軟和三星Intel酷睿Ultra7

155H34TOPSIntel

4Q4.2023聯(lián)想、Dell、惠普、華碩、宏碁、榮耀、新華三LunarLake40TopsIntel18AQ3,2024/ArrowLake//預計2025年/AMDRyzen

805040Tops4nmQ2.2024/RyzenAI

30050Tops4nmQ2.2024惠普、華碩、聯(lián)想計劃7月推出帶有AMD的AI

PC國際廠商推出Copilot

PC處理器芯片31

AI

PC

產業(yè)鏈-上游硬件 CPUX86架構Intel、AMD、兆芯龍芯中科ARM架構高通蘋果華為聯(lián)發(fā)科GPU英偉達AMD摩爾線程內存三星、SK海力士美光江波龍長鑫主板BOE三星DellHP電源顯示器華碩ECSAI

PC產業(yè)鏈上游為基礎設施供應商，包括CPU芯片、GPU芯片、EC芯片、存儲芯片、操作系統(tǒng)、顯示器等。1、AIPC拉動存儲需求上升，對大容量存儲需求增多，驅動DDR5成為主流需求。2、伴隨

AI

PC

對數(shù)據(jù)傳輸速率及功耗提出更高要求，高頻高速PCB

是未來發(fā)展必然趨勢。新普德賽電池欣旺達珠海冠宇32

AI

PC

產業(yè)鏈-軟件 操作系統(tǒng)Microsoft統(tǒng)信軟件蘋果IOS、麒麟軟件數(shù)據(jù)庫管理系統(tǒng)Oracle甲骨文IBMOCEAN

BASE社交應用微信微博QQ辦公應用嗶哩嗶哩抖音快手支付應用微信支付支付寶招行APP華為支付娛樂應用釘釘企業(yè)微信WPS中游為AI整機廠，包括鴻?？萍?、廣達、仁寶、華勤技術、聞泰科技、LCFC聯(lián)寶科技、英業(yè)達，下游是品牌廠商，包括聯(lián)想、惠普、DELL、HONOR、華為等。33AI

PC產業(yè)應用和生態(tài)

AI

PC的六大應用場景 1、AI

Chatbot（AI聊天機器人）,Chatbot將面向特定行業(yè)和領域進行定向優(yōu)化，帶來專業(yè)問答體驗；2、AI

PC助理，可以簡化用戶對PC的各種操作，管理PC上的數(shù)據(jù)和個人文檔。3、AI

Office助手，以Office插件的形態(tài)出現(xiàn)，提升辦公軟件使用效率。