【鼎帷咨詢(xún)】英偉達(dá)人工智能發(fā)展戰(zhàn)略研究報(bào)告

EDTCI英偉達(dá)人工智能發(fā)展戰(zhàn)略EDTCI鼎帷咨詢(xún)戰(zhàn)略創(chuàng)新研究院2024年9月 在汽車(chē)領(lǐng)域，英偉達(dá)提供DRIVE軟硬件及Omniverse平臺(tái)，賦能端到端的汽車(chē)在機(jī)器人領(lǐng)域，英偉達(dá)提供ssac,Omniverse及Jetson平臺(tái)，協(xié)助開(kāi)發(fā)各類(lèi)型機(jī)器人，并目前瞻布局具身智能，與比亞迪、西門(mén)子等代表性企業(yè)合作。05英偉達(dá)競(jìng)爭(zhēng)策略·英偉達(dá)采用“三團(tuán)隊(duì)兩季度”的創(chuàng)新研發(fā)迭代模式，即三個(gè)井行開(kāi)發(fā)團(tuán)隊(duì)專(zhuān)注于獨(dú)立的分階段產(chǎn)品開(kāi)發(fā)，確保公司每6個(gè)月推出一次新產(chǎn)品領(lǐng)先市場(chǎng)1-2個(gè)研發(fā)周期，使·英偉達(dá)通過(guò)構(gòu)筑軟件生態(tài)、調(diào)動(dòng)開(kāi)發(fā)者、發(fā)振應(yīng)用場(chǎng)景對(duì)計(jì)算機(jī)形態(tài)進(jìn)行漸進(jìn)式改造，使得計(jì)算機(jī)從單純的CPU形態(tài)深漸滴變?yōu)镃PU+GPU形態(tài)，塑造計(jì)算機(jī)英偉達(dá)的GPU硬件緊密結(jié)合，提供了最佳的性能和最優(yōu)化的體驗(yàn)。·這種封閉的集成策路使得CUDA在性能上具有明顯優(yōu)勢(shì)。構(gòu)筑了軟件覆蓋率高、A框架支持率高、細(xì)分行業(yè)海透率高三大生態(tài)競(jìng)爭(zhēng)壁壘，鞏固了英偉達(dá)在A和高性能計(jì)算市場(chǎng)的領(lǐng)導(dǎo)地位。·通過(guò)提供全面的軟件支持和優(yōu)化，英偉達(dá)的GPU在訓(xùn)練和部署AI模型方面成為行業(yè)標(biāo)準(zhǔn)，使得英偉達(dá)在AI芯片市場(chǎng)中占據(jù)主導(dǎo)地位英偉達(dá)充分利用數(shù)據(jù)中心對(duì)人工智能的無(wú)限需求，憑借自身的巨大產(chǎn)量和人工智能服務(wù)器所有技術(shù)和組件的超前領(lǐng)先地位，將網(wǎng)絡(luò)組件、內(nèi)存和其他組件都封裝(CoWos)到單個(gè)系統(tǒng)中，進(jìn)而在供應(yīng)鏈中占據(jù)主導(dǎo)地位，近日黃仁勛還透露，英偉達(dá)自主開(kāi)發(fā)了很多技術(shù)，必要時(shí)，可棄用臺(tái)積電，能讓英偉達(dá)把訂單轉(zhuǎn)移給替代供應(yīng)商。為了方便您的閱讀，請(qǐng)先了解以下常見(jiàn)術(shù)語(yǔ)支持大規(guī)模Al訓(xùn)練和科學(xué)計(jì)算用于5G和邊緣網(wǎng)絡(luò)的Al平臺(tái)提升電信網(wǎng)絡(luò)的性能和智能化一組預(yù)定義的函數(shù)或協(xié)議，用于構(gòu)建軟件應(yīng)用程序支持軟件開(kāi)發(fā)和集成用于醫(yī)療健康領(lǐng)域的Al計(jì)算平臺(tái)提升醫(yī)療設(shè)備和應(yīng)用的性能ComputeUnifiedDeviceArchitecture的縮寫(xiě)，是NVIDIA的并行計(jì)算架構(gòu)和編程模CUDA計(jì)算單元，GPU中用于并行處理任務(wù)的基本處理單元。用于執(zhí)行并行計(jì)算任務(wù)，加速計(jì)算密集型應(yīng)CUDA程序中執(zhí)行的并行計(jì)算函數(shù)。CUDA的并行執(zhí)行機(jī)制，允許多個(gè)任務(wù)在不同的流中并行處包含編譯器、庫(kù)、開(kāi)發(fā)工具和文檔的完整開(kāi)發(fā)工具包，用于CUDA編程。用于開(kāi)發(fā)和優(yōu)化CUDA應(yīng)用程序。用于半導(dǎo)體制造的計(jì)算光刻技術(shù)提升芯片制造的精度和效率用于物流和路徑優(yōu)化的AI工具提高物流效率和降低成本NVIDIA提供的軟件開(kāi)發(fā)工具包，包含用于深度學(xué)習(xí)的庫(kù)和工提供大規(guī)模Al訓(xùn)練和推理能力NVIDIA的深度學(xué)習(xí)超級(jí)計(jì)算機(jī)平臺(tái)，集成了高性能GPU和優(yōu)化的軟件Al超分辨率算法，通過(guò)較低分辨率輸入預(yù)測(cè)更高分辨率輸出專(zhuān)用于數(shù)據(jù)處理的處理器提升數(shù)據(jù)中心網(wǎng)絡(luò)和存儲(chǔ)性能用于自動(dòng)駕駛汽車(chē)模擬訓(xùn)練的軟件平臺(tái)提高自動(dòng)駕駛系統(tǒng)的安全性和效率一種能夠檢測(cè)和修正常見(jiàn)的數(shù)據(jù)損壞類(lèi)型內(nèi)存用于邊緣計(jì)算的GPU平臺(tái)實(shí)現(xiàn)實(shí)時(shí)Al推理和分析16-bit浮點(diǎn)數(shù)精度，用于加速深度學(xué)習(xí)模型的訓(xùn)練和推面向游戲娛樂(lè)領(lǐng)域的顯卡系列提供高性能游戲體驗(yàn)專(zhuān)門(mén)用于處理圖形和視覺(jué)計(jì)算任務(wù)的處理器提供圖形渲染和視覺(jué)計(jì)算能力NVIDIA技術(shù)，允許直接在GPU之間傳輸數(shù)據(jù)，從而減少CPU和主內(nèi)存的干同步顯示器刷新率與顯卡輸出，減少畫(huà)面撕裂改善游戲和視頻的視覺(jué)質(zhì)量用于高性能計(jì)算的GPU平臺(tái)支持科學(xué)研究和復(fù)雜計(jì)算任務(wù)專(zhuān)為智能邊緣設(shè)備設(shè)計(jì)的計(jì)算平臺(tái)提供安全、高效的邊緣Al計(jì)算用于機(jī)器人開(kāi)發(fā)的軟硬件平臺(tái)簡(jiǎn)化機(jī)器人的設(shè)計(jì)、開(kāi)發(fā)和部署定義專(zhuān)為機(jī)器人和邊緣設(shè)備設(shè)計(jì)的計(jì)算平臺(tái)提供Al和計(jì)算機(jī)視覺(jué)能力用于構(gòu)建推薦系統(tǒng)的Al框架用于視頻分析和監(jiān)控的Al平臺(tái)提升視頻分析的智能化水平允許單個(gè)物理GPU被劃分為多個(gè)獨(dú)立實(shí)例的技術(shù)用于生成式Al應(yīng)用開(kāi)發(fā)的框架支持自然語(yǔ)言處理和語(yǔ)音合成提供顯卡驅(qū)動(dòng)更新、性能監(jiān)控和游戲優(yōu)化的工具簡(jiǎn)化顯卡管理和游戲設(shè)置降低延遲，提升競(jìng)技游戲體驗(yàn)用于連接GPU和CPU或其他GPU的高速通信接口提升數(shù)據(jù)傳輸速度和系統(tǒng)性能NVIDIA提供的高帶寬交換技術(shù)，用于在多個(gè)GPU之間提供高速連接。用于實(shí)現(xiàn)GPU焦群中的高效數(shù)據(jù)交換和并行計(jì)算。用于3D設(shè)計(jì)和實(shí)時(shí)協(xié)作的平臺(tái)提供虛擬世界構(gòu)建和模擬的能力面向?qū)I(yè)設(shè)計(jì)和可視化的顯卡系列提供精確的顏色再現(xiàn)和高質(zhì)量的圖形渲染用于數(shù)據(jù)分析和機(jī)器學(xué)習(xí)的加速平臺(tái)提高數(shù)據(jù)處理速度和效率用于生成合成數(shù)據(jù)的AI工具提高Al模型訓(xùn)練的質(zhì)量和效率用于語(yǔ)音識(shí)別和合成的Al平臺(tái)一種用于實(shí)時(shí)渲染畫(huà)面，模擬接近現(xiàn)實(shí)的光照、陰影等效果的技術(shù)增強(qiáng)游戲的沉浸感，提升畫(huà)面通真度配備RTX顯卡的Al增強(qiáng)型個(gè)人電腦SymmetricMultiprocessing,對(duì)稱(chēng)多處理，指多個(gè)處理器共享內(nèi)存和系統(tǒng)資源。用于提升計(jì)算性能，支持多線(xiàn)程和多任務(wù)處為創(chuàng)意專(zhuān)業(yè)人士設(shè)計(jì)的軟硬件平臺(tái)提供專(zhuān)業(yè)級(jí)的內(nèi)容創(chuàng)作工具高性能網(wǎng)絡(luò)接口卡提升網(wǎng)絡(luò)通信速度和效率NVIDIAGPU中專(zhuān)為加速深度學(xué)習(xí)運(yùn)算而設(shè)計(jì)的核心。用于提升深度學(xué)習(xí)模型的訓(xùn)練和推理性能。NVIDIA提供的高性能深度學(xué)習(xí)推理優(yōu)化庫(kù)。用于優(yōu)化和加速深度學(xué)習(xí)模型的推理過(guò)程。面向數(shù)據(jù)中心和高性能計(jì)算的GPU系列提供強(qiáng)大的計(jì)算和數(shù)據(jù)處理能力顯卡的設(shè)定功耗，用于選擇合適的電源電源選擇和功耗管理用于創(chuàng)建虛擬形象和數(shù)字人的平臺(tái)提供虛擬形象創(chuàng)建和管理的能力用于Al模型推理的服務(wù)平臺(tái)提供高性能的Al推理能力提供高性能計(jì)算和Al推理能力虛擬化技術(shù)，允許多個(gè)虛擬機(jī)共享物理GPU資源提升數(shù)據(jù)中心和云計(jì)算環(huán)境中的圖形處理能力欠并一、發(fā)展階段。英偉達(dá)創(chuàng)立至今經(jīng)過(guò)了創(chuàng)業(yè)初期、GPU定義時(shí)期、GPU迭代時(shí)期、AI萌芽時(shí)期、AI輝煌時(shí)期五個(gè)階段，并在2024年6月19日成為全球市值最高的公司1995:推出公司首款產(chǎn)品NV11997:推出全球首款128位3D創(chuàng)業(yè)初期2009:在第一屆GPU技術(shù)大會(huì)2013:發(fā)布首款完全繼承的4GLTE上發(fā)布代號(hào)為"Fermi"的新—代CUDAGPU架構(gòu)2011:推出全球首款雙核移動(dòng)處理器Tegra2移動(dòng)處理器Tegra4i;面向游戲玩家2014:發(fā)布192核超級(jí)芯片TegraK1,推出Maxwell(第10代架構(gòu))GPU迭代時(shí)期2022:公布最新自動(dòng)駕駛技術(shù)平臺(tái)DriveHyperion9;發(fā)布云原生Al模型和服務(wù)2023:推出新一代GH200GraceHopper超級(jí)芯片，同時(shí)推出基于GH200構(gòu)建的新服務(wù)器設(shè)計(jì)數(shù)規(guī)模推動(dòng)Al計(jì)算的新時(shí)代；6月，英偉達(dá)市值登頂全球第一超越微軟和蘋(píng)果AI輝煌時(shí)期1999:納斯達(dá)克上市2000:與臺(tái)積電簽約建立合作伙伴關(guān)系2001:攜nFORCE進(jìn)軍集成顯卡市場(chǎng)2006:推出用于通用GPU計(jì)算的架構(gòu)CUDAAI覺(jué)醒時(shí)期2016:推出全球首款一體化深度學(xué)習(xí)超級(jí)計(jì)算機(jī)DGX-12018:推出開(kāi)源GPU加速平臺(tái)RAPIDS,2019:在HPC、嵌入式、數(shù)據(jù)中心、自動(dòng)駕駛汽車(chē)和專(zhuān)業(yè)圖形市場(chǎng)中取得進(jìn)展2021:發(fā)布GraceCPU,專(zhuān)為巨型Al和高性能DPU三種芯片的公司號(hào)·鼎帷咨詢(xún)創(chuàng)業(yè)初期創(chuàng)業(yè)初期GPU定義時(shí)期GPU迭代時(shí)期市場(chǎng)競(jìng)爭(zhēng)和財(cái)務(wù)困境創(chuàng)新精神和戰(zhàn)略轉(zhuǎn)型在圖形芯片市場(chǎng)取得重要?jiǎng)倮?995年，推出第一個(gè)產(chǎn)品：針對(duì)游戲主機(jī)的NV1顯卡1997年，推出關(guān)鍵芯片產(chǎn)品Riva128(NV3),開(kāi)始崛起成為專(zhuān)業(yè)可視化領(lǐng)域的領(lǐng)導(dǎo)者在GPU技術(shù)、游戲機(jī)合作、和顯卡市場(chǎng)競(jìng)爭(zhēng)方面取得重大進(jìn)展CUDA平臺(tái)的開(kāi)發(fā)和推廣為Al鋪路2000年，收購(gòu)3dfx,市場(chǎng)形成英偉達(dá)與ATI的雙雄格局在游戲顯卡市場(chǎng)中占據(jù)領(lǐng)導(dǎo)地位在高性能計(jì)算領(lǐng)域取得進(jìn)展推出革命性GPU架構(gòu)和產(chǎn)品，實(shí)現(xiàn)技術(shù)突破2010年，提升CUDA核心至512個(gè)2014年，完全實(shí)現(xiàn)Maxwell設(shè)計(jì)架構(gòu)；在NVIDIATesla芯片鼎惟咨詢(xún)|7第二階段：2015年英偉達(dá)首次發(fā)布了面向深度學(xué)習(xí)處理器，GPU芯片構(gòu)架向AI方向大步邁進(jìn)，目前人工智能芯片方向的以市占率80%處于絕對(duì)壟斷的地位十GPU技術(shù)向前進(jìn)Ampere架構(gòu)對(duì)TensorCore進(jìn)行了進(jìn)一步的升級(jí)，增加了對(duì)稀疏矩陣計(jì)算的支持深度學(xué)習(xí)AI應(yīng)用等領(lǐng)域線(xiàn)追蹤渲染此結(jié)構(gòu)下的TeslaT4GPU計(jì)(2022~今)數(shù)宇生物Cloud,實(shí)現(xiàn)先進(jìn)工廠(chǎng)數(shù)字化(市占率80%)氣候科學(xué)發(fā)布BlackwellGPUB100,芯片尺寸接近EUV光刻技術(shù)理論極限(858平方毫米),含有1040億個(gè)品體管機(jī)器人等領(lǐng)域凈利潤(rùn)298億美元同比增長(zhǎng)581%24年凈利潤(rùn)298億美元同比增長(zhǎng)581%營(yíng)業(yè)利潤(rùn)同比增長(zhǎng)674%443億美元443億美元41億美元同比增長(zhǎng)188%同比增長(zhǎng)15%16億美元同比增長(zhǎng)1%11億美元同比增長(zhǎng)21%營(yíng)業(yè)收入609億美元同比增長(zhǎng)126%營(yíng)業(yè)成本113億美元同比增長(zhǎng)2%87億美元同比增長(zhǎng)18%27億美元同比增長(zhǎng)9%03億美元同比增長(zhǎng)-33%營(yíng)收成本 166億美元同比增長(zhǎng)43%2020年至2023年，公司營(yíng)業(yè)收入和凈利潤(rùn)均呈現(xiàn)波動(dòng)上升趨勢(shì)，其中2023年?duì)I業(yè)收入中數(shù)據(jù)中心業(yè)務(wù)貢獻(xiàn)最大，占比超過(guò)70%0營(yíng)業(yè)收入(億美元)0鼎惟咨詢(xún)10凈利潤(rùn)(億美元)0從2021年到2023年，研發(fā)費(fèi)用和銷(xiāo)售與管理費(fèi)用均呈上升趨勢(shì)，銷(xiāo)售與管理費(fèi)用率下降比例高于研發(fā)費(fèi)用率，研發(fā)費(fèi)用總投入過(guò)去三年增長(zhǎng)約150%,銷(xiāo)售與管理費(fèi)用增加約40%研發(fā)費(fèi)用(億美元)050銷(xiāo)售與管理費(fèi)用(億美元)—銷(xiāo)售與管理費(fèi)用費(fèi)用率202020212022鼎惟吝詢(xún)|11-發(fā)展戰(zhàn)略-產(chǎn)品策略一、發(fā)展戰(zhàn)略。英偉達(dá)通過(guò)對(duì)計(jì)算機(jī)底層技術(shù)的全面更新，以“CPU+GPU+DPU”三大芯片為產(chǎn)品底座，推動(dòng)英偉達(dá)成為人工智能計(jì)算領(lǐng)域的領(lǐng)導(dǎo)者愿景：人工智能計(jì)算領(lǐng)域的領(lǐng)導(dǎo)者使命目標(biāo)使命目標(biāo)路徑推動(dòng)人工智能機(jī)器人和工業(yè)數(shù)字化計(jì)算機(jī)推動(dòng)人工智能機(jī)器人和工業(yè)數(shù)字化計(jì)算機(jī)數(shù)據(jù)中心改變計(jì)算的工作方式和計(jì)算機(jī)的功能推動(dòng)全球的數(shù)據(jù)中心行業(yè)現(xiàn)代化全球人工智能基礎(chǔ)設(shè)施的引擎拓寬AI基礎(chǔ)算力應(yīng)用廣度，實(shí)現(xiàn)全方面覆蓋提前布局AI工業(yè)機(jī)器人領(lǐng)域產(chǎn)品三芯戰(zhàn)略CPU中央處理器GPU圖像處理器DPU數(shù)據(jù)處理器軟件cuDNN深度神經(jīng)網(wǎng)絡(luò)的GPU軟件cuDNN深度神經(jīng)網(wǎng)絡(luò)的GPU加速庫(kù)集成TensorCores技術(shù)的AI芯片架構(gòu)VoltaTuring系統(tǒng)互聯(lián)網(wǎng)絡(luò)技術(shù)SHARP技術(shù)ASAP技術(shù)網(wǎng)絡(luò)平臺(tái)DGX專(zhuān)為企業(yè)級(jí)Al設(shè)計(jì)平臺(tái)技術(shù)技術(shù)EGX加速邊緣計(jì)算的平臺(tái)網(wǎng)絡(luò)交換機(jī)網(wǎng)絡(luò)交換機(jī)芯片到芯片、裸片到裸片的互連技術(shù)HGX靈活定制的Al硬件平臺(tái)HGX靈活定制的Al硬件平臺(tái)MGX模塊化靈活的計(jì)算平臺(tái)為跨多個(gè)GPU內(nèi)存數(shù)據(jù)創(chuàng)建全局地址空間庫(kù)鼎惟咨詢(xún)|13英偉達(dá)的產(chǎn)品架構(gòu)包含以“CPU+GPU+DPU”為中心的硬應(yīng)用層應(yīng)用層平臺(tái)層平臺(tái)層軟件生態(tài)軟件生態(tài)硬件層ovx硬件層ovx鼎惟咨詢(xún)|14英偉達(dá)憑借快速迭代的研發(fā)能力、供應(yīng)鏈的主導(dǎo)地位、多種營(yíng)銷(xiāo)策略、扁平化的組織、多元投資合作支撐游戲、專(zhuān)業(yè)可視化、數(shù)據(jù)中心、汽車(chē)四大業(yè)務(wù)發(fā)展，進(jìn)一步鞏固企業(yè)在AI市場(chǎng)領(lǐng)導(dǎo)地位愿景：人工智能計(jì)算領(lǐng)域的領(lǐng)導(dǎo)者使命使命路徑機(jī)器人計(jì)算機(jī)機(jī)器人計(jì)算機(jī)數(shù)據(jù)中心全球人工智能基礎(chǔ)設(shè)施的引擎拓寬AI基礎(chǔ)算力應(yīng)用廣度，實(shí)現(xiàn)全方面覆蓋提前布局AI工業(yè)機(jī)器人領(lǐng)域加強(qiáng)對(duì)垂直行業(yè)的服務(wù)研發(fā)單一行業(yè)適配底層軟件目標(biāo)市場(chǎng)如醫(yī)療、自動(dòng)駕駛提供可供于AI工業(yè)機(jī)器人訓(xùn)練和操作的GPU,及其對(duì)應(yīng)調(diào)試、訓(xùn)練用的底層軟件業(yè)務(wù)業(yè)務(wù)專(zhuān)業(yè)可視化業(yè)務(wù)Quadro和RTX系列GPU專(zhuān)業(yè)顯卡專(zhuān)業(yè)工作站解決方案虛擬GPU(VGPU)自動(dòng)駕駛芯片虛擬工廠(chǎng)規(guī)劃仿真設(shè)計(jì)數(shù)據(jù)中心業(yè)務(wù)AI芯片級(jí)芯片定制超級(jí)計(jì)算機(jī)及AI工廠(chǎng)國(guó)家主權(quán)AI、電信云邊緣計(jì)算平臺(tái)jetson云計(jì)算業(yè)務(wù)(量子計(jì)算)應(yīng)用場(chǎng)景應(yīng)用場(chǎng)景超高研發(fā)人員占比14研發(fā)實(shí)驗(yàn)室布局26大研發(fā)領(lǐng)域英偉達(dá)專(zhuān)利墻會(huì)議營(yíng)銷(xiāo)社區(qū)營(yíng)銷(xiāo)社交媒體營(yíng)銷(xiāo)品牌營(yíng)銷(xiāo)內(nèi)容營(yíng)銷(xiāo)全球化營(yíng)銷(xiāo)社會(huì)責(zé)任營(yíng)銷(xiāo)“胡蘿卜加大棒”的管理方式大訂單擠占GPU短缺組件供應(yīng)承諾訂單不可取消確保巨大供應(yīng)提前支付預(yù)付款搶占供應(yīng)人工智能重塑英偉達(dá)產(chǎn)業(yè)鏈地位創(chuàng)始人技術(shù)專(zhuān)業(yè)與銷(xiāo)售背景兼具極致扁平化的組織架構(gòu)賦權(quán)式管理，不給工作建議摒棄會(huì)議匯報(bào)摒棄傳統(tǒng)戰(zhàn)略規(guī)劃向全體員工透明共享投資領(lǐng)域：機(jī)器人、人工智能、游戲、軟件與硬件、可視化、云計(jì)算與數(shù)據(jù)、網(wǎng)絡(luò)、自動(dòng)駕駛、生物科技與醫(yī)療等初創(chuàng)投資項(xiàng)目企業(yè)間的三級(jí)合作伙伴國(guó)家政府合作鼎帷咨詢(xún)鼎帷咨詢(xún)|15業(yè)搶占各芯片市場(chǎng)份額算力芯片核心功能代表企業(yè)算力芯片核心功能系統(tǒng)管理維持軟硬件生態(tài)應(yīng)用程序系統(tǒng)管理維持軟硬件生態(tài)應(yīng)用程序規(guī)則計(jì)算科學(xué)計(jì)算數(shù)據(jù)集并行運(yùn)用規(guī)則計(jì)算科學(xué)計(jì)算數(shù)據(jù)集并行運(yùn)用CUDA的核心A中科數(shù)控異構(gòu)計(jì)算數(shù)據(jù)中心基礎(chǔ)設(shè)施公眾號(hào)·鼎帷咨詢(xún)鼎惟咨詢(xún)16英偉達(dá)在通用計(jì)算芯片CPU基礎(chǔ)之上，開(kāi)創(chuàng)當(dāng)前GPU加速芯片時(shí)代，并將DPU作為第三顆主力芯片作為構(gòu)建未來(lái)算力的基石和底座通用計(jì)算中央處理中央處理單元核心部件執(zhí)行程序執(zhí)行程序中的指令處理數(shù)據(jù)功能功能領(lǐng)域類(lèi)型類(lèi)型使軟件和硬件解耦，實(shí)現(xiàn)更高IPC和更架構(gòu)服務(wù)器端還是ARM架構(gòu)移動(dòng)端PC(一顆CPU)和服務(wù)器(數(shù)量不定)以雙路服務(wù)器為主計(jì)算生態(tài)的底座，主力芯片的基石計(jì)算生態(tài)的底座，主力芯片的基石數(shù)據(jù)處理數(shù)據(jù)處理加速計(jì)算圖形處理單元基礎(chǔ)設(shè)施圖形處理單元基礎(chǔ)設(shè)施服務(wù)數(shù)據(jù)處理處理圖形視頻渲染并行計(jì)架構(gòu)復(fù)雜度最高的芯片之一功能功能主要應(yīng)用場(chǎng)景主要應(yīng)用場(chǎng)景●智能駕駛預(yù)計(jì)未來(lái)用于數(shù)據(jù)中心的DPU數(shù)量將達(dá)到和數(shù)據(jù)中心服務(wù)器同等量級(jí)●英偉達(dá)、英特爾等廠(chǎng)商數(shù)據(jù)處理類(lèi)芯片DPU預(yù)計(jì)未來(lái)用于數(shù)據(jù)中心的DPU數(shù)量將達(dá)到和數(shù)據(jù)中心服務(wù)器同等量級(jí)●英偉達(dá)、英特爾等廠(chǎng)商數(shù)據(jù)處理類(lèi)芯片DPU/IPU大規(guī)模量產(chǎn)，全球DPU市場(chǎng)將在未來(lái)幾年迎來(lái)爆發(fā)式增長(zhǎng)英偉英偉降低了用戶(hù)基于GPU并行編程門(mén)檻建立了“GPU+CUDA”的強(qiáng)大算力生態(tài)因數(shù)據(jù)中心而生的“第因數(shù)據(jù)中心而生的“第三顆主力芯片”從圖形處理到數(shù)據(jù)處理芯片蛻變鼎惟各詢(xún)|17未來(lái)數(shù)據(jù)中心主流異構(gòu)計(jì)算異構(gòu)計(jì)算提供加速計(jì)算的通用算力的基礎(chǔ)保障針對(duì)數(shù)據(jù)中心和網(wǎng)絡(luò)設(shè)備翼有高效處理數(shù)據(jù)包和協(xié)議的能力十能夠更好地應(yīng)對(duì)各種計(jì)算任務(wù)，尤其是那些需要快速邏輯判斷和高度并行處理能力GPU+CPU+DPU協(xié)同互補(bǔ)“三類(lèi)芯片、逐年飛躍、一個(gè)架構(gòu)”鼎惟咨詢(xún)18計(jì)算機(jī)產(chǎn)業(yè)伴隨著兼容機(jī)的出現(xiàn)，產(chǎn)業(yè)結(jié)構(gòu)從過(guò)去的縱向一體化轉(zhuǎn)變?yōu)闄M向切片式，這種水平分層的產(chǎn)業(yè)形態(tài)造舊式縱向型計(jì)算機(jī)產(chǎn)業(yè)約1980年銷(xiāo)售與分銷(xiāo)應(yīng)用軟件操作系統(tǒng)計(jì)算機(jī)芯片舊式縱向型計(jì)算機(jī)產(chǎn)業(yè)約1980年銷(xiāo)售與分銷(xiāo)應(yīng)用軟件操作系統(tǒng)計(jì)算機(jī)芯片王安公司(并非按比例展示)約1995年零售店超市零售店超市商家郵購(gòu)其他DOS及Windows芯片康柏戴爾惠普英特爾架構(gòu)摩托羅拉精簡(jiǎn)指令集計(jì)算機(jī)軟件層面對(duì)于底層硬件高度統(tǒng)一的強(qiáng)烈訴求軟件層面對(duì)于底層硬件高度統(tǒng)一的強(qiáng)烈訴求作量和成本的大幅增加計(jì)算機(jī)產(chǎn)業(yè)底層硬件強(qiáng)慣性、高壟斷公眾號(hào)鼎帷咨詢(xún)公眾號(hào)鼎帷咨詢(xún)鼎帷咨詢(xún)|19英偉達(dá)通過(guò)對(duì)計(jì)算機(jī)產(chǎn)品的重新定義、計(jì)算機(jī)形態(tài)的演化競(jìng)爭(zhēng)以及漸進(jìn)式改造，逐步塑造計(jì)算機(jī)形態(tài)向有利于自身的計(jì)算機(jī)演化方向③漸進(jìn)式改造③漸進(jìn)式改造為了在英特爾每18個(gè)月更新一代CPU的策略下不顯得被動(dòng)，英偉達(dá)每6個(gè)月發(fā)布一次新品，算力性能始終無(wú)法被CPU集成，為了在英特爾每18個(gè)月更新一代CPU的策略下不顯得被動(dòng)，英偉達(dá)每6個(gè)月發(fā)布一次新品，算力性能始終無(wú)法被CPU集成，GPU作為一個(gè)單獨(dú)的品類(lèi)存活通過(guò)推出3D圖形加速卡進(jìn)入市場(chǎng)，吸引眾多游戲玩家逐漸改變計(jì)算機(jī)的形態(tài)，使獨(dú)立顯卡成為PC標(biāo)配x替代在數(shù)據(jù)中心市場(chǎng)，推動(dòng)在服務(wù)器中加入少量顯卡，從逐漸改變計(jì)算機(jī)的形態(tài)，使獨(dú)立顯卡成為PC標(biāo)配x替代在數(shù)據(jù)中心市場(chǎng)，推動(dòng)在服務(wù)器中加入少量顯卡，從對(duì)英特爾來(lái)說(shuō)，無(wú)論選擇哪種方案，都是在英偉達(dá)設(shè)定的框架內(nèi)競(jìng)爭(zhēng)隨著顯卡數(shù)量增加，權(quán)重增大，加入技術(shù)和特性，服務(wù)器轉(zhuǎn)變?yōu)镃PU必須結(jié)合GPU的形態(tài)摩爾定律集成電路上可容納的晶體管數(shù)目，每隔18至24個(gè)月會(huì)增加一倍，性能也將提升一倍，而價(jià)格下降為原來(lái)的一半采用“三團(tuán)隊(duì)-兩季度”的創(chuàng)新研發(fā)迭代模式即三個(gè)井行開(kāi)發(fā)團(tuán)隊(duì)專(zhuān)注于獨(dú)立的分階段產(chǎn)品開(kāi)發(fā)，確保公司每6個(gè)月推出一次新產(chǎn)品，與行業(yè)市場(chǎng)產(chǎn)品周期保持一致，并領(lǐng)先市場(chǎng)1-2個(gè)研發(fā)周期云端服務(wù)器的標(biāo)準(zhǔn)配置通常是2U式機(jī)架和8個(gè)GPU,云端服務(wù)器的標(biāo)準(zhǔn)配置通常是2U式機(jī)架和8個(gè)GPU,將英特爾擠到相對(duì)邊緣的位置如果英特爾選擇只做CPU,它必須接受CPU加GPU的體系也能提供改進(jìn)；英偉達(dá)競(jìng)爭(zhēng)，可能導(dǎo)致GPU在體系中的重要性如果英特爾選擇只做CPU,它必須接受CPU加GPU的體系也能提供改進(jìn)；爭(zhēng)，站在巨人的肩膀上，把這個(gè)產(chǎn)業(yè)帶到只有我們能夠帶到的地方——2009年黃仁勛采訪(fǎng)去塑誼帷咨詢(xún)英偉達(dá)發(fā)布2025-2027年產(chǎn)品規(guī)劃，AI芯片規(guī)劃的戰(zhàn)略核心是“OneArchitecture”統(tǒng)一架構(gòu)，AI芯片從兩年一次的更新周期轉(zhuǎn)變?yōu)橐荒暌淮蔚母轮芷?，下一代Rubin架構(gòu)及其對(duì)應(yīng)核心芯片已提上日程N(yùn)ICRubin架構(gòu)Rubin架構(gòu) 數(shù)據(jù)中心規(guī)?！褚荒旯?jié)奏技術(shù)限制2026一架構(gòu)公眾號(hào)·鼎帷咨詢(xún)2.1CPU:英偉達(dá)自研GraceCPU,在ARM架構(gòu)和自身技術(shù)優(yōu)勢(shì)基礎(chǔ)上滿(mǎn)足數(shù)據(jù)中心業(yè)務(wù)對(duì)于CPU的性能需求和效率要求新一代數(shù)據(jù)中心的基礎(chǔ)，面向服務(wù)器和數(shù)據(jù)中心生態(tài)系統(tǒng)，可采用多種配置滿(mǎn)足不同數(shù)據(jù)中心的需求超強(qiáng)性能與效率：采用ARM架構(gòu)，擁有72個(gè)ArmNeoverseN2內(nèi)核，配備LPDDR5x內(nèi)存，具有超強(qiáng)的性能和效率雙重使用能效：可與GPU緊密結(jié)合以增強(qiáng)加速計(jì)算能力，也可作為強(qiáng)大而高效的獨(dú)立CPU進(jìn)行部署支持支持兩個(gè)GraceCPU,共144個(gè)內(nèi)核核心架構(gòu)更高指令原子操作GraceCPU在Armv8.1中首次引入的大型系統(tǒng)擴(kuò)展低成本的原子操作，提高CPU到CPU通信、鎖和互斥鎖的系統(tǒng)量緩存架構(gòu)由NVIDIA設(shè)計(jì)的可擴(kuò)展一致性結(jié)構(gòu)(SCF)是一種網(wǎng)狀結(jié)構(gòu)和分布式緩存架構(gòu)，提供超過(guò)3.2TB/s的總二分帶寬內(nèi)存子系統(tǒng)GraceCPUSuperchip使用高達(dá)960GB的服務(wù)器、級(jí)低功耗DDR5X(LPDDR5X)內(nèi)存和ECC,實(shí)現(xiàn)帶寬、能效、容量和成本的最佳平衡VO連接GraceCPUSuperchip支持128條PCleGen5通道和128GB/s的形狀公眾號(hào)鼎帷咨詢(xún)鼎惟咨詢(xún)|22高性能適用于高性能和云計(jì)算超級(jí)芯片最多配備144個(gè)可運(yùn)行所有堆棧和平臺(tái)每瓦性能決方案的兩倍極強(qiáng)的兼容性卓越的相干接口離封裝密度當(dāng)前領(lǐng)先 081.4千74.4千72.6千34.7千24.5千23.0千維度芯片互連技術(shù)采用了NVIDIA獨(dú)特的NVLink-C2C互連技術(shù)(最大區(qū)別)指令集架構(gòu)x86指令集架構(gòu)核心數(shù)量和線(xiàn)程數(shù)星更多的核心數(shù)量和線(xiàn)程數(shù)量核心數(shù)量和線(xiàn)程數(shù)量相對(duì)較少緩存架構(gòu)分布式緩存設(shè)計(jì)層次式緩存設(shè)計(jì)內(nèi)存子系統(tǒng)低功耗的LPDDR5X內(nèi)存通常采用DDR4或DDR5內(nèi)存集成度將CPU、GPU和其他組件集成在一個(gè)芯片上通常需要與其他芯片配合使用人工智能領(lǐng)域：與NVIDIA的GPU相結(jié)合，為訓(xùn)練和未來(lái)規(guī)劃在2026年推出其下一代VeraCPU在未來(lái)幾年內(nèi)推出基于Arm的消費(fèi)者級(jí)別CPUNVIDIAGraceCPU軟件生態(tài)系統(tǒng)將用于CPU、GPU和DPU的全套NVIDIA軟件與完整的Arm數(shù)據(jù)中心生態(tài)系統(tǒng)相結(jié)合數(shù)據(jù)分析數(shù)據(jù)分析人工智能人工智能深度學(xué)習(xí)推理深度學(xué)習(xí)推理Triton推理服務(wù)器TensorRT培訓(xùn)(DLFW)深度學(xué)習(xí)庫(kù)與軟件編譯器分析和診斷NCCcctiN-遵循主流遵循主流CPU設(shè)計(jì)原則軟件庫(kù)工具包等管理工具和包裝管理工具和包裝管理工具和包裝庫(kù)開(kāi)豆商業(yè)的文檔系統(tǒng)管理工具和包裝os所有主流Linux發(fā)行版Arm服務(wù)器就緒平臺(tái)標(biāo)準(zhǔn)固件和RAS行創(chuàng)聯(lián)上器利長(zhǎng)通積所有主要框架和工具容器與編排開(kāi)源且商業(yè)的行創(chuàng)聯(lián)上器利長(zhǎng)通積所有主要框架和工具容器與編排開(kāi)源且商業(yè)的集群管理開(kāi)源且商業(yè)的作業(yè)調(diào)度器提供符合標(biāo)準(zhǔn)的平臺(tái)提供符合標(biāo)準(zhǔn)的平臺(tái)NVIDIAHPCSDK和每個(gè)CUDA組件都有Arm原生安裝程序和容器。所有主要的Linux發(fā)行版，都可在NVIDIAGraceCPU上完美運(yùn)行，無(wú)需修改■編譯器、庫(kù)、工具、分析器、系統(tǒng)管理實(shí)用程序以及用于容器化和虛擬化的框架可輕松地在機(jī)器學(xué)習(xí)和針對(duì)Arm優(yōu)化的HPC容器鼎帷各詢(xún)|24在處理海量數(shù)據(jù)及加速計(jì)算時(shí)體現(xiàn)出獨(dú)特架構(gòu)優(yōu)勢(shì)硬件它是現(xiàn)代計(jì)算機(jī)系統(tǒng)中的關(guān)鍵組件，特別是在處理圖形密集硬件它是現(xiàn)代計(jì)算機(jī)系統(tǒng)中的關(guān)鍵組件，特別是在處理圖形密集型任務(wù)時(shí)核心顯存核心顯存著色器共享內(nèi)存寄存器共享內(nèi)存寄存器寄存器寄存器對(duì)寄存器寄存器輸出接口高級(jí)圖形特性支持這一轉(zhuǎn)換過(guò)程，是3D圖形渲染的關(guān)鍵部分。本地內(nèi)存本地內(nèi)存重要。全局內(nèi)存全局內(nèi)存紋理內(nèi)存主機(jī)主機(jī)GPU的設(shè)計(jì)重點(diǎn)在于并行處理能力，能夠同時(shí)處理大量的圖形數(shù)據(jù)，這使得它在視頻游戲、圖形設(shè)計(jì)、視頻編輯和某些類(lèi)型的計(jì)算密集型任務(wù)中費(fèi)米開(kāi)普勒麥克斯韋帕斯卡伏特圖靈安培赫柏布萊克威爾時(shí)問(wèn)14億30億71億80億135億211億146億540億800億2080億128個(gè)Core,共計(jì)512個(gè)CUDA15個(gè)SMX*(192個(gè)單清度+64個(gè)雙精度具有3072個(gè)CUDA核心3840個(gè)CUDA核心5120個(gè)新增了640個(gè)張量核心4608個(gè)CUDA核心、576個(gè)張量核心具有6912個(gè)CUDA核心、432個(gè)張量核心具有18432個(gè)核心，576個(gè)張量核心特點(diǎn)首個(gè)通用GPU計(jì)算架構(gòu)，采用全新的CUDA架構(gòu)，支持使用C語(yǔ)言進(jìn)行GPU編程，標(biāo)志著GPU開(kāi)始從專(zhuān)用圖形處理器轉(zhuǎn)變?yōu)橥ㄓ脭?shù)據(jù)并行處理器引入L1/L2快速緩存、錯(cuò)誤修復(fù)功能以及技術(shù)首個(gè)支持超級(jí)計(jì)算和雙精度計(jì)算的GPU架構(gòu)，計(jì)算能力比Fermi架構(gòu)提高3-4倍，GPU開(kāi)始成為高性能計(jì)算的關(guān)注點(diǎn)在功耗效率、計(jì)算密度上獲得重大提升，計(jì)算密度是標(biāo)志著GPU的節(jié)能計(jì)算時(shí)代到來(lái)有300W,比Maxwell架構(gòu)這使得GPU可的人工智能、汽車(chē)等新興應(yīng)用市場(chǎng)。到112TFLOPS,與推理新增了RayTracing核心(RTCore),可硬件加速光線(xiàn)追蹤運(yùn)算在人工智能、光線(xiàn)追蹤和圖形渲染等方面功耗卻只有400W,能效比顯著提高former引擎可以做到FP16和FP8之間逐層交換，利用的啟發(fā)算法來(lái)降低所需精度包含2080億個(gè)晶體管，采通過(guò)10TB/S的片間互聯(lián)技術(shù)連接成一塊統(tǒng)一的GPU TensorCore是英偉達(dá)GPU成為AI芯片的關(guān)鍵技術(shù)，加速深度學(xué)習(xí)模型訓(xùn)練和推理能力，目前迭代至第五代深度學(xué)習(xí)技術(shù)的飛速發(fā)展對(duì)計(jì)算能力提出了更高要求，傳統(tǒng)的TensorCores專(zhuān)門(mén)針對(duì)深度學(xué)習(xí)模型訓(xùn)練和推理中的常見(jiàn)操作進(jìn)行優(yōu)化，是一種特殊的硬件加速器，被英偉達(dá)設(shè)計(jì)用于GPU■在保持模型精度的同時(shí)大幅提升計(jì)算效率RegisterFie(16384<3sroDispatchUnit(32threod/ck)4s4似S第二代第二代以將GPU的性能吞吐量加速至比PascalGPU高出多達(dá)32倍，第三代第四代第三代第四代與FP32類(lèi)似，但可實(shí)現(xiàn)高達(dá)20倍的速度提升的訓(xùn)練速度“比上一代快30倍”2024年NVIDIA發(fā)布第五代BlackwellTensorCore,與上一代相比，可為大型模型提供30倍的加速，且提供更高的準(zhǔn)確性和FP64,TF32,BF16,FP16,FP64,TF32,BFP8,INT8,FP6,FP4鼎帷各詢(xún)[27未來(lái)產(chǎn)品規(guī)劃12顆HBM4內(nèi)未來(lái)產(chǎn)品規(guī)劃12顆HBM4內(nèi)存Arm的VeraCPU和NVLink6Switch進(jìn)一步鞏固英偉達(dá)在高性能計(jì)算和AI市場(chǎng)的◎2027鼎帷咨詢(xún)啟動(dòng)Blackwell芯片的量產(chǎn)，推出基于x86架構(gòu)的H200h,L40S、B100和B40芯片。H200將提升內(nèi)存至282GB,帶寬增加3倍，搭載144GB的HBM3內(nèi)存。采用8顆HBM4內(nèi)存，作為Blackwell平臺(tái)的繼任者。并推出降規(guī)版B200A◎結(jié)構(gòu)與特點(diǎn)結(jié)構(gòu)與特點(diǎn)程技術(shù)，特點(diǎn)是搭載了2080億個(gè)品體管和高達(dá)192GB的HBM3e內(nèi)存，以及8TB/s的內(nèi)存帶寬，顯示出其在硅張量縮放技術(shù)，使得Al模型可以在保系統(tǒng)合作伙伴協(xié)作，增強(qiáng)了應(yīng)用開(kāi)發(fā)和部著的靈活性。代表著數(shù)據(jù)中心轉(zhuǎn)型的實(shí)現(xiàn)和工業(yè)智能化的進(jìn)一步推進(jìn)強(qiáng)大的計(jì)高效的算能力數(shù)據(jù)處理性能轉(zhuǎn)化數(shù)據(jù)中心到核心設(shè)施建立全新的智能工廠(chǎng)和AI基礎(chǔ)設(shè)施基于BlackwellGPU的幾種產(chǎn)品變體包括GB200、B200和B100,涵蓋從在提供一體化解決方案方面實(shí)力突出。B100能應(yīng)對(duì)1730億參數(shù)的大語(yǔ)言模型。2000張BlackwellGPU僅需1/4的電力即可完成與8000張HopperGPU構(gòu)成因案地區(qū)企業(yè)代表產(chǎn)品制程單精度FP32雙精度FP64TDP特點(diǎn)海外主要品牌英偉達(dá)而設(shè)計(jì)具備54億個(gè)晶體管和第三代TensorCore基于CDNA架構(gòu)的數(shù)據(jù)中心系列加速卡理器和208個(gè)計(jì)算單元英特爾銳炫ArcA770不具備高通不具備專(zhuān)為WindowsonARM系統(tǒng)設(shè)計(jì)的驍龍X系列SoC的第一代集成顯卡國(guó)內(nèi)主要品牌寒武紀(jì)不具備器，滿(mǎn)足不同層次的人工智能計(jì)算需求海光信息深算一號(hào)不具備基于MUSA架構(gòu)，并搭載了第二顆多功能GPU芯片“春曉”壁仞科技壁礪100P不具備標(biāo)準(zhǔn)天數(shù)智芯天垓100不具備理，廣泛兼容主流軟硬件生態(tài)英偉達(dá)為GPU開(kāi)發(fā)的CUDA統(tǒng)一計(jì)算架構(gòu)，利用GPU的并行計(jì)算能力加速大規(guī)模計(jì)算任務(wù)，使GPU能夠解決復(fù)雜的計(jì)算問(wèn)題，促成了GPU+CPU協(xié)作的系統(tǒng)生態(tài)結(jié)構(gòu)形成有限，難以高效處理大量相同任務(wù)，GPU則擁有上千核心，擅長(zhǎng)并行處理，但這也使得GPU的通用計(jì)算任務(wù)開(kāi)發(fā)和移植十分困難使GPU的并行計(jì)算能力能夠應(yīng)用于加速大規(guī)模計(jì)算任務(wù)，從而進(jìn)入科學(xué)計(jì)算、機(jī)器學(xué)習(xí)、密碼學(xué)等領(lǐng)域英特爾尋找提高CPU性能、降低功耗和增強(qiáng)并行性的技術(shù)方案，為英偉達(dá)和英特爾的合作提供了契機(jī)英偉達(dá)開(kāi)發(fā)出CUDA(統(tǒng)一計(jì)算架構(gòu))行通用計(jì)算2006年，英偉達(dá)與英特爾達(dá)成合作，共同開(kāi)發(fā)了基于CUDA的新型GPU(G80通過(guò)CUDA實(shí)現(xiàn)并行計(jì)算能力加速計(jì)算速度合作契機(jī)GPU之間的任務(wù)分發(fā)和并行開(kāi)發(fā)背景開(kāi)發(fā)需要CUDA工作原理允許程序員編寫(xiě)直接在GPU上運(yùn)行的代碼，并增加了控制GPU并行處理的功能，開(kāi)發(fā)者可以精確分配和控制數(shù)據(jù)在GPU核心上的處理，實(shí)現(xiàn)高效并行計(jì)算開(kāi)發(fā)庫(kù)CUDA開(kāi)發(fā)庫(kù)CUDA運(yùn)行環(huán)境CPU和GPU上運(yùn)行調(diào)度等功能，幫助開(kāi)發(fā)人員實(shí)現(xiàn)各種計(jì)算需求CUDA驅(qū)動(dòng)CUDA應(yīng)用需要NVIDIACUDA-enable硬件支持，通過(guò)這一層，CUDA可以實(shí)現(xiàn)硬件設(shè)備的各種功能鼎惟咨詢(xún)|30AMBER+600AMBER+600并優(yōu)化性能。支持代碼編寫(xiě)。TENSORRT:高性能深度學(xué)習(xí)推理編程接口集，允許高性能計(jì)算，MathLibraries:專(zhuān)用高性能軟件設(shè)備和內(nèi)存，執(zhí)行核心功能?；A(chǔ)的并行計(jì)算軟件庫(kù)細(xì)分行業(yè)軟件庫(kù)配套輔助軟件等CUDA競(jìng)爭(zhēng)壁壘優(yōu)勢(shì)支持細(xì)分行業(yè)滲透率細(xì)分行業(yè)滲透率對(duì)于細(xì)分行業(yè)的支持需要較長(zhǎng)時(shí)間積累 鼎惟各詢(xún)|31功能優(yōu)化第一階段：初期挑戰(zhàn)用戶(hù)少，市值長(zhǎng)期低迷CUDA在科學(xué)計(jì)算領(lǐng)域持續(xù)滲透加速在Al領(lǐng)域的發(fā)展第三階段：持續(xù)迭代經(jīng)過(guò)多年迭代，推出12.0版本，與HPC與Al生態(tài)深度綁定，成為功能優(yōu)化第一階段：初期挑戰(zhàn)用戶(hù)少，市值長(zhǎng)期低迷CUDA在科學(xué)計(jì)算領(lǐng)域持續(xù)滲透加速在Al領(lǐng)域的發(fā)展第三階段：持續(xù)迭代經(jīng)過(guò)多年迭代，推出12.0版本，與HPC與Al生態(tài)深度綁定，成為核心工具箱支特作地和市處建器支待主度浮臨支帶步任務(wù)流5242圖1024個(gè)已推出12個(gè)大版本和每個(gè)CUDA新版本都會(huì)引入新功能或API,如CUDA10的任務(wù)圖功能和CUDA11的新編程模型和庫(kù)功能模型兼容性調(diào)整新版本會(huì)對(duì)舊版代碼的兼容性進(jìn)行調(diào)整，某些舊特性或API行為可能會(huì)被修改或不再支持錯(cuò)誤修復(fù)與穩(wěn)定性改進(jìn)新版本會(huì)修復(fù)已知的錯(cuò)誤 ,并提高穩(wěn)定性和可靠性 費(fèi)米(Fermi)麥克斯韋伏特(Volta)圖靈(Turing)優(yōu)勢(shì)特點(diǎn)易部署(用戶(hù)開(kāi)箱即用)層次靈活的開(kāi)發(fā)接口滿(mǎn)足不同領(lǐng)域開(kāi)發(fā)者編程語(yǔ)言品類(lèi)齊全的工具集第三方工具和軟件庫(kù)鼎鼎圖形處理常用于視頻游戲和電影特效中的大規(guī)模圖形渲圖形處理常用于視頻游戲和電影特效中的大規(guī)模圖形渲例如，電影制作公司利用CUDA加速渲染過(guò)程,大幅減少渲染時(shí)間，提高效率。(如為您的應(yīng)用進(jìn)程提供"嵌入式"加速深度學(xué)習(xí)信號(hào)與圖像處理深度學(xué)習(xí)CUDA加速了深度學(xué)習(xí)模型的訓(xùn)練和推理CUDA加速了深度學(xué)習(xí)模型的訓(xùn)練和推理處理大量矩陣運(yùn)算的深度學(xué)習(xí)框架(如TensorFlow和PyTorch)時(shí)，使研究人員能加速實(shí)驗(yàn)線(xiàn)性代數(shù)并行算法線(xiàn)性代數(shù)科學(xué)計(jì)算CUDA加速了數(shù)值模擬和大規(guī)模數(shù)據(jù)處理如物理學(xué)中的分子動(dòng)力學(xué)模擬和氣象學(xué)中的氣CUDA生態(tài)中軟硬件協(xié)同的設(shè)計(jì)使英偉達(dá)以最小代價(jià)保持性能領(lǐng)先，鞏固AI界領(lǐng)先地位鼎惟咨詢(xún)|33AMDCTM/CAL20002005圖形APL不同抽象專(zhuān)用語(yǔ)言性能與NVIDIA硬件緊密結(jié)合，充分發(fā)揮工具鏈。社區(qū)資源豐富，代碼庫(kù)廣泛應(yīng)用于科學(xué)計(jì)算與深度學(xué)習(xí)兼容性不如OpenCL廣泛，應(yīng)用范圍廣泛應(yīng)用于科學(xué)計(jì)算和深度學(xué)習(xí)，優(yōu)化庫(kù)豐富硬件控制CTM接近硬件，提供更高的在特定應(yīng)用場(chǎng)景中有獨(dú)特優(yōu)功能庫(kù)齊全，開(kāi)發(fā)工具完善，廣泛支持科學(xué)計(jì)算和深度學(xué)習(xí)領(lǐng)域DirectCompute在通用性和多平臺(tái)支持上更強(qiáng)，適用于①指令集不統(tǒng)一，硬件架構(gòu)分散②軟件棧不同意。用戶(hù)學(xué)習(xí)成本高③算子覆蓋度低，用戶(hù)遷移成本高④企業(yè)各自為戰(zhàn)，沒(méi)有足夠的生態(tài)競(jìng)爭(zhēng)力鼎惟咨詢(xún)|34CUDA同時(shí)面向個(gè)人用戶(hù)和企業(yè)用戶(hù)市場(chǎng)，以低學(xué)習(xí)門(mén)檻、使用完全免費(fèi)及開(kāi)發(fā)者生態(tài)建設(shè)占領(lǐng)市場(chǎng)份額產(chǎn)品：低學(xué)習(xí)門(mén)檻價(jià)格：免費(fèi)使用占領(lǐng)市場(chǎng)服務(wù)：開(kāi)發(fā)者生態(tài)建設(shè)CUDA的推出極大地降低了開(kāi)發(fā)者使用GPU進(jìn)行通用計(jì)算的門(mén)檻，使更多的研究人員和工程師能夠利用GPU進(jìn)行Al模型的訓(xùn)練和推理，使其在新一代工程師中迅速普及，為未來(lái)進(jìn)入企業(yè)打下基礎(chǔ)。CUDA采取完全免費(fèi)的使用策略，不求短期回報(bào)，迅速占領(lǐng)市場(chǎng)，并通過(guò)持續(xù)研發(fā)投入和優(yōu)化，保持CUDA技術(shù)的領(lǐng)先地位軟件生態(tài)系統(tǒng)強(qiáng)化與開(kāi)發(fā)者的聯(lián)系提升推廣范圍服務(wù)壇、培訓(xùn)等形式，發(fā)布與CUDA增進(jìn)用戶(hù)交流。開(kāi)發(fā)者的社區(qū)參與度、用戶(hù)粘性與忠誠(chéng)度渠道1:面向個(gè)人用戶(hù)的教育合作機(jī)構(gòu)課程合作：與全球頂級(jí)研究機(jī)構(gòu)和大學(xué)合作，在全球350所大學(xué)開(kāi)設(shè)相關(guān)課程認(rèn)證計(jì)劃推廣：在教育領(lǐng)域以認(rèn)證方式推廣CUDA,培養(yǎng)大量熟悉CUDA的工程師，也確保學(xué)生進(jìn)入企業(yè)時(shí)不再陌生贊助學(xué)術(shù)研究：推動(dòng)CUDA在學(xué)術(shù)界的應(yīng)用與普及渠道2:面向企業(yè)用戶(hù)的賦能支持通過(guò)創(chuàng)業(yè)支持開(kāi)發(fā)創(chuàng)業(yè)公司客戶(hù)：投資Inception計(jì)劃，支持創(chuàng)業(yè)公司采用CUDA進(jìn)行項(xiàng)目開(kāi)發(fā)，吸引企業(yè)公司大量采用CUDA,同時(shí)搭配GeForce覆蓋主流市場(chǎng)通過(guò)垂直領(lǐng)域應(yīng)用場(chǎng)景工具包進(jìn)入行業(yè)頂尖客戶(hù)：如推出面向GPU加速數(shù)據(jù)科學(xué)的CUDA-XAI加速庫(kù)，為數(shù)據(jù)科學(xué)提供加速平臺(tái)，得到渣打銀行、微軟、PayPal、SAS和沃爾瑪?shù)软敿夤舅捎茫⒓芍林髁魃疃葘W(xué)習(xí)框架(如TensorFlow、PyTorch、MXNet)和全球主要云服務(wù)提供商，實(shí)現(xiàn)與頂尖硬件廠(chǎng)商和云計(jì)算提供商合作，鞏固市場(chǎng)地位cuaA生態(tài)cuaA生態(tài)圈開(kāi)發(fā)者借助已有的資源和文檔進(jìn)行開(kāi)發(fā)和部署，為英偉達(dá)GPU的開(kāi)發(fā)、優(yōu)化和部署多種行業(yè)應(yīng)用提供先發(fā)競(jìng)爭(zhēng)優(yōu)勢(shì)●截至2020年，CUDA開(kāi)發(fā)者數(shù)量達(dá)到了200萬(wàn)，并于2023年增長(zhǎng)到400萬(wàn)，其中包括Adobe等大型企業(yè)客戶(hù)成熟度穩(wěn)定性·引入了大批開(kāi)發(fā)者建設(shè)CUDA生態(tài)社區(qū)，最終綁定了數(shù)百萬(wàn)Al開(kāi)發(fā)者·當(dāng)CUDA幾乎與Al畫(huà)等號(hào)的時(shí)候，會(huì)有大星的社區(qū)力量為其助力低門(mén)檻英英偉達(dá)云6pu英偉達(dá)Al自動(dòng)駕駛智慧城市健唐養(yǎng)護(hù)軟件、硬件、庫(kù)、系統(tǒng)深度學(xué)習(xí)HPC數(shù)據(jù)中心CUDA&GPU計(jì)算機(jī)構(gòu)CUDA平臺(tái)部分合作伙伴CUDA生態(tài)部分合作伙伴學(xué)甲動(dòng)2.3DPU:NVIDIA是全球DPU領(lǐng)域的先行者之一，搶先進(jìn)入DPU市場(chǎng)，并將其作為數(shù)據(jù)中心第三顆主力芯片，領(lǐng)先進(jìn)入NVIDIA領(lǐng)先進(jìn)入NVIDIA是DPU產(chǎn)業(yè)發(fā)展的全球先行者2020年上半年，NVIDIA以69億美元的對(duì)價(jià)收購(gòu)以色列網(wǎng)絡(luò)芯片公司MellanoxTechnologies,同年推出BlueField-2DPUCPU計(jì)算需求壓力大全球算力需求平均每3.5個(gè)月翻一倍，傳統(tǒng)"CPU+xPU"多元化異構(gòu)計(jì)算架構(gòu)在性能上的提升無(wú)法滿(mǎn)足當(dāng)前的網(wǎng)絡(luò)帶寬的發(fā)展，CPU的計(jì)算需求壓力不斷增大架構(gòu)分布式計(jì)算架構(gòu)分布式計(jì)算平臺(tái)基礎(chǔ)設(shè)施A平臺(tái)基礎(chǔ)設(shè)施A加速高性能的網(wǎng)絡(luò)處理能力支持高速網(wǎng)絡(luò)連接高性能的網(wǎng)絡(luò)處理能力支持高速網(wǎng)絡(luò)連接價(jià)值與未來(lái)存儲(chǔ)加密解密安全關(guān)的功能接支捏的功能公眾號(hào)鼎帷咨詢(xún)接支捏的功能公眾號(hào)鼎帷咨詢(xún)鼎帷各詢(xún)|37英偉達(dá)布局DPU產(chǎn)品，每18個(gè)月推出新一代Bluefield芯片，目前第四代算力已達(dá)1000TOPS(每秒萬(wàn)億次操作)世界上第一個(gè)針對(duì)現(xiàn)世界上第一個(gè)針對(duì)現(xiàn)代企業(yè)數(shù)據(jù)中心優(yōu)化的芯片架構(gòu)的數(shù)據(jù)中心基礎(chǔ)設(shè)施是第三代NVIDIADPU預(yù)期將GPU進(jìn)行集成到DPU中，為邊緣設(shè)備提供低成本、高性能的安全數(shù)據(jù)處理能力發(fā)布時(shí)間2020年10月2021年4月/70億個(gè)220億個(gè)640億個(gè)網(wǎng)絡(luò)端口10/25/50/100G雙端口200G單端口25/50/100G四端口400G以太網(wǎng)8或16道PCle4.032道PCle5.0ARM+ASIC+專(zhuān)用加速器ARM+ASIC+GPU專(zhuān)用加速器算力9與上代相比/2倍的網(wǎng)絡(luò)帶寬4倍的計(jì)算能力幾乎5倍的內(nèi)存帶寬高達(dá)8倍的速度運(yùn)行工作負(fù)載整數(shù)處理性能提高近4倍的000a圖1.與NVIDIABlueField-2DPU相比，NVIDIABlueField-3DPU的內(nèi)存帶寬和266即國(guó)外主要做芯片，國(guó)內(nèi)受架構(gòu)限制主要做基于芯片基礎(chǔ)的解決方案國(guó)外布局動(dòng)作(DPUSoC)公司名代表產(chǎn)品核心處理器技術(shù)路線(xiàn)應(yīng)用方向發(fā)布時(shí)間11ARM+ASIC+專(zhuān)用加連器數(shù)據(jù)安全、網(wǎng)絡(luò)安全、存儲(chǔ)卻載等用加連器33AMD于2022年收購(gòu)了DPUSoC廠(chǎng)商Pensando面向交換機(jī)、路由器芯片4Nvidia收購(gòu)MellanoX,推出BlueFiel4Nvidia收購(gòu)MellanoX,推出BlueField系列的DPUSoC面向網(wǎng)絡(luò)、存儲(chǔ)和計(jì)算加迷功能面向集成機(jī)器學(xué)習(xí)推理引擎和內(nèi)聯(lián)加密處理器等國(guó)內(nèi)研發(fā)受阻(架構(gòu)原因)面向交換機(jī)、路由器芯片軟件定義網(wǎng)絡(luò)處理器優(yōu)勢(shì)①①有助于加速和卸載各種基礎(chǔ)結(jié)構(gòu)組件面向網(wǎng)絡(luò)、存儲(chǔ)、虛擬化2更短的開(kāi)發(fā)時(shí)間和快速的迭代，促進(jìn)功能快速定制為智能網(wǎng)卡數(shù)據(jù)提供線(xiàn)逸加密和解密劣勢(shì)面向深層神經(jīng)網(wǎng)絡(luò)加速阿里巴巴面向虛擬機(jī)營(yíng)理程序2有效控制芯片面積和功耗具挑戰(zhàn)性，阻礙發(fā)展華為高帶寬高性能存儲(chǔ)組網(wǎng)方案面向連接FC網(wǎng)絡(luò)的應(yīng)用，高帶寬高性能存儲(chǔ)組網(wǎng)方案DOCA生態(tài)建設(shè)：作為DPU量身定做的軟件開(kāi)發(fā)平臺(tái)，圍繞其搭建了DOCA的軟硬件生態(tài)、開(kāi)發(fā)者生態(tài)、合作伙伴生態(tài)內(nèi)容與功能擁有豐富的庫(kù)、驅(qū)動(dòng)程序和API,全面、開(kāi)放，讓開(kāi)發(fā)者可以快速創(chuàng)建經(jīng)DPU加速的高性能應(yīng)用程序和服務(wù)也是加速云基礎(chǔ)設(shè)施服務(wù)的關(guān)鍵與VMware、PaloAlt、JuniperNetworks共同整合并擴(kuò)應(yīng)用展基于DPU及DOCA軟件架構(gòu)在基礎(chǔ)設(shè)施、存儲(chǔ)、網(wǎng)絡(luò)安全、5G和邊緣計(jì)算等應(yīng)用場(chǎng)景的解決方案DOCA是支撐基于DPU的應(yīng)用程序與服務(wù)的核心與靈是釋放DPU潛力的關(guān)鍵價(jià)值DOCA是英偉達(dá)人工智能云服務(wù)戰(zhàn)略的關(guān)鍵組件，旨在為加速數(shù)據(jù)中心工作負(fù)載和大規(guī)模部署人工智能應(yīng)用程序 提供一個(gè)靈活而強(qiáng)大的平臺(tái)NVIDIADOCA開(kāi)發(fā)平臺(tái)架構(gòu)應(yīng)用電信/媒體電信/媒體內(nèi)存DOCA服務(wù)編排DPU管理DOCA合作伙伴生態(tài)建設(shè)DOCA開(kāi)發(fā)者生態(tài)建設(shè)體系，包括VMware、RedHat、PaloAlto、ARIACybersecurity、NVIDIADOCA中國(guó)開(kāi)發(fā)者社區(qū)的注冊(cè)開(kāi)發(fā)者已超過(guò)4,000人，圍繞云計(jì)算、高性能計(jì)算發(fā)，并通過(guò)積極推出豐富的活動(dòng)以助力開(kāi)發(fā)者更好地學(xué)習(xí)。鼎惟咨詢(xún)|40英偉達(dá)目前拓展Oracle、Cisco、DDN、Dell用BlueField數(shù)據(jù)中心加速技術(shù)來(lái)更高效地運(yùn)行其軟件平臺(tái)NVIDIA與其主要合作伙伴的合作內(nèi)容和支持，幫助數(shù)干位VMware客戶(hù)使用Al的強(qiáng)大功能5G原生安全倡議，致力于滿(mǎn)足5G供安全保護(hù)■將BlueField■將BlueField-2DPU集成到產(chǎn)品技鼎惟咨詢(xún)|41-游戲業(yè)務(wù)-應(yīng)用場(chǎng)景行業(yè)客戶(hù)層面，英偉達(dá)公司布局了游戲、專(zhuān)業(yè)可視化、數(shù)據(jù)中心、汽車(chē)市場(chǎng)四大領(lǐng)域，數(shù)據(jù)中心在2022年超越游戲成為了英偉達(dá)的第一大業(yè)務(wù)公司已完成CPU+GPU+DPU三芯的硬件布局，通過(guò)底層硬件架構(gòu)和CUDA生態(tài)整合，構(gòu)建全領(lǐng)域加速計(jì)算平臺(tái)。近幾年公司業(yè)績(jī)?cè)鲩L(zhǎng)主要由數(shù)據(jù)中心頁(yè)獻(xiàn)，公司也將加快技術(shù)迭代速度，重塑Al時(shí)代的數(shù)據(jù)中心。0NVIDIARTXGPU和EGX平臺(tái)為客戶(hù)提供涵蓋專(zhuān)業(yè)圖形渲染、云端XR應(yīng)用、Al數(shù)據(jù)科學(xué)與大數(shù)據(jù)研究的專(zhuān)業(yè)可視化業(yè)務(wù)，可應(yīng)用在汽車(chē)、建筑、醫(yī)療、影視媒體等多場(chǎng)景。502019公司提供用于PC的GeForceRTX和GeForceGTX顯卡、于其他游戲機(jī)的GeForceNOW云游戲、用于在電視播放高質(zhì)量流媒體的SHIEL并與游戲方合作提供開(kāi)發(fā)服務(wù)。0201920202021汽車(chē)業(yè)務(wù)汽車(chē)業(yè)務(wù)DRIVEOrinSoC芯片能夠?yàn)榘讋?dòng)駕駛功能、置信度視圖、數(shù)字儀表盤(pán)以及Al座艙提供強(qiáng)力支持，Hyperion架構(gòu)將Al計(jì)算與完整的傳感器套件集成整合，能加速白動(dòng)駕駛的開(kāi)發(fā)、測(cè)試和驗(yàn)證過(guò)程。50收入—增長(zhǎng)率100%■數(shù)據(jù)中心業(yè)務(wù)■游戲業(yè)務(wù)專(zhuān)業(yè)可視化業(yè)務(wù)汽車(chē)業(yè)務(wù)溝鼎惟吝詢(xún)|43英偉達(dá)基于GPU等芯片架構(gòu)上的底層技術(shù)積累，圍繞各個(gè)業(yè)務(wù)場(chǎng)景設(shè)計(jì)了系列產(chǎn)品線(xiàn)汽車(chē)專(zhuān)業(yè)可視化數(shù)據(jù)中心汽車(chē)專(zhuān)業(yè)可視化數(shù)據(jù)中心游戲Blackwell系列Bluefield光收發(fā)器主機(jī)網(wǎng)卡以太網(wǎng)交換機(jī)主機(jī)網(wǎng)卡鼎惟各詢(xún)|44英偉達(dá)的業(yè)務(wù)已經(jīng)觸及數(shù)以?xún)|計(jì)的TOC和數(shù)以百計(jì)的ToB客戶(hù)，龐大且多元的客戶(hù)群，使得其過(guò)去2個(gè)財(cái)年沒(méi)有一家大客戶(hù)超過(guò)其總收入的10%云端云端R汽車(chē)汽車(chē)數(shù)據(jù)中心業(yè)務(wù)構(gòu)成一、游戲業(yè)務(wù)。游戲市場(chǎng)是英偉達(dá)的基本盤(pán)，以獨(dú)立顯卡為發(fā)家產(chǎn)品，同時(shí)提供云游戲服務(wù)，在游戲芯片領(lǐng)域英偉達(dá)是當(dāng)之無(wú)愧的霸主業(yè)務(wù)構(gòu)成GTX770性能懸殊與桌面端同型號(hào)規(guī)格差距縮小，開(kāi)始采用相同內(nèi)核設(shè)計(jì)“游戲本元年”除主頻降低外，與桌面端同型號(hào)規(guī)格基本性能落后于桌面端及使游戲本首次實(shí)現(xiàn)輕薄和性能兼?zhèn)錉I(yíng)收表現(xiàn)2023年第四季度實(shí)現(xiàn)營(yíng)收28.65億美元，同比增長(zhǎng)56.5%。在經(jīng)歷幾個(gè)季度的低迷后，游戲業(yè)務(wù)有所回暖0首款真正的GPU首款支持的顯卡首款基于Kelper架構(gòu)的顯卡首款基于的顯卡首款基于的顯卡首款基于的顯卡首款基于的顯卡首款基于架構(gòu)的顯卡基于架構(gòu)的顯卡盡管游戲業(yè)務(wù)已不是英偉達(dá)營(yíng)收的最大來(lái)源，但游戲憑借對(duì)硬件技術(shù)迭代的持續(xù)推動(dòng)，以及作為AI技術(shù)的高頻應(yīng)用場(chǎng)景，仍然是英偉達(dá)的核心業(yè)務(wù)，并圍繞它確立了"云游戲+AI"發(fā)展思路Al領(lǐng)域的訓(xùn)練場(chǎng)：契合全球科技和業(yè)務(wù)發(fā)展方向游戲玩家需求推動(dòng)硬件技術(shù)打磨游戲3A大作是前沿信息技術(shù)的集成體現(xiàn)在應(yīng)用端能帶動(dòng)大量軟硬件消費(fèi)、產(chǎn)值和就業(yè)機(jī)會(huì)-科技公司迭代技術(shù)、發(fā)展自身產(chǎn)業(yè)的“順風(fēng)車(chē)”訂閱方案目前規(guī)模GeForceNow在全球已擁有超千萬(wàn)的訂閱用戶(hù)，營(yíng)Al領(lǐng)域的訓(xùn)練場(chǎng)：契合全球科技和業(yè)務(wù)發(fā)展方向游戲玩家需求推動(dòng)硬件技術(shù)打磨游戲3A大作是前沿信息技術(shù)的集成體現(xiàn)在應(yīng)用端能帶動(dòng)大量軟硬件消費(fèi)、產(chǎn)值和就業(yè)機(jī)會(huì)-科技公司迭代技術(shù)、發(fā)展自身產(chǎn)業(yè)的“順風(fēng)車(chē)”訂閱方案目前規(guī)模GeForceNow在全球已擁有超千萬(wàn)的訂閱用戶(hù)，營(yíng)收則占據(jù)“云游”市場(chǎng)的半壁江山2022年全球云游戲市場(chǎng)規(guī)模尚不到整個(gè)游戲產(chǎn)業(yè)2%,英偉達(dá)71%存量用戶(hù)仍未升級(jí)到支持光追的RTX顯卡·49.99美元/半年市場(chǎng)競(jìng)爭(zhēng)·除去英特爾的集成顯卡，目前英偉達(dá)和AMD幾乎占據(jù)了GPU市場(chǎng)100%的份額·但目前的主流游戲機(jī)以及次時(shí)代的主機(jī)均采用AMD的解決方案，故英偉達(dá)將云游戲主要精力放到了的PC上，避免與AMD直接造成沖突聚焦客戶(hù)·享受免費(fèi)PC游戲的玩家(例如《堡壘之夜》)商店擁有游戲的玩家 NeMo·用于構(gòu)建、定制和部署語(yǔ)言模型用于自動(dòng)語(yǔ)音識(shí)別和文本轉(zhuǎn)語(yǔ)音芯片生成式AI賦能游戲開(kāi)發(fā)端美術(shù)端美術(shù)端實(shí)現(xiàn)快速出圖、建模，節(jié)省大量時(shí)間，降低游戲開(kāi)發(fā)成本體驗(yàn)端體驗(yàn)端生成式AI推出的智能NPC能夠進(jìn)行實(shí)時(shí)對(duì)話(huà)、自然語(yǔ)言交互，交互體驗(yàn)得到大幅提升協(xié)助開(kāi)發(fā)人員快速完成基礎(chǔ)代碼，省去一些耗時(shí)、重復(fù)的工作，提高開(kāi)發(fā)效率英偉達(dá)通過(guò)NVIDIARTX(光線(xiàn)追蹤技術(shù))實(shí)現(xiàn)實(shí)時(shí)電影級(jí)渲染，NVIDIAACE(虛擬數(shù)字人類(lèi)生成技術(shù))將NVIDIANVIDIARTX光線(xiàn)追蹤技術(shù)核心優(yōu)勢(shì)發(fā)展歷程核心優(yōu)勢(shì)發(fā)展歷程·2018年推出，提供廣泛應(yīng)用加速，融入各領(lǐng)域發(fā)展，如游戲、內(nèi)容創(chuàng)作、影音、生產(chǎn)力、開(kāi)發(fā)等·光線(xiàn)追蹤技術(shù)，可實(shí)現(xiàn)實(shí)時(shí)電影級(jí)渲染。長(zhǎng)期用于電影行業(yè)的特效，是一種計(jì)算密集型技術(shù)，可模擬光線(xiàn)的物理行為，從而在計(jì)算機(jī)生成的場(chǎng)景中實(shí)現(xiàn)更逼真的效果。適用范圍NPU適用范圍NPUNVIDIANVIDIAACE虛擬數(shù)字人類(lèi)生成技術(shù)一套可幫助開(kāi)發(fā)者利用生成式AI創(chuàng)建栩栩如生的虛擬數(shù)字人物的技術(shù)。在ACE的加持下，普通的非玩家角色(NPC)可以搖身一變，成為能夠發(fā)起對(duì)話(huà)或引導(dǎo)玩家找到新任務(wù)的動(dòng)態(tài)交互式角色。以微服務(wù)架構(gòu)推出，加速數(shù)字人類(lèi)開(kāi)發(fā) (用于自動(dòng)語(yǔ)音識(shí)別、文字轉(zhuǎn)語(yǔ)音轉(zhuǎn)換和翻譯)等語(yǔ)音識(shí)別轉(zhuǎn)換目前應(yīng)用目前應(yīng)用已在RTXAIPC上提供了搶先體驗(yàn)套件，曾CES大會(huì)展示與Inworld作開(kāi)發(fā)的CovertProtocol技術(shù)內(nèi)容型(用于語(yǔ)言理解和語(yǔ)境脈絡(luò)回應(yīng)生成)·NVIDIAAudio2Face(根據(jù)語(yǔ)音音軌制作出面部動(dòng)畫(huà))時(shí)光線(xiàn)追蹤技術(shù)制作逼真的皮膚和毛發(fā))新的小型語(yǔ)言模型(SLM),專(zhuān)為低延遲、終端設(shè)備的RTXAlPC推理而設(shè)計(jì)極大優(yōu)化游戲中的NPC角色鼎惟咨詢(xún)|48在游戲業(yè)務(wù)領(lǐng)域，英偉達(dá)通過(guò)與聯(lián)發(fā)科合作積極布局AIPC業(yè)務(wù)進(jìn)入高端筆記本電腦市場(chǎng)，預(yù)計(jì)在25年上半年發(fā)發(fā)展歷程及未來(lái)產(chǎn)品規(guī)劃未來(lái)規(guī)劃：與聯(lián)發(fā)科合作將采用臺(tái)積電的3nm工藝制造和CoWoS封裝，最終目標(biāo)是進(jìn)入高端筆記本電腦市場(chǎng)。預(yù)計(jì)25年上半年⑨2018市場(chǎng)潛力巨大兩代AIPC對(duì)比于2018年推出RTX技術(shù)和首款專(zhuān)為Al打AIPC即為搭載專(zhuān)用Al加速硬件TensorCore的計(jì)算機(jī)英特爾首次提出AIPC概念辛格在硅谷首次提出"AIPC"伴隨著酷睿Ultra系列處理器的推出實(shí)現(xiàn)落地中國(guó)AIPC市場(chǎng)將于2024年開(kāi)始進(jìn)入爆發(fā)期預(yù)計(jì)臺(tái)數(shù)2028年將達(dá)到3300萬(wàn)臺(tái)市場(chǎng)占比整體出貨量的73%·更適用于廣大消費(fèi)者市場(chǎng)AI加速器高峰AITOPS~0m×高級(jí)AIPC√鼎惟咨詢(xún)|4950+應(yīng)用程序解鎖新市場(chǎng)50+應(yīng)用程序解鎖新市場(chǎng)公司專(zhuān)業(yè)可視化業(yè)務(wù)收入情況(億美元、%)65143021專(zhuān)業(yè)可視化收入(億美元，左軸)—同比(%,右軸)07與獨(dú)立軟件供應(yīng)商合作與獨(dú)立軟件供應(yīng)商合作，優(yōu)化+開(kāi)析圖00%市場(chǎng)份額占英偉達(dá)22財(cái)年?duì)I收的8%,5年復(fù)合年增長(zhǎng)率為20%。人工智能和虛擬世界工作負(fù)載、元宇宙企業(yè)軟件，英偉達(dá)在工營(yíng)收情況鼎惟咨詢(xún)|50英偉達(dá)產(chǎn)品發(fā)布時(shí)間線(xiàn)英偉達(dá)產(chǎn)品發(fā)布時(shí)間線(xiàn)19992000構(gòu)，提供更高Ampere架構(gòu)Lovelace架構(gòu)Shader架構(gòu)性能和功耗比應(yīng)用市場(chǎng)圖形設(shè)計(jì)、3D建模、視頻編輯等專(zhuān)業(yè)領(lǐng)域。擁有更高的顯存容量和帶寬，以庫(kù)價(jià)格相對(duì)較高，定位于專(zhuān)業(yè)用戶(hù)和企業(yè)級(jí)市場(chǎng)(VR)、工作站NVIDIARTX系列顯卡采用AdaLovela架構(gòu)，支持第三代光線(xiàn)迫蹤核心和第四代技術(shù)，提供卓越的圖形和計(jì)算性能用戶(hù)，覆蓋從主流消費(fèi)級(jí)到高端發(fā)燒級(jí)市場(chǎng)，為各種圖形密集型和計(jì)算密集型應(yīng)用系列名稱(chēng)鷺發(fā)布時(shí)間頻率顯存容屬顯存位寬(位)工藝接口0鼎惟各詢(xún)|51NVIDIAOmniverse是英偉達(dá)基于USD構(gòu)建的實(shí)時(shí)協(xié)作平臺(tái)，利用NVIDIA光線(xiàn)追蹤、人工智能和模擬等先進(jìn)技術(shù)，為用戶(hù)提供了一個(gè)高度逼真和物理上準(zhǔn)確的虛擬世界構(gòu)建和交互的環(huán)境組成組成應(yīng)用平臺(tái)定位強(qiáng)大、易于拓展的虛擬世界模擬十協(xié)作的計(jì)算平臺(tái)功能GPU和通用場(chǎng)景描述擬產(chǎn)品創(chuàng)造者創(chuàng)作者以實(shí)時(shí)同步方式創(chuàng)作以前所未有的速度打造自訂3D創(chuàng)作者以實(shí)時(shí)同步方式創(chuàng)作以前所未有的速度打造自訂3D流程，并模擬大規(guī)模虛擬多軟件互通可將創(chuàng)意應(yīng)用程序同步到Omniverse和USD,并在統(tǒng)一視圖中使用3D數(shù)據(jù)開(kāi)發(fā)者門(mén)檻：通過(guò)人工智能增強(qiáng)，幾乎不用代碼進(jìn)行開(kāi)發(fā)自定義：構(gòu)建自定義擴(kuò)展、工具和微服務(wù)，以加速3D工作流、生成合成數(shù)據(jù)和構(gòu)建工業(yè)元宇宙應(yīng)用程序客群·核心服務(wù)鼎惟咨詢(xún)|52第三方數(shù)字內(nèi)容創(chuàng)5個(gè)核心組件第三方數(shù)字內(nèi)容創(chuàng)5個(gè)核心組件建筑和設(shè)計(jì)機(jī)器人和增強(qiáng)創(chuàng)建和測(cè)試游戲中環(huán)境和角色，→實(shí)現(xiàn)逼真的視覺(jué)效果和復(fù)雜的物理模擬設(shè)計(jì)和渲染電影場(chǎng)最，→實(shí)現(xiàn)電影級(jí)別的視覺(jué)效果創(chuàng)建和測(cè)試建筑模型，一實(shí)現(xiàn)逼真的室內(nèi)外效果創(chuàng)建和測(cè)試自動(dòng)駕駛的環(huán)境和場(chǎng)景，→實(shí)現(xiàn)自動(dòng)駕駛系統(tǒng)的訓(xùn)練和測(cè)試創(chuàng)建和測(cè)試機(jī)器人的環(huán)境和場(chǎng)景，→實(shí)現(xiàn)機(jī)器人的訓(xùn)練和測(cè)試創(chuàng)建和測(cè)試虛擬環(huán)境和場(chǎng)景，→實(shí)現(xiàn)沉浸式體驗(yàn)創(chuàng)建和測(cè)試虛擬環(huán)境和場(chǎng)最，→實(shí)現(xiàn)教育和培訓(xùn)的模擬和實(shí)驗(yàn)鼎惟咨詢(xún)|53組件名描述數(shù)據(jù)庫(kù)服務(wù)器(Omniverse的核心),用于存這是連接Omniverse和其他第三方3D創(chuàng)建工具之間無(wú)縫傳輸基于NVIDIARTX技術(shù)的實(shí)時(shí)渲染器，提供逼不犧牲性能的情況下渲染高質(zhì)量的圖像。提供仿真服務(wù)，通過(guò)OmniverseKit的小插件和微服務(wù)使虛擬世界看起來(lái)更真實(shí)擴(kuò)展組件用于啟動(dòng)和管理Omniverse應(yīng)用程序和場(chǎng)景提供對(duì)各種應(yīng)用程序和工具的集成支持作用生成OpenUSD數(shù)據(jù)的全光線(xiàn)追蹤RTX渲染用戶(hù)可修改OpenUSD數(shù)據(jù)并與之交互作用生成OpenUSD數(shù)據(jù)的全光線(xiàn)追蹤RTX渲染用戶(hù)可修改OpenUSD數(shù)據(jù)并與之交互支持場(chǎng)景查詢(xún)和交互式場(chǎng)景追蹤USD變化并提供更新信息協(xié)作Omniverse核心技術(shù)集成到軟件應(yīng)用及機(jī)器人或自動(dòng)駕駛汽車(chē)等自主用戶(hù)群體功能專(zhuān)業(yè)3D藝術(shù)家和設(shè)計(jì)師提供強(qiáng)大3D創(chuàng)作工具和實(shí)時(shí)協(xié)作功能開(kāi)發(fā)者開(kāi)源平臺(tái)開(kāi)發(fā)工具包，允許自定義和擴(kuò)展Omniverse功能/提供直觀(guān)界面，用于構(gòu)建、布置和編輯場(chǎng)景非技術(shù)用戶(hù)用于審閱和批準(zhǔn)3D場(chǎng)景的應(yīng)用程序企業(yè)客戶(hù)的企業(yè)級(jí)功能/專(zhuān)注于實(shí)時(shí)渲染，提供逼真的視覺(jué)效果允許全球團(tuán)隊(duì)成員在同一虛擬項(xiàng)目上實(shí)時(shí)工作，能即時(shí)看到對(duì)方更改和軟件兼容性高，可以軟件兼容性高，可以隨意切換不同軟件Omniverse能夠連接和兼容多種不同3D設(shè)計(jì)軟件，可在不中斷工作流程情況下輕松切換不同統(tǒng)一數(shù)據(jù)平臺(tái)，確保統(tǒng)一數(shù)據(jù)平臺(tái)，確保信息一致性和時(shí)效性通過(guò)OmniverseNucleus存儲(chǔ)、管理和共享3D世界和場(chǎng)景，所有團(tuán)隊(duì)成員都能訪(fǎng)問(wèn)到最新數(shù)據(jù)和場(chǎng)景高質(zhì)量渲染，提供逼高質(zhì)量渲染，提供逼真的視覺(jué)效果提供逼真的視覺(jué)效果。它支持多種光線(xiàn)追蹤技術(shù)，可在不犧牲性能情況下渲染高質(zhì)量圖像Al驅(qū)動(dòng)的創(chuàng)新，豐富Al驅(qū)動(dòng)的創(chuàng)新，豐富創(chuàng)新過(guò)程且提升效率靈活性和擴(kuò)展性如Omniverse轉(zhuǎn)換為3D面部動(dòng)畫(huà)的工具，以及OmniverseReplicator可生成高度逼真的3D資產(chǎn)號(hào)發(fā)者自定義和擴(kuò)展Omniverse的功能，使其能夠適應(yīng)不斷變化的需求和挑戰(zhàn)鼎惟咨詢(xún)|54數(shù)據(jù)中心業(yè)務(wù)涵蓋多層面數(shù)據(jù)中心業(yè)務(wù)涵蓋多層面數(shù)據(jù)中心業(yè)務(wù)成為公司業(yè)績(jī)飛速發(fā)展的引擎。高速網(wǎng)絡(luò)技術(shù)和解決方案服務(wù)，以滿(mǎn)足不同行業(yè)和規(guī)模的企業(yè)的復(fù)雜計(jì)算需求軟硬件生態(tài)系統(tǒng)英偉達(dá)數(shù)據(jù)中心平臺(tái)NGCcrylcONVEsaIOALAAUTONOMOUs][RLCOMMLNDATON|HLNvDSNCsDKfhhwMLaDATAANALYTXs||AT8ANNGaa/O4-0OC4ERVERS8NVSwitchDPUSMART供應(yīng)商、企業(yè)軟件公司和消費(fèi)互聯(lián)網(wǎng)公司對(duì)數(shù)據(jù)處理、訓(xùn)練和推理能力的激增需求，以及汽車(chē)、金融服務(wù)和醫(yī)療保健等垂直行業(yè)的應(yīng)用也加速業(yè)務(wù)的擴(kuò)張?zhí)貭柕雀?jìng)爭(zhēng)對(duì)手遠(yuǎn)遠(yuǎn)落在后面鼎惟各詢(xún)|55單次GPT-4推理所需要的算力成本約為0.05美分，按照AIPRM統(tǒng)計(jì)，截至2023年12月，ChatGPT擁有約1.8億用戶(hù)，平均每月產(chǎn)生17億次網(wǎng)站瀏覽量，則平均每天訪(fǎng)問(wèn)次數(shù)為567萬(wàn)次，假設(shè)每次訪(fǎng)問(wèn)進(jìn)行10輪推理對(duì)話(huà)，則平均每秒進(jìn)行推理次數(shù)單次GPT-4推理所需要的算力成本約為0.05美分，按照AIPRM統(tǒng)計(jì)，截至2023年12月，ChatGPT擁有約1.8億用戶(hù)，平均每月產(chǎn)生17億次網(wǎng)站瀏覽量，則平均每天訪(fǎng)問(wèn)次數(shù)為567萬(wàn)次，假設(shè)每次訪(fǎng)問(wèn)進(jìn)行10輪推理對(duì)話(huà)，則平均每秒進(jìn)行推理次數(shù)為17/30*10/3600*10^8≈157407次訓(xùn)練算力需求平均參數(shù)數(shù)量(億個(gè)，N)單Token訓(xùn)練所需運(yùn)算次數(shù)訓(xùn)練數(shù)據(jù)圖片分辨率*像素?cái)?shù)Patch量(個(gè))壓縮比例Patch到tokens的換算比例單次訓(xùn)練Token數(shù)量(億個(gè))訓(xùn)練步數(shù)(steps)單次訓(xùn)練所需總算力(TFLOPS)單次訓(xùn)練所需時(shí)間(天)333按上述時(shí)間計(jì)算，每秒的訓(xùn)練算力需求A100算力值(非稀疏，TFLOPS)集群利用率(MFU)所需卡數(shù)號(hào)1.76里572.58訓(xùn)練階段算力需求=3×前向傳遞操作數(shù)×模型參數(shù)數(shù)量×訓(xùn)練集規(guī)模，訓(xùn)練所需GPU數(shù)量=總算力需求/(每個(gè)GPU每秒運(yùn)算能力×訓(xùn)練時(shí)間×有效算力比率),訓(xùn)練算力需求平均參數(shù)數(shù)量(億個(gè)，N)單Token訓(xùn)練所需運(yùn)算次數(shù)訓(xùn)練數(shù)據(jù)5億圖片+1000萬(wàn)圖片分辨率*像素?cái)?shù)Patch量(個(gè))壓縮比例Patch到tokens的換算比例單次訓(xùn)練Token數(shù)量(億個(gè))訓(xùn)練步數(shù)(steps)單次訓(xùn)練所需總算力(TFLOPS)單次訓(xùn)練所需時(shí)間(天)按上述時(shí)間計(jì)算，每秒的訓(xùn)練算力需求A100算力值(非稀疏，TALOPS)集群利用率(MFU)所需卡數(shù)英偉達(dá)的數(shù)據(jù)中心業(yè)務(wù)結(jié)構(gòu)包含了“CPU+GPU+DPU”三類(lèi)芯片和網(wǎng)絡(luò)產(chǎn)品的硬件和基于硬件的系統(tǒng)、平臺(tái)和應(yīng)用框架等AI基礎(chǔ)設(shè)施平臺(tái)層NvidiaAI網(wǎng)絡(luò)硬件三芯片超級(jí)計(jì)算機(jī)鼎惟各詢(xún)|57在網(wǎng)絡(luò)產(chǎn)品方面，英偉達(dá)通過(guò)自研及收購(gòu)實(shí)現(xiàn)了網(wǎng)絡(luò)產(chǎn)品的全覆蓋，為客戶(hù)提供端到端解決方案，提升加速計(jì)算網(wǎng)絡(luò)交換機(jī)網(wǎng)絡(luò)交換機(jī)網(wǎng)卡DPU互連直連式銅線(xiàn)直連式銅線(xiàn)(DAC)和分線(xiàn)纜以太網(wǎng)網(wǎng)卡交換機(jī)場(chǎng)景云傳統(tǒng)以太網(wǎng)生成式Al云·以南北流量需求為主(云和用戶(hù)間流量)·東西流量需求(數(shù)據(jù)中心內(nèi)部流量)鼎惟咨詢(xún)|58同時(shí)支持x86和Arm兩種不同硬件生態(tài)，預(yù)計(jì)將于2025年發(fā)布基于Rubin架構(gòu)的R100訓(xùn)練卡和R40推理卡中Arm推理Arm推理推理卡x86架構(gòu)的推理卡x86架構(gòu)的?服務(wù)器2020年2021年2022年2023年2024年2025年鼎惟咨詢(xún)|59英偉達(dá)全面布局AI芯片市場(chǎng)，從傳統(tǒng)的服務(wù)各個(gè)云服務(wù)商向各個(gè)國(guó)家的私有云(主權(quán)AI)及電信云延伸，并積極布局邊緣計(jì)算領(lǐng)域AI芯片市場(chǎng)云端Al芯片市場(chǎng)邊緣側(cè)AI芯片市場(chǎng)公有云市場(chǎng)私有云市場(chǎng)電信云市場(chǎng)可穿戴設(shè)備汽車(chē)智能家居白色家電人智能工業(yè)應(yīng)用“非常邊緣”其他英偉達(dá)布局云服務(wù)商亞馬遜微軟谷歌阿里云為云服務(wù)廠(chǎng)商提供頂級(jí)GPU及AI超級(jí)計(jì)算機(jī)企業(yè)和國(guó)家(主權(quán)Al)特斯拉法國(guó)新加坡在可信電信基礎(chǔ)設(shè)施上構(gòu)建、開(kāi)發(fā)和部署主權(quán)Al電信運(yùn)營(yíng)商和供應(yīng)商愛(ài)立信諾基亞新加坡電信通過(guò)生成式Al增強(qiáng)電信運(yùn)營(yíng)能力利基市場(chǎng)機(jī)器人智能工業(yè)利基市場(chǎng)機(jī)器人智能工業(yè)市場(chǎng)需求用于人機(jī)界面的會(huì)話(huà)Al,用于對(duì)天然氣領(lǐng)域競(jìng)爭(zhēng)格局英偉達(dá)布局目前英偉達(dá)、英特爾和高通正打造NVIDIA專(zhuān)為機(jī)器人和嵌入式NVIDIAJetPack"加速軟件開(kāi)發(fā)適應(yīng)性，在這一領(lǐng)域表現(xiàn)突出將超低功耗Al芯片組嵌入WAN網(wǎng)由于重點(diǎn)是超低功耗，這個(gè)領(lǐng)設(shè)計(jì)和ASIC廠(chǎng)向主導(dǎo)鼎帷咨詢(xún)數(shù)據(jù)中心的下游客戶(hù)涵蓋云服務(wù)提供商、私人企業(yè)、主權(quán)國(guó)家、電信企業(yè)、智能設(shè)備制造商等，其產(chǎn)品和服務(wù)被廣泛應(yīng)用于大數(shù)據(jù)分析、人工智能訓(xùn)練、處理高度敏感數(shù)據(jù)、構(gòu)建5G基礎(chǔ)設(shè)施以及邊緣計(jì)算等多個(gè)專(zhuān)業(yè)領(lǐng)域公有云市場(chǎng)私有云市場(chǎng)電信云市場(chǎng)邊緣計(jì)算市場(chǎng)主要客戶(hù)、甲骨文云、阿里云、騰訊云、華為云等、意大利、新加坡等·私人企業(yè)客戶(hù)：如蘋(píng)果、谷、京東、阿里、騰訊、字節(jié)跳動(dòng)、小米、OpenAl等·電信企業(yè)：愛(ài)立信、諾基亞、新加坡電信(Singtel)·智能設(shè)備制造商等應(yīng)用場(chǎng)景·廣泛應(yīng)用于大數(shù)據(jù)分析、Al訓(xùn)練·應(yīng)用于高度敏感數(shù)據(jù)處理、企業(yè)內(nèi)網(wǎng)應(yīng)用、行業(yè)專(zhuān)屬應(yīng)用如金融、醫(yī)療、制造等·提供5G基礎(chǔ)設(shè)施、邊緣計(jì)算、實(shí)時(shí)流媒體、低延遲網(wǎng)絡(luò)等服務(wù)·應(yīng)用于自動(dòng)駕駛、智能制造、智能零售、遠(yuǎn)程醫(yī)療等領(lǐng)域，靠近數(shù)據(jù)生成源頭進(jìn)行處理應(yīng)用方向·Al模型訓(xùn)練、推理、實(shí)時(shí)數(shù)據(jù)處理等安全性與隱私：滿(mǎn)足對(duì)數(shù)據(jù)隱私和安全性的高要求，如數(shù)據(jù)主權(quán)保護(hù)定制化解決方案：根據(jù)行業(yè)需求定制化Al和數(shù)據(jù)處理服務(wù)。網(wǎng)絡(luò)虛擬化與自動(dòng)化：基于AI的網(wǎng)絡(luò)優(yōu)化和自動(dòng)化運(yùn)維高性能通信服務(wù)：提供RAN性能優(yōu)化、下一代通信服務(wù)的創(chuàng)新實(shí)時(shí)數(shù)據(jù)處理：支持在本地節(jié)點(diǎn)進(jìn)行快速處理，減少延遲分布式Al:在設(shè)備端運(yùn)行Al模型，提供即時(shí)響應(yīng)能力增長(zhǎng)的驅(qū)動(dòng)力·算力和存儲(chǔ)方面的需求不斷增加·對(duì)數(shù)據(jù)的合規(guī)和安全需求更加嚴(yán)格·物聯(lián)網(wǎng)設(shè)備對(duì)時(shí)延和通訊依賴(lài)性有更高的要求·邊緣計(jì)算的應(yīng)用場(chǎng)景不斷擴(kuò)大英偉達(dá)將AI算力分為五個(gè)層次，每層均達(dá)到現(xiàn)有技術(shù)條件下的最優(yōu)性能配置，確保了整體計(jì)算架構(gòu)的高效性與先單芯片算力第一層算力單芯片算力第一層算力聚構(gòu)N/AN/A第五層算力Al超級(jí)工廠(chǎng)第四層算力第三層算力互聯(lián)第二層算力第一層算力通過(guò)Die-to-Die互聯(lián)技術(shù)針對(duì)在同一個(gè)封裝內(nèi)兩個(gè)芯片裸晶間提供數(shù)據(jù)接口，通過(guò)NVLinK能夠在單個(gè)封裝中將兩個(gè)處理器連接成一塊超級(jí)芯片的板級(jí)互連第第三層算力NVLink互聯(lián)PCB版背面添加金屬焊球?qū)ú煌恢玫倪B線(xiàn)，實(shí)現(xiàn)復(fù)雜結(jié)構(gòu)的2.5D互聯(lián)組成一塊更大的Chiplet進(jìn)化歷程：目前由于技術(shù)受限，芯片通信互聯(lián)在限制電路復(fù)雜度等外部條件后，單個(gè)基底上能夠?qū)崿F(xiàn)的最好的解決方案是雙Die互聯(lián)AV和1個(gè)GraceCPU裝在一個(gè)主板上，將36塊PCB板通過(guò)銅纜電信號(hào)互聯(lián)，搭載72個(gè)BlackwellGPU核心Blackwell搭載的NVLink五代2100