新一代人工智能基礎(chǔ)設(shè)施白皮書(shū)

新一代人工智能基礎(chǔ)設(shè)施白皮書(shū)中國(guó)智能算力產(chǎn)業(yè)聯(lián)盟人工智能算力產(chǎn)業(yè)生態(tài)聯(lián)盟1商湯科技智能產(chǎn)業(yè)研究院編委會(huì)指導(dǎo)單位中國(guó)信息通信研究院云計(jì)算與大數(shù)據(jù)研究所、中國(guó)科學(xué)院計(jì)算技術(shù)研究所、中國(guó)智能算力產(chǎn)業(yè)聯(lián)盟、人工智能算力產(chǎn)業(yè)生態(tài)聯(lián)盟指導(dǎo)委員會(huì)何寶宏

中國(guó)信息通信研究院云計(jì)算與大數(shù)據(jù)研究所所長(zhǎng)張?jiān)迫?/p>

中國(guó)科學(xué)院計(jì)算技術(shù)研究所研究員安靜

中國(guó)智能算力產(chǎn)業(yè)聯(lián)盟秘書(shū)長(zhǎng)楊帆

商湯科技聯(lián)合創(chuàng)始人、大裝置事業(yè)群總裁陳宇恒

商湯科技聯(lián)合創(chuàng)始人、大裝置事業(yè)群副總裁鳴謝王婉秋、李兆松、成功、楊松、賓佳麗、孫振邦、蘇立宇、劉武、賈海剛、劉雅婧、代繼、何聰輝、曹陽(yáng)、張?chǎng)⒃S偉軍、楊學(xué)燕、蔣慧、王進(jìn)、譚覃、何茜、劉沛、張琛編寫(xiě)組王月

中國(guó)信息通信研究院云計(jì)算與大數(shù)據(jù)研究所數(shù)據(jù)中心部副主任周彩紅

中國(guó)信息通信研究院云計(jì)算與大數(shù)據(jù)研究所數(shù)據(jù)中心部工程師程大寧

中國(guó)科學(xué)院計(jì)算技術(shù)研究所特別研究助理劉亮

商湯科技智能產(chǎn)業(yè)研究院戰(zhàn)略研究主任楊燕

商湯科技智能產(chǎn)業(yè)研究院戰(zhàn)略研究主任田豐

商湯科技智能產(chǎn)業(yè)研究院院長(zhǎng)2“商湯成立之初，我們認(rèn)為

AI

產(chǎn)業(yè)在未來(lái)一定會(huì)形成分化。在分化的過(guò)程中，整個(gè)

AI

基礎(chǔ)設(shè)施上的各個(gè)要素，以一種更加高效、低成本的方式，被提供給更多的人使用，從而降低

AI

基礎(chǔ)設(shè)施的構(gòu)建成本和使用門檻?！薄?/p>

楊帆，商湯聯(lián)合創(chuàng)始人、大裝置事業(yè)群總裁3目錄關(guān)鍵發(fā)現(xiàn).............................................................................................................................

6導(dǎo)語(yǔ)：AI

新基建開(kāi)啟“三浪變革”..............................................................................8一、

大模型、生成式

AI

推動(dòng)

AI

2.0

時(shí)代到來(lái).......................................................121.

生成式

AI

推進(jìn)產(chǎn)業(yè)規(guī)模化，AI

無(wú)處不在愿景加速實(shí)現(xiàn)...........................132.

產(chǎn)業(yè)鏈成熟分化，基礎(chǔ)設(shè)施成為

AI

產(chǎn)業(yè)發(fā)展基座和保障........................16二、

AI

2.0

時(shí)代對(duì)

AI

基礎(chǔ)設(shè)施提出了全新要求....................................................191.

傳統(tǒng)計(jì)算基礎(chǔ)設(shè)施無(wú)法滿足大模型、生成式

AI

的新要求........................192.

數(shù)據(jù)質(zhì)量和效率決定大模型的高質(zhì)量發(fā)展之路...........................................223.

大模型需要全新的

AI

平臺(tái)服務(wù)模式..............................................................23三、

新一代

AI

基礎(chǔ)設(shè)施的定義、特點(diǎn)和價(jià)值........................................................251.

新一代

AI

基礎(chǔ)設(shè)施的主要特點(diǎn)......................................................................272.

新一代

AI

基礎(chǔ)設(shè)施創(chuàng)造社會(huì)價(jià)值..................................................................293.

新一代

AI

基礎(chǔ)設(shè)施賦能企業(yè)享受生成式

AI

紅利......................................

31四、

新一代

AI

基礎(chǔ)設(shè)施廠商格局與評(píng)估................................................................331.

云計(jì)算、AI

原生、硬件系統(tǒng)三類廠商塑造市場(chǎng)格局.................................332.

評(píng)估體系：產(chǎn)品能力、戰(zhàn)略愿景與市場(chǎng)生態(tài)...............................................363.

商湯科技評(píng)估結(jié)果：新一代

AI

基礎(chǔ)設(shè)施市場(chǎng)領(lǐng)導(dǎo)者................................394.

SenseCore

商湯大裝置技術(shù)發(fā)展優(yōu)勢(shì)...........................................................415.

SenseCore

商湯大裝置業(yè)務(wù)布局優(yōu)勢(shì)...........................................................45五、

新一代

AI

基礎(chǔ)設(shè)施實(shí)踐案例.............................................................................481.

大模型訓(xùn)練..........................................................................................................4842.

生成式

AI

應(yīng)用...................................................................................................

513.

AI

專家服務(wù)..........................................................................................................544.

智算中心建設(shè)與運(yùn)營(yíng).........................................................................................55六、

建議.........................................................................................................................59結(jié)語(yǔ)：新一代人工智能基礎(chǔ)設(shè)施的“經(jīng)濟(jì)規(guī)律”...................................................

615關(guān)鍵發(fā)現(xiàn)1.

2023

年是人工智能產(chǎn)業(yè)發(fā)展的分水嶺，以大模型、生成式

AI

為發(fā)展里程碑的技術(shù)革新，推動(dòng)著人工智能發(fā)展進(jìn)入全新的

2.0

時(shí)代，人工智能由之前點(diǎn)狀、創(chuàng)新應(yīng)用，逐步規(guī)?；l(fā)展賦能企業(yè)業(yè)務(wù)流程各個(gè)環(huán)節(jié)，并逐步向產(chǎn)業(yè)深水區(qū)發(fā)展，推動(dòng)產(chǎn)業(yè)鏈分化成熟，需要全新的基礎(chǔ)設(shè)施來(lái)實(shí)現(xiàn)更好的支撐。2.

大模型和生成式的發(fā)展對(duì)算力、算法平臺(tái)、數(shù)據(jù)提出全新要求，傳統(tǒng)以

CPU為中心的云計(jì)算基礎(chǔ)設(shè)施已無(wú)法滿足。不僅需要大規(guī)模、高性能、高穩(wěn)定性算力資源，智能化數(shù)據(jù)管理流程，以及高效普惠

AI

開(kāi)發(fā)平臺(tái)；還要打造體系化工程系統(tǒng)保證基礎(chǔ)設(shè)施面向大模型訓(xùn)練、生成式

AI

應(yīng)用落地的新目標(biāo)。3.

Model

as

a

Service（MaaS）成為新一代

AI

基礎(chǔ)設(shè)施的核心，其本質(zhì)是通過(guò)云服務(wù)向開(kāi)發(fā)者和企業(yè)提供更高效的大模型服務(wù)。MaaS

加速了

AI

應(yīng)用部署的周期，提升了創(chuàng)新的迭代速度，降低了企業(yè)應(yīng)用大模型服務(wù)的多方面成本，推動(dòng)了

AI

與各行業(yè)的深度整合。通過(guò)納入開(kāi)源和閉源大模型，MaaS還助力于構(gòu)建成熟的生態(tài)系統(tǒng)，促進(jìn)生成式

AI

應(yīng)用的規(guī)?；涞?。4.

新一代

AI

基礎(chǔ)設(shè)施不是傳統(tǒng)云的

AI

化，兩者具有明顯定位和發(fā)展路徑的差別。新一代

AI

基礎(chǔ)設(shè)施主要面向產(chǎn)業(yè)用戶，為大模型訓(xùn)練、區(qū)域行業(yè)及應(yīng)用孵化創(chuàng)新提供

AI

基座。新一代

AI

基礎(chǔ)設(shè)施跟隨產(chǎn)業(yè)布局，采用“大中心+節(jié)點(diǎn)”模式，構(gòu)建起覆蓋整個(gè)區(qū)域的算力網(wǎng)絡(luò)，并通過(guò)建（設(shè)）運(yùn)（營(yíng)）聯(lián)動(dòng)促進(jìn)區(qū)域經(jīng)濟(jì)的一體化和智能化發(fā)展。65.

新一代

AI

基礎(chǔ)設(shè)施為政務(wù)服務(wù)、產(chǎn)業(yè)升級(jí)和科研創(chuàng)新等領(lǐng)域帶來(lái)了前所未有的社會(huì)價(jià)值。將原本分散、碎片化的政務(wù)應(yīng)用，通過(guò)“一模通辦”

為政務(wù)服務(wù)提質(zhì)增效。將加快推進(jìn)傳統(tǒng)產(chǎn)業(yè)上下游各個(gè)環(huán)節(jié)的智能化轉(zhuǎn)型，催生新業(yè)態(tài)、新模式的不斷涌現(xiàn)。加速科學(xué)實(shí)驗(yàn)的自動(dòng)化和智能化，激發(fā)人工智能驅(qū)動(dòng)科學(xué)研究（AI

for

Science）的新范式。6.

本白皮書(shū)提出業(yè)界首個(gè)“新一代人工智能基礎(chǔ)設(shè)施評(píng)估體系”，通過(guò)產(chǎn)品技術(shù)、戰(zhàn)略愿景、市場(chǎng)生態(tài)三大維度、十二個(gè)評(píng)估指標(biāo)，對(duì)

AI

基礎(chǔ)設(shè)施廠商進(jìn)行定性和定量的全面評(píng)估。SenseCore

商湯大裝置，成為市場(chǎng)領(lǐng)導(dǎo)者，在各個(gè)評(píng)估指標(biāo)的得分超過(guò)廠商平均分，并在市場(chǎng)響應(yīng)、市場(chǎng)認(rèn)知、產(chǎn)品戰(zhàn)略、工程化建設(shè)四個(gè)評(píng)估指標(biāo)拿到滿分。7.

SenseCore

商湯大裝置在產(chǎn)品服務(wù)能力呈現(xiàn)出較強(qiáng)的產(chǎn)品實(shí)力和技術(shù)積累，不僅超前布局了算力基礎(chǔ)設(shè)施，還通過(guò)布局

MaaS

平臺(tái)，在自身大模型業(yè)務(wù)的加持下，形成了整套

AI

基礎(chǔ)設(shè)施產(chǎn)品架構(gòu)，滿足客戶大模型訓(xùn)練、生成式

AI

應(yīng)用的大規(guī)模落地需求。8.

新一代人工智能基礎(chǔ)設(shè)施將會(huì)通過(guò)支持大模型的爆發(fā)式發(fā)展，帶來(lái)知識(shí)工程的生產(chǎn)力變革，重構(gòu)軟件生態(tài)，顛覆原有數(shù)字經(jīng)濟(jì)霸主，并隨著本身的技術(shù)革新和突破，實(shí)現(xiàn)邊際成本持續(xù)下降，邊際效益持續(xù)增長(zhǎng)等特征，進(jìn)而實(shí)現(xiàn)AI

算力成本的持續(xù)下降，真正帶來(lái)普惠

AI。7導(dǎo)語(yǔ)：AI

新基建開(kāi)啟“三浪變革”第一浪是“知識(shí)生產(chǎn)力變革”，大模型是知識(shí)工程的生產(chǎn)力變革，天然具有跨領(lǐng)域知識(shí)的連接性。上一次知識(shí)革命是

11

世紀(jì)的畢昇發(fā)明的泥活字印刷術(shù)、15

世紀(jì)的古登堡發(fā)明的鉛活字印刷術(shù)，讓人類千年歷史中積累的龐大知識(shí)工程通過(guò)印刷書(shū)籍形式推廣傳承，知識(shí)從手工抄寫(xiě)到活字印刷速度提升了

118

倍，自此浩瀚的知識(shí)源源不斷地從印刷作坊以令人驚嘆的速度向全球傳播，堪稱中世紀(jì)的“知識(shí)互聯(lián)網(wǎng)”。在比爾蓋茨的《未來(lái)之路》中提到，在谷登堡印刷革命之前，整個(gè)歐洲大陸大約只有

3

萬(wàn)冊(cè)書(shū)，幾乎都是圣經(jīng)或圣經(jīng)評(píng)注性著作，而到了1500

年，各類題材的圖書(shū)猛增到

900

多萬(wàn)冊(cè)。各種傳單和其他印刷物影響了政府、宗教、科學(xué)以及文學(xué)。宗教精英圈子以外的人士第一次有機(jī)會(huì)接觸到書(shū)面信息。據(jù)多方研究數(shù)據(jù)表明，大型語(yǔ)言模型顯著提高知識(shí)學(xué)習(xí)速度、知識(shí)檢索速度、知識(shí)傳播速度、知識(shí)推薦準(zhǔn)確性，具有跨語(yǔ)言、跨學(xué)科領(lǐng)域、跨信源的獨(dú)特優(yōu)勢(shì)。在人機(jī)協(xié)同模式下，大型語(yǔ)言模型將人類科學(xué)論文的閱讀時(shí)間縮短

40%，知識(shí)搜索時(shí)間縮短

20%，而這僅僅是

ChatGPT

出現(xiàn)一周年的“起點(diǎn)”，鑒于大型語(yǔ)言模型遠(yuǎn)超人類的超高速學(xué)習(xí)能力，預(yù)計(jì)將在

2026

年學(xué)習(xí)完所有人類歷史上的1高質(zhì)量文本數(shù)據(jù)

。人類的知識(shí)革命大幕剛剛開(kāi)啟，高新科研、三大類產(chǎn)業(yè)、公共服務(wù)的知識(shí)型工作范式正在遵循“計(jì)算->數(shù)據(jù)->模型->服務(wù)”鏈條重構(gòu)。第二浪是“軟件變革”，每次軟件大革新，都會(huì)誕生新的超級(jí)平臺(tái)，顛覆原數(shù)字經(jīng)濟(jì)霸主，從

Windows、AppStore

到

GPTs

都不例外，當(dāng)前智能編程助手改變代碼生產(chǎn)流程，大語(yǔ)言模型成為新一代

AGI

服務(wù)入口、軟件調(diào)度樞紐。1Epoch

AI

Research

研究機(jī)構(gòu)預(yù)測(cè)，大模型對(duì)數(shù)據(jù)的需求正在飛速增加，人類歷史上可用于訓(xùn)練的高質(zhì)量文本將在2026

年“耗盡”。820

世紀(jì)

90

年代，未來(lái)學(xué)家雷·庫(kù)茲韋爾發(fā)現(xiàn)指數(shù)級(jí)發(fā)展的規(guī)律：“一旦技術(shù)變得數(shù)字化，即被編輯為

0

和

1

表示的計(jì)算機(jī)代碼，它就能夠脫離摩爾定律的舒服，開(kāi)始呈指數(shù)級(jí)加速發(fā)展。”所以數(shù)字經(jīng)濟(jì)中每一代超級(jí)平臺(tái)企業(yè)都是軟件創(chuàng)新型企業(yè)。中國(guó)程序員人數(shù)位居全球第二，世界上最好的開(kāi)發(fā)語(yǔ)言應(yīng)是中文，例如商湯科技發(fā)布的“代碼小浣熊”Raccoon

智能編程助手，覆蓋軟件需求分析、架構(gòu)設(shè)計(jì)、代碼編寫(xiě)、軟件測(cè)試等環(huán)節(jié)，支持中文、英文注釋生成代碼、跨編程語(yǔ)言翻譯、單元測(cè)試用力生成、代碼修正（改

Bug）、代碼重構(gòu)、編程技術(shù)知識(shí)問(wèn)答，在

Python、Java、C、C++、Go、SQL

等

30

多種主流編程語(yǔ)言，以及

VS

Code、IntelliJ

IDEA

等主流集成開(kāi)發(fā)環(huán)境(IED)上，提升開(kāi)發(fā)者編程效率超過(guò)

50%，并在以

71%的一次通過(guò)率刷新

HumanEval

測(cè)試集成績(jī)（GPT-4

一次通過(guò)率

67%）。從此人類程序員將

80%的代碼量交由語(yǔ)言大模型編寫(xiě)，人類開(kāi)發(fā)專家的時(shí)間和精力逐步轉(zhuǎn)移到更具創(chuàng)新性和高價(jià)值的工作中，商湯稱其為軟件

2.0

時(shí)代的“新二八定律”（見(jiàn)圖

1）。另一方面，多篇權(quán)威論文顯示，大型語(yǔ)言模型能夠面對(duì)復(fù)雜任務(wù)，靈活自動(dòng)實(shí)

現(xiàn)

多

軟

件

串

行

、

多

模

型

協(xié)

同

組

合

，

例

如

AI

Agent

、

MoE

架

構(gòu)（Mixture-of-Experts）、綜合型智能客服、GitHub

Copilot

等，能在日常使用中跨模型共享成果、快速學(xué)習(xí)迭代、增強(qiáng)安全性與倫理性保障。在龐大

AI

算力規(guī)模、訓(xùn)練數(shù)據(jù)集基礎(chǔ)上，新一代

AI

原生軟件應(yīng)用，導(dǎo)致“傳統(tǒng)軟件智能化，智能軟件樞紐化”全面普及，尤其是那些能滿足目前還難以預(yù)知需求的新工具，新一代青少年將在新興

AI

軟件與

MaaS

模型化創(chuàng)新思維邏輯上成長(zhǎng)起來(lái)，并將新型生產(chǎn)力軟件帶入辦公室與家庭。9圖

1：大語(yǔ)言模型智能編程助手，賦能軟件開(kāi)發(fā)提效降本第三浪是“AI

計(jì)算變革”，在大型語(yǔ)言模型的

Scaling

Law（規(guī)模定律）指數(shù)級(jí)算力需求，與線性增長(zhǎng)的區(qū)域基建投入矛盾下，AI

算力基礎(chǔ)設(shè)施將迎來(lái)大量技術(shù)工程創(chuàng)新，持續(xù)降本增效，普惠優(yōu)勢(shì)讓

AI

真正成為賦能千行百業(yè)的通用型基礎(chǔ)設(shè)施，同時(shí)“百模大戰(zhàn)”變?yōu)?/p>

AI

產(chǎn)業(yè)專業(yè)化分工。據(jù)

AI

Now《計(jì)算能力和人工智能》報(bào)告指出，早期

AI

模型算力需求是每

21.3

個(gè)月翻一番，而2010

年深度學(xué)習(xí)后（小模型時(shí)代），模型對(duì)

AI

算力需求縮短至

5.7

個(gè)月翻一番，而

2023

年，大模型需要的

AI

算力需求每

1-2

個(gè)月就翻一番，摩爾定律的增速顯著落后于社會(huì)對(duì)

AI

算力的指數(shù)級(jí)需求增長(zhǎng)速度，即“AI

超級(jí)需求曲線”遙遙領(lǐng)先傳統(tǒng)架構(gòu)的

AI

算力供給，帶來(lái)了

AI

芯片產(chǎn)能瓶頸、漲價(jià)等短期市場(chǎng)現(xiàn)象。CSET

(Center

for

Security

and

Emerging

Technology)

在《AI

and

Compute》報(bào)告中預(yù)測(cè)：“在計(jì)算價(jià)格沒(méi)有任何變化的情況下，尖端模型成本預(yù)計(jì)將在

2026年

6-11

月超過(guò)美國(guó)

GDP（見(jiàn)圖

2

）。”未來(lái)學(xué)家雷·庫(kù)茲韋爾認(rèn)為，從

1890

年到現(xiàn)在，人類計(jì)算設(shè)備的（單位時(shí)間）的運(yùn)算能力一直在成倍增強(qiáng)，每當(dāng)一項(xiàng)指數(shù)型技術(shù)（例如符合摩爾定律的芯片技術(shù)）的實(shí)用性達(dá)到極限時(shí)，就會(huì)有另一項(xiàng)10技術(shù)取而代之。所以，針對(duì)大模型高昂的訓(xùn)練成本、有限的

GPU

供應(yīng)量、芯片間通訊瓶頸的核心挑戰(zhàn)，各國(guó)均采用大規(guī)模智能基建資源投入，并在

AI

芯片、智能算力集群、大模型架構(gòu)、專用模型加速等技術(shù)棧環(huán)節(jié)創(chuàng)新突破，相信在未來(lái)3

年通過(guò)一系列基礎(chǔ)設(shè)施的技術(shù)革新，持續(xù)降低

AI

計(jì)算整體成本（采購(gòu)、建設(shè)與運(yùn)營(yíng)），釋放出各行各業(yè)的生成智能全民應(yīng)用創(chuàng)新能力，尤其是推理算力成本下降，對(duì)中國(guó)

AI

2.0

的大市場(chǎng)、大用戶量至關(guān)重要。同水電煤等平價(jià)公共服務(wù)一樣，人人用得起

AI

算力，人人訓(xùn)得起

AI

數(shù)據(jù)，人人做得好

AI

模型。圖

2：大模型算力的成本壓力（來(lái)源：CSET）Note:

The

blue

line

represents

growing

costs

assuming

compute

per

dollar

doubles

every

four

years,

with

errorshading

representing

no

change

in

compute

costs

or

a

doubling

time

as

fast

as

every

two

years.

The

red

linerepresents

expected

GDP

at

a

growth

of

3

percent

per

year

from

2019

levels

with

error

shading

representinggrowth

between

2

and

5

percent.11一、大模型、生成式

AI

推動(dòng)

AI

2.0

時(shí)代到來(lái)2023

年是人工智能發(fā)展的分水嶺，大模型、生成式

AI

的發(fā)展帶動(dòng)了人工智能領(lǐng)域的范式轉(zhuǎn)換，AI

2.0

時(shí)代已經(jīng)來(lái)臨。在此之前，人工智能通過(guò)模式檢測(cè)或遵循規(guī)則來(lái)幫助分析數(shù)據(jù)和做出預(yù)測(cè)，更像是一種“分類器”，而

AI

2.0

時(shí)代則開(kāi)啟了新階段：基于大模型的生成式

AI。生成式

AI

可以通過(guò)數(shù)據(jù)訓(xùn)練進(jìn)而模仿人類的創(chuàng)造過(guò)程，將人工智能從傳統(tǒng)的“分類器”進(jìn)化成“生成器”。這樣本質(zhì)上的變化，讓

AI

發(fā)展到了一個(gè)全新的時(shí)代（見(jiàn)圖

3

）。Gartner

預(yù)測(cè)，到

2027年，高速增長(zhǎng)的生成式

AI

將會(huì)貢獻(xiàn)全球人工智能支出的

42%，規(guī)模將超過(guò)

18002億美元，2023

年到

2027

年的復(fù)合增長(zhǎng)率高達(dá)

169.7%

。另外，作為生成式

AI

發(fā)展的基礎(chǔ)，大模型也在高速發(fā)展。IDC

數(shù)據(jù)顯示，截止

2023

年

11

月底，中國(guó)市場(chǎng)發(fā)布的大模型已經(jīng)超過(guò)

300

個(gè)。生成式

AI

的顛覆性潛能得到越來(lái)越多的企業(yè)認(rèn)可，企業(yè)不再追問(wèn)何為生成式

AI，而是希望了解生成式

AI

的投入能帶來(lái)哪些具體業(yè)務(wù)價(jià)值。Gartner

預(yù)測(cè)，到

2026

年，超過(guò)

80%的企業(yè)將使用生成式

AI

的

API

或模型，或在生產(chǎn)環(huán)境中部署支持生成3式

AI

的應(yīng)用，而在

2023

年初這一比例不到

5%

。技術(shù)變革帶動(dòng)場(chǎng)景拓展，生成式

AI

正在從熱烈討論走向應(yīng)用落地，其價(jià)值創(chuàng)造潛力極為驚人，麥肯錫預(yù)測(cè)，生成式

AI

有望為全球經(jīng)濟(jì)貢獻(xiàn)約

7

萬(wàn)億美元的價(jià)值，并將

AI

的總體經(jīng)濟(jì)效益提高

50%左右；中國(guó)則有望貢獻(xiàn)其中約

2

萬(wàn)億4美元，將近全球總量的

1/3

。2

“Forecast

Analysis:

Artificial

Intelligence

Services,

2023-2027,

Worldwide”,

Gartner,

October

20233

“Top

Strategic

Technology

Trends

for

2024”,

Gartner,

October

20234

生成式

AI

在中國(guó)：2

萬(wàn)億美元的經(jīng)濟(jì)價(jià)值，麥肯錫，2023

年

9

月12圖

3：生成式

AI

驅(qū)動(dòng)

AI

市場(chǎng)規(guī)模化發(fā)展，并帶來(lái)全新經(jīng)濟(jì)效益（來(lái)源：Gartner、麥肯錫、IDC）1.

生成式

AI

推進(jìn)產(chǎn)業(yè)規(guī)?；珹I

無(wú)處不在愿景加速實(shí)現(xiàn)生成式

AI

呈爆炸式增長(zhǎng)，使

AI

由之前的點(diǎn)狀、創(chuàng)新應(yīng)用，逐步開(kāi)始在業(yè)務(wù)流程的各個(gè)環(huán)節(jié)應(yīng)用部署，企業(yè)在積極探索相關(guān)價(jià)值，以期增強(qiáng)自身業(yè)務(wù)的競(jìng)爭(zhēng)優(yōu)勢(shì)。麥肯錫調(diào)研顯示，已有

1/3

的企業(yè)受訪者表示，其所在組織會(huì)在至少一項(xiàng)業(yè)務(wù)職能中經(jīng)常使用生成式

AI

應(yīng)用（見(jiàn)圖

4）。企業(yè)通過(guò)以下一系列舉措，不斷推動(dòng)

AI

無(wú)處不在的愿景實(shí)現(xiàn)：

加強(qiáng)生成式

AI

領(lǐng)域的投資，應(yīng)用部署獲得持續(xù)動(dòng)力。自從

ChatGPT

發(fā)布以來(lái)，企業(yè)在

ICT

領(lǐng)域的投資發(fā)生了調(diào)整與變化，為了更好的跟上此輪技術(shù)變革所帶來(lái)的潛在紅利，企業(yè)將更多的

ICT

預(yù)算投入到生成式

AI

領(lǐng)域，并將會(huì)從中獲得客觀的收益。IDC

調(diào)研顯示，已有

24%

的中國(guó)企業(yè)在生成式

AI13上投入資金，69%企業(yè)正篩選潛在應(yīng)用場(chǎng)景或開(kāi)始測(cè)試和概念驗(yàn)證，到

2026年，中國(guó)

40%的企業(yè)將掌握生成式

AI

的使用，共同開(kāi)發(fā)數(shù)字產(chǎn)品和服務(wù)，從而實(shí)現(xiàn)與競(jìng)爭(zhēng)對(duì)手相比兩倍的收入增長(zhǎng)。

改變現(xiàn)有

AI

戰(zhàn)略，驅(qū)動(dòng)生成式

AI

覆蓋公司業(yè)務(wù)全流程。企業(yè)組織正在改變自身的人工智能戰(zhàn)略，圍繞人工智能戰(zhàn)略的愿景、路線圖、用例、治理、以及相應(yīng)的人才都發(fā)生了全面的變化。AI

1.0

時(shí)代，企業(yè)組織在制定一個(gè)典型的人工智能戰(zhàn)略更多考慮的是一個(gè)長(zhǎng)遠(yuǎn)的規(guī)劃，并且碎片化的布局，這些隨著

AI

2.0

時(shí)代生成式

AI

爆發(fā)增長(zhǎng)所帶來(lái)的日新月異而發(fā)生徹底改變，短期目標(biāo)、快速行動(dòng)并逐漸覆蓋關(guān)鍵業(yè)務(wù)成為人工智能戰(zhàn)略的新內(nèi)核，更關(guān)鍵的轉(zhuǎn)變則是用例方面，從之前的預(yù)測(cè)分析、自動(dòng)化應(yīng)用場(chǎng)景，轉(zhuǎn)向內(nèi)容生成和創(chuàng)造。同時(shí)，由于生成式

AI

將會(huì)成為不可或缺的生產(chǎn)力工具，培訓(xùn)每個(gè)員工如何負(fù)責(zé)任地使用生成式

AI

工具也成為重點(diǎn)（見(jiàn)圖

5）。

擁抱生成式

AI，促使

AI

與員工實(shí)現(xiàn)協(xié)同創(chuàng)新。生成式

AI

擴(kuò)大了人類的專業(yè)知識(shí)、創(chuàng)造力和知識(shí)范圍，提高了人類工作的效率。更關(guān)鍵的是，生成式AI

使得新洞察、新模式、新能力的創(chuàng)造變得更為清晰，創(chuàng)新的本質(zhì)是可能性的不斷組合，確定最有前景的組合項(xiàng)后，對(duì)其進(jìn)行改進(jìn)直到實(shí)現(xiàn)。人類團(tuán)隊(duì)只能探索創(chuàng)新解決方案的一小部分，而生成式

AI

可以幫助人類能夠利用更多變量在短時(shí)間內(nèi)探索更多解決方案可能性，并且能夠以最小化成本撬動(dòng)更多價(jià)值的產(chǎn)出。Gartner

預(yù)測(cè)，到

2026

年，將會(huì)有超過(guò)

1

億人將與“機(jī)器5人同事（合成虛擬同事）”協(xié)同工作

。5

“The

Future

of

AI:

Reshaping

Society”,

Gartner,

July

202314圖

4：各地區(qū)、行業(yè)和資歷級(jí)別的受訪者表示，他們已經(jīng)在使用生成式

AI（來(lái)源：麥肯錫）圖

5：AI

2.0

時(shí)代，企業(yè)需要重新制定

AI

戰(zhàn)略152.

產(chǎn)業(yè)鏈成熟分化，基礎(chǔ)設(shè)施成為

AI

產(chǎn)業(yè)發(fā)展基座和保障企業(yè)積極擁抱大模型、生成式

AI

的態(tài)度，加速了

AI

應(yīng)用逐步向產(chǎn)業(yè)深水區(qū)發(fā)展，面臨千變?nèi)f化的業(yè)務(wù)需求和標(biāo)準(zhǔn)，為了更好的應(yīng)對(duì)不同的業(yè)務(wù)訴求，AI產(chǎn)業(yè)鏈將會(huì)一步成熟分化，上下游的產(chǎn)業(yè)角色和環(huán)節(jié)不斷增多，開(kāi)始需要全新的基礎(chǔ)設(shè)施來(lái)實(shí)現(xiàn)更好的支撐，其帶來(lái)的影響如下：

智能算力成為

AI

產(chǎn)業(yè)發(fā)展的關(guān)鍵支撐要素。大模型訓(xùn)練趨勢(shì)企業(yè)將更多地使用

AI

就緒的數(shù)據(jù)中心設(shè)施或

GPU

集群，從而縮短部署時(shí)間，降低設(shè)施的長(zhǎng)期投資成本。適合大模型訓(xùn)練的智能算力已經(jīng)成為算力增長(zhǎng)的主要?jiǎng)恿?。IDC

預(yù)測(cè)，2022

年中國(guó)智能算力規(guī)模達(dá)

259.9

EFLOPS，2023

年將達(dá)到414.1

EFLOPS，預(yù)計(jì)到

2027

年將達(dá)到

1117.4

EFLOPS（見(jiàn)圖

6）。2022-

2027

年期間，中國(guó)智能算力規(guī)模年復(fù)合增長(zhǎng)率達(dá)

33.9%，同期通用算力6規(guī)模年復(fù)合增長(zhǎng)率為

16.6%

。

人工智能生產(chǎn)范式轉(zhuǎn)向以大模型為核心的開(kāi)發(fā)路徑。在

AI

1.0

時(shí)代，AI

應(yīng)用的開(kāi)發(fā)處于“精耕細(xì)作”的階段，開(kāi)發(fā)人員基于場(chǎng)景化的數(shù)據(jù)集用明確的代碼去表達(dá)程序執(zhí)行的邏輯，并不斷基于業(yè)務(wù)發(fā)展而進(jìn)行迭代，而隨著業(yè)務(wù)場(chǎng)景從通用場(chǎng)景發(fā)展到長(zhǎng)尾、碎片場(chǎng)景，該模式則逐漸顯現(xiàn)出開(kāi)發(fā)成本高，精確度不佳等一系列挑戰(zhàn)，在某種程度上，反而限制了

AI

產(chǎn)業(yè)的進(jìn)一步發(fā)展。而在

AI

2.0

時(shí)代，在基模型+人工反饋的強(qiáng)化學(xué)習(xí)相結(jié)合的加持下，人工智能應(yīng)用的開(kāi)發(fā)進(jìn)入“規(guī)模化”階段，體現(xiàn)出“大力出奇跡”的特色。面向業(yè)務(wù)邏輯對(duì)基模型進(jìn)行微調(diào)，輔助提示詞工程來(lái)開(kāi)發(fā)相應(yīng)的生成式

AI

應(yīng)用，進(jìn)而更快速、低成本、高精度的覆蓋更多業(yè)務(wù)場(chǎng)景，這使得

AI

產(chǎn)業(yè)進(jìn)6

《中國(guó)人工智能計(jì)算力發(fā)展評(píng)估報(bào)告，2023-2024》，IDC，2023

年

12

月16入了一個(gè)高速發(fā)展且無(wú)處不在的全新時(shí)代（見(jiàn)圖

7）。

作為新的生產(chǎn)力工具，生成式

AI

應(yīng)用發(fā)展進(jìn)入大航海時(shí)代。伴隨基模型的高速成熟化發(fā)展，生成式

AI

應(yīng)用也迎來(lái)爆發(fā)式增長(zhǎng)（見(jiàn)圖

8）。最早，以ChatGPT、Midjourney

為代表的文生文、文生圖應(yīng)用推向市場(chǎng)并獲得高速增長(zhǎng)的用戶群體。隨后，音頻生成、視頻生成、多模態(tài)生成類的應(yīng)用，以及面向不同行業(yè)領(lǐng)域或用戶群體的工具類應(yīng)用，如代碼生成、Copilot、數(shù)字人、營(yíng)銷工具、聊天助手等，不斷推向市場(chǎng)。2023

年

11

月，OpenAI

推出GPTs

并計(jì)劃打造

GPT

Store，讓用戶無(wú)需代碼，結(jié)合自己的指令、外部知識(shí)和能力創(chuàng)建自定義版本的應(yīng)用，這種客制化的模式和清晰的商業(yè)化模式，7讓生成式

AI

應(yīng)用的開(kāi)發(fā)主體由數(shù)量不多的

AI

廠商走向海量

AI

開(kāi)發(fā)者

。圖

6：中國(guó)智能算力規(guī)模及預(yù)測(cè)，2020-2027，基于

FP16

計(jì)算，EFLOPS（來(lái)源：IDC）7

“Introducing

GPTs”,

OpenAI,

November

202317圖

7：AI

2.0

時(shí)代，人工智能的生產(chǎn)范式發(fā)生了根本性改變圖

8：AI

2.0

時(shí)代，人工智能產(chǎn)業(yè)迎來(lái)更加繁榮的“大航海時(shí)代”（來(lái)源：IDC）18二、AI

2.0

時(shí)代對(duì)

AI

基礎(chǔ)設(shè)施提出了全新要求進(jìn)入

AI

2.0

時(shí)代，傳統(tǒng)針對(duì)移動(dòng)互聯(lián)時(shí)代應(yīng)用、以

CPU

為中心的云計(jì)算基礎(chǔ)設(shè)施，無(wú)法滿足大模型訓(xùn)練、生成式

AI

應(yīng)用爆發(fā)所帶來(lái)的挑戰(zhàn)，這些新的挑戰(zhàn)對(duì)

AI

基礎(chǔ)設(shè)施的關(guān)鍵環(huán)節(jié)都提出了全新的要求，包括算力、算法平臺(tái)、數(shù)據(jù)，以及圍繞三個(gè)環(huán)節(jié)的工程系統(tǒng)建設(shè)。1.

傳統(tǒng)計(jì)算基礎(chǔ)設(shè)施無(wú)法滿足大模型、生成式

AI

的新要求大模型訓(xùn)練、生成式

AI

應(yīng)用不僅對(duì)

GPU

或異構(gòu)計(jì)算的需求大幅增加，傳統(tǒng)CPU

算力已經(jīng)無(wú)法滿足；還對(duì)

GPU

集群的計(jì)算效率、穩(wěn)定性等方面的提出諸多要求，算力不是一個(gè)簡(jiǎn)單的堆砌，而是要轉(zhuǎn)為大模型而優(yōu)化的復(fù)雜的系統(tǒng)性工程，再加上巨大的投資，如何保持穩(wěn)定性和高效率也成為關(guān)鍵，展開(kāi)來(lái)看：

以

GPU

為核心的

AI

算力需求爆發(fā)性增長(zhǎng)。以

OpenAI

為例，訓(xùn)練一次

1750億參數(shù)的

GPT-3

模型大概需要的算力約為

3640PFlops-day，共使用了1024

塊

A100(GPU)訓(xùn)練

34

天。隨著模型參數(shù)量不斷升級(jí)，AI

算力需求也在持續(xù)遞增。過(guò)去四年，大模型參數(shù)量以年均

400%復(fù)合增長(zhǎng)，AI

算力需求8增長(zhǎng)也超過(guò)

15

萬(wàn)倍，遠(yuǎn)超摩爾定律

。例如，GPT-4

參數(shù)量大約是

GPT-3的

500

倍，用了約

2

萬(wàn)-3

萬(wàn)張

A100,訓(xùn)練

1

個(gè)月左右的時(shí)間。除大模型訓(xùn)練外，隨著生成式

AI

應(yīng)用爆發(fā)，高并發(fā)推理也將進(jìn)一步推高算力需求，未來(lái)或?qū)⑦h(yuǎn)遠(yuǎn)超過(guò)訓(xùn)練階段的算力當(dāng)量（見(jiàn)圖

9）。

高性能和高效率成為算力基礎(chǔ)設(shè)施的關(guān)鍵。為了更好支持大模型訓(xùn)練，多機(jī)多卡組成大集群分布式訓(xùn)練成為必選。但大集群不等于大算力，在分布式訓(xùn)8

《WOT

全球技術(shù)創(chuàng)新大會(huì)：創(chuàng)新不止，實(shí)戰(zhàn)為王》，東方財(cái)富網(wǎng)，2023

年

6

月19練下集群中由于網(wǎng)絡(luò)通信或數(shù)據(jù)緩存等問(wèn)題都會(huì)造成大模型訓(xùn)練效率降低。例如，一般千億、萬(wàn)億參數(shù)規(guī)模的大模型，訓(xùn)練過(guò)程中通信時(shí)間占比最高可9達(dá)

50%

。如果通信互聯(lián)不好，會(huì)影響大模型訓(xùn)練效率，也會(huì)限制算力集群的進(jìn)一步擴(kuò)展，這就要求集群具備高速互聯(lián)的網(wǎng)絡(luò)連接。并行訓(xùn)練要求網(wǎng)絡(luò)基礎(chǔ)設(shè)施具備高度可靠，一條鏈路的負(fù)載不均導(dǎo)致網(wǎng)絡(luò)堵塞，就會(huì)成為系統(tǒng)短板，影響到數(shù)十個(gè)甚至全部

GPU

節(jié)點(diǎn)信息同步（見(jiàn)圖

10）。此外，大模型訓(xùn)練過(guò)程中會(huì)通過(guò)

Checkpoint

來(lái)保存模型參數(shù)（權(quán)重），進(jìn)而實(shí)現(xiàn)大模型訓(xùn)練的連續(xù)性。但是，傳統(tǒng)訓(xùn)練方式下當(dāng)模型參數(shù)量大時(shí)，Checkpoint寫(xiě)入時(shí)間會(huì)變久，導(dǎo)致導(dǎo)致

GPU

利用率降低。例如，1750

億參數(shù)的

GPT-3模型，假設(shè)文件系統(tǒng)寫(xiě)入速度為

15GB/s，完成一次

Checkpoint

需要

2.5分鐘，也就相應(yīng)造成

2.5

分鐘的資源浪費(fèi)。因此，支撐大模型訓(xùn)練的算力資源，不僅需要在集群硬件層面提升，還需要結(jié)合軟件層面進(jìn)行優(yōu)化設(shè)計(jì)。

獨(dú)占式、大規(guī)模、長(zhǎng)時(shí)間訓(xùn)練對(duì)

GPU

集群穩(wěn)定性提出更高要求。大模型訓(xùn)練需要長(zhǎng)時(shí)間占據(jù)規(guī)模龐大的

GPU

集群，這導(dǎo)致單個(gè)節(jié)點(diǎn)發(fā)生故障就使得整個(gè)訓(xùn)練中斷，且故障原因和位置難以迅速界定。以

Meta

的

OPT-17B

訓(xùn)練為例，理論上在

1,000

個(gè)

80G

A100

上訓(xùn)練

3,000

億個(gè)單詞，需要

33

天，而實(shí)際訓(xùn)練卻用了

90

天，期間出現(xiàn)了

112

次故障，其中主要是硬件故障，10導(dǎo)致手動(dòng)重啟

35

次，自動(dòng)重啟約

70

次

。節(jié)點(diǎn)故障不僅造成訓(xùn)練時(shí)間被拉長(zhǎng)，也對(duì)算力資源帶來(lái)了巨大浪費(fèi)。因此，集群訓(xùn)練穩(wěn)定性非常重要，對(duì)集群建設(shè)提出更高要求。例如，集群是否具備故障實(shí)時(shí)監(jiān)測(cè)、斷點(diǎn)續(xù)訓(xùn)、故障節(jié)點(diǎn)自動(dòng)隔離等能力，以及在故障發(fā)生時(shí)能否快速定位、迅速恢復(fù)等。9

《大模型需要大算力，但光靠

GPU

也不行》，21

世紀(jì)經(jīng)濟(jì)報(bào)道，2023

年

6

月10

《如果沒(méi)有

AI

算力，大模型這場(chǎng)戰(zhàn)役我們可能勝不了》，量子位，2023

年

12

月20圖

9：AI

算力需求呈指數(shù)級(jí)增長(zhǎng)，用以滿足大模型開(kāi)發(fā)和實(shí)踐（來(lái)源：Epoch）圖

10：大模型訓(xùn)練任務(wù)的穩(wěn)定性，隨著訓(xùn)練集群規(guī)模的擴(kuò)張而遞減212.

數(shù)據(jù)質(zhì)量和效率決定大模型的高質(zhì)量發(fā)展之路高質(zhì)量數(shù)據(jù)決定大模型性能和價(jià)值觀，對(duì)數(shù)據(jù)的獲取、清洗、標(biāo)注等工作帶來(lái)了更大挑戰(zhàn)，需要更高效的

AI

數(shù)據(jù)管理流程來(lái)匹配大模型時(shí)代的新需求。而大模型的訓(xùn)練和應(yīng)用過(guò)程還可能涉及用戶隱私和敏感數(shù)據(jù)等，需要采取有效的數(shù)據(jù)治理手段來(lái)保障隱私和數(shù)據(jù)安全。

構(gòu)建性能強(qiáng)大和價(jià)值對(duì)齊的大模型，數(shù)據(jù)質(zhì)量和效率是關(guān)鍵。不同來(lái)源數(shù)據(jù)質(zhì)量參差不齊，存在重復(fù)、無(wú)效、虛假或敏感等數(shù)據(jù)，會(huì)直接影響模型性能及價(jià)值觀。例如，訓(xùn)練數(shù)據(jù)固有偏見(jiàn)會(huì)導(dǎo)致模型產(chǎn)生偏見(jiàn)內(nèi)容，需要對(duì)原始數(shù)據(jù)進(jìn)行清洗、標(biāo)注等預(yù)處理過(guò)程來(lái)保障數(shù)據(jù)質(zhì)量和價(jià)值對(duì)齊。傳統(tǒng)數(shù)據(jù)處理“作坊式”的工作模式，已無(wú)法滿足大模型訓(xùn)練和迭代激增的“工業(yè)化”數(shù)據(jù)需求。一方面，訓(xùn)練大模型的預(yù)處理數(shù)據(jù)量大，一般可達(dá)到

TB

甚至

PB級(jí)別，遠(yuǎn)多于傳統(tǒng)數(shù)據(jù)規(guī)模；另一方面，頻繁的模型迭代、再訓(xùn)練也需要加快增量數(shù)據(jù)的預(yù)處理節(jié)奏。打造高效的“智能化數(shù)據(jù)處理流水線”成為關(guān)鍵，彌補(bǔ)傳統(tǒng)重人力投入帶來(lái)的高成本、低效率等問(wèn)題。

保障數(shù)據(jù)安全和用戶隱私，需要更高效的數(shù)據(jù)治理手段。企業(yè)在使用生成式AI

將會(huì)面臨更加突出的用戶隱私和數(shù)據(jù)安全問(wèn)題。例如，企業(yè)開(kāi)發(fā)人員使用AI

代碼輔助生成工具時(shí)，一般需要上傳企業(yè)已有代碼庫(kù)，使大模型給出更精準(zhǔn)的代碼預(yù)測(cè)結(jié)果；企業(yè)營(yíng)銷人員上傳過(guò)往的營(yíng)銷數(shù)據(jù)生成高質(zhì)量的營(yíng)銷內(nèi)容。這些上傳的數(shù)據(jù)可能關(guān)系到用戶隱私或涉及企業(yè)核心機(jī)密，如果保護(hù)不當(dāng)或會(huì)造成嚴(yán)重的數(shù)據(jù)泄露，對(duì)用戶造成不可逆損害。IDC

全球

2023

年生成式

AI

市場(chǎng)調(diào)研數(shù)據(jù)顯示，用戶在選擇

AI

軟件供應(yīng)商時(shí)，強(qiáng)大的數(shù)據(jù)安全性是最重要的參考指標(biāo)之一。因此，在大模型訓(xùn)練和交互時(shí)，如何將這些22上傳數(shù)據(jù)進(jìn)行充分隔離、安全保護(hù)，這對(duì)數(shù)據(jù)治理提出了很高的要求。3.

大模型需要全新的

AI

平臺(tái)服務(wù)模式大模型應(yīng)用能夠幫助企業(yè)更高效率的實(shí)現(xiàn)商業(yè)目標(biāo)，但對(duì)于絕大多數(shù)企業(yè)而言，自研大模型成本高，且模型設(shè)計(jì)、訓(xùn)練、調(diào)優(yōu)等環(huán)節(jié)對(duì)開(kāi)發(fā)人員專業(yè)能力要求較高。MaaS（Model

as

a

Service，大模型即服務(wù)）代表著一種全新的

AI云服務(wù)范式，它將大模型作為

AI

基礎(chǔ)設(shè)施的核心組成，以云服務(wù)方式提供給開(kāi)發(fā)人員和企業(yè)進(jìn)行更高效的工業(yè)化開(kāi)發(fā)（見(jiàn)圖

11）。目前，包括微軟、華為、百度、商湯等廠商均推出

MaaS

服務(wù)。MaaS

降低了企業(yè)享受大模型、生成式AI

紅利的門檻，具體來(lái)看：

MaaS

加快了

AI

應(yīng)用開(kāi)發(fā)過(guò)程，提高了創(chuàng)新迭代速度。MaaS

平臺(tái)將預(yù)訓(xùn)練好的大模型與開(kāi)發(fā)工具、數(shù)據(jù)管理一系列等功能封裝在一起供開(kāi)發(fā)人員直接調(diào)用，大幅節(jié)省了企業(yè)從零自建大模型及訓(xùn)練調(diào)優(yōu)所耗費(fèi)的時(shí)間和精力，加快了

AI

開(kāi)發(fā)和應(yīng)用部署速度，使企業(yè)能夠快速將

AI

功能引入到自身業(yè)務(wù)場(chǎng)景中，縮短了

AI

新產(chǎn)品、新服務(wù)、新模式的上線時(shí)間，也加快了創(chuàng)新迭代速度，提升了企業(yè)市場(chǎng)競(jìng)爭(zhēng)力。

MaaS

降低了企業(yè)成本投入，推動(dòng)

AI

與各行各業(yè)的深度融合。AI1.0

時(shí)代，由于小模型的場(chǎng)景適用性低且開(kāi)發(fā)成本、專業(yè)要求都很高，AI

在傳統(tǒng)行業(yè)的滲透率只有

4%。大模型時(shí)代，基于“基礎(chǔ)大模型+微調(diào)”，不僅大大提升了場(chǎng)景適用性，同時(shí)

MaaS

模式也使得企業(yè)可以直接調(diào)用已訓(xùn)練好的大模型能力，這大大降低了企業(yè)

AI

開(kāi)發(fā)成本和

AI

專業(yè)門檻，使得企業(yè)更愿意在內(nèi)部更大范圍的推進(jìn)與業(yè)務(wù)相結(jié)合的

AI

創(chuàng)新，促進(jìn)

AI

與行業(yè)的深度融合，行23業(yè)

AI

應(yīng)用的滲透率將全面提速。

MaaS

促進(jìn)大模型生態(tài)體系建立，推動(dòng)大模型應(yīng)用規(guī)模化落地。MaaS

模式有助于

AI

產(chǎn)業(yè)鏈的高效分工，其中一部分技術(shù)實(shí)力強(qiáng)和

AI

專家資源豐富的廠商成為

MaaS

主要提供者，將重心側(cè)重在基礎(chǔ)大模型能力，以及平臺(tái)化工具和服務(wù)效率上的持續(xù)提升，并通過(guò)平臺(tái)開(kāi)放、開(kāi)源社區(qū)等方式吸引更多的企業(yè)和開(kāi)發(fā)者匯集，形成百花齊放的大模型應(yīng)用開(kāi)發(fā)生態(tài)，從而滿足更大范圍、更多細(xì)分場(chǎng)景的

AI

需求，推動(dòng)應(yīng)用規(guī)?；涞?。圖

11：MaaS

平臺(tái)幫助企業(yè)更好的調(diào)用大模型能力24三、新一代

AI

基礎(chǔ)設(shè)施的定義、特點(diǎn)和價(jià)值A(chǔ)I2.0

時(shí)代需要新一代的基礎(chǔ)設(shè)施來(lái)支撐大模型的訓(xùn)練與推理、生成式

AI應(yīng)用的規(guī)?；涞?，其核心要素，如算力、數(shù)據(jù)服務(wù)、大模型服務(wù)都需精細(xì)化的設(shè)計(jì)和重構(gòu)，而非簡(jiǎn)單的服務(wù)器或

GPU

實(shí)例的堆砌。新一代

AI

基礎(chǔ)設(shè)施定義：以大模型能力輸出為核心平臺(tái)，集成算力資源、數(shù)據(jù)服務(wù)和云服務(wù)，專門設(shè)計(jì)用于最大限度提升大模型和生成式

AI

應(yīng)用的表現(xiàn)：數(shù)據(jù)準(zhǔn)備與管理、大模型訓(xùn)練、推理、模型能力調(diào)用、生成式

AI

應(yīng)用部署。企業(yè)通過(guò)新一代

AI

基礎(chǔ)設(shè)施開(kāi)發(fā)和運(yùn)行生成式

AI

業(yè)務(wù)和客戶應(yīng)用程序，以及基模型和行業(yè)模型的訓(xùn)練與微調(diào)（見(jiàn)圖

12）。在落地實(shí)踐中，廠商還會(huì)基于自身的經(jīng)驗(yàn)積累，針對(duì)用戶在訓(xùn)練和使用大模型時(shí)面臨的

AI

技術(shù)問(wèn)題，為用戶提供圍繞大模型開(kāi)發(fā)實(shí)踐的咨詢類服務(wù)。圖

12：新一代

AI

基礎(chǔ)設(shè)施主要由算力、MaaS

及相關(guān)工具構(gòu)成25算力基礎(chǔ)設(shè)施，為大模型訓(xùn)練和推理提供全面的計(jì)算、存儲(chǔ)等產(chǎn)品及服務(wù)，具有“大算力、高協(xié)同、強(qiáng)擴(kuò)展”的基本特性：

由高性能異構(gòu)集群組成強(qiáng)大的算力底座作為算力支撐，具備高互聯(lián)的計(jì)算網(wǎng)絡(luò)、高性能的文件存儲(chǔ)和大規(guī)模的

AI

算力資源。

高度的軟硬件系統(tǒng)協(xié)同為保障，護(hù)航大模型任務(wù)的高效、穩(wěn)定運(yùn)行。在建構(gòu)硬件層面的算力集群過(guò)程中，融合大模型分布式訓(xùn)練對(duì)計(jì)算、網(wǎng)絡(luò)、存儲(chǔ)的需求特點(diǎn)，高度集成

AI

軟件能力，充分關(guān)注數(shù)據(jù)傳輸、任務(wù)調(diào)度、并行優(yōu)化、資源利用、故障監(jiān)測(cè)等，設(shè)計(jì)和構(gòu)建高性能、彈性靈活、高容錯(cuò)的集群系統(tǒng)，保障訓(xùn)練和推理的高效、穩(wěn)定運(yùn)行。

具備非常強(qiáng)的線性擴(kuò)展能力，提供彈性靈活的云原生服務(wù)。將

GPU

等

AI

算力資源容器化、資源池化，在高彈性、高可用、高安全性的云原生架構(gòu)下，使算力的管理能力拓展到整個(gè)智算中心，實(shí)現(xiàn)對(duì)

AI

計(jì)算資源的靈活調(diào)度、遠(yuǎn)程共享等目標(biāo)，可以輕易支持萬(wàn)卡萬(wàn)參的大模型訓(xùn)練迭代。MaaS

平臺(tái)層為大模型應(yīng)用落地提供完整的服務(wù)和工具鏈體系，包括基礎(chǔ)大模型庫(kù)、大模型生產(chǎn)平臺(tái)、數(shù)據(jù)管理平臺(tái)、應(yīng)用程序開(kāi)發(fā)等主要部分。針對(duì)不同用戶需求，MaaS

平臺(tái)層可以提供不同服務(wù)類型：

提供預(yù)構(gòu)建的基礎(chǔ)大模型及

API，包括開(kāi)源和閉源的大模型，允許用戶調(diào)用API，直接獲取大模型相關(guān)的能力和服務(wù)，降低客戶的使用成本，快速滿足多個(gè)業(yè)務(wù)場(chǎng)景需求。

提供一站式大模型開(kāi)發(fā)工具及服務(wù)，包括模型訓(xùn)練、微調(diào)、評(píng)估、推理部署等，支持用戶訓(xùn)練新的模型，或根據(jù)不同行業(yè)和業(yè)務(wù)場(chǎng)景進(jìn)行微調(diào)，快速生成滿足自身需求的專屬大模型，強(qiáng)化大模型在細(xì)分領(lǐng)域的專項(xiàng)能力，推動(dòng)大26模型在不同行業(yè)領(lǐng)域的快速落地。

提供

AI

原生應(yīng)用開(kāi)發(fā)工具，滿足用戶基于大模型開(kāi)發(fā)

AI

原生應(yīng)用需求，賦能和重塑上層

AI

應(yīng)用生態(tài)發(fā)展，為終端用戶提供更卓越的生成式

AI

體驗(yàn)。

提供預(yù)構(gòu)建的高質(zhì)量數(shù)據(jù)集及

AI

數(shù)據(jù)管理服務(wù)，包括數(shù)據(jù)清洗、標(biāo)注、安全、合規(guī)等，降低用戶在數(shù)據(jù)層面上的投入和成本，保障隱私和數(shù)據(jù)安全。1.

新一代

AI

基礎(chǔ)設(shè)施的主要特點(diǎn)新一代

AI

基礎(chǔ)設(shè)施不是傳統(tǒng)云的

AI

化，兩者具有明顯定位和發(fā)展路徑的差別（見(jiàn)圖

13）。新一代

AI

基礎(chǔ)設(shè)施主要面向產(chǎn)業(yè)用戶，為超大模型研發(fā)訓(xùn)練、區(qū)域行業(yè)及應(yīng)用孵化創(chuàng)新提供

AI

基座，并跟隨產(chǎn)業(yè)區(qū)域落地向周邊輻射，通過(guò)可持續(xù)運(yùn)營(yíng)帶動(dòng)區(qū)域經(jīng)濟(jì)智能化發(fā)展。

“建運(yùn)一體”的智算中心充分發(fā)揮基礎(chǔ)設(shè)施效益，支持區(qū)域智能化經(jīng)濟(jì)發(fā)展。智算中心不僅是新一代

AI

基礎(chǔ)設(shè)施的物理載體，還是集公共算力服務(wù)、數(shù)據(jù)開(kāi)放共享、智能生態(tài)建設(shè)和產(chǎn)業(yè)創(chuàng)新聚集四大功能于一體的綜合服務(wù)平臺(tái)。國(guó)家信息中心《智能計(jì)算中心創(chuàng)新發(fā)展指南》測(cè)算，在智算中心實(shí)現(xiàn)

80%應(yīng)用水平下，區(qū)域?qū)χ撬阒行牡耐顿Y可帶動(dòng)

AI

核心產(chǎn)業(yè)增長(zhǎng)

2.9~3.4

倍、帶動(dòng)相關(guān)產(chǎn)業(yè)增長(zhǎng)約

36~42

倍。因此，“建好”智算中心不是目的,只有“用好”才能發(fā)揮效益。在建設(shè)規(guī)劃階段，需要以產(chǎn)業(yè)生態(tài)為導(dǎo)向，強(qiáng)調(diào)對(duì)區(qū)域產(chǎn)業(yè)、科研等應(yīng)用場(chǎng)景的支撐，選擇合理的建設(shè)和運(yùn)營(yíng)模式，進(jìn)行集約化建設(shè)，并在建成后實(shí)現(xiàn)可持續(xù)運(yùn)營(yíng)，幫助當(dāng)?shù)馗玫南懔Y源，以及促進(jìn)智能產(chǎn)業(yè)生態(tài)發(fā)展和

AI

人才培養(yǎng)，發(fā)揮智算中心普惠高效的賦能效果。

“大中心+節(jié)點(diǎn)”布局，建設(shè)跨地域互補(bǔ)、協(xié)同調(diào)度的超大規(guī)模

AI

算力網(wǎng)絡(luò)。27大模型研發(fā)及預(yù)訓(xùn)練需要低成本、大規(guī)模的

AI

算力資源支持，而在應(yīng)用階段會(huì)更注重滿足訓(xùn)練和推理一體需求。如何平衡不同需求下的算力供給，最大效率的使用算力資源非常關(guān)鍵。以“大中心+節(jié)點(diǎn)”模式建設(shè)算力一張網(wǎng)，實(shí)現(xiàn)訓(xùn)推算力協(xié)同調(diào)度。圍繞經(jīng)濟(jì)中心布局“大中心”，以低成本大規(guī)模算力集群為載體面向萬(wàn)億參數(shù)模型訓(xùn)練與部署；圍繞產(chǎn)業(yè)基礎(chǔ)好的區(qū)域落地算力節(jié)點(diǎn)，結(jié)合長(zhǎng)效運(yùn)營(yíng)來(lái)滿足產(chǎn)業(yè)訓(xùn)推一體的算力需求，并通過(guò)節(jié)點(diǎn)布局與大中心聯(lián)動(dòng)擴(kuò)展算力網(wǎng)絡(luò)輻射范圍，跨地域支撐訓(xùn)推算力協(xié)同調(diào)度。

側(cè)重國(guó)產(chǎn)化生態(tài)建設(shè)，增強(qiáng)基礎(chǔ)設(shè)施的自主可控。搭建基于國(guó)產(chǎn)軟硬件的AI

基礎(chǔ)設(shè)施，研發(fā)全棧國(guó)產(chǎn)化大模型，逐步形成自主可控的

AI

大模型產(chǎn)業(yè)生態(tài)關(guān)乎國(guó)家安全和戰(zhàn)略發(fā)展。以芯片國(guó)產(chǎn)化適配為例，華為自研昇騰

910已實(shí)現(xiàn)與包括科大訊飛、紫東太初、美團(tuán)等科技企業(yè)的戰(zhàn)略合作，基于華為昇騰原生研發(fā)、適配的大模型已經(jīng)超過(guò)

30

個(gè)，占據(jù)中國(guó)大模型的數(shù)量接近1150%

。商湯科技深度學(xué)習(xí)框架已支持多家國(guó)產(chǎn)化芯片訓(xùn)練，適配領(lǐng)域包括圖像分類、檢測(cè)、NLP

等主流領(lǐng)域，推動(dòng)算法與國(guó)產(chǎn)化芯片適配工作。圖

13：新一代

AI

基礎(chǔ)設(shè)施面對(duì)的是不同于傳統(tǒng)云的業(yè)務(wù)要求11

《華為宣布昇騰

AI

集群全面升級(jí)

推出首個(gè)萬(wàn)卡

AI

集群》，中國(guó)新聞網(wǎng)，2023

年

7

月282.

新一代

AI

基礎(chǔ)設(shè)施創(chuàng)造社會(huì)價(jià)值新一代

AI

基礎(chǔ)設(shè)施降低了大模型開(kāi)發(fā)和應(yīng)用的門檻，在政企服務(wù)、產(chǎn)業(yè)和科研創(chuàng)新等方面創(chuàng)造更大的社會(huì)價(jià)值（見(jiàn)圖

14）。具體來(lái)看包括三方面：

構(gòu)建政務(wù)大模型，“一模通辦”為政務(wù)服務(wù)提質(zhì)增效。將原本分散、碎片化的政務(wù)應(yīng)用，用一個(gè)性能強(qiáng)大、底座統(tǒng)一的大模型來(lái)承載，將大模型能力融入到數(shù)字政府的全流程場(chǎng)景中，無(wú)需為不同場(chǎng)景重復(fù)開(kāi)發(fā)，通過(guò)“一模通辦”并簡(jiǎn)化交互入口，全面提升地方政府智能化治理能力，推動(dòng)各類智能惠企、便民服務(wù)的高效、精準(zhǔn)實(shí)施，讓企業(yè)、市民都能更好的享受城市公共服務(wù)。例如，面對(duì)海量的政務(wù)數(shù)據(jù)，依托政務(wù)大模型，能夠幫助政府快速洞察熱點(diǎn)事件、分析惠企政策落地等情況，及時(shí)掌握市民的關(guān)注點(diǎn)、惠企政策的應(yīng)用成效等，為后續(xù)政策的制定和實(shí)施提供支持，提升社會(huì)治理水平。例如，基于政務(wù)大模型為市民打造統(tǒng)一的便民咨詢窗口，可以精準(zhǔn)識(shí)別企業(yè)、群眾辦事意圖等，準(zhǔn)確快速地給出最優(yōu)的辦理流程和依據(jù)，提高政務(wù)服務(wù)效率。

打造人工智能產(chǎn)業(yè)高地，大模型激發(fā)區(qū)域產(chǎn)業(yè)創(chuàng)新活力。一方面，將加快推進(jìn)傳統(tǒng)產(chǎn)業(yè)上下游各個(gè)環(huán)節(jié)的智能化轉(zhuǎn)型。例如，在農(nóng)業(yè)領(lǐng)域，可以結(jié)合遙感數(shù)據(jù)開(kāi)發(fā)出專屬的遙感農(nóng)業(yè)大模型，將

AI

技術(shù)下沉到水田農(nóng)地，在種植業(yè)監(jiān)測(cè)、耕地用途管理、涉農(nóng)金融等細(xì)分領(lǐng)域助力數(shù)字農(nóng)業(yè)技術(shù)的升級(jí)和推廣;

AI

基礎(chǔ)設(shè)施可以賦能工業(yè)大模型的研發(fā)和應(yīng)用，實(shí)現(xiàn)工業(yè)

AI

規(guī)?；a(chǎn)。另一方面，將催生新業(yè)態(tài)、新模式的不斷涌現(xiàn)。例如，MaaS

模式將重塑傳統(tǒng)云服務(wù)市場(chǎng)格局，將會(huì)出現(xiàn)大量行業(yè)大模型精調(diào)企業(yè)，作為通用大模型和企業(yè)之間的中間層，助力通用大模型轉(zhuǎn)化為行業(yè)大模型。還有海量

AI

原生應(yīng)用開(kāi)發(fā)企業(yè)、云原生安全創(chuàng)新公司等，將打通產(chǎn)業(yè)智能化的最后一公里。29

賦能科學(xué)大模型，激發(fā)人工智能驅(qū)動(dòng)科學(xué)研究（AI

for

Science）的新范式?；诖竽Ｐ蛯?duì)原子運(yùn)動(dòng)規(guī)律、物質(zhì)性質(zhì)等進(jìn)行預(yù)測(cè)和模擬，也可對(duì)醫(yī)學(xué)圖像、天文圖像等進(jìn)行更好的識(shí)別和理解，加速科學(xué)實(shí)驗(yàn)的自動(dòng)化和智能化，實(shí)現(xiàn)自動(dòng)化合成、自動(dòng)化表征等。目前，在生物制藥、氣象預(yù)報(bào)、地震探測(cè)、材料研發(fā)等科研領(lǐng)域，大模型技術(shù)已帶來(lái)了巨大的突破。例如，在生物計(jì)算領(lǐng)域，Deep-Mind

推出的

AlphaFold2

能夠覆蓋

98.5%的人類蛋白質(zhì)組，并12對(duì)

20

種其他生物蛋白質(zhì)的結(jié)構(gòu)進(jìn)行預(yù)測(cè)

。在氣象領(lǐng)域，上海人工智能實(shí)驗(yàn)室研發(fā)的全球中期天氣預(yù)報(bào)大模型“風(fēng)烏”，首次實(shí)現(xiàn)了在高分辨率上對(duì)13核心大氣變量進(jìn)行超過(guò)

10

天的有效預(yù)報(bào)

。圖

14：新一代

AI

基礎(chǔ)設(shè)施賦能政務(wù)、產(chǎn)業(yè)和科研創(chuàng)新價(jià)值12

《Nature

重磅：AlphaFold

對(duì)人類

98.5%蛋白質(zhì)進(jìn)》13

《上海

AI

實(shí)驗(yàn)室發(fā)布“風(fēng)烏”大模型，全球氣象有效預(yù)報(bào)時(shí)間首破

10

天》，上海人工智能實(shí)驗(yàn)室，2023

年

4

月303.

新一代

AI

基礎(chǔ)設(shè)施賦能企業(yè)享受生成式

AI

紅利基于新一代

AI

基礎(chǔ)設(shè)施，企業(yè)可以高效部署生成式

AI

應(yīng)用，充分利用生成式

AI

推動(dòng)各項(xiàng)創(chuàng)新優(yōu)化（見(jiàn)圖

15）。具體來(lái)看：

幫助企業(yè)實(shí)現(xiàn)業(yè)務(wù)洞察和流程優(yōu)化，提高決策和生產(chǎn)效率。大模型可以提供高效的數(shù)據(jù)分析和預(yù)測(cè)功能，幫助企業(yè)提升決策效率，還可以幫助企業(yè)實(shí)現(xiàn)流程自動(dòng)化，減少重復(fù)勞動(dòng)，從而提高生產(chǎn)效率。一方面，傳統(tǒng)企業(yè)服務(wù)軟件主動(dòng)擁抱大模型技術(shù)進(jìn)行軟件智能化升級(jí)。例如，微軟將大模型引入

ERP產(chǎn)品組合中，覆蓋財(cái)務(wù)、采購(gòu)和供應(yīng)鏈三大模塊來(lái)優(yōu)化預(yù)算、運(yùn)營(yíng)、財(cái)務(wù)、采購(gòu)等業(yè)務(wù)流程。另一方面，企業(yè)根據(jù)場(chǎng)景需求，基于大模型能力進(jìn)行業(yè)務(wù)升級(jí)。微博將商湯大語(yǔ)言模型與其業(yè)務(wù)數(shù)據(jù)進(jìn)行融合，讓博主擁有

AI

營(yíng)銷助手，進(jìn)行

AI

自動(dòng)選品、AI

生成營(yíng)銷內(nèi)容、AI

生成帶貨視頻，以及

AI

產(chǎn)品咨詢與客服運(yùn)營(yíng)等，打通“知識(shí)、種草、品牌店鋪、下單”的內(nèi)容電商全流程，彌合了微博廣大商家和博主從私域獲取流量到商業(yè)變現(xiàn)的“數(shù)字鴻溝”。

推動(dòng)大模型應(yīng)用融入日常辦公中，改變工作模式的同時(shí)提升員工效率。大模型能夠幫助員工快速寫(xiě)文本、寫(xiě)

PPT、寫(xiě)代碼、分析報(bào)表等，成為員工的辦公助手。大模型也能提升員工協(xié)作和知識(shí)共享的智能化水平。微軟將

GPT-4引入

Office

應(yīng)用程序中，推出

AI

助手

Microsoft

365

Copilot，用戶可以通過(guò)自然語(yǔ)言交互的方式來(lái)進(jìn)行文檔處理、會(huì)議記錄，快速進(jìn)行協(xié)同辦公，極大地提升了辦公效率。寶馬利用

Amazon

Q

生成式

AI

助手幫助寶馬數(shù)據(jù)分析師在數(shù)小時(shí)內(nèi)構(gòu)建儀表板，為寶馬客戶期望的精確體驗(yàn)提供快速的數(shù)據(jù)分析支持，大大提高了分析效率，以往需要數(shù)天時(shí)間完成。

幫助企業(yè)在個(gè)性化、智能化服務(wù)等方面進(jìn)一步提升客戶價(jià)值。企業(yè)可以基于31大模型能力，為客戶提供個(gè)性化產(chǎn)品和服務(wù)，也可以結(jié)合生成式

AI、數(shù)字人等，以更自然、智能化的交互形式，成為客戶的個(gè)性化助手。金融機(jī)構(gòu)在智能投顧、財(cái)富管理、客戶服務(wù)、理財(cái)產(chǎn)品營(yíng)銷等方面嘗試大模型。工商銀行已在國(guó)內(nèi)同業(yè)率先實(shí)現(xiàn)百億級(jí)大模型在智能助手、知識(shí)運(yùn)營(yíng)助手、金融市場(chǎng)投研助手等多個(gè)場(chǎng)景落地；平安銀行則通過(guò)大模型提升數(shù)字人功能，改善智能客服體驗(yàn)。某消費(fèi)金融機(jī)構(gòu)披露數(shù)據(jù)顯示，由大模型賦能的智能客服對(duì)客戶意圖理解準(zhǔn)確率達(dá)到

91%，相較于傳統(tǒng)人工智能有

68%的明顯提升。

為企業(yè)在產(chǎn)品/服務(wù)、業(yè)務(wù)模式、技術(shù)等方面提供更大的創(chuàng)新空間。企業(yè)創(chuàng)新投入高，大模型技術(shù)可以有效降低創(chuàng)新試錯(cuò)成本，同時(shí)加大創(chuàng)新發(fā)現(xiàn)的可能。生物醫(yī)藥公司正在嘗試將大模型技術(shù)與醫(yī)藥研發(fā)環(huán)節(jié)相結(jié)合。美國(guó)合成生物學(xué)公司

AbSci

在零樣本的情況下使用大模型設(shè)計(jì)構(gòu)建不同于現(xiàn)有抗體數(shù)據(jù)庫(kù)的抗體，包括了所有三重鏈條

CDR

的從頭測(cè)序版本，也是靶標(biāo)檢測(cè)最關(guān)鍵的抗體區(qū)域，并且通過(guò)

10

萬(wàn)多種抗體進(jìn)行驗(yàn)證，發(fā)現(xiàn)命中率高出生物基線水平檢測(cè)的

5

到

30

倍，提高了候選新藥進(jìn)入臨床的效率以及成功率。圖

15：生成式

AI

為企業(yè)帶來(lái)四方面業(yè)務(wù)紅利32四、新一代

AI

基礎(chǔ)設(shè)施廠商格局與評(píng)估AI

2.0

時(shí)代出現(xiàn)了兩個(gè)新的市場(chǎng)發(fā)展空間，一個(gè)是基于大模型的生成式

AI應(yīng)用，也是爆發(fā)最快，但是落地機(jī)會(huì)依然處于探索期；另外一個(gè)則是為大模型和生成式

AI

提供基礎(chǔ)設(shè)施，包括算力、MaaS

等一系列服務(wù)，進(jìn)而支撐前者的高速發(fā)展?！耙敫唬刃蘼贰?，新一代

AI

基礎(chǔ)設(shè)施就是

AI

2.0

時(shí)代的“路”，是支撐大模型、生成式

AI

繁榮發(fā)展的基座。在此背景下，AI

基礎(chǔ)設(shè)施市場(chǎng)在

2023年進(jìn)入高速發(fā)展階段，越來(lái)越多的廠商進(jìn)入，根據(jù)自身產(chǎn)品技術(shù)的布局和優(yōu)勢(shì)，提供

AI

基礎(chǔ)設(shè)施服務(wù)體系。與此同時(shí)，為了更快的享受到

AI

2.0

時(shí)代的紅利或是更快的開(kāi)展自身技術(shù)的落地，用戶更加傾向于選擇外部供應(yīng)商來(lái)幫助他們搭建技術(shù)基座。IDC

調(diào)研顯示，超過(guò)

54%的被訪者計(jì)劃將生成式

AI

相關(guān)的投資預(yù)算用于外部供應(yīng)商提供的AI

基礎(chǔ)設(shè)施、AI

軟件平臺(tái)以及相應(yīng)的專家咨詢服務(wù)。1.

云計(jì)算、AI

原生、硬件系統(tǒng)三類廠商塑造市場(chǎng)格局AI

基礎(chǔ)設(shè)施市場(chǎng)依然處于高速競(jìng)爭(zhēng)的初級(jí)階段，從進(jìn)入該市場(chǎng)不同廠商的所屬類別來(lái)看，AI

基礎(chǔ)設(shè)施廠商格局基本由云計(jì)算、AI

原生、硬件系統(tǒng)三類廠商構(gòu)成（見(jiàn)圖

16）。三類廠商的業(yè)務(wù)出發(fā)點(diǎn)和產(chǎn)品規(guī)劃方向分別具有以下特點(diǎn)：

云計(jì)算廠商依托其成熟的云平臺(tái)加強(qiáng)

AI

相關(guān)產(chǎn)品體系的建設(shè)。此類別廠商以阿里云、百度智能云等傳統(tǒng)云計(jì)算廠商為代表，在大模型、生成式

AI

爆發(fā)之際，全面升級(jí)云計(jì)算基礎(chǔ)設(shè)施以適應(yīng)

AI

2.0

時(shí)代對(duì)基礎(chǔ)設(shè)施提出的新要求。升級(jí)手段包括啟動(dòng)

GPU

集群的建設(shè)和相應(yīng)工程化系統(tǒng)建設(shè)，加強(qiáng)原機(jī)33器學(xué)習(xí)平臺(tái)面向大模型的分布式訓(xùn)練能力，高帶寬網(wǎng)絡(luò)的連接，以及培育自身對(duì)

AI

技術(shù)發(fā)展的理解等。2023

年

11

月，阿里云在云棲大會(huì)上宣布，面向智能時(shí)代，阿里云將通過(guò)從底層算力到

AI

平臺(tái)再到模型服務(wù)的全棧技術(shù)創(chuàng)新，升級(jí)云計(jì)算體系14。2023

年

12

月，百度表示，為滿足大模型落地15需求，正在基于“云智一體”戰(zhàn)略重構(gòu)云計(jì)算服務(wù)

。

AI

原生廠商基于領(lǐng)先的

AI

產(chǎn)品體系的積累進(jìn)一步鞏固算力資源投入。“春江水暖鴨先知”，作為長(zhǎng)期浸淫

AI

產(chǎn)業(yè)的

AI

原生廠商，以商湯科技、科大訊飛為代表，也在不斷加強(qiáng)基礎(chǔ)設(shè)施產(chǎn)品矩陣的規(guī)劃。由于已經(jīng)擁有成熟的AI

原生產(chǎn)品技術(shù)以及領(lǐng)先的經(jīng)驗(yàn)洞察，此類廠商更加重視的是在算力資源層面的布局，以及逐步發(fā)展開(kāi)拓以云服務(wù)為核心的交付能力，同時(shí)也在不斷加強(qiáng)對(duì)于

MaaS

平臺(tái)的建設(shè)。2021

年初，商湯科技正式對(duì)外公布其

AI

基礎(chǔ)設(shè)施戰(zhàn)略布局，并建設(shè)上海臨港

AIDC

作為

AI

基礎(chǔ)設(shè)施的物理載體，力求打通算力、算法和平臺(tái)，全面構(gòu)建面向

AI

時(shí)代的基礎(chǔ)設(shè)施。

硬件廠商憑借算力產(chǎn)品的優(yōu)勢(shì)布局逐步加強(qiáng)

AI

產(chǎn)品技術(shù)的布局。傳統(tǒng)硬件廠商，分別從自身原有的服務(wù)器或芯片開(kāi)始加強(qiáng)布局

AI

基礎(chǔ)設(shè)施，滿足用戶的訓(xùn)練與推理需求。IDC

數(shù)據(jù)顯示，作為服務(wù)器市場(chǎng)中的關(guān)鍵組成部分，AI

服務(wù)器市場(chǎng)增速最高，2023

年中國(guó)市場(chǎng)規(guī)模將達(dá)

91

億美元，同比增長(zhǎng)82.5%，2027

年將達(dá)到

134

美元，五年年復(fù)合增長(zhǎng)率為

21.8%，此領(lǐng)域的代表廠商有浪潮、新華三等。浪潮作為

AI

服務(wù)器出貨量領(lǐng)先的廠商之一，還在不斷加強(qiáng)對(duì)

AI

平臺(tái)能力的補(bǔ)齊，同時(shí)在近期推出了“源

2.0”基礎(chǔ)大模型，并宣布全面開(kāi)源，進(jìn)一步完善自身的

AI

基礎(chǔ)設(shè)施體系。14

《大模型時(shí)代的阿里云，將云計(jì)算進(jìn)行到底》，36

氪，2023

年

11

月15

《AI

原生與大模型將從三個(gè)層面重構(gòu)云計(jì)算》，騰訊網(wǎng)，2023

年

12

月34圖

16：新一代

AI

基礎(chǔ)設(shè)施廠商格局一覽云計(jì)算廠商從云計(jì)算進(jìn)入

AI

基礎(chǔ)設(shè)施市場(chǎng)，重點(diǎn)提主要特征

升算力層面的智能化、加強(qiáng)

MaaS

服務(wù)能力AI

原生廠商硬件系統(tǒng)廠商從

AI

原生進(jìn)入

AI

基

從傳統(tǒng)算力設(shè)備進(jìn)入礎(chǔ)設(shè)施市場(chǎng)，重點(diǎn)加

AI

基礎(chǔ)設(shè)施市場(chǎng)，重強(qiáng)算力層面的建設(shè)和

點(diǎn)布局

AI

相關(guān)的產(chǎn)云交付能力的構(gòu)建品技術(shù)與應(yīng)用服務(wù)領(lǐng)先的技術(shù)積累使其能夠快速進(jìn)入并領(lǐng)先深度研發(fā)算力硬件設(shè)施，如

AI

服務(wù)器、AI

芯片，不斷提升計(jì)算能力和處理效率，在算力層擁有領(lǐng)先的技術(shù)儲(chǔ)備具有豐富節(jié)點(diǎn)布局的云數(shù)據(jù)中心，以及

于生成式

AI

發(fā)展趨優(yōu)勢(shì)經(jīng)受過(guò)業(yè)務(wù)發(fā)展錘煉的云計(jì)算平臺(tái)及相關(guān)產(chǎn)品勢(shì)，同時(shí)擁有深厚的AI

落地應(yīng)用的經(jīng)驗(yàn)，基礎(chǔ)設(shè)施從一開(kāi)始就是面向

AI

原生體系面對(duì)

AI

2.0

時(shí)代，需要加強(qiáng)生成式

AI技術(shù)的研發(fā)能力和需補(bǔ)齊

AI

相關(guān)的技術(shù)積累和產(chǎn)品矩陣，還要思考如何從硬件供應(yīng)商向技術(shù)服務(wù)提供商的身份轉(zhuǎn)變加強(qiáng)算力資源的投資與建設(shè)，尤其要開(kāi)始挑戰(zhàn)儲(chǔ)備，對(duì)現(xiàn)有的云計(jì)

布局智算中心網(wǎng)絡(luò)并算基礎(chǔ)設(shè)施進(jìn)行全面升級(jí)和重構(gòu)提升商業(yè)化運(yùn)營(yíng)能力35阿里云、百度智能代表廠商

云、火山引擎、騰訊云等第四范式、科大訊飛、

華為、寒武紀(jì)、浪潮、曠視、商湯科技等

新華三等注：本次研究聚焦于能夠提供比較全面

AI

基礎(chǔ)設(shè)施產(chǎn)品服務(wù)的廠商。對(duì)于市場(chǎng)上僅提供

AI

基礎(chǔ)設(shè)施部分產(chǎn)品服務(wù)的廠商暫不納入此次研究范疇。2.

評(píng)估體系：產(chǎn)品能力、戰(zhàn)略愿景與市場(chǎng)生態(tài)新一代

AI

基礎(chǔ)設(shè)施的市場(chǎng)格局處于高速發(fā)展中，越來(lái)越多不同出身的技術(shù)廠商進(jìn)入該市場(chǎng)提供相關(guān)服務(wù)，如何全面了解

AI

基礎(chǔ)設(shè)施廠商發(fā)展水平，為企業(yè)用戶的

AI

基礎(chǔ)設(shè)施選型提供可靠性指導(dǎo)，成為當(dāng)下一個(gè)關(guān)鍵課題。為此，出于充分評(píng)估

AI

基礎(chǔ)設(shè)施廠商綜合能力的目的，我們特意搭建了

AI

基礎(chǔ)設(shè)施評(píng)估體系，包括三個(gè)評(píng)估維度、十二個(gè)指標(biāo)（見(jiàn)圖

17）。

產(chǎn)品服務(wù)能力。主要評(píng)估的是

AI

基礎(chǔ)設(shè)施的技術(shù)積累情況和產(chǎn)品功能豐富度，以及支撐大模型訓(xùn)練和生成式

AI

應(yīng)用落地的工程化能力，具體包括四大評(píng)估指標(biāo)：產(chǎn)品技術(shù)及服務(wù)、工程化、市場(chǎng)響應(yīng)及發(fā)展、客戶體驗(yàn)。

戰(zhàn)略規(guī)劃愿景。主要評(píng)估的是廠商對(duì)

AI

基礎(chǔ)設(shè)施市場(chǎng)發(fā)展的理解，以及是否有明確的圍繞產(chǎn)品、銷售的戰(zhàn)略規(guī)劃和清晰的執(zhí)行路線圖，當(dāng)然也包括當(dāng)下已經(jīng)積累的創(chuàng)新投資和布局，具體包括四大評(píng)估指標(biāo)：市場(chǎng)認(rèn)知、產(chǎn)品戰(zhàn)略、銷售戰(zhàn)略、創(chuàng)新規(guī)劃。

市場(chǎng)生態(tài)表現(xiàn)。主要評(píng)估的是

AI

基礎(chǔ)設(shè)施的商業(yè)化落地表現(xiàn)，以及圍繞基礎(chǔ)設(shè)施的生態(tài)布局，并評(píng)估廠商在此領(lǐng)域的業(yè)務(wù)表現(xiàn)和客戶和行業(yè)的覆蓋情況，具體包括四大評(píng)估指標(biāo)：營(yíng)收及客戶、行業(yè)覆蓋、生態(tài)體系、商業(yè)模式。36圖

17：新一代

AI

基礎(chǔ)設(shè)施評(píng)估體系評(píng)估維度評(píng)估指標(biāo)指標(biāo)描述權(quán)重衡量廠商在

AI

基礎(chǔ)設(shè)施產(chǎn)品服務(wù)在關(guān)鍵領(lǐng)域的競(jìng)爭(zhēng)力和成功程度。簡(jiǎn)單來(lái)說(shuō)，圍繞大模型訓(xùn)練與推理、生成式

AI

應(yīng)用落地的產(chǎn)品技術(shù)，以及交付部署模式，包括不限于數(shù)據(jù)管理能力、算力規(guī)模、MaaS

服務(wù)體系、云交付、安全隱私、以及相應(yīng)的工具鏈。產(chǎn)品技術(shù)高這一指標(biāo)主要衡量廠商在

AI

基礎(chǔ)設(shè)施的產(chǎn)品服務(wù)矩陣是否針對(duì)大模型訓(xùn)練與推理層面提供優(yōu)化措施，包括不限于訓(xùn)練效率、穩(wěn)定性、可用性、以及相關(guān)經(jīng)驗(yàn)的沉淀等。工程化建設(shè)高產(chǎn)品服務(wù)該指標(biāo)將會(huì)系統(tǒng)的衡量廠商在市場(chǎng)上的發(fā)展勢(shì)頭和成功程度，以及對(duì)市場(chǎng)發(fā)展趨勢(shì)的捕捉和理解能力，還包括營(yíng)銷洞察及產(chǎn)品定位和對(duì)市場(chǎng)動(dòng)態(tài)變化的應(yīng)對(duì)能力。市場(chǎng)響應(yīng)中該指標(biāo)關(guān)注客戶在采購(gòu)廠商服務(wù)之后的合作體驗(yàn)，包括不限于落地執(zhí)行性、相關(guān)培訓(xùn)的到位，以及領(lǐng)先于客戶的技術(shù)洞察力。該指標(biāo)還會(huì)衡量現(xiàn)有客戶對(duì)廠商的滿意度情況，以及未來(lái)相關(guān)性的看法。鑒于支撐大模型、生成式

AI

依然是新興的技術(shù)領(lǐng)域，所以為客戶提供專業(yè)的相客戶體驗(yàn)中37關(guān)專家服務(wù)水平也會(huì)被納入進(jìn)來(lái)衡量。該指標(biāo)，主要衡量的是廠商對(duì)市場(chǎng)買家需求的理解情況，并將其轉(zhuǎn)化為產(chǎn)品和服務(wù)的能力，以及廠商與客戶不斷變化的需求的契合程度，

中以及其客戶對(duì)廠商所輸出的思想理念和新興技術(shù)的接受程度。市場(chǎng)認(rèn)知衡量廠商支持未來(lái)將創(chuàng)造商業(yè)價(jià)值的關(guān)鍵趨勢(shì)的能力。根據(jù)廠商的產(chǎn)品發(fā)展路線圖，其中有利于創(chuàng)造商業(yè)價(jià)值的產(chǎn)品功能將會(huì)成為衡量重

高點(diǎn)并得分，并且能夠關(guān)注廠商是否能夠提出有充分驗(yàn)證邏輯的領(lǐng)先于其它友商的發(fā)展路徑。這一指標(biāo)關(guān)注廠商的銷售策略如何驅(qū)動(dòng)市場(chǎng)上的企業(yè)用戶了解和信任其相關(guān)產(chǎn)品服務(wù)，包括不限于

AI

基礎(chǔ)設(shè)施的產(chǎn)品化輸出與銷售策略制定，相應(yīng)的銷售組織建設(shè)與資源投入，以及

高是否有一套清晰的敘事邏輯來(lái)傳達(dá)其在市場(chǎng)中的價(jià)值和優(yōu)勢(shì)，還包括在垂直行業(yè)的布局和認(rèn)知程度等。產(chǎn)品戰(zhàn)略戰(zhàn)略規(guī)劃銷售戰(zhàn)略主要衡量廠商在多大程度上為

AI

基礎(chǔ)設(shè)施能力投資、擴(kuò)展相關(guān)價(jià)值體系和提供獨(dú)特能力，創(chuàng)新規(guī)劃高還包括公司在研發(fā)投入和人才儲(chǔ)備情況，以及人工智能論文、專利數(shù)量的積累和創(chuàng)新等。該38指標(biāo)評(píng)判廠商是否正在樹(shù)立可供其他供應(yīng)商效仿的創(chuàng)新標(biāo)準(zhǔn)。重點(diǎn)衡量廠商基于

AI

基礎(chǔ)設(shè)施構(gòu)建的商業(yè)化模型，以及不同商業(yè)化模式的目標(biāo)客戶群體定

中位情況，以及可信服的發(fā)展路徑。商業(yè)模式行業(yè)覆蓋聚焦廠商在不同行業(yè)所提供的的解決方案能中力，以及覆蓋行業(yè)的廣度和深度。市場(chǎng)生態(tài)衡量廠商的

AI

開(kāi)源策略，底層硬件層面的國(guó)產(chǎn)化適配能力，還包括高校合作創(chuàng)新的布局情況，生態(tài)體系業(yè)績(jī)規(guī)模中以及其它合作伙伴和聯(lián)盟等合作形式的發(fā)展情況等。廠商在

2023

年的營(yíng)收數(shù)字和同比增長(zhǎng)幅度，中以及在

2023

年的付費(fèi)客戶數(shù)量。3.

商湯科技評(píng)估結(jié)果：新一代

AI

基礎(chǔ)設(shè)施市場(chǎng)領(lǐng)導(dǎo)者基于上述評(píng)估體系，選取了十二家最具代表性的

AI

基礎(chǔ)設(shè)施廠商，從產(chǎn)品技術(shù)、戰(zhàn)略愿景、市場(chǎng)生態(tài)三大維度的十二個(gè)評(píng)估指標(biāo)進(jìn)行定性和定量的全面評(píng)估。根據(jù)指標(biāo)描述里的衡量細(xì)節(jié)，為廠商打分，得出十二個(gè)指標(biāo)的得分情況（滿分

10

分）。評(píng)估結(jié)果顯示，商湯科技是

AI

基礎(chǔ)設(shè)施市場(chǎng)的領(lǐng)導(dǎo)者（見(jiàn)圖

18）。商湯科技在當(dāng)前

AI

基礎(chǔ)設(shè)施評(píng)估體系中得分超過(guò)廠商平均分，并在市場(chǎng)響應(yīng)、市場(chǎng)認(rèn)知、產(chǎn)品戰(zhàn)略、工程化建設(shè)四個(gè)評(píng)估指標(biāo)拿到滿分。商湯在產(chǎn)品服務(wù)39能力呈現(xiàn)出較強(qiáng)的產(chǎn)品實(shí)力和技術(shù)積累，早于友商的布局為其帶來(lái)了領(lǐng)先性差距。在戰(zhàn)略規(guī)劃方面，商湯擁有領(lǐng)先的市場(chǎng)認(rèn)知，并在戰(zhàn)略規(guī)劃上面設(shè)定了明確的執(zhí)行路徑，捕捉到了

AI

2.0

時(shí)代所帶來(lái)的產(chǎn)業(yè)變化，并基于此進(jìn)化了自身的產(chǎn)品戰(zhàn)略和銷售戰(zhàn)略。在市場(chǎng)生態(tài)方面，商湯構(gòu)建了算法開(kāi)源生態(tài)體系，與業(yè)界共享創(chuàng)新成果，并打造了多元化的商業(yè)模式，并在垂直行業(yè)擁有較全面覆蓋。商湯科技推出的

AI

基礎(chǔ)設(shè)施產(chǎn)品與解決方案為“SenseCore

商湯大裝置”，早在

2021

年，商湯就提出“大裝置”的概念，成為中國(guó)首個(gè)提出新一代

AI

基礎(chǔ)設(shè)施思考并付諸于行動(dòng)的廠商，2022

年作為其

AI

基礎(chǔ)設(shè)施重要載體的人工智能計(jì)算中心（AIDC）正式投入運(yùn)營(yíng)。SenseCore

商湯大裝置搭建了完善的

AI基礎(chǔ)設(shè)施架構(gòu)，包括

AI

原生算力基礎(chǔ)設(shè)施、大模型生產(chǎn)平臺(tái)、模型即服務(wù)，輔以

AI

專家服務(wù)和數(shù)據(jù)服務(wù)助力相關(guān)技術(shù)舉措的落地（見(jiàn)圖

19）。圖

18：新一代

AI

基礎(chǔ)設(shè)施廠商評(píng)估結(jié)果

-

商湯科技40圖

19：SenseCore

商湯大裝置全景圖4.

SenseCore

商湯大裝置技術(shù)發(fā)展優(yōu)勢(shì)SenseCore

商湯大裝置致力于建設(shè)高效率、低成本、規(guī)?；男乱淮?/p>

AI

基礎(chǔ)設(shè)施，以人工智能大模型開(kāi)發(fā)、生成、應(yīng)用為核心，打造一站式、自主研發(fā)的AI

云、AI

平臺(tái)、AI

服務(wù)解決方案，賦能

AI

生產(chǎn)新范式。商湯大裝置完善技術(shù)儲(chǔ)備和創(chuàng)新，打造算力資源、MaaS

平臺(tái)、數(shù)據(jù)服務(wù)和國(guó)產(chǎn)化適配生態(tài)，基于全國(guó)范圍的算力中心和節(jié)點(diǎn)，面向大模型、生成式

AI

場(chǎng)景構(gòu)建產(chǎn)品（見(jiàn)圖

20）：

AI

原生云算力基礎(chǔ)設(shè)施，使能極致大模型開(kāi)發(fā)體驗(yàn)。商湯大裝置在算力層圍繞著大模型開(kāi)發(fā)和實(shí)踐進(jìn)行了全面打造，包括計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)與管理平臺(tái)（見(jiàn)圖

21）。打造高穩(wěn)定性的算力池，實(shí)現(xiàn)千卡并行訓(xùn)練線性加速比超過(guò)90%，實(shí)現(xiàn)

30

天長(zhǎng)時(shí)間訓(xùn)練不間斷，實(shí)現(xiàn)分鐘級(jí)的異常檢測(cè)和斷點(diǎn)續(xù)訓(xùn)。優(yōu)化存儲(chǔ)系統(tǒng)，實(shí)現(xiàn)

IOPS

緩存系統(tǒng)高于

500

萬(wàn)，存儲(chǔ)處理達(dá)千億級(jí)別，應(yīng)對(duì)視覺(jué)、多模態(tài)數(shù)據(jù)管理需求。高性能無(wú)損訓(xùn)練網(wǎng)絡(luò)，單節(jié)點(diǎn)訓(xùn)練網(wǎng)達(dá)到

1.6T的帶寬并向

3.2T

發(fā)展。提供云管理平臺(tái)，實(shí)現(xiàn)公有、專有、私有、混合等41多云部署模式，并支持

Web

控制臺(tái)、移動(dòng)控制臺(tái)、CLI

命令行、API

調(diào)用等多種方式，提供涵蓋監(jiān)控、運(yùn)維、計(jì)費(fèi)、消費(fèi)等可視化平臺(tái)。商湯大裝置將會(huì)進(jìn)一步升級(jí)算力基礎(chǔ)設(shè)施，實(shí)現(xiàn)

2-3

倍性能提升，提升

50%性