計算機算力專題研究：助力數(shù)字經(jīng)濟人工智能開啟算力時代

計算機算力專題研究：助力數(shù)字經(jīng)濟，人工智能開啟算力時代1.算力是數(shù)字經(jīng)濟時代生產(chǎn)力1.1.數(shù)據(jù)成為經(jīng)濟發(fā)展重要生產(chǎn)要素按照IDC總結(jié)，全球計算數(shù)據(jù)的創(chuàng)建與使用總結(jié)為三個階段：1980年以前：數(shù)據(jù)集中在數(shù)據(jù)中心存儲與處理，即使可通過遠程訪問，終端計算能力低下，也無法對數(shù)據(jù)進行深度計算，數(shù)據(jù)均為商用。1980-2000：摩爾定律顯威，PC興起，數(shù)據(jù)的產(chǎn)生、處理與存儲更多流向終端，同時出現(xiàn)了音樂、電影和游戲的數(shù)字娛樂產(chǎn)業(yè)。2000至今：無線寬帶普及推動數(shù)據(jù)進入云端，將數(shù)據(jù)與特定的物理設(shè)備脫鉤。社交與流媒體的興起使得數(shù)據(jù)中心更多承擔數(shù)據(jù)交互與集中計算任務(wù)，而在不斷交互過程中數(shù)據(jù)量高速增長。數(shù)據(jù)量呈現(xiàn)指數(shù)級增長，企業(yè)端占比不斷提升。根據(jù)中國信通院，到2035年，全球數(shù)據(jù)量將達2142ZB（ZB：Zettabyte，1ZB約十萬億億字節(jié)），是2020年所創(chuàng)建數(shù)據(jù)量的45-46倍。而由于進入云時代，數(shù)據(jù)在本地存儲的需求逐步減少，企業(yè)在云端可為客戶提供實時的數(shù)據(jù)和服務(wù)。數(shù)據(jù)逐漸成為經(jīng)濟發(fā)展的重要生產(chǎn)要素。基于云能夠快速訪問的數(shù)據(jù)運用方式，數(shù)據(jù)日益影響企業(yè)和日常生活，例如商業(yè)航空旅行、自動駕駛、醫(yī)療應用、控制系統(tǒng)和遙測技術(shù)等社會生產(chǎn)力緊密相關(guān)的數(shù)據(jù)占比持續(xù)提升。IDC預計到2025年，娛樂相關(guān)的消費型數(shù)據(jù)占比將從2012年接近60%下降至30%左右，余下約70%將是非娛樂化的圖像/視頻、生產(chǎn)力數(shù)據(jù)、工業(yè)生產(chǎn)等嵌入式數(shù)據(jù)。1.2.數(shù)據(jù)重要性提升，多維數(shù)據(jù)整合挖掘深度價值，催生算力旺盛需求重要數(shù)據(jù)量快速增長。不同數(shù)據(jù)間的重要性相差較大，例如：醫(yī)療類數(shù)據(jù)重要于流媒體數(shù)據(jù)，不同數(shù)據(jù)運行出現(xiàn)問題所造成的影響亦不同，例如私用PC宕機造成文件丟失和自動駕駛數(shù)據(jù)錯誤造成人員傷亡。IDC預計未來關(guān)鍵數(shù)據(jù)量增速將高于數(shù)據(jù)量總體增長，2025年需要安全防護的企業(yè)經(jīng)營/醫(yī)療記錄等數(shù)據(jù)占比將達87%。單個數(shù)據(jù)的價值下降，多維數(shù)據(jù)整合方可挖掘深度價值，進一步催生算力需求。當前數(shù)據(jù)指數(shù)級增長的同時，數(shù)據(jù)類型也更加多元化，在交通、工業(yè)、商業(yè)運營等領(lǐng)域，少量、單一化的數(shù)據(jù)的價值較低，只有將大量、多維度的數(shù)據(jù)進行綜合分析才能產(chǎn)生應有的價值。例如交管領(lǐng)域?qū)τ诤谲嚨淖R別，需要將車輛行駛軌跡、車輛圖像識別、人像識別與對比、車牌登記數(shù)據(jù)比對等多維度數(shù)據(jù)進行分析才能準確篩選。對于龐雜的不同類型數(shù)據(jù)（尤其非結(jié)構(gòu)化的）統(tǒng)一分析與存儲的需求催生了數(shù)據(jù)湖概念，同時隨著云計算技術(shù)的深入應用，帶來資源集約化和應用靈活性優(yōu)勢的云原生概念也產(chǎn)生，大規(guī)模集群計算需求旺盛。全球超級數(shù)據(jù)中心占比快速提升，算力進一步集中。近五年全球數(shù)據(jù)中心任務(wù)量增長135%，大數(shù)據(jù)挖掘與應用、人工智能深度學習需求旺盛，隨著摩爾定律逐漸走向極限，超級數(shù)據(jù)中心成為數(shù)據(jù)中心主要增量。根據(jù)Cisco數(shù)據(jù)，全球超級數(shù)據(jù)中心打造服務(wù)器數(shù)量占所有數(shù)據(jù)中心搭載服務(wù)器比例由2016年的27%提升至2021年的53%。1.3.算力正成為經(jīng)濟增長主要動力之一算力已成為數(shù)字經(jīng)濟時代的關(guān)鍵生產(chǎn)力要素。在傳統(tǒng)的西方經(jīng)濟學理論中，驅(qū)動社會經(jīng)濟發(fā)展的生產(chǎn)要素包括了勞動、資本、土地、企業(yè)家的才能等。而在一系列新興信息數(shù)字技術(shù)的興起與廣泛應用的數(shù)字經(jīng)濟時代中，與計算能力的形成直接相關(guān)的算力資本投入（數(shù)據(jù)、算力、算法），如同農(nóng)業(yè)時代的水利、工業(yè)時代的電力，已成為數(shù)字經(jīng)濟發(fā)展的核心生產(chǎn)力，是國民經(jīng)濟發(fā)展的重要基礎(chǔ)設(shè)施。國務(wù)院印發(fā)的《“十四五”數(shù)字經(jīng)濟發(fā)展規(guī)劃》中也明確提及到2025年我國數(shù)字經(jīng)濟核心產(chǎn)業(yè)增加值占GDP比重將從2020年的7.8%上升到10%，數(shù)字經(jīng)濟將為經(jīng)濟社會持續(xù)健康發(fā)展提供持續(xù)動力。中美算力規(guī)模全球領(lǐng)先。截至2021年底，全球數(shù)據(jù)中心算力總規(guī)模達521EFLOPS（EFLOPS：每秒進行10^18次浮點運算）。中美兩國算力規(guī)模分別約為161EFLOPS和140EFLOPS，占全球總算力份額約為31%和27%。計算力和GDP增長顯著相關(guān)。根據(jù)IDC等機構(gòu)的研究，全球平均來看，他們構(gòu)建的“計算力指數(shù)”每提升1個點，國家數(shù)字經(jīng)濟和GDP將分別增長3.5‰和1.8‰。同時，“計算力指數(shù)”越高，對GDP的拉動作用越顯著。1.4.東數(shù)西算，數(shù)字經(jīng)濟時代新基建啟航大數(shù)據(jù)時代，算力與數(shù)據(jù)增長齊頭并進。根據(jù)《中國算力白皮書（2022年）》的數(shù)據(jù)，2021年我國算力總規(guī)模達到140Eflops（每秒一萬四千億億次浮點運算，包含通用算力、智能算力、超算算力，邊緣算力暫未納入統(tǒng)計范圍），全球占比約為27%，近五年年均增速超30%。展望未來，工信部印發(fā)的《“十四五”信息通信行業(yè)發(fā)展規(guī)劃》指出2025年我國數(shù)據(jù)中心算力總規(guī)模將增長到300EFLOPS，CAGR達22%；另一方面，伴隨5G、人工智能、物聯(lián)網(wǎng)等技術(shù)的應用普及，數(shù)據(jù)流量增長速率也在不斷加快。根據(jù)IDC的預測，全球數(shù)據(jù)總量在2020年將達50ZB，而這一數(shù)據(jù)到2025年有望達到175ZB，CAGR達28%。與此同時，根據(jù)中央網(wǎng)信辦的數(shù)據(jù)統(tǒng)計，2019年度中國移動互聯(lián)網(wǎng)數(shù)據(jù)接入量為1,655.50億GB，預計2024年將達到5,680.90GB，CAGR也高達28%。因此，我們認為在當前數(shù)字經(jīng)濟大時代下，適度超前建設(shè)以數(shù)據(jù)中心為首的新型基建具有明確的戰(zhàn)略意義?！皷|數(shù)西算”正式啟動，預計每年帶動4000億投資。今年二月，國家發(fā)展改革委、中央網(wǎng)信辦、工業(yè)和信息化部、國家能源局聯(lián)合印發(fā)通知，同意在京津冀、長三角、粵港澳大灣區(qū)、成渝、內(nèi)蒙古、貴州、甘肅、寧夏等8地啟動建設(shè)國家算力樞紐節(jié)點，并規(guī)劃了10個國家數(shù)據(jù)中心集群，標志著“東數(shù)西算”工程正式全面啟動。與“西氣東輸”“西電東送”“南水北調(diào)”等工程相似，“東數(shù)西算”是一個國家級算力資源跨域調(diào)配戰(zhàn)略工程，針對我國東西部算力資源分布總體呈現(xiàn)出“東部不足、西部過?！钡牟黄胶饩置?，引導中西部利用能源優(yōu)勢建設(shè)算力基礎(chǔ)設(shè)施，“數(shù)據(jù)向西，算力向東”，服務(wù)東部沿海等算力緊缺區(qū)域，解決我國東西部算力資源供需不均衡的現(xiàn)狀?！皷|數(shù)西算”工程對我國的長遠發(fā)展有重要的意義：有利于提升國家整體算力水平：通過全國一體化的數(shù)據(jù)中心布局建設(shè)，擴大算力設(shè)施規(guī)模，提高算力使用效率，實現(xiàn)全國算力規(guī)模化集約化發(fā)展。有利于促進綠色節(jié)能：數(shù)據(jù)中心屬于高耗能行業(yè)，又被稱為“不冒煙的鋼廠”。將數(shù)據(jù)中心從能耗指標緊張的東部地區(qū)遷往清潔能源富集、電力更加廉價的西部，將大幅提升綠色能源使用比例，降低數(shù)據(jù)中心運營的成本。有利于擴大有效投資：數(shù)據(jù)中心產(chǎn)業(yè)鏈條長、投資規(guī)模大，帶動效應強。發(fā)改委預計“十四五”期間大數(shù)據(jù)中心投資還將以每年超過20%的速度增長，每年預計各方面投資額達4,000億元。有利于推動區(qū)域協(xié)調(diào)發(fā)展：通過算力設(shè)施由東向西布局，將帶動相關(guān)產(chǎn)業(yè)有效轉(zhuǎn)移，促進東西部數(shù)據(jù)流通、價值傳遞，延展東部發(fā)展空間，推進西部大開發(fā)形成新格局。2.后摩爾時代，算力從PC走向AI集群2.1.后摩爾時代，傳統(tǒng)計算架構(gòu)亟待革新AI算量需求急劇增加，傳統(tǒng)架構(gòu)難以滿足。根據(jù)摩爾定律，集成電路上可以容納的晶體管數(shù)目大約每18個月增加一倍，而AI訓練算量自2012年開始以平均每3.43個月翻倍的速度實現(xiàn)指數(shù)增長。在芯片制程達到個位數(shù)納米級的當下，傳統(tǒng)芯片算力提升速度難以趕上計算量增速。下游應用的高景氣度和不斷衍生的智能化需求，推動芯片革新。中國云計算市場規(guī)模增長迅速，2021年達到3229億元，近5年CAGR達44.6%。云計算作為人工智能云端訓練芯片的主要應用場景，推動了芯片架構(gòu)迭代。2.2.AI算力需求旺盛，GPU是主流GPU是當前主流數(shù)據(jù)中心端AI計算架構(gòu)。按技術(shù)架構(gòu)分類，AI芯片可分為圖形處理器（GPU）、現(xiàn)場可編程門陣列（FPGA）、專用集成電路（ASIC）、類腦芯片。GPU起初強調(diào)圖形處理，隨著強大的并行計算能力被發(fā)掘，逐步進入通用計算領(lǐng)域；FPGA以半定制化為特征，注重于服務(wù)垂直領(lǐng)域；ASIC則是針對客戶應用場景需求進行定制；類腦芯片尚處于起步階段。智能算力需求旺盛，GPU充分受益。從市場規(guī)模來看，2021年服務(wù)器GPU全球市場規(guī)模達到71.5億美元，2019-2021年復合增速66%，占服務(wù)器整體市場規(guī)模比例快速提升；同期FPGA全球市場規(guī)模為7.9億美元，相比2020年基本持平；而ASIC主要用于終端推理。我們認為，中期看GPU仍將是數(shù)據(jù)中心端AI訓練等加速計算的主流芯片，充分受益于智能算力高景氣。2.3.Nvidia&AMD：市值超越Intel，時代算力從PC端走向AI集群Nvidia：2022年上半年數(shù)據(jù)中心收入占比超過50%。受益于智能算力高景氣，Nvidia作為全球GPU龍頭，數(shù)據(jù)中心業(yè)務(wù)占比歷年快速提升，由2014年的6.8%，提升至2022年上半年的50.4%，是主要收入增長動力。AMD：數(shù)據(jù)中心端發(fā)力，搶占X86市場。AMD于2016年發(fā)布Zen架構(gòu)，相比Intel的IDM模式，AMD的fabless模式在當前芯片制程接近極限背景下更具優(yōu)勢，借助全球領(lǐng)先foundary廠領(lǐng)先于Intel自身的制程優(yōu)勢，性能持續(xù)追趕。尤其在服務(wù)器CPU方面，是AMD搶占intel市場的主要發(fā)力點，在X86芯片的市場份額持續(xù)提升至2021Q4的10.7%。Nvidia和AMD市值雙雙超越Intel，時代算力從PC端走向集群AI端。得益于Nvidia在數(shù)據(jù)中心市場的強勁表現(xiàn)和AMD在服務(wù)器CPU市場的發(fā)力，目前它們的市值均已超越Intel，雖然Intel目前的收入和利潤體量明顯高于Nvidia和AMD，但是資本市場給予后兩者估值溢價明顯，標志著時代算力正從傳統(tǒng)的PC端走向服務(wù)器的AI集群，產(chǎn)業(yè)浪潮不可逆轉(zhuǎn)。3.人工智能開啟算力時代3.1.AI三要素：數(shù)據(jù)、算法、算力AI行業(yè)快速發(fā)展，智能算力需求提升。根據(jù)使用設(shè)備和提供算力強度的不同，算力可分為基礎(chǔ)算力、智能算力與高端算力三大類。隨著深度學習技術(shù)的快速發(fā)展，以及互聯(lián)網(wǎng)和云計算時代海量數(shù)據(jù)和高效計算能力的支撐，計算機視覺技術(shù)、語音技術(shù)、自然語言理解技術(shù)等人工智能技術(shù)取得了突破性進展，并解鎖多個行業(yè)的人工智能場景，驅(qū)動了人工智能行業(yè)相關(guān)的計算量快速增長。根據(jù)《中國算力白皮書（2022年）》的數(shù)據(jù)統(tǒng)計，2021年全球智能算力總規(guī)模達113EFLOPS，占全球總算力規(guī)模的22%。我們認為，伴隨人工智能技術(shù)的復雜性不斷增加，人工智能計算能力的需求將呈指數(shù)級增長。AI三要素相互耦合，共同生成AI模型。一個傳統(tǒng)的AI模型包括訓練和推斷（預測）兩大部分。訓練環(huán)節(jié)指將訓練數(shù)據(jù)（通常為現(xiàn)有的歷史數(shù)據(jù)）輸入進算法中，通過AI芯片（GPU、FPGA等）提供算力支撐，以及數(shù)據(jù)工程師的分析調(diào)參，最后生產(chǎn)滿足特定功能的AI應用模型。推斷環(huán)節(jié)指通過向訓練完成的AI應用模型中輸入實際應用場景中的新數(shù)據(jù)，并生產(chǎn)對應的推斷結(jié)果。在這一過程中，數(shù)據(jù)、算法和算力扮演著同等重要的角色，三要素的耦合關(guān)系是探索AI未來發(fā)展道路的重要基礎(chǔ)：數(shù)據(jù)是AI模型的“汽油”：數(shù)據(jù)是一切人工智能的基礎(chǔ)。數(shù)據(jù)因其可具象性強，也是最容易被理解的競爭壁壘（特斯拉在自動駕駛數(shù)據(jù)的積累、科大訊飛在智慧教育的題庫數(shù)據(jù)積累等）。未來數(shù)據(jù)的突破口在于1）數(shù)據(jù)積累的行業(yè)下沉（智能化滲透率的提升，傳感技術(shù)的升級等）；2）現(xiàn)有數(shù)據(jù)的打通

（實現(xiàn)將不同行業(yè)，政府與企業(yè)間的數(shù)據(jù)互聯(lián)互通）；因此，在特定行業(yè)具備數(shù)據(jù)積累先發(fā)優(yōu)勢和跨行業(yè)數(shù)據(jù)整合能力的公司有望形成保持領(lǐng)先。算力是AI模型的“發(fā)動機”：算力是最容易被直觀量化的指標（英偉達每年推出的新GPU參數(shù)），但也是目前最大的瓶頸。算力的瓶頸并不體現(xiàn)在算力的絕對大小，而在于實現(xiàn)該算力的成本。特別是在算法場景眾多、迭代速度較快的AI領(lǐng)域，如何設(shè)計出同時滿足通用性和高算力的AI芯片仍是當下炙手可熱的話題。因此，具備由單一芯片模式往融合異構(gòu)多芯片模式發(fā)展能力的公司有望率先受益。算法是AI模型的“大腦”：算法是AI實現(xiàn)技術(shù)躍遷的根本，也是最難以被直觀理解的部分。從AlexNet重新復興神經(jīng)網(wǎng)絡(luò)到Transformer開啟大模型時代，人工智能的每一次里程碑事件都伴隨著算法層面的突破與創(chuàng)新。往后展望，一個好的算法除了能更好的完成設(shè)定的任務(wù)外，還需具備1）更強的通用性（激活更多的可用數(shù)據(jù)）；2）更優(yōu)化的計算原理（減少算力的負擔）。因此，我們認為在AI領(lǐng)域具備科研資源和資金實力的公司將有望拔得頭籌。3.2.

“大模型”橫空出世，人工智能進入算力時代深度神經(jīng)網(wǎng)絡(luò)模型為AI行業(yè)注入新動能。英國數(shù)學家阿蘭·圖靈在1950年提出了“機器能思考嗎”這一跨世紀的命題,人類從未停止過對智能化的思考與探索。自1956年達特茅斯會議上首次提出人工智能概念以來，人工智能技術(shù)與應用已經(jīng)發(fā)展60多年，經(jīng)歷了多次高潮和低谷。過去的十年間，我們有幸見證了深度學習的興起為行業(yè)的發(fā)展注入的驚人的活力：2012年AlexNet（一種卷積神經(jīng)網(wǎng)絡(luò)模型）引入了利用GPU并行運算，以壓倒性的準確率奪得了當年ImageNet圖像識別大賽的冠軍，帶來了深度神經(jīng)網(wǎng)絡(luò)的又一次復興。2016年DeepMind開發(fā)的人工智能AlphaGo打敗人類頂尖棋手李世石，開啟了人工智能發(fā)展的新紀元。2017年Google團隊提出的Transformer模型橫空出世，成為了日后自然語言學習（NLP）、計算機視覺（CV）的架構(gòu)標準；基于Transformer的預訓練模型BERT更是將NLP模型的精準度和泛化能力帶上了新的臺階。2020年有1750億參數(shù)的GPT-3（GenerativePre-trainedTransformer3）的誕生，標志著“大模型”正在成為邁向強人工智能的重要一步。伴隨場景與數(shù)據(jù)的激增，大模型或許成為規(guī)?；瘎?chuàng)新的基礎(chǔ)。大模型指通過超大規(guī)模的參數(shù)設(shè)置和數(shù)據(jù)輸入，通過大算力和大數(shù)據(jù)，以及強大的算力支撐與訓練，而得出的基礎(chǔ)的、具有通用性的、綜合的大模型。大模型浪潮最早起源于預訓練模型，Google發(fā)布的BERT模型即是自然語言處理領(lǐng)域最為典型的預訓練模型。OpenAI則提出了GPT模型，尤其是2020年發(fā)布的GPT-3模型參數(shù)量即達到1750億，在全球掀起大模型的浪潮。大模型可以使人工智能具備處理語言、視覺、機器人、推理、人際互動等各類相關(guān)任務(wù)的能力。因此這類模型將賦能各行各業(yè)，加快傳統(tǒng)行業(yè)的智能化轉(zhuǎn)型，在法律、醫(yī)療、教育等領(lǐng)域都會帶來積極影響。例如Meta推出的擁有150億個參數(shù)的ESMfold模型可以在原子大小的精度上預測蛋白質(zhì)的三維結(jié)構(gòu)，推測速度比AlphaFold2快出一個數(shù)量級?？梢哉f，在AI模型開發(fā)領(lǐng)域，經(jīng)歷了預訓練模型-大規(guī)模預訓練模型-超大規(guī)模預訓練模型的演進。3.3.異構(gòu)計算突破算力瓶頸大模型問世，AI計算量需求指數(shù)增長。如第二章所述，AI訓練算量自2012年開始以平均每3.43個月翻倍的速度實現(xiàn)指數(shù)增長，但摩爾定律逼近極限，同期算力增長僅7倍，遠低于AI