智能計(jì)算中心規(guī)劃建設(shè)指南PPT

信息化和產(chǎn)業(yè)開展部二零二零年十二月概念界定智能計(jì)算中心〔簡(jiǎn)稱智算中心〕是基于最新人工智能理論，采用領(lǐng)先的人工智能計(jì)算架構(gòu)，提供人工智能應(yīng)用所需算力效勞、數(shù)據(jù)效勞和算法效勞的公共算力新型根底設(shè)施，通過算力的生產(chǎn)、聚合、調(diào)度和釋放，高效支撐數(shù)據(jù)開放共享、智能生態(tài)建設(shè)、產(chǎn)業(yè)創(chuàng)新聚集，有力促進(jìn)AI產(chǎn)業(yè)化、產(chǎn)業(yè)AI化及政府治理智能化核心技術(shù)AI化基于深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)等創(chuàng)新AI技術(shù)重點(diǎn)圍繞生產(chǎn)算力、聚合算力、調(diào)度算力、釋放算力四大關(guān)鍵環(huán)節(jié)提升AI算力智能計(jì)算中心輸出產(chǎn)品AI化面向政府、企業(yè)等輸出包括AI數(shù)據(jù)庫、AI模型、AI開放平臺(tái)等在內(nèi)的多種AI產(chǎn)品基于AI產(chǎn)品矩陣可以通過打包或定制化效勞等方式助力AI產(chǎn)業(yè)化、產(chǎn)業(yè)AI化和政府治理智能化效勞應(yīng)用AI化基于先進(jìn)的AI算力根底平臺(tái)、AI算力調(diào)度平臺(tái)和AI算法模型，打造人工智能開放效勞平臺(tái)會(huì)聚并賦能行業(yè)AI應(yīng)用，助力行業(yè)智慧應(yīng)用高效化開發(fā)，加速行業(yè)和產(chǎn)業(yè)AI化最新人工智能理論深度學(xué)習(xí)自監(jiān)督學(xué)習(xí)強(qiáng)化學(xué)習(xí)自動(dòng)機(jī)器學(xué)習(xí)跨媒體多模態(tài)…領(lǐng)先人工智能計(jì)算架構(gòu)AI芯片AI效勞器高速互聯(lián)深度學(xué)習(xí)框架資源調(diào)度…算力生產(chǎn)供給平臺(tái)智能生態(tài)建設(shè)平臺(tái)產(chǎn)業(yè)創(chuàng)新聚集平臺(tái)數(shù)據(jù)效勞算法效勞平臺(tái)效勞智算中心作業(yè)環(huán)節(jié)數(shù)據(jù)開放共享平臺(tái)算力效勞釋放算力聚合算力生產(chǎn)算力調(diào)度算力AI產(chǎn)業(yè)化產(chǎn)業(yè)AI化政府治理智能化識(shí)別檢測(cè)語音交互AI芯片自動(dòng)駕駛機(jī)器人…智能制造醫(yī)療影像無人商店智能客服智慧物流智慧農(nóng)林…智慧交通應(yīng)急管理防洪減災(zāi)環(huán)境保護(hù)地理測(cè)繪…算力輸出算力機(jī)組算力生態(tài)強(qiáng)大高效

易用AI訓(xùn)練算力AI推理算力算力芯片CPUASICGPU FPGA先進(jìn)

多樣成熟豐富軟件生態(tài)Benchmark算力集群軟件定義存儲(chǔ)智能存儲(chǔ)高IOPS隨需擴(kuò)展智能管理AI計(jì)算集群彈性

可伸縮擴(kuò)展高帶寬

低延遲算力聚合網(wǎng)絡(luò)卸載網(wǎng)絡(luò)虛擬化RDMA軟件定義網(wǎng)絡(luò)智能網(wǎng)絡(luò)AI工具AI效勞AI算法CNNRNNGNN

GAN機(jī)器學(xué)習(xí)深度學(xué)習(xí)強(qiáng)化學(xué)習(xí)自監(jiān)督學(xué)習(xí)模型文件開發(fā)接口在線效勞自動(dòng)機(jī)器學(xué)習(xí)平臺(tái)數(shù)據(jù) 高效模型處理庫

訓(xùn)練框架高吞吐推理引擎高效模型優(yōu)化方法算力資源 算力池化 算力調(diào)度 算力效勞算力標(biāo)準(zhǔn)化虛擬化容器化細(xì)粒度切分計(jì)算內(nèi)存算力效勞管理開發(fā)訓(xùn)練效勞數(shù)據(jù)處理效勞模型推理效勞調(diào)度策略共享超分配額策略負(fù)載均衡圖像 視頻語音自然語言處理AI場(chǎng)景CPUGPUFPGA ASICAI訓(xùn)練效勞器AI推理效勞器一、加速AI產(chǎn)業(yè)化創(chuàng)新開展高性能識(shí)別檢測(cè)平臺(tái)往往需要支持處理10萬+的物體識(shí)別能力，具備分鐘級(jí)別的模型生成響應(yīng)速度，具備模型持續(xù)優(yōu)化升級(jí)的能力，需要支持諸如深度別離卷積、殘差密集網(wǎng)絡(luò)〔RDN〕和隱式三維朝向?qū)W習(xí)等最新機(jī)器學(xué)習(xí)算法，同時(shí)支持各類算法的靈活配置以滿足不同實(shí)際應(yīng)用場(chǎng)景的需求語音交互算法的訓(xùn)練語料數(shù)據(jù)量將很快突破百萬小時(shí)，訓(xùn)練數(shù)據(jù)包含大量不同用戶的口音數(shù)據(jù)、多領(lǐng)域歧義語料數(shù)據(jù)和具備復(fù)雜語法規(guī)則的數(shù)據(jù)。隨著大規(guī)模語料樣本數(shù)據(jù)的不斷積累，需要更好利用智算中心具備的大數(shù)據(jù)挖掘技術(shù)、深度學(xué)習(xí)算法，構(gòu)建更加高級(jí)的語音模型，為客戶提供流式計(jì)算、在線計(jì)算、大規(guī)模離線計(jì)算等多種形式的效勞在為各類用戶主體提供多元化AI算力效勞的同時(shí)，AI芯片產(chǎn)業(yè)的快速開展必將帶動(dòng)智能計(jì)算中心的建設(shè)部署自動(dòng)駕駛行業(yè)具備典型的海量數(shù)據(jù)、高并發(fā)、實(shí)時(shí)處理等計(jì)算屬性，呈現(xiàn)出高度多元主體協(xié)同、智能識(shí)別和感知、系統(tǒng)模擬仿真計(jì)算、決策分析和預(yù)測(cè)預(yù)警等特性。該產(chǎn)業(yè)的高度集成化需要智能計(jì)算中提供先進(jìn)的AI技術(shù)支撐，快速推動(dòng)新產(chǎn)品的研發(fā)、測(cè)試和應(yīng)用機(jī)器人產(chǎn)業(yè)的開展迫切需要智能計(jì)算中心平臺(tái)提供全鏈條AI技術(shù)支持，包括AI芯片、視覺識(shí)別、語音識(shí)別、機(jī)械臂和導(dǎo)航技術(shù)等，根據(jù)不同場(chǎng)景的不同訴求，提供“硬件+軟件+效勞〞的全流程快速定制化專用機(jī)器人產(chǎn)品，大幅縮短產(chǎn)業(yè)鏈流程。自動(dòng)駕駛

AI

芯片

機(jī)器人

語音交互

識(shí)別檢測(cè)

二、驅(qū)動(dòng)產(chǎn)業(yè)AI化轉(zhuǎn)型升級(jí)傳統(tǒng)的視覺檢測(cè)系統(tǒng)難以應(yīng)對(duì)越來越復(fù)雜的檢測(cè)場(chǎng)景以及更高的產(chǎn)品質(zhì)量檢測(cè)需求，工業(yè)質(zhì)檢車間的自動(dòng)化和智能化越來越成為行業(yè)大勢(shì)，這也為AI賦能工業(yè)質(zhì)檢提供了落地的土壤無人商店的應(yīng)用落地需要實(shí)現(xiàn)精準(zhǔn)識(shí)別客戶身份、商品標(biāo)簽、智能計(jì)算、支付等全流程智能購(gòu)物，同時(shí)需要基于大量的銷售數(shù)據(jù)、行為軌跡、消費(fèi)習(xí)慣等大數(shù)據(jù)挖掘與深度學(xué)習(xí)分析。智算中心強(qiáng)大的算力支持和人工智能技術(shù)應(yīng)用是無人商店未來持續(xù)拓展的必要根底支撐醫(yī)療影像智能診斷應(yīng)用需要基于大量的數(shù)據(jù)進(jìn)行知識(shí)挖掘和深度學(xué)習(xí)訓(xùn)練，獲取具有實(shí)際醫(yī)療應(yīng)用價(jià)值的模型，這對(duì)數(shù)據(jù)的存儲(chǔ)與計(jì)算都提出了相當(dāng)高的硬件需求，因此，需要智算中心提供強(qiáng)大的算力支持和一體化開發(fā)環(huán)境智能客服實(shí)際上是集合人工智能學(xué)、計(jì)算機(jī)科學(xué)、語言學(xué)等多門學(xué)科的綜合應(yīng)用，需要讓機(jī)器主動(dòng)去認(rèn)知和學(xué)習(xí)，不斷強(qiáng)化行為模式，提高思考能力，從而更加靈活地完成各項(xiàng)工作任務(wù)。智算中心能夠?yàn)镹LP〔自然語言處理〕、NLU〔自然語言理解〕、ASR〔自動(dòng)語音識(shí)別技術(shù)〕、TTS〔語音合成技術(shù)〕等核心技術(shù)提供算力支持智慧物流產(chǎn)業(yè)的開展需要應(yīng)用先進(jìn)的AI算法、軟硬一體的機(jī)器人產(chǎn)品與操控系統(tǒng)和整倉集成的完整生態(tài)。通過AI技術(shù)從圖像和視頻數(shù)據(jù)里獲得高層次、可理解的信息，智能區(qū)分人和物，并能在50%變化率動(dòng)態(tài)場(chǎng)景里穩(wěn)健平安運(yùn)行農(nóng)業(yè)數(shù)據(jù)整體呈現(xiàn)規(guī)模龐大、類型多樣、實(shí)時(shí)數(shù)據(jù)更新頻繁等特征，涉及農(nóng)林漁牧副各產(chǎn)業(yè)的多種數(shù)據(jù)。針對(duì)農(nóng)林漁牧副產(chǎn)業(yè)的不同特點(diǎn)，個(gè)性化定制智能解決方案變得尤為重要。需要有配套的智算中心作為支撐，實(shí)現(xiàn)農(nóng)林感知數(shù)據(jù)的大規(guī)模存儲(chǔ)，借助強(qiáng)大的算力支持農(nóng)林?jǐn)?shù)據(jù)的高效計(jì)算、訓(xùn)練和推演，最終實(shí)現(xiàn)快速和智能化的農(nóng)林生產(chǎn)決策智能制造

醫(yī)療影像

智慧物流

智慧農(nóng)林

無人商店

智能客服

建設(shè)原則總體規(guī)劃

政企協(xié)同加強(qiáng)區(qū)域智能計(jì)算中心的統(tǒng)籌規(guī)劃，探索開放共贏的新型建設(shè)運(yùn)營(yíng)模式需求牽引

先進(jìn)適用聚焦人工智能領(lǐng)先技術(shù)，開展典型示范和場(chǎng)景應(yīng)用夯實(shí)根底培育生態(tài)發(fā)揮對(duì)數(shù)字經(jīng)濟(jì)產(chǎn)業(yè)、傳統(tǒng)產(chǎn)業(yè)數(shù)字化的疊加效應(yīng)、乘數(shù)效應(yīng)保障平安創(chuàng)新開展保障網(wǎng)絡(luò)平安和數(shù)據(jù)安全，創(chuàng)造新供給，激發(fā)新需求，培育新動(dòng)能以全面提升AI計(jì)算力為核心以促進(jìn)數(shù)據(jù)開放共享為根底以培育區(qū)域智能生態(tài)圈為根本著力推動(dòng)AI產(chǎn)業(yè)創(chuàng)新聚集據(jù)OpenAI統(tǒng)計(jì)，自2012年以來隨著深度學(xué)習(xí)模型的演進(jìn)，模型計(jì)算所需計(jì)算量已經(jīng)增長(zhǎng)30萬倍，AI模型構(gòu)建所需算力呈現(xiàn)出階躍式增長(zhǎng)特點(diǎn)IDC在《2020H1中國(guó)加速計(jì)算市場(chǎng)調(diào)查報(bào)告》指出，預(yù)計(jì)到2024年AI加速計(jì)算市場(chǎng)規(guī)模將到達(dá)2019年的2.6倍智算中

心免費(fèi)或低本錢提供很多開源的人工智能算法及其代碼以強(qiáng)大算力驅(qū)動(dòng)AI模型對(duì)數(shù)據(jù)進(jìn)行深度加工，源源不斷產(chǎn)生各種智慧計(jì)算效勞通過平臺(tái)開放接口的方式將行業(yè)領(lǐng)軍企業(yè)的算法能力、數(shù)據(jù)資源及運(yùn)營(yíng)效勞等輸出給IT根底薄弱的企業(yè)算法創(chuàng)新、數(shù)據(jù)和可以用于訓(xùn)練的算力被認(rèn)為是推動(dòng)人工智能開展的三個(gè)關(guān)鍵要素未來隨著智算中心大規(guī)模投入使用，以AI算力、數(shù)據(jù)為根底、以AI模型生成和多場(chǎng)景應(yīng)用的AI技術(shù)生態(tài)鏈將逐漸形成智算中

心 實(shí)現(xiàn)從模型開發(fā)、訓(xùn)練、部署、測(cè)試、發(fā)布的“流水式生產(chǎn)〞與一站式交付，加速算力產(chǎn)業(yè)鏈的形成加快AI算法公司和行業(yè)用戶快速對(duì)接，帶動(dòng)一批新興的專業(yè)化大數(shù)據(jù)企業(yè)崛起，驅(qū)動(dòng)一批創(chuàng)新型企業(yè)加速成長(zhǎng)帶動(dòng)新能源、新材料等高新技術(shù)產(chǎn)業(yè)開展，進(jìn)而構(gòu)建起以AI算力為核心的人工智能產(chǎn)業(yè)新生態(tài)體系智算中心是智慧時(shí)代經(jīng)濟(jì)社會(huì)運(yùn)行所必須的關(guān)鍵公共算力新型根底設(shè)施數(shù)據(jù)中心是產(chǎn)業(yè)轉(zhuǎn)型升級(jí)、新舊動(dòng)能轉(zhuǎn)化的必要支撐，但現(xiàn)有數(shù)據(jù)中心算力效勞能力已經(jīng)難以有效滿足實(shí)踐需求智算中

心憑借其強(qiáng)大的AI算力能夠?yàn)椴煌脩籼峁┧惴óa(chǎn)品與效勞，解決用戶面臨的業(yè)務(wù)痛點(diǎn)，實(shí)現(xiàn)用AI為傳統(tǒng)行業(yè)用戶賦能使得智慧計(jì)算像水電一樣成為城市的根本公共效勞，進(jìn)而幫助城市中小企業(yè)、創(chuàng)新型企業(yè)和傳統(tǒng)企業(yè)降低企業(yè)AI技術(shù)研發(fā)、應(yīng)用和部署本錢，增強(qiáng)企業(yè)創(chuàng)新和轉(zhuǎn)型開展能力智算中心作為“新基建〞數(shù)字根底設(shè)施的主力軍，其所承載的AI算力將是驅(qū)動(dòng)政府治理智能化開展的核心動(dòng)力豐富的應(yīng)用場(chǎng)景為智算中心提供了大量AI訓(xùn)練數(shù)據(jù)，海量訓(xùn)練數(shù)據(jù)對(duì)于數(shù)據(jù)中心算力提出更高要求智算中

心政府作為現(xiàn)代政府治理主體，能夠在智算中心強(qiáng)大算力支撐下開展精細(xì)化、智能化政府治理，智算中心將在智慧交通、應(yīng)急管理、防洪減災(zāi)、環(huán)境保護(hù)、地理測(cè)繪等場(chǎng)景中有著極大應(yīng)用空間智算中心作為未來AI算力生產(chǎn)供給中心，其算力能夠充分滿足未來政府治理和公共效勞數(shù)據(jù)訓(xùn)練要求人工智能計(jì)算需求未來將占據(jù)80%以上的計(jì)算需求，智能計(jì)算成為未來經(jīng)濟(jì)的主要增長(zhǎng)點(diǎn)之一到2035年，人工智能將幫助各國(guó)顯著扭轉(zhuǎn)經(jīng)濟(jì)增速近年來的下滑趨勢(shì)智能計(jì)算產(chǎn)業(yè)作為數(shù)字經(jīng)濟(jì)的重要載體，將作為一支新興力量，帶動(dòng)全球數(shù)字經(jīng)濟(jì)走向繁榮智算中

心埃森哲研究，通過有效應(yīng)用智能計(jì)算，中國(guó)經(jīng)濟(jì)增長(zhǎng)率有望上升至7.9％，增長(zhǎng)額高達(dá)7.1萬億美元。麥肯錫的預(yù)測(cè)，人工智能將每年為中國(guó)經(jīng)濟(jì)增長(zhǎng)奉獻(xiàn)0.8至1.4個(gè)百分點(diǎn)模式名稱優(yōu)勢(shì)劣勢(shì)適用范圍政府投資建設(shè)模式建設(shè)運(yùn)維過程更加安全可控政府對(duì)項(xiàng)目決策和執(zhí)行效率高財(cái)政負(fù)擔(dān)全部投資，壓力大資金使用效率可能不高涉及國(guó)家安全或重大公共利益的項(xiàng)目（如政務(wù)領(lǐng)域、基礎(chǔ)數(shù)據(jù)庫、信息安全平臺(tái)設(shè)施建設(shè)等項(xiàng)目）企業(yè)建設(shè)運(yùn)營(yíng)模式財(cái)政資金壓力較小大企業(yè)平臺(tái)化和整體性優(yōu)勢(shì)，有利于加快區(qū)域間協(xié)同發(fā)展。政府控制力較弱存在大企業(yè)綁架風(fēng)險(xiǎn)不涉及國(guó)家安全，具有公共服務(wù)特征和一定公益性和盈利空間的項(xiàng)目（如通信網(wǎng)絡(luò)、社區(qū)、文旅等項(xiàng)目）政府購(gòu)買服務(wù)模式財(cái)政短期資金壓力較小資金使用效率高，政府策略靈活有效服務(wù)市場(chǎng)供給不足不利于長(zhǎng)期穩(wěn)定協(xié)作基礎(chǔ)性、公共性、公益性的共性產(chǎn)品和服務(wù)項(xiàng)目（如云計(jì)算服務(wù)、通用軟件、城市管理等項(xiàng)目）政府和社會(huì)資本合作模式同時(shí)發(fā)揮政府和市場(chǎng)的優(yōu)勢(shì)，既安全有序，又有市場(chǎng)化效率提升項(xiàng)目建設(shè)運(yùn)營(yíng)專業(yè)化程度減小財(cái)政資金壓力和投資風(fēng)險(xiǎn)機(jī)制設(shè)計(jì)復(fù)雜，存在制度性風(fēng)險(xiǎn)融資成本較高。屬于公共服務(wù)領(lǐng)域，市場(chǎng)化參與程度較高、國(guó)家安全和公共利益方面潛在風(fēng)險(xiǎn)較低、需求長(zhǎng)期穩(wěn)定、使用者付費(fèi)比例高于10%（原則上屬于能源、交通運(yùn)輸、市政公用、農(nóng)業(yè)、林業(yè)、水務(wù)、環(huán)境保護(hù)、保障性安居工程、教育、科技、文化、體育、醫(yī)療衛(wèi)生、養(yǎng)老、旅游等行業(yè)領(lǐng)域的項(xiàng)目）采用政企合作建設(shè)運(yùn)營(yíng)的框架，高效整合政企資源。注重激發(fā)市場(chǎng)創(chuàng)新活力、提高建設(shè)運(yùn)營(yíng)效率。發(fā)揮智算中心作為創(chuàng)新載體的公益屬性，促進(jìn)成果轉(zhuǎn)化應(yīng)用，帶動(dòng)新興產(chǎn)業(yè)開展與產(chǎn)業(yè)鏈上下游高效協(xié)同。開放

算法

公益

融合

孵化

創(chuàng)新

投資主體政府主導(dǎo)模式，政府作為投資主體加快推進(jìn)智能計(jì)算中心落地智能計(jì)算中心的公共屬性智能計(jì)算中心的自主性承建方主體政府主導(dǎo)下的政企合作模式，由企業(yè)具體承建智能計(jì)算中心行業(yè)頭部企業(yè)/國(guó)有資本控股企業(yè)運(yùn)營(yíng)主體運(yùn)營(yíng)主體類型應(yīng)更加多元，運(yùn)營(yíng)模式也更加靈活。更宜采取“投-建-運(yùn)〞一體化模式可委托外包給政府出資控股或國(guó)有資本控股的專業(yè)運(yùn)營(yíng)公司基于特殊工程公司〔SPV〕的建設(shè)運(yùn)營(yíng)模式政府與企業(yè)共同出資成立智能計(jì)算中心建設(shè)運(yùn)營(yíng)工程公司，政府與企業(yè)在合作框架協(xié)議下按比例出資建設(shè)智能計(jì)算中心，政府應(yīng)對(duì)工程公司具有控股權(quán)?；谡?dú)立投資的建設(shè)模式政府直接投資和管理，需要對(duì)工程的建設(shè)周期、存在風(fēng)險(xiǎn)、本錢收益等有很高的把控能力。優(yōu)勢(shì)在于政府直接主導(dǎo)智能計(jì)算中心建設(shè)，可以起到示范效應(yīng)，建設(shè)完成后智能計(jì)算中心所有權(quán)歸政府所有?；凇皣?guó)家-地方-企業(yè)〞共建的建設(shè)運(yùn)營(yíng)模式地方政府會(huì)同相關(guān)企業(yè)共同申請(qǐng)與智能計(jì)算中心相關(guān)的國(guó)家級(jí)試點(diǎn)示范工程工程，以工程工程為載體，集國(guó)家、地方和企業(yè)三方力量，由國(guó)家和地方按比例出資建設(shè)智能計(jì)算中心。需求導(dǎo)向，明確建設(shè)思路一、