版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
國(guó)家信息中心人工智能2.0時(shí)代的公共智算服務(wù)發(fā)展指南2023年10月 01 02 03二、發(fā)展形勢(shì) 三、現(xiàn)狀和問(wèn)題 07 四、服務(wù)框架 (一)需求導(dǎo)向,強(qiáng)化產(chǎn)業(yè)賦能應(yīng)用 20 20 20 22 22 22 23 233.復(fù)旦大學(xué)智算平臺(tái)(CFFF):國(guó)內(nèi)高校最大規(guī)模異構(gòu)智算平臺(tái) 23 24 25智能計(jì)算(簡(jiǎn)稱智算)是指面向算法模型驅(qū)高效計(jì)算是指公共智算服務(wù)提供的是大規(guī)實(shí)現(xiàn)高效計(jì)算需要重點(diǎn)關(guān)注四個(gè)方面的性到萬(wàn)卡的并行計(jì)算彈性拓展能力,還要保證大規(guī)模并行計(jì)算的線性加速比,避免因算力節(jié)點(diǎn)規(guī)?;斐墒褂眯实倪^(guò)度衰減。二是模型計(jì)成本的效果。三是網(wǎng)絡(luò)性能,大模型訓(xùn)練所需的(超)大規(guī)模算力主要通過(guò)GPU并行計(jì)算實(shí)現(xiàn),網(wǎng)絡(luò)性能的優(yōu)劣將直接影響分布式并行計(jì)控制等手段能有效拓展帶寬、優(yōu)化通信、減少擁塞和延遲,提供高帶寬、低延時(shí)、穩(wěn)定可靠的網(wǎng)絡(luò)連接支持。四是存儲(chǔ)性能,大模型訓(xùn)練過(guò)程中存在海量小文件的讀寫(xiě)操作,采用并行能夠有效提供海量數(shù)據(jù)高并發(fā)處理、高吞吐并行存儲(chǔ)、向量數(shù)據(jù)庫(kù)快速檢索、高安全高可靠縮短檢查點(diǎn)(CheckPoint)保存時(shí)間,提高模提供存儲(chǔ)容量和吞吐性能的線性擴(kuò)展能力,能進(jìn)Al生態(tài)和Al產(chǎn)業(yè)的繁榮發(fā)展。面向人工智能技術(shù)和應(yīng)用趨勢(shì),開(kāi)放兼容集群進(jìn)行統(tǒng)一管理,實(shí)現(xiàn)混合云管理和跨集群如常見(jiàn)的機(jī)器學(xué)習(xí)框架PyTorch、TensorFlow、Caffe和主流開(kāi)源分布式訓(xùn)練框架Megatron-按需服務(wù)是指公共智算服務(wù)能夠快速響應(yīng)多樣化的人工智能應(yīng)用需要,通過(guò)組合標(biāo)準(zhǔn)化封裝的服務(wù)資源提供定制化服務(wù)的能力,直接也是公共智算服務(wù)普適性的重要體現(xiàn)。按需服務(wù)不僅能夠更好地滿足多場(chǎng)景、多樣化的人工智能應(yīng)用需求,還能夠使公共智算服務(wù)被更多用戶接受,從而通過(guò)更多用戶的共享提高資源穩(wěn)定安全是指公共智能算服務(wù)供給的持續(xù)能運(yùn)維方式,降低數(shù)據(jù)中心的PUE;通過(guò)提供以用戶可以承擔(dān)的服務(wù)價(jià)格獲得持續(xù)的服務(wù)收(一)人工智能發(fā)展進(jìn)入2.0時(shí)代,智算發(fā)展迎來(lái)高速增長(zhǎng)機(jī)遇期人工智能技術(shù)創(chuàng)新成果不斷涌現(xiàn)。以ChatGPT代表的多模態(tài)大模型橫空出世,引爆新一輪Al協(xié)同、群智開(kāi)放等技術(shù)特征。“預(yù)訓(xùn)練+精調(diào)”來(lái)更大的智能算力需求。以CPU架構(gòu)為核心的工智能技術(shù)發(fā)展,特別是Al大模型訓(xùn)練和推理一步加大。鄭緯民院士預(yù)計(jì),到2025年我國(guó)智能算力總量將超過(guò)1800EFlops、占總算力比重超過(guò)85%'。(二)智算資源準(zhǔn)公共品特質(zhì)凸顯,公共智算服務(wù)需求快速增長(zhǎng)隨著我國(guó)數(shù)字化轉(zhuǎn)型的加速推進(jìn)和人工智規(guī)律波動(dòng)變化、算力資源消耗差異化分布等情(ModelasaService,MaaS)作為面向人工智化、定制化的人工智能應(yīng)用開(kāi)發(fā),有效解決人低碳成為智算服務(wù)必然要求2021年11月13日《聯(lián)合國(guó)氣候變化框架引發(fā)經(jīng)濟(jì)社會(huì)巨大變革的同時(shí),也因?yàn)槠涓吣蹽PT-3消耗了1287MWh(兆瓦時(shí))的電,相當(dāng)于排放了552噸碳,該值相當(dāng)于126個(gè)丹麥家庭外消耗電力,所以ChatGPT在模型訓(xùn)練階段所在ChatGPT運(yùn)行階段,雖然單一用戶操作帶來(lái)加超過(guò)100萬(wàn)倍2,由此而帶來(lái)的碳排放也將成JinFengLinetal.Inte 從數(shù)據(jù)看,中共中央、國(guó)務(wù)院發(fā)布的《關(guān)在政策引導(dǎo)下,我國(guó)數(shù)據(jù)資源供給能力持續(xù)提升,《數(shù)字中國(guó)發(fā)展報(bào)告(2022年)》顯示,2022年底我國(guó)數(shù)據(jù)產(chǎn)量達(dá)8.1ZB,同比增截至2023年5月,已發(fā)布的10億參數(shù)規(guī)模以上大模型達(dá)79個(gè)1,自然語(yǔ)言處理、機(jī)器視覺(jué)、人工智能2.0時(shí)代的公共智算服務(wù)發(fā)展指南時(shí)間1工信部、中央網(wǎng)信辦、國(guó)務(wù)院國(guó)資委2023年10月結(jié)合人工智能產(chǎn)業(yè)發(fā)展和業(yè)務(wù)需求,重點(diǎn)在西部算力樞紐及人工智算力占比。推動(dòng)不同計(jì)算架構(gòu)的智能算力與通用2中央網(wǎng)信辦、發(fā)改委、總局2023年7月鼓勵(lì)生成式人工智能算法、框架、芯片及配套軟3國(guó)務(wù)院辦公廳2022年9月合理利用全國(guó)一體化大數(shù)據(jù)中心協(xié)同創(chuàng)新體系,力管理措施,整合建設(shè)全國(guó)一體化政務(wù)大數(shù)施,優(yōu)化全國(guó)政務(wù)云建設(shè)布局,提升政務(wù)云資源管4信部、交通運(yùn)輸部、《關(guān)于加快場(chǎng)景創(chuàng)新以人工智能高水平應(yīng)用2022年7月鼓勵(lì)算力平臺(tái)、共性技術(shù)平臺(tái)、行業(yè)訓(xùn)練數(shù)據(jù)集人工智能基礎(chǔ)設(shè)施資源開(kāi)放共享,為人工智能企5國(guó)務(wù)院2021年12月推動(dòng)智能計(jì)算中心有序發(fā)展,打造智能算力、通用算法和開(kāi)發(fā)平臺(tái)6年行動(dòng)計(jì)劃(2021一2021年7月推進(jìn)新型數(shù)據(jù)中心滿足政務(wù)服務(wù)和民生需求,完善給,優(yōu)化算力服務(wù)體系,提升算力服務(wù)調(diào)度能力。務(wù)等方式提供公共算力資源,降低算力使用成本7國(guó)家發(fā)展改革委、中央網(wǎng)信辦、工信部、國(guó)家能源局《全國(guó)一體化大數(shù)據(jù)中心協(xié)同創(chuàng)新體系算力2021年5月支持建設(shè)一體化準(zhǔn)入集成驗(yàn)證環(huán)境,進(jìn)一步打通跨層級(jí)的算力資源,構(gòu)建算力服務(wù)資源池。聚焦大求,鼓勵(lì)構(gòu)建集成自然語(yǔ)言處理、視頻圖像解析音智能問(wèn)答、多語(yǔ)言機(jī)器翻譯、數(shù)據(jù)挖掘分析等功能的大數(shù)據(jù)通用算法模型和控件庫(kù),提供規(guī)范統(tǒng)一的大數(shù)據(jù)8國(guó)家發(fā)展改革委、中央網(wǎng)信辦、工信部、國(guó)家能源局2020年12月支持建設(shè)高水平云服務(wù)平臺(tái),進(jìn)一步提升資源調(diào)合作,打造集成基礎(chǔ)算力資源和公共數(shù)據(jù)開(kāi)發(fā)利9國(guó)務(wù)院2017年7月新一代人工智能關(guān)鍵共性技術(shù)的研發(fā)部署要以算和硬件為基礎(chǔ),以提升感知識(shí)別、知識(shí)計(jì)算、認(rèn)知推理、運(yùn)動(dòng)執(zhí)行、人機(jī)交互能力為重點(diǎn),形成開(kāi)放兼容、穩(wěn)定成 北京人工智能公共算力中心、北京數(shù)字經(jīng)濟(jì)算力中心等項(xiàng)目建設(shè),提升算力資源統(tǒng)籌供給能人工智能芯片實(shí)現(xiàn)突破,加強(qiáng)自主開(kāi)源深度學(xué)習(xí)框架研發(fā)攻關(guān)。上海市注重引導(dǎo)民間資本投資智算服務(wù),并推動(dòng)“補(bǔ)需方”改革,鼓勵(lì)高校、科研機(jī)構(gòu)、國(guó)有企業(yè)、政府部門(mén)等使用民間投資算力。杭州市依托數(shù)據(jù)優(yōu)勢(shì),設(shè)立浙江算力科技有限公司、推廣算力券、創(chuàng)新模型服成都市側(cè)重推進(jìn)算力產(chǎn)業(yè)自主可控,圍繞“算服務(wù)器整機(jī)、液冷設(shè)備等高端硬件。深圳市立鼓勵(lì)和支持人工智能算力基礎(chǔ)設(shè)施建設(shè);發(fā)布高達(dá)1000億元的人工智能基金群。山東省強(qiáng)化一體統(tǒng)籌,在全國(guó)率先出臺(tái)省級(jí)新型數(shù)據(jù)中心創(chuàng)建標(biāo)準(zhǔn),提出建立“現(xiàn)代優(yōu)勢(shì)產(chǎn)業(yè)集群+人工智能”機(jī)制,大力推進(jìn)濟(jì)南一青島人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)建設(shè),力爭(zhēng)布局進(jìn)入人工智能時(shí)間12響力的人工智能創(chuàng)新策源地2023年5月2023年5月動(dòng)新增算力基礎(chǔ)設(shè)施建設(shè),建設(shè)統(tǒng)一的多云算力調(diào)度平臺(tái)。系,積極爭(zhēng)取成為國(guó)家人工智能開(kāi)放生態(tài)技術(shù)創(chuàng)新中心。3《上海市進(jìn)一步提高產(chǎn)品。2023年7月網(wǎng)等新型基礎(chǔ)設(shè)施。42023年5月支持民營(yíng)企業(yè)廣泛參與數(shù)據(jù)、算力等人工智能基礎(chǔ)設(shè)施建設(shè)。52023年4月統(tǒng)一編排。62023年7月加快部署適應(yīng)模型訓(xùn)練所需的軟硬件環(huán)境,提升人工智能2.0時(shí)代的公共智算服務(wù)發(fā)展指南時(shí)間72023年8月82021年9月加速垂直行業(yè)人工智能技術(shù)的產(chǎn)業(yè)化落地。92023年5月網(wǎng)聯(lián)汽車(chē)等領(lǐng)域,實(shí)施人工智能科技重大專項(xiàng)扶持計(jì)2022年9月山東省大數(shù)據(jù)中心協(xié)同創(chuàng)新體系的2021年10月2022年5月設(shè)施。貴州省2023年3月用創(chuàng)新樣板。我國(guó)算力規(guī)模位居全球第二,算力布局和算力結(jié)構(gòu)持續(xù)優(yōu)化,智能算力占比快速提升,智算中心建設(shè)加速推進(jìn),服務(wù)模式創(chuàng)新風(fēng)起云涌,有力支撐了人工智能、區(qū)塊鏈、元宇宙等新業(yè)態(tài)新(1)多元主體共建智算設(shè)施,推動(dòng)智能算力規(guī)模達(dá)到302EFlops,連續(xù)兩年增速超過(guò)50%,72%,算力占比達(dá)到59%',成為算力市場(chǎng)最亮 從區(qū)域分布看,綜合考慮潛在市場(chǎng)區(qū)域、建設(shè)成本、人才分布等因素,目前我國(guó)已建成的和粵港澳大灣區(qū)、成渝雙城經(jīng)濟(jì)圈等區(qū)域,與人工浙江、上海、江蘇在Al服務(wù)器市場(chǎng)中繼續(xù)保持領(lǐng)先,市場(chǎng)份額占比高達(dá)90%'。東北、中西部結(jié)合當(dāng)?shù)禺a(chǎn)業(yè)升級(jí)需要,也吸引了部分智能計(jì)算中心落戶,據(jù)統(tǒng)計(jì),我國(guó)中部地區(qū)擁有智能計(jì)算中心6個(gè)、西部和東北地區(qū)的智能計(jì)算中心數(shù)量分別為3個(gè)和2個(gè)2。大致可分為政府、科研院所和企業(yè)三類主體。政府主導(dǎo)建設(shè)的智算中心旨在提供普惠的人工智能算力服務(wù),服務(wù)目標(biāo)包括助力行業(yè)數(shù)字化轉(zhuǎn)型、服務(wù)人工智能行業(yè)企業(yè)發(fā)展、支持科研工作等??蒲性核鲗?dǎo)建設(shè)的智算中心主要面向科研項(xiàng)目計(jì)算需求,如復(fù)旦大學(xué)聯(lián)合阿里云和中國(guó)電信打造了云上科研智算平臺(tái)CFFF,接入了四個(gè)校區(qū)的所有實(shí)驗(yàn)設(shè)備,可以滿足不同應(yīng)用場(chǎng)景下的科學(xué)智能研究與應(yīng)用需求。企業(yè)主體包括運(yùn)營(yíng)商、云服務(wù)商、行業(yè)龍頭企業(yè)等,企業(yè)主導(dǎo)建設(shè)的智能計(jì)算中心建設(shè)目標(biāo)與面向行業(yè)領(lǐng)域較為多樣,云服務(wù)商更具備提供通用Al計(jì)算與大模型服務(wù)的能力,也有部分行業(yè)龍頭企業(yè)聯(lián)合相關(guān)廠商面向特定行業(yè)領(lǐng)域Al應(yīng)用需求共主導(dǎo)建設(shè)的一方)中心、北京人工智能公共算力平臺(tái)服務(wù)科研項(xiàng)目復(fù)旦大學(xué)云上科研智企業(yè)云服務(wù)商提供數(shù)據(jù)存儲(chǔ)、通用Al計(jì)算與大模型應(yīng)用部分智算中心面向智阿里云烏蘭察布智算中心中國(guó)電信京津冀大數(shù)吉利星睿智算中心元素,隨著Al產(chǎn)業(yè)化和產(chǎn)業(yè)Al化的發(fā)展,模型夠降低用戶使用門(mén)檻的MaaS(模型即服務(wù))理方面面。與此同時(shí),面向Al大模型訓(xùn)練的算力構(gòu)芯片成為Al計(jì)算的關(guān)鍵計(jì)算資產(chǎn),通過(guò)集成夠更加高效地支撐Al大模型進(jìn)行各類復(fù)雜任務(wù)中國(guó)整體服務(wù)器市場(chǎng)占全球市場(chǎng)比重達(dá)25%,2017年至2022年的復(fù)合增長(zhǎng)率達(dá)48.8%'。與還需要更多算法(模型)和數(shù)據(jù)服務(wù)支持。由于 二是重建設(shè)輕服務(wù),供需匹配效果不佳。2022年2月,以8大國(guó)家算力樞紐節(jié)點(diǎn)、10個(gè)前,全國(guó)已有超過(guò)30個(gè)城市提出或正在建設(shè)智算中心',但總體智算中心發(fā)展仍處于起步建設(shè)市場(chǎng)上出現(xiàn)了GPU高端芯片一芯難求的現(xiàn)象,人工智能2.0時(shí)代的公共智算服務(wù)發(fā)展指南服務(wù)供給多元化服務(wù)調(diào)度智能化人工智能2.0時(shí)代的公共智算服務(wù)發(fā)展指南服務(wù)供給多元化服務(wù)調(diào)度智能化服務(wù)資源構(gòu)件化簽應(yīng)用生態(tài)企業(yè)政府個(gè)人*設(shè)備軟件設(shè)施技術(shù)生態(tài)操作系統(tǒng)芯片面向城市智能應(yīng)用算力資源服務(wù)算力調(diào)度Al訓(xùn)面向科學(xué)智能應(yīng)用服務(wù)調(diào)度彈性供應(yīng)計(jì)算機(jī)多模態(tài)面向行業(yè)智能應(yīng)用按量收費(fèi)會(huì)主題式數(shù)據(jù)服務(wù)數(shù)據(jù)分析數(shù)據(jù)采集數(shù)據(jù)存儲(chǔ)數(shù)據(jù)建模數(shù)據(jù)集成數(shù)據(jù)清洗研發(fā)大模型,不僅需要智能算力,還需要Al工務(wù)資源,提供單一種類或跨類組合的資源供給內(nèi)容/能力多元計(jì)算服務(wù)吞吐、高IOPS、低時(shí)延等特性。的特點(diǎn),支持隨機(jī)讀寫(xiě),滿足大部分通用業(yè)務(wù)場(chǎng)景下的數(shù)據(jù)存儲(chǔ)需求。高性能通信框架層深度業(yè)務(wù)優(yōu)化,結(jié)合彈性、調(diào)度、加速原子能力提升計(jì)算效能。基于云原生技術(shù)體系,實(shí)現(xiàn)異構(gòu)算力資源池化。實(shí)時(shí)監(jiān)控并管理Al訓(xùn)練性能和故障,提供面向Al集群訓(xùn)練場(chǎng)景的物理異構(gòu)硬件、池化算力資源、調(diào)度使用效率的全流程監(jiān)控和分析。關(guān)心運(yùn)行過(guò)程中的容量規(guī)劃,只需要提供打包好的Docker鏡像,即可使用云服動(dòng)的應(yīng)用程序,也適合業(yè)務(wù)量穩(wěn)定的應(yīng)用程署全生命周期,支持不同的Al開(kāi)發(fā)框架,提供模型開(kāi)發(fā)、模型存儲(chǔ)/檢索、模型調(diào)優(yōu)/訓(xùn)練、數(shù)據(jù)資源是人工智能應(yīng)用的基石,人工智能算法模型從技術(shù)理論、開(kāi)發(fā)迭代到應(yīng)用落地的全過(guò)程皆依賴海量的數(shù)據(jù)資源,數(shù)據(jù)質(zhì)量和數(shù)量決定了人工智能算法模型的效果和性能。公共智算數(shù)據(jù)資源供給開(kāi)放生態(tài)。通過(guò)打造開(kāi)放的數(shù)據(jù)共享平臺(tái),推動(dòng)各行業(yè)領(lǐng)域多種模態(tài)的數(shù)據(jù)集的匯聚,為用戶提供免費(fèi)的或增值的數(shù)據(jù)服務(wù)。二是提供數(shù)據(jù)資源治理全流程工具。面向Al算法模數(shù)據(jù)資源服務(wù)示例見(jiàn)表6。內(nèi)客/能力提供覆蓋機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、大數(shù)據(jù)等領(lǐng)域的算法,供用戶調(diào)用。提供通用的Al算法更新迭代工具,降低用戶生成專屬算法的技術(shù)門(mén)提供模型開(kāi)發(fā)所需的可視化、交互式的建模工具和開(kāi)發(fā)環(huán)境,幫助用戶便捷開(kāi)發(fā)。為模型的快速查找、樣例演示、共享和存儲(chǔ)提供便提供模型訓(xùn)練工具及環(huán)境,支持分布式訓(xùn)練、單機(jī)訓(xùn)練。支持云端、本地、設(shè)備端等多種部署方式,打開(kāi)網(wǎng)頁(yè)即可開(kāi)發(fā)模型。模型調(diào)用提供靈活、易用的算法模型API接口與SDK,具備自適應(yīng)推理優(yōu)化、基于云性伸縮能力,使得開(kāi)發(fā)者可以快速實(shí)現(xiàn)模型的調(diào)用和二次開(kāi)內(nèi)容/能力匯聚各行業(yè)領(lǐng)域多種模態(tài)的數(shù)據(jù)集,為用戶提供免費(fèi)的或增值的數(shù)據(jù)服務(wù)。提供在線數(shù)據(jù)倉(cāng)庫(kù)服務(wù),實(shí)現(xiàn)經(jīng)濟(jì)且高效地分析處理海量數(shù)據(jù)。提供智能代碼開(kāi)發(fā)、多引擎混編工作流、規(guī)范化任務(wù)發(fā)布等能力。從數(shù)倉(cāng)規(guī)劃、數(shù)據(jù)標(biāo)準(zhǔn)、維度建模、數(shù)據(jù)指標(biāo)等方面,以業(yè)務(wù)視角對(duì)數(shù)據(jù)進(jìn)行詮提供容災(zāi)、備份、恢復(fù)、監(jiān)控、遷移等方面的全套PostgreSQL和OSQL多種存儲(chǔ)引擎。量套呻圖3公共智算服務(wù)生態(tài)術(shù)能力和組織管理能力,圍繞公共智算服務(wù)供給,推動(dòng)公共智算服務(wù)高質(zhì)量發(fā)展的關(guān)鍵在于“應(yīng)用”,圍繞Al產(chǎn)業(yè)化和產(chǎn)業(yè)Al化發(fā)展需求,賦能的人工智能應(yīng)用典型案例,通過(guò)示范帶動(dòng),智算服務(wù)的人工智能產(chǎn)業(yè)發(fā)展新業(yè)務(wù)、新模式、發(fā)展,未來(lái)80%的場(chǎng)景都將基于人工智能開(kāi)展,約化開(kāi)展智算中心建設(shè),到2025年,智能算力共享和治理服務(wù),通過(guò)打造開(kāi)放的數(shù)據(jù)共享平(四)強(qiáng)化運(yùn)營(yíng),培育長(zhǎng)效服務(wù)生態(tài)(一)面向城市智能應(yīng)用的公共智算服務(wù) 策源地實(shí)施方案(2023-2025年)》提出到20252023年5月23日,北京市發(fā)布《北京市促發(fā)〔2023〕15號(hào)),提出“提升算力資源統(tǒng)籌供京電信和京能集團(tuán)共同承建,預(yù)計(jì)2024年一季(3)打造算力調(diào)度服務(wù)平臺(tái)提升一體化調(diào)度多源異構(gòu)、多算一體、安全可信、生態(tài)融合的算力調(diào)度服務(wù)平臺(tái)。該平臺(tái)由北京亦莊智能城完成大模型、生物醫(yī)藥、科學(xué)計(jì)算等場(chǎng)景應(yīng)用的實(shí)例驗(yàn)證。未來(lái)計(jì)劃開(kāi)展通算、智算、超算案》,凡符合條件的企業(yè),2023年9月1日及以以內(nèi)),均可享受智能算力合同額一定比例的算2023年7月,杭州市發(fā)布《杭州市人民政府辦公廳關(guān)于加快推進(jìn)人工智能產(chǎn)業(yè)創(chuàng)新發(fā)(2023〕55號(hào))提出,杭州作為國(guó)家新一代人工《意見(jiàn)》提出打造多元融合算力支撐體系,(2)多措并舉強(qiáng)化算力普惠供給保障企業(yè)應(yīng)用(二)面向科學(xué)智能應(yīng)用的公共智算服務(wù)的智能計(jì)算服務(wù),復(fù)旦大學(xué)CFFF(ComputingfortheFutureatFudan)智算平臺(tái)在2023年6上科研智算平臺(tái),也是國(guó)內(nèi)高校首個(gè)Al與大數(shù)CFFF智算平臺(tái)由面向多學(xué)科融合創(chuàng)新的Al到28PFlops,可提供超千卡并行智能計(jì)算,千卡并行的有效算力達(dá)92%,萬(wàn)卡并行有效算力達(dá)90%,可有效持千億參數(shù)的大模型訓(xùn)練。以復(fù)旦大學(xué)人工智能創(chuàng)新與產(chǎn)業(yè)研究院發(fā)布的45億參業(yè)界公認(rèn)的ECMWF(歐洲中期天氣預(yù)報(bào)中心)集合平均水平,并將模型訓(xùn)練速度縮短到1天,檻更高,成本是通用算力的10倍以上,非公共
溫馨提示
- 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 幼兒園水電安全培訓(xùn)
- 消防與家庭安全
- 寧夏回族自治區(qū)銀川市西夏區(qū)2024-2025學(xué)年二年級(jí)上學(xué)期期中考試數(shù)學(xué)試題
- 廣東省惠州市惠州中學(xué)2024-2025學(xué)年高二上學(xué)期11月期中考試政治試題 - 副本
- 2024-2025學(xué)年寧夏吳忠市青銅峽市寧朔中學(xué)高一(上)第一次月考生物試卷(含答案)
- 2024-2025學(xué)年初中九年級(jí)數(shù)學(xué)上冊(cè)第一次月考模擬卷含答案解析
- 中考英語(yǔ)語(yǔ)法串串燒十大狀語(yǔ)從句
- 優(yōu)化方案2011高考總復(fù)習(xí)地理一輪復(fù)習(xí)課件大氣的受熱過(guò)程氣壓帶和風(fēng)帶湘教版
- 固定資產(chǎn)投資專項(xiàng)審計(jì)
- 出納年度工作計(jì)劃范文-文書(shū)模板
- 胃癌淋巴結(jié)清掃ppt課件(PPT 39頁(yè))
- 汽車(chē)交貨方案及質(zhì)保措施
- 06竣工財(cái)務(wù)決算審計(jì)工作底稿(試行)
- 某公司審計(jì)財(cái)務(wù)舞弊案例分析報(bào)告
- 人教版九年級(jí)初三上冊(cè)期中考試化學(xué)試卷
- 電加熱管制作工藝的設(shè)計(jì)
- 雙港垃圾焚燒發(fā)電廠工藝介紹
- 植物體的結(jié)構(gòu)層次通用課件
- 編帶包裝檢驗(yàn)判定標(biāo)準(zhǔn)
- 新譯林版六年級(jí)上冊(cè)英語(yǔ)知識(shí)點(diǎn)歸納總結(jié)
- lovestory(愛(ài)情故事)歌詞中英文對(duì)照
評(píng)論
0/150
提交評(píng)論