華為昇騰一體機深度研究：國產(chǎn)AI算力的星辰大海

華為昇騰一體機深度研究：國產(chǎn)AI算力的星辰大海1昇騰一體機打通AI落地“最后一公里”昇騰AI一體機是國內(nèi)AI軟硬件技術(shù)的黃金交點，是以國產(chǎn)算力領(lǐng)軍者華為昇騰AI基礎(chǔ)軟硬件平臺為基礎(chǔ)，聯(lián)合國內(nèi)領(lǐng)先AI廠商打造的先進生產(chǎn)力工具。2023年7月6日，華為昇騰在WAIC2023會上聯(lián)合四家伙伴共同發(fā)布昇騰AI大模型訓推一體化解決方案，雙方通過共同設(shè)計、聯(lián)合開發(fā)、協(xié)同上市、持續(xù)迭代，為企業(yè)帶來“開箱即用”的大模型一體化解決方案。昇騰AI基礎(chǔ)軟硬件平臺包含華為Atlas系列硬件及伙伴自有品牌硬件、異構(gòu)計算架構(gòu)CANN、全場景AI框架昇思MindSpore、昇騰應(yīng)用使能MindX、一站式開發(fā)平臺ModelArts和統(tǒng)一工具鏈MindStudio等。國內(nèi)各廠商陸續(xù)發(fā)布合作款昇騰一體機，應(yīng)用范圍由科研逐步擴展到AI全場景乃至垂類模型落地。2023年3月，華為昇騰與旗下華鵬振宇打造了專為高校和科研院所設(shè)計的AI訓練開發(fā)一體機，奠定了將AI算力、AI平臺軟件、AI開發(fā)框架、開發(fā)組件和存儲高效融合的算力底座基礎(chǔ)架構(gòu)；2023年6月，軟通動力發(fā)布訓推一體化平臺，支持用戶一站式AI開發(fā)、深度適配不同AI應(yīng)用場景；2023年8月起云從科技、科大訊飛、智譜AI等國內(nèi)領(lǐng)先AI大模型廠商合作款昇騰一體機面世，昇騰一體機應(yīng)用范圍擴展到AI全場景；后續(xù)醫(yī)渡科技、安恒信息等公司將昇騰一體機用于自身垂類模型落地。昇騰一體機憑借其領(lǐng)先的軟硬件基礎(chǔ)設(shè)施性能，以及昇騰的優(yōu)秀工程化能力，正逐漸成為千行百業(yè)大模型產(chǎn)業(yè)化重要抓手。1.1昇騰一體機瞄準大模型本地化部署藍海市場1.1.1本地化部署市場需求清晰大模型本地化部署市場需求主要有數(shù)據(jù)安全需求和技術(shù)需求兩大類：1）數(shù)據(jù)安全需求：三星芯片代碼泄露事件為重要標志，大模型或能夠永久學習泄露數(shù)據(jù)內(nèi)容，造成不可逆損失。據(jù)澎拜新聞援引韓國媒體《economist》報道，2023年3月，三星內(nèi)部發(fā)生三起涉及ChatGPT誤用與濫用案例，包括兩起“設(shè)備信息泄露”和一起“會議內(nèi)容泄露”，報道稱半導體設(shè)備測量資料、產(chǎn)品良率等內(nèi)容或已被存入ChatGPT學習資料庫中。據(jù)Cyberhaven統(tǒng)計，員工直接發(fā)給ChatGPT的企業(yè)數(shù)據(jù)中，有11%都是敏感數(shù)據(jù)。2）技術(shù)需求：使用本地化部署的大模型，可以讓機構(gòu)和個人在這種不斷變化的市場環(huán)境中積累經(jīng)驗，而單單使用API則無法做到這一點。據(jù)willows.ai，對于AI原生應(yīng)用，需要了解模型的內(nèi)部狀態(tài)、梯度和中間輸出結(jié)果，使用基于API的模型，會限制進一步進行實驗和增強模型的可能性。此外，AI工程化開發(fā)成本較高，中小廠商難以負擔，使用打包工程化能力的AI一體機能夠降低中小廠商進行AI創(chuàng)業(yè)的門檻。1.1.2海外巨頭爭先入局驗證賽道景氣度英偉達發(fā)布L40S強勢切入大模型本地化部署市場，驗證賽道景氣度。英偉達L40S不支持NVLink協(xié)議，最多只能做到8卡并行，因此其主要目標客戶是中小型企業(yè)的算法訓練，與A100單卡相比，L40S在AI推理效能提高20%，AI訓練效率提高70%，微調(diào)方面比A100快50%。戴爾集團與英偉達聯(lián)合發(fā)布用于安全、本地化部署生成式AI的ProjectHelix。據(jù)英偉達官網(wǎng)，ProjectHelix將支持從基礎(chǔ)設(shè)施配置、建模、訓練、微調(diào)、應(yīng)用開發(fā)和部署一直到部署推理和精簡結(jié)果等整個生成式AI的生命周期。。ProjectHelix還包含NVIDIAAIEnterprise軟件，為客戶提供用于整個AI生命周期的工具。NVIDIAAIEnterprise包含100多個框架、預(yù)訓練模型和開發(fā)工具，例如用于構(gòu)建主題鮮明、安全可靠的生成式AI聊天機器人的NVIDIANeMo?大型語言模型框架與NeMoGuardrails軟件。此外，ProjectHelix還將安全和隱私功能內(nèi)置在基礎(chǔ)組件中，如SecuredComponentVerification等在本地保護數(shù)據(jù)可以降低固有風險，幫助企業(yè)滿足監(jiān)管要求。1.2國內(nèi)G端率先落地，樂觀預(yù)計市場規(guī)模超4500億元G端數(shù)據(jù)安全最為迫切，推動大模型本地化部署需求率先落地。從數(shù)據(jù)的自主可控出發(fā)，黨政軍對數(shù)據(jù)安全需求強烈：據(jù)維創(chuàng)，政府數(shù)據(jù)和軍隊國防機密若泄密極易造成重大負面影響，甚至危及國家安全和社會穩(wěn)定。優(yōu)刻得與沐曦、智譜華章共同在寧夏的開放平臺上面向第一批用戶也正是G端的航天醫(yī)院、數(shù)字寧夏建設(shè)運營有限公司。首批落地的大模型本地部署一體機主要分為推理型AI一體機、訓推一體型AI一體機以及編程一體機三類。深圳龍知政政務(wù)垂直領(lǐng)域GPT大模型采用本地化服務(wù)、私有化部署的模式，或在全國范圍內(nèi)形成標桿效應(yīng)。據(jù)深圳龍華微信公眾號，深圳龍知政政務(wù)垂直領(lǐng)域GPT大模型在通過私有化部署實現(xiàn)專屬數(shù)據(jù)的安全隔離的基礎(chǔ)上，實現(xiàn)多輪對話、信息溯源、深度學習等能力，能獨立解決問題，提供輔助決策。據(jù)智慧城市行業(yè)資訊，“龍知政”GPT大模型有三大優(yōu)勢：一是區(qū)屬國企的本地化服務(wù)能力，專業(yè)技術(shù)保障團隊，自研技術(shù)支撐服務(wù)，操作流程更合規(guī)；二是通過大模型的私有化部署，確保政務(wù)數(shù)據(jù)隔離，使用更安全；三是針對政務(wù)服務(wù)需求定向優(yōu)化，業(yè)務(wù)處理更高效準確，服務(wù)更貼心便捷。從最優(yōu)化角度計算市場規(guī)模，AI一體機需求量等于接入AI的PC數(shù)量除以AI一體機最大并發(fā)數(shù)量。由于目前市場AI一體機參數(shù)披露較少且主要以華為昇騰芯片為主預(yù)計AI一體機硬件參數(shù)接近，使用摩爾線程一體機40臺最大并發(fā)以及智譜一體機最低180萬單價進行市場測算：1）2022年國家機關(guān)和事業(yè)單位住房公積金實繳職工數(shù)量約4745萬人，假設(shè)70%職工配PC、假設(shè)職工數(shù)量穩(wěn)定略微波動，則2023-2027年G端PC數(shù)量為3300-3400萬臺；2）樂觀/中性/悲觀情況下，至2027年接入大模型的PC滲透率分別為30%/20%/10%；3）參考摩爾線程，假設(shè)AI一體機最大并發(fā)量為40臺；4）定價參考智譜AI一體機單價為180萬元/臺（最低配置產(chǎn)品）5）綜上可得，2027年樂觀/中性/悲觀情況下，G端AI一體機市場規(guī)模分別為4590億元/3060億元/1530億元。從最優(yōu)化角度計算市場規(guī)模，編程一體機需求量等于接入AI的IT部門PC數(shù)量除以AI一體機最大并發(fā)數(shù)量。由于目前市場編程一體機參數(shù)披露較少且主要以華為昇騰芯片為主預(yù)計編程一體機硬件參數(shù)接近，使用摩爾線程一體機40臺最大并發(fā)以及智譜AI一體機最低180萬單價進行市場測算：1）2022年國家機關(guān)和事業(yè)單位住房公積金實繳職工數(shù)量約4745萬人，假設(shè)70%職工配PC、假設(shè)職工數(shù)量穩(wěn)定略微波動，則2023-2027年G端PC數(shù)量為3300-3400萬臺；2）根據(jù)中公教育整理的2024中央黨群機關(guān)公務(wù)員招聘信息估算，2024年負責IT公務(wù)員占比約為6%，假設(shè)2023-2027年穩(wěn)定6%；3）考慮到IT部門對于AI提升編程效率需求更強，樂觀預(yù)計2027年政府IT部門50%接入編程AI，高于政府部門總體30%滲透率（上文）；4）參考摩爾線程和智譜AI，假設(shè)編程一體機最大并發(fā)40臺，單價180萬元；5）綜上可得，2027年樂觀/中性/悲觀情況下國內(nèi)編程一體機G端市場規(guī)模分別為92億元/55億元/37億元。1.3市場格局：軟硬件一體化能力或成為核心競爭力昇騰一體機需要AI廠商擁有強大的AI領(lǐng)域軟硬件一體化工程能力。據(jù)芯智訊，華為跟科大訊飛共同在昇騰AI的軟硬件平臺和軟件的支撐工具上，把高算力AI芯片、高性能的算子庫、多卡高速互聯(lián)以及分布式存儲結(jié)合起來，尤其是聯(lián)合針對人工智能所需要的最重要的算子庫進行甄別和打磨；此外，科大訊飛的訓練和數(shù)據(jù)閉環(huán)全流程設(shè)計，以及訓練和推理一體化設(shè)計的自研大模型訓練平臺支持大規(guī)模的異構(gòu)算力兼容、也支持混合云架構(gòu)易拓展等特性也起到重要作用。華為徐直軍在1024全球開發(fā)者節(jié)宣布：科大訊飛聯(lián)合華為正式發(fā)布基于昇騰生態(tài)的“飛星一號”平臺。公司與華為昇騰合作，實現(xiàn)從算力底層硬件基礎(chǔ)設(shè)施到大模型再到大模型應(yīng)用開發(fā)平臺全生命周期覆蓋，在深度優(yōu)化下華為GPU可對標英偉達A100。早在2018年5月，華為與科大訊飛簽署戰(zhàn)略合作協(xié)議，未來雙方將在公有云服務(wù)、ICT基礎(chǔ)設(shè)施產(chǎn)品、智能終端、以及辦公IT四大領(lǐng)域開展深度戰(zhàn)略合作；在2023年7月，訊飛星火與華為昇騰進一步合作聯(lián)手打造我國通用智能新底座，通過軟硬件的完美協(xié)同優(yōu)化，構(gòu)建算力集中、性能優(yōu)越、供給穩(wěn)定、數(shù)據(jù)安全的大模型訓練集群，加速了訓練和數(shù)據(jù)的全流程閉環(huán)。據(jù)科大訊飛董事長劉慶峰，在華為派出專門工作組在訊飛成立專班工作優(yōu)化的背景下，華為GPU可對標英偉達A100。此外，公司于2009年開始算力基礎(chǔ)設(shè)施建設(shè)，目前已建成4城7中心深度學習計算平臺，算力不僅完全滿足AI算法模型訓練，還能夠覆蓋面向開放平臺數(shù)百萬開發(fā)者和其他行業(yè)伙伴提供相關(guān)AI服務(wù)的需求。據(jù)IT時報，訊飛2023年1024開發(fā)節(jié)上，科大訊飛聯(lián)合華為正式發(fā)布基于昇騰生態(tài)的“飛星一號”平臺：華為輪值董事長徐直軍表示，“飛星一號”將為更大參數(shù)的星火4.0提供算力支撐，目前華為公司在全球所有智能終端的語音技術(shù)都來自科大訊飛，未來將與科大訊飛在大模型領(lǐng)域開展更多合作?？拼笥嶏w董事長劉慶峰表示，半年內(nèi)訊飛和華為成立的“聯(lián)合特戰(zhàn)隊”實現(xiàn)星火大模型訓練和推理效率均翻番。訊飛星火一體機競爭優(yōu)勢顯著。智譜AI的大模型ChatGLM與星火大模型、文心一言并列國產(chǎn)大模型TOP3，同樣與昇騰合作，在一體機軟硬件優(yōu)勢不突出的前提下，定價最高達到3960萬元/15人（包括產(chǎn)品方案、模型部署、微調(diào)咨詢等），星火一體機憑借自身豐富軟硬件一體化產(chǎn)品開發(fā)經(jīng)驗或能夠帶來更強性價比；云從科技、恒為科技、軟通動力等公司也發(fā)布基于昇騰硬件的一體機產(chǎn)品，但上述公司大模型性能很難與國產(chǎn)大模型TOP3的星火大模型比較，導致昇騰一體機軟件部分使用體驗或低于星火一體機；因此，我們認為星火一體機在市場競爭優(yōu)勢顯著。2昇騰軟硬件生態(tài)不斷成熟賦能一體機發(fā)展2.1昇騰AI芯片提供強大算力基于達芬奇架構(gòu)的兩顆“芯”。2018年10月，代號為310和910的昇騰處理器系列產(chǎn)品推出。1）昇騰310處理器：本質(zhì)上是人工智能片上系統(tǒng)，主要應(yīng)用于邊緣計算產(chǎn)品和移動端設(shè)備等低功耗的領(lǐng)域。該芯片采用12nm制造工藝，最大功耗僅為8W，半精度（FP16）算力可達8TFLOPS，整數(shù)精度（INT8）算力可達16TOPS，同時還集成了16通道全高清視頻解碼器。2）昇騰910處理器：該芯片計算密度大，領(lǐng)先全球，相比于同時代的英偉達TeslaV100GPU還要高出一倍，其主要應(yīng)用于云端，可以為深度學習的訓練算法提供強大算力。在算力方面，昇騰910表現(xiàn)非常出色，半精度（FP16）算力可達320TFLOPS，整數(shù)精度（INT8）算力可達640TOPS，功耗只有310W，同時采用了7nm先進工藝進程，支持128通道全高清視頻解碼。從算力上看，昇騰910和英偉達A100性能基本上相當。2.2昇騰軟件體系不斷成熟華為針對AI場景，設(shè)計了異構(gòu)計算架構(gòu)CANN、AI計算框架MindSpore和第三方適配以及全流程開發(fā)工具鏈MindStudio。本文主要關(guān)注CANN、MindSpore和MindStudio。CANN是一種異構(gòu)計算架構(gòu)，功能類似英偉達CUDA。CANN位于計算資源層和應(yīng)用層之間，即芯片使能層，實現(xiàn)了在高性能計算硬件和AI應(yīng)用之間架起一座橋梁。部署在昇騰服務(wù)器，包含統(tǒng)一的編程語言、統(tǒng)一網(wǎng)絡(luò)構(gòu)圖接口、高性能計算引擎以及算子庫。通過AscendCL對外提供Device管理、Context管理、Stream管理、內(nèi)存管理、模型加載與執(zhí)行、算子加載與執(zhí)行、媒體數(shù)據(jù)處理等API，幫助開發(fā)者實現(xiàn)在CANN平臺上進行深度學習推理計算、圖像預(yù)處理、單算子加速計算。在離線推理場景和訓練場景都有應(yīng)用。CANN釋放AI硬件的極致性能，其高性能算子庫和調(diào)優(yōu)引擎，支撐快速部署神經(jīng)網(wǎng)絡(luò)。深度學習框架構(gòu)建的模型是由一個個計算單元組成，這些計算單元被稱為算子，對應(yīng)著特定的計算邏輯，構(gòu)成了加速神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)和核心。CANN支持超過1400個高性能算子，并提供900多種優(yōu)選模型，并且覆蓋了80%的DSL算子，其DSL算子相比業(yè)界其他的產(chǎn)品，提升了70%開發(fā)效率。正是這些豐富的算子，筑起了澎湃的算力源泉。此外，CANN還提供了新一代智能調(diào)優(yōu)工具AOE，取代了繁瑣的手動優(yōu)化操作，降低了調(diào)優(yōu)的門檻，并提高了調(diào)優(yōu)的效率。以ResNet50網(wǎng)絡(luò)為例，使用AOE進行調(diào)優(yōu)的效率比上一代工具提升了一倍以上，并且性能提升超過100%。在CANN6.0版本下，模型遷移成功率可達90%。CANN在各領(lǐng)域深受認可。1）在學術(shù)領(lǐng)域方面：2022年3月，基于CANN的AI論文PLGAN強勢上榜2022CVPR，5月榮獲“軟件行業(yè)示范案例”，12月，在第八屆中國國際“互聯(lián)網(wǎng)+”大學生創(chuàng)新創(chuàng)業(yè)大賽中，“基于昇騰算力及CANN的創(chuàng)新應(yīng)用”突破“互聯(lián)網(wǎng)+”國賽金獎。2）在科研領(lǐng)域方面：分子動力學模擬服務(wù)在CANN的助力下成功商用，AI預(yù)測性能達到現(xiàn)有產(chǎn)品的1.5+倍，可預(yù)測規(guī)模較傳統(tǒng)方法提升10000+倍，為光伏材料、新能源電池、半導體材料研究帶來巨大的商業(yè)應(yīng)用價值。此外，昇騰AI平臺端到端使能蛋白質(zhì)結(jié)構(gòu)預(yù)測基于CANN進行多維度性能優(yōu)化，使得AI預(yù)測效率較Baseline提升2+倍，同時具備長序列推理能力，2022年底已支持3800+長度的蛋白質(zhì)氨基酸序列，達到業(yè)界領(lǐng)先水平。MindSpore是華為推出的支持云邊端靈活部署的深度學習框架。人工智能領(lǐng)域的發(fā)展，離不開深度學習框架。從2012年以前的Torch、OpenNN等原始深度學習框架的發(fā)布，到后面形成了TensorFlow和PyTorch雙頭壟斷，再到現(xiàn)在中國國產(chǎn)框架有了一席之地，深度學習框架市場新品更新不斷。2020年，華為研制的MindSpore正式開源，和TensorFlow、PyTorch、飛槳等框架共同為人工智能領(lǐng)域發(fā)力。MindSpore幫助開發(fā)者孵化出各種AI創(chuàng)新算法和應(yīng)用，大幅提升效率。在2018年“華為全聯(lián)接大會“上提出了人工智能面臨的十大挑戰(zhàn)，其中提到長部署周期，高開發(fā)成本、高技術(shù)門檻等問題，為了應(yīng)對這些問題，昇騰MindSpore專注于實現(xiàn)開發(fā)友好、運行高效、全場景按需協(xié)同三大目標，以有效降低開發(fā)門檻。一般而言，開發(fā)深度學習軟件框架能夠把程序員從煩瑣細致的具體編程工作中解放出來，從而將主要精力集中在人工智能算法的調(diào)優(yōu)和改進上。昇思MindSpore作為新一代全場景AI框架，亦是如此，同時具有圖算融合、分布式并行、企業(yè)安全可信等功能，能夠?qū)崿F(xiàn)模型的訓練-推理-全場景部署。MindSpore易用性和性能全國領(lǐng)先。根據(jù)Omdia發(fā)布的2023年《中國人工智能框架市場調(diào)研報告》可知，有40%的開發(fā)者將“易用性”作為選擇框架的首選因素，35%的開發(fā)者將”性能“作為選擇框架的首選因素。其易用性是指產(chǎn)品被用戶使用時，能夠被用戶理解、學習、使用和吸引用戶的能力，易用性是產(chǎn)品的基本自然屬性，標志著最終產(chǎn)的可用性和成熟度。MindSpore在易學習低門檻、易開發(fā)高效率、問題快速閉環(huán)三方面，提升易用性，并且成立了易用性SIG?！吨袊斯ぶ悄芸蚣苁袌稣{(diào)研報告》中提到，在國外的端到端框架中，開發(fā)者認為TensorFlow，PyTorch的易用性更好，而本土框架昇思MindSpore和飛槳PaddlePaddle在易用性方面緊隨其后。在端到端人工智能框架性能方面，MindSpore以13%的占比排名第三。MindSpore在全球AI框架使用率方面處于第一梯隊。根據(jù)Omdia的調(diào)研數(shù)據(jù)，在社區(qū)活躍度方面，MindSpore以11%的占比，排名第四；在中國開發(fā)者心中，MindSpore在國產(chǎn)框架中認知度排第一，全球框架中認知度排第三。在人工智能框架使用率方面，TensorFlow、PyTorch、昇思MindSpore和飛槳合計占了86%的市場份額，其中，MindSpore以11%的占比在全球框架里排名第三，逆勢進入了AI框架的第一梯隊。MindSpore在國內(nèi)市場廣受認可。昇思MindSpore與超過200所高校和科研機構(gòu)展開了創(chuàng)新合作，截至2022年，獲得了超過800家企業(yè)的昇思技術(shù)認證，涵蓋了制造、金融、電信運營商等國家重要領(lǐng)域。此外，昇思MindSpore在GiteeAI開源項目中綜合排名第一，軟件下載速度排名第一，已經(jīng)超過370萬次下載總量。提供全流程開發(fā)的工具鏈MindStudio。開發(fā)者可以利用MindStudio提供的簡單易用的開發(fā)工具，高效地完成端到端開發(fā)，讓開發(fā)者能夠在安裝部署、模型訓練、模型推理、算子開發(fā)、應(yīng)用開發(fā)、調(diào)試調(diào)優(yōu)和應(yīng)用部署全流程中一站式完成，無需切換不同的工具，從而顯著降低了開發(fā)門檻。MindStudio支持訓練、推理場景。1）訓練場景：MindStudio（昇騰訓練加速工具）利用獨有的算法，使訓練速度提升25%。2）推理場景：MindStudio（昇騰模型壓縮工具）利用獨有的智能算法，加速推理進程，可大致提速47%。2.3昇騰五類生態(tài)伙伴，覆蓋眾多主流廠商昇騰生態(tài)伙伴包含整機硬件伙伴、IHV硬件伙伴、應(yīng)用軟件伙伴、一體機解決方案伙伴以及生態(tài)運營伙伴五大類。其中，整機硬件伙伴有13家、IHV硬件伙伴有6家、軟件伙伴大約1200家，以薩技術(shù)是其一體機解決方案伙伴，極視角科技以及中軟國際是其生態(tài)運營伙伴。1）整機硬件伙伴：在昇騰計算整機硬件的產(chǎn)品方面，華為通過包括寶德、華鯤振宇、神州數(shù)碼等眾多主流的廠商合作，內(nèi)容主要涵蓋服務(wù)器，共同打造適應(yīng)產(chǎn)業(yè)發(fā)展的產(chǎn)品。以黃河信產(chǎn)為例，黃河信產(chǎn)專注于鯤鵬系列通用計算和昇騰系列AI計算的服務(wù)器、微型計算機以及軟硬一體化解決方案，并與生態(tài)伙伴緊密合作，共同推動計算生態(tài)的創(chuàng)新。其產(chǎn)品包括HuangheOceanAI900H訓練服務(wù)器、HuangheOceanAI800H推理服務(wù)器、HuangheOceanAI500Pro智能邊緣服務(wù)器等。2）IHV硬件伙伴：凌華科技、研揚科技、研華科技、飛途、東聲智能、全愛科技6大公司成為IHV硬件伙伴。該合作伙伴基于華為昇騰部件進行二次開發(fā)，形成自有品牌硬件產(chǎn)品并進行銷售。3）應(yīng)用軟件伙伴：對接昇騰服務(wù)器、智能小站、集群、加速模塊和卡以及MindSpore等產(chǎn)品，華為昇騰應(yīng)用軟件伙伴開發(fā)、銷售自有知識產(chǎn)權(quán)的應(yīng)用程序、軟件、垂直細分應(yīng)用等產(chǎn)品。該合作伙伴屬于數(shù)字政府和制造行業(yè)的居多。4）一體機解決方案伙伴：以薩技術(shù)成為華為昇騰唯一的一體機解決方案伙伴，基于昇騰系列的產(chǎn)品，打造了以薩智慧交通和以薩智慧交通兩大解決方案。5）生態(tài)運營伙伴：華為昇騰和極視角科技以及中軟國際達成合作。其中，極視角通過昇騰產(chǎn)品構(gòu)建了“智慧城市”解決方案，具有部署方便、一鍵式安裝、一站式管理和數(shù)據(jù)不外泄功能；而中軟國際年蟬聯(lián)中國軟件和信息服務(wù)綜合競爭力百強企業(yè)前15位，致力于昇騰算力企業(yè)合作、方案構(gòu)建、算力運營等領(lǐng)域。3昇騰一體機重點公司3.1科大訊飛：聯(lián)手華為打造國產(chǎn)AI“Wintel”聯(lián)盟與華為聯(lián)合發(fā)布星火一體機，合作共建全國產(chǎn)化算力底座。華為與科大訊飛共同在昇騰AI的軟硬件平臺和軟件的支撐工具上，把高算力AI芯片、高性能的算子庫、多卡高速互聯(lián)以及分布式存儲結(jié)合起來，尤其是聯(lián)合針對人工智能所需要的最重要的算子庫進行甄別和打磨，然后在此基礎(chǔ)上，架構(gòu)科大訊飛的訓練和數(shù)據(jù)閉環(huán)全流程設(shè)計，以及訓練和推理一體化設(shè)計的自研大模型訓練平臺，中間是支持大規(guī)模的異構(gòu)算力兼容，也支持混合云架構(gòu)易拓展。在單卡算力上，平臺對標英偉達A100，同時公司還正在與華為一道打造面向超大規(guī)模大模型訓練的國產(chǎn)算力集群，形成集群化優(yōu)勢。星火一體機有望成為助力行業(yè)和企業(yè)快速部署私有化大模型的重要抓手。在應(yīng)用端，科大訊飛給出了5種特別需要又方便的定制優(yōu)化模式，支持場景開發(fā)，也給出了十幾種直接可用的場景包，以及7000多個小助手，可以使每一家企業(yè)、每一個行業(yè)、每一個學校、每一個醫(yī)院，都有機會構(gòu)建自己的專屬大模型，企業(yè)可以從頭到尾訓練大模型，也可以基于科大訊飛的星火大模型來定制?？拼笥嶏w有130億、650億、1750億的模型參數(shù)可選，在這基礎(chǔ)上針對企業(yè)的場景進行快速優(yōu)化，一周左右就可以在原有應(yīng)用上增加20%技術(shù)指標。因此，星火一體機的發(fā)布，可以幫助每一個企業(yè)、每個行業(yè)快速部署私有化大模型。3.2軟通動力：昇騰AI生態(tài)圈踐行者軟通動力作為中國領(lǐng)先的軟件與信息技術(shù)服務(wù)商，長期深耕數(shù)字創(chuàng)新服務(wù)+AI賽道，擁有完整的技術(shù)創(chuàng)新體系，并成立了專注于AI領(lǐng)域的人工智能研究與創(chuàng)新中心(AIC)，為客戶的AI服務(wù)體系提供支撐。同時軟通動力積極融入昇騰AI生態(tài)圈。AI領(lǐng)域的重點產(chǎn)品：軟通動力打造出了具有端云協(xié)同、軟硬一體、安全可信三大優(yōu)勢的AI端云一體化產(chǎn)品（昇騰版），該產(chǎn)品已與華為Atlas300I/VPro推理卡完成兼容性測試。此外，軟通動力在多地的昇騰AI生態(tài)創(chuàng)新中心，均扮演多樣化算力能力服務(wù)商的角色，協(xié)助生態(tài)伙伴和用戶，共同完成芯片適配、系統(tǒng)遷移、應(yīng)用創(chuàng)新、人才培養(yǎng)等工作。同時，軟通動力作為首批合作企業(yè)簽約入駐北京昇騰人工智能計算中心，并將參與到“人工智能安全可信護航計劃”的理論研究、標準制定、評估評測等相關(guān)工作中，與昇騰一道共同推進AI規(guī)模應(yīng)用與產(chǎn)品創(chuàng)新。3.3云從科技：昇騰一體機賦能千行百業(yè)數(shù)字化轉(zhuǎn)型從容大模型訓推一體機是重慶人工智能創(chuàng)新中心孵化的首個大模型及解決方案，基于從容大模型，用戶可以訓練、構(gòu)建和管理自己的大模型。云從科技遵循通用平臺戰(zhàn)略，通過構(gòu)筑平臺型AI企業(yè)，打造人機協(xié)同操作系統(tǒng)和通用大模型底座，構(gòu)建像人一樣思考和工作的行業(yè)大模型，同時推出從容大模型推訓一體機作為超強硬件支撐，賦能大模型的訓練推理閉環(huán)，做到一套AI系統(tǒng)使能全業(yè)務(wù)流創(chuàng)新，實現(xiàn)場景通用化。從容大模型推訓一體機用著降本增效、安