阿里巴巴-+云棲大會2024：發(fā)布開源大模型通義Qwen2.5AI應(yīng)用進一步走向商業(yè)化

25Sep2024y.bai@barney.sq.yao@yc.熱點速評FlashAnalysis(PleaseseeAPPENDIX1forEnglishsummary)2024年9月19-21日，以“云啟智躍，產(chǎn)業(yè)蝶變”為主題的2024云棲大會在浙江杭州云棲小鎮(zhèn)開幕。大會為期3天，吸引大模型、自動駕駛、機器人等領(lǐng)域的400多家國內(nèi)外企業(yè)來到現(xiàn)場，是AI硬科技內(nèi)容最多的一次云棲大會。除了主論壇的圓桌論壇，大會還設(shè)置人工智能+、計算、前沿應(yīng)用三大主題館，全景式展示最新技術(shù)形態(tài)與產(chǎn)品，探索AI從科技前沿到提升生產(chǎn)效率、打造美好生活的應(yīng)用前景。阿里加速AI方面的投入，定位并建設(shè)面向AI時代全方位基礎(chǔ)設(shè)施供應(yīng)體系。阿里巴巴集團CEO、阿里云智能集團董事長兼CEO吳泳銘發(fā)表演講，認(rèn)為AI行業(yè)在過去22個月中發(fā)展迅猛，但對于AGI而言仍處于行業(yè)早期。并預(yù)言生成式AI最大的想象力，絕不是在手機屏幕上做一兩個新的超級app，而是接管數(shù)字世界，改變物理世界。同時阿里更新了針對AI時代建設(shè)全面適應(yīng)于未來的基礎(chǔ)設(shè)施生態(tài)的相關(guān)進展：再次強調(diào)針對AI需求而調(diào)整的IaaS，PaaS，MaaS的業(yè)務(wù)模式，打造從服務(wù)器、網(wǎng)絡(luò)、存儲到容器、AI平臺、數(shù)據(jù)湖、數(shù)據(jù)庫以及安全保障的全產(chǎn)業(yè)鏈基礎(chǔ)設(shè)施；另外也發(fā)表了AI模型和應(yīng)用更新，從通義千問、通義萬相、通義靈碼、到實時記錄、閱讀助手、AI翻譯、阿里云百煉以及魔搭社區(qū)等。阿里通義千問發(fā)布Qwen2.5大模型并開源，性能大幅提升并增配適合手機應(yīng)用的3B，14B等版本。CTO周靖人宣布：通義千問發(fā)布新一代開源模型Qwen2.5，開源旗艦?zāi)Ｐ蚎wen2.5-72B性能超越Llama3.1-405B；通義旗艦?zāi)Ｐ蚎wen-Max全方位升級，性能已經(jīng)逼近GPT-4o。今年6月通義千問Qwen2.0已率先開源，累計下載超4000萬次，在HuggingFace上排名開源預(yù)訓(xùn)練模型全球第一，并在全球衍生出5萬余種衍生模型，超越Mistral，全球排名第二僅次于MetaLlama。本次發(fā)布的Qwen2.5版本的預(yù)訓(xùn)練數(shù)據(jù)量超18萬億token，128k輸入和8k輸出的context，可撰寫萬字報告，并大幅增強指令遵循能力以及數(shù)學(xué)和編程的能力。Qwen2.5適配了0.5B，1.5B，3B，7B，14B，32B和72B等不同尺寸模型，適用于不同終端，并且支持29種語言。同時阿里云百煉平臺可以有效結(jié)合模型能力以及調(diào)用企業(yè)數(shù)據(jù)，提供商業(yè)級的AI輔助賦能平臺。Qwen2.5系列是一個超級AI模型「百寶箱」，涵蓋了多個尺寸的大語言模型、多模態(tài)模型、數(shù)學(xué)模型和代碼模型。每個尺寸都有基礎(chǔ)版本、指令跟隨版本和量化版本，總計上架了100多個模型，刷新了業(yè)界紀(jì)錄。在語言模型方面，Qwen2.5開源了7個尺寸：0.5B、1.5B、3B、7B、14B、32B、72B，每個都在同等參數(shù)賽道創(chuàng)造了業(yè)界最佳成績。所有Qwen2.5系列模型都在18萬億（18T）tokens的數(shù)據(jù)上進行了預(yù)訓(xùn)練。相比Qwen2，整體性能提升了18%以上，擁有更多的知識、更強的編程和數(shù)學(xué)能力。旗艦?zāi)Ｐ蚎wen2.5-72B在MMLU-redux（通用知識）、MBPP（代碼能力）和MATH（數(shù)學(xué)能力）等基準(zhǔn)測試中，分別取得了86.8、88.2、83.1的高分。72B作為Qwen2.5系列的旗艦?zāi)Ｐ?，在多個核心任務(wù)上，以不到1/5的參數(shù)超越了擁有4050億巨量參數(shù)的Llama3.1-405B。算力方面，新型AI服務(wù)器架構(gòu)磐久Infra2.0，阿里云靈駿集群可支持10萬卡級別算力規(guī)模?；谌碌腃IPU2.0，阿里云在會上推出磐久AI服務(wù)器Infra2.0，實現(xiàn)單機16卡、顯存1.5T以上，支持SolarRDMA互聯(lián)。該架構(gòu)采用超鈦金電源實現(xiàn)97%以上的高能效，并可通過AI算法預(yù)測GPU故障，準(zhǔn)確率達92%，保障AI算力的性能和穩(wěn)定性。在存儲方面，阿里云并行文件存儲CPFS實現(xiàn)端到端全鏈路性能提升，單客戶端吞吐達25GB/s，高性能數(shù)據(jù)流動達到100GB/s，為AI智算提供指數(shù)級擴展存儲能力。通過底層計算、存儲、網(wǎng)絡(luò)等基礎(chǔ)設(shè)施的升級，阿里云靈駿集群本研究報告由海通國際分銷，海通國際是由海通國際研究有限公司，海通證券印度私人有限公司，海通國際株式會社和海通國際證券集團其他各成員單位的證券研究團隊所組成的全球品牌，海通國際證券集團各成員分別在其許可的司法管轄區(qū)內(nèi)從事證券活動。關(guān)于海通國際的分析師證明，重要披露聲明和免責(zé)聲明，請參閱附錄。(Pleas225Sep20242可提供超大規(guī)模、超強性能的智能算力，萬卡規(guī)模性能線性度超過96%，并行存儲吞吐20TB/s，萬卡規(guī)模下網(wǎng)絡(luò)帶寬利用率超過99%，可支持單集群十萬卡級別AI算力規(guī)模。阿里云百煉平臺上的三款通義千問主力模型再次降價，最高降幅85%。繼5月首次大幅降價后，阿里云百煉平臺上的3款通義千問主力模型再次降價，為了讓企業(yè)和開發(fā)者以低成本的方式用上大模型。Qwen-Turbo價格直降85%，低至百萬tokens0.3元，Qwen-Plus和Qwen-Max分別再降價80%和50%。在能力上，Qwen-Plus推理能力追平GPT4，可應(yīng)用于復(fù)雜任務(wù)，比同等規(guī)模較行業(yè)價格低84%，具備行業(yè)最高等級產(chǎn)品性價比?！鞍倌４髴?zhàn)”時代在探索產(chǎn)業(yè)應(yīng)用的同時，有可能延續(xù)云時代的價格戰(zhàn)的競爭趨勢。大會邀請英偉達、月之暗面、清華大學(xué)等產(chǎn)學(xué)界領(lǐng)袖共同探討AI未來發(fā)張方向。大會認(rèn)為過去18個月AI的發(fā)展和突破是在不斷加速的，從年初2月的Sora到年中的GPT-4o到剛剛發(fā)布的GPT-o1，都反應(yīng)了生成式AI能力已經(jīng)不僅僅局限在語言類模型和對下一個token的猜測，而是泛化到多模態(tài)領(lǐng)域，尤其是o1更是在數(shù)學(xué)和科學(xué)等需要強邏輯關(guān)系推理的領(lǐng)域能力從去年的小學(xué)生水平快速發(fā)展到目前的博士生水平。面向未來，月之暗面認(rèn)為AI的發(fā)展將持續(xù)加速，一方面縱向語言類大模型的能力將進一步提高，另一方面橫向?qū)⒎夯狡渌嗄B(tài)領(lǐng)域。AI賦能行業(yè)應(yīng)用方面阿里聯(lián)合行業(yè)伙伴不斷探索，自動駕駛、機器人、醫(yī)療等行業(yè)的應(yīng)用案例和潛力均有涉及。論壇中小鵬汽車創(chuàng)始人何小鵬攜“全球首款A(yù)I汽車”P7+亮相，并提出“端到端四部曲”的目標(biāo)，即采用AI大模型實現(xiàn)2日進化一版，在L2級別智能駕駛的硬件基礎(chǔ)上實現(xiàn)L3+級別的用戶體驗，目前小鵬P7+僅處于第一步，即實現(xiàn)大模型端到端上車，在全國的城區(qū)范圍內(nèi)實現(xiàn)100%無圖智駕。小鵬汽車早在2022年就攜手阿里云建設(shè)自動駕駛智算中心，近兩年阿里云幫助小鵬將其算力擴張超4倍至2.51Eflops。本次大會阿里聯(lián)合英偉達共同發(fā)布智駕解決方案，阿里千問大模型搭載到英偉達DriveAGXOrin平臺，實現(xiàn)“駕算一體”的解決方案。盡管這項合作剛剛開始，且未來上車仍有較長的時間，這樣的純第三方的端到端模型對AI能力欠缺的車企仍不失為一種快速搭載和追趕智駕能力的選擇，成為百度自動駕駛有力的競爭對手，但由于車企參與度尚不明確，仍有待觀察。未來阿里將持續(xù)賦能自動駕駛，并在機器人及其他可移動產(chǎn)品領(lǐng)域同行業(yè)伙伴合作，打造面向未來AI應(yīng)用的基礎(chǔ)設(shè)施。此外，在醫(yī)療領(lǐng)域，百川智能展示出了通用醫(yī)療增強大模型與內(nèi)測版醫(yī)療應(yīng)用“AI健康顧問”。在未來醫(yī)療模型的發(fā)展路徑上，百川智能提出了從AI健康顧問到生命大模型的完整技術(shù)發(fā)展路線，涵蓋了從輔助診斷到AGI的各個階段。在教育領(lǐng)域，精準(zhǔn)學(xué)發(fā)布和展示了公司首個超擬人一對一AI老師。基于通義千問的基礎(chǔ)大模型，結(jié)合精準(zhǔn)學(xué)獨有的私有數(shù)據(jù)，精準(zhǔn)學(xué)團隊成功訓(xùn)練出了專注于教育領(lǐng)域的垂直大模型——“心流大模型”，同時，團隊面向?qū)W科知識教學(xué)優(yōu)化了語音識別與語音合AI商業(yè)化發(fā)展不及預(yù)期，產(chǎn)業(yè)應(yīng)用合作不及預(yù)期，算力供給不足，行業(yè)競爭加劇。325Sep20243425Sep20244525Sep20245圖17通義萬相Wanx提供文生圖、文生視頻625Sep20246APPENDIX1SummaryOnSeptember19-21,2024,the2024ApsaraConferencewiththethemeof“CloudEnlightenmentandIntelligentLeap,IndustrialButterflyTransformation”openedinHangzhou,ZhejiangProvince.Theconferencelastedthreedays,attractingmorethan400domesticandforeignenterprisesinthefieldsoflargemodels,automaticdriving,roboticsandotherfieldstothescene,whichisthemosthard-coreAItechnologycontentoftheAsparaConference.Inadditiontotheroundtableforumofthemainforum,theconferencealsosetupthreemajorthemepavilionsofAI+,computing,andcutting-edgeapplications,panoramicdisplayofthelatesttechnologyformsandproducts,andexplorationofAIfromtheforefrontofscienceandtechnologytoenhanceproductivityandcreatetheprospectofapplicationofabetterlife.7下下89/