AIGC行業(yè)市場分析3

AIGC行業(yè)市場分析國內(nèi)大模型發(fā)展國內(nèi)AI市場迅速發(fā)展，數(shù)據(jù)量增速或?qū)⑷虻谝粐鴥?nèi)應(yīng)用層面的需求推動AI產(chǎn)業(yè)的加速發(fā)展，或?qū)硎袌龅谋l(fā)性增長。根據(jù)IDC數(shù)據(jù)預(yù)測，2021年中國人工智能軟件及應(yīng)用市場規(guī)模為51億美元，預(yù)計2026年將會達到211億美元。數(shù)據(jù)、算法、算力是AI發(fā)展的驅(qū)動力，其中數(shù)據(jù)是AI發(fā)展的基石，中國數(shù)據(jù)規(guī)模增速或排名全球第一。據(jù)IDC統(tǒng)計，中國數(shù)據(jù)規(guī)模將從2021年的18.51ZB增長至2026年的56.16ZB，年均增長速度CAGR為24.9%，增速位居全球第一。國內(nèi)各大科技企業(yè)紛紛入局AI大模型大模型增強了AI技術(shù)的通用性，助力普惠AI的實現(xiàn)。未來，大模型有望于場景深度融合，配合專業(yè)工具和平臺支持應(yīng)用落地，開放的生態(tài)來激發(fā)創(chuàng)新，形成良性循環(huán)。頭部企業(yè)均采取“模型+工具平臺+生態(tài)”三層共建模式，有助于業(yè)務(wù)的良性循環(huán)，也更容易借助長期積累形成競爭壁壘。大模型廠商主要包括百度、騰訊、阿里、商湯、華為等企業(yè)，也有智源研究院、中科院自動化所等研究機構(gòu)，同時英偉達等芯片廠商也紛紛入局。百度：文心大模型百度文心大模型：模型+平臺+產(chǎn)品構(gòu)成全套體系百度文心構(gòu)建了文心大模型層、工具平臺層、產(chǎn)品與社區(qū)三層體系。產(chǎn)品能力：文心大模型+飛槳PaddlePaddle深度學(xué)習(xí)平臺，滿足市場大規(guī)模落地需求。應(yīng)用能力：百度已在金融、能源、制造、城市、傳媒、互聯(lián)網(wǎng)等行業(yè)擁有實際落地的標(biāo)桿案例。生態(tài)能力：在社區(qū)用戶的基礎(chǔ)上，可以實現(xiàn)與開發(fā)者、行業(yè)用戶、上下游產(chǎn)業(yè)的正向互動。百度飛槳：深度學(xué)習(xí)平臺為大模型研發(fā)基石飛槳（Paddle-Paddle）以百度多年的深度學(xué)習(xí)技術(shù)研究和業(yè)務(wù)應(yīng)用為基礎(chǔ)，集深度學(xué)習(xí)核心訓(xùn)練和推理框架、基礎(chǔ)模型庫、端到端開發(fā)套件、豐富的工具組件于一體，是國內(nèi)功能豐富、開源開放的產(chǎn)業(yè)級深度學(xué)習(xí)平臺。截止2022年底，共服務(wù)企事業(yè)單位20萬家，創(chuàng)建模型67萬個。飛槳深度學(xué)習(xí)平臺解決大模型研發(fā)和部署的各類問題，文心大模型是飛槳模型庫的重要組成部分，與飛槳共享生態(tài)，包含產(chǎn)業(yè)級知識增強大模型體系，以及工具平臺、API和創(chuàng)意社區(qū)助力大模型的高效應(yīng)用。文心大模型在市場格局中處于第一梯隊百度率先在2019年3月發(fā)布預(yù)訓(xùn)練模型ERNIE1.0，文心大模型構(gòu)建了“基礎(chǔ)+任務(wù)+行業(yè)”的三級模型體系，基礎(chǔ)大模型支撐任務(wù)與行業(yè)大模型的建設(shè)，任務(wù)和行業(yè)大模型結(jié)合真實場景與數(shù)據(jù)反哺基礎(chǔ)大模型優(yōu)化，目前已有36個大模型。基礎(chǔ)大模型：聚焦技術(shù)挑戰(zhàn)、通用性、泛化性探索，包括含NLP大模型、CV大模型和跨模態(tài)大模型。任務(wù)大模型：包含對話、搜索、信息抽取、生物計算等多個典型任務(wù)。行業(yè)大模型：包含與來自8個行業(yè)的頭部企業(yè)或機構(gòu)共建的11個行業(yè)大模型。IDC評估結(jié)果顯示，百度文心大模型處于第一梯隊，產(chǎn)品能力、生態(tài)能力達到L4水平，應(yīng)用能力達到L3水平?；A(chǔ)大模型：聚焦技術(shù)挑戰(zhàn)、通用性、泛化性探索文心基礎(chǔ)大模型覆蓋了NLP、CV、跨模態(tài)三大方向。文心NLP大模型：ERNIE3.0基于知識增強的多范式統(tǒng)一預(yù)訓(xùn)練框架，深入融合的千億級知識，具備強大的語言理解能力與小說、摘要、文案創(chuàng)意、歌詞、詩歌等文學(xué)創(chuàng)作能力；與鵬城實驗室合作發(fā)布了知識增強千億大模型“鵬城-百度·文心“。文心CV大模型：VIMER系列的CV大模型，包括視覺自監(jiān)督預(yù)訓(xùn)練大模型VIMER-CAE，多任務(wù)學(xué)習(xí)模型VIMERUFO2.0，端到端文檔OCR表征學(xué)習(xí)預(yù)訓(xùn)練模型VIMER-StrucTexT2.0等。文心跨模態(tài)大模型：ERNIE-ViLG2.0文生圖大模型、ERNIE-ViL視覺-語言大模型、ERNIE-Layout文檔智能大模型等。任務(wù)大模型：面向多個經(jīng)典下游任務(wù)推出的模型任務(wù)大模型包括，對話大模型PLATO、搜索大模型ERNIE-Search、信息抽取大模型ERNIE-UIE、代碼生成大模型ERNIE-Code、生物計算大模型等。PLATO：基于隱變量的生成式開放域?qū)υ挻竽Ｐ停邆浣咏嫒怂降亩噍喠鲿硨υ捘芰?，開放域?qū)υ捫Ч_到世界領(lǐng)先水平。ERNIE-UIE：支持多種類型的開放抽取任務(wù)，用戶可以使用自然語言自定義抽取目標(biāo)，無需訓(xùn)練即可抽取輸入文本中的對應(yīng)信息。ERNIE-Code：基于海量代碼和文本數(shù)據(jù)進行預(yù)訓(xùn)練，引入聯(lián)合學(xué)習(xí)，具備跨多種自然語言和編程語言的語義理解和生成能力。文心生物計算大模型構(gòu)建面向化合物分子、蛋白分子的生物計算領(lǐng)域預(yù)訓(xùn)練模型，賦能生物醫(yī)藥行業(yè)，包括單序列蛋白質(zhì)結(jié)構(gòu)預(yù)測模型HelixFold、蛋白質(zhì)結(jié)構(gòu)預(yù)測模型HelixFold-Single、化和表征學(xué)習(xí)模型HelixGEM-2。行業(yè)大模型：深入產(chǎn)業(yè)落地的重要舉措行業(yè)大模型是百度與行業(yè)頭部企業(yè)、機構(gòu)聯(lián)合研發(fā)的融合行業(yè)數(shù)據(jù)、知識以及專家經(jīng)驗的大模型，在各行業(yè)的技術(shù)效果突破、產(chǎn)品創(chuàng)新、生產(chǎn)流程變革、降本增效等維度產(chǎn)生價值。與國網(wǎng)合作的NLP大模型：探索研發(fā)電力人工智能聯(lián)合大模型，不僅提升了傳統(tǒng)電力專用模型的精度，而且大幅降低了研發(fā)門檻，實現(xiàn)了算力、數(shù)據(jù)、技術(shù)等資源的統(tǒng)籌優(yōu)化。與人民網(wǎng)的合作的NLP大模型：引入輿情數(shù)據(jù)中心積淀的行業(yè)知識來更好訓(xùn)練知識增強的傳媒行業(yè)大模型，實現(xiàn)更少的標(biāo)注數(shù)據(jù)下大幅提升傳媒行業(yè)自然語言處理任務(wù)效果，如新聞內(nèi)容審核分類、輿情分析、摘要生成等。與TCL合作的CV大模型：在TCL幾個產(chǎn)線檢測mAP指標(biāo)平均提升10%+，訓(xùn)練樣本減少到原有訓(xùn)練樣本30%～40%，產(chǎn)線指標(biāo)即可達到原有產(chǎn)線效果，新產(chǎn)線冷啟動效率可提升3倍，產(chǎn)線上線開發(fā)周期降低30%。應(yīng)用：平臺及產(chǎn)品面向B端C端齊發(fā)力百度文心圍繞大模型產(chǎn)業(yè)應(yīng)用的不同研發(fā)環(huán)節(jié)，面向各階段不同技術(shù)、業(yè)務(wù)背景的開發(fā)者或用戶，打造系列工具平臺與場景化產(chǎn)品。面向開發(fā)者：擁有面向NLP工程師的大模型套件ERNIEKit，包括數(shù)據(jù)標(biāo)注與處理、大模型精調(diào)、大模型壓縮、高性能部署、場景化工具五大模塊能力；AI開發(fā)平臺，包括零門檻AI開放平臺EasyDL，和面向AI算法開發(fā)者提供全功能AI開發(fā)平臺BML。面向下游應(yīng)用：文心開放了API接口，包括NLP大模型ERNIE3.0、跨模態(tài)大模型ERNIE-ViLG、對話大模型PLATO。面向用戶：推出了基于大模型驅(qū)動的新一代產(chǎn)業(yè)級搜索系統(tǒng)文心百中，以及AI藝術(shù)與創(chuàng)意輔助平臺文心一格。騰訊：混元大模型騰訊HunYuan大模型：深入產(chǎn)業(yè)落地的重要舉措2022年4月，騰訊首次對外披露HunYuan大模型，協(xié)同了騰訊預(yù)訓(xùn)練研發(fā)力量，完整覆蓋NLP大模型、CV大模型、多模態(tài)大模型及眾多行業(yè)/領(lǐng)域任務(wù)模型。HunYuan-NLP：萬億級別中文NLP預(yù)訓(xùn)練模型，參數(shù)量達1T，排名CLUE1.1總排行榜第一。HunYuan-vcr：排名VCR（VisualCommonsenseReasoning）榜單第一。HunYuan_tvr：跨模態(tài)文字-視頻檢索AI大模型。太極機器學(xué)習(xí)平臺：HunYuan大模型的底層支持太極是騰訊自主研發(fā)的一站式機器學(xué)習(xí)生態(tài)服務(wù)平臺，為AI工程師打造從數(shù)據(jù)預(yù)處理、模型訓(xùn)練、模型評估到模型服務(wù)的全流程高效開發(fā)工具，為大模型的訓(xùn)練提供了有力保障。太極AngelPTM：預(yù)訓(xùn)練加速組件，單機最大可容納55B模型，需要192張卡就可以訓(xùn)練萬億模型。太極-HCFToolKit：大模型壓縮和分布式推理組件，包含了從模型蒸餾、壓縮量化到模型加速的完整能力。太極-HCFdistributed為大模型分布式推理組件，使得HunYuan-NLP1T大模型推理只需96張A100(4G)卡，相比于“威震天”資源設(shè)備占用減少了40%。太極–SNIP為大模型壓縮組件，從蒸餾框架和壓縮加速算法兩方面，實現(xiàn)了迭代更快，效果更好，成本更低的大模型壓縮。應(yīng)用：為騰訊生態(tài)降本增效，廣告類應(yīng)用表現(xiàn)出色HunYuan先后支持了包括微信、QQ、游戲、騰訊廣告、騰訊云等眾多產(chǎn)品和業(yè)務(wù)，降本增效。依靠HunYuan的多模態(tài)理解能力，在廣告內(nèi)容理解、行業(yè)特征挖掘、文案創(chuàng)意生成等方面的應(yīng)用，在為騰訊廣告帶來大幅GMV提升的同時，也初步驗證了大模型的商業(yè)化潛力。HunYuan大模型和騰訊廣告精排大模型基于太極機器學(xué)習(xí)平臺，共同完善優(yōu)化了廣告理解、用戶理解、廣告和用戶匹配的整個流程，提升對廣告理解、匹配效率、精準(zhǔn)度和轉(zhuǎn)化效率。HunYuan大模型的生成能力，可以提升廣告制作的效率：“圖生視頻”功能，可以將靜態(tài)的圖片自動生成不同樣式的視頻廣告；“文案助手”功能，可以為廣告自動生成更恰當(dāng)?shù)臉?biāo)題，提升廣告的效果；“文生視頻”功能，未來只需要提供一句廣告文案，就可以自動生成與之匹配的視頻廣告。阿里：通義大模型通義大模型：讓AI更通用2022年9月，在阿里巴巴達摩院主辦的世界人工智能大會“大規(guī)模預(yù)訓(xùn)練模型”主題論壇上，發(fā)布“通義”大模型系列，并宣布相關(guān)核心模型向全球開發(fā)者開源開放。阿里達摩院基于其AI統(tǒng)一底座構(gòu)建了通用模型與專業(yè)模型協(xié)同的層次化人工智能體系。統(tǒng)一底座層：M6-OFA模型作為單一模型，在不引入新增結(jié)構(gòu)的情況下，可處理超過30種跨模態(tài)任務(wù)。通用模型層：NLP模型“通義–AliceMind”；CV模型“通義-視覺”；多模態(tài)模型“通義-M6”。專業(yè)模型層：深入電商、醫(yī)療、娛樂、設(shè)計、金融、工業(yè)、制造業(yè)等行業(yè)。底座層：實現(xiàn)模態(tài)表示、任務(wù)表示、模型結(jié)構(gòu)統(tǒng)一通義大模型背后的核心技術(shù)為統(tǒng)一學(xué)習(xí)范式OFA，使其具備了多種任務(wù)的“大一統(tǒng)”能力。單一模型即可同時處理圖像描述、視覺定位、文生圖、視覺蘊含、文檔摘要等10余項單模態(tài)和跨模態(tài)任務(wù)；升級后更是可以處理超過包括語音和動作在內(nèi)的30多種跨模態(tài)任務(wù)。架構(gòu)統(tǒng)一：使用Transformer架構(gòu)，統(tǒng)一進行預(yù)訓(xùn)練和微調(diào)，無需在應(yīng)對不同任務(wù)時，增加任何特定的模型層。模態(tài)統(tǒng)一：不管是NLP、CV這種單模態(tài)，還是圖文等多模態(tài)任務(wù)，全都采用同一個框架和訓(xùn)練思路。任務(wù)統(tǒng)一：將所有單模態(tài)、多模態(tài)任務(wù)統(tǒng)一表達成序列到序列（Seq2seq）生成的形式，同類任務(wù)的輸入幾乎就是“一個模子里刻出來的”。通用模型層：趨向于統(tǒng)一大模型的演化通義-M6為多模態(tài)大模型，已經(jīng)從2020年6月的3億參數(shù)基礎(chǔ)模型發(fā)展到2021年10月的10萬億參數(shù)全球最大預(yù)訓(xùn)練模型到2022年1月的業(yè)界首個通用統(tǒng)一大模型M6-OFA。2021年3月，發(fā)布通義–AliceMind，為達摩院開源的深度語言模型體系，CLUE1.1總排行榜第二。AliceMind生態(tài)體系包括：通用語言模型StructBERT、多模態(tài)語言模型StructVBERT、多語言模型VECO、生成式模型PALM、文檔圖像理解模型StructuralLM、表格理解模型SDCUP、超大中文理解與生成模型PLUG（24層StructBERT編碼器+“24-6”層的PALM編碼器-解碼器）、超大圖像-文本模型mPLUG等。華為：盤古大模型華為盤古大模型：深耕大模型的行業(yè)應(yīng)用華為云團隊于2020年立項AI大模型，并且于2021年4月發(fā)布“盤古大模型”。受益于華為的全棧式AI解決方案，大模型與昇騰（Ascend）芯片、昇思（MindSpore）語言、ModelArts平臺深度結(jié)合。盤古大模型已經(jīng)發(fā)展出包括基礎(chǔ)大模型（L0）、行業(yè)大模型（L1）、行業(yè)細分場景模型（L2）三大階段的成熟體系。2022年11月，在華為全聯(lián)接大會2022中國站上，華為云進一步迭代盤古大模型的技術(shù)能力，擴展盤古大模型的服務(wù)范圍，發(fā)布盤古氣象大模型、盤古礦山大模型、盤古OCR大模型三項重磅服務(wù)。ModelArts：大模型研發(fā)的平臺支持ModelArts是面向開發(fā)者的一站式AI平臺，為機器學(xué)習(xí)與深度學(xué)習(xí)提供海量數(shù)據(jù)預(yù)處理及交互式智能標(biāo)注、大規(guī)模分布式訓(xùn)練、自動化模型生成，及端-邊-云模型按需部署能力，幫助用戶快速創(chuàng)建和部署模型，管理全周期AI工作流。ModelArts的主要能力包括數(shù)據(jù)處理、算法開發(fā)、模型訓(xùn)練、AI應(yīng)用管理和部署；功能模塊涵蓋了強化學(xué)習(xí)、天籌(OptVerse)AI求解器、盤古大模型、AIGallery（人工智能知識與實訓(xùn)專區(qū)）、IDE（云原生Notebook）等?；A(chǔ)大模型：將Transformer應(yīng)用于各模態(tài)盤古語音語義大模型：語義模型是業(yè)界首個千億中文大模型；語音模型擁有超過4億參數(shù),是當(dāng)前最大的中文語音模型之一。語義部分，基于Transformer搭建基礎(chǔ)架構(gòu)，針對理解能力，使用類似BERT的MLM方式訓(xùn)練；針對生成能力，使用回歸語言模型作為訓(xùn)練目標(biāo)，即給定一句話的上半部分，讓模型預(yù)測下半部分。2022年，華為在鵬城云腦Ⅱ上訓(xùn)練了全球首個全開源2000億參數(shù)的自回歸中文預(yù)訓(xùn)練語言大模型——鵬程·盤古。語音部分，使用卷積與Transformer結(jié)合的網(wǎng)絡(luò)結(jié)構(gòu)，解碼器與文本類似；音頻編碼器部分，預(yù)訓(xùn)練時采取將音頻中挖掉一個片段，再隨機采樣一些片段作為負例，讓模型從中找出正確的被挖掉的片段。盤古視覺大模型：最大擁有30億參數(shù)，兼顧判別與生成能力；在小樣本學(xué)習(xí)性能領(lǐng)先。融合了卷積網(wǎng)絡(luò)和Transformer架構(gòu)，分開或按需結(jié)合達到更好效果；業(yè)界首創(chuàng)