2024MaaS框架與應(yīng)用研究報(bào)告_第1頁(yè)
2024MaaS框架與應(yīng)用研究報(bào)告_第2頁(yè)
2024MaaS框架與應(yīng)用研究報(bào)告_第3頁(yè)
2024MaaS框架與應(yīng)用研究報(bào)告_第4頁(yè)
2024MaaS框架與應(yīng)用研究報(bào)告_第5頁(yè)
已閱讀5頁(yè),還剩38頁(yè)未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

MaaS框架與應(yīng)用研究報(bào)告(2024)目錄一、MaaS概述 1(一)MaaS起源與概念 1(二)大模型促使MaaS快速發(fā)展 2(三)MaaS助推大模型規(guī)模化落地 5二、MaaS發(fā)展現(xiàn)狀及挑戰(zhàn) 7(一)MaaS產(chǎn)業(yè)發(fā)展現(xiàn)狀 7(二)MaaS發(fā)展面臨的挑戰(zhàn) 10三、MaaS框架與能力要求 13(一)MaaS框架說(shuō)明 13(二)模型平臺(tái)層 14(三)模型層 18(四)應(yīng)用開發(fā)層 20(五)模型服務(wù)協(xié)議框架 23四、MaaS應(yīng)用分析 25(一)MaaS落地條件及優(yōu)勢(shì)場(chǎng)景解析 25(二)MaaS行業(yè)實(shí)踐案例及成效剖析 28五、總結(jié)與展望 36主要參考文獻(xiàn) 39編制說(shuō)明 40圖目錄圖1 MaaS上下游關(guān)系示意圖 7圖2 MaaS產(chǎn)業(yè)圖譜 9圖3 MaaS兩種落地模式特點(diǎn)對(duì)比圖 10圖4 MaaS框架圖 13圖5 MaaS定位與比較示意圖 14圖6 模型平臺(tái)層能力架構(gòu)圖 15圖7 零代碼微調(diào)模型界面示意圖 17圖8 模型層能力架構(gòu)圖 18圖9 ModelScope模型層實(shí)踐圖 20圖10 應(yīng)用開發(fā)層能力架構(gòu)圖 21圖AppBuilder架構(gòu)圖 23圖12 服務(wù)協(xié)議架構(gòu)圖 24圖13 MaaS在各行業(yè)應(yīng)用占比 26圖14 企業(yè)價(jià)值鏈各環(huán)節(jié)生產(chǎn)場(chǎng)景占比圖 27圖15 MaaS應(yīng)用案例統(tǒng)計(jì)圖 28圖16 平安銀行服務(wù)平臺(tái) 29圖17 平安銀行MaaS服務(wù)平臺(tái)落地效果 30圖18 中國(guó)電科院一體化MaaS平臺(tái)架構(gòu) 31圖19 廣東移動(dòng)私域大模型體系 32圖20 金融風(fēng)控MaaS 34圖21 金融風(fēng)控領(lǐng)域MaaS建模與傳統(tǒng)建模效果對(duì)比 34圖22 金融風(fēng)控大模型與傳統(tǒng)定制模型性能對(duì)比 35表目錄表1 大模型落地問(wèn)題及MaaS解決方式 5MaaS框架與應(yīng)用研究報(bào)告(MaaS框架與應(yīng)用研究報(bào)告(2024年)1《模型即服務(wù):機(jī)器學(xué)習(xí)小而美的未來(lái)》11《模型即服務(wù):機(jī)器學(xué)習(xí)小而美的未來(lái)》1一、MaaS概述隨著以大模型為核心的人工智能技術(shù)的深入發(fā)展,模型即服務(wù)(MaaS,ModelasaService)作為一種新型人工智能服務(wù)模式煥發(fā)新生。本章將明確MaaS的概念及主要的服務(wù)能力范圍,剖析大模型時(shí)代MaaS快速發(fā)展的必然性,闡述MaaS在解決大模型規(guī)?;涞胤矫娴闹匾饬x。(一)MaaS起源與概念MaaS基本形態(tài)早已形成。2012年美國(guó)數(shù)據(jù)科學(xué)家DJ·帕蒂爾(DJPatil)首次提出MaaS概念1,即“將機(jī)器學(xué)習(xí)算法打包成可重復(fù)使用的服務(wù),使企業(yè)能夠快速地構(gòu)建、部署和監(jiān)控模型,無(wú)須開發(fā)和維護(hù)底層基礎(chǔ)架構(gòu)”,以此來(lái)適應(yīng)AI模型需求快速增長(zhǎng)的情況。此時(shí)MaaS多以AI能力開放平臺(tái)的形式存在,平臺(tái)之上承載人臉識(shí)別、光學(xué)字符識(shí)別(OCR)等特定場(chǎng)景的AI能力。該類AI能力由若干個(gè)模型及規(guī)則、數(shù)據(jù)庫(kù)等組合構(gòu)成,但覆蓋功能和場(chǎng)景有限,應(yīng)用方式較為單一,主要以工具包(SDK)等方式嵌入至業(yè)務(wù)系統(tǒng)。傳統(tǒng)AI模型落地成本低且泛化性不足,MaaS所帶來(lái)的增益尚不明顯。大模型以其龐大的參數(shù)量與獨(dú)特的模型結(jié)構(gòu)展現(xiàn)了良好性能,推理能力的提高使得模型可以解決復(fù)雜邏輯問(wèn)題,泛化性的提升拓寬了其應(yīng)用范圍,生成能力的增強(qiáng)賦予了模型更多的創(chuàng)造性。然而,模型的高性能對(duì)數(shù)據(jù)和算力的需求也相應(yīng)增長(zhǎng),成本的增加使得模MaaS框架與應(yīng)用研究報(bào)告(MaaS框架與應(yīng)用研究報(bào)告(2024年)PAGE2PAGE2《人工智能全域變革圖景展望:躍遷點(diǎn)來(lái)臨(22》2型規(guī)?;涞卮嬖谧璧K。在此背景下,MaaS通過(guò)提供服務(wù)的方式,顯著降低了用戶使用大模型的門檻,讓業(yè)務(wù)能夠更快速、更有效地享受大模型價(jià)值。根據(jù)畢馬威預(yù)測(cè),模型即服務(wù)(MaaS)將是AGI生態(tài)構(gòu)建的核心2。因此,MaaS成為大模型落地應(yīng)用的主要形態(tài),MaaSAI模型及其相關(guān)能力打包成可重復(fù)使用的服務(wù),使企業(yè)能夠快速高效地構(gòu)建、部署、監(jiān)控、調(diào)用模型,無(wú)須開發(fā)和維護(hù)底層基礎(chǔ)能力。MaaS概念相比能力范圍有所拓展,一方面機(jī)器學(xué)習(xí)算法擴(kuò)展至包括深度學(xué)習(xí)、大模型等在內(nèi)的所有AI用服務(wù)進(jìn)行推理,也可基于服務(wù)進(jìn)行AI應(yīng)用的構(gòu)建,擴(kuò)大模型服務(wù)MaaS主要提供三部分服務(wù)能力,一是提供包括模型訓(xùn)練、調(diào)優(yōu)和部署等在內(nèi)的全棧平臺(tái)型服務(wù),以支持低門檻的模型開發(fā)與定制,用戶無(wú)需關(guān)注AI算力、框架和平臺(tái)即可生產(chǎn)和部署模型;二是提供包括大小模型及公私域數(shù)據(jù)集的豐富資產(chǎn)庫(kù)服務(wù),以支持模型和數(shù)據(jù)集的靈活快速調(diào)用,用戶無(wú)須生產(chǎn)和部署模型即可調(diào)用模型和數(shù)據(jù)集服務(wù);三是提供基于AI模型的應(yīng)用開發(fā)工具服務(wù),以支持快速打造場(chǎng)景化應(yīng)用,用戶無(wú)須搭建開發(fā)工具即可進(jìn)行AI應(yīng)用開發(fā)。(二)大模型促使MaaS快速發(fā)展大模型正驅(qū)動(dòng)著“人工智能+”(AI+)需求的迅猛增長(zhǎng),加快了MaaS框架與應(yīng)用研究報(bào)告(MaaS框架與應(yīng)用研究報(bào)告(2024年)PAGEPAGE10催生了龐大的市場(chǎng)需求。如金融行業(yè),主要應(yīng)用于營(yíng)銷、客服、風(fēng)控等場(chǎng)景,有效解決金融領(lǐng)域人力成本高、風(fēng)險(xiǎn)管控滯后等問(wèn)題,某銀行基于AI的智能風(fēng)控可實(shí)現(xiàn)毫秒級(jí)別的快速風(fēng)控,將風(fēng)險(xiǎn)防控準(zhǔn)2倍;電信行業(yè),主要應(yīng)用于客戶服務(wù)、營(yíng)銷推廣、網(wǎng)絡(luò)運(yùn)維、故障預(yù)測(cè)等場(chǎng)景,有效解決電信領(lǐng)域用戶需求復(fù)雜、網(wǎng)絡(luò)優(yōu)化難度高等問(wèn)題,某運(yùn)營(yíng)商打造基于網(wǎng)絡(luò)大模型的網(wǎng)絡(luò)運(yùn)維AI助手,使得網(wǎng)絡(luò)運(yùn)維準(zhǔn)確率達(dá)88%以上;政務(wù)行業(yè),主要應(yīng)用于市民咨孤島等問(wèn)題,某單位利用大模型提升政務(wù)工作效率,在接訴即辦場(chǎng)87%以上3;除了賦能行業(yè)的散點(diǎn)場(chǎng)景外,企業(yè)AI+逐步向全流程賦能邁進(jìn),推進(jìn)全域數(shù)智化轉(zhuǎn)型,如某頭部互聯(lián)400個(gè)業(yè)務(wù)及場(chǎng)景接入大模型,其中協(xié)作類應(yīng)作,以AI50%20%4。然而,隨著大模型性能的不斷增強(qiáng)和應(yīng)用需求大規(guī)模增長(zhǎng),其技術(shù)成本和經(jīng)濟(jì)成本也愈加高昂,面臨的挑戰(zhàn)也愈加復(fù)雜。一是大模型在落地過(guò)程中需要海量算力,而企業(yè)獲取算力門檻高。隨著模型參數(shù)量變大,大模型訓(xùn)練算力需求以每2個(gè)月翻一番3中國(guó)信息通信研究院企業(yè)調(diào)研訪談4/s/EvPpycoG-ystkljz_eu-YA的速度增長(zhǎng)5AI模型在訓(xùn)練、調(diào)優(yōu)、推理和部署等方面的對(duì)數(shù)據(jù)集數(shù)量和質(zhì)量的要求更高,并且出現(xiàn)了提示工程、強(qiáng)化學(xué)習(xí)等新技術(shù),增加了技術(shù)壁壘。同時(shí),巨大的算力需求對(duì)分布式并行計(jì)算加速提出了更高要求,此外大模型用于邊端推理時(shí),需對(duì)模型三是大模型工程化落地時(shí)煙囪式建設(shè)造成資源浪費(fèi)。大模型成為當(dāng)前諸多企業(yè)數(shù)智化轉(zhuǎn)型的敲門磚,在企業(yè)內(nèi)部往往有多個(gè)團(tuán)隊(duì)希望將大模型與私有業(yè)務(wù)數(shù)據(jù)相結(jié)合,調(diào)優(yōu)出適合專屬場(chǎng)景的模型,進(jìn)一步提升業(yè)務(wù)價(jià)值。但從企業(yè)整體視角來(lái)看,內(nèi)部場(chǎng)景需求多有重復(fù),而大模型的泛化能力足以應(yīng)對(duì)同類行業(yè)場(chǎng)景的不同需求,若仍采用各團(tuán)隊(duì)自行維護(hù)模型的煙囪式模式,將會(huì)導(dǎo)致算力和人力的極大浪費(fèi)。四是大模型應(yīng)用在落地最后一公里時(shí)仍存在場(chǎng)景適配難和開發(fā)效率不足的挑戰(zhàn)。一方面模型應(yīng)用方具備豐富的行業(yè)經(jīng)驗(yàn)和高質(zhì)量數(shù)據(jù)集,但缺乏模型落地相關(guān)技術(shù),而模型廠商雖然有相關(guān)技術(shù)儲(chǔ)備但缺乏行業(yè)積累,所以場(chǎng)景適配的落地方案存在難度;另一方面,隨著企業(yè)AI+的全線推進(jìn),模型應(yīng)用的場(chǎng)景需求越來(lái)越多,而模型應(yīng)用的開發(fā)難度大且周期長(zhǎng),難以適應(yīng)業(yè)務(wù)不斷變化的需求。5https://\h/articles/s41586-021-04362-w綜上所述,大模型規(guī)?;涞孛媾R高性能、高需求、高成本等落地壓力和挑戰(zhàn),而MaaS基于高效、便捷、靈活等優(yōu)勢(shì),可成為推動(dòng)大模型應(yīng)用落地的重要力量,使得MaaS在大模型時(shí)代下的增益效果更為突出。(三)MaaS助推大模型規(guī)模化落地MaaS主要具備三個(gè)顯著特性。技術(shù)低門檻,有助于將模型普惠更廣泛的用戶群體;模型可共享,推動(dòng)行業(yè)資源的有效利用和技術(shù)進(jìn)步;應(yīng)用易適配,使得模型服務(wù)能夠快速融入業(yè)務(wù)場(chǎng)景。MaaS圍繞模型生產(chǎn)、模型調(diào)用、模型應(yīng)用開發(fā)等過(guò)程,提供包括平臺(tái)服務(wù)、模型服務(wù)、數(shù)據(jù)集服務(wù)、AI應(yīng)用開發(fā)服務(wù)在內(nèi)的全棧服務(wù),并對(duì)模型等資產(chǎn)進(jìn)行統(tǒng)一管理,提升規(guī)模化生產(chǎn)效率,培育和打造新質(zhì)生產(chǎn)力,為各行業(yè)帶來(lái)變革。表1大模型落地問(wèn)題及MaaS解決方式大模型落地問(wèn)題解決方式MaaS特性大模型技術(shù)門檻高在模型訓(xùn)調(diào)方面,通過(guò)全流程工具、快速找到合適的調(diào)優(yōu)路徑,加速模型定制在模型部署方面,提供部署服務(wù),簡(jiǎn)化部署上線過(guò)程在模型運(yùn)營(yíng)管理方面,通過(guò)全生命周期運(yùn)營(yíng)監(jiān)控,增強(qiáng)運(yùn)營(yíng)效率在管理方面,提供可共享的模型服務(wù),減少開發(fā)資源浪費(fèi),通過(guò)統(tǒng)一管理降低風(fēng)險(xiǎn)在落地方面,基于已有模型的微調(diào),減少模型選擇和試錯(cuò)成本通過(guò)AI應(yīng)用開發(fā)工具實(shí)現(xiàn)多模型協(xié)同,應(yīng)對(duì)企業(yè)規(guī)?;膹?fù)雜場(chǎng)景需求,提高開發(fā)效率技術(shù)低門檻模型可共享應(yīng)用易適配模型重復(fù)開發(fā)浪費(fèi)資源AI應(yīng)用開發(fā)效率低來(lái)源:中國(guó)信息通信研究院MaaS通過(guò)提供全流程平臺(tái)工具降低技術(shù)門檻。在模型訓(xùn)調(diào)方面,降低了學(xué)習(xí)新型訓(xùn)練或調(diào)優(yōu)算法的成本,可快速找到合適的調(diào)優(yōu)路徑并完成閉環(huán)的強(qiáng)化學(xué)習(xí)通路,新手亦可快速完成專屬模型定制;在模型部署及運(yùn)營(yíng)管理方面,對(duì)于部署上線過(guò)程復(fù)雜等問(wèn)題,提供快速部署服務(wù),并匹配全生命周期運(yùn)營(yíng)監(jiān)控工具,降低了模型部署和運(yùn)維的技術(shù)難度。MaaS通過(guò)提供集約化的模型庫(kù)和數(shù)據(jù)集,解決重復(fù)造輪子的資源浪費(fèi)問(wèn)題。在管理方面,當(dāng)模型從單點(diǎn)試驗(yàn)向規(guī)?;涞匕l(fā)展時(shí),模型的量變將引起效率的質(zhì)變,通過(guò)模型共享可減少開發(fā)資源的浪費(fèi),通過(guò)模型等數(shù)字資產(chǎn)的統(tǒng)一管理有助于提升風(fēng)險(xiǎn)可控性,資源的高效利用和規(guī)范管理將成為企業(yè)長(zhǎng)遠(yuǎn)發(fā)展的保障;在落地方面,通過(guò)直接調(diào)用模型服務(wù)和數(shù)據(jù)集,減少了數(shù)據(jù)處理、選擇模型以及模型調(diào)優(yōu)部署的過(guò)程,加快了開發(fā)進(jìn)度,快速響應(yīng)業(yè)務(wù)需求。MaaS通過(guò)提供模型應(yīng)用的高效開發(fā)能力,適配企業(yè)規(guī)?;瘓?chǎng)景需求。模型應(yīng)用場(chǎng)景眾多,但企業(yè)內(nèi)部開發(fā)資源有限,MaaS在模型服務(wù)的基礎(chǔ)上提供面向業(yè)務(wù)場(chǎng)景的應(yīng)用開發(fā)平臺(tái)或工具,幫助用戶快速構(gòu)建基于AI模型的應(yīng)用。如在面臨單個(gè)模型無(wú)法解決復(fù)雜業(yè)務(wù)G排等多種方式以增強(qiáng)模型能力,并以智能體(AIAgent)等方式向用戶提供更優(yōu)質(zhì)的服務(wù)。MaaS讓更多用戶可以生產(chǎn)個(gè)性化的模型應(yīng)用,為AI二、MaaS發(fā)展現(xiàn)狀及挑戰(zhàn)MaaS作為一種智能化服務(wù)新模式得到迅速發(fā)展,本章將圍繞產(chǎn)業(yè)圖譜及落地方式闡述當(dāng)前MaaS的產(chǎn)業(yè)發(fā)展現(xiàn)狀,并分析MaaS落地面臨的挑戰(zhàn)。(一)MaaS產(chǎn)業(yè)發(fā)展現(xiàn)狀MaaS在人工智能產(chǎn)業(yè)鏈中處于中游位置,基于平臺(tái)服務(wù)、模型及數(shù)據(jù)集服務(wù)、應(yīng)用開發(fā)服務(wù)的供給能力,形成了初步的產(chǎn)業(yè)圖譜,且各類參與方積極發(fā)揮自身優(yōu)勢(shì),形成不同落地模式。MaaS產(chǎn)業(yè)圖譜初步形成MaaS基于算力基礎(chǔ)設(shè)施的支持,面向場(chǎng)景提供多種應(yīng)用,具備從模型生產(chǎn)到模型調(diào)取并打造成AI應(yīng)用的全流程能力。圖1MaaS上下游關(guān)系示意圖

來(lái)源:中國(guó)信息通信研究院MaaS產(chǎn)業(yè)圖譜(2所示)MaaS生態(tài)系統(tǒng)的基座能力。國(guó)外如GoogleAIPlatform、微軟的AzureMachineLearningAmazonSageMaker等平臺(tái),提供了從數(shù)據(jù)處理到模型訓(xùn)練、驗(yàn)證、部署及監(jiān)控的流水線服務(wù)。國(guó)內(nèi)如阿里云PAI平臺(tái)、騰訊云太極平臺(tái)、百度千帆大模型平臺(tái)和華為的ModelArts平臺(tái)等,均支持多種機(jī)器學(xué)習(xí)算法和大模型,并提供低代碼開發(fā)環(huán)境與高效的模型訓(xùn)練及部署能力,能夠適應(yīng)多樣化的模型定制需求。在模型服務(wù)方面,通過(guò)提供豐富多樣的模型資源以支持各種應(yīng)HuggingFace提供模型及模型調(diào)用服務(wù),202456046。國(guó)內(nèi)模型服務(wù)生態(tài)迅速發(fā)展,頭部企業(yè)通過(guò)搭建模型服務(wù)開源社區(qū)或平臺(tái),匯聚各類模型及服務(wù)能力,包括大模型、傳統(tǒng)AI模型及各在數(shù)據(jù)集服務(wù)方面,通過(guò)匯聚和管理處理好的數(shù)據(jù)集,為其他AI模型的訓(xùn)練與微調(diào)提供可直接獲取的高質(zhì)量數(shù)據(jù)集,一定程度上幫助企業(yè)快速獲取某些模型訓(xùn)練所需的數(shù)據(jù)集。截至2023年Scale·AI數(shù)據(jù)集服務(wù)商已累計(jì)標(biāo)注102D、3D場(chǎng)景化數(shù)據(jù)7,提供了豐富的數(shù)據(jù)集服務(wù),據(jù)GrandResearch報(bào)告顯示,全球數(shù)據(jù)收集和標(biāo)注市場(chǎng)規(guī)模預(yù)計(jì)從2023年到2030年將以28.9%8。在AIAI應(yīng)用開發(fā)新路徑。如作為基于大模型的應(yīng)用開發(fā)工具,可通過(guò)自GPT20241300萬(wàn)6https://huggingface.co/7/about8https://\h/sector-report/data-collection-labeling-industry-data-book。國(guó)內(nèi)頭部企業(yè)也紛紛推出各類應(yīng)用開發(fā)平臺(tái),可實(shí)現(xiàn)AI原生應(yīng)用開發(fā),并支持構(gòu)建Iget(智能體件或系統(tǒng)工具的強(qiáng)互動(dòng)及關(guān)聯(lián),據(jù)MarketsandMarkets2028AIAgent285億美元,20232028年43.0%10。來(lái)源:中國(guó)信息通信研究院圖2MaaS產(chǎn)業(yè)圖譜MaaS兩種落地方式MaaS具備公有云和私有云兩種落地方式,公有云模式下模型資源更加豐富,但私有云模式下模型資源的行業(yè)領(lǐng)域?qū)傩愿鼘I(yè)(如3所示。公有云方式下,通過(guò)豐富的資源可吸引更多用戶而提升產(chǎn)品知名度,有助于進(jìn)一步商業(yè)轉(zhuǎn)化。其模型面向社會(huì)大眾提供服務(wù),模型的種類和數(shù)量更多,通用性更強(qiáng),但是對(duì)于業(yè)務(wù)需求較高的特定場(chǎng)景,部分模型難以直接應(yīng)用。私有云方式下,企業(yè)內(nèi)研發(fā)團(tuán)隊(duì)專注于研究符合垂直領(lǐng)域場(chǎng)景需求的模型,旨在通過(guò)調(diào)用模型9/index/introducing-the-gpt-store10Marketsandmarkets《AttractiveOpportuntitesintheAutonomousAgentsMarket》https://\h/Market-Reports/autonomous-ai-and-autonomous-agents-market-208190735.html服務(wù)以直接解決業(yè)務(wù)需求,且模型資產(chǎn)和數(shù)據(jù)隱私性強(qiáng),各團(tuán)隊(duì)在模型共享的過(guò)程中可降低資產(chǎn)泄露的風(fēng)險(xiǎn)。來(lái)源:中國(guó)信息通信研究院圖3MaaS兩種落地模式特點(diǎn)對(duì)比圖MaaS在公有云和私有云兩種落地方式下體現(xiàn)出不同的商業(yè)模式。在公有云環(huán)境下面向C端用戶主要有按量計(jì)費(fèi)和訂閱兩種模式,其中按量計(jì)費(fèi)是指按照模型實(shí)際調(diào)用量或者算力消耗量計(jì)費(fèi),如按照調(diào)用模型接口(API)次數(shù)或輸入輸出數(shù)計(jì)費(fèi);訂閱模式是指按照月租或年租的方式計(jì)費(fèi),常見于模型應(yīng)用的使用場(chǎng)景,適合追求“開箱即用”便捷性的用戶群體。在私有云環(huán)境下面向B端客戶以私有化部署的項(xiàng)目制方式計(jì)費(fèi),可根據(jù)企業(yè)需求部署對(duì)應(yīng)的服務(wù),如需提供模型生產(chǎn)的工具則部署模型平臺(tái),如對(duì)應(yīng)用開發(fā)有需求則部署應(yīng)用開發(fā)平臺(tái),私有化部署的MaaS在企業(yè)內(nèi)部實(shí)現(xiàn)服務(wù)的共享使用,并根據(jù)需求決定服務(wù)調(diào)用是否內(nèi)部結(jié)算。(二)MaaS發(fā)展面臨的挑戰(zhàn)隨著MaaS的快速發(fā)展,平臺(tái)、模型等服務(wù)能力迅速得以完善,但MaaS在規(guī)范性、生態(tài)建設(shè)等方面仍存在不足,模型服務(wù)的易用性仍有待提升。模型服務(wù)質(zhì)量缺乏規(guī)范性。目前產(chǎn)業(yè)界已發(fā)布多個(gè)MaaS產(chǎn)品,并匯聚了大量的模型服務(wù),但服務(wù)內(nèi)容和服務(wù)質(zhì)量難以統(tǒng)一和衡量,無(wú)法確保用戶獲得滿意的服務(wù)。一方面模型服務(wù)本身的可用性要求尚未建立統(tǒng)一規(guī)范,另一方面服務(wù)規(guī)?;涞厮仨毜姆€(wěn)定性、可靠性和安全性等并未形成標(biāo)準(zhǔn)體系。模型服務(wù)易用性不足。由于模型卡片的建設(shè)尚不完善,導(dǎo)致模型信息的不透明現(xiàn)象較為普遍。用戶無(wú)法獲取清晰、準(zhǔn)確的模型信息,從而難以選擇所需模型。此外,模型的可解釋性也相對(duì)較弱,使得用戶難以理解模型的運(yùn)作機(jī)制和輸出結(jié)果。因此,加強(qiáng)模型卡片的信息透明度,增強(qiáng)模型的可解釋性,提升模型服務(wù)易用性,是當(dāng)前面臨的重要挑戰(zhàn)。MaaS基建成本控制能力需加強(qiáng)。MaaS的體系構(gòu)建離不開堅(jiān)實(shí)的基建支撐,涵蓋云計(jì)算基礎(chǔ)設(shè)施如算力資源和數(shù)據(jù)中心的搭建,以及專業(yè)技術(shù)人才的培育,這些都需要巨額的資金投入。因此MaaS建設(shè)方應(yīng)考慮有效地管理和利用基建資產(chǎn),降低運(yùn)營(yíng)成本提高運(yùn)營(yíng)效率,從而降低和控制建設(shè)成本。合規(guī)管理體系亟需進(jìn)一步完善。MaaS在合規(guī)性方面面臨數(shù)據(jù)規(guī)范與權(quán)責(zé)確認(rèn)的雙重考驗(yàn)。就數(shù)據(jù)合規(guī)而言,既要關(guān)注用戶在使用模型服務(wù)時(shí)個(gè)人數(shù)據(jù)的隱私安全,也要確保用于模型訓(xùn)練和優(yōu)化的數(shù)據(jù)來(lái)源合法合規(guī)。在權(quán)責(zé)確認(rèn)方面,當(dāng)模型服務(wù)出現(xiàn)不可用時(shí),如何明確和處理使用方因此遭受的損失,目前尚缺乏明確的規(guī)范。國(guó)內(nèi)MaaS生態(tài)建設(shè)尚不完備。一方面由于當(dāng)前MaaS各層之間,以及同層的不同企業(yè)服務(wù)之間接口模式尚未統(tǒng)一,使得MaaS的推廣和應(yīng)用也面臨數(shù)據(jù)互通、技術(shù)對(duì)接等難題,這在一定程度上制約了其生態(tài)建設(shè)的步伐;另一方面國(guó)內(nèi)模型服務(wù)和用戶的體量較國(guó)際先進(jìn)水平還存在差距,模型共建共享的生態(tài)環(huán)境有待進(jìn)一步完善。三、MaaS框架與能力要求MaaS能夠解決大模型規(guī)?;涞仉y題,同時(shí)滿足傳統(tǒng)人工智能模型的使用需求,提供更加高效的模型觸達(dá)方式。本章由中國(guó)信息通信研究院(以下簡(jiǎn)稱“信通院”)和行業(yè)專家結(jié)合產(chǎn)業(yè)實(shí)踐對(duì)MaaS開展研究,圍繞模型落地的全生命周期,分析和總結(jié)框架體系及能力要求,并對(duì)服務(wù)的質(zhì)量保障進(jìn)行研究,闡述模型服務(wù)協(xié)議框架。(一)MaaS框架說(shuō)明MaaS(4)模型服務(wù)層和模型應(yīng)用開發(fā)層,每層可作為單獨(dú)服務(wù)供用戶調(diào)取,圖4MaaS框架圖

來(lái)源:中國(guó)信息通信研究院在人工智能體系架構(gòu)中,MaaS處于應(yīng)用層和基礎(chǔ)設(shè)施層之間如圖5所示圖5MaaS定位與比較示意圖

來(lái)源:中國(guó)信息通信研究院一方面,云計(jì)算架構(gòu)下的平臺(tái)層將操作系統(tǒng)、中間件等軟件棧通過(guò)服務(wù)模式提供給用戶,用戶只需關(guān)注應(yīng)用程序的開發(fā)和管理,減少了開發(fā)過(guò)程中基礎(chǔ)設(shè)施相關(guān)問(wèn)題的考慮。而MaaS在其基礎(chǔ)上增強(qiáng)了平臺(tái)層能力,首先通過(guò)對(duì)模型訓(xùn)練框架、工具等進(jìn)行抽象和服務(wù)化,使得用戶可以直接構(gòu)建、使用或基于模型再次調(diào)優(yōu);同時(shí)MaaS補(bǔ)充了模型層能力,對(duì)模型及服務(wù)進(jìn)行集約化管理,為用戶提供可直接調(diào)取的AI能力。另一方面,云計(jì)算架構(gòu)下的應(yīng)用層通過(guò)SaaS的方式使用戶可直接在線使用應(yīng)用程序,無(wú)需安裝及維護(hù)本地軟件。而MaaS對(duì)應(yīng)用層進(jìn)行了補(bǔ)充,支持用戶基于多種模型服務(wù)及組件進(jìn)行編排或開發(fā),創(chuàng)造更加個(gè)性化更加便捷的AI應(yīng)用。以下將對(duì)MaaS各層能力架構(gòu)和模塊進(jìn)行介紹,并對(duì)產(chǎn)業(yè)典型案例進(jìn)行分析。(二)模型平臺(tái)層模型平臺(tái)層為模型定制開發(fā)提供全套的工具鏈及全流程管理能力,包括數(shù)據(jù)處理、模型開發(fā)交付和運(yùn)營(yíng)等能力?;谠搶?,一方面通過(guò)全套的工具鏈幫助企業(yè)降低模型定制開發(fā)的技術(shù)門檻,另一方面通過(guò)全流程的運(yùn)營(yíng)管理提高多團(tuán)隊(duì)協(xié)作效率,并實(shí)時(shí)監(jiān)控線上模型運(yùn)行情況,保障業(yè)務(wù)效果。能力架構(gòu)模型平臺(tái)層包括數(shù)據(jù)工程、模型開發(fā)、模型交付、服務(wù)運(yùn)營(yíng)。該層以基礎(chǔ)大模型、算法、私有數(shù)據(jù)集等為輸入,以企業(yè)專屬模型為輸出,具體能力架構(gòu)如圖6所示。

圖6模型平臺(tái)層能力架構(gòu)圖

來(lái)源:中國(guó)信息通信研究院數(shù)據(jù)工程:通過(guò)數(shù)據(jù)處理及管理工具,將原始數(shù)據(jù)集處理成可直接被用于模型訓(xùn)練和模型評(píng)估的高質(zhì)量數(shù)據(jù)集。數(shù)據(jù)采集方面支持主流數(shù)據(jù)源接入以及本地?cái)?shù)據(jù)導(dǎo)入,具備處理海量、多模態(tài)和多格式數(shù)據(jù)的能力;數(shù)據(jù)標(biāo)注方面平臺(tái)支持在線標(biāo)注,提供人工與自動(dòng)等多種標(biāo)注方式,并對(duì)標(biāo)注好的數(shù)據(jù)集做統(tǒng)一管理;數(shù)據(jù)處理方面支持清洗、過(guò)濾、去重、去隱私等流水線處理方式,從而提升數(shù)據(jù)質(zhì)量?jī)?yōu)化模型效果;數(shù)據(jù)生成方面支持在數(shù)據(jù)分布不均衡或缺少數(shù)據(jù)的情況下,根據(jù)需求生成相應(yīng)的數(shù)據(jù)以達(dá)到數(shù)據(jù)平衡;數(shù)據(jù)回流方面支持將業(yè)務(wù)數(shù)據(jù)回流至數(shù)據(jù)集以持續(xù)優(yōu)化模型性能,經(jīng)篩選、調(diào)整及處理,用于下一次的模型優(yōu)化或訓(xùn)練。模型開發(fā):包括大小模型的開發(fā),通過(guò)提供模型訓(xùn)練、調(diào)優(yōu)、重訓(xùn),和強(qiáng)化學(xué)習(xí)等環(huán)節(jié)的工具支持,以實(shí)現(xiàn)模型的定制,同時(shí)降低開發(fā)的技術(shù)門檻。在模型訓(xùn)練AI模型訓(xùn)練所涉及的特征工程、模型調(diào)參和模型實(shí)驗(yàn)等能力;在模型調(diào)優(yōu)方面通過(guò)提供多種調(diào)優(yōu)工具,支持自動(dòng)化或半自動(dòng)化的模型調(diào)優(yōu),完成私域模型定制;在模型重訓(xùn)方面,根據(jù)私域數(shù)據(jù)集進(jìn)行場(chǎng)景化訓(xùn)練,生成專屬模型;在強(qiáng)化學(xué)習(xí)方面,基于人類反饋數(shù)據(jù),支持模型交付:通過(guò)提供模型壓縮轉(zhuǎn)換、模型測(cè)試、模型部署和管理等能力,支持將調(diào)優(yōu)好的模型發(fā)布上線,縮短交付周期并快速響應(yīng)業(yè)務(wù)需求。在壓縮轉(zhuǎn)換方面,支持量化、蒸餾、剪枝等多類算法選擇,并預(yù)估不同算法的壓縮效果,支持用戶在保持模型性能服務(wù)運(yùn)營(yíng):通過(guò)對(duì)發(fā)布的模型服務(wù)進(jìn)行統(tǒng)一運(yùn)營(yíng)管理,包括服務(wù)托管、服務(wù)監(jiān)控、服務(wù)告警、結(jié)果和反饋等,對(duì)模型服務(wù)進(jìn)行有效監(jiān)控與運(yùn)維??拼笥嶏w在模型平臺(tái)領(lǐng)域的落地實(shí)踐科大訊飛在專屬模型定制過(guò)程中,為了進(jìn)行復(fù)雜海量的數(shù)據(jù)處理,提升大模型調(diào)優(yōu)及部署的效率,通過(guò)模型平臺(tái)的方式,將模型的能力定制為云化服務(wù),普惠AI技術(shù)人員??拼笥嶏w在模型平臺(tái)領(lǐng)域的落地實(shí)踐科大訊飛在專屬模型定制過(guò)程中,為了進(jìn)行復(fù)雜海量的數(shù)據(jù)處理,提升大模型調(diào)優(yōu)及部署的效率,通過(guò)模型平臺(tái)的方式,將模型的能力定制為云化服務(wù),普惠AI技術(shù)人員。來(lái)源:科大訊飛圖7零代碼微調(diào)模型界面示意圖(三)模型層MaaSAI能力,為用戶提供可直接調(diào)取的模型服務(wù),降低了用戶使用各類模型的難度,推動(dòng)了大模型普惠化發(fā)展,同時(shí)為上層個(gè)性化智能應(yīng)用的開發(fā)提供AI能力支持。能力架構(gòu)模型層包括豐富的模型庫(kù)、數(shù)據(jù)集和服務(wù)管理等能力,提供API、SDK、模型文件、在線推理服務(wù)等形式,模型層能力架構(gòu)如圖8所示。

圖8模型層能力架構(gòu)圖

來(lái)源:中國(guó)信息通信研究院模型庫(kù):AI模型,通過(guò)庫(kù)的方式對(duì)模型資產(chǎn)進(jìn)行統(tǒng)一納管。模型庫(kù)中的模型支持被模型平臺(tái)層調(diào)用而進(jìn)一步調(diào)優(yōu)生成新的模型,并將其發(fā)布至模型庫(kù)中進(jìn)行共享;同時(shí)也支持被上層的應(yīng)用開發(fā)層調(diào)用,配合多模型、知識(shí)庫(kù)和插件等共同組建成AI應(yīng)用。服務(wù)管理:是指對(duì)模型庫(kù)中的模型進(jìn)行全生命周期管理,以提供ModelScope在模型層的落地實(shí)踐ModelScopeModelScope在模型層的落地實(shí)踐ModelScopeIModelScope的模型庫(kù)模塊提供模型發(fā)布、調(diào)用和共享能力,并進(jìn)行模型版本管理與服務(wù)托管,同時(shí)數(shù)據(jù)集模塊提供數(shù)據(jù)集共享20243月ModelScope已開2300個(gè)AI60280萬(wàn)名AI開發(fā)者。來(lái)源:阿里云圖9ModelScope模型層實(shí)踐圖(四)應(yīng)用開發(fā)層應(yīng)用開發(fā)層基于各類模型服務(wù)和知識(shí)庫(kù)、插件等能力,通過(guò)自然語(yǔ)言、工作流編排、界面配置等方式,完成基于模型的AI應(yīng)用開發(fā)和集成,同時(shí)對(duì)應(yīng)用從創(chuàng)建到使用的全生命周期進(jìn)行管理,提高應(yīng)用開發(fā)效率。能力架構(gòu)應(yīng)用開發(fā)層包括支撐能力、應(yīng)用開發(fā)集成、應(yīng)用生命周期管理三部分。支撐能力是構(gòu)建AI應(yīng)用所需的基礎(chǔ)能力,如模型服務(wù)、插件、知識(shí)庫(kù)、Prompt(提示、RAG、Agent等;應(yīng)用開發(fā)集成根據(jù)不同用戶技術(shù)水平和場(chǎng)景的需求分為自然語(yǔ)言、界面配置、工作流編排以及代碼開發(fā)等方式,滿足不同開發(fā)難度和靈活度的需求;應(yīng)用生命周期管理對(duì)應(yīng)用創(chuàng)建到上線運(yùn)營(yíng)的整個(gè)流程進(jìn)行統(tǒng)一管理,保障應(yīng)用的穩(wěn)定運(yùn)行。應(yīng)用開發(fā)層能力架構(gòu)如圖10所示。

圖10應(yīng)用開發(fā)層能力架構(gòu)圖

來(lái)源:中國(guó)信息通信研究院支撐能力:為應(yīng)用開發(fā)提供了多種基礎(chǔ)能力,用戶可根據(jù)需求選擇相應(yīng)能力進(jìn)行組合編排或開發(fā)。其中模型服務(wù)可直接被調(diào)取以AI能力;插件提供了各類可擴(kuò)展的工具能力,使得應(yīng)用功能更加豐富,包括自建插件和第三方插件等;知識(shí)庫(kù)提供了豐富RAG等能力將新數(shù)據(jù)引入模型,增強(qiáng)輸出結(jié)果的準(zhǔn)確性;Prompt提供了創(chuàng)建應(yīng)用、使用應(yīng)用的提示詞管理能力,以幫助模型更好地理解用戶意圖;Agent通過(guò)自主感知、決策和執(zhí)行等環(huán)節(jié)進(jìn)一步提升了應(yīng)用的智應(yīng)用開發(fā)集成:為不同技術(shù)水平的用戶提供多樣化的應(yīng)用開發(fā)和集成能力,提高應(yīng)用開發(fā)的靈活性。自然語(yǔ)言交互的模式下用戶通過(guò)恰當(dāng)?shù)腜rompt可快速實(shí)現(xiàn)專屬場(chǎng)景下的應(yīng)用構(gòu)建;界面配置的方式支持用戶通過(guò)選擇基礎(chǔ)模型、設(shè)置模型性能、匹配插件知識(shí)庫(kù)等組件完成應(yīng)用構(gòu)建;工作流編排的方式支持用戶將多個(gè)模型及各類組件以某種邏輯規(guī)則進(jìn)行編排,可自定義不同模型和組件之間的邏輯關(guān)系,提升應(yīng)用開發(fā)的擴(kuò)展性;代碼開發(fā)適合具備編碼能力的用戶,可基于API接口、SDK套件等進(jìn)行靈活編碼設(shè)計(jì),支持更加靈活的應(yīng)用開發(fā)。應(yīng)用生命周期管理:覆蓋了從應(yīng)用創(chuàng)建、調(diào)試、部署到發(fā)布以及監(jiān)控運(yùn)營(yíng)的完整流程。通過(guò)全生命周期過(guò)程管理,提高應(yīng)用開發(fā)過(guò)程可控性;通過(guò)監(jiān)控運(yùn)營(yíng)及時(shí)發(fā)現(xiàn)并解決問(wèn)題,保障應(yīng)用的持AppBuilder在AI百度云AppBuilderAppBuilder在AI百度云AppBuilder為提升基于大模型的AIRAG、Agent、GBI等應(yīng)用框架,以及大語(yǔ)言模型和多模態(tài)的多種能力組件,降低AI原生應(yīng)用的開發(fā)門檻,賦能開發(fā)者快速(。AppBuilder面向不同開發(fā)能力的用戶和開發(fā)場(chǎng)景,分別以低代碼態(tài)和代碼態(tài)的產(chǎn)品形態(tài),提供了應(yīng)用組件、應(yīng)用框架兩層服務(wù)。低代碼態(tài)下通過(guò)點(diǎn)選配置,調(diào)取所需的模型服務(wù)和組件,設(shè)置相關(guān)參數(shù)即可打造AI原生應(yīng)用。代碼態(tài)下支持有一定開發(fā)能力的技術(shù)人員,在開發(fā)套件的支持下完成功能更加豐富的AI原生應(yīng)用。來(lái)源:百度云來(lái)源:百度云圖11AppBuilder架構(gòu)圖(五)模型服務(wù)協(xié)議框架當(dāng)前諸多MaaS產(chǎn)品集成了大量模型服務(wù),但在服務(wù)水平協(xié)議(SLA)方面仍存在要求不統(tǒng)一等問(wèn)題,使得用戶難以獲得滿意的性能和質(zhì)量體驗(yàn),從而阻礙了MaaS規(guī)?;涞剡M(jìn)程。為此,信通院聯(lián)合產(chǎn)業(yè)各界對(duì)模型服務(wù)協(xié)議框架進(jìn)行總結(jié),為用戶獲取模型服務(wù)時(shí)如何衡量服務(wù)質(zhì)量提供參考。模型服務(wù)協(xié)議框架的目標(biāo)是規(guī)范和提升模型服務(wù)質(zhì)量,適用于人工智能領(lǐng)域包括大模型和傳統(tǒng)AI模型在內(nèi)的所有模型服務(wù)。該協(xié)議框架對(duì)服務(wù)范圍及服務(wù)內(nèi)容進(jìn)行明確,并對(duì)于如何從多個(gè)維度衡量模型服務(wù)的水平提供參考,包括服務(wù)可用性、隱私安全性、計(jì)量準(zhǔn)確性及權(quán)責(zé)條款等12圖12服務(wù)協(xié)議架構(gòu)圖

來(lái)源:中國(guó)信息通信研究院隱私安全性:從服務(wù)的安全保障機(jī)制、數(shù)據(jù)的隱私合規(guī)及內(nèi)容安計(jì)量準(zhǔn)確性:從計(jì)量方式和計(jì)量?jī)?nèi)容等方面考慮,明確服務(wù)在可權(quán)責(zé)條款:從服務(wù)賠償條款、約束及免責(zé)條款和知識(shí)產(chǎn)權(quán)保護(hù)等四、MaaS應(yīng)用分析MaaS落地之道,并在部分領(lǐng)域的應(yīng)用初見成效。本章首先從全行業(yè)角度對(duì)MaaSMaaS落地實(shí)踐進(jìn)行闡述,如在金融等領(lǐng)域率先應(yīng)用,并有效賦能經(jīng)營(yíng)管理、(一)MaaS落地條件及優(yōu)勢(shì)場(chǎng)景解析MaaS作為新型智能化服務(wù)模式,其落地實(shí)踐需具備外需和內(nèi)驅(qū)兩個(gè)條件。一是需要有模型規(guī)?;涞氐耐獠啃枨螅?dāng)組織面臨全AI+需求時(shí),模型應(yīng)用的需求量隨之變大,導(dǎo)致模型開發(fā)及人工成本急劇增加,使組織需變革模型生產(chǎn)和應(yīng)用工具以提升效率。二是需具備組織內(nèi)部驅(qū)動(dòng)力,自頂向下層層推進(jìn)模型共建共享機(jī)制,推進(jìn)煙囪式開發(fā)方式向集約式轉(zhuǎn)變,最大化發(fā)揮模型、數(shù)據(jù)、平臺(tái)AIMaaS多層級(jí)服務(wù),有利于高效便捷地助力AI中國(guó)信通院通過(guò)調(diào)研百余個(gè)場(chǎng)景案例進(jìn)行綜合分析,當(dāng)前MaaS已在多行業(yè)落地,覆蓋研發(fā)設(shè)計(jì)、經(jīng)營(yíng)管理、營(yíng)銷推廣等多個(gè)生產(chǎn)環(huán)節(jié),助力企業(yè)在業(yè)務(wù)、技術(shù)、管理等全方面提效,成為大模型時(shí)代下企業(yè)智能化轉(zhuǎn)型新途徑。金融行業(yè)率先成為落地最多的領(lǐng)域。MaaS在各行業(yè)落地情況如13MaaS落地的良好環(huán)境,其案例數(shù)量占全49%11,成為落地探索最多最快的行業(yè),一方面是因?yàn)榧夹g(shù)儲(chǔ)備較為完善,有傳統(tǒng)人工智能的落地通路和經(jīng)驗(yàn),如基礎(chǔ)設(shè)施和平臺(tái)等層面均有基礎(chǔ);另一方面是因?yàn)闃I(yè)務(wù)數(shù)據(jù)較為豐富,對(duì)模型的種類和數(shù)量需求多。落地場(chǎng)景主要包括營(yíng)銷、客服、風(fēng)控等,可有效解決金融行業(yè)人力成本高、風(fēng)險(xiǎn)管控滯后等問(wèn)題。圖13MaaS在各行業(yè)應(yīng)用占比

來(lái)源:中國(guó)信息通信研究院經(jīng)營(yíng)管理環(huán)節(jié)的落地實(shí)踐最為成熟。經(jīng)營(yíng)管理環(huán)節(jié)的應(yīng)用案例在企業(yè)全價(jià)值鏈中占比達(dá)511(如圖14所示,該環(huán)節(jié)涵蓋的智慧辦公、經(jīng)營(yíng)分析、智能流程等場(chǎng)景,以輔助人工提升工作效率為主而非直接對(duì)客服務(wù)。由于該類場(chǎng)景見效快、風(fēng)險(xiǎn)低,通過(guò)大模型基礎(chǔ)能力加私域少樣本數(shù)據(jù)即可達(dá)到場(chǎng)景性能要求,成為最適合模11中國(guó)信息通信研究院調(diào)研統(tǒng)計(jì)來(lái)源:中國(guó)信息通信研究院圖14企業(yè)價(jià)值鏈各環(huán)節(jié)生產(chǎn)場(chǎng)景占比圖基于模型的AI于MaaSAI來(lái)源:中國(guó)信息通信研究院圖15MaaS應(yīng)用案例統(tǒng)計(jì)圖(二)MaaS行業(yè)實(shí)踐案例及成效剖析MaaS行業(yè)落地目標(biāo)是降本增效,縮短模型及應(yīng)用構(gòu)建的周期,以應(yīng)對(duì)頻繁迭代的業(yè)務(wù)需求,同時(shí)通過(guò)模型的共享降低重復(fù)建設(shè)成本。本節(jié)詳細(xì)介紹了精選的四個(gè)MaaS落地代表案例,案例材料來(lái)自對(duì)應(yīng)企業(yè)。MaaS平臺(tái)應(yīng)用實(shí)踐平安銀行積極探索大模型在業(yè)務(wù)場(chǎng)景智能化和降本增效方面的解決方案,雖然模型應(yīng)用需求向多而廣的趨勢(shì)變化,使得傳統(tǒng)模型研發(fā)流程中存在的自動(dòng)化程度低、資源利用率低、知識(shí)和能力缺乏共享等問(wèn)題愈加凸顯,制約了模型應(yīng)用的快速開發(fā)和部署上線效率,限制了大模型等人工智能技術(shù)的規(guī)模化落地。BankGPT為解決以上痛點(diǎn),平安銀行自主研發(fā)MaaS服務(wù)平臺(tái),即BankGPT(16所示API調(diào)用各種BankGPT為各業(yè)務(wù)場(chǎng)景的模型應(yīng)用提供了高效、低成本的模型使用和開發(fā)支持。BankGPT一方面提供模型微調(diào)功能,開發(fā)人員以極低技術(shù)門檻開發(fā)上線大模型服務(wù),另一方面提供底座模型的共享,可訓(xùn)練調(diào)優(yōu)來(lái)源:平安銀行圖16平安銀行BankGPT-MaaS服務(wù)平臺(tái)BankGPT平臺(tái)經(jīng)過(guò)持續(xù)迭代,截止2024年1月,已實(shí)現(xiàn)支持四種不同的落地模式,支撐行內(nèi)模型應(yīng)用的高效、低成本開發(fā),從而實(shí)現(xiàn)智能化普及。該平臺(tái)目前已上線10+底座模型,算法團(tuán)隊(duì)、業(yè)務(wù)開發(fā)團(tuán)隊(duì)落地應(yīng)用數(shù)十個(gè),基于Prompt調(diào)優(yōu)創(chuàng)建應(yīng)用數(shù)百個(gè),并為全行員工提供大量可直接體驗(yàn)的應(yīng)用。來(lái)源:平安銀行圖17平安銀行MaaS服務(wù)平臺(tái)落地效果MaaS實(shí)踐人工智能模型訓(xùn)練門檻較高,業(yè)務(wù)人員缺乏機(jī)器學(xué)習(xí)專業(yè)知識(shí),導(dǎo)致模型研發(fā)及部署不夠便捷,生產(chǎn)效率較低,且各單位模型重復(fù)開發(fā)造成資源浪費(fèi)。解決方案:一體化MaaS中國(guó)電科院結(jié)合設(shè)備智能巡檢、作業(yè)安全管控等典型業(yè)務(wù)實(shí)際需求,構(gòu)建電網(wǎng)領(lǐng)域的一體化MaaS平臺(tái)(18所示。該平臺(tái)基于“模型+服務(wù)+應(yīng)用”建設(shè)模式,包括資源層、平臺(tái)層、模型層、API、SDK對(duì)外提供服務(wù),還可提供自動(dòng)建模、智能標(biāo)注等組件支撐能力,并結(jié)合自動(dòng)化訓(xùn)練技術(shù),支+”來(lái)源:中國(guó)電科院圖18中國(guó)電科院一體化MaaS平臺(tái)架構(gòu)通過(guò)一體化MaaS平臺(tái),顯著縮短開發(fā)周期約50%,模型精度相比傳統(tǒng)訓(xùn)練方式有明顯的提升,缺陷識(shí)別準(zhǔn)確率達(dá)90%以上。MaaS實(shí)踐公域大模型直接應(yīng)用到移動(dòng)內(nèi)部,存在問(wèn)題和風(fēng)險(xiǎn),公域大模C思維無(wú)法滿足企業(yè)的特定需求和場(chǎng)景,數(shù)據(jù)安全風(fēng)險(xiǎn)較高。同時(shí)企業(yè)大模型在多域運(yùn)作中缺乏統(tǒng)一生態(tài)管理,需要在現(xiàn)有系統(tǒng)解決方案:融合MaaS“+”來(lái)源:中國(guó)移動(dòng)廣東分公司圖19廣東移動(dòng)私域大模型體系針對(duì)上述痛點(diǎn),廣東移動(dòng)打造了自主的私域大模型體系,采用了“平臺(tái)+生態(tài)”的模式,包括數(shù)據(jù)源、MaaS模型能力層、場(chǎng)景組件庫(kù)、產(chǎn)品運(yùn)營(yíng)平臺(tái)以及產(chǎn)品及應(yīng)用共計(jì)五層(19所示。在體系中,集成了自主研發(fā)的模型、專業(yè)模型以及第三方生態(tài)大模型。同時(shí),通過(guò)積極開發(fā)和整合行業(yè)特定大模型,支持企業(yè)內(nèi)部應(yīng)用的該方案實(shí)現(xiàn)了平臺(tái)的高靈活性和可擴(kuò)展性,通過(guò)算力和模型的適配提高了平臺(tái)可擴(kuò)展能力和兼容性。應(yīng)用層接入接口的統(tǒng)一使平臺(tái)能快速拓展至各業(yè)務(wù)場(chǎng)景,并建立了統(tǒng)一的數(shù)智人運(yùn)營(yíng)體系,有效支持企業(yè)數(shù)智化轉(zhuǎn)型。MaaS實(shí)踐高頻的建模需求與低效的建模方案相沖突。每個(gè)業(yè)務(wù)環(huán)節(jié)都需頻繁迭代模型,而傳統(tǒng)建模周期長(zhǎng),POC、建模、評(píng)估、上線各環(huán)小樣本情況下建模難。短時(shí)間內(nèi)樣本累積不足,樣本量少而無(wú)法支持模型調(diào)優(yōu)。同時(shí)在新產(chǎn)品或新業(yè)務(wù)上線時(shí),少樣本或零樣本解決方案:金融風(fēng)控MaaS騰訊云在金融風(fēng)控領(lǐng)域的aa20平臺(tái)實(shí)現(xiàn)全流程的自動(dòng)化建模和部署上線,縮短模型上線周期,滿足快速迭代需求,適配業(yè)務(wù)動(dòng)態(tài)變化;二是集成了大量專家模型,以模型服務(wù)的方式提供快速調(diào)用及組合編排,進(jìn)一步提升模型的精度和落地效率;三是積累了風(fēng)控領(lǐng)域豐富的知識(shí)經(jīng)驗(yàn),通過(guò)大模型加高質(zhì)量數(shù)據(jù)解決小樣本訓(xùn)練難題,并配備360度模型評(píng)估模塊,圖20

來(lái)源:騰訊云模型精度、建模效率雙提升,快速適配業(yè)務(wù)變化。在金融風(fēng)控MaaS81.5%,2121MaaS

來(lái)源:騰訊云快速應(yīng)對(duì)新業(yè)務(wù)拓展。在新業(yè)務(wù)缺乏樣本的情況下,基于MaaS20%,新業(yè)務(wù)通過(guò)率提升5%30%。圖22金融風(fēng)控大模型與傳統(tǒng)定制模型性能對(duì)比

來(lái)源:騰訊云五、總結(jié)與展望在大模型時(shí)代發(fā)展的浪潮下,各行業(yè)面臨著前所未有的數(shù)智化轉(zhuǎn)型挑戰(zhàn)與機(jī)遇。而MaaS作為模型

溫馨提示

  • 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

評(píng)論

0/150

提交評(píng)論