阿里云云原生 Serverless 技術(shù)實(shí)踐營(yíng)演講

一阿里云阿里云rserverless計(jì)算」引領(lǐng)云上研發(fā)新范式洛浩/盧萌凱阿里云「云原生」高級(jí)架構(gòu)師2023/11/24GCPGCPCloudFunctionAzureFunctionAWs第一個(gè)發(fā)布Faas平臺(tái)Lambda開(kāi)啟serverless時(shí)代2012201420160微信小程序云開(kāi)發(fā)公測(cè)2019阿里云創(chuàng)新發(fā)布AWs宣稱全領(lǐng)域具備20222023AWs第一個(gè)發(fā)布Faas平臺(tái)Lambda開(kāi)啟serverless時(shí)代2012201420160微信小程序云開(kāi)發(fā)公測(cè)2019阿里云創(chuàng)新發(fā)布AWs宣稱全領(lǐng)域具備20222023serverless發(fā)展軌跡阿里云發(fā)布函數(shù)計(jì)算FC-騰訊云發(fā)布云函數(shù)sCF201720182018阿里云發(fā)布阿里云發(fā)布serverless戰(zhàn)略阿里云核心產(chǎn)品全面升級(jí)聚焦業(yè)務(wù)價(jià)值，提升人效聚焦業(yè)務(wù)價(jià)值，提升人效一個(gè)比喻了解什么是serverlessserverIess技術(shù)理念:zeroserverOps+NocomputecostwhenIdIe從server(物理機(jī)/虛擬機(jī))到serverIess,就像從買車到打網(wǎng)約車：物理機(jī)個(gè)買私家車虛擬機(jī)汽車租賃serverless個(gè)I打網(wǎng)約車/出租車不需要購(gòu)置和管理資源(服務(wù)器)不需要購(gòu)置和管理資源(服務(wù)器)自動(dòng)彈性伸縮自動(dòng)彈性伸縮按需付費(fèi)，不用為閑置資源買單按需付費(fèi)，不用為閑置資源買單04AlGC浪潮之上:森馬的serverless實(shí)踐之旅05serverless化繁為簡(jiǎn):高德地圖研發(fā)效能再提升06擁抱serverless:極氮大數(shù)據(jù)打造商業(yè)智能平臺(tái)全新范式抽象層次抽象層次云計(jì)算的演進(jìn)開(kāi)箱即用,無(wú)需管理基礎(chǔ)設(shè)施內(nèi)置自適應(yīng)彈性,提升資源使用率操作系統(tǒng)虛擬化,客戶使用K8s管理容器和鏡像使用容器鏡像實(shí)現(xiàn)—致的部署,數(shù)秒啟動(dòng)業(yè)務(wù)敏捷 企業(yè)關(guān)注用好云2020-)cloud2.0用云階段(2020-)cloud用云階段( 企業(yè)關(guān)注用好云2020-)cloud2.0用云階段(2020-)cloud用云階段(從上云到用云 企業(yè)關(guān)注平滑上云cloud1.0上云階段(2009-2019)用好云時(shí)代,企業(yè)應(yīng)用構(gòu)建面臨的挑戰(zhàn)企業(yè)為什么選擇serverless？流程式編程成為主流趨勢(shì)1：云產(chǎn)品全面serverIess化趨勢(shì)2：應(yīng)用架構(gòu)serverIess化企業(yè)級(jí)應(yīng)用架構(gòu)互聯(lián)網(wǎng)分布式架構(gòu)serverless架構(gòu)服務(wù)s服務(wù)服務(wù)服務(wù)服務(wù)服務(wù)服務(wù)服務(wù)構(gòu)服務(wù)務(wù)s數(shù)據(jù)庫(kù)務(wù)任任務(wù)任務(wù)務(wù)異步任務(wù)服務(wù)化模塊化可編排數(shù)據(jù)驅(qū)動(dòng)服務(wù)大數(shù)據(jù)平臺(tái)流程式編程成為主流趨勢(shì)1：云產(chǎn)品全面serverIess化趨勢(shì)2：應(yīng)用架構(gòu)serverIess化企業(yè)級(jí)應(yīng)用架構(gòu)互聯(lián)網(wǎng)分布式架構(gòu)serverless架構(gòu)服務(wù)s服務(wù)服務(wù)服務(wù)服務(wù)服務(wù)服務(wù)服務(wù)構(gòu)服務(wù)務(wù)s數(shù)據(jù)庫(kù)務(wù)任任務(wù)任務(wù)務(wù)異步任務(wù)服務(wù)化模塊化可編排數(shù)據(jù)驅(qū)動(dòng)服務(wù)大數(shù)據(jù)平臺(tái)serverless將引領(lǐng)下一代應(yīng)用架構(gòu)應(yīng)用架構(gòu)應(yīng)用架構(gòu)serverIess化云產(chǎn)品全面serverIess化任趨勢(shì)3：流程式編程成為主流任阿里云持續(xù)推進(jìn)核心產(chǎn)品serverless化ARMSSLS測(cè)IndexCheckPointRDMANetworkARMSSLS測(cè)IndexCheckPointRDMANetworkRDMA網(wǎng)絡(luò)VPC網(wǎng)絡(luò)盤古DFS存儲(chǔ)消息隊(duì)列MQ:AllinServerless,持續(xù)釋放技術(shù)紅利BrokerIaaskafkaRocketMQRocketMQRabbitMQMNSMQTTLogSegmentAppend熱讀線程冷讀線程pagepagecache coldcacheHotcoldcacheHotcacheReadBatchBatchwrite云云原生-容器服務(wù)(kubernetes)RocketMQ5.030%~90%kafka3.020%~60%RabbitMQ毫秒級(jí)75%33%NLB支持Higress/Nginx/EnvoY,遵循lngress標(biāo)準(zhǔn),按調(diào)用量計(jì)費(fèi)獲取服務(wù)列表注冊(cè)服務(wù)統(tǒng)兼容Nacos/zookeeper/Eureka,按照連接計(jì)費(fèi)獲取服務(wù)列表容器服務(wù)ACSNLB支持Higress/Nginx/EnvoY,遵循lngress標(biāo)準(zhǔn),按調(diào)用量計(jì)費(fèi)獲取服務(wù)列表注冊(cè)服務(wù)統(tǒng)兼容Nacos/zookeeper/Eureka,按照連接計(jì)費(fèi)獲取服務(wù)列表容器服務(wù)ACS支持SpringCloud/Dubbo應(yīng)用一鍵接入零代碼修改接入RocketMQ5.xRDSMYSQLServerless微服務(wù)引擎MSE4.0全面Serverless化62%75%PorlaDBServerless:三層架構(gòu)解糯,多主多寫(xiě)無(wú)感伸縮polarproxySQL本地BPHashExpressionFramework(SIMD)GroupBYAggregationNestedLoopJoinotheroperatorTableScanSQL本地BPSQL本地BP3倍CPU使用率RDMAnetwork Memorycluser60%成本下降PorlaDBServerless:三層架構(gòu)解糯,多主多寫(xiě)無(wú)感伸縮polarproxySQL本地BPHashExpressionFramework(SIMD)GroupBYAggregationNestedLoopJoinotheroperatorTableScanSQL本地BPSQL本地BP3倍CPU使用率RDMAnetwork Memorycluser60%成本下降RDMAnetwork數(shù)據(jù)庫(kù):持續(xù)優(yōu)化性價(jià)比、更好的客戶體驗(yàn)RDS負(fù)載自適應(yīng)彈性伸縮,成本最高降低70%3200核AnalyticDB式,4倍資源QpS提升25%Lindorm離線任務(wù)按需秒彈,速度提升50%,成本降低70%制造/文旅9傳媒/醫(yī)療汽車出行新零售/電商心動(dòng)Serverless應(yīng)用中心EDA架構(gòu),構(gòu)建事件驅(qū)動(dòng)RESTAplAl推理GpU虛擬化+AlGCWEB制造/文旅9傳媒/醫(yī)療汽車出行新零售/電商心動(dòng)Serverless應(yīng)用中心EDA架構(gòu),構(gòu)建事件驅(qū)動(dòng)RESTAplAl推理GpU虛擬化+AlGCWEB應(yīng)用Allon微服務(wù)等Job/批任務(wù)時(shí)、XXL-Job等媒體處理ETL數(shù)據(jù)加工kafka、MQ等游戲/汽車等函數(shù)計(jì)算FC事件驅(qū)動(dòng)型無(wú)服務(wù)器計(jì)算服務(wù),豐富的云產(chǎn)品集成觸發(fā)serverless應(yīng)用引擎sAEAllonserverless讓?xiě)?yīng)用開(kāi)發(fā)更簡(jiǎn)單互娛/教育互娛/教育ServerlessServerlessDevs+CloudFlowBAAsBAAs服務(wù)聯(lián)動(dòng)存儲(chǔ)服務(wù)OSS、NAS、OTS、SLS數(shù)據(jù)庫(kù)服務(wù)RDS、polarDB、MongoDB消息/微服務(wù)中間件EventBridge、RocketMQ、kafka、MNS、MSEAplGW、CLB、ALB注冊(cè)配置中心微服務(wù)治理云原生可觀測(cè)安全防護(hù)注冊(cè)配置中心微服務(wù)治理云原生可觀測(cè)安全防護(hù)基于serverless架構(gòu)的分布式應(yīng)用數(shù)據(jù)庫(kù)polarDB云云消息隊(duì)列MQServerlessBAAS云原生網(wǎng)關(guān)服務(wù)統(tǒng)一出口微服務(wù)應(yīng)用微服務(wù)應(yīng)用微服務(wù)應(yīng)用函數(shù)計(jì)算函數(shù)計(jì)算FCServerlessServerless應(yīng)用引擎SAE國(guó)國(guó)容器計(jì)算服務(wù)ACSServerlessBAAS函數(shù)計(jì)算FC核心能力Functionasaservice，事件驅(qū)動(dòng)的全托管計(jì)算服務(wù)，以更少的代碼，更快地實(shí)現(xiàn)業(yè)務(wù)創(chuàng)新0ops免運(yùn)維分鐘級(jí)落地一個(gè)中型業(yè)務(wù)系統(tǒng)，快速完成線上poc100ms極致彈性幫助在線業(yè)務(wù)應(yīng)對(duì)各種突發(fā)流量，資源交付能力強(qiáng)100%資源利用率按請(qǐng)求計(jì)費(fèi)，1毫秒計(jì)費(fèi)粒度，只為實(shí)耗資源買單開(kāi)發(fā)更簡(jiǎn)單.100+云產(chǎn)品事件集成，降低用云復(fù)雜度.全托管計(jì)算服務(wù)，內(nèi)置日志采集監(jiān)控告警.應(yīng)用中心50+熱門應(yīng)用模板，開(kāi)箱即用運(yùn)維更高效.開(kāi)發(fā)、調(diào)試、部署、運(yùn)維全生命周期管理.計(jì)算資源CPU/GPU/內(nèi)存/磁盤/網(wǎng)絡(luò)按需組合.百毫秒冷啟動(dòng)，單客彈性效率可達(dá)2000實(shí)例/秒架構(gòu)更先進(jìn).業(yè)務(wù)拆分到函數(shù)粒度，資源利用率可達(dá)100%.綜合成本降低30%以上(SAE)Iaas資源層(神龍+ECI(SAE)Iaas資源層(神龍+ECI+vPC+…)serverless應(yīng)用引擎(sAE)Γ容器化/應(yīng)用上云J最簡(jiǎn)平臺(tái)云原生最先進(jìn)技術(shù)的完美融合:容器化+微服務(wù)+可觀測(cè)+serverIess最佳實(shí)踐微服務(wù)零改造無(wú)縫遷移零門濫容器化，無(wú)感擁抱K8sweb應(yīng)用一站式托管靈活彈性，極致效率&成本移動(dòng)移動(dòng)APP后臺(tái)web應(yīng)用微服務(wù)應(yīng)用小程序后臺(tái)saas類服務(wù)定時(shí)/xxl-Job通過(guò)war/jar/phpzip源碼包/Docker鏡像等多種方式部署應(yīng)用管理應(yīng)用管理全套微服務(wù)治理springCloud/Dubbo無(wú)縫微服務(wù)流量灰度運(yùn)維配套權(quán)限隔離/審批Java冷啟動(dòng)加速分批/金絲雀發(fā)布生命周期管理平臺(tái)提供的平臺(tái)提供的K8s集群+微服務(wù)引擎+ARMs應(yīng)用監(jiān)控阿里云沙箱容器阿里云沙箱容器2.0森馬AIGC應(yīng)用實(shí)踐:讓AIGC能力觸手可及semlr..函數(shù)計(jì)算—鍵部署SD環(huán)境,無(wú)需關(guān)心.釘釘工作臺(tái)集成線上環(huán)境,人人都可.For大部分員工:提供特定效果SD環(huán)境,模型和插件固化.For專業(yè)設(shè)計(jì)師:提供原生SD環(huán)境,DIY模型和插件組合1群人動(dòng)1個(gè)人素人模特實(shí)現(xiàn)模特膚色、妝容、動(dòng)作、表情的替換靈活調(diào)整商品圖的元素和場(chǎng)景,省去基礎(chǔ)的重復(fù)工作1群人動(dòng)1個(gè)人素人模特實(shí)現(xiàn)模特膚色、妝容、動(dòng)作、表情的替換靈活調(diào)整商品圖的元素和場(chǎng)景,省去基礎(chǔ)的重復(fù)工作森馬AIGC應(yīng)用實(shí)踐:立足業(yè)務(wù),多場(chǎng)景賦能3天動(dòng)30秒3天動(dòng)30秒設(shè)計(jì)師從收集靈感、繪制線稿圖到內(nèi)部評(píng)審森馬AIGC應(yīng)用實(shí)踐:立足業(yè)務(wù),多場(chǎng)景賦能semlr函數(shù)計(jì)算AIGC聯(lián)手森馬DIY專屬T恤semlr利用函數(shù)計(jì)算,每個(gè)人都可以部署自己專屬的AlGC環(huán)境,人人都能成為自己的“設(shè)計(jì)師”高德業(yè)務(wù)投放平臺(tái)業(yè)務(wù)場(chǎng)景與特點(diǎn)長(zhǎng)途天氣智能終點(diǎn)推薦酒店美食推薦高德serverless落地案例一美食訂座1RedisXDB業(yè)務(wù)緊糯合研發(fā)送代慢資源成本高片導(dǎo)中前后按需快速組裝業(yè)務(wù)功能最小粒度灰度發(fā)布1RedisXDB業(yè)務(wù)緊糯合研發(fā)送代慢資源成本高片導(dǎo)中前后按需快速組裝業(yè)務(wù)功能最小粒度灰度發(fā)布高德業(yè)務(wù)投放平臺(tái)serverless架構(gòu)實(shí)踐BaasBaas/離客戶端太重客戶端太重面頁(yè)面面頁(yè)面BaasBaas/離 則 則21XDB分片/FaasJobs支撐業(yè)務(wù)規(guī)模需求發(fā)布周期支撐業(yè)務(wù)規(guī)模需求發(fā)布周期高德業(yè)務(wù)投放平臺(tái)serverless架構(gòu)成果百萬(wàn)QpS秒級(jí)自適應(yīng)彈性,成本下降秒級(jí)自適應(yīng)彈性,成本下降-研發(fā)-->制造-->供應(yīng)鏈>營(yíng)銷->銷售->市場(chǎng)->生>質(zhì)量>銷售>生銷態(tài)...-研發(fā)-->制造-->供應(yīng)鏈>營(yíng)銷->銷售->市場(chǎng)->生>質(zhì)量>銷售>生銷態(tài)...小時(shí)-->分鐘-->小時(shí)-->分鐘-->秒級(jí)增長(zhǎng)--云kafka云kafka極氮商業(yè)智能平臺(tái)選擇:AllinserverlessDataworksHologresDataworksHologresserverless理念加持的極氮商業(yè)智能平臺(tái)………………開(kāi)放平臺(tái)……基礎(chǔ)服務(wù)基礎(chǔ)服務(wù)數(shù)據(jù)內(nèi)核Serverless應(yīng)用引擎SAE極氮商業(yè)智能平臺(tái)serverless實(shí)踐效果系統(tǒng)SLA阿里云THANKS一阿里云SAE2.0加速企業(yè)應(yīng)用容器化上云打造傳統(tǒng)應(yīng)用容器化上云最短路徑serverless應(yīng)用引擎產(chǎn)品經(jīng)理2023/11/24傳統(tǒng)應(yīng)用部署方式的演進(jìn)歷程ServerIess應(yīng)用引擎(SAE)介紹SAE如何加速應(yīng)用容器化上云客戶案例分享虛擬機(jī)操作系統(tǒng)應(yīng)用DDocker容器引擎虛擬機(jī)操作系統(tǒng)應(yīng)用C應(yīng)用BDocker容器引擎虛擬機(jī)操作系統(tǒng)應(yīng)用A應(yīng)用虛擬機(jī)操作系統(tǒng)應(yīng)用DDocker容器引擎虛擬機(jī)操作系統(tǒng)應(yīng)用C應(yīng)用BDocker容器引擎虛擬機(jī)操作系統(tǒng)應(yīng)用A應(yīng)用B虛擬機(jī)操作系統(tǒng)應(yīng)用A〔-阿里云傳統(tǒng)應(yīng)用部署方式的演進(jìn)歷程云計(jì)算+K8s部署 云計(jì)算+K8s部署Master節(jié)點(diǎn)kube-apiserverkube-schedulerkube-controller-manageretcdetcdworker節(jié)點(diǎn)kubeletkube-proxydockerkubeletkube-proxydockerpod..云計(jì)算:大規(guī)模、彈性、按需使用、按量付費(fèi).K8s:專業(yè)的容器編排和管理工具,自動(dòng)化部署和擴(kuò)展,提供彈性和高可用能力源,導(dǎo)致嚴(yán)重資源浪費(fèi).兩者結(jié)合提升了應(yīng)用的可擴(kuò)展性和彈性,滿足了對(duì)敏捷性和可擴(kuò)展性的需求。將應(yīng)用和其依賴的軟件環(huán)境打包成獨(dú)立的容器鏡像,在不同環(huán)境中快速部署提高了應(yīng)用部署的效率和靈活性,解決了應(yīng)用快速送代和交付的問(wèn)題每臺(tái)機(jī)器獨(dú)立安裝和配置,部署過(guò)程復(fù)雜且耗時(shí)面對(duì)突發(fā)流量應(yīng)對(duì)困難,按照峰值流量準(zhǔn)備資敏捷性和可擴(kuò)展性差,無(wú)法滿足企業(yè)快速送代和自動(dòng)伸縮資源的需求K8S學(xué)習(xí)門欖高有限的彈性范圍復(fù)雜的配置和部署(K8S學(xué)習(xí)門欖高有限的彈性范圍復(fù)雜的配置和部署(Dockerfile、YAML）傳統(tǒng)應(yīng)用容器化上云面臨的挑戰(zhàn)集群運(yùn)維復(fù)雜度高集群運(yùn)維復(fù)雜度高K8S組件運(yùn)維傳統(tǒng)應(yīng)用部署方式的演進(jìn)歷程ServerIess應(yīng)用引擎(SAE)介紹SAE如何加速應(yīng)用容器化上云客戶案例分享0代碼改造微服務(wù)應(yīng)用web應(yīng)用APP小程序定時(shí)/xxlJob創(chuàng)新應(yīng)用(loT&區(qū)塊鏈）war/jar/phpzipDocker鏡多通war/jar/phpzip源等方種包部式過(guò)署碼/Docker百毫秒彈性效率容,應(yīng)對(duì)突發(fā)流量Serverless(SAE)Java運(yùn)維配套應(yīng)用管理—鍵啟停環(huán)境冷啟動(dòng)加速SpringCloud/Dubbo無(wú)縫遷移自動(dòng)彈性伸縮自動(dòng)構(gòu)建鏡像冷啟動(dòng)加速事件中心分批/金絲雀發(fā)布微服務(wù)流量灰度I權(quán)限隔離/審批端云聯(lián)調(diào)無(wú)損上下線57%降本提效停,降本且提效日志&鏈路監(jiān)控CICD集成日志管理生命周期管理服務(wù)鑒權(quán)限流降級(jí)40%↑啟動(dòng)效率聯(lián)合Dragonwell突破Java應(yīng)用冷啟像ServerlessInfra(基于0代碼改造微服務(wù)應(yīng)用web應(yīng)用APP小程序定時(shí)/xxlJob創(chuàng)新應(yīng)用(loT&區(qū)塊鏈）war/jar/phpzipDocker鏡多通war/jar/phpzip源等方種包部式過(guò)署碼/Docker百毫秒彈性效率容,應(yīng)對(duì)突發(fā)流量Serverless(SAE)Java運(yùn)維配套應(yīng)用管理—鍵啟停環(huán)境冷啟動(dòng)加速SpringCloud/Dubbo無(wú)縫遷移自動(dòng)彈性伸縮自動(dòng)構(gòu)建鏡像冷啟動(dòng)加速事件中心分批/金絲雀發(fā)布微服務(wù)流量灰度I權(quán)限隔離/審批端云聯(lián)調(diào)無(wú)損上下線57%降本提效停,降本且提效日志&鏈路監(jiān)控CICD集成日志管理生命周期管理服務(wù)鑒權(quán)限流降級(jí)40%↑啟動(dòng)效率聯(lián)合Dragonwell突破Java應(yīng)用冷啟像ServerlessInfra(基于Kubernetes構(gòu)建)阿里云沙箱容器2.0IaaS資源層(神龍+ECI+VPC+…)〔-阿里云Serverless應(yīng)用引擎(SAE)一站式云原生應(yīng)用paas平臺(tái):容器化+微服務(wù)+可觀測(cè)+serverless“零門橙”容器化,“零門橙”容器化,saas類服務(wù)全套微服務(wù)治理全套微服務(wù)治理注:該數(shù)據(jù)基于企業(yè)內(nèi)部測(cè)試數(shù)據(jù)得出,因環(huán)境不同將有所差異。SAE核心價(jià)值全托管、免運(yùn)維、高彈性的serverless應(yīng)用p全托管.零門欖容器化.無(wú)感擁抱K8s.無(wú)需關(guān)心底層資源.laas資源免運(yùn)維.K8s組件免運(yùn)維.監(jiān)控組件免運(yùn)維.注冊(cè)配置中心免運(yùn)維.超大規(guī)模資源池.百毫秒級(jí)彈性效率.按需使用，按量付費(fèi)SAE讓?xiě)?yīng)用資源管理更簡(jiǎn)單資源浪費(fèi),高峰時(shí)需排隊(duì)基于云主機(jī)方案:資源使用模型依賴調(diào)度組件,用好有上手門欖+開(kāi)源K8s方案:資源使用模型基于SAE部署業(yè)務(wù):資源使用模型從人工運(yùn)維從預(yù)算采購(gòu)低利用率從固定成本支出到云平臺(tái)工具運(yùn)維到有限彈性高利用率到根據(jù)資源策略伸縮到serverless免運(yùn)維到serverless100%資源利用率到serverless根據(jù)業(yè)務(wù)策略適配傳統(tǒng)應(yīng)用部署方式的演進(jìn)歷程ServerIess應(yīng)用引擎(SAE)介紹SAE如何加速應(yīng)用容器化上云客戶案例分享基于ECS/k8s容基于SAE容器化基于ECS/k8s容基于SAE容器化〔-阿里云〔-阿里云基于ECS/K8S和SAE容器化上云方案對(duì)比研發(fā)研發(fā)&部署階段運(yùn)維IaaS運(yùn)維K8s組件運(yùn)維注冊(cè)中心集群初始化運(yùn)維監(jiān)控組件購(gòu)買ECS單體拆分為微服務(wù)容器化改造構(gòu)建鏡像部署應(yīng)用到ECS/ACK資源準(zhǔn)備階段運(yùn)維階段部署應(yīng)用到SAE部署注冊(cè)中心部署監(jiān)控組件監(jiān)控系統(tǒng)注冊(cè)中心代碼包應(yīng)用快速容器化上云—鍵啟停環(huán)境的解決方案應(yīng)用灰度發(fā)布低門欖微服務(wù)架構(gòu)轉(zhuǎn)型CICD解決方案公有云無(wú)需容器化改造、支持任何語(yǔ)言部署高效敏捷、TCO優(yōu)化、一站式paas體驗(yàn)一鍵啟停開(kāi)發(fā)測(cè)試環(huán)境，釋放閑置資源提升運(yùn)維效率一鍵應(yīng)用發(fā)布部署、支持單批/分批/金絲雀等多種發(fā)布策略面向大促的高可用方案精準(zhǔn)容量、百毫秒彈性、限流降級(jí)單體應(yīng)用微服務(wù)改造、開(kāi)源自建無(wú)縫遷移端到端可觀測(cè)性應(yīng)用快速容器化上云—鍵啟停環(huán)境的解決方案應(yīng)用灰度發(fā)布低門欖微服務(wù)架構(gòu)轉(zhuǎn)型CICD解決方案公有云無(wú)需容器化改造、支持任何語(yǔ)言部署高效敏捷、TCO優(yōu)化、一站式paas體驗(yàn)一鍵啟停開(kāi)發(fā)測(cè)試環(huán)境，釋放閑置資源提升運(yùn)維效率一鍵應(yīng)用發(fā)布部署、支持單批/分批/金絲雀等多種發(fā)布策略面向大促的高可用方案精準(zhǔn)容量、百毫秒彈性、限流降級(jí)單體應(yīng)用微服務(wù)改造、開(kāi)源自建無(wú)縫遷移端到端可觀測(cè)性支持開(kāi)源對(duì)接、快速選代、安全可控〔-阿里云〔-阿里云SAE如何幫助企業(yè)用好云將阿里巴巴沉淀多年的安全生產(chǎn)實(shí)踐產(chǎn)品將阿里巴巴沉淀多年的安全生產(chǎn)實(shí)踐產(chǎn)品化,應(yīng)用生命周期管理純白屏化操作,應(yīng)用發(fā)布可灰度、可觀測(cè)、可回滾。>支持單批、分批、金絲雀等發(fā)布策略。支持按流量灰度、按內(nèi)容灰度。批次間自動(dòng)/手動(dòng)任選>發(fā)布過(guò)程可監(jiān)控,白屏化實(shí)時(shí)查看發(fā)布日志和結(jié)果,及時(shí)定位>允許人工介入控制發(fā)布流程,異常中止、一鍵回滾全套微服務(wù)治理-無(wú)損下線通過(guò)無(wú)損下線,有效避免服務(wù)端升通過(guò)無(wú)損下線,有效避免服務(wù)端升級(jí)時(shí)客戶端調(diào)用報(bào)錯(cuò),實(shí)現(xiàn)在白天大流量發(fā)布也能絲級(jí)時(shí)客戶端調(diào)用報(bào)錯(cuò),實(shí)現(xiàn)在白天大流量發(fā)布也能絲般潤(rùn)滑Agent消費(fèi)者AAgent提供者AAgent提供者BAgent4調(diào)用其他提供者消費(fèi)者B客戶端主動(dòng)刷新Agent消費(fèi)者AAgent提供者AAgent提供者BAgent4調(diào)用其他提供者消費(fèi)者B客戶端主動(dòng)刷新正常注冊(cè)中心感知到服務(wù)端下線客戶端感知到服務(wù)端下線客戶端視角下線靜默下線服務(wù)端視角SAE方案VS開(kāi)源自研的優(yōu)勢(shì):1.延時(shí)更短2.穩(wěn)定性兜底3.無(wú)需投入研發(fā)全套微服務(wù)治理-無(wú)損上線應(yīng)用尚未啟動(dòng)完成就承接正常流量導(dǎo)致實(shí)例被打掛,通過(guò)延遲注冊(cè)和小流量預(yù)熱實(shí)現(xiàn)擴(kuò)容時(shí)流量無(wú)損。應(yīng)用尚未啟動(dòng)完成就承接正常流量導(dǎo)致實(shí)例被打掛,通過(guò)延遲注冊(cè)和小流量預(yù)熱實(shí)現(xiàn)擴(kuò)容時(shí)流量無(wú)損。Redis:Jedispool連接池創(chuàng)建后不會(huì)立即建連接數(shù)據(jù)庫(kù):druid連接池異步創(chuàng)建連接..流量需要緩慢增加，但DUbboRedis:Jedispool連接池創(chuàng)建后不會(huì)立即建連接數(shù)據(jù)庫(kù):druid連接池異步創(chuàng)建連接..應(yīng)用初始化預(yù)建連接服務(wù)注冊(cè)通過(guò)readiness應(yīng)用初始化預(yù)建連接服務(wù)注冊(cè)通過(guò)readiness檢查小流量預(yù)熱.正常流量進(jìn)入Dubbo/sc服務(wù)需要延遲暴露Dubbo/sc服務(wù)需要延遲暴露cloud/Dubbo體系沒(méi)有打通預(yù)熱曲線動(dòng)態(tài)調(diào)整SAE方案vS開(kāi)源自研的優(yōu)勢(shì):1.無(wú)需投入研發(fā)2.穩(wěn)定性有保障2.白屏化使用，體驗(yàn)更簡(jiǎn)單3.完整的可觀測(cè)能力全套微服務(wù)治理-端到端的全鏈路灰度發(fā)布布,白屏化配置規(guī)則,實(shí)現(xiàn)精準(zhǔn)灰度能力,比傳統(tǒng)多環(huán)境部署的方案大幅降低了運(yùn)維和機(jī)器成本。布,白屏化配置規(guī)則,實(shí)現(xiàn)精準(zhǔn)灰度能力,比傳統(tǒng)多環(huán)境部署的方案大幅降低了運(yùn)維和機(jī)器成本。適用場(chǎng)景灰度驗(yàn)證價(jià)值件成本應(yīng)用實(shí)例應(yīng)用實(shí)例…應(yīng)用實(shí)例應(yīng)用實(shí)例1.指標(biāo)彈性(CPU、Mem、應(yīng)用實(shí)例應(yīng)用實(shí)例…應(yīng)用實(shí)例應(yīng)用實(shí)例1.指標(biāo)彈性(CPU、Mem、QPS、RT等）適用于有突發(fā)流量、典型脈沖的應(yīng)用場(chǎng)景，多用于互娛/游戲/社交平優(yōu)勢(shì):比開(kāi)源K8sHPA指標(biāo)豐富,且可以自定義指標(biāo)。應(yīng)用實(shí)例應(yīng)用實(shí)例…應(yīng)用實(shí)例應(yīng)用實(shí)例2.定時(shí)彈性適用于資源畫(huà)像存在周期性的應(yīng)用場(chǎng)景，多用于餐飲/出行/證券/醫(yī)療政府等行業(yè)。優(yōu)勢(shì):操作簡(jiǎn)單,易用。運(yùn)維配套-彈性競(jìng)爭(zhēng)力,相對(duì)傳統(tǒng),相對(duì)傳統(tǒng)ECS的彈性,SAE更精準(zhǔn)更降本；相對(duì)K8s彈性,SAE的指標(biāo)和策略更豐富,上手門欖更低。3.混合彈性(定時(shí)彈性&指標(biāo)彈性混用）適用于固定時(shí)段內(nèi)有突發(fā)流量、典型脈沖，常穩(wěn)時(shí)段內(nèi)流量波動(dòng)不均的應(yīng)用場(chǎng)景，多用于媒體報(bào)社/在線教育/語(yǔ)音識(shí)別合應(yīng)用實(shí)例應(yīng)用實(shí)例eg:最大10,最小2特殊時(shí)間段1eg:最大30,最小15特殊時(shí)間段Neg:最大50,最小40應(yīng)用實(shí)例…應(yīng)用實(shí)例應(yīng)用實(shí)例…應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例…應(yīng)用實(shí)例應(yīng)用實(shí)例…應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例…應(yīng)用實(shí)例應(yīng)用實(shí)例…應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例優(yōu)勢(shì):比開(kāi)源K8sHPA指標(biāo)豐富,且可以自定義指標(biāo)。運(yùn)維配套-內(nèi)置無(wú)侵入的應(yīng)用可觀測(cè)能力以定位到慢以定位到慢SQL、慢服務(wù)、方法的調(diào)用堆棧、進(jìn)而定位到代碼級(jí)別的問(wèn)題；也能查看各種維度的TopN關(guān)注應(yīng)用，實(shí)現(xiàn)1人輕松運(yùn)維成百上千個(gè)應(yīng)用。應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例中應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例中運(yùn)維配套-一鍵啟停開(kāi)發(fā)測(cè)試環(huán)境大型企業(yè)多套環(huán)境,內(nèi)部環(huán)境長(zhǎng)期資源浪費(fèi),使用大型企業(yè)多套環(huán)境,內(nèi)部環(huán)境長(zhǎng)期資源浪費(fèi),使用SAE一鍵啟停,可以節(jié)省一部分資源成本。生產(chǎn)環(huán)境命名空間一鍵開(kāi)啟所有應(yīng)用應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例測(cè)試環(huán)境命名空間一鍵開(kāi)啟所有應(yīng)用應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例生產(chǎn)環(huán)境命名空間一鍵開(kāi)啟所有應(yīng)用應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例測(cè)試環(huán)境命名空間一鍵停止所有應(yīng)用所有應(yīng)用的實(shí)例均縮容到0，但系統(tǒng)會(huì)保留應(yīng)用配置信息，便于需要時(shí)一鍵秒級(jí)拉起。夜晚定時(shí)啟停無(wú)縫對(duì)接開(kāi)源CICD工具方案(支持war無(wú)縫對(duì)接開(kāi)源CICD工具方案(支持war/jar鏡像部署）云上功能較完善的CICD方案(支持war/jar鏡像部署）最輕量&易用的CICD方案(支持鏡像部署）運(yùn)維配套-C'CD持續(xù)集成解決方案SAEAppDeploy阿里云ACR/ACREESAEAppDeployBuildBuild（MavenPlugin）GitpushwebhookBuildBuildwebhookDeployGitpushwebhookDeploy云效2020Code云效2020阿里云ACR/ACREESAESAEAppwebhookDeployGitpushwebhookDeploy阿里云ACR/ACREESAESAEAppSAE2.0全新升級(jí)業(yè)務(wù)場(chǎng)景業(yè)務(wù)場(chǎng)景開(kāi)發(fā)者平臺(tái)開(kāi)發(fā)者平臺(tái)應(yīng)用平臺(tái)應(yīng)用平臺(tái)計(jì)算層計(jì)算層應(yīng)用模板API&應(yīng)用模板API&CLI工具集NewNew微服務(wù)小程序Job任務(wù)單體WebNewNew應(yīng)用引擎應(yīng)用引擎日志&可觀測(cè)多環(huán)境部署智能運(yùn)維成本治理流量網(wǎng)關(guān)New高密部署、異構(gòu)算力高密部署、異構(gòu)算力Serverlessinfra彈性組件:縮容到0New彈性能力升級(jí)：彈性效率優(yōu)化到百毫秒級(jí)，支持縮容到。。并提供閑置計(jì)費(fèi)能開(kāi)發(fā)者體驗(yàn)升級(jí)：零改造遷移，秒級(jí)創(chuàng)建應(yīng)用，—鍵灰度。提供S2A等豐富的平臺(tái)工程能力，研發(fā)提效。適用場(chǎng)景升級(jí)：外，新增支持web應(yīng)用類型，從實(shí)例托管到流量托管。運(yùn)維配套-基于請(qǐng)求的彈性能力應(yīng)用流量有波動(dòng)或突增,根據(jù)實(shí)際流量變化自動(dòng)擴(kuò)縮容,做到僅在請(qǐng)求時(shí)分配CPU應(yīng)用流量有波動(dòng)或突增,根據(jù)實(shí)際流量變化自動(dòng)擴(kuò)縮容,做到僅在請(qǐng)求時(shí)分配CPU,支持縮容到0。應(yīng)用流量總并發(fā)度M 應(yīng)用實(shí)例 單實(shí)例請(qǐng)求并發(fā)度N應(yīng)用實(shí)例…應(yīng)用實(shí)例…應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例應(yīng)用實(shí)例實(shí)例總數(shù).M=0不分配CPUCPU不計(jì)費(fèi).M≤N僅分配一個(gè)實(shí)例.M>N當(dāng)一個(gè)實(shí)例的并發(fā)度用完，才會(huì)擴(kuò)容新的實(shí)例單體web流量托管-多版本流量配置景下多版本并存，支持靈活配置流景下多版本并存，支持靈活配置流關(guān)系>新版本灰度上線(滾動(dòng)發(fā)布&金絲雀發(fā)布&藍(lán)綠發(fā)布)，實(shí)時(shí)觀測(cè)新版本實(shí)例監(jiān)控和日志>多版本并存上線，根據(jù)實(shí)際情況分配版本流量比例>發(fā)布出現(xiàn)問(wèn)題，手動(dòng)觸發(fā)，秒級(jí)回滾至老版本>限制應(yīng)用實(shí)例上限，避免超出預(yù)期得成本消耗傳統(tǒng)應(yīng)用部署方式的演進(jìn)歷程ServerIess應(yīng)用引擎(SAE)介紹SAE如何加速應(yīng)用容器化上云客戶案例分享金融行業(yè)-視野數(shù)科極速打造云原生Devops視野數(shù)科是專注服務(wù)于—級(jí)市場(chǎng)、公司信貸、產(chǎn)業(yè)規(guī)劃招商、面向多層次資本市場(chǎng)的大數(shù)據(jù)金融信息服務(wù)商。視野數(shù)科深度理解大型銀行、金融機(jī)構(gòu)、政府、企業(yè)集團(tuán)等用戶對(duì)于數(shù)據(jù)的需求,為客戶呈現(xiàn)專業(yè)加工后的數(shù)據(jù),提供企業(yè)/產(chǎn)業(yè)/財(cái)務(wù)數(shù)據(jù)整合、數(shù)據(jù)加工處理、數(shù)據(jù)中臺(tái)、系統(tǒng)開(kāi)發(fā)和大數(shù)據(jù)模型分析咨詢服務(wù)的—整套.開(kāi)發(fā)送代效率慢:單體煙囪式架構(gòu),代碼糯合度高,開(kāi)發(fā)效率慢。.上線流程復(fù)雜,成本高:使用SVN代碼管理+人工部署,缺少規(guī)范化Devops流程,每次上線前需要在灰度環(huán)境進(jìn)行20~30次數(shù)據(jù)校驗(yàn),頻繁發(fā)版測(cè)試,開(kāi)發(fā)和運(yùn)維工作量大。.容器化自建成本高:嘗試過(guò)ECS+Docker方案,但DockerDaemon升級(jí)、鏡像Registry管理、配置管理、調(diào)度打散等均需自維護(hù)、研發(fā)。.容量預(yù)估無(wú)法自動(dòng)化:每次客戶側(cè)有營(yíng)銷活動(dòng)、重要事件(例如新華財(cái)經(jīng)金融排名等）,需提前—周告知視野數(shù)科備容ECS,存在備容不準(zhǔn)確,風(fēng)險(xiǎn)"標(biāo)準(zhǔn)化部署流程，降低運(yùn)維成本：通過(guò)CICD自動(dòng)完成發(fā)版，提升發(fā)版效率"低門濫微服務(wù)架構(gòu)轉(zhuǎn)型：業(yè)務(wù)拆分為微服務(wù)后，無(wú)需關(guān)心微服務(wù)周邊配套"無(wú)需容量規(guī)劃，秒級(jí)擴(kuò)容：營(yíng)銷活動(dòng)峰值時(shí)秒級(jí)自動(dòng)擴(kuò)容，峰谷時(shí)回收資"無(wú)感擁抱K8S，查看日志更方便：借助SAE零門欖容器化，沿用原有部署方式管理應(yīng)用，直接通過(guò)SAE+SLS方便查看日志。安全接入會(huì)員中心鑒權(quán)中心放映廳商城系統(tǒng)消息中心三方合作能力中心PolarDBMongo安全接入會(huì)員中心鑒權(quán)中心放映廳商城系統(tǒng)消息中心三方合作能力中心PolarDBMongo互娛行業(yè)-南瓜電影7天內(nèi)全面serverIess化南瓜電影APP是國(guó)內(nèi)領(lǐng)先的專注于影視精品化運(yùn)營(yíng)的垂直類視頻產(chǎn)品,在移動(dòng)互聯(lián)網(wǎng)、OTT等客戶端,為用戶提供差異化內(nèi)容運(yùn)營(yíng)服務(wù),是國(guó)內(nèi)唯—為用戶提供專注于精品電影電視劇的全會(huì)員制視頻APP。>業(yè)務(wù)場(chǎng)景具有潮沙特性,業(yè)務(wù)高峰主要是晚間和節(jié)假日以及熱門影片發(fā)布,面>線上業(yè)務(wù)系統(tǒng)監(jiān)控能力存在—些薄弱的地方,需要端到端的整體監(jiān)控,保證業(yè)多端安卓安卓/iOSAndroidTV/AndroidTV/webOSiPadiPad/AndroidPadWeb/Windows/H5H5/小程序"效率提升：屏蔽了底層資源,不必關(guān)心底層IaaS資源管理、運(yùn)維細(xì)節(jié),加速業(yè)務(wù)送代周期。"成本優(yōu)化：無(wú)需長(zhǎng)期保有固定資源,按照實(shí)際業(yè)務(wù)量進(jìn)行應(yīng)用的擴(kuò)縮容,做到按分鐘計(jì)費(fèi)。"業(yè)務(wù)穩(wěn)定高效：SAE提供了很好的彈性策略,同時(shí)能夠做到秒級(jí)擴(kuò)容,最大限度保證了整個(gè)集群的高可用。云服務(wù)DataWorks基礎(chǔ)資源云服務(wù)DataWorks基礎(chǔ)資源>擴(kuò)容繁瑣：面對(duì)流量激增，需要臨時(shí)部署應(yīng)用進(jìn)行應(yīng)對(duì)，流程耗>擴(kuò)容繁瑣：面對(duì)流量激增，需要臨時(shí)部署應(yīng)用進(jìn)行應(yīng)對(duì)，流程耗時(shí)，影響用戶體驗(yàn)。>缺少應(yīng)用級(jí)監(jiān)控:運(yùn)維團(tuán)隊(duì)期望對(duì)線上微服務(wù)架構(gòu)做到有效的監(jiān)控，能及時(shí)發(fā)現(xiàn)、定位問(wèn)題。>資源利用率低：賽事帶來(lái)周期性的流量，預(yù)估不準(zhǔn)帶來(lái)資源浪費(fèi)巨技術(shù)價(jià)值：>serverIess彈性：從容應(yīng)對(duì)周期的業(yè)務(wù)洪峰，省去原來(lái)預(yù)估資源、部署應(yīng)用的操作，擴(kuò)容效率提升40%。>內(nèi)置應(yīng)用監(jiān)控：集成ARMS監(jiān)控，可以快速精準(zhǔn)定位問(wèn)題，處理速度大約提升30%。>資源節(jié)?。横尫砰e置資源，整體資源利用率提升近50%。互娛行業(yè)-愛(ài)奇藝體育直播平臺(tái)不愛(ài)奇藝體育愛(ài)奇藝體育是中國(guó)知名的體育賽事平臺(tái),提供歐洲杯,西甲、網(wǎng)球、高爾夫等賽事直播、視頻、新不愛(ài)奇藝體育痛點(diǎn)問(wèn)題：一阿里云THANKS一阿里云云工作流cloudFlow在企業(yè)生產(chǎn)領(lǐng)域的實(shí)踐及應(yīng)用肯夢(mèng)(陳濤)阿里云高級(jí)產(chǎn)品經(jīng)理2023/11/20cloudFlow云工作流工作流概述工作流架構(gòu)及實(shí)現(xiàn)方案CIoudFIow云工作流CIoudFIow最佳實(shí)踐什么是工作流？工作流其實(shí)最早始于制造業(yè)，相關(guān)概念包括作業(yè)車間和排隊(duì)系統(tǒng)(馬爾可夫鏈)。最早的工業(yè)工作流試圖通過(guò)對(duì)制造流程進(jìn)行分析來(lái)提高工業(yè)制作效工作流在信息系統(tǒng)的定義:在面向信息系統(tǒng)服務(wù)的體系結(jié)構(gòu)中，應(yīng)用程序可以通過(guò)可執(zhí)行工作流來(lái)表示，其中不同的服務(wù)組件在工作流管理系統(tǒng)的控制下進(jìn)行交互以提供相應(yīng)的功能。工作流的典型特征是簡(jiǎn)單性和可重復(fù)性，通常用圖表或流程列表來(lái)可典型的業(yè)務(wù)流程建模工作流的實(shí)現(xiàn)方案？DAG（Directedacyclicgraph）有向無(wú)環(huán)圖FSM/SMStateMachine狀態(tài)機(jī)狀態(tài)機(jī)是什么？狀態(tài)機(jī)通過(guò)不同的狀態(tài)和流轉(zhuǎn)實(shí)現(xiàn)不同的結(jié)果輸出狀態(tài)機(jī)的基本組成要素是狀態(tài)和流轉(zhuǎn)。通過(guò)走向及流程數(shù)據(jù),表達(dá)的核心在于描述任務(wù)流轉(zhuǎn)行為動(dòng)作A動(dòng)作B動(dòng)作ccloudFlow云工作流云工作流(cloudFlow）是一個(gè)用來(lái)編排多個(gè)分布式任務(wù)的全托管高性能編排工具服務(wù)。提供低代碼，拖搜式開(kāi)發(fā)，可視化配置構(gòu)建業(yè)務(wù)工作流。減少流程代碼量serverless工作流提供了豐富的控制邏輯，例如順序，選擇，并行等?？娠@著降低復(fù)雜業(yè)務(wù)流程的代碼量。提高應(yīng)用容錯(cuò)性serverless工作流提供流程狀態(tài)管理，內(nèi)置檢查點(diǎn)和回放能力，以確保您的應(yīng)用程序按照預(yù)期逐步執(zhí)行。錯(cuò)誤重試可以讓您靈活地處理錯(cuò)誤。提供豐富的跨產(chǎn)品，跨平臺(tái)連接能力促進(jìn)云產(chǎn)品，應(yīng)用程序saas服務(wù)集成流程式開(kāi)發(fā)新范式NewDeveloponCloudIDE編程Code編程可視化流程編排NewDeveloponCloud子化能力，快速沉淀領(lǐng)域內(nèi)通用能力施即代碼，高度自動(dòng)化交付可視化編排，高效便捷、快速選代原子化、細(xì)粒度，低復(fù)雜度的功能模塊更容易通過(guò)自動(dòng)生成代碼等AIGC技術(shù)實(shí)現(xiàn)基礎(chǔ)特性建設(shè)workflow流程邏輯workflow版本/別名workflowstudioworkflow應(yīng)用監(jiān)控鏈路追蹤workFlow可觀測(cè)studio在線調(diào)試serverless基礎(chǔ)特性建設(shè)workflow流程邏輯workflow版本/別名workflowstudioworkflow應(yīng)用監(jiān)控鏈路追蹤workFlow可觀測(cè)studio在線調(diào)試serverlessDevsworkFlow開(kāi)發(fā)工具鏈Terraform云工作流cloudFlow致力于打造阿里云工作流研發(fā)范式。通過(guò)cloudFlow，您可以用順序、分支、并行等方式來(lái)編排分布式任務(wù)，以確保流程按照設(shè)定好的順序可靠地協(xié)調(diào)任務(wù)執(zhí)行。同時(shí)，提供開(kāi)箱即用的集成，可觀測(cè)，工具鏈等全鏈路開(kāi)發(fā)能力。工作流能力建設(shè)工作流能力建設(shè)ActivitiesActivities(開(kāi)發(fā)調(diào)用）Express模式更多模式…standard模式生態(tài)集成生態(tài)集成事件觸發(fā)(事件觸發(fā)(EventBridge）觸發(fā)集成webHook/APIdestination大數(shù)據(jù)類云產(chǎn)品編排(OpenAPI）包括ECs，Oss等管控接入Cron觸發(fā)通用協(xié)議人工智能類存儲(chǔ)類數(shù)據(jù)庫(kù)類計(jì)算類其他流程集成快速工作流最長(zhǎng)執(zhí)行時(shí)間執(zhí)行耗時(shí)啟動(dòng)速率定價(jià)執(zhí)行語(yǔ)義快速工作流最長(zhǎng)執(zhí)行時(shí)間執(zhí)行耗時(shí)啟動(dòng)速率定價(jià)執(zhí)行語(yǔ)義適用場(chǎng)景推廣期免費(fèi)，后續(xù)按照?qǐng)?zhí)行次數(shù)，執(zhí)行時(shí)長(zhǎng)，內(nèi)存消耗定價(jià)流程：同步執(zhí)行，系統(tǒng)錯(cuò)誤會(huì)默認(rèn)重試，可根據(jù)需求在客戶端側(cè)重試非常適合高吞吐數(shù)據(jù)處理例如IoT數(shù)據(jù)捕獲、流數(shù)據(jù)處理、內(nèi)容格式轉(zhuǎn)換及應(yīng)用程序后端執(zhí)行歷程serverless工作流兩種工作流模式選擇，分別是標(biāo)準(zhǔn)工作流(standard）和快速工作流(express）。兩種工作流模式分別對(duì)應(yīng)不同的執(zhí)行方式及業(yè)務(wù)場(chǎng)景，您可以在創(chuàng)建的時(shí)候選擇不同的工作流模式來(lái)匹配自己的業(yè)務(wù)場(chǎng)景。標(biāo)準(zhǔn)工作流標(biāo)準(zhǔn)工作流秒級(jí)耗時(shí)按照流程轉(zhuǎn)換次數(shù)定價(jià)流程：Exactlyonce標(biāo)準(zhǔn)工作流程非常適合長(zhǎng)時(shí)間運(yùn)行(長(zhǎng)達(dá)一年)、可靠且需可審計(jì)的工作流程例如業(yè)務(wù)賬單處理，BpM流程處理等cloudFlow使用yaml形式的流程定義語(yǔ)言來(lái)描述和定義業(yè)務(wù)邏輯，在執(zhí)行流程時(shí)，serverless工作流服務(wù)會(huì)根據(jù)流程定義解析并驅(qū)動(dòng)執(zhí)行相關(guān)狀態(tài)流轉(zhuǎn)。Task順序編排并執(zhí)行相關(guān)任務(wù)Choice對(duì)多分支命中進(jìn)行判斷，執(zhí)行命中邏輯對(duì)每個(gè)任務(wù)節(jié)點(diǎn)進(jìn)行相同邏輯的并行處理Map對(duì)數(shù)據(jù)進(jìn)行循環(huán)處理Wait延遲指定時(shí)間后執(zhí)行JSONinputExamplestateInput$IInputConstructor:FieldA:123FieldB.$:stateJSONinputExamplestateInput$IInputConstructor:FieldA:123FieldB.$:stateoutput集成節(jié)點(diǎn)集成節(jié)點(diǎn)OutputConstructor:FieldA:123工作流執(zhí)行工作流觸發(fā)（Trigger）數(shù)據(jù)處理流程API/SDK觸發(fā)工作流執(zhí)行工作流觸發(fā)（Trigger）數(shù)據(jù)處理流程API/SDK觸發(fā)Serverless工作流支持多種觸發(fā)能力，支持對(duì)上游的數(shù)據(jù)自動(dòng)捕獲并完成工作流的觸發(fā)執(zhí)行。同時(shí)工作流支持直接通過(guò)API/SDK接口觸發(fā)，可靈活處理工作流執(zhí)行時(shí)觸發(fā)源觸發(fā)源工作流cloudFlow支持多種流程可觀測(cè)能力，支持包括日志(Log），監(jiān)控(Metrics），鏈路追蹤(Tracing）等。提供流程開(kāi)發(fā)中較為完整的可觀測(cè)能力，減少運(yùn)流程開(kāi)發(fā)–Studio控制臺(tái)serverless工作流支持使用圖形化界面拖搜的低代碼配置方式進(jìn)行開(kāi)發(fā)。流程開(kāi)發(fā)–Yaml文件開(kāi)發(fā)模式serverless工作流支持使用yaml代碼的方式進(jìn)行編輯及開(kāi)發(fā)流程開(kāi)發(fā)-本地開(kāi)發(fā)模式serverless工作流支持使用vscode，Devs等本地開(kāi)發(fā)工具對(duì)工作流進(jìn)行調(diào)試及開(kāi)發(fā)云工作流CloudFlow–后端業(yè)務(wù)服務(wù)處理場(chǎng)景場(chǎng)景描述使用云工作流cloudFlow可以幫助您快速實(shí)現(xiàn)在線Baas業(yè)務(wù),通過(guò)靈活的組件編排能力,輕松調(diào)啟多個(gè)工作流對(duì)后端業(yè)務(wù)邏輯進(jìn)行處理。方案優(yōu)勢(shì)多任務(wù)編排:可并行啟動(dòng)多個(gè)子流程對(duì)復(fù)雜業(yè)務(wù)場(chǎng)景進(jìn)行處理。解決流程失敗問(wèn)題:系統(tǒng)會(huì)對(duì)任務(wù)的執(zhí)行錯(cuò)誤異常進(jìn)行多次重試。云工作流CloudFlow-數(shù)據(jù)處理流水線場(chǎng)景場(chǎng)景描述使用云工作流cloudFlow可以快速搭建—個(gè)高可用的數(shù)據(jù)處理流水線。比如，來(lái)自不同數(shù)據(jù)源的計(jì)量數(shù)據(jù)被收集到日志服務(wù)，函數(shù)計(jì)算的定時(shí)器每小時(shí)觸發(fā)工作流，serverless工作流利用函數(shù)計(jì)算對(duì)多個(gè)shard的計(jì)量數(shù)據(jù)做并行處理，并將結(jié)果分別寫(xiě)回日志服務(wù)服務(wù)；然后可以將所有shard產(chǎn)生文件進(jìn)行聚合，寫(xiě)入表格存儲(chǔ)，最后為每個(gè)用戶生成賬單。工作流支持對(duì)流程中的單個(gè)步驟失敗進(jìn)行重試，降低流程失敗概率。工作流支持動(dòng)態(tài)并行任務(wù)執(zhí)行，實(shí)現(xiàn)數(shù)據(jù)處理能力的高可擴(kuò)展性。方案優(yōu)勢(shì)解決并發(fā)執(zhí)行問(wèn)題:支持動(dòng)態(tài)并行任務(wù)執(zhí)行，實(shí)現(xiàn)數(shù)據(jù)處理能力的高可擴(kuò)展性。云工作流CloudFlow-自動(dòng)運(yùn)維場(chǎng)景場(chǎng)景描述自動(dòng)化運(yùn)維常見(jiàn)有步驟繁瑣時(shí)間長(zhǎng)短不—，單機(jī)腳本可靠性低，依賴復(fù)雜等常見(jiàn)的挑戰(zhàn)，另外進(jìn)度無(wú)法可視化。云工作流cloudFlow+函數(shù)計(jì)算的流程可以很好地應(yīng)對(duì)這些挑戰(zhàn)。例如自動(dòng)化的軟件部署從構(gòu)建Docker容器，上傳容器鏡像，開(kāi)始并追蹤各節(jié)點(diǎn)下拉鏡像并啟動(dòng)新版本鏡像的容器，每—步函數(shù)產(chǎn)生的日志會(huì)被保存到日志服務(wù)可供查詢分享?；诠ぷ髁鞯淖詣?dòng)化工具相比單機(jī)運(yùn)維腳本更加高可用，具有自帶的錯(cuò)誤處理機(jī)制和進(jìn)度圖形化的特方案優(yōu)勢(shì)解決無(wú)法可視化的問(wèn)題:自動(dòng)化運(yùn)維步驟繁瑣時(shí)間長(zhǎng)短不—，單機(jī)腳本可靠性低，依賴復(fù)雜等常見(jiàn)的挑戰(zhàn)，另外進(jìn)度無(wú)法可視化。一阿里云THANKS一阿里云解鎖serverless的無(wú)限潛能:融合A'實(shí)現(xiàn)業(yè)務(wù)創(chuàng)新serverless+A'落地實(shí)踐阿里云智能研發(fā)工程師2023/11/24AI應(yīng)用的機(jī)遇與挑戰(zhàn)提示詞:dusk,telegraphpole,high-rises,entrancetoalane,street,elevation,thescreen),richcolors,shadow,cloud,starry-sky畫(huà)師畫(huà)師banishment,耗時(shí)1小時(shí)為什么要使用A'？以下命令可以在—行內(nèi)刪除當(dāng)前目錄下以下命令可以在—行內(nèi)刪除當(dāng)前目錄下10天前創(chuàng)建的文件:打開(kāi)“應(yīng)用程序”文件夾，然后進(jìn)入“實(shí)用工具”文件夾，找到并打開(kāi)“鑰匙串訪問(wèn)”應(yīng)用程序。型號(hào)太多、送代太快、不會(huì)選擇利用率不高型號(hào)太多、送代太快、不會(huì)選擇利用率不高從零開(kāi)始部署AI會(huì)有什么問(wèn)題?買不到卡/卡太貴GPU開(kāi)發(fā)經(jīng)驗(yàn)不足,部署、排查難度高買不到卡/卡太貴顯卡可能會(huì)由于出口限制、囤貨等原因,市面上難顯卡價(jià)格波動(dòng)較大,且平均價(jià)格相對(duì)較高,起利用率不高某日部分用戶的GPU使用平均情況根據(jù)預(yù)估平均值準(zhǔn)備資源:每天有/的業(yè)務(wù)可能收到影響LoRaLoRaA100float324090float32A100float164090float16controlNetcontrolNetLoRaLoRaA100float324090float32A100float164090float16controlNetcontrolNet型號(hào)太多、送代太快、不會(huì)選擇可選擇的顯卡型號(hào)太多,具體哪種顯卡更適用于業(yè)務(wù)場(chǎng)景難以選擇文生圖耗時(shí)文生圖耗時(shí)文生圖耗時(shí)02468數(shù)據(jù)來(lái)源《4060Laptop大戰(zhàn)A100?Al繪畫(huà)硬件性能分析》BV1EL411v7LE數(shù)據(jù)來(lái)源《stableDiffusionBenchmarks:45Nvidia,數(shù)據(jù)來(lái)源《4060Laptop大戰(zhàn)A100?Al繪畫(huà)硬件性能分析》BV1EL411v7LE除去程序自身報(bào)錯(cuò)外,GPU環(huán)境本身也可能由于配置不當(dāng),造成額外的報(bào)錯(cuò)p國(guó)p國(guó)nstalltorch==2.0.1torchv國(guó)s國(guó)on==0.15.2p國(guó)p國(guó)nstalltorch==1.13.1+rocm5.2除去程序自身報(bào)錯(cuò)外,GPU環(huán)境本身也可能由于配置不當(dāng),造成額外的報(bào)錯(cuò)p國(guó)p國(guó)nstalltorch==2.0.1torchv國(guó)s國(guó)on==0.15.2p國(guó)p國(guó)nstalltorch==1.13.1+rocm5.2torchv國(guó)s國(guó)on==0.14.1+rocm5.2--國(guó)ndex-urlhttps：///whl/rocm5.2p國(guó)p國(guó)nstall--pretorchtorchv國(guó)s國(guó)on--國(guó)ndex-urlhttps：///whl/n國(guó)ghtly/rocm5.6"GPU開(kāi)發(fā)經(jīng)驗(yàn)不足,問(wèn)題難以排查ExpectedExpectedalltensorstobeonthesamedev國(guó)ceDbutfoundatleasttwo依賴之間并非完全兼容,不同程序甚至同一個(gè)程序不.算法能力比較強(qiáng)，希望有—個(gè)好用的AI模型管理平臺(tái).希望可以在本進(jìn)行開(kāi)發(fā)調(diào)試、線上進(jìn)行測(cè)試的時(shí)候，有—個(gè)便捷的環(huán)境等 .工程能力比較強(qiáng)，更希望有—個(gè)平臺(tái)可以提升整體的研發(fā)效能，降低運(yùn)維成本..算法能力比較強(qiáng)，希望有—個(gè)好用的AI模型管理平臺(tái).希望可以在本進(jìn)行開(kāi)發(fā)調(diào)試、線上進(jìn)行測(cè)試的時(shí)候，有—個(gè)便捷的環(huán)境等 .工程能力比較強(qiáng)，更希望有—個(gè)平臺(tái)可以提升整體的研發(fā)效能，降低運(yùn)維成本.往往和實(shí)驗(yàn)室/公司內(nèi)的設(shè)備有強(qiáng)關(guān)聯(lián)，需要有安全保障等.工程能力比較強(qiáng)，更希望有—些項(xiàng)目案例等，可以幫助業(yè)務(wù)快速的發(fā)布和上線.有完整的應(yīng)用開(kāi)發(fā)、調(diào)試、發(fā)布流程等不同用戶對(duì)于AI的不同需求負(fù)責(zé)負(fù)責(zé)A'模型開(kāi)發(fā)調(diào)試負(fù)責(zé)負(fù)責(zé)A'應(yīng)用平臺(tái)建設(shè)和管理通過(guò)通過(guò)AP'等對(duì)接口進(jìn)行工程化封裝serverless+AlGPU資源池彈性計(jì)算,按GPU資源池彈性計(jì)算,按serverlessGPU虛擬化技術(shù)serverlessGPU虛擬化技術(shù)s.算力強(qiáng)隔離,顯存強(qiáng)隔離.故障強(qiáng)隔離.GPU100%兼容原生應(yīng)用目前支持的顯卡.A10(最高24G顯存）.T4(最高16G顯存）可使用GPU函數(shù)的地區(qū)華東1(杭州）、華東2(上海）、華北2(北京）、華北3(張家口）、華南1(深訓(xùn)）、日本(東京）、新加坡、美國(guó)(弟吉尼亞）15ms 15ms15ms 15ms極致彈性,按量付費(fèi)實(shí)例A請(qǐng)求狀況10ms并發(fā)處理5ms10ms.極致彈性:.極致彈性:百毫秒級(jí)別彈出實(shí)例,每秒可彈出上千個(gè)實(shí)例.鏡像加速:層按需加載、多層緩存,GB級(jí)別鏡像秒級(jí)啟動(dòng).按量付費(fèi):實(shí)際使用了多少計(jì)算資源,就付費(fèi)多少(毫秒級(jí)）共計(jì)費(fèi)10ms+15ms+15ms-5ms=35ms.請(qǐng)求計(jì)費(fèi):0.009元/萬(wàn)次(階梯計(jì)費(fèi)）.資源計(jì)費(fèi):.cPU計(jì)費(fèi):0.00009元/VCPU*秒(階梯計(jì)費(fèi)）多種策略保證平穩(wěn)運(yùn)行.內(nèi)存計(jì)費(fèi):0.000009元/GB*秒多種策略保證平穩(wěn)運(yùn)行.顯卡計(jì)費(fèi):0.00011元/GB*秒(階梯計(jì)費(fèi)）按量彈性.流量計(jì)費(fèi):0.50元/GB預(yù)留實(shí)例.存儲(chǔ)計(jì)費(fèi):0.0000009元/按量彈性.流量計(jì)費(fèi):0.50元/GB預(yù)留實(shí)例以默認(rèn)8C、32GB內(nèi)存、24GBA10卡的應(yīng)用為例,每秒鐘收費(fèi)約0.003648元(以512像素的stableDiffusion出圖為例,約1.5分錢一張應(yīng)用高效部署借助serverless應(yīng)用中心,快速部署常見(jiàn)應(yīng)用初始化開(kāi)發(fā)調(diào)試部署運(yùn)維初始化應(yīng)用鏈路追蹤C(jī)ICD平臺(tái)集成FaasBaas上手簡(jiǎn)單,降本提效.三步上手最佳實(shí)踐,一鍵模型托管,上手門欖降低80%.極致彈性cPU+GPU實(shí)例賦能AI應(yīng)用降本教育軟件開(kāi)發(fā)旅游行業(yè)擁抱開(kāi)源,開(kāi)放生態(tài)composer場(chǎng)景化案例庫(kù)應(yīng)用流水線應(yīng)用多環(huán)境管理.Modelscope,HuggingFaasBaas上手簡(jiǎn)單,降本提效.三步上手最佳實(shí)踐,一鍵模型托管,上手門欖降低80%.極致彈性cPU+GPU實(shí)例賦能AI應(yīng)用降本教育軟件開(kāi)發(fā)旅游行業(yè)擁抱開(kāi)源,開(kāi)放生態(tài)composer場(chǎng)景化案例庫(kù)應(yīng)用流水線應(yīng)用多環(huán)境管理.Modelscope,HuggingFace開(kāi)源生態(tài).Langc