阿里云上深度學習建模實踐-阿里巴巴+程孟力

花名:楊熙阿?巴巴-計算平臺-PAI深度學習應?場景個性化推薦沙沙漠湖泊旅?視頻理解智能對話系統(tǒng)???優(yōu)勢:效果顯著超越傳統(tǒng)模型(線性層模型/樹模型/SVM模型/…)2.模型效果優(yōu)化困難4.數(shù)據(jù)獲取困難深度學習應?主要的2.模型效果優(yōu)化困難4.數(shù)據(jù)獲取困難33.?程優(yōu)化復雜怎么搞出來?個效果還不錯的模型?怎么搞出來?個效果還不錯的模型?深度模型是?線性的:?參數(shù)很多?參數(shù)敏感?不同場景的數(shù)據(jù)上差異?2.模型效果優(yōu)化困難4.數(shù)據(jù)獲取困難深度學習應?主要的2.模型效果優(yōu)化困難4.數(shù)據(jù)獲取困難33.?程優(yōu)化復雜怎么搞出來?個效果還不錯的模型?怎么搞出來?個效果還不錯的模型?深度模型是?線性的:?參數(shù)很多?參數(shù)敏感?不同場景的數(shù)據(jù)上差異?模型構(gòu)建:要求:要求:解解決?案:標準化訓練推理:視頻理解EasyRecEasyTransfernFTRLSGD視頻理解EasyRecEasyTransfernFTRLSGDrchSQSQL優(yōu)勢:〉場景豐富:圖像/視頻/推薦/搜索標準化:StandardLibrariesEasyRec:推薦算法庫標準化:StandardLibrariesEasyVision:圖像視頻算法庫ClassificationOCRelSSwinEntropyDiceLoss標準化:標準化:Graph-Learn:分布式圖算法庫功能完備:"GSL/負采樣性能優(yōu)越:"分布式存儲"分布式查詢CV/NLP解決?案:EASEASWebAppcustomerSDKAPIOn-premSystemeKYCSDK/API"多種證件版式"WebAppcustomerSDKAPIOn-premSystemeKYCSDK/API"多種證件版式"準確率領(lǐng)先同類產(chǎn)品eKYCServer?卡證OCR?人臉檢測MobileApp?活體檢測3eeKYCPAI-ABTestA/B流量劃分PAI-EAS–模型推理…推薦請求PAI-ABTestA/B流量劃分PAI-EAS–模型推理…推薦請求推薦?志訓練數(shù)據(jù)智能推薦解決?案:PAI-Rec–推薦引擎vecx2i在線流程召回模型排序模型PAI-召回模型排序模型PAI-Studio–建模平臺EasyReEasyRec模型訓練評估拉取配置 取數(shù)據(jù)PAI-REC推薦引擎PAI-REC平臺AB實驗PAI-REC配置中?拉取配置 取數(shù)據(jù)PAI-REC推薦引擎PAI-REC平臺AB實驗PAI-REC配置中?曝光/狀態(tài)過濾粗排/精排回序BEHologresFaiss/Milvus向量檢索向量引擎監(jiān)控報警志SLS 智能推薦解決?案>PAI-REC推薦引擎BE智能推薦解決?案>實時推薦?案3.?程優(yōu)化復雜深度學習應?主要的挑戰(zhàn)3.?程優(yōu)化復雜2.模型效果2.模型效果優(yōu)化困難44.數(shù)據(jù)獲取困難深度模型是非線性的黑盒:?參數(shù)很多?參數(shù)敏感?不同場景的數(shù)據(jù)上差異?問題:?盒1.參數(shù)太多/問題:?盒1.參數(shù)太多/參數(shù)敏感2.候選空間?3.場景數(shù)據(jù)相關(guān)解決?案:超參搜索效果提升模型理解模型創(chuàng)新〉學習率:1e-3,1e-4,1e-5?NNI模型效果優(yōu)化:EasyRec超參搜索[{orical"candidates":["16","32","48","64","80"]},{orical"candidates":["16","32","48","64","80"]}]sa1[{orical},{orical"candidates":[0.1,0.2,0.3,0.4]}]40.600.70.模型效果優(yōu)化:模型效果優(yōu)化:特征組合+特征選擇?Count?CrossCount[2]?Proxytask:GBDT特征選擇2.模型效果優(yōu)化困難4.數(shù)據(jù)獲取困難深度學習應?主要的2.模型效果優(yōu)化困難4.數(shù)據(jù)獲取困難33.?程優(yōu)化復雜怎么搞出來?個效果還不錯的模型?怎么搞出來?個效果還不錯的模型?倍怎么優(yōu)化？深度模型是?線性的:?參數(shù)很多?參數(shù)敏感?不同場景的數(shù)據(jù)上差異?3.?程優(yōu)化?程優(yōu)化:數(shù)據(jù)并??程優(yōu)化:Blade模型推理?程優(yōu)化:千億特征優(yōu)化訓練:特征特征準?/淘汰理:[FGOP化]AVX/SSE優(yōu)化2.模型效果優(yōu)化困難4.數(shù)據(jù)獲取困難深度學習應?主要的2.模型效果優(yōu)化困難4.數(shù)據(jù)獲取困難33.?程優(yōu)化復雜怎么搞出來?個效果還不錯的模型?怎么搞出來?個效果還不錯的模型?深度模型是?線性的:?參數(shù)很多?參數(shù)敏感?不同場景的數(shù)據(jù)上差異?4.數(shù)據(jù)獲取困難解決?案:解決?案:智能標注系統(tǒng)iTags智能摳圖智能摳圖智能貼合解決?案:?監(jiān)督學習推薦模型特征解決?案:多模態(tài)預訓練TGRec- TRKTGRec- TRK 下游任務(wù):型特征解決?案:?樣本學習?樣本結(jié)構(gòu)化模型????鍵部署?多模型?藍綠部署?彈性擴縮?推理優(yōu)化在線預測服務(wù)(EAS)智能標注???數(shù)?個場景化模版即所得分布式訓練(DLC)開發(fā)者?具智能標注???數(shù)?個場景化模版即所得分布式訓練(DLC)開發(fā)者?具語?標注?數(shù)據(jù)集管理?主動學習?智能標注itags?多框架兼容?CLI在線服務(wù)(EAS)?態(tài)市場體驗中???定義鏡像?分布式訓練優(yōu)化?超?資源池?推理優(yōu)化BladeAIService(SaaS)Service(PaaS)機機器學習框架(PAI-TensorFlow/PAI-PyTorch/Caffe/Alink/…)計算引擎(MaxCompute/EMR/Flink)阿?云容器服務(wù)(ACK)基礎(chǔ)硬件(CPU/GPU/FPGA/NPU)環(huán)供促進?撐內(nèi)循環(huán)供促進?撐內(nèi)循環(huán)的模型結(jié)構(gòu)模型計算?強、性價??據(jù)量??全開源?態(tài)PAIhttpshelpaliyuncom/product/30347.html2.阿?靈杰:/org/a-li-ling-jie3.EasyRec:/alibaba/EasyRechelpaliyuncomdocumentdetailhtml5.EasyCV:/alibaba/EasyCV6.Ea