美團(tuán)外賣廣告智能算力實(shí)踐

列表廣告營(yíng)銷廣告搜索廣告創(chuàng)新廣告列表廣告營(yíng)銷廣告搜索廣告創(chuàng)新廣告展示廣展示廣告發(fā)LBs廣告物料傳輸廣發(fā)LBs廣告物料傳輸廣告檢索鏈路排排排在線在線預(yù)估預(yù)估排序算力情況介紹資源緊張預(yù)估排序資源使用情況機(jī)機(jī)器數(shù)量總機(jī)器1w+年年增長(zhǎng)率50%算力和場(chǎng)景的關(guān)系增加算力增加算力務(wù)場(chǎng)景信息獲取(如:推廣搜)業(yè)務(wù)性質(zhì):從海量候選集選擇非信息獲取(如:交易類)業(yè)務(wù)性質(zhì):執(zhí)行確定性結(jié)果動(dòng)作得到更好的結(jié)果響廣告業(yè)務(wù)性質(zhì)召回召回算力增加候選隊(duì)列越長(zhǎng)廣告收入越大流量力的核心思想流量空閑資源利用空閑資源利用間維度差差異化算力支持流量?jī)r(jià)值維度系統(tǒng)容量黃色區(qū)域?yàn)樗懔θ哂喔邇r(jià)值流量次高價(jià)值流量次低價(jià)值流量低價(jià)值流量系統(tǒng)算力無(wú)系統(tǒng)算力無(wú)差別高價(jià)值流量次高價(jià)值流量次低價(jià)值流量低價(jià)值流量有差別有差別系統(tǒng)算力方案1方案1方案2方案3方案4方案4+回動(dòng)作+收入不變,機(jī)器資源降低機(jī)器資源不變,收入提升取收益最大max(收入.算力支出)●整體思想●方案設(shè)計(jì)態(tài)性值流量召回粗排精排可選策略A可選策略B動(dòng)態(tài)候選集集態(tài)性值流量召回粗排精排可選策略A可選策略B動(dòng)態(tài)候選集集短候選集容量思想:提高在廣告檢索過(guò)程中的算力分配效率,實(shí)現(xiàn)單位算力下收益最大化估估技術(shù)解讀-挑戰(zhàn)分析挑戰(zhàn)點(diǎn)挑戰(zhàn)點(diǎn)智能算力的目標(biāo):是在系統(tǒng)算力容量約束下,問(wèn)題求解實(shí)現(xiàn)業(yè)務(wù)收益最大化,具體如何去做?從固定算力分配到智能算力分配,系統(tǒng)穩(wěn)定性保障不系統(tǒng)穩(wěn)定性保障更需要保證系統(tǒng)全鏈路的平穩(wěn)運(yùn)行通用性&擴(kuò)展性兼顧基礎(chǔ)能力的復(fù)用和個(gè)性化能力的擴(kuò)展,通用性&擴(kuò)展性支持多個(gè)業(yè)務(wù)場(chǎng)景的友好接入解法解法流量?jī)r(jià)值預(yù)估?參考已有方案,問(wèn)題拆解3個(gè)子問(wèn)題:流量算力預(yù)估算力分配?并針對(duì)外賣廣告場(chǎng)景進(jìn)行探索和改進(jìn)?降級(jí)熔斷、監(jiān)控報(bào)警等常規(guī)保障手段?系統(tǒng)狀態(tài)的實(shí)時(shí)調(diào)控功能?核心組件以sDK形式提供可復(fù)用可擴(kuò)展能力?基于通用的價(jià)值評(píng)估指標(biāo)、算力評(píng)估指標(biāo)和彈性算力框架,支撐不同業(yè)務(wù)場(chǎng)景和多彈性動(dòng)作的組合決策技術(shù)解讀-方案設(shè)計(jì)態(tài)上報(bào) l 決策組件障采集組件調(diào)控組件采集組態(tài)上報(bào) l 決策組件障采集組件調(diào)控組件采集組件Flink流(處理)調(diào)控組件(PID控制器)決策組件集系統(tǒng)穩(wěn)定性保障征層最優(yōu)檔位決策預(yù)估預(yù)估●●●粗排粗排精排機(jī)制方案設(shè)計(jì)-最優(yōu)檔位決策子問(wèn)題拆解:?入求解:離線仿真?子問(wèn)題拆解:?入求解:離線仿真?valuei,j，costi,j:模型預(yù)估?最大算力C計(jì)算:統(tǒng)計(jì)模型業(yè)務(wù)目標(biāo)業(yè)務(wù)目標(biāo):通過(guò)差異化不同價(jià)值流量的算力分配,在整體算力不增加的條件下,最大化整體收益數(shù)學(xué)建模:j*i:請(qǐng)求j*i:請(qǐng)求i的最入算力與價(jià)值的置3換比優(yōu)優(yōu)檔位argargi,jj局部決策(請(qǐng)求粒度)表述:對(duì)任意請(qǐng)求i,已知置換比入及其在不同檔位下的算力和價(jià)值時(shí),即可進(jìn)行最優(yōu)算力分配------優(yōu)化目標(biāo):最大化價(jià)值xxxi,jvaluei,j------優(yōu)化目標(biāo):最大化價(jià)值i,j------約束條件:算力不增------約束條件:檔位范圍s.t.xxi,jcosti,j三------約束條件:算力不增------約束條件:檔位范圍i,jxi,j={0,1}全局決策表述:總體算力約束下,最大化收益拉格朗日求解?檔位j:如隊(duì)列長(zhǎng)度?valuei,j:流量i在檔位j下的價(jià)值(如cpm)?costi,j:流量i在檔位j下的算力(流量資源消耗)?C:最大算力消耗(時(shí)間片內(nèi)資源消耗)在線檔位決策果算力預(yù)估價(jià)在線檔位決策果算力預(yù)估價(jià)值預(yù)估入(流量回放)特征抽取/處理特征原始價(jià)值預(yù)估檔位價(jià)值預(yù)估Valueij請(qǐng)求i特征篩選/分桶分桶-價(jià)值模型訓(xùn)練用戶側(cè)特征 統(tǒng)計(jì)模型上下特征抽取/處理特征原始價(jià)值預(yù)估檔位價(jià)值預(yù)估Valueij請(qǐng)求i特征篩選/分桶分桶-價(jià)值模型訓(xùn)練用戶側(cè)特征 統(tǒng)計(jì)模型上下文特征 XGB模型訓(xùn)練數(shù)據(jù)動(dòng)作檔位特征整體框架 價(jià)值詞表粗排模型粗排打分 在線插值請(qǐng)求i在所有檔位下的價(jià)值分桶價(jià)值存儲(chǔ)(KV)價(jià)值評(píng)估指標(biāo):平臺(tái)收入+商家收入被截?cái)嗟膹V告隊(duì)列,廣告打分和為Sa=截?cái)嗪蟮膹V告隊(duì)列,廣告打分和為Sb=∑1三i三j-1si廣告n廣告j廣告3廣告2廣告1檔位價(jià)值預(yù)估假設(shè)廣告隊(duì)列價(jià)值為原始流量?jī)r(jià)值為V0,則截?cái)嗪髢r(jià)值為V=V0ü(平臺(tái)收入+商家收入)●離線階段:數(shù)據(jù)的稀疏性ü原始價(jià)值預(yù)估:價(jià)值詞表+在線插值ü檔位價(jià)值預(yù)估:粗排打分計(jì)算價(jià)值衰減方案設(shè)計(jì)-決策框架-流量算力預(yù)估向題1:算力評(píng)估指標(biāo)是什么?通用性強(qiáng)精確度高通用性不好精確度低外賣方案業(yè)內(nèi)方案外賣方案CPU時(shí)間適用于彈性模型/彈性鏈路中向題2:如何建模?隊(duì)列越長(zhǎng),數(shù)據(jù)越稀疏隊(duì)列長(zhǎng)度分段線性擬合?契合業(yè)務(wù):體現(xiàn)拆包造成的算力突變情況?解決稀疏問(wèn)題:從短隊(duì)列泛化到長(zhǎng)隊(duì)列1.業(yè)務(wù)特色:算力與隊(duì)列長(zhǎng)度非簡(jiǎn)單線性關(guān)系,隊(duì)列存在拆包情況2.外賣場(chǎng)景中,不同sIot流量可能走不同ctr模型(如sIot=12為閃購(gòu)流量)方案設(shè)計(jì)-決策框架-流量算力預(yù)估統(tǒng)計(jì)結(jié)果越長(zhǎng),數(shù)據(jù)越稀疏統(tǒng)計(jì)結(jié)果統(tǒng)計(jì)結(jié)果分段擬合結(jié)果目標(biāo):通過(guò)離線流量仿真,求解系統(tǒng)穩(wěn)定且收益最大的入*可以證明:收益和算力隨入單調(diào)遞減輸入二分查找*最優(yōu)入輸出離線離線流量選擇候選入計(jì)當(dāng)前算力消耗每個(gè)請(qǐng)求位2方案設(shè)計(jì)-決策框架-在線決策:預(yù)估流量?jī)r(jià)值入求解:離線求解,在線使用根據(jù)檔位執(zhí)行算力分配動(dòng)作:?當(dāng)maxj(VaIueij-入Costij)20,即最大檔位對(duì)應(yīng)的收益大于等于0時(shí),選擇使得收益最大的檔位?當(dāng)maxj(VaIueij-入Costij)<0,即最大檔位對(duì)應(yīng)的收益小于0時(shí),將請(qǐng)求分配給簡(jiǎn)單模型2方案設(shè)計(jì)-系統(tǒng)穩(wěn)定性保障措施流量準(zhǔn)入:提供分廣告位、城市、時(shí)段等不同流量準(zhǔn)入規(guī)則,控制彈性算力作用的流量范圍熔斷降級(jí):實(shí)時(shí)監(jiān)控彈性算力的異常,達(dá)到配置的異常閾值后,彈性算力會(huì)自動(dòng)熔斷降級(jí),走兜底算力分配超時(shí)控制:為保障主流程整體鏈路耗時(shí)不增長(zhǎng),彈性算力決策是一個(gè)異步的過(guò)程,超時(shí)后走兜底的算力分配去噪/平滑F(xiàn)link流處理解析/聚合采集組件機(jī)器列表引擎服務(wù)1…決策組件(sDK)廣告投放去噪/平滑F(xiàn)link流處理解析/聚合采集組件機(jī)器列表引擎服務(wù)1…決策組件(sDK)廣告投放機(jī)器列表引擎服務(wù)N決策組件(sDK)輪詢ZK基于系統(tǒng)狀態(tài)的PID實(shí)時(shí)調(diào)控?調(diào)控的目標(biāo):tp999時(shí)間,超時(shí)率?調(diào)控策略:彈性隊(duì)列長(zhǎng)度?調(diào)控過(guò)程ü系統(tǒng)狀態(tài)上報(bào):投放引擎服務(wù)通過(guò)監(jiān)控系統(tǒng),實(shí)時(shí)反饋系統(tǒng)當(dāng)前狀態(tài)ü采集組件:基于FIink流處理框架,實(shí)時(shí)解析聚合系統(tǒng)狀態(tài)數(shù)據(jù),并進(jìn)行去噪和平滑處理ü調(diào)控組件:基于PID算法,根據(jù)選擇的多個(gè)調(diào)控目標(biāo),實(shí)時(shí)調(diào)控系統(tǒng)算力,將調(diào)控結(jié)果反饋到引擎服務(wù)的決策組件,形成調(diào)控閉環(huán)。系統(tǒng)狀態(tài)上報(bào) (Tp999/FailRate/CpuUti實(shí)時(shí)調(diào)控調(diào)實(shí)時(shí)調(diào)控PIDPID調(diào)控器多目標(biāo)多目標(biāo)午高峰午午高峰午高峰收益來(lái)源分析:機(jī)器持平,提收益:?流量高峰期,保證系統(tǒng)穩(wěn)定的同時(shí)提升收益(渠道上的資源轉(zhuǎn)移)?非流量高峰期,將空閑資源轉(zhuǎn)化為收益(空閑資源利用)收益持平,降機(jī)器:?減小午高峰和晚高峰算力,利用空閑時(shí)間資源填平收益(時(shí)間上的資源轉(zhuǎn)移)?午高峰和晚高峰期間,保證算力較低的同時(shí),最大化收益(渠道上的資源轉(zhuǎn)移)?全天算力持平:廣告收入+1.98%,ROI-1