通用廣告引擎的索引設(shè)計和性能優(yōu)化課件

1、通用廣告引擎的索引設(shè)計和性能優(yōu)化阿里媽媽事業(yè)部師陀Agenda背景索引設(shè)計和實(shí)現(xiàn)遇到的問題下一步工作性能優(yōu)化過程性能優(yōu)化小結(jié)Q&A背景廣告引擎的基本狀況層級結(jié)構(gòu)：廣告主-廣告計劃-廣告商品-競價詞背景廣告引擎的基本狀況層級結(jié)構(gòu)：廣告主-廣告計劃-廣告商品-競價詞廣告查詢流程Query解析- 倒排查詢-過濾-算分-排序-拼裝結(jié)果返回背景廣告引擎的基本狀況層級結(jié)構(gòu)：廣告主-廣告計劃-廣告商品-競價詞在線查詢流程Query解析- 倒排查詢-過濾-算分-排序-拼裝結(jié)果返回索引數(shù)據(jù)：每天重建全量 + 實(shí)時更新增量背景一年前：使用搜索引擎isearch的索引內(nèi)核 + 自己開發(fā)的輔表結(jié)構(gòu)相對實(shí)現(xiàn)復(fù)雜，正排讀

2、接口不清晰性能問題背景一年前：使用搜索引擎isearch的索引內(nèi)核 + 自己開發(fā)的輔表結(jié)構(gòu)相對實(shí)現(xiàn)復(fù)雜，正排讀接口不清晰性能問題重構(gòu)：新的通用廣告引擎（一期）索引支持主輔表結(jié)構(gòu)只做廣告引擎需要的功能目標(biāo)：性能和可維護(hù)性索引設(shè)計正排：主/輔表結(jié)構(gòu)多種值類型：bit/int8/int16/float/string多種字段類型：單值/固定多值/變長多值定長字段和變長字段的緊密存儲Package表的關(guān)聯(lián)字段平鋪索引設(shè)計正排：主/輔表結(jié)構(gòu)多種值類型：bit/int8/int16/float/string多種字段類型：單值/固定多值/變長多值Package表的關(guān)聯(lián)字段平鋪索引設(shè)計正排多種值類型：bit/i

3、nt8/int16/float/string多種字段類型：單值/固定多值/變長多值定長字段和變長字段的緊密存儲Package表的關(guān)聯(lián)字段平鋪主/輔表 + keyId-docId的hash表 + DeleteMap索引實(shí)現(xiàn)索引實(shí)現(xiàn)索引實(shí)現(xiàn)其他TableWriter的其他成員DeleteMapKeyIdHashTable相關(guān)小工具：indexLibPrinter遇到的問題（1）Mmap的得失天然的弱持久化方案利用系統(tǒng)page cache管理數(shù)據(jù)局部性遇到的問題（1）Mmap的得失天然的弱持久化方案利用系統(tǒng)page cache管理數(shù)據(jù)局部性臟頁回寫不可控遇到的問題（1）Mmap的得失天然的弱持久化方

4、案利用系統(tǒng)page cache管理數(shù)據(jù)局部性臟頁回寫不可控短期解決方案2.6.18內(nèi)核：flush_mmap_pages=0遇到的問題（1）Mmap的得失天然的弱持久化方案利用系統(tǒng)page cache管理數(shù)據(jù)局部性臟頁回寫不可控短期解決方案2.6.18內(nèi)核：flush_mmap_pages=0Page cache換入換出不可控遇到的問題（1）Mmap的得失天然的弱持久化方案利用系統(tǒng)page cache管理數(shù)據(jù)局部性臟頁回寫不可控短期解決方案2.6.18內(nèi)核：flush_mmap_pages=0Page cache換入換出不可控mlock：不符合極端情況的異常處理需求遇到的問題（2）穩(wěn)定性每天b

5、uild全量的過程牽涉的系統(tǒng)太多太復(fù)雜故障恢復(fù)的能力需要加強(qiáng)解決方案：索引重整 + 索引壓縮遇到的問題（2）穩(wěn)定性每天build全量的過程牽涉的系統(tǒng)太多太復(fù)雜故障恢復(fù)的能力需要加強(qiáng)解決方案：索引重整能力 + 索引壓縮數(shù)據(jù)靈活性跟分布式build的結(jié)合批量更新能力下一步工作一期的新引擎還是很像搜索引擎dispatchersearchNodesearchNodesearchNodemerger下一步工作dispatchersearchNodesearchNodesearchNodemerger分布式引擎索引數(shù)據(jù)中心服務(wù)化的searchNode集群期望的廣告引擎性能優(yōu)化目標(biāo)：searchNode的單

6、機(jī)qps優(yōu)化，主要是cpu優(yōu)化方法：Perf 熱點(diǎn)分析代碼優(yōu)化業(yè)務(wù)層優(yōu)化索引數(shù)據(jù)層優(yōu)化Cpu資源利用最大化性能優(yōu)化過程全量qps全量rt增量qps增量rtBASE71526msstrncpy memcpy109117ms增加結(jié)果初選178011msPartial_sort優(yōu)化182311ms增加進(jìn)程個數(shù)351521ms249130ms輔表數(shù)據(jù)平鋪+bitFilter合并387919ms274327ms性能優(yōu)化小結(jié)工具幫助理解分析性能瓶頸，但不要僅對熱點(diǎn)進(jìn)行代碼優(yōu)化推薦Intel vtune的top-down視圖性能優(yōu)化小結(jié)工具幫助理解分析性能瓶頸，但不要僅對熱點(diǎn)進(jìn)行優(yōu)化推薦Intel vtune的top-down視圖針對內(nèi)核/硬件特性的優(yōu)化需謹(jǐn)慎性能優(yōu)化小結(jié)工具幫助理解分析性能瓶頸，但不要僅對熱點(diǎn)進(jìn)行優(yōu)化推薦Intel vtune的top-down視圖針對內(nèi)核/硬件特性的優(yōu)化需謹(jǐn)慎關(guān)注數(shù)據(jù)局部性和整體代碼質(zhì)量（CPI）性能優(yōu)化小結(jié)工具幫助理解分析性能瓶頸，但不要僅對熱點(diǎn)進(jìn)行優(yōu)化推薦Intel vtune的top-down視圖針對內(nèi)核/硬件特性的優(yōu)化需謹(jǐn)慎關(guān)注數(shù)據(jù)局部性和整體代碼質(zhì)量（CPI）Cpu壓不上去的幾種原因：并發(fā)壓力