2024騰訊Yoo視頻底層頁系統(tǒng)

騰訊Yoo視頻底層頁推薦系統(tǒng)234的行為）。請求TriggerTrigger合并召回結(jié)果，輸入rank層做排序；listfaissredis，做消息隊列的Hippo，還有一些數(shù)據(jù)分發(fā)服務(wù)。Hadoop，Spark，SparkStreaming，以及機(jī)器學(xué)習(xí)計算平臺Angel和Tensorflow。itemitemlistitemInception模型，輸入圖像做前向計算，將softmax前的輸出層取出來即可得到一個embeddingfaiss前采用人工的方法，人工評估召回的topN圖片中有幾個是相似的。Title/TagEmbeddingword2vecNetworkEmbeddingGraphEmbedding，有三種方式：1.矩陣分解：效果不太好，用的比較少2.隨機(jī)游走：利用隨機(jī)游走構(gòu)造一些序列做embedding3.具體使nlp（每個視頻作為一個單詞）訓(xùn)練word2vec。直接用word2vec會有一些問題，可以優(yōu)化的方式包括：1.對高低頻的item（視頻）做過濾和降采樣2.合理的劃分session（取多少天的數(shù)據(jù)）。NetworkEmbedding常見的做法并不是先將樣本直接構(gòu)造成skip-gram的形式，而是先Embedding學(xué)習(xí)。這樣做存在的問題1：新的item缺少行為數(shù)據(jù)導(dǎo)致圖稀疏，解決方案tree-baseddeepmatchitem，為了減少問題的規(guī)模，將候選集構(gòu)建成樹結(jié)構(gòu)，只有葉子節(jié)點才是單個的item，每個非葉子節(jié)點潛在表達(dá)了子孫items。listlistlistb)每層選擇兄弟節(jié)點作為負(fù)樣本，這faiss的是TDM這種全庫查詢的方式。sparsefeatureidembedding，每一列是一個field，比如畫像信息、上下文等等。然后concat，經(jīng)過全聯(lián)接的隱藏層之后輸出。DNN模型的效果與LR相比沒有很大提升，原因是低階特征組合能力不足，但好處Wide&DeepWideLRDNNauc對LR/DNN有1%的提升，不過依然依賴于人工做一些交叉特征。Wide&DCN模型是2017cross層做特征交叉，具體的交叉方式如公式所示：每一層的Embedding由上一層和第0層交叉，每一層中的aucW&D1%，而DeepFM和W&D相比提升不大。Tensorflowvs（TFRecord）。明文的特點是可讀性String結(jié)構(gòu)比較占用空間，解析速度也慢。特征結(jié)構(gòu)嘗試過三種方式。第一種是明文形式，F(xiàn)eatureColumn的速度非常慢，特征ID化方式FeatureColumnIDidhash結(jié)構(gòu)無法支持。第二種是序列化特征id，這種做法的缺點是序列化速度慢，好處是可以做斷是采用同一個線程，所以在加載模型的時候會出現(xiàn)推斷服務(wù)短暫阻塞，造成超時。WarmUp不過可以通過BatchThread提升計算效率。TensorflowAPI不限制于一定要固定的時間間隔加載一次。另外還可以自行調(diào)用session函數(shù)進(jìn)行并行推batchsizeTensorflowdatasetapicacheEmbeddingTensorflowtimeline在提高模型的推斷效率方面，可以優(yōu)化線上特征數(shù)據(jù)拼接效率，及控制線程和batch之間的關(guān)注點是有一些不同的，推薦更關(guān)注對用戶興趣的描述，而搜索關(guān)注對query的理解。阿里的DIN和DIEN是大家公認(rèn)對效果提升比較明顯的