2024搜狗信息流算法

\h搜狗信息流推薦算法首先要進(jìn)行一下NLP處理，它的作用就是對(duì)文章進(jìn)行抽象，用有限的、關(guān)鍵的topic進(jìn)行NLPNLP一級(jí)的是標(biāo)簽，標(biāo)簽是屬于一部分分類(lèi)，它也是一個(gè)集合，比如說(shuō)NBA這個(gè)標(biāo)簽屬于體育FastTextFastTextcontenttitle中進(jìn)行分類(lèi)，分類(lèi)效果還可以。后來(lái)通過(guò)研究之后發(fā)現(xiàn)對(duì)于文章來(lái)說(shuō)，title和content的FastText93%。后續(xù)優(yōu)化的時(shí)候除FastTextTextCNNTextCNN分類(lèi)模型和FastText模型不一樣，F(xiàn)astText對(duì)于一個(gè)文章只會(huì)對(duì)應(yīng)到一個(gè)分類(lèi)當(dāng)中，但是標(biāo)簽不一樣，可以有多個(gè)標(biāo)簽。TextCNN分類(lèi)模型對(duì)進(jìn)行了卷積計(jì)算，能在更因在于做測(cè)試集時(shí)一篇文章只會(huì)打一個(gè)標(biāo)簽，人工評(píng)估可以分多個(gè)類(lèi)別。fastText能達(dá)到75%，TextCNN能達(dá)到88%，然后采用“TextCNN+數(shù)據(jù)增強(qiáng)+多段結(jié)果預(yù)測(cè)”能達(dá)到是概率模型Skip-Gram+層次softMax，下面著重介紹概率模型。詞的轉(zhuǎn)換概率的建模。采用word2vecSkip-Gram思想，輸入的是文本空間，經(jīng)過(guò)embeddingsoftMax全連接，最后得出一個(gè)詞轉(zhuǎn)換為另一個(gè)詞的轉(zhuǎn)換概率，word2vec設(shè)選出概率最大的作為關(guān)鍵詞，最終準(zhǔn)確率能夠達(dá)到89%。ldaCB召回是在用戶畫(huà)像維護(hù)一個(gè)用戶興趣的集合以及相應(yīng)的權(quán)重，線下會(huì)維護(hù)用戶興趣對(duì)應(yīng)CB第二種就是基于模型排序。我們?cè)谡倩睾?jiǎn)化為對(duì)CTR預(yù)測(cè)，使用的是LR模型。特征的選docdocdocdocdoc間的相關(guān)性，進(jìn)而推薦相關(guān)的內(nèi)容。首先是維護(hù)每一個(gè)doc相關(guān)的文章排序，除此之外還querydoc1query，querydoc1趣，location協(xié)同，人口屬性也是類(lèi)似。第一種效果最好，后面相對(duì)差一些，但是好處如CFitemitemitemuser度。而隱語(yǔ)模型將矩陣進(jìn)行分解，變成兩個(gè)矩陣，將user與item轉(zhuǎn)化為同一個(gè)維度，就是對(duì)用戶點(diǎn)擊的分類(lèi)，就可以直接計(jì)算item與user的相似度。目前用的比較多的就是隱語(yǔ)模型，主要用在電影評(píng)分領(lǐng)域，在推薦領(lǐng)域也是可以使用。還有一種方式是NCF，就是useritemembeddinguser與item統(tǒng)一到同一個(gè)向量空間，通過(guò)神經(jīng)網(wǎng)絡(luò)訓(xùn)練出各自的向量，最后得出用戶與item預(yù)估，最常用的點(diǎn)擊率預(yù)估模型，速度快，效果好，與人工規(guī)則相比，效果提升顯著。后LRFTRLLRLR果提升明顯。目前用的比較多的是基于深度學(xué)習(xí)，wide&deepFTRLWide&deeplearning邏輯回歸有一個(gè)記憶能力，deep層有泛化能力，wide和deep層的特征需要甄別，能夠時(shí)還需要做人工交叉，比如用戶興趣與內(nèi)容的匹配度，還會(huì)利用FM還做自動(dòng)交叉。FM交叉也需要embedding，目前流行的用deepFM和deep層用同一層embeddingembedding，最后進(jìn)行NLPNLPNLP合，人力也是一個(gè)挑戰(zhàn)；視頻在信息流產(chǎn)品比重越來(lái)越重，與圖像類(lèi)似，目前基本以CTR乘以時(shí)