互聯(lián)網(wǎng)金融時(shí)代下機(jī)器學(xué)習(xí)與大數(shù)據(jù)風(fēng)控系統(tǒng)

1、互聯(lián)網(wǎng)金融時(shí)代下機(jī)器學(xué)習(xí)與大數(shù)據(jù)風(fēng)控系統(tǒng)隨著互聯(lián)網(wǎng)的發(fā)展，互聯(lián)網(wǎng)金融已成為當(dāng)前最熱門的話題，包括支付、理財(cái)、眾籌、消費(fèi)等功能在內(nèi)的各類互聯(lián)網(wǎng)金融產(chǎn)品和平臺(tái)如雨后春筍般涌現(xiàn)?；ヂ?lián)網(wǎng)金融是傳統(tǒng)金融行業(yè)與互聯(lián)網(wǎng)精神相結(jié)合的新興領(lǐng)域，是對(duì)傳統(tǒng)金融行業(yè)的有效補(bǔ)充，因此互聯(lián)網(wǎng)金融的健康發(fā)展應(yīng)遵循金融業(yè)的基本規(guī)律和內(nèi)在要求，核心仍是風(fēng)險(xiǎn)控制。傳統(tǒng)金融的風(fēng)險(xiǎn)控制，主要是基于央行的征信數(shù)據(jù)及銀行體系內(nèi)的生態(tài)數(shù)據(jù)依靠人工審核完成。在國(guó)內(nèi)的征信服務(wù)遠(yuǎn)遠(yuǎn)不夠完善的情況下，互聯(lián)網(wǎng)金額風(fēng)險(xiǎn)控制的真正核心在于可以依靠互聯(lián)網(wǎng)獲取的大數(shù)據(jù)，如BAT等公司擁有大量的用戶信息，這些數(shù)據(jù)可以用來(lái)更加全面的預(yù)測(cè)小額貸款的風(fēng)險(xiǎn)。而機(jī)器學(xué)

2、習(xí)將是大數(shù)據(jù)時(shí)代互聯(lián)網(wǎng)金融企業(yè)構(gòu)建自動(dòng)化風(fēng)控系統(tǒng)的利器。1. 什么是機(jī)器學(xué)習(xí)？機(jī)器學(xué)習(xí)這個(gè)詞相信大家都是耳熟能詳，尤其是近幾年機(jī)器學(xué)習(xí)界的執(zhí)牛耳者與互聯(lián)網(wǎng)界的大鱷的聯(lián)姻（見(jiàn)圖1），更加推動(dòng)了大眾對(duì)機(jī)器學(xué)習(xí)的追求熱情和在互聯(lián)網(wǎng)行業(yè)中應(yīng)用的探索熱情。那么，什么是機(jī)器學(xué)習(xí)呢？機(jī)器學(xué)習(xí)這個(gè)詞是英文名稱Machine Learning的直譯，從字面意義不難知道，這門技術(shù)是讓計(jì)算機(jī)具有 “自主學(xué)習(xí)” 的能力，因此她是人工智能的一個(gè)分支。我個(gè)人還是比較喜歡Tom Mitchell 在Machine Learning一書(shū)中對(duì)其的定義：A computer program is said to learn fr

3、om experience E with respect to some task T and some performance measure P, if its performance on T, as measured by P, improves with experience E.關(guān)于機(jī)器學(xué)習(xí)的具體概念及介紹，有很多這方面的資料，有興趣的話大家可以去查看，在這里我就不贅述。簡(jiǎn)而言之，機(jī)器學(xué)習(xí)方法就是計(jì)算機(jī)利用已有的數(shù)據(jù)（經(jīng)驗(yàn)），得出某種模型，并利用模型來(lái)預(yù)測(cè)未來(lái)的一種方法，這種方法很類似于人類的思考方式（見(jiàn)圖2）。也就是說(shuō)，機(jī)器學(xué)習(xí)的一個(gè)主要目的就是把人類思考?xì)w納經(jīng)驗(yàn)的過(guò)程轉(zhuǎn)化為計(jì)算

4、機(jī)對(duì)數(shù)據(jù)的處理計(jì)算得出模型的過(guò)程。機(jī)器學(xué)習(xí)與人類思考的對(duì)比2. 機(jī)器學(xué)習(xí)算法的類型一般來(lái)說(shuō)，機(jī)器學(xué)習(xí)算法可以分為監(jiān)督學(xué)習(xí)，無(wú)監(jiān)督學(xué)習(xí)，半監(jiān)督學(xué)習(xí)，強(qiáng)化學(xué)習(xí)（Reinforcement learning）以及推薦這幾大類。各部分常見(jiàn)應(yīng)用場(chǎng)景和算法詳見(jiàn)圖3。圖3：機(jī)器學(xué)習(xí)算法分類3. 機(jī)器學(xué)習(xí)在互聯(lián)網(wǎng)金融行業(yè)中的應(yīng)用在企業(yè)數(shù)據(jù)的應(yīng)用的場(chǎng)景下，人們最常用的主要是監(jiān)督學(xué)習(xí)和無(wú)監(jiān)督學(xué)習(xí)的模型，在金融行業(yè)中一個(gè)天然而又典型的應(yīng)用就是風(fēng)險(xiǎn)控制中對(duì)借款人進(jìn)行信用評(píng)估。因此互聯(lián)網(wǎng)金融企業(yè)依托互聯(lián)網(wǎng)獲取用戶的網(wǎng)上消費(fèi)行為數(shù)據(jù)、通訊數(shù)據(jù)、信用卡數(shù)據(jù)、第三方征信數(shù)據(jù)等豐富而全面的數(shù)據(jù)，可以借助機(jī)器學(xué)習(xí)的手段搭建互聯(lián)網(wǎng)

5、金融企業(yè)的大數(shù)據(jù)風(fēng)控系統(tǒng)。除了在放貸前的信用審核外，互聯(lián)網(wǎng)金融企業(yè)還可以借助機(jī)器學(xué)習(xí)完成傳統(tǒng)金融企業(yè)無(wú)法做到的放貸過(guò)程中對(duì)借款人還貸能力進(jìn)行實(shí)時(shí)監(jiān)控，以及實(shí)時(shí)對(duì)后續(xù)可能無(wú)法還貸的人進(jìn)行事前的干預(yù)，從而減少因壞賬而帶來(lái)的損失。以點(diǎn)融網(wǎng)為例，經(jīng)過(guò)這兩年的發(fā)展，我們積累了很多用戶的借款還款信息，這為我們提供了高質(zhì)量的模型訓(xùn)練樣本，也為我們搭建點(diǎn)融的大數(shù)據(jù)自動(dòng)化審批系統(tǒng)奠定了堅(jiān)實(shí)的基礎(chǔ)。除了自動(dòng)化審批系統(tǒng)外，后續(xù)我們將在用戶還款能力實(shí)時(shí)監(jiān)控，標(biāo)的的有效組合，資產(chǎn)的合理配置等方面進(jìn)行發(fā)力。目前互聯(lián)網(wǎng)金融企業(yè)以及第三方征信公司在信用評(píng)估這方面比較常用的架構(gòu)是規(guī)則引擎加信用評(píng)分卡。說(shuō)到信用評(píng)分卡，最常用的算

6、法就是Logistic Regression，這也是被銀行信用卡中心或金融工程方面奉為法寶的算法。的確，Logistic Regression因其簡(jiǎn)單、易于解釋、開(kāi)發(fā)及運(yùn)維成本較低而受到追捧。然而互聯(lián)網(wǎng)中獲取的用戶的數(shù)據(jù)維度較多，以離散或分類屬性變量居多，且缺失數(shù)據(jù)較多，在這種情況下，Logistic Regression的適應(yīng)性會(huì)較差。而且規(guī)則引擎和信用評(píng)分卡模型分開(kāi)的模式，有時(shí)會(huì)因?yàn)橐?guī)則引擎里面某些規(guī)則過(guò)強(qiáng)而拒絕掉很多優(yōu)質(zhì)客戶。比如，某人因?qū)W生時(shí)代的助學(xué)貸款在剛畢業(yè)時(shí)未能及時(shí)償還而發(fā)生過(guò)逾期，按現(xiàn)有銀行審批規(guī)則是無(wú)論現(xiàn)在怎樣，申請(qǐng)信用卡時(shí)一律拒絕。因此比較好的改進(jìn)方法是，將規(guī)則引擎作為一系

7、列弱的分類器，與信用卡評(píng)分分類器一塊構(gòu)成強(qiáng)的分類器模型。在這方面，GBDT將是一個(gè)不錯(cuò)選擇。GBDT(Gradient Boosting Decision Tree)又叫MART(Multiple Additive Regression Tree),該模型不像決策樹(shù)模型那樣僅由一棵決策樹(shù)構(gòu)成，而是由多棵決策樹(shù)構(gòu)成，通常都是上百棵樹(shù)，而且每棵樹(shù)規(guī)模都較?。礃?shù)的深度會(huì)比較淺）。模型預(yù)測(cè)的時(shí)候，對(duì)于輸入的一個(gè)樣本實(shí)例，首先會(huì)賦予一個(gè)初值，然后會(huì)遍歷每一棵決策樹(shù)，每棵樹(shù)都會(huì)對(duì)預(yù)測(cè)值進(jìn)行調(diào)整修正，最后得到預(yù)測(cè)的結(jié)果。F (x)+_1 T_1 (x)+_2 T_2 (x)+?+_m T_m (x)其中，

8、F_0 為設(shè)置的初值，T_i 是一棵棵的決策樹(shù)（弱的分類器）。GBDT在被提出之初就和SVM一起被認(rèn)為是泛化能力（generalization）較強(qiáng)的算法。近些年更因被廣泛應(yīng)用于搜索排序以及推薦中而引起大家的關(guān)注，如Yahoo, Ebay等大型互聯(lián)網(wǎng)公司就采用過(guò)GBDT進(jìn)行搜索排序。在國(guó)內(nèi)，我在攜程工作時(shí)就曾應(yīng)用GBDT算法對(duì)客人進(jìn)行酒店noshow和延住的預(yù)測(cè)，為公司每年帶來(lái)千萬(wàn)的收入，該項(xiàng)目是攜程技術(shù)驅(qū)動(dòng)業(yè)務(wù)發(fā)展的典型代表。GBDT作為一種boosting算法，自然包含了boosting的思想，即將一系列弱分類器組合起來(lái)構(gòu)成一個(gè)強(qiáng)分類器。它不要求每個(gè)分類器都學(xué)到太多的東西，只要求每個(gè)分類器

9、都學(xué)一點(diǎn)點(diǎn)知識(shí)，然后將這些學(xué)到的知識(shí)累加起來(lái)構(gòu)成一個(gè)強(qiáng)大的模型。4. 分類模型的性能評(píng)估分類模型應(yīng)用較多的除上面講的Logistic Regression和GBDT，還有Decision Tree、SVM、Random forest等。實(shí)際應(yīng)用中不僅要知道會(huì)選用這些模型，更重要的是要懂得對(duì)所選用的模型的性能做評(píng)估與監(jiān)控。涉及到評(píng)估分類模型的性能指標(biāo)有很多，常見(jiàn)的有Confusion Matrix(混淆矩陣),ROC,AUC,Recall,Performance,lift,Gini ,K-S之類。其實(shí)這些指標(biāo)之間是相關(guān)與互通的，實(shí)際應(yīng)用時(shí)只需選擇其中幾個(gè)或者是你認(rèn)為是重要的幾個(gè)即可，無(wú)須全部都關(guān)

10、注。下面就以Logistic Regression為例對(duì)這些常見(jiàn)的指標(biāo)做些簡(jiǎn)單的說(shuō)明，以方便大家理解與應(yīng)用。注： 以下所有說(shuō)明均以信用評(píng)分中的好壞用戶為例，壞客戶（壞人）標(biāo)識(shí)為1（也稱正例），好客戶（好人）標(biāo)識(shí)為 0（也稱負(fù)例）。1）Confusion Matrix一個(gè)完美的分類模型就是，一個(gè)客戶實(shí)際上屬于壞的類別，模型也將其預(yù)測(cè)為壞人，實(shí)際上是好人時(shí)也預(yù)測(cè)為好人。而實(shí)際情況是模型不可能做到這一點(diǎn)，即常說(shuō)的模型會(huì)存在誤判，因此我們必須知道模型預(yù)測(cè)對(duì)的有多少，預(yù)測(cè)錯(cuò)的部分又占了多少，混淆矩陣就是囊括了這些所有信息。注：a是正確預(yù)測(cè)到的負(fù)例的數(shù)量，True Negative(TN)b是把負(fù)例預(yù)測(cè)成

11、正例的數(shù)量，F(xiàn)alse Positive(FP)c是把正例預(yù)測(cè)成負(fù)例的數(shù)量，F(xiàn)alse Negative(FN)d是正確預(yù)測(cè)到的正例的數(shù)量，True Positive(TP)a+b是實(shí)際上為負(fù)例的數(shù)量，Actual Negativec+d是實(shí)價(jià)上為正例的數(shù)量，Actual Positivea+c是預(yù)測(cè)成負(fù)例的數(shù)量，Predicted Negativeb+d是預(yù)測(cè)成正例的數(shù)量，Predicted Positive2）Accuracy（準(zhǔn)確分類率）Accuracy=(true positive and true negative)/total=(a+d)/(a+b+c+d)3）Error Rate

12、（誤分類率）Error Rate=(false positive and false negative)/total=(c+b)/(a+b+c+d)4）Recall（正例覆蓋率）recall也稱為sensitivity,在機(jī)器學(xué)習(xí)中稱recall 較多，而 sensitivity是生物統(tǒng)計(jì)中的常用叫法Recall=(true positive )/(actual positive)/(c+d)5）Performance也稱為 Precision（正例的命中率簡(jiǎn)稱命中率）Performance=(true positive)/(predicted positive)/(b+d)6）Specifi

13、city（負(fù)例覆蓋率）Specificity=(true negative )/(actual negative)/(a+b)7）Negative predicted value (負(fù)例命中率)Negative predicted value=(true negative )/(predicted negative)/(a+c)一般在工業(yè)化應(yīng)用中看重的是recall和performance，以信用審批為例，我們更關(guān)注的是在一定審批通過(guò)率的情況下，盡量降低壞賬率。8）ROCROC 曲線就是不同的閾值下，Sensitivity和1-Specificity 的組合,ROC曲線是根據(jù)與45度線的偏離來(lái)判斷模型好壞。圖4：ROC曲線圖9）AUC與GINI曲線下的面積GINI=2AUC-110）K-S用于衡量好壞兩個(gè)群體分布之間的最大差異，(Sensitivity-Specificity)，KS取值處即為統(tǒng)計(jì)意義上的最佳cutoff切點(diǎn)圖5：KS關(guān)系圖5. 結(jié)語(yǔ)本文簡(jiǎn)單介紹了下什么是機(jī)器學(xué)習(xí)，機(jī)器學(xué)習(xí)的常用算