《金融大數(shù)據(jù)分析》-課件 第 11 章 監(jiān)督學習的小結(jié)

第11章監(jiān)督學習的小結(jié)學習目標本章的學習目標如下：熟悉不同模型的優(yōu)缺點比較了解如何使用特征重要性了解如何使用SHAP值增加模型可解釋性熟悉使用程序?qū)崿F(xiàn)模型的可解釋性方法簡介首先，我們先回顧一下監(jiān)督學習的應用場景。然后，我們將對介紹過的主要模型進行一些簡單的比較。然后，我們介紹如何為復雜模型增加可解釋性。監(jiān)督學習方法的總結(jié)監(jiān)督學習在金融中的應用監(jiān)督學習這一類方法在金融業(yè)中有著廣泛的應用場景。監(jiān)督學習既可以用于對回歸問題（即對連續(xù)變量的預測）也可以對分類問題進行預測。監(jiān)督學習的特點是我們需要給一些例子用來訓練模型中的參數(shù)。而作為例子的訓練數(shù)據(jù)中必須有特征變量（即??變量）以及目標變量（即??變量）的數(shù)值。一旦模型訓練完成，我們就可以用來預測新的數(shù)據(jù)。監(jiān)督學習在金融中的應用我們已經(jīng)討論過幾種應用，包括預測貸款違約及對公司基本面的預測。除了這些應用之外，我們還可以將其用于其他預測問題。例如，我們可以預測公司股價變化，房價的漲跌幅度，以及經(jīng)濟指數(shù)的變化。根據(jù)具體的問題以及數(shù)據(jù)量，我們可以選擇適合的監(jiān)督學習的方法。監(jiān)督學習模型比較監(jiān)督學習模型比較該圖可見，簡單的模型的優(yōu)勢是有著很好的可解釋性，也有著較低的計算成本。復雜的模型則往往會犧牲可解釋性以及較少的計算量。但是復雜的模型可以更好的對數(shù)據(jù)進行擬合。在減少過擬合問題的同時，復雜模型也有更高的過擬合的風險。為了減少過擬合的風險，我們需要對模型進行驗證。我們也可以通過正則化方法來減少模型的方差，減少過擬合問題。復雜模型的可解釋性如前一部分討論的那樣，隨著模型復雜性的增加，我們模型的可解釋性往往會極大下降。本章中，我們將簡單介紹兩種方法來給復雜的模型增加一定的可解釋性。特征重要性分析

特征重要性分析

特征重要性SHAP值

SHAP值SHAP值SHAP值

程序?qū)霂焓褂胮andas存儲數(shù)據(jù)導入sklearn庫model_selection模塊的train_test_split函數(shù)，用于劃分訓練集和測試集導入sklearn庫ensemble模塊的RandomForestRegressor類，用于創(chuàng)建隨機森林回歸模型導入shap庫，用于解釋機器學習模型的預測結(jié)果導入庫數(shù)據(jù)讀取及處理

使用隨機森林模型創(chuàng)建一個隨機森林回歸模型對象rf_model，設置隨機種子為42，樹的數(shù)量設置為100，最小樣本分裂為10使用fit方法對X_train和y_train進行隨機森林回歸分析特征重要性獲取隨機森林回歸模型的特征重要性，并將其保存在變量feature_importances中打印特征重要性根據(jù)特征重要性對特征進行排序，indices為排序后的索引將特征名稱根據(jù)排序后的索引重新排列，names中存儲的即為排序后的特征名稱列表特征重要性繪制一個條形圖，x軸為特征的索引，y軸為特征的重要性，特征的重要性由feature_importances提供，特征的索引由indices提供特征重要性使用Shap增加模型可解釋性創(chuàng)建一個shap解釋器對象explainer，explainer可以用來解釋rf_model對任意輸入數(shù)據(jù)的預測結(jié)果使用Explainer對象對測試集數(shù)據(jù)進行解釋，得到每個特征對預測結(jié)果的影響值，存儲在shap_values變量中使用shap庫的plots.waterfall函數(shù)繪制一個瀑布圖，來可視化shap_values中第一個元素的影響使用Shap增加模型可解釋性習題知識理解

程序操作請使用隨機森林來擬合貸款違約數(shù)據(jù)。請使用特征重要性來闡述哪些變量對模型的結(jié)果有著較大的影響。請使用