機器學習常見算法分類匯總剖析課件

1、機器學習常見算法分類匯總機器學習無疑是當前數(shù)據(jù)分析領(lǐng)域的一個熱點內(nèi)容。很多人在平時的工作中都或多或少會用到機器學習的算法。這里總結(jié)一下常見的機器學習算法，以供您在工作和學習中參考。機器學習的算法很多。很多時候困惑人們都是，很多算法是一類算法，而有些算法又是從其他算法中延伸出來的。這里，我們從兩個方面來給大家介紹：機器學習常見算法分類匯總二，算法的類似性一、學習的方式根據(jù)數(shù)據(jù)類型的不同，對一個問題的建模有不同的方式。在機器學習或者人工智能領(lǐng)域，人們首先會考慮算法的學習方式。在機器學習領(lǐng)域，有幾種主要的學習方式。將算法按照學習方式分類是一個不錯的想法，這樣可以讓人們在建模和算法選擇的時候考慮能根據(jù)

2、輸入數(shù)據(jù)來選擇最合適的算法來獲得最好的結(jié)果。學習方式監(jiān)督式學習：學習方式在監(jiān)督式學習下，輸入數(shù)據(jù)被稱為“訓練數(shù)據(jù)”，每組訓練數(shù)據(jù)有一個明確的標識或結(jié)果，如對防垃圾郵件系統(tǒng)中“垃圾郵件”“非垃圾郵件”，對手寫數(shù)字識別中的“1”、“2”，“3”、“4”等。在建立預測模型的時候，監(jiān)督式學習建立一個學習過程，將預測結(jié)果與“訓練數(shù)據(jù)”的實際結(jié)果進行比較，不斷的調(diào)整預測模型，直到模型的預測結(jié)果達到一個預期的準確率。監(jiān)督式學習的常見應用場景如分類問題和回歸問題。常見算法:邏輯回歸（Logistic Regression）反向傳遞神經(jīng)網(wǎng)絡（Back Propagation Neural Network）非監(jiān)督

3、式學習：學習方式在非監(jiān)督式學習中，數(shù)據(jù)并不被特別標識，學習模型是為了推斷出數(shù)據(jù)的一些內(nèi)在結(jié)構(gòu)。常見的應用場景包括關(guān)聯(lián)規(guī)則的學習以及聚類等。常見算法：Apriori算法k-Means算法半監(jiān)督式學習：學習方式在此學習方式下，輸入數(shù)據(jù)部分被標識，部分沒有被標識，這種學習模型可以用來進行預測，但是模型首先需要學習數(shù)據(jù)的內(nèi)在結(jié)構(gòu)以便合理的組織數(shù)據(jù)來進行預測。應用場景包括分類和回歸，算法包括一些對常用監(jiān)督式學習算法的延伸，這些算法首先試圖對未標識數(shù)據(jù)進行建模，在此基礎(chǔ)上再對標識的數(shù)據(jù)進行預測。如圖論推理算法（Graph Inference）或者拉普拉斯支持向量機（Laplacian SVM.）等。強化學

4、習：學習方式在這種學習模式下，輸入數(shù)據(jù)作為對模型的反饋，不像監(jiān)督模型那樣，輸入數(shù)據(jù)僅僅是作為一個檢查模型對錯的方式，在強化學習下，輸入數(shù)據(jù)直接反饋到模型，模型必須對此立刻作出調(diào)整。常見的應用場景包括動態(tài)系統(tǒng)以及機器人控制等。常見算法:Q-Learning時間差學習（Temporal difference learning）在企業(yè)數(shù)據(jù)應用的場景下， 人們最常用的可能就是監(jiān)督式學習和非監(jiān)督式學習的模型。 在圖像識別等領(lǐng)域，由于存在大量的非標識的數(shù)據(jù)和少量的可標識數(shù)據(jù)， 目前半監(jiān)督式學習是一個很熱的話題。 而強化學習更多的應用在機器人控制及其他需要進行系統(tǒng)控制的領(lǐng)域。學習方式根據(jù)算法的功能和形式的類

5、似性，我們可以把算法分類，比如說基于樹的算法，基于神經(jīng)網(wǎng)絡的算法等等。當然，機器學習的范圍非常龐大，有些算法很難明確歸類到某一類。而對于有些分類來說，同一分類的算法可以針對不同類型的問題。這里，我們盡量把常用的算法按照最容易理解的方式進行分類。算法類似性學習方式回歸算法：算法類似性回歸算法是試圖采用對誤差的衡量來探索變量之間的關(guān)系的一類算法。回歸算法是統(tǒng)計機器學習的利器。在機器學習領(lǐng)域，人們說起回歸，有時候是指一類問題，有時候是指一類算法，這一點常常會使初學者有所困惑。常見的回歸算法包括：最小二乘法（Ordinary Least Square） 邏輯回歸（Logistic Regression

6、）逐步式回歸（Stepwise Regression）多元自適應回歸樣條（Multivariate Adaptive Regression Splines）本地散點平滑估計（Locally Estimated Scatterplot Smoothing）學習方式基于實例的算法：算法類似性基于實例的算法常常用來對決策問題建立模型，這樣的模型常常先選取一批樣本數(shù)據(jù)，然后根據(jù)某些近似性把新數(shù)據(jù)與樣本數(shù)據(jù)進行比較。通過這種方式來尋找最佳的匹配。因此，基于實例的算法常常也被稱為“贏家通吃”學習或者“基于記憶的學習”。常見的算法包括 ：k-Nearest Neighbor(KNN)學習矢量量化（Learn

7、ing Vector Quantization， LVQ）自組織映射算法（Self-Organizing Map ， SOM）學習方式正則化方法：算法類似性正則化方法是其他算法（通常是回歸算法）的延伸，根據(jù)算法的復雜度對算法進行調(diào)整。正則化方法通常對簡單模型予以獎勵而對復雜算法予以懲罰。Ridge Regression Least Absolute Shrinkage and Selection Operator（LASSO）彈性網(wǎng)絡（Elastic Net）常見的算法包括：學習方式?jīng)Q策樹學習：算法類似性決策樹算法根據(jù)數(shù)據(jù)的屬性采用樹狀結(jié)構(gòu)建立決策模型， 決策樹模型常常用來解決分類和回歸問題。

8、分類及回歸樹（Classification And Regression Tree， CART ID3 (Iterative Dichotomiser 3) C4.5Chi-squared Automatic Interaction Detection(CHAID)Decision Stump隨機森林（Random Forest）多元自適應回歸樣條（MARS）以及梯度推進機（Gradient Boosting Machine， GBM）常見的算法包括：學習方式貝葉斯方法：算法類似性貝葉斯方法算法是基于貝葉斯定理的一類算法，主要用來解決分類和回歸問題。樸素貝葉斯算法平均單依賴估計（Average

9、d One-Dependence Estimators， AODE）Bayesian Belief Network（BBN）常見算法包括：學習方式基于核的算法：算法類似性基于核的算法中最著名的莫過于支持向量機（SVM）了。 基于核的算法把輸入數(shù)據(jù)映射到一個高階的向量空間， 在這些高階向量空間里， 有些分類或者回歸問題能夠更容易的解決。常見的基于核的算法包括：支持向量機（Support Vector Machine， SVM）徑向基函數(shù)（Radial Basis Function ，RBF)線性判別分析（Linear Discriminate Analysis ，LDA)學習方式聚類算法：算法類

10、似性聚類，就像回歸一樣，有時候人們描述的是一類問題，有時候描述的是一類算法。聚類算法通常按照中心點或者分層的方式對輸入數(shù)據(jù)進行歸并。所以的聚類算法都試圖找到數(shù)據(jù)的內(nèi)在結(jié)構(gòu)，以便按照最大的共同點將數(shù)據(jù)進行歸類。常見的聚類算法包括 ：k-Means算法期望最大化算法（Expectation Maximization， EM）學習方式關(guān)聯(lián)規(guī)則學習：算法類似性常見算法包括： 關(guān)聯(lián)規(guī)則學習通過尋找最能夠解釋數(shù)據(jù)變量之間關(guān)系的規(guī)則，來找出大量多元數(shù)據(jù)集中有用的關(guān)聯(lián)規(guī)則。Apriori算法 Eclat算法學習方式人工神經(jīng)網(wǎng)絡：算法類似性人工神經(jīng)網(wǎng)絡算法模擬生物神經(jīng)網(wǎng)絡，是一類模式匹配算法。通常用于解決分類和

11、回歸問題。人工神經(jīng)網(wǎng)絡是機器學習的一個龐大的分支，有幾百種不同的算法。 （其中深度學習就是其中的一類算法，我們會單獨討論）。重要的人工神經(jīng)網(wǎng)絡算法包括：感知器神經(jīng)網(wǎng)絡（Perceptron Neural Network）反向傳遞（Back Propagation）Hopfield網(wǎng)絡自組織映射（Self-Organizing Map, SOM）學習矢量量化（Learning Vector Quantization， LVQ）學習方式深度學習：算法類似性深度學習算法是對人工神經(jīng)網(wǎng)絡的發(fā)展。 在近期贏得了很多關(guān)注， 特別是百度也開始發(fā)力深度學習后， 更是在國內(nèi)引起了很多關(guān)注。 在計算能力變得日益廉

12、價的今天，深度學習試圖建立大得多也復雜得多的神經(jīng)網(wǎng)絡。很多深度學習的算法是半監(jiān)督式學習算法，用來處理存在少量未標識數(shù)據(jù)的大數(shù)據(jù)集。常見的深度學習算法包括：受限波爾茲曼機（Restricted Boltzmann Machine， RBN）Deep Belief Networks（DBN）卷積網(wǎng)絡（Convolutional Network）堆棧式自動編碼器（Stacked Auto-encoders）學習方式降低維度算法：算法類似性常見的算法包括：像聚類算法一樣，降低維度算法試圖分析數(shù)據(jù)的內(nèi)在結(jié)構(gòu)，不過降低維度算法是以非監(jiān)督學習的方式試圖利用較少的信息來歸納或者解釋數(shù)據(jù)。這類算法可以用于高維數(shù)據(jù)的可視化或者用來簡化數(shù)據(jù)以便監(jiān)督式學習使用。主成份分析（Principle Component Analysis， PCA）偏最小二乘回歸（Partial Least Square Regression，PLS） Sammon映射多維尺度（Multi-Dimensional Scaling, MDS）投影追蹤（Projection Pursuit）等學習方式集成算法：算法類似性常見的算法包括：集成算法用一些相對較弱的學習模型獨立地就同樣的樣本進行訓練，然后把結(jié)果整合起來進行整體預測。集成算法的主要難點