深度學(xué)習(xí)研究分析與總結(jié)

深度學(xué)習(xí)研究分析與總結(jié)過去幾年，深度神經(jīng)網(wǎng)絡(luò)在模式識別中占絕對主流。它們在許多計算機視覺任務(wù)中完爆之前的頂尖算法。在語音識別上也有這個趨勢了。而中文文本處理，以及中文自然語言處理上，似乎沒有太厲害的成果？尤其是中文短文本處理的問題上，尚且沒有太成功的應(yīng)用于分布式條件下的深度處理模型？（大公司或許有，但沒有開源）本文暫且梳理一下，嘗試圍繞深度學(xué)習(xí)和短文本處理的方方面面就最簡單的概念進(jìn)行一次梳理，并且試圖思考一個問題：深度學(xué)習(xí)處理中文短文本的最終效果是什么？我思考后的答案是：答：是一種模型，可以無需任何語言學(xué)知識或手工特征設(shè)計，就可被用于中文分詞、詞性標(biāo)注以及命名實體識別等多種中文自然語言處理任務(wù)，甚至直接改造為分布式大數(shù)據(jù)可以使用的框架。姑且認(rèn)為200字以內(nèi)的都叫短文本短文本具有特征稀疏性、奇異性、動態(tài)性、交錯性等特點①稀疏性。每條短文本形式信息的長度都比較短，都在200字以內(nèi)，因此所包含的有效信息也就非常少，造成樣本的特征非常稀疏，并且特征集的維數(shù)非常高，很難從中抽取到準(zhǔn)確而關(guān)鍵的樣本特征用于分類學(xué)習(xí)。②實時性。在互聯(lián)網(wǎng)上出現(xiàn)的短文本形式的信息，大部分都是實時更新的，刷新速度非?？欤奶煨畔?、微博信息、評論信息等，并且文本數(shù)量非常龐大。③不規(guī)則性。短文本形式的信息用語不規(guī)范，包含流行詞匯較多，造成了噪聲特征非常多，如“94”代表“就是”，“88”代表“再見”，“童鞋”代表“同學(xué)”，而且更新很快，如流行詞“傷不起”、“有沒有”、“坑爹”“展絲”、等等。中文分詞就是將連續(xù)的字序列按照一定的規(guī)范重新組合成詞序列的過程。眾所周知，英文單詞是用空格來進(jìn)行分隔的，在中文的字與字之間、句子與句子之間、段落與段落之間也都能找到分界符。另外，在中英文中都存在短語劃分這個問題，但是詞與詞之間卻找不到形式上的分界符。詞是最小的能夠獨立活動的有意義的語言成分，因而，中文在詞的劃分這個問題上是個非常巧雜而關(guān)鍵的問題?，F(xiàn)有的分詞算法可分為3大類：基于字符串匹配的分詞方法又稱為機械分詞方法，它是按照一定的策略將待分析的漢字與一個＂足夠大的＂詞典中詞條進(jìn)行匹配，若在詞典中找到某個字符串，則匹配成功。按照掃描方向的不同，串匹配分詞方法可分為正向匹配和逆向匹配；按照不同長度優(yōu)先匹配的倩況，可分為最大（最長）匹配和最小（最短）匹配；按照是否與詞性標(biāo)注過程相姐合，又可分為單純分詞方法和分詞與標(biāo)注相結(jié)合的一體化方法。常用的基于字符串匹配的分詞方法有：A）正向最大匹配法，按照文字的閱讀順序進(jìn)行匹配；B）逆向最大匹配法，按照文字的閱讀順序反向進(jìn)行匹配；C）最小切分法，使每一句中切出的詞數(shù)量最少。由于漢語單字成詞的特點，正向最小匹配和逆向最小匹配一般很少使用。正向最大匹配法逆向匹配的切分精度略高于正向匹配，遇到的歧義現(xiàn)象也較少。統(tǒng)計結(jié)果顯示，單純使用正向最大匹配的錯誤率為1/169，單純使用逆向最大匹配的錯誤率為1/245。但這種精度還遠(yuǎn)遠(yuǎn)不能滿足實際的需要。實際使用的分詞系統(tǒng)，都是把機械分詞作為一種初分手段，還需要通過利用各種其它的語言信息來進(jìn)一步提高切分的準(zhǔn)確率。上述方法雖然實現(xiàn)簡單、速度快，但處理分詞歧義能力較差，嚴(yán)重依賴于詞表，不能識別新詞語，即未登錄詞。為了解決分詞歧義與未登錄詞的問題，90年代初期出現(xiàn)了基于規(guī)則的分詞系統(tǒng)，包括專家系統(tǒng)、短語結(jié)構(gòu)文法等。基于規(guī)則的＂演澤推理＂方法，能較好的解決有規(guī)律的分詞歧義和未登錄詞，具有一定的領(lǐng)域適應(yīng)性、效率很高。但中文語言現(xiàn)象非常復(fù)雜，存在很多無規(guī)律的分詞歧義和未登錄詞。因此一般采用其他算法如：動態(tài)規(guī)劃等相結(jié)合提高準(zhǔn)確率?；诮y(tǒng)計的分詞方法只需對語料中的字信息進(jìn)行統(tǒng)計，不需要切分詞典，因而又稱為無詞典分詞法或統(tǒng)計取詞法。從形式上看，詞是穩(wěn)定的字的組合，在上下文中，相鄰的字同時出現(xiàn)的次數(shù)越多，就越有可能構(gòu)成一個詞。因此字與字相鄰共現(xiàn)的頻率或概率能夠較好的反映成詞的可信度。因而可對語料中相鄰共現(xiàn)的各個字的組合的頻度進(jìn)行統(tǒng)計，計算它們的相關(guān)度，計算兩個漢字A、B的相鄰共現(xiàn)的概率?？蓪φZ料中相鄰共現(xiàn)的各個字的組合的頻率進(jìn)行統(tǒng)計。這種方法首先切分與詞典能匹酷成功的所有可能的詞，即找出所有候選詞條，然后運用統(tǒng)計語言模型和決策算法得出最優(yōu)的切分結(jié)果。由于純粹從統(tǒng)計的角度出發(fā)，因此在統(tǒng)計意義上某些經(jīng)常出現(xiàn)在一起的字并不能構(gòu)成完整的詞語，例如“上的“、‘有的“、“這一”等在文本中會大量的互鄰?fù)F(xiàn),但它們卻分屬于不同的詞；并且統(tǒng)計語言模型和決策算法在很大程度上決定了解決歧義的方法，需要大量的標(biāo)注語料，并且分詞速度也因搜索空間的增大而有所減慢?；诮y(tǒng)計的分詞方法所應(yīng)用的主要的統(tǒng)計量或統(tǒng)計模型有：互信息、隱馬爾可夫模型和最大熵模型等。這些統(tǒng)計模型主要是利用詞與詞之間的聯(lián)合出現(xiàn)概率作為分詞判斷的信息。這種分詞方法是通過讓計算機模擬人對句子的理解，達(dá)到識別詞的效果。其基本思想就是在分詞的同時進(jìn)行句法、語義分析，利用句法信息和語義信息來處理歧義現(xiàn)象。它通常包括幾個部分：分詞子系統(tǒng)、句法語義子系統(tǒng)、總控部分。在總控部分的協(xié)調(diào)下，分詞子系統(tǒng)可獲得有關(guān)詞、句子等的句法和語義信息來對分詞歧義進(jìn)行判斷，即它模擬了人對句子的理解過程。這種分詞方法需要使用大量的語言知識和信息。由于漢語語言知識的籠統(tǒng)、復(fù)雜性，難W將各種語言信息組織成機器可直接讀取的形式，因此目前基于機器學(xué)習(xí)理解的分詞系統(tǒng)還處在實驗階段?；陔[馬爾可夫模型的字標(biāo)注中文分詞方法?；趯盈B隱馬爾可夫模型的漢語詞法分析方法，該方法引入角色隱馬爾可夫模型識別未登錄詞。然而，傳統(tǒng)機器學(xué)習(xí)方法往往依賴于人工設(shè)計的特征，而一個特征是否有效需要多嘗試與選擇，因此人工設(shè)計一系列好的特征既費時又費力。神經(jīng)網(wǎng)絡(luò)方法。深度學(xué)習(xí)的方法，對中文語料進(jìn)行中文分詞和詞性標(biāo)注。這些方法僅接近與目前最好結(jié)果，并沒有超越。深度學(xué)習(xí)(DeepLearning)是一種表示學(xué)習(xí)方法，它通過對數(shù)據(jù)進(jìn)行多層級的建模來獲得關(guān)于數(shù)據(jù)特征的層次結(jié)構(gòu)以及數(shù)據(jù)的分布式表示。由于深度學(xué)習(xí)可以避免繁瑣的人工特征抽取，有效地利用無監(jiān)督數(shù)據(jù)，并且具有優(yōu)秀的泛化能力，因此成為了最近幾年機器學(xué)習(xí)領(lǐng)域的一個熱點。深度學(xué)習(xí)的發(fā)展與應(yīng)用使得圖像處理、語音識別等多個具體的應(yīng)用領(lǐng)域都取得了突破式的進(jìn)展。深度學(xué)習(xí)非常適用于解決自然語言處理領(lǐng)域的一系列難題。首先，由于語言本身的高維特性，傳統(tǒng)的自然語言處理系統(tǒng)往往需要復(fù)雜的語言學(xué)知識以便手工構(gòu)造出可供分類器使用的特征。而利用深度學(xué)習(xí)，則可以通過構(gòu)造模型來自動學(xué)習(xí)用于解決自然語言處理領(lǐng)域的問題所需的特征。其次，在自然語言處理領(lǐng)域，無標(biāo)簽數(shù)據(jù)可以被輕易地大量獲得，然而有標(biāo)簽數(shù)據(jù)則相對稀少且昂貴，深度學(xué)習(xí)則剛好可以利用大量無標(biāo)簽數(shù)據(jù)來獲取特征。再次，自然語言處理領(lǐng)域的許多問題往往相互之間具有非常強的關(guān)聯(lián)性，例如對分詞、詞性標(biāo)注和命名實體識別，傳統(tǒng)的方法往往將這幾個問題分開解決，忽略了它們之間的關(guān)系。使用深度學(xué)習(xí)則可以在特征抽取層面構(gòu)造統(tǒng)一的模型以同時處理這些問題，并通過多任務(wù)學(xué)習(xí)的方法在模型中對其關(guān)聯(lián)性進(jìn)行建模，從而獲得更好的性能。因此，深度學(xué)習(xí)的核心思想是通過具有一定“深度”的模型從數(shù)據(jù)中逐層抽象出特征(即分布式表示)，并且在深度學(xué)習(xí)模型中越高的層級抽取出的特征具有越強的表達(dá)能力。據(jù)內(nèi)部的特征信息，對于語言來說，這正是一個可以采納的方式：從大量的文本中學(xué)習(xí)得到語義，并對語義進(jìn)行特征表示，從而利用這些特征進(jìn)行具體的計巧任務(wù)。深度學(xué)習(xí)模型參考3自動編碼器(Auto—Encoder)是一種數(shù)據(jù)驅(qū)動的、非監(jiān)督地學(xué)習(xí)數(shù)據(jù)特征的神經(jīng)網(wǎng)絡(luò)模型。其結(jié)構(gòu)如所示。可W把它看成是一個輸出節(jié)點數(shù)與輸入節(jié)點數(shù)相等的多層神經(jīng)網(wǎng)絡(luò)。玻爾茲曼機(BoltzmannMachine)是一種引入了模擬退火思想的無向圖模型，其根據(jù)無向圖節(jié)點的狀態(tài)和節(jié)點之間的互聯(lián)權(quán)重定義整個系統(tǒng)的能量狀態(tài)，并指定輸入節(jié)點和輸出節(jié)點為可見節(jié)點，在輸入節(jié)點的二值化特征信息不變的情況下對其它節(jié)點進(jìn)行退火，尋找最低的能量狀態(tài)，即通過模擬退火的思想學(xué)習(xí)節(jié)點的互聯(lián)權(quán)重作為模式的表示。受限玻爾茲曼機(RestrictedBoltzmannMachine,RBM)是一種特殊的玻爾茲曼機，是深度置信網(wǎng)(DeepBeliefNetworks,DBN)的核心組件之一。它規(guī)定無向圖節(jié)點分為可見層和隱含層兩層，每層內(nèi)部的節(jié)點之間不可互聯(lián)，而處于不同層之間的節(jié)點為全連接卷積神經(jīng)網(wǎng)絡(luò)主要包括兩種神經(jīng)層：卷積層(Convolution)和池化層(又稱下采樣層，Pooling)。這兩層往往搭配出現(xiàn)。如圖2-6所示一個典型的卷積神經(jīng)網(wǎng)絡(luò)模型一般包括數(shù)個卷積層與池化層的組合，在此之后的幾層是神經(jīng)網(wǎng)絡(luò)的全連接層卷積層是卷積神經(jīng)網(wǎng)絡(luò)的主要運算部分。卷積層的輸入是一幅或多幅二維圖像，這些圖像被稱為特征圖像(FeatureMap)。每個輸出特征圖像對應(yīng)一個卷積核，該卷積核對一幅或多幅輸入圖像進(jìn)行卷積，卷積的結(jié)果取平均得到一幅輸出特征圖像目前，深度學(xué)習(xí)在自然語言處理上取得的進(jìn)展沒有在語音圖像上那么令人印象深刻。但相比于聲音和圖像，語言是唯一的非自然信號，是完全由人類大腦產(chǎn)生和處理的符號系統(tǒng)。因此，深度學(xué)習(xí)在自然語言處理領(lǐng)域中的應(yīng)用研究仍存在諸多的挑戰(zhàn)。深度學(xué)習(xí)中的表征視角是非常有力的，比如單詞嵌入深度學(xué)習(xí)可以將非常復(fù)雜的關(guān)系進(jìn)行近似編碼：原文中這樣說：這看來是神經(jīng)網(wǎng)絡(luò)的一個非常強大的優(yōu)點：它們能自動學(xué)習(xí)更好的數(shù)據(jù)表征的方法。反過來講，能有效地表示數(shù)據(jù)對許多機器學(xué)習(xí)問題的成功都是必不可少的。單詞嵌入僅僅是學(xué)習(xí)數(shù)據(jù)表示中一個引人注目的例子而已。概述對比一個開源的深度學(xué)習(xí)測試框架參考9：對可擴展性（extensibility）、hardwareutilization（硬件利用率）以及大家最關(guān)心的：速度（speed）上進(jìn)行了比較比較結(jié)果：tensorflow比較中規(guī)中矩，我不認(rèn)為其他幾個庫在后期能比他強多少，畢竟google出品，哈哈。現(xiàn)在不少企業(yè)都已經(jīng)開始用tensorflow進(jìn)行一些工程實踐，大勢所趨，同志們站好隊啊。（歡迎同志們拍磚）很多時候，文本分析領(lǐng)域需要很多的評價準(zhǔn)則，但是我看了不少論文，來回來去也就是基于分類的評價去做，這塊還需要大牛給指點一二。怎么能夠客觀的表示我們算法的準(zhǔn)確行，分詞，詞性標(biāo)注，等等國際上廣泛采用微平均和宏平均相結(jié)合的評價準(zhǔn)則，并采用準(zhǔn)確率P（Precision）和召回率R（Recall）以及F1值來衡量分類系統(tǒng)性能。對第i個類別，其準(zhǔn)確率和召回率分別定義如下：li表示分類的結(jié)果中被標(biāo)記為第i類別且標(biāo)記為正確的文本個數(shù)，mi表示結(jié)果中表示被標(biāo)記為第i個類的文本個數(shù)，ni表示被分類的文本中實際屬于第i個類別的樣本個數(shù)。微平均和宏平均微平均和宏平均是計算全局的查準(zhǔn)率，查全率和F1測試值的兩種方法。其中，微平均用mP、mR、mF1來表示：宏平均用MP、MR、MF1來表示，公式如下：word2vector由Google開發(fā)的一個用于訓(xùn)練語義向量的工具，其核心的技術(shù)是根據(jù)詞頻用Huffman編碼使得所有詞頻相似的詞隱藏層激活的巧內(nèi)容基本一致，出現(xiàn)頻率越高的詞語，其隱藏層數(shù)目越少，然后采用一個三層神經(jīng)網(wǎng)絡(luò)對語義單元向量進(jìn)行表示。具體可參考此說明文檔參考10快速入門：回頭打算，把自己的csdn博客爬一遍，寫個python生成的標(biāo)簽云商品論壇評論（開門見山和卒章顯志是漢語語篇的重要特點）主流分詞概況：分詞準(zhǔn)確度：在所測試的四個數(shù)據(jù)集上，BosonNLP和哈工大語言云都取得了較高的分詞準(zhǔn)確率，尤其在新聞數(shù)據(jù)上。因為庖丁解牛是將所有可能成詞的詞語全部掃描出來（例如：“最不滿意”分為：“最不不滿滿意”），與其他系統(tǒng)輸出規(guī)范不同，因而不參與準(zhǔn)確率統(tǒng)計。為了更直接的比較不同數(shù)據(jù)源的差別，我們從每個數(shù)據(jù)源的測試數(shù)據(jù)中抽取比較典型的示例進(jìn)行更直觀的對比。大數(shù)據(jù)評測結(jié)果：jieba（c++）版獨領(lǐng)風(fēng)騷啊1.THULAC清華新推薦的分詞工具參考8THULAC（THULexicalAnalyzerforChinese）由清華大學(xué)自然語言處理與社會人文計算實驗室研制推出的一套中文詞法分析工具包，具有中文分詞和詞性標(biāo)注功能。THULAC具有如下幾個特點：能力強利用我們集成的目前世界上規(guī)模最大的人工分詞和詞性標(biāo)注中文語料庫（約含5800萬字）訓(xùn)練而成，模型標(biāo)注能力強大。準(zhǔn)確率高該工具包在標(biāo)準(zhǔn)數(shù)據(jù)集ChineseTreebank（CTB5）上分詞的F1值可達(dá)97.3%,詞性標(biāo)注的F1值可達(dá)到92.9%,與該數(shù)據(jù)集上最好方法效