深度學(xué)習(xí)研究分析與總結(jié)

深度學(xué)習(xí)研究分析與總結(jié)過(guò)去幾年，深度神經(jīng)網(wǎng)絡(luò)在模式識(shí)別中占絕對(duì)主流。它們?cè)谠S多計(jì)算機(jī)視覺(jué)任務(wù)中完爆之前的頂尖算法。在語(yǔ)音識(shí)別上也有這個(gè)趨勢(shì)了。而中文文本處理，以及中文自然語(yǔ)言處理上，似乎沒(méi)有太厲害的成果？尤其是中文短文本處理的問(wèn)題上，尚且沒(méi)有太成功的應(yīng)用于分布式條件下的深度處理模型？（大公司或許有，但沒(méi)有開(kāi)源）本文暫且梳理一下，嘗試圍繞深度學(xué)習(xí)和短文本處理的方方面面就最簡(jiǎn)單的概念進(jìn)行一次梳理，并且試圖思考一個(gè)問(wèn)題：深度學(xué)習(xí)處理中文短文本的最終效果是什么？我思考后的答案是：答：是一種模型，可以無(wú)需任何語(yǔ)言學(xué)知識(shí)或手工特征設(shè)計(jì)，就可被用于中文分詞、詞性標(biāo)注以及命名實(shí)體識(shí)別等多種中文自然語(yǔ)言處理任務(wù)，甚至直接改造為分布式大數(shù)據(jù)可以使用的框架。姑且認(rèn)為200字以?xún)?nèi)的都叫短文本短文本具有特征稀疏性、奇異性、動(dòng)態(tài)性、交錯(cuò)性等特點(diǎn)①稀疏性。每條短文本形式信息的長(zhǎng)度都比較短，都在200字以?xún)?nèi)，因此所包含的有效信息也就非常少，造成樣本的特征非常稀疏，并且特征集的維數(shù)非常高，很難從中抽取到準(zhǔn)確而關(guān)鍵的樣本特征用于分類(lèi)學(xué)習(xí)。②實(shí)時(shí)性。在互聯(lián)網(wǎng)上出現(xiàn)的短文本形式的信息，大部分都是實(shí)時(shí)更新的，刷新速度非常快，聊天信息、微博信息、評(píng)論信息等，并且文本數(shù)量非常龐大。③不規(guī)則性。短文本形式的信息用語(yǔ)不規(guī)范，包含流行詞匯較多，造成了噪聲特征非常多，如“94”代表“就是”，“88”代表“再見(jiàn)”，“童鞋”代表“同學(xué)”，而且更新很快，如流行詞“傷不起”、“有沒(méi)有”、“坑爹”“展絲”、等等。中文分詞就是將連續(xù)的字序列按照一定的規(guī)范重新組合成詞序列的過(guò)程。眾所周知，英文單詞是用空格來(lái)進(jìn)行分隔的，在中文的字與字之間、句子與句子之間、段落與段落之間也都能找到分界符。另外，在中英文中都存在短語(yǔ)劃分這個(gè)問(wèn)題，但是詞與詞之間卻找不到形式上的分界符。詞是最小的能夠獨(dú)立活動(dòng)的有意義的語(yǔ)言成分，因而，中文在詞的劃分這個(gè)問(wèn)題上是個(gè)非常巧雜而關(guān)鍵的問(wèn)題。現(xiàn)有的分詞算法可分為3大類(lèi)：基于字符串匹配的分詞方法又稱(chēng)為機(jī)械分詞方法，它是按照一定的策略將待分析的漢字與一個(gè)＂足夠大的＂詞典中詞條進(jìn)行匹配，若在詞典中找到某個(gè)字符串，則匹配成功。按照掃描方向的不同，串匹配分詞方法可分為正向匹配和逆向匹配；按照不同長(zhǎng)度優(yōu)先匹配的倩況，可分為最大（最長(zhǎng)）匹配和最?。ㄗ疃蹋┢ヅ洌话凑帐欠衽c詞性標(biāo)注過(guò)程相姐合，又可分為單純分詞方法和分詞與標(biāo)注相結(jié)合的一體化方法。常用的基于字符串匹配的分詞方法有：A）正向最大匹配法，按照文字的閱讀順序進(jìn)行匹配；B）逆向最大匹配法，按照文字的閱讀順序反向進(jìn)行匹配；C）最小切分法，使每一句中切出的詞數(shù)量最少。由于漢語(yǔ)單字成詞的特點(diǎn)，正向最小匹配和逆向最小匹配一般很少使用。正向最大匹配法逆向匹配的切分精度略高于正向匹配，遇到的歧義現(xiàn)象也較少。統(tǒng)計(jì)結(jié)果顯示，單純使用正向最大匹配的錯(cuò)誤率為1/169，單純使用逆向最大匹配的錯(cuò)誤率為1/245。但這種精度還遠(yuǎn)遠(yuǎn)不能滿足實(shí)際的需要。實(shí)際使用的分詞系統(tǒng)，都是把機(jī)械分詞作為一種初分手段，還需要通過(guò)利用各種其它的語(yǔ)言信息來(lái)進(jìn)一步提高切分的準(zhǔn)確率。上述方法雖然實(shí)現(xiàn)簡(jiǎn)單、速度快，但處理分詞歧義能力較差，嚴(yán)重依賴(lài)于詞表，不能識(shí)別新詞語(yǔ)，即未登錄詞。為了解決分詞歧義與未登錄詞的問(wèn)題，90年代初期出現(xiàn)了基于規(guī)則的分詞系統(tǒng)，包括專(zhuān)家系統(tǒng)、短語(yǔ)結(jié)構(gòu)文法等?；谝?guī)則的＂演澤推理＂方法，能較好的解決有規(guī)律的分詞歧義和未登錄詞，具有一定的領(lǐng)域適應(yīng)性、效率很高。但中文語(yǔ)言現(xiàn)象非常復(fù)雜，存在很多無(wú)規(guī)律的分詞歧義和未登錄詞。因此一般采用其他算法如：動(dòng)態(tài)規(guī)劃等相結(jié)合提高準(zhǔn)確率?；诮y(tǒng)計(jì)的分詞方法只需對(duì)語(yǔ)料中的字信息進(jìn)行統(tǒng)計(jì)，不需要切分詞典，因而又稱(chēng)為無(wú)詞典分詞法或統(tǒng)計(jì)取詞法。從形式上看，詞是穩(wěn)定的字的組合，在上下文中，相鄰的字同時(shí)出現(xiàn)的次數(shù)越多，就越有可能構(gòu)成一個(gè)詞。因此字與字相鄰共現(xiàn)的頻率或概率能夠較好的反映成詞的可信度。因而可對(duì)語(yǔ)料中相鄰共現(xiàn)的各個(gè)字的組合的頻度進(jìn)行統(tǒng)計(jì)，計(jì)算它們的相關(guān)度，計(jì)算兩個(gè)漢字A、B的相鄰共現(xiàn)的概率?？蓪?duì)語(yǔ)料中相鄰共現(xiàn)的各個(gè)字的組合的頻率進(jìn)行統(tǒng)計(jì)。這種方法首先切分與詞典能匹酷成功的所有可能的詞，即找出所有候選詞條，然后運(yùn)用統(tǒng)計(jì)語(yǔ)言模型和決策算法得出最優(yōu)的切分結(jié)果。由于純粹從統(tǒng)計(jì)的角度出發(fā)，因此在統(tǒng)計(jì)意義上某些經(jīng)常出現(xiàn)在一起的字并不能構(gòu)成完整的詞語(yǔ)，例如“上的“、‘有的“、“這一”等在文本中會(huì)大量的互鄰?fù)F(xiàn),但它們卻分屬于不同的詞；并且統(tǒng)計(jì)語(yǔ)言模型和決策算法在很大程度上決定了解決歧義的方法，需要大量的標(biāo)注語(yǔ)料，并且分詞速度也因搜索空間的增大而有所減慢?；诮y(tǒng)計(jì)的分詞方法所應(yīng)用的主要的統(tǒng)計(jì)量或統(tǒng)計(jì)模型有：互信息、隱馬爾可夫模型和最大熵模型等。這些統(tǒng)計(jì)模型主要是利用詞與詞之間的聯(lián)合出現(xiàn)概率作為分詞判斷的信息。這種分詞方法是通過(guò)讓計(jì)算機(jī)模擬人對(duì)句子的理解，達(dá)到識(shí)別詞的效果。其基本思想就是在分詞的同時(shí)進(jìn)行句法、語(yǔ)義分析，利用句法信息和語(yǔ)義信息來(lái)處理歧義現(xiàn)象。它通常包括幾個(gè)部分：分詞子系統(tǒng)、句法語(yǔ)義子系統(tǒng)、總控部分。在總控部分的協(xié)調(diào)下，分詞子系統(tǒng)可獲得有關(guān)詞、句子等的句法和語(yǔ)義信息來(lái)對(duì)分詞歧義進(jìn)行判斷，即它模擬了人對(duì)句子的理解過(guò)程。這種分詞方法需要使用大量的語(yǔ)言知識(shí)和信息。由于漢語(yǔ)語(yǔ)言知識(shí)的籠統(tǒng)、復(fù)雜性，難W將各種語(yǔ)言信息組織成機(jī)器可直接讀取的形式，因此目前基于機(jī)器學(xué)習(xí)理解的分詞系統(tǒng)還處在實(shí)驗(yàn)階段?；陔[馬爾可夫模型的字標(biāo)注中文分詞方法?；趯盈B隱馬爾可夫模型的漢語(yǔ)詞法分析方法，該方法引入角色隱馬爾可夫模型識(shí)別未登錄詞。然而，傳統(tǒng)機(jī)器學(xué)習(xí)方法往往依賴(lài)于人工設(shè)計(jì)的特征，而一個(gè)特征是否有效需要多嘗試與選擇，因此人工設(shè)計(jì)一系列好的特征既費(fèi)時(shí)又費(fèi)力。神經(jīng)網(wǎng)絡(luò)方法。深度學(xué)習(xí)的方法，對(duì)中文語(yǔ)料進(jìn)行中文分詞和詞性標(biāo)注。這些方法僅接近與目前最好結(jié)果，并沒(méi)有超越。深度學(xué)習(xí)(DeepLearning)是一種表示學(xué)習(xí)方法，它通過(guò)對(duì)數(shù)據(jù)進(jìn)行多層級(jí)的建模來(lái)獲得關(guān)于數(shù)據(jù)特征的層次結(jié)構(gòu)以及數(shù)據(jù)的分布式表示。由于深度學(xué)習(xí)可以避免繁瑣的人工特征抽取，有效地利用無(wú)監(jiān)督數(shù)據(jù)，并且具有優(yōu)秀的泛化能力，因此成為了最近幾年機(jī)器學(xué)習(xí)領(lǐng)域的一個(gè)熱點(diǎn)。深度學(xué)習(xí)的發(fā)展與應(yīng)用使得圖像處理、語(yǔ)音識(shí)別等多個(gè)具體的應(yīng)用領(lǐng)域都取得了突破式的進(jìn)展。深度學(xué)習(xí)非常適用于解決自然語(yǔ)言處理領(lǐng)域的一系列難題。首先，由于語(yǔ)言本身的高維特性，傳統(tǒng)的自然語(yǔ)言處理系統(tǒng)往往需要復(fù)雜的語(yǔ)言學(xué)知識(shí)以便手工構(gòu)造出可供分類(lèi)器使用的特征。而利用深度學(xué)習(xí)，則可以通過(guò)構(gòu)造模型來(lái)自動(dòng)學(xué)習(xí)用于解決自然語(yǔ)言處理領(lǐng)域的問(wèn)題所需的特征。其次，在自然語(yǔ)言處理領(lǐng)域，無(wú)標(biāo)簽數(shù)據(jù)可以被輕易地大量獲得，然而有標(biāo)簽數(shù)據(jù)則相對(duì)稀少且昂貴，深度學(xué)習(xí)則剛好可以利用大量無(wú)標(biāo)簽數(shù)據(jù)來(lái)獲取特征。再次，自然語(yǔ)言處理領(lǐng)域的許多問(wèn)題往往相互之間具有非常強(qiáng)的關(guān)聯(lián)性，例如對(duì)分詞、詞性標(biāo)注和命名實(shí)體識(shí)別，傳統(tǒng)的方法往往將這幾個(gè)問(wèn)題分開(kāi)解決，忽略了它們之間的關(guān)系。使用深度學(xué)習(xí)則可以在特征抽取層面構(gòu)造統(tǒng)一的模型以同時(shí)處理這些問(wèn)題，并通過(guò)多任務(wù)學(xué)習(xí)的方法在模型中對(duì)其關(guān)聯(lián)性進(jìn)行建模，從而獲得更好的性能。因此，深度學(xué)習(xí)的核心思想是通過(guò)具有一定“深度”的模型從數(shù)據(jù)中逐層抽象出特征(即分布式表示)，并且在深度學(xué)習(xí)模型中越高的層級(jí)抽取出的特征具有越強(qiáng)的表達(dá)能力。據(jù)內(nèi)部的特征信息，對(duì)于語(yǔ)言來(lái)說(shuō)，這正是一個(gè)可以采納的方式：從大量的文本中學(xué)習(xí)得到語(yǔ)義，并對(duì)語(yǔ)義進(jìn)行特征表示，從而利用這些特征進(jìn)行具體的計(jì)巧任務(wù)。深度學(xué)習(xí)模型參考3自動(dòng)編碼器(Auto—Encoder)是一種數(shù)據(jù)驅(qū)動(dòng)的、非監(jiān)督地學(xué)習(xí)數(shù)據(jù)特征的神經(jīng)網(wǎng)絡(luò)模型。其結(jié)構(gòu)如所示?？蒞把它看成是一個(gè)輸出節(jié)點(diǎn)數(shù)與輸入節(jié)點(diǎn)數(shù)相等的多層神經(jīng)網(wǎng)絡(luò)。玻爾茲曼機(jī)(BoltzmannMachine)是一種引入了模擬退火思想的無(wú)向圖模型，其根據(jù)無(wú)向圖節(jié)點(diǎn)的狀態(tài)和節(jié)點(diǎn)之間的互聯(lián)權(quán)重定義整個(gè)系統(tǒng)的能量狀態(tài)，并指定輸入節(jié)點(diǎn)和輸出節(jié)點(diǎn)為可見(jiàn)節(jié)點(diǎn)，在輸入節(jié)點(diǎn)的二值化特征信息不變的情況下對(duì)其它節(jié)點(diǎn)進(jìn)行退火，尋找最低的能量狀態(tài)，即通過(guò)模擬退火的思想學(xué)習(xí)節(jié)點(diǎn)的互聯(lián)權(quán)重作為模式的表示。受限玻爾茲曼機(jī)(RestrictedBoltzmannMachine,RBM)是一種特殊的玻爾茲曼機(jī)，是深度置信網(wǎng)(DeepBeliefNetworks,DBN)的核心組件之一。它規(guī)定無(wú)向圖節(jié)點(diǎn)分為可見(jiàn)層和隱含層兩層，每層內(nèi)部的節(jié)點(diǎn)之間不可互聯(lián)，而處于不同層之間的節(jié)點(diǎn)為全連接卷積神經(jīng)網(wǎng)絡(luò)主要包括兩種神經(jīng)層：卷積層(Convolution)和池化層(又稱(chēng)下采樣層，Pooling)。這兩層往往搭配出現(xiàn)。如圖2-6所示一個(gè)典型的卷積神經(jīng)網(wǎng)絡(luò)模型一般包括數(shù)個(gè)卷積層與池化層的組合，在此之后的幾層是神經(jīng)網(wǎng)絡(luò)的全連接層卷積層是卷積神經(jīng)網(wǎng)絡(luò)的主要運(yùn)算部分。卷積層的輸入是一幅或多幅二維圖像，這些圖像被稱(chēng)為特征圖像(FeatureMap)。每個(gè)輸出特征圖像對(duì)應(yīng)一個(gè)卷積核，該卷積核對(duì)一幅或多幅輸入圖像進(jìn)行卷積，卷積的結(jié)果取平均得到一幅輸出特征圖像目前，深度學(xué)習(xí)在自然語(yǔ)言處理上取得的進(jìn)展沒(méi)有在語(yǔ)音圖像上那么令人印象深刻。但相比于聲音和圖像，語(yǔ)言是唯一的非自然信號(hào)，是完全由人類(lèi)大腦產(chǎn)生和處理的符號(hào)系統(tǒng)。因此，深度學(xué)習(xí)在自然語(yǔ)言處理領(lǐng)域中的應(yīng)用研究仍存在諸多的挑戰(zhàn)。深度學(xué)習(xí)中的表征視角是非常有力的，比如單詞嵌入深度學(xué)習(xí)可以將非常復(fù)雜的關(guān)系進(jìn)行近似編碼：原文中這樣說(shuō)：這看來(lái)是神經(jīng)網(wǎng)絡(luò)的一個(gè)非常強(qiáng)大的優(yōu)點(diǎn)：它們能自動(dòng)學(xué)習(xí)更好的數(shù)據(jù)表征的方法。反過(guò)來(lái)講，能有效地表示數(shù)據(jù)對(duì)許多機(jī)器學(xué)習(xí)問(wèn)題的成功都是必不可少的。單詞嵌入僅僅是學(xué)習(xí)數(shù)據(jù)表示中一個(gè)引人注目的例子而已。概述對(duì)比一個(gè)開(kāi)源的深度學(xué)習(xí)測(cè)試框架參考9：對(duì)可擴(kuò)展性（extensibility）、hardwareutilization（硬件利用率）以及大家最關(guān)心的：速度（speed）上進(jìn)行了比較比較結(jié)果：tensorflow比較中規(guī)中矩，我不認(rèn)為其他幾個(gè)庫(kù)在后期能比他強(qiáng)多少，畢竟google出品，哈哈。現(xiàn)在不少企業(yè)都已經(jīng)開(kāi)始用tensorflow進(jìn)行一些工程實(shí)踐，大勢(shì)所趨，同志們站好隊(duì)啊。（歡迎同志們拍磚）很多時(shí)候，文本分析領(lǐng)域需要很多的評(píng)價(jià)準(zhǔn)則，但是我看了不少論文，來(lái)回來(lái)去也就是基于分類(lèi)的評(píng)價(jià)去做，這塊還需要大牛給指點(diǎn)一二。怎么能夠客觀的表示我們算法的準(zhǔn)確行，分詞，詞性標(biāo)注，等等國(guó)際上廣泛采用微平均和宏平均相結(jié)合的評(píng)價(jià)準(zhǔn)則，并采用準(zhǔn)確率P（Precision）和召回率R（Recall）以及F1值來(lái)衡量分類(lèi)系統(tǒng)性能。對(duì)第i個(gè)類(lèi)別，其準(zhǔn)確率和召回率分別定義如下：li表示分類(lèi)的結(jié)果中被標(biāo)記為第i類(lèi)別且標(biāo)記為正確的文本個(gè)數(shù)，mi表示結(jié)果中表示被標(biāo)記為第i個(gè)類(lèi)的文本個(gè)數(shù)，ni表示被分類(lèi)的文本中實(shí)際屬于第i個(gè)類(lèi)別的樣本個(gè)數(shù)。微平均和宏平均微平均和宏平均是計(jì)算全局的查準(zhǔn)率，查全率和F1測(cè)試值的兩種方法。其中，微平均用mP、mR、mF1來(lái)表示：宏平均用MP、MR、MF1來(lái)表示，公式如下：word2vector由Google開(kāi)發(fā)的一個(gè)用于訓(xùn)練語(yǔ)義向量的工具，其核心的技術(shù)是根據(jù)詞頻用Huffman編碼使得所有詞頻相似的詞隱藏層激活的巧內(nèi)容基本一致，出現(xiàn)頻率越高的詞語(yǔ)，其隱藏層數(shù)目越少，然后采用一個(gè)三層神經(jīng)網(wǎng)絡(luò)對(duì)語(yǔ)義單元向量進(jìn)行表示。具體可參考此說(shuō)明文檔參考10快速入門(mén)：回頭打算，把自己的csdn博客爬一遍，寫(xiě)個(gè)python生成的標(biāo)簽云商品論壇評(píng)論（開(kāi)門(mén)見(jiàn)山和卒章顯志是漢語(yǔ)語(yǔ)篇的重要特點(diǎn)）主流分詞概況：分詞準(zhǔn)確度：在所測(cè)試的四個(gè)數(shù)據(jù)集上，BosonNLP和哈工大語(yǔ)言云都取得了較高的分詞準(zhǔn)確率，尤其在新聞數(shù)據(jù)上。因?yàn)殁叶〗馀Ｊ菍⑺锌赡艹稍~的詞語(yǔ)全部掃描出來(lái)（例如：“最不滿意”分為：“最不不滿滿意”），與其他系統(tǒng)輸出規(guī)范不同，因而不參與準(zhǔn)確率統(tǒng)計(jì)。為了更直接的比較不同數(shù)據(jù)源的差別，我們從每個(gè)數(shù)據(jù)源的測(cè)試數(shù)據(jù)中抽取比較典型的示例進(jìn)行更直觀的對(duì)比。大數(shù)據(jù)評(píng)測(cè)結(jié)果：jieba（c++）版獨(dú)領(lǐng)風(fēng)騷啊1.THULAC清華新推薦的分詞工具參考8THULAC（THULexicalAnalyzerforChinese）由清華大學(xué)自然語(yǔ)言處理與社會(huì)人文計(jì)算實(shí)驗(yàn)室研制推出的一套中文詞法分析工具包，具有中文分詞和詞性標(biāo)注功能。THULAC具有如下幾個(gè)特點(diǎn)：能力強(qiáng)利用我們集成的目前世界上規(guī)模最大的人工分詞和詞性標(biāo)注中文語(yǔ)料庫(kù)（約含5800萬(wàn)字）訓(xùn)練而成，模型標(biāo)注能力強(qiáng)大。準(zhǔn)確率高該工具包在標(biāo)準(zhǔn)數(shù)據(jù)集ChineseTreebank（CTB5）上分詞的F1值可達(dá)97.3%,詞性標(biāo)注的F1值可達(dá)到92.9%,與該數(shù)據(jù)集上最好方法效