大詞匯量連續(xù)語(yǔ)音識(shí)別探討

1、年月技術(shù)語(yǔ)音識(shí)別技術(shù)是研究如何使得機(jī)器能夠聽(tīng)懂人的話(huà)語(yǔ)的技術(shù)。這項(xiàng)技術(shù)一般分為連續(xù)語(yǔ)音識(shí)別和孤立詞語(yǔ)音識(shí)別。本文探討的就是大詞匯量連續(xù)語(yǔ)音識(shí)別技術(shù)，重點(diǎn)是這項(xiàng)技術(shù)在中文和英文上的發(fā)展。隨著年代初隱馬爾可夫模型引入到語(yǔ)音識(shí)別這個(gè)領(lǐng)域，語(yǔ)音識(shí)別技術(shù)得到了突飛猛進(jìn)的發(fā)展，語(yǔ)音識(shí)別也從小詞匯量孤立詞發(fā)展到大詞匯量連續(xù)語(yǔ)音。為了進(jìn)行大詞匯量連續(xù)語(yǔ)音識(shí)別，各研究機(jī)構(gòu)均提出了許多新穎的方法，并且大多數(shù)方法在某個(gè)任務(wù)上都取得了成功。但是，有些方法可能在機(jī)構(gòu)的任務(wù)集上能夠取得很好的效果，但是在機(jī)構(gòu)的任務(wù)集上卻難以取得好的效果。如何能夠知道這個(gè)算法的優(yōu)劣呢？顯然，我們需要一個(gè)共同的任務(wù)集，大家都在這個(gè)任務(wù)集上工作

2、，在同一參考標(biāo)準(zhǔn)下來(lái)評(píng)估算法的優(yōu)劣。在這方面，英文的連續(xù)大詞匯量語(yǔ)音識(shí)別走在了前列。也正如此，現(xiàn)在國(guó)際上英文的語(yǔ)音識(shí)別技術(shù)代表著該領(lǐng)域的最高水平。英文大詞匯量連續(xù)語(yǔ)音識(shí)別美國(guó)的（）從年開(kāi)始舉行的比賽，每年一次。參加的機(jī)構(gòu)既有像這樣的公司，也有這樣的學(xué)校研究機(jī)構(gòu)。比賽的任務(wù)也從最開(kāi)始的簡(jiǎn)單的聽(tīng)寫(xiě)機(jī)的比賽，發(fā)展到之后的和這樣難度的比賽。的比賽大力推動(dòng)了技術(shù)的發(fā)展。這多年來(lái)，涌現(xiàn)出了許多新穎的技術(shù)，其中一些技術(shù)已經(jīng)被人們廣泛的使用?？梢赃@么說(shuō)，這些年來(lái)技術(shù)的發(fā)展與的貢獻(xiàn)是密不可分的。的任務(wù)的歷史回顧首當(dāng)其沖的是年開(kāi)始的任務(wù)，它分別在、和舉行了次比賽。訓(xùn)練集是個(gè)人的句話(huà)，內(nèi)容是一些信息查詢(xún)。測(cè)試集是個(gè)

3、人的句話(huà)。詞典總共有個(gè)詞。在今天看來(lái)，是一個(gè)非常小的任務(wù)，但是它的設(shè)計(jì)機(jī)制為今后的的比賽打下了一個(gè)很好的基礎(chǔ)。年開(kāi)始了著名的評(píng)測(cè)，的語(yǔ)料來(lái)自華爾街日?qǐng)?bào)，屬于新聞?lì)愋?。年和年任?wù)的詞典的大小分別是和。任務(wù)的訓(xùn)練語(yǔ)音數(shù)據(jù)是非常大的，而且還提供訓(xùn)練語(yǔ)言模型的語(yǔ)料。年被擴(kuò)展，引入了的語(yǔ)料，詞典發(fā)展到。這個(gè)任務(wù)也被叫做，有時(shí)也稱(chēng)為。從這個(gè)時(shí)候起，的比賽很多時(shí)候被冠以，這是由于一種特殊的測(cè)試機(jī)制。年發(fā)展出任務(wù)，在這個(gè)任務(wù)中，已經(jīng)第卷第期年月電腦與信息文章編號(hào)：（）大詞匯量連續(xù)語(yǔ)音識(shí)別探討阮玲英，陳立萬(wàn)（重慶三峽學(xué)院應(yīng)用技術(shù)學(xué)院，重慶）摘要：文章探討了中文和英文的大詞匯量連續(xù)語(yǔ)音識(shí)別，討論了如何設(shè)計(jì)數(shù)據(jù)庫(kù)進(jìn)

4、行不同識(shí)別技術(shù)的評(píng)測(cè)，采用何種評(píng)測(cè)方法，以及一些代表性的語(yǔ)音識(shí)別技術(shù)。關(guān)鍵詞：大詞匯量連續(xù)語(yǔ)音識(shí)別；任務(wù)；評(píng)估中圖分類(lèi)號(hào)：文獻(xiàn)標(biāo)識(shí)碼：，（，）：，：；收稿日期：作者簡(jiǎn)介：阮玲英（），女，重慶，講師，研究方向：語(yǔ)音合成；陳立萬(wàn)（），男，重慶人，副教授，研究方向：語(yǔ)音信號(hào)處理。第卷第期不是只考慮干凈語(yǔ)音的，而是考慮各種實(shí)際的情況。所以引入了噪聲和不同麥克風(fēng)的不匹配問(wèn)題。年開(kāi)始推出任務(wù)，在此之后任務(wù)一直存在直到年。在此之前的任務(wù)目標(biāo)都是一個(gè)聽(tīng)寫(xiě)機(jī)的測(cè)試。而任務(wù)是針對(duì)廣播新聞（）語(yǔ)料來(lái)進(jìn)行識(shí)別的，在這樣的任務(wù)里，有著各種情況，比如說(shuō)背景有音樂(lè)等，這個(gè)任務(wù)的難度遠(yuǎn)高于任務(wù)的難度。年正式推出了電話(huà)語(yǔ)音識(shí)別

5、的評(píng)比。這個(gè)任務(wù)又稱(chēng)為，以后每年都舉行，到年結(jié)束。這個(gè)任務(wù)的語(yǔ)料是在上錄制的電話(huà)的交談?wù)Z料，所以，有時(shí)這個(gè)任務(wù)也稱(chēng)為任務(wù)。這個(gè)任務(wù)也是非常難的，一個(gè)是由于電話(huà)信道的變化，不同說(shuō)話(huà)人的電話(huà)特性也是不同的。另外，由于是交談，很多時(shí)候，內(nèi)容與書(shū)面語(yǔ)也是不一樣的。在年，又推出了任務(wù)來(lái)取代任務(wù)。比賽評(píng)估機(jī)制顯然，比賽評(píng)估機(jī)制最直接的方法就是評(píng)估錯(cuò)誤率。所以，以及現(xiàn)在絕大多數(shù)研究機(jī)構(gòu)都將（）作為評(píng)判的標(biāo)準(zhǔn)。將識(shí)別結(jié)果與該句子正確的對(duì)齊，就可以得到三種類(lèi)型的錯(cuò)誤：替換錯(cuò)誤（），插入錯(cuò)誤（）和刪除錯(cuò)誤（）。則：其中是該句子含有的詞的個(gè)數(shù)。關(guān)鍵問(wèn)題是如何對(duì)齊。現(xiàn)在采用的也是標(biāo)準(zhǔn)的策略，是一個(gè)動(dòng)態(tài)規(guī)劃的方法，為每

6、種錯(cuò)誤賦予相應(yīng)的錯(cuò)誤代價(jià)。這里有個(gè)原則，插入錯(cuò)誤和刪除錯(cuò)誤的代價(jià)相同：，而插入錯(cuò)誤和刪除錯(cuò)誤的代價(jià)之和大于替代錯(cuò)誤的代價(jià)：在評(píng)估的時(shí)候，這三個(gè)代價(jià)的取值一般是：，但是這種對(duì)齊方法也有一定的問(wèn)題，如下面這個(gè)例子：（）：（）：在這個(gè)例子中，（）是根據(jù)傳統(tǒng)方法對(duì)齊的結(jié)果，我們可以看到個(gè)替代錯(cuò)誤。而（）是另一種對(duì)齊方式，出現(xiàn)了個(gè)替代錯(cuò)誤，以及個(gè)插入錯(cuò)誤和個(gè)刪除錯(cuò)誤。但是，我們的直覺(jué)告訴我們，（）的對(duì)齊效果更好。所以，有一種方法提出使用策略，別結(jié)果對(duì)齊。另外，還有人提出將識(shí)別結(jié)果打上時(shí)間標(biāo)簽，然后去對(duì)齊。還有一些方法根據(jù)任務(wù)的不同，采用自適應(yīng)的。這些方法都存在著實(shí)現(xiàn)復(fù)雜的缺點(diǎn)，所以最終都沒(méi)有被正式采用。

7、圖是年到年的比賽的最優(yōu)性能圖，從圖中可以看到在任務(wù)上，最好的技術(shù)已經(jīng)取得了錯(cuò)誤率小于或接近的效果，而對(duì)于和來(lái)說(shuō)，錯(cuò)誤率仍然居高不下。主要技術(shù)所有這些語(yǔ)音識(shí)別系統(tǒng)，最核心的技術(shù)都是采用隱馬爾可夫模型。我們搭建的系統(tǒng)模型，由于參數(shù)非常多，但是訓(xùn)練數(shù)據(jù)有限，就會(huì)出現(xiàn)分配到每個(gè)參數(shù)的訓(xùn)練數(shù)據(jù)非常少的現(xiàn)象。這將導(dǎo)致對(duì)模型參數(shù)的估計(jì)出現(xiàn)極大的偏差。而決策樹(shù)方法可以通過(guò)決策樹(shù)對(duì)參數(shù)進(jìn)行綁定，一些參數(shù)共用相同的訓(xùn)練數(shù)據(jù)，解決了數(shù)據(jù)稀少的問(wèn)題。在具體的系統(tǒng)中，使用模型作為參數(shù)模型。由于的數(shù)目巨大，而且需要預(yù)測(cè)不可見(jiàn)的，所以引入了決策樹(shù)。決策樹(shù)對(duì)狀態(tài)的綁定是對(duì)技術(shù)的一個(gè)非常大的貢獻(xiàn)，在此之后的系統(tǒng)，無(wú)論是使用還是

8、，最終都要求助于決策樹(shù)。等基于的模型單元的引入使得識(shí)別器能夠模擬更細(xì)致的語(yǔ)言現(xiàn)象，這可以說(shuō)是年代語(yǔ)音識(shí)別的一個(gè)具有深遠(yuǎn)意義的技術(shù)。在中，這些系統(tǒng)都是非常龐大的，在一個(gè)大的系統(tǒng)中，關(guān)注的是如何使系統(tǒng)性能最優(yōu)，所以不斷地進(jìn)行參數(shù)模型的優(yōu)化。在這些不斷優(yōu)化的過(guò)程中使用的方法，最大似然線(xiàn)性回歸（）是一個(gè)非常優(yōu)秀的方法。自適應(yīng)是年代語(yǔ)音識(shí)別的另一個(gè)非常重要的技術(shù)，可以用該方法調(diào)整高斯分布的均值。這個(gè)方法就是使用一個(gè)變換矩陣來(lái)變換模型的均值，這個(gè)變換矩陣應(yīng)該是采用無(wú)監(jiān)督方法獲得。采用的策略圖比賽的最優(yōu)性能圖，阮玲英等：大詞匯量連續(xù)語(yǔ)音識(shí)別探討年月電腦與信息技術(shù)是使用一棵回歸樹(shù)，當(dāng)可獲得的自適應(yīng)數(shù)據(jù)很少時(shí)，

9、只獲得樹(shù)的根節(jié)點(diǎn)的變換矩陣；而當(dāng)可以用來(lái)求取自適應(yīng)參數(shù)的數(shù)據(jù)越來(lái)越多時(shí)，這顆回歸樹(shù)就開(kāi)始向下生長(zhǎng)，而使用葉子節(jié)點(diǎn)對(duì)應(yīng)的自適應(yīng)變化矩陣。簡(jiǎn)而言之，如果訓(xùn)練數(shù)據(jù)稀少時(shí)，所有的模型都采用同一個(gè)變換矩陣來(lái)變換均值，而當(dāng)訓(xùn)練數(shù)據(jù)比較多時(shí)，不同類(lèi)的模型可以采用不同的變換矩陣。最后一種極端情況（一般不會(huì)發(fā)生）就是訓(xùn)練數(shù)據(jù)十分充足，每一個(gè)模型可以采用一個(gè)變換矩陣。中文大詞匯量連續(xù)語(yǔ)音識(shí)別中文大詞匯量連續(xù)語(yǔ)音識(shí)別采用的是年錄制的漢語(yǔ)連續(xù)語(yǔ)音數(shù)據(jù)庫(kù)來(lái)作為評(píng)測(cè)的數(shù)據(jù)庫(kù)。這個(gè)庫(kù)是高質(zhì)量的、在語(yǔ)音學(xué)和語(yǔ)言學(xué)知識(shí)指導(dǎo)下設(shè)計(jì)的科學(xué)合理、簡(jiǎn)潔有效的連續(xù)語(yǔ)音數(shù)據(jù)庫(kù)。數(shù)據(jù)庫(kù)語(yǔ)料是朗讀語(yǔ)言的語(yǔ)料，著重考慮的是音段方面的語(yǔ)音學(xué)問(wèn)題。

10、為了描述語(yǔ)流中的音變現(xiàn)象，考慮了如下語(yǔ)音單元：（）無(wú)聲調(diào)的音節(jié)個(gè)；（）音節(jié)間的雙音子個(gè)；（）音節(jié)間的三音子個(gè)；（）所有音節(jié)間過(guò)渡段的韻母聲母結(jié)構(gòu)個(gè)。這個(gè)句子和個(gè)短語(yǔ)覆蓋了的無(wú)調(diào)音節(jié)，的雙音子，的三音子，同時(shí)，為了增加不同的韻律結(jié)構(gòu)，并考慮語(yǔ)音識(shí)別系統(tǒng)的后處理，這些語(yǔ)料還包括了漢語(yǔ)的類(lèi)基本句型。圖給出了語(yǔ)料的來(lái)源。這些語(yǔ)料的統(tǒng)計(jì)結(jié)果見(jiàn)表。中文大詞匯量連續(xù)語(yǔ)音識(shí)別由于起步較晚，發(fā)展不如英文語(yǔ)音識(shí)別，但主要技術(shù)與英文類(lèi)似。不同的是，由于漢語(yǔ)是帶聲調(diào)的語(yǔ)言，在漢語(yǔ)的系統(tǒng)中有一些技術(shù)專(zhuān)門(mén)處理聲調(diào)。結(jié)論語(yǔ)音識(shí)別技術(shù)是研究計(jì)算機(jī)與人進(jìn)行交流的技術(shù)，是當(dāng)今語(yǔ)音技術(shù)最重要的研究方向。對(duì)于代表發(fā)展最高水平的英文大詞匯量連續(xù)語(yǔ)音識(shí)別，首先分析了近年來(lái)的識(shí)別數(shù)據(jù)庫(kù)。通過(guò)這些數(shù)據(jù)庫(kù)，能夠?qū)Σ煌募夹g(shù)進(jìn)行公平的評(píng)測(cè)。接下來(lái)，探討了對(duì)于語(yǔ)音識(shí)別的評(píng)測(cè)技術(shù)，并給出這些年來(lái)英文大詞匯量連續(xù)語(yǔ)音識(shí)別的最優(yōu)性能。隱馬爾可夫技術(shù)是實(shí)現(xiàn)語(yǔ)音識(shí)別的最關(guān)鍵技術(shù)，而決策樹(shù)和最大似然線(xiàn)性回歸則是年代優(yōu)秀技術(shù)的代表。通過(guò)本文的探討，能夠?qū)χ杏⑽拇笤~匯量連續(xù)語(yǔ)音識(shí)別的發(fā)展現(xiàn)狀有一個(gè)清晰的認(rèn)識(shí)，并為我們?cè)谶@個(gè)領(lǐng)域進(jìn)行更多的研究工作打下良好的基礎(chǔ)。參考文獻(xiàn)：，語(yǔ)音識(shí)別基本原理北京：清華大學(xué)出版社，：祖