中文智能搜索引擎技術(shù)研究

1、中文智能搜索引擎技術(shù)研究中文智能搜索引擎技術(shù)研究引言隨著互聯(lián)網(wǎng)的快速開展，網(wǎng)絡(luò)信息量不斷增加。面對數(shù)量龐大，種類多樣的信息，一般搜索引擎無法為用戶提供準(zhǔn)確的檢索結(jié)果，開發(fā)新的搜索引擎勢在必行。智能搜索引擎不僅要進步信息檢索準(zhǔn)確性和全面性，還要滿足用戶個性等搜索信息需求。搜索引擎與智能代理相結(jié)合的智能化搜索引擎技術(shù)可以比擬好的實現(xiàn)這一目的。1搜索引擎1.1搜索引擎根本原理搜索引擎由信息搜集系統(tǒng)、文件處理系統(tǒng)、索引系統(tǒng)和檢索系統(tǒng)組成。信息搜集系統(tǒng)通過網(wǎng)頁抓取程序spider在網(wǎng)絡(luò)中順著網(wǎng)頁的超鏈接抓取網(wǎng)頁，搜集文檔的根本信息并下載至搜索引擎本地，然后將文檔和其根本信息分開，并保存到原始文檔數(shù)據(jù)庫和

2、文檔信息數(shù)據(jù)庫中。文件處理系統(tǒng)負(fù)責(zé)將需要索引的文件轉(zhuǎn)換成具有統(tǒng)一編碼格式的文本文件。信息搜集系統(tǒng)從網(wǎng)絡(luò)上下載文件，保存到本地供索引器索引。文件文本格式種類繁多，如純文本文件、htl格式文件、rd文件、pdf文檔等，文本格式一樣的文件，字符編碼方式也不盡一樣。文件的異構(gòu)性要求文件處理系統(tǒng)將各種不同格式的類文本文件轉(zhuǎn)換成純文本文件。索引系統(tǒng)將程序搜集到的文件進展處理，建立索引庫和索引。相關(guān)處理還包括去除重復(fù)網(wǎng)頁、分詞中文、判斷網(wǎng)頁類型、分析超鏈接，計算網(wǎng)頁的重要度、豐富度等。檢索系統(tǒng)通過用戶輸入的關(guān)鍵詞從索引數(shù)據(jù)庫中找到與關(guān)鍵詞匹配的網(wǎng)頁，并按照文檔得分的上下依次顯示在用戶閱讀器中。1.2傳統(tǒng)搜索

3、引擎的局限性面對浩如煙海的網(wǎng)絡(luò)信息，用戶想要通過一般搜索引擎獲取準(zhǔn)確和全面的信息較困難。其局限性表如今：1信息檢索方式單一。搜索引擎一般提供網(wǎng)站分類查詢和關(guān)鍵詞全文檢索兩種方式，這兩種方法均容易造成信息喪失，不能全面檢索用戶需要的信息；不能對用戶輸入的關(guān)鍵詞進展詞意分析和詞意擴展。如今信息的多樣化要求搜索引擎不僅要檢索出文檔，還要檢索需要的圖片、視頻、音頻等。2不能個性化制定。傳統(tǒng)搜索引擎提供一樣的界面和檢索策略，不能提供用戶信息定制，不同用戶輸入一樣的查詢條件返回的結(jié)果一樣。不同領(lǐng)域的用戶對同一個關(guān)鍵詞的搜索返回的檢索結(jié)果應(yīng)該不一樣，智能搜索引擎能根據(jù)用戶專業(yè)背景和網(wǎng)頁閱讀歷史檢索出用戶需求

4、的信息。3對信息的標(biāo)引深度不夠。搜索引擎檢索的結(jié)果往往只提供線形的網(wǎng)址和包括關(guān)鍵詞的網(wǎng)頁信息，或者返回過多的無用信息，特別是對特定文獻數(shù)據(jù)庫的檢索更顯得無能為力1。4信息更新才能低。搜索引擎信息搜集和查詢是兩個別離的過程，缺少有機結(jié)合。網(wǎng)絡(luò)信息資源呈分布式、動態(tài)、快速增長，搜索引擎的集中化架構(gòu)不能跟上文檔的擴張速度，也就不能有規(guī)律地及時更新數(shù)據(jù)庫，用戶檢索到的結(jié)果可能不是最新信息。2智能搜索引擎智能搜索引擎應(yīng)擺脫傳統(tǒng)搜索引擎的局限性，更加智能化，更具主動性，提供多元化的檢索方式，為用戶提供個性化制定，檢索出滿足用戶個性需求。2.1智能搜索引擎主本文由論文聯(lián)盟搜集整理要特征1智能性。智能化搜索引

5、擎網(wǎng)絡(luò)蜘蛛通過自主啟發(fā)式學(xué)習(xí)選擇最有效的搜索策略和最正確時機，在特定站點或者整個因特網(wǎng)搜集和整理信息。智能化搜索引擎可以將多個引擎的搜索結(jié)果進展整合，作為一個整體存放到數(shù)據(jù)庫中。2個性化。智能化搜索引擎提供個性化制定效勞，用戶注冊根本信息，如年齡、專業(yè)背景、工作方向等，通過分析用戶根本信息及平時閱讀網(wǎng)頁的記錄制定出用戶興趣模塊，檢索出來的信息和用戶興趣相關(guān)，不同興趣的用戶輸入同一個關(guān)鍵詞返回的結(jié)果可能不同。3多元化。智能化搜索引擎有多元化的檢索方式，提供基于群眾的搜索分析，基于自然語言、關(guān)鍵詞、概念和上下文，通過相關(guān)反應(yīng)技術(shù)檢索可選擇查詢途徑。對關(guān)鍵詞進展詞意擴展和詞意派生，實現(xiàn)準(zhǔn)確的分詞，從

6、而更加準(zhǔn)確地把握用戶的搜索需求。4協(xié)作性。智能化搜索引擎能通過各種通信協(xié)議和其它智能代理進展信息交流，并可以互相協(xié)調(diào)共同完成復(fù)雜任務(wù)2。2.2智能搜索引擎技術(shù)要實現(xiàn)智能化搜索引擎，當(dāng)前要特別加強對漢語分詞技術(shù)、短語識別技術(shù)、同義詞處理技術(shù)、知識庫與推理機應(yīng)有技術(shù)和人機對話智能技術(shù)的研究。智能化搜索引擎對語義的理解主要表達(dá)在以下兩個方面：一是對用戶輸入的關(guān)鍵詞的理解；二是對網(wǎng)頁信息內(nèi)容的理解。傳統(tǒng)搜索引擎對關(guān)鍵字的識別是較機械的匹配方式，容易造成信息不準(zhǔn)確和喪失。智能化搜索引擎可對用戶輸入的關(guān)鍵詞進展語義理解，并返回用戶想要的信息。自然語言語義理解的技術(shù)主要有4種：漢語分詞技術(shù)。中國文化博大精深

7、，語句是由各種詞語按照一定的語序組成的。漢語對詞語的劃分相對英文來說復(fù)雜得多，漢語詞語可以是由一個字或者多個字組成。漢語分詞技術(shù)主要有基于字典、詞庫匹配的分詞、基于詞頻度和基于知識理解的分詞，通過這些方法準(zhǔn)確把握用戶輸入關(guān)鍵詞的含義；短語識別技術(shù)。短語是由詞語所構(gòu)成的，是句子中根本的識別單位，在漢語句法分析和語義分析中具有重大意義。用戶搜索有時需要對關(guān)鍵詞加一定的修飾詞，例如關(guān)鍵字為搜索，參加修飾詞可為個性化的搜索，前者就是詞語，后者為短語。需要通過短語識別技術(shù)對關(guān)鍵詞進展正確的分詞，從而準(zhǔn)確理解用戶的查詢需求；同義詞處理技術(shù)。包括基于詞匯字面相似度算法、基于詞素的語義相似度算法以及基于?同義

8、詞詞林?、?知網(wǎng)?等語義詞典的語義相似度算法。主要依靠人工方式構(gòu)造同義詞庫等輔助詞庫，利用搜索引擎主動聯(lián)想技術(shù)實現(xiàn)對同義詞的聯(lián)想，準(zhǔn)確把握用戶關(guān)鍵詞語義；知識庫構(gòu)建技術(shù)。知識庫包含各種詞典，詞典按其功能不同可分成定義詞詞典、同名詞詞典、派生詞詞典等，詞典按詞確實定性又可分成系統(tǒng)詞典與用戶詞典。這些詞典構(gòu)成了一個龐大而復(fù)雜的知識庫。人機接口智能化主要有以下技術(shù)：人機交互界面技術(shù)。智能化搜索引擎界面具有智能化、多元化、個性化等特點。其技術(shù)主要包括搜索懇求提交技術(shù)、搜索結(jié)果表現(xiàn)技術(shù)、搜索向?qū)Ъ夹g(shù)、搜索行為分析技術(shù)。其中，搜索行為分析技術(shù)是個性化搜索的關(guān)鍵技術(shù)，它通過分析用戶的閱讀記錄和搜索習(xí)慣來進步搜索效率；關(guān)聯(lián)式綜合搜索。將圖片、新聞等各種有關(guān)聯(lián)的信息呈如今同一界面上，用戶搜索時只需查詢一次，即可在同一界面得到各種有關(guān)聯(lián)的查詢結(jié)果。隨著云技術(shù)的出現(xiàn)，智能搜索引擎將全球效勞器當(dāng)作一個云系統(tǒng)，從而極大提升從數(shù)據(jù)庫中提取信息速度。云技術(shù)的成熟可以有效提升搜索引擎的算法速度，進步智能搜索引擎的運行速度3。3結(jié)語智能化搜索引擎技術(shù)的開展首先應(yīng)該解決目前搜索引擎的局限性，然后再添加智能搜索。智能搜索引擎應(yīng)該在以下幾個方面尋求開展：提供友好的查詢界面；多元化的檢索方式