自然語言檢索中的概念控制_第1頁
自然語言檢索中的概念控制_第2頁
自然語言檢索中的概念控制_第3頁
全文預(yù)覽已結(jié)束

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認(rèn)領(lǐng)

文檔簡介

1、自然語言檢索中的概念控制        自然語言檢索是信息檢索中的一個類型。隨著互聯(lián)網(wǎng)的普及和發(fā)展,信息檢索的最終用戶日趨擴大,自然語言檢索成為重要的發(fā)展趨勢。    目前,自然語言檢索系統(tǒng)采用的是模式匹配技術(shù)。所謂模式指的是關(guān)鍵詞或索引詞匯。模式匹配技術(shù)處理速度快,簡單易行,但也有缺點。自然語言檢索系統(tǒng)對同義詞、近義詞、多義詞和其他一些與其相關(guān)的詞語沒有進行規(guī)范和統(tǒng)一,詞間缺乏有機的聯(lián)系。當(dāng)用戶提問的檢索概念具有多種表達(dá)形式時,采用單一的關(guān)鍵詞或自然語言索引詞匹配方式勢必會影響檢全率。自然語言

2、檢索系統(tǒng)的選詞沒有嚴(yán)格限制,詞量過多過雜,這樣會影響檢準(zhǔn)率,并且會過多地占用磁盤的存儲空間,影響查詢匹配的速度。要想解決這些問題,必須對自然語言查詢做進一步的處理,也就是進行概念控制。    1概念控制及其實現(xiàn)基礎(chǔ)    1.1概念控制的目的    概念并不是孤立存在的,一個概念總是與其他概念之間存在著各種各樣的關(guān)系,如上下位關(guān)系、同義關(guān)系、反義關(guān)系等。關(guān)鍵詞也會出現(xiàn)一詞多義、一義多詞以及同一事物多種表述的情形。根據(jù)概念之間的相互聯(lián)系,在詞的概念含義層次上建立聯(lián)系,為檢索用戶提供相關(guān)的結(jié)果分析是概念控制的

3、一個應(yīng)用前景。例如,“體育”這一概念根據(jù)上下立類的關(guān)系可以細(xì)分為足球、排球、奧運會、亞運會等,單純的字面匹配會漏檢甚至誤檢很多與之相關(guān)的信息。通過概念控制就可以將一個上位類的概念擴展為多個子概念。體育新聞的檢索就可以擴展為:體育新聞、球類(足球、籃球、排球)、田徑運動、體育賽事(奧運會、亞運會、世界杯)等概念,同時對那些具有下位概念的詞匯可以再次擴展,這樣就大大地提高了檢索效果?!坝嬎銠C”和“電腦”是同一事物的不同表述,機械匹配的話就只能檢索到有關(guān)“計算機”或“電腦”的信息,采用概念控制的相關(guān)方法可以將這些相同概念的詞匯統(tǒng)一到檢索匹配中,這樣就擴大了檢索面,提高了檢全率。在自然語言檢索系統(tǒng)中進

4、行慨念控制,就是把信息檢索從目前的基于關(guān)鍵詞層面提高到基于知識(概念)層面,能夠從概念意義層次上來認(rèn)識和處理檢索用戶的請求,從而提高檢全率和檢準(zhǔn)率。    1.2概念控制的主要方法    目前雖然沒有一個檢索系統(tǒng)可以完全實現(xiàn)理想狀態(tài)下的高層次的語義檢索,但有些自然語言檢索系統(tǒng)已經(jīng)采用概念控制查詢。主要的方法是利用知識體系建立概念間的關(guān)系進行查詢擴展,深度匹配,優(yōu)化檢索效果。    概念控制的內(nèi)容包括:提問句概念語義塊的抽取,從提問句中切分出概念詞或詞組等語義單位;基于知識體系對抽取出的語義單元進行概念擴展

5、;概念的組配,將選擇出的各檢索單位基于知識體系的組織信息轉(zhuǎn)換成體現(xiàn)概念關(guān)系的邏輯表達(dá)式。    概念抽取不等同于分詞處理,其中包括普通概念的識別和人名、地名、事件名等專有名詞的識別,并進行概念提取。對于普通的概念字串采用逆向最長匹配算法(或正向最長匹配算法),并綜合切割標(biāo)記等分詞手段切分就可以進行概念抽取。對于詞典中未收錄的概念詞,可以采取基于句模、句子結(jié)構(gòu)分析、詞和詞組構(gòu)成規(guī)則、句內(nèi)結(jié)構(gòu)性標(biāo)志字、標(biāo)點符號等來進行切分。除切割標(biāo)志外,已知的詞也可作切割標(biāo)記使用。    自然語言     

6、;   檢索系統(tǒng)的本質(zhì)是查詢滿足特定主題概念的文本,因此被檢索的內(nèi)容不是和提問句的字面匹配。對提問進行分析后抽取出的主要是概念或概念的組合,需要進行概念匹配,這就需要對檢索句中的詞進行概念擴展,即考慮提問句中詞的同近義詞、上下位詞和關(guān)聯(lián)詞??梢酝ㄟ^知識體系保存同近義關(guān)系、上下位關(guān)系和其他關(guān)聯(lián)關(guān)系,當(dāng)處理用戶檢索需求時,通過查詢知識體系可對提問句中的詞按概念進行擴展。如“我國今天的體育新聞”,可以通過知識體系對“體育”進行擴展,查詢包括“籃球”、“賽車”、“奧運會”、“世界杯”等方面的內(nèi)容,“今天”一詞指檢索者進行檢索時的日期,因此需通過規(guī)則將“今天”映射為檢索時的

7、時間,將“我國”擴展為“我國”V“中國”V“中華人民共和國”(知識體系中可能只存在“中國”和“中華人民共和國”之間的同義關(guān)系,沒有“我國”這一詞條)。    概念組配,按其內(nèi)在邏輯關(guān)系,可分為限定組配和相交組配。限定組配將一個概念的內(nèi)涵增加到另一個概念的內(nèi)涵中,從而加深概念的內(nèi)涵,縮小或限定了概念的外延。相交組配將具有共同的屬概念、概念之間具有相交關(guān)系、外延部分重合的概念組合成一個新概念。在構(gòu)成查詢表達(dá)式時,基于知識體系的擴展詞和原詞間為“邏輯加”的關(guān)系。如“美麗”擴展為“美麗”V“漂亮”VV“標(biāo)志”。提問句中語義塊間的關(guān)系通常為邏輯乘的關(guān)系。語義塊間的概念組配通

8、常存在如下邏輯關(guān)系:(1)主謂結(jié)構(gòu),描述的是一種陳述與被陳述的關(guān)系。(2)偏正結(jié)構(gòu),描述的是一種修飾與被修飾的關(guān)系。(3)動賓結(jié)構(gòu),描述的是一種作用和被作用的關(guān)系。(4)并列結(jié)構(gòu),描述的是一種成分間的并列關(guān)系1。主謂結(jié)構(gòu)、偏正結(jié)構(gòu)和動賓結(jié)構(gòu)間為“邏輯乘”關(guān)系,并列結(jié)構(gòu)為“邏輯加”關(guān)系。但通過對檢索提問句進行分析后發(fā)現(xiàn),部分并列結(jié)構(gòu)在用戶的檢索概念中為“邏輯乘”關(guān)系,于是采用通過句模分析和指示標(biāo)志來確定語義塊間的“邏輯乘”或“邏輯加”關(guān)系。提問句語義塊之間的“邏輯加”關(guān)系通常存在顯式指示標(biāo)志,如“或”等。分析傳統(tǒng)的主、謂、賓、定、狀、補六大成分與句型的關(guān)系,可以輔助獲取語義塊的邏輯關(guān)系。檢索提問

9、句的語義概念和提問句的結(jié)構(gòu)緊密相關(guān)。需要分析謂語的性質(zhì)、句子的結(jié)構(gòu),如“把”字、“被”字句等。    概念控制的3項關(guān)鍵技術(shù)中,概念擴展和概念組配都離不開知識體系的支持,知識體系的好壞直接關(guān)系到檢索效果的優(yōu)劣。    1.3概念控制系統(tǒng)    國內(nèi)外已有一些檢索系統(tǒng)在不同程度上實現(xiàn)了概念控制,代表系統(tǒng)有首信搜索引擎、孫悟空、UMLS等。下面以UMLS為例進行介紹。    UMLS(        

10、Unified Medical Language System,美國統(tǒng)一醫(yī)學(xué)語言系統(tǒng)),是美國國立醫(yī)學(xué)圖書館(NLM)于1986年開始研制的一項長期開發(fā)研究計劃,旨在克服計算機生物醫(yī)學(xué)信息檢索中的兩個顯著障礙(相同的概念具有不同的表達(dá)方式;有用的信息分散在不同的數(shù)據(jù)庫系統(tǒng)中),使用戶很容易地跨越了在病案系統(tǒng)、文獻(xiàn)摘要數(shù)據(jù)庫、全文數(shù)據(jù)庫以及專家系統(tǒng)之間的屏障。UMILS包括4個部分:專家詞典、超級敘詞表、語義網(wǎng)絡(luò)、情報源圖譜。專家詞典是一個包含眾多生物醫(yī)學(xué)詞匯的英語詞典,可以確定英語詞匯的范圍以及識別生物醫(yī)學(xué)術(shù)語和文本詞的詞形變異,也為超級敘詞表提供了確定范圍的醫(yī)學(xué)術(shù)語和詞匯。超級敘詞表是生物醫(yī)學(xué)概念、術(shù)語、詞匯及其涵義等級范疇的廣泛集成。語義網(wǎng)絡(luò)是為建立概念、術(shù)語間錯綜復(fù)雜的關(guān)系而沒計的,它為超級敘詞表中所有慨念提供了語義類型、語義關(guān)系和語義結(jié)構(gòu)。情報源圖譜是一個關(guān)于生物醫(yī)學(xué)機讀情報資源的數(shù)據(jù)庫,其目的是利用超級敘詞表和語義網(wǎng)絡(luò)實現(xiàn)以下功能:確定情報源與特定提問的相關(guān)性,以便選取最合適的情報源;為用戶提供特定情報源的范圍、功能和檢索條件等人工可讀的信息;自動鏈接相關(guān)情報源;在一個或多個情報源中自動檢索并自動組織檢索的結(jié)果。    圖1矩形框中所示的部分即為概念控制部分。  &

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論