web中圖像的檢索技術(shù)研究

1、WEB中圖像的檢索技術(shù)研究第一章前言引言伴隨網(wǎng)絡(luò)技術(shù)的迅猛發(fā)展，圖片的來(lái)源不斷在擴(kuò)大，容量超大的高速存儲(chǔ)系統(tǒng)給圖片的 海量存儲(chǔ)給予了基本保障，各行業(yè)對(duì)圖像的趨于增多，圖像資源管理和搜索也愈發(fā)重要。但由于網(wǎng) 絡(luò)本身架構(gòu)、管理的種種問(wèn)題，想在網(wǎng)絡(luò)精準(zhǔn)、高效地找到所需的圖像，卻變成了件非常不易 之事。由于網(wǎng)絡(luò)現(xiàn)在的問(wèn)題：內(nèi)容沒(méi)有良好的架構(gòu)；網(wǎng)絡(luò)海量信息不斷的增多。由此，便出現(xiàn)了搜索 引擎。雖然搜索引擎的出現(xiàn)給用戶(hù)提供了不少的便捷，但是離精準(zhǔn)、快速、全面的檢索到自己所想 要的圖像還是有一段距離，所以對(duì)圖像搜索的研究還要下大力氣研究。依照現(xiàn)有的搜索引擎和國(guó)內(nèi)外有關(guān)研究人員的種種資料表明，現(xiàn)在的網(wǎng)絡(luò)資源和

2、搜索引擎的 特點(diǎn)如下：(1)搜索的數(shù)據(jù)種類(lèi)多樣，如視頻、圖片、文字等。存取協(xié)議也是種類(lèi)繁多，如HTTP、 FTP News 等等；(2)索引數(shù)據(jù)量巨大，從而導(dǎo)致不可能有某一個(gè)數(shù)據(jù)庫(kù)可以包括整個(gè)網(wǎng)絡(luò)的索引，當(dāng)下最大的 搜索引擎，其索引也僅僅覆蓋了網(wǎng)絡(luò)的一小部分而已；(3)資源消耗過(guò)大，系統(tǒng)需將HTM文檔傳送到本地之后再進(jìn)行分析，占用昂貴的網(wǎng)絡(luò)和 CPUS源，從而增加被搜索結(jié)點(diǎn)的壓力。此外由于搜索引擎大多是集中式的，所以搜索引擎服務(wù)器 對(duì)硬件配置的要求也極高，這樣才能處理巨大的數(shù)據(jù)量以及及時(shí)響應(yīng)用戶(hù)的檢索請(qǐng)求；(4)不能有效解決搜索失效的問(wèn)題，大多時(shí)候，搜索引擎會(huì)返回?zé)o用的查詢(xún)結(jié)果；(5)各種檢索

3、工具各行其事，無(wú)法相互協(xié)作，共享資源，也是一種資源的浪費(fèi)?，F(xiàn)今的圖像檢索技術(shù)近些年伴隨著用戶(hù)對(duì)圖像搜索需求不斷的增長(zhǎng)，各類(lèi)圖像搜索引擎由此誕 生，它們以不同的搜索方式為用戶(hù)提供各類(lèi)檢索途徑，使得網(wǎng)上圖像地檢索變得簡(jiǎn)單，雖然還不 太完善，但已經(jīng)可以滿(mǎn)足大多數(shù)用戶(hù)的要求。搜索引擎的工作原理最初的搜索引擎結(jié)構(gòu)，是讓Spider不停的從Webl攵集數(shù)據(jù)，存儲(chǔ)在搜索引擎數(shù)據(jù)庫(kù)當(dāng)中。 用戶(hù)靠搜索引擎服務(wù)器的Web接口，發(fā)出搜索請(qǐng)求，讓W(xué)eb Server通過(guò)CGI或者其它技術(shù)訪問(wèn) 數(shù)據(jù)庫(kù)，并且將用戶(hù)搜索請(qǐng)求變成相對(duì)應(yīng)的數(shù)據(jù)存取語(yǔ)句，發(fā)送給引擎處理，然后把結(jié)果通過(guò)網(wǎng)頁(yè) 顯示反饋給用戶(hù)。網(wǎng)絡(luò)檢索的基本原理其實(shí)

4、就是通過(guò)Spider定期在web上運(yùn)行，發(fā)現(xiàn)新的數(shù)據(jù)，把其取回到 本地?cái)?shù)據(jù)庫(kù)中，讓用戶(hù)查詢(xún)的請(qǐng)求可通過(guò)查詢(xún)本地的數(shù)據(jù)庫(kù)得到。常用的網(wǎng)絡(luò)信息檢索實(shí)現(xiàn)機(jī)制可分為兩種，通過(guò)手工方式對(duì)網(wǎng)頁(yè)進(jìn)行索引是一種方法，但它 的缺陷是Web覆蓋率低，且不能保證是最新的息。查詢(xún)匹配就是對(duì)用戶(hù)寫(xiě)入的關(guān)鍵字和網(wǎng)頁(yè)描 述、標(biāo)題來(lái)匹配，并非是通過(guò)對(duì)全文匹配進(jìn)行的。對(duì)網(wǎng)頁(yè)進(jìn)行自動(dòng)的索引是第二種，這類(lèi)方法能自 動(dòng)實(shí)現(xiàn)文檔分類(lèi)，這種方法是采用信息提取技術(shù)。可是在分類(lèi)精準(zhǔn)性上也許不如手工進(jìn)行的分類(lèi)。對(duì)當(dāng)下所有運(yùn)行中的搜索工具來(lái)講，基本上都會(huì)有一個(gè)機(jī)器人定期的訪問(wèn)一些站點(diǎn)，以檢查這 些站點(diǎn)最近變化，同時(shí)找到新的站點(diǎn)。一般站點(diǎn)都會(huì)有個(gè)

5、robot.txt文件來(lái)標(biāo)注服務(wù)器不希望機(jī)器 人訪問(wèn)的區(qū)域，機(jī)器人都必須遵守這規(guī)定。假如是自動(dòng)索引，機(jī)器人在得到一個(gè)頁(yè)面以后，需根據(jù) 該頁(yè)面的內(nèi)容進(jìn)行索引，依據(jù)它的關(guān)鍵字把它歸到一個(gè)類(lèi)中。頁(yè)面信息是通過(guò)元數(shù)據(jù)這類(lèi)形式來(lái)保 存的，經(jīng)典的元數(shù)據(jù)有標(biāo)題、IP地址、該頁(yè)面簡(jiǎn)要的介紹、關(guān)鍵字抑或是索引短語(yǔ)、文件大小和 最后更新的日期等等。雖然元數(shù)據(jù)有一定的標(biāo)準(zhǔn)，但是很多站點(diǎn)都是使用自己的模板。文檔提取的 機(jī)制、索引策略這 些對(duì)搜索引擎（力劭的有效性有巨大的聯(lián)系。高級(jí)搜索選項(xiàng)包括：布爾方法、短 語(yǔ)匹配、自然語(yǔ)言的處理。一個(gè)檢索所產(chǎn)生的結(jié)果按照提取機(jī)制的不同被分成不同等級(jí)提交給用 戶(hù)，以關(guān)聯(lián)度的大小排序。每

6、個(gè)提取出來(lái)的文檔元數(shù)據(jù)會(huì)顯示給用戶(hù)。也會(huì)包括該文檔所在的 URL地址。此外有些關(guān)于某個(gè)主題專(zhuān)門(mén)的搜索引擎，只針對(duì)某個(gè)主題的內(nèi)容來(lái)進(jìn)行檢索和處理，如此一來(lái) 信息的取全率、精準(zhǔn)度也相對(duì)會(huì)較高。當(dāng)前，圖片搜索引擎大多通過(guò)以下兩類(lèi)方法來(lái)識(shí)別圖像：自動(dòng)查找圖像檔。通過(guò)IMGSR （和HREF （ HTML標(biāo)簽）來(lái)檢查是否有可顯示的圖片文 件，IMGSRC表達(dá)的是“顯示下面的圖像文件”，導(dǎo)向嵌入式的圖片；HREF則是用來(lái)表示“下面是一個(gè)鏈接”，導(dǎo)向被鏈接的圖片。引擎通過(guò)檢查擴(kuò)展名來(lái)判斷這個(gè)導(dǎo)向是否是圖片 文件，假若文件擴(kuò)展名是.png、.jpg、.gif等，則說(shuō)明是一個(gè)可顯示的圖片文件。（2）人工干預(yù)找出

7、圖片。進(jìn)行歸類(lèi)，靠人工對(duì)網(wǎng)上的圖像及站點(diǎn)進(jìn)行篩選。這類(lèi)方法可產(chǎn)生精準(zhǔn)的查詢(xún)體系，可是勞動(dòng)強(qiáng)度過(guò)大，因此處理圖像的數(shù)量有限。由于圖像與文本不同，要人們按照自身的理解來(lái)說(shuō)明其蘊(yùn)含的意義，比文字更趨于感性。因此 對(duì)于計(jì)算機(jī)，圖像檢索的難度比文本的查詢(xún)的難度要高出很多。1.2.2 圖像搜索引擎檢索途徑.關(guān)鍵詞檢索傳統(tǒng)圖像檢索技術(shù)是靠關(guān)鍵字精確的匹配來(lái)檢索，即輸入關(guān)鍵字，輸出圖片。它包括兩種途徑：（1）基于圖片外部信息進(jìn)行搜索。即依據(jù)圖片的文件名、目錄名、路徑名、以及圖像周?chē)谋?的信息等等外部信息來(lái)進(jìn)行檢索，這是當(dāng)前圖片搜索引擎使用最多的方法。當(dāng)找到圖像文件后，搜 索引擎通過(guò)查看文件名或者路徑名來(lái)確定

8、文件內(nèi)容，當(dāng)然也可以通過(guò)查看圖片標(biāo)題來(lái)匹配檢索關(guān)鍵 詞。（2）基于手工標(biāo)注的檢索。通過(guò)手工對(duì)圖像的內(nèi)容（如顏色對(duì)比、反差、景深等）進(jìn)行描述和分 類(lèi)，將圖像標(biāo)注為一系列關(guān)鍵字，并且建立索引。檢索時(shí)，將主要在這些關(guān)鍵詞中搜索用戶(hù)輸入的 關(guān)鍵字。這種查詢(xún)方法是比較準(zhǔn)確的，大都可以獲得蠻好的查準(zhǔn)率，但是需人工參加，勞動(dòng)強(qiáng)度 高，因此限制了可處理圖像的數(shù)量。此外，由于圖片 所包含的信息量很龐大，不同類(lèi)型用戶(hù)對(duì)同一 張圖片的看法又不盡相同，就像一萬(wàn)個(gè)讀者有一萬(wàn)個(gè)哈姆雷特一般，從而導(dǎo)致了對(duì)圖像標(biāo)注缺乏統(tǒng) 一標(biāo)準(zhǔn)。.圖像可視屬性檢索基于圖像內(nèi)容的搜索主要是由圖片分析軟件自動(dòng)提取圖片的顏色、類(lèi)型等特征，從而建立

9、特征 數(shù)據(jù)庫(kù)，其輸入的弱國(guó)為用戶(hù)要查找圖片的大致特征或示例，則通過(guò)一定相似匹配規(guī)則，輸出為與 該圖片具有相近特征的圖片，按相似的程度來(lái)排列，以供用戶(hù)選擇，從而解決了在傳統(tǒng)圖像檢索技 術(shù)中一般用戶(hù)難以完成的圖像特征描述、提取與識(shí)別等難題。這是基于圖片本身特征的檢索，適用于檢索明確目標(biāo)的查詢(xún)要求，可是目前這種較為成熟的檢 索技術(shù)主要是應(yīng)用于圖片數(shù)據(jù)庫(kù)檢索。在圖片搜索引擎中應(yīng)用這類(lèi)檢索技術(shù)還有困難，但是有部 分圖像搜索引擎開(kāi)始嘗試使用這種檢索方法。1.2.3對(duì)幾個(gè)基本引擎的簡(jiǎn)單分析(1)lnfoSeek是一個(gè)簡(jiǎn)單而又功能強(qiáng)大的索引，它的優(yōu)點(diǎn)是有面向主題搜索而且可擴(kuò)展的分 類(lèi)?？梢园阉阉麝P(guān)鍵字和相似的

10、分類(lèi)目錄主題短語(yǔ)互相作為參照，而且那些主題短語(yǔ)會(huì)自動(dòng)加入到 你的查詢(xún)中。使你的檢索有更好的主題相關(guān)性。以此同時(shí)它也支持對(duì)圖片的查詢(xún)。能夠漫游 Web Usenet、Usenet FAQs等等。不過(guò)不支持布爾操作，但可以使用和。AltaVista是個(gè)大容量的，基于機(jī)器人索引的搜索引擎。能夠幫你在萬(wàn)維網(wǎng)上搜索你所需的 網(wǎng)頁(yè)，文本，圖像，視頻音頻。AltaVista支持多種語(yǔ)言和簡(jiǎn)單的自然語(yǔ)言搜索查詢(xún)。AltaVista 覆蓋面約為萬(wàn)維網(wǎng)上可索引的網(wǎng)頁(yè)之30%Scour自稱(chēng)是第一個(gè)基于web的多媒體搜索引擎。嚴(yán)格講，它并非是個(gè)圖像搜索引擎，但 是可以將檢索局限在圖像搜索上。Scour工作原理是在文件

11、名、路徑名、ALT標(biāo)簽中搜索關(guān)鍵詞。主要使用關(guān)鍵詞搜索，可以 用符號(hào)“或”-”來(lái)增加、排除關(guān)鍵詞，使用較少關(guān)鍵詞會(huì)更有效。在高級(jí)模式中，可以將檢索結(jié)果圖像鎖定在GIF、PNG JPEG等格式中。檢索結(jié)果顯示簡(jiǎn)圖、圖像類(lèi)型(如 GIF、JPG、大小、最后查找日期、檢索詞匹配數(shù)量、標(biāo)引使用關(guān)鍵詞、成功下載可靠程度等，并 且同時(shí)給出圖像文件的URL和源站點(diǎn)URL主要缺點(diǎn)是標(biāo)引的深度太淺，查準(zhǔn)率比較低，但查全率比較好。(4)Amazing Picture Machine 是由NCRTE開(kāi)發(fā)的一個(gè)“真人工建立完全關(guān)鍵詞式索引”。最大特點(diǎn)就是人工干預(yù)，關(guān)鍵詞檢索是其主要的檢索手段。Amazing Pict

12、ure Machine搜索的結(jié)果顯示一個(gè)簡(jiǎn)短標(biāo)題、有關(guān)圖像說(shuō)明、文件大 小、文件 類(lèi)型以及象素多少等，但是不顯示簡(jiǎn)圖。單擊標(biāo)題可以得到原圖像，但需由該URL回溯才可找出源 站點(diǎn)。由于是人工干預(yù)檢索過(guò)程，查準(zhǔn)率極好，但事物的作用是相對(duì)的，人工干預(yù)也限制了它的查全 率。它檢索范圍很有限，只包括web上人工選擇的部分站點(diǎn)。(5)Lycos對(duì)所收錄圖像進(jìn)行了非常詳盡的內(nèi)容描述，并且支持短語(yǔ)檢索，從而使得其查準(zhǔn) 率獲得很大提高。它根據(jù)文件的擴(kuò)展名識(shí)別圖像，在描述詞、文件名、目錄名、ALT字段中查詢(xún)到 檢索詞。結(jié)果顯示信息非常豐富，包括簡(jiǎn)圖、圖像大小、最后檢索的日期、圖像文件名、圖像內(nèi)容 的描述詞、圖像所

13、在頁(yè)面等。點(diǎn)擊簡(jiǎn)圖可以得到原圖以及更多的信息，如著作權(quán)人和版權(quán)信息的 相關(guān)圖像。比較而言其檢索效果很好，速度也快。.4搜索引擎基本要點(diǎn)(1)索引文檔容量：當(dāng)今最大的搜索引擎有可能包含超100,000,000個(gè)的鏈接，但是這個(gè)也 只是整個(gè)Web網(wǎng)上很小的一部分。因?yàn)槭占Y料的機(jī)器人，只可以從已知的鏈接開(kāi)始收集網(wǎng)頁(yè)數(shù) 據(jù)，只有小部分Web網(wǎng)頁(yè)和這些已知的網(wǎng)頁(yè)有鏈接；現(xiàn)在為止還沒(méi)有一個(gè)搜索引擎可以隨網(wǎng)頁(yè)內(nèi) 容的更新而比較及時(shí)地更新索引；(2)覆蓋面：地理上的覆蓋面和主題的覆蓋面；(3)索引更新頻率：不同類(lèi)型的搜索引擎，索引更新頻率相差非常大，有的是幾月，有的是一 年。索引更新頻率一般有兩種定義，一種

14、用的比較少的定義是新的網(wǎng)頁(yè)能被收進(jìn)索引數(shù)據(jù)庫(kù)中，另 外一種是同一頁(yè)多長(zhǎng)時(shí)間才會(huì)被檢查一次，有必要時(shí)會(huì)更新索引。有的搜索引擎會(huì)對(duì)時(shí)常更新的網(wǎng) 頁(yè)和訪問(wèn)人數(shù)多的網(wǎng)頁(yè)進(jìn)行更加頻繁的重建索引；(4)采集過(guò)程：采集可分為寬度優(yōu)先、深度優(yōu)先兩種算法；一般認(rèn)為寬度優(yōu)先對(duì)擴(kuò)大內(nèi)容覆蓋 面有幫助，深度優(yōu)先算法可以提供更多細(xì)節(jié)資料；(5)索引算法：有的搜索引擎只會(huì)處理元標(biāo)記和一小部分文檔內(nèi)容，而另外有一些搜索引擎則 是會(huì)對(duì)全文進(jìn)行索引；(6)結(jié)果顯示：有的搜索引擎只會(huì)顯示網(wǎng)頁(yè)標(biāo)題，有些的話(huà)則有更詳細(xì)的一些信息，比如說(shuō)網(wǎng) 頁(yè)的內(nèi)容，更新日期等；(7)查詢(xún)算法：一個(gè)優(yōu)秀的查詢(xún)算法是非常重要的，最基本的布爾查詢(xún)，短語(yǔ)查

15、詢(xún)，有些搜索 引擎還會(huì)提供指定屬性的查詢(xún)，比如說(shuō)可以指定對(duì)網(wǎng)頁(yè)作者、主題進(jìn)行查詢(xún)。另外有些搜索引擎還 采用了相關(guān)度的反饋、概念查詢(xún)等算法；(8)用戶(hù)界面：大多數(shù)搜索引擎都提供了簡(jiǎn)單和高級(jí)查詢(xún)兩個(gè)界面。并有必要的幫助和示范。 1.3圖像檢索的發(fā)展方向圖像檢索技術(shù)給了用戶(hù)一個(gè)在互聯(lián)網(wǎng)上搜索感興趣圖片資源的有效手段， 依靠文本和依靠?jī)?nèi)容是圖像檢索發(fā)展的兩個(gè)分支，不過(guò)從當(dāng)前圖像檢索研究的趨勢(shì)來(lái)看，尤其是 結(jié)合網(wǎng)絡(luò)環(huán)境下圖片的特征一一嵌入在具有文本內(nèi)容的Web文檔中，出現(xiàn)了三個(gè)不同的研究著重點(diǎn)。(1)基于文本的檢索研究依靠文本，對(duì)圖像進(jìn)行檢索。試圖把傳統(tǒng)的文本檢索技術(shù)用于對(duì)多媒 體信息的檢索上，因?yàn)榛?/p>

16、文本的檢索技術(shù)發(fā)展已經(jīng)很成熟。如網(wǎng)頁(yè)排名方法、位置方法、概率方法、摘要方 法、詞性標(biāo)注法、分類(lèi)或聚類(lèi)方法等，不僅技術(shù)發(fā)展比較成熟，同時(shí)分析和實(shí)現(xiàn)的難度比較小小。 但是由于受控詞匯本身的局限，容易產(chǎn)生歧義，更新慢，所以不太好應(yīng)對(duì)網(wǎng)絡(luò)上日新月異的各類(lèi)圖 像。(2)基于內(nèi)容的檢索研究依靠于圖像內(nèi)容，對(duì)圖片進(jìn)行分析和檢索。相對(duì)而言，盡管圖像檢索 已經(jīng)出現(xiàn)了諸如直方圖、顏色矩等多種表征圖像特點(diǎn)的方法，但是如果要突破對(duì)低層次特征的分析，實(shí)現(xiàn)更加高 語(yǔ)義上的檢索，實(shí)現(xiàn)難度比較大，進(jìn)展緩慢。但是，基于內(nèi)容的圖像檢索建立在多媒體信息內(nèi)容語(yǔ) 義上，可以更為客觀地反映媒體本質(zhì)的特征。(3)基于文本內(nèi)容結(jié)合的檢索研究

17、融合文本和內(nèi)容，二者雖然側(cè)重不同但卻互相補(bǔ)充。假如能 將二者結(jié)合起來(lái)取長(zhǎng)補(bǔ)短，則網(wǎng)絡(luò)圖像檢索技術(shù)必然有新的進(jìn)展?，F(xiàn)有的圖像搜索引擎在信息的自動(dòng)加工和標(biāo)引方面都有 提高空間，需要開(kāi)發(fā)出計(jì)算機(jī)自動(dòng)識(shí)別、標(biāo)引圖像的算法和技術(shù)，用以完善現(xiàn)有的檢索功能，并與 已有成熟的圖像庫(kù)檢索技術(shù)相融合，這是今后需要研究的一個(gè)課題。并且，圖像庫(kù)檢索技術(shù)也應(yīng)當(dāng) 面向網(wǎng)絡(luò)，利用網(wǎng)絡(luò)技術(shù)進(jìn)行改造，提供新的萬(wàn)維網(wǎng)訪問(wèn)界面以代替原來(lái)的應(yīng)用系統(tǒng)界面。同時(shí)把 巨大的圖像庫(kù)資源利用網(wǎng)絡(luò)實(shí)現(xiàn)共享(4)對(duì)基于內(nèi)容編碼技術(shù)的研究可以這么說(shuō)，三個(gè)方向都是相互影響相互促進(jìn)的，任何一個(gè)方 向的進(jìn)展都能夠促進(jìn)圖像檢索技術(shù)向前精進(jìn)一步。當(dāng)今，國(guó)際上

18、還沒(méi)有通用基于內(nèi)容的編碼標(biāo)準(zhǔn)。20世紀(jì)90年代初，國(guó)際上就已經(jīng)開(kāi)始對(duì)基 于內(nèi)容的圖像信息檢索這一方面的研究。從最基本的顏色檢索，到綜合利用多 種圖像特征進(jìn)行檢 索，很多原型系統(tǒng)已經(jīng)推出，其中，有部分已投入到實(shí)際應(yīng)用中以檢驗(yàn)其有效性。與此同時(shí)， MPEG標(biāo)準(zhǔn)作為基于內(nèi)容的多媒體編碼標(biāo)準(zhǔn)也正在規(guī)劃制定當(dāng)中，將要成為國(guó)際標(biāo)準(zhǔn)中的一員。 所以，應(yīng)盡快對(duì)MPEG-7標(biāo)準(zhǔn)進(jìn)行研究，分析其編碼的性質(zhì)，在此基礎(chǔ)上進(jìn)一步研究基于內(nèi)容檢 索的系統(tǒng)，使我國(guó)基于內(nèi)容的圖像檢索能夠盡快走向?qū)嶋H應(yīng)用的階段。(5)對(duì)用戶(hù)查詢(xún)接口的研究這涉及到用戶(hù)對(duì)圖像內(nèi)容感知表達(dá)、交互方式設(shè)計(jì)、用戶(hù)要如何形 成并提交查詢(xún)等方面?，F(xiàn)代多媒體

19、信息系統(tǒng)一個(gè)重要的特征就是信息獲取過(guò)程中的可交互性，人在 系統(tǒng)中是主導(dǎo)地位。除開(kāi)提供示例和描繪查詢(xún)基本接口以外，用戶(hù)的查詢(xún)接口應(yīng)當(dāng)提供豐富 的交 互能力，使用戶(hù)在主動(dòng)的交互過(guò)程中表達(dá)對(duì)圖像語(yǔ)義的感知，調(diào)整查詢(xún)參數(shù)及其組合，最終能夠獲 得滿(mǎn)意的查詢(xún)結(jié)果。用戶(hù)的查詢(xún)接口應(yīng)該是簡(jiǎn)單直觀易用的，底層特征選擇對(duì)用戶(hù)是透明的。這 里會(huì)涉及到如何把用戶(hù)的查詢(xún)表達(dá)轉(zhuǎn)換成可以執(zhí)行檢索的特征矢量，如何從交互過(guò)程中獲取用戶(hù)的 內(nèi)容感知，方便選擇合適的檢索特征等問(wèn)題。一個(gè)優(yōu)秀的搜索引擎必須能夠處理以下幾個(gè)問(wèn)題：(1)網(wǎng)頁(yè)分類(lèi)(2)自然語(yǔ)言處理(3)搜索策略調(diào)度和協(xié)作(4)面向特定用戶(hù)搜索。所以，現(xiàn)在有很多的網(wǎng)絡(luò)檢索工

20、具，就是說(shuō)搜索引擎使用了智能的檢 索手段用來(lái)增強(qiáng)它的檢索能力，而圖片檢索正是其中的一大塊內(nèi)容。隨著網(wǎng)上多媒體的越來(lái)越廣泛應(yīng)用，對(duì)圖像的檢索需求將會(huì)越迫切。未來(lái)的圖像檢索技術(shù)將是 網(wǎng)絡(luò)技術(shù)和基于內(nèi)容的圖像庫(kù)檢索技術(shù)的融合。隨著多媒體信息處理技術(shù)的日趨發(fā)展和深化，圖 像信息加工、處理和檢索標(biāo)準(zhǔn)的陸續(xù)出臺(tái)，網(wǎng)上的圖像檢索技術(shù)也會(huì)日趨完善，而圖像搜索引擎也 將成為網(wǎng)絡(luò)新寵。第二章 基于Web的圖像搜索在網(wǎng)絡(luò)技術(shù)和計(jì)算機(jī)技術(shù)迅猛發(fā)展、多媒體應(yīng)用愈發(fā)普及 的現(xiàn)在，圖像檢索和圖像應(yīng)用已成了當(dāng)今網(wǎng)頁(yè)中不可缺少的一個(gè)重要部分。在能夠?qū)崿F(xiàn)對(duì)網(wǎng)頁(yè)中 文本信息提取的同時(shí)，如何再為用戶(hù)抽取所需的圖片資料是信息檢索中一個(gè)

21、值得研究的問(wèn)題?，F(xiàn)有 的檢索技術(shù)基于關(guān)鍵詞匹配進(jìn)行檢索，往往存在查不全、查不準(zhǔn)、檢索質(zhì)量不高的現(xiàn)象，特 別是在網(wǎng)絡(luò) 信息時(shí)代，利用關(guān)鍵詞匹配很難滿(mǎn)足人們檢索的要求。當(dāng)然現(xiàn)在的人們也可以利用圖像的內(nèi)容特征 去搜索所需的圖片信息，但現(xiàn)在這項(xiàng)技術(shù)就是到現(xiàn)在也還不夠成熟，其搜索效率還是不能令人滿(mǎn)O如今在Web中處理圖像檢索有很多成熟的技術(shù)，如基于Web的數(shù)據(jù)倉(cāng)庫(kù)、Web數(shù)據(jù)挖掘、 Web數(shù)據(jù)源集成技術(shù)等。為此，必須為Web建立適當(dāng)?shù)臄?shù)據(jù)模型，利用數(shù)據(jù)模型有效地從Web 中獲取信息。為了處理Web的中文數(shù)據(jù)，還必須使用一系列中文自然語(yǔ)言處理技術(shù)。比較基礎(chǔ)的 技術(shù)有自動(dòng)分詞、人名和機(jī)構(gòu)名的自動(dòng)識(shí)別、自動(dòng)標(biāo)

22、引等，其他像信息抽取、自動(dòng)文摘、文檔自動(dòng) 分類(lèi)、中文概念詞的自動(dòng)發(fā)現(xiàn)以及概念詞之間的語(yǔ)義關(guān)系的確定等技術(shù)都必不可少。實(shí)現(xiàn)上述技術(shù) 需要扎實(shí)的積累和自然語(yǔ)言處理功底。而如何利用現(xiàn)有成熟的傳統(tǒng)的圖片檢索手段，研究出快捷方便而且能迅速提高檢索效率的方 法，本文將依據(jù)現(xiàn)有的搜索引擎和檢索手段的研究找到網(wǎng)頁(yè)中文本與圖像之間的內(nèi)在特點(diǎn)和聯(lián) 系，改進(jìn)原有的文本搜索使用的模式和方法，提出新的文本相似的匹配算法，并引入檢索的反饋技術(shù)，把這些技術(shù)引入到圖像檢索中，使得搜索手段更易于實(shí)現(xiàn)和提高檢索效率。文本與圖像之間的關(guān)系在文本檢索中，搜索引擎主要考慮Web頁(yè)中相關(guān)文字信息以及它的語(yǔ)義，這些文本信息反映 出網(wǎng)頁(yè)的內(nèi)

23、容，但不完全與網(wǎng)頁(yè)中圖片的內(nèi)容一致。在HTML網(wǎng)頁(yè)中，根據(jù)HTML語(yǔ)言的格式， 捕獲反映圖片信息的文字信息，分析這些文本的語(yǔ)義具有重要的意義。如在HTML文檔中 標(biāo)記以及其周?chē)奈淖中畔?，與網(wǎng)頁(yè)中的插圖的內(nèi)容有著密切的聯(lián)系。表示圖像內(nèi)容的文本標(biāo)記為了能識(shí)別嵌入網(wǎng)頁(yè)中圖片的內(nèi)容，必須仔細(xì)檢索HTML文檔中能反映出圖像內(nèi)容的標(biāo)記與其中的文本。經(jīng)過(guò)對(duì) HTML網(wǎng)頁(yè)格式的分析與對(duì)大量實(shí)際網(wǎng)頁(yè)的研究，可知以下幾個(gè)方面的標(biāo)記與文本和圖像內(nèi)容有著最為密切的聯(lián)系。(1)圖像的說(shuō)明，這些文本出現(xiàn)在圖像的周?chē)?，用一句過(guò)多句話(huà)表示出圖像的內(nèi)容，當(dāng)圖像被置于表格中時(shí)，同一 單元或相鄰單元格內(nèi)的文字也常用與表示圖像的含

24、義。(2)圖像的標(biāo)題，通常用一個(gè)關(guān)鍵詞表示圖像信息。(3)圖像的標(biāo)簽，使用一段短語(yǔ)說(shuō)明圖片的摘要信息，圖片無(wú)法顯示時(shí)用標(biāo)簽的文本取代圖片，顯示摘要信息。(4)網(wǎng)頁(yè)的標(biāo)題，該標(biāo)題反映出網(wǎng)頁(yè)的中心內(nèi)容，作為表現(xiàn)網(wǎng)頁(yè)內(nèi)容的圖片與網(wǎng)頁(yè)的標(biāo)題之間也有著一定的聯(lián) 系。以上討論的是HTML中文檔和嵌入網(wǎng)頁(yè)中圖像文本信息的關(guān)系，當(dāng)然還存在其他的文本與多媒體信息和圖像有關(guān)。但是作為搜索引擎要考慮的方面，既要保證抽取信息的準(zhǔn)確性，也要兼顧程序執(zhí)行中時(shí)間、空間的復(fù) 雜度。過(guò)多地引入與圖像關(guān)系不是十分緊密的內(nèi)容作為檢索的依據(jù)，會(huì)引入檢索時(shí)的躁聲干擾，降低搜索效率。文本的權(quán)值比較以上討論了網(wǎng)頁(yè)中對(duì)圖像信息的描述，在圖像

25、的檢索中，首先是要建立描述圖片內(nèi)容特征的查 詢(xún)語(yǔ)句，然后比較、區(qū)分描述信息與查詢(xún)語(yǔ)句之間的異同，獲取需要檢索的圖像。但以上信息在對(duì) 圖像描述時(shí)側(cè)重于不同角度，同時(shí)與圖像信息的聯(lián)系程度也不一樣。圖像標(biāo)題和網(wǎng)頁(yè)標(biāo)題是簡(jiǎn)單的 詞條，兩者中相對(duì)來(lái)說(shuō)圖像標(biāo)題更接近圖像的主題內(nèi)容。圖像的標(biāo)簽和圖像的說(shuō)明是文本信息對(duì)圖 像內(nèi)容的描述，后者相對(duì)來(lái)說(shuō)更為詳細(xì)。所以在比較、區(qū)分各類(lèi)文本信息以決定是否符合檢索要求 時(shí)，它們所占的權(quán)值應(yīng)該是有所不同的。根據(jù)信息的重要程度，他們所占的權(quán)值大小按次序如下：Image Capti onl mage Titlelmage Alter natePage Title圖像信息檢索W

26、eb搜索引擎使用何種檢索模型，它所提供檢索質(zhì)量將會(huì)直接影響到檢索效果?，F(xiàn)在使用較 多的為布爾檢索模型、概率檢索模型、概率推理網(wǎng)絡(luò)模型和向量空間模型。這里采用的為近年來(lái)使 用較多且效果較好的一種信息檢索模型：向量空間模型。檢索模型與相似度在用向量空間模型進(jìn)行檢索的時(shí)候，首先會(huì)把描述網(wǎng)頁(yè)中的圖片的文字信息看作是有序的詞條序列，這樣把以上歸納的信息分別稱(chēng)為：ICW ITW, IAW PTW在應(yīng)用模型時(shí)，我首先 要將這些信息向量化，把文檔映射為一個(gè)特征向量V(d) = (tb3 l(d)；tn, 3n(d)，其中 ti(i=1,2,n)為一列互不雷同的詞條項(xiàng)，3 i(d)為t在d中的權(quán)值,一般被定義為

27、t在d中出現(xiàn)頻率tf 3)的函數(shù)，即八他明在信息檢索中常用的詞條權(quán)值計(jì)算方法為T(mén)F-IDF函數(shù)N4J=tf i(d H log() n i其中N為所有文檔的數(shù)目，品為含有詞條t的文檔數(shù)目。TF4DF公式有很多變種，下面是一個(gè)常 用的TF-IDF公式：tfd)log(0.1)i(d) n 2 2 N廠(tfi(d) log (-5.1)1 yrii根據(jù)公式，文檔集中包含某一詞條的文檔越多，說(shuō)明它區(qū)分文檔類(lèi)別屬性的能力越低，其權(quán)值 越?。涣硪环矫?，某一文檔中某一詞條出現(xiàn)的頻率越高，說(shuō)明它區(qū)分文檔內(nèi)容屬性的能力越強(qiáng)，其 權(quán)值越大。兩文檔之間的相似度可以用其對(duì)應(yīng)的向量之間的夾角余弦來(lái)表示，即文檔相似度

28、可以表示為, k(dj k(d j)Sim (di, d j)二 cos j-j n 2n 2Jc r(di)(k(dj)V k-1kJ進(jìn)行查詢(xún)的過(guò)程中，先將查詢(xún)條件Q進(jìn)行向量化，主要依據(jù)布爾模型：當(dāng)t在查詢(xún)條件Q中時(shí)，將對(duì)應(yīng)的第i坐標(biāo)置為1，否則置為0,即*1 tj Q少昭也就是說(shuō)當(dāng)兩詞條完全相同時(shí)，這一項(xiàng)為1，其余情況為0?？梢钥闯鑫臋n含有完全相同的詞條 時(shí)，相似度=1 ；而其中無(wú)相同時(shí)的詞條時(shí)，相似度=0。從而文檔d與查詢(xún)Q的相似度為 nz 國(guó) (d ) x q Sim (Q,d)、/ n n22(二(d)(二 %)i Ji=1根據(jù)文檔之間的相似度，結(jié)合機(jī)器學(xué)習(xí)的一些算法如神經(jīng)網(wǎng)絡(luò)算法，

29、K近鄰算法和貝葉斯分類(lèi)算法等，可以將文檔集分類(lèi)劃分為一些小的文檔子集。在查詢(xún)過(guò)程中，可以計(jì)算出每個(gè)文檔與查詢(xún)的相似度，進(jìn)而可以根據(jù)相似度的大小，將查詢(xún) 的結(jié)果進(jìn)行排序。向量空間模型能夠?qū)崿F(xiàn)文檔自動(dòng)的分類(lèi)和對(duì)查詢(xún)結(jié)果的相似度排列，可以有效提高檢索效率旦它的缺點(diǎn)是相似度的計(jì)算量大，每當(dāng)有新文檔加入時(shí)，就必須重新計(jì)算詞的權(quán)值。2.2.2分詞技術(shù)和匹配方法.常用的切詞算法如下：(1)最大正向匹配法基本思想是：設(shè)D為詞典，MAX表示D中的最大詞長(zhǎng)，str為待切分的字串。它是每次從 str中取長(zhǎng)度為MAX勺子串與D中的詞進(jìn)行匹配。若成功，則該子串為詞，指針后移MA)個(gè)漢字 后繼續(xù)匹配，否則子串逐次減一進(jìn)行

30、匹配。(2)逆向最大匹配法它的基本原理與前面的相同，不同的是分詞的掃描方向，它是從右至左取子串進(jìn)行匹配。統(tǒng) 計(jì)結(jié)果表明，單純使用正向最大匹配的錯(cuò)誤率為1/169，單純使用逆向最大匹配的錯(cuò)誤率為1/245，它切分的準(zhǔn)確率上比正向匹配法有很大提高。（3）基于詞頻的統(tǒng)計(jì)方法統(tǒng)計(jì)方法一般不依賴(lài)于詞典，而是將原文中任意前后緊鄰的兩個(gè)字作為一個(gè)詞進(jìn)行出現(xiàn)頻率 的統(tǒng)計(jì)，出現(xiàn)的次數(shù)越高，成為一個(gè)詞的可能性也就越大。在頻率超過(guò)某個(gè)預(yù)先設(shè)定得閾值時(shí)， 就將其作為一個(gè)詞進(jìn)行索引。這種方法能夠有效地提取出未登錄詞。.匹配方法：（1）詞典存儲(chǔ)格式：首先對(duì)存儲(chǔ)形式進(jìn)行建模，結(jié)構(gòu)是3層樹(shù)形結(jié)構(gòu)，如下一-AiAiBi（fji

31、）-AA1B2 （t,r）Fi-A3AiCi（t,r）Q-AiDi（t,rr） GHi HARiTiAr一層存儲(chǔ)所有單字。第二層保存所有的雙字詞和多字詞的前兩個(gè)字（因?yàn)椋苍S會(huì)出現(xiàn)ABC為 詞，但AB不是詞的情況），并對(duì)兩者做不同標(biāo)記（t/f）。每一個(gè)可成詞的單字對(duì)應(yīng)一系列第二 層結(jié)點(diǎn)，用來(lái)存儲(chǔ)所有以該字為詞首的雙字（包括上述兩種情況）。并且，在這里，針對(duì)每一個(gè)雙字，需要記錄以該雙字為詞首的所有詞的最大長(zhǎng)度，實(shí)際中，可以保存除 去該雙字部分的最大長(zhǎng)度（記為n）。第三層存儲(chǔ)以某一雙字為首的所有詞。為了減少存儲(chǔ)空 間，只存儲(chǔ)除去該雙字以外的部分（如上圖所示）。每一層各結(jié)點(diǎn)需按某種次序排列，可使用h

32、ash、二分查找等方法進(jìn)行查詢(xún)。采用這種層次的存儲(chǔ)結(jié)構(gòu)，可以很快把查 詢(xún)?cè)~的工作縮小到一個(gè)很小的范圍內(nèi)，有利于分詞效率的提高。（2）匹配方法由于詞庫(kù)中的最大詞長(zhǎng)通常大于所切分出的詞長(zhǎng)，為了提高切分的效率，不采用逐次減一個(gè) 字的方法，而是使用正向逐一增長(zhǎng)的方法。假設(shè)對(duì)一個(gè)句子CC2進(jìn)行分詞處理，算法描述如下：1）兩個(gè)字（開(kāi)始時(shí)為CC2），在詞典中查詢(xún)GC2是否存在2）不存在，則C為單字詞，一次分詞結(jié)束，返回1。3）存在，判斷CC2是否為詞，并從詞典中獲取該詞下層節(jié)點(diǎn)漢字的最大長(zhǎng)度，設(shè)為n4）若n=0，一次分詞結(jié)束，保存結(jié)果。5）否貝【，i=2，轉(zhuǎn)6）。6 ） i=i+1 , 若 i=n+3，轉(zhuǎn)

33、8）；否則，轉(zhuǎn) 7）。7） 再取一個(gè)字（此處為C），判斷第三層中是否有以GC開(kāi)始的字（不需要恰好匹 配，只要匹配開(kāi)始的i個(gè)字就可以了）。8）若存在，分詞結(jié)束，返回最近一次能夠恰好匹配的GG （ji），并與GQ組合成詞。如果是GQ,則根據(jù)CC2的標(biāo)記判斷是雙字詞還是分為兩個(gè)單字詞。9）否則，轉(zhuǎn)6）。（3）統(tǒng)計(jì)方法運(yùn)用由于詞典的不完全性，許多詞可能不會(huì)在字典中登錄，為了處理句子中的未登錄詞，我們?cè)?原有的算法中嵌入詞頻統(tǒng)計(jì)方法，將某些出現(xiàn)頻率較高的連續(xù)字段作為一個(gè)詞切分，我們首先對(duì) 頻度設(shè)定一個(gè)閾值f。設(shè)已對(duì)CC進(jìn)行切分，由切分算法和歧義處理算法得到CC為一個(gè)詞，GG為一個(gè)詞，C與C之間皆為單字詞

34、，即CC和CG是相鄰最近的兩個(gè) 多字詞， 則將C+iC作為一個(gè)多字詞進(jìn)行詞頻統(tǒng)計(jì)，在對(duì)文章全部切分完畢之后，若C+iGi的出現(xiàn) 次數(shù)達(dá)到f時(shí)，則將其看作一個(gè)詞，否則，將其拆分為單字詞。同時(shí)，對(duì)于相同或相近專(zhuān)業(yè)和領(lǐng)域建立起動(dòng)態(tài)詞庫(kù)，將由統(tǒng)計(jì)得到的詞不斷加入詞 庫(kù)中，可 以實(shí)現(xiàn)對(duì)詞典的動(dòng)態(tài)維護(hù)。以上通過(guò)將基于詞典的處理方法和基于頻率的統(tǒng)計(jì)方法結(jié)合起來(lái)匹配搜索運(yùn)算，不僅保證了切分速度快、精度高的優(yōu)點(diǎn)，而且能夠結(jié)合上下文，最大限度的識(shí)別人名、地名、專(zhuān)業(yè) 術(shù)語(yǔ)等未登錄詞。2.3檢索反饋因?yàn)殚_(kāi)始時(shí)的查詢(xún)語(yǔ)句常常和我們所要的圖片內(nèi)容不符合，往往使我們找不到想要的圖片，因此，許多系統(tǒng)都引入了相關(guān)的反饋，就是通

35、過(guò)選擇一些例子來(lái)作為反饋，慢慢提高檢 索的結(jié)果。參考文本信息檢索的方法，我們?cè)谙到y(tǒng)中也引入到了相關(guān)反饋用來(lái)修改用戶(hù)提交的查 詢(xún)，使得修改以后的查詢(xún)慢慢接近用戶(hù)真正需求，用來(lái)提高系統(tǒng)的性能。通過(guò)相關(guān)的反饋對(duì)用戶(hù) 提交的查詢(xún)進(jìn)行修改，使檢索的性能比原先有了提高。不過(guò)，大多數(shù)的反饋并不具備記憶能力， 每次反饋的結(jié)果只能用于本次查詢(xún)。因此我們引入語(yǔ)義網(wǎng)絡(luò)，并且把每次反饋的結(jié)果記錄到語(yǔ)義 網(wǎng)絡(luò)當(dāng)中，使系統(tǒng)的效果隨著使用次數(shù)的增多而慢慢提高。文中介紹的反饋系統(tǒng)，主要對(duì)查詢(xún)語(yǔ)句（Qi,Wi,Q2,W2，QmWm）中Wj的修改中， 查詢(xún)語(yǔ)句中對(duì)初始Wj的定義具有偏差，反饋系統(tǒng)可以適量調(diào)整Wj,使查詢(xún)語(yǔ)句（Qi

36、,Wi,Q2,W2，Qm,Wm更反映檢索目的。當(dāng)查詢(xún)到m%n哥圖片時(shí)，其中r幅圖像 與目標(biāo)相關(guān)，n幅圖像與目標(biāo)沒(méi)關(guān)系。反饋系統(tǒng)可根據(jù)用戶(hù)反饋的結(jié)果，重新生成查詢(xún) 語(yǔ)句： 其中矢量是檢索結(jié)果圖像網(wǎng)頁(yè)矢量表示，在矢量中，選擇相似度計(jì)算中有貢獻(xiàn)的分量用作反饋信息。在公式5中，通常選丫 =1 , 0 B 1 , 0 a 1 ,B與a值選取影響反饋深度，也 直接影響檢索精度。實(shí)踐表明，帶有反饋系統(tǒng)的圖像檢索系統(tǒng)要比沒(méi)有反饋的圖像檢索精度提高 10流右，且m越小，檢索精度越高在設(shè)計(jì)檢索系統(tǒng)的過(guò)程中，提供有無(wú)反饋選擇，并且在反饋系統(tǒng)中提供取值選擇。圖1榆肅精度PixidtHi與系蠡蒞的關(guān)系圖聊索精度PMki

37、阿與系S1B的關(guān)慕當(dāng)m取值比較小時(shí)，直接顯示檢索到的圖像，并讓用戶(hù)選擇是否與目標(biāo)圖像的相關(guān)性。以上都是為了改善用戶(hù)交互界面，便于反饋系統(tǒng)應(yīng)用。下面是測(cè)得如果m=1寸，檢索精度與反 饋中系數(shù)a、B之間關(guān)系的曲線(xiàn)，圖中可以得出a =0.1時(shí)檢索精準(zhǔn)度取最大值，圖2中可以得到 B在0.50.6之間時(shí)檢索準(zhǔn)確度取最大值。從圖1和圖2又可以得到，當(dāng)a = B =0無(wú)反饋的時(shí) 候檢索精準(zhǔn)度=48%當(dāng)a=0.1，8=0.5或0.6時(shí)檢索精準(zhǔn)度=61%引入反饋系統(tǒng)使檢索精度可 以提高了 13流右。為了檢驗(yàn)搜索模型，下載了含有圖像的4000多個(gè)中文網(wǎng)頁(yè)（來(lái)源于1000多個(gè)URLs），對(duì) 這些HTM文檔進(jìn)行搜索。

38、在查詢(xún)語(yǔ)句建立后，通過(guò)詞條網(wǎng)對(duì)有相同語(yǔ)義的詞條進(jìn)行擴(kuò)充，構(gòu)建 了符合查詢(xún)要求的多個(gè)IQW再分別計(jì)算出各自的相似度，依據(jù)相似 度所規(guī)定的臨界值，得出查詢(xún) 的結(jié)果。相似麼崎界值與垮索精的關(guān)系實(shí)驗(yàn)說(shuō)明了，合理地選取相似度臨界值可以保證比較高檢索精度和檢索完全度。從圖3中就 可以得出，當(dāng)相似度臨界值0.6的時(shí)候，可以保證檢索精度80%從圖4中得出，當(dāng)相似度臨界 值V0.6的時(shí)候，可以保證檢索完全度60%當(dāng)相似度臨界值取0.6的時(shí)候，本搜索模型可以保證 檢索精度 80%而檢索完全度 60%為決定ITW, IAW ICW PTV在相似度的計(jì)算中的權(quán)值，測(cè)試了從0.11.0的所有系數(shù)。最終可以得出ICW ITW, IAW PTW的權(quán)值分別為0.4、0.3、0.2、0.1時(shí)，可以比較合理 地反映出圖像和這些文本的相關(guān)性，從而保證檢索準(zhǔn)確性。結(jié)束語(yǔ)在了解了搜索引擎搜索原理公式以及反饋原理之后，我們就能夠依據(jù)其理論做出相應(yīng)的搜 索引擎，并且能作出搜索效果。但是為了更好的使用，還需要去仔細(xì)的給文檔進(jìn)行更好的分類(lèi)， 更多的對(duì)引擎進(jìn)行反饋訓(xùn)