一個(gè)中文文本自動(dòng)分類數(shù)學(xué)模型

1、一個(gè)中文文本自動(dòng)分類數(shù)學(xué)模型w文本自動(dòng)分類w數(shù)學(xué)模型n向量空間的數(shù)學(xué)表達(dá)n數(shù)學(xué)模型n目標(biāo)空間的相關(guān)質(zhì)量w實(shí)驗(yàn)結(jié)果文本自動(dòng)分類Automatic Text Categorization 何謂文本自動(dòng)分類：n用電腦對(duì)文本集(或其他實(shí)體或物件)按照一定的分類體系或標(biāo)準(zhǔn)進(jìn)行自動(dòng)分類標(biāo)記n基於分類體系的自動(dòng)分類n基於資訊過(guò)濾和用戶興趣(Profiles)的自動(dòng)分類文本自動(dòng)分類基於分類體系的自動(dòng)分類n所謂分類體系就是針對(duì)詞的統(tǒng)計(jì)來(lái)分類針對(duì)詞的統(tǒng)計(jì)來(lái)分類n關(guān)鍵字分類，現(xiàn)在的全文檢索n詞的正確切分不易分辨（白癡造句法）基於資訊過(guò)濾和用戶興趣的自動(dòng)分類n學(xué)習(xí)人類對(duì)文本分類的知識(shí)和策略 n從人對(duì)文本和類別之間相關(guān)

2、性判斷來(lái)學(xué)習(xí)文件用字和標(biāo)記類別之間的關(guān)聯(lián) 數(shù)學(xué)模型-向量空間的數(shù)學(xué)表達(dá)用兩個(gè)向量空間來(lái)定義和解決以來(lái)源辭彙到目標(biāo)辭彙的轉(zhuǎn)換 來(lái)源向量空間：空間維數(shù)(向量維數(shù))爲(wèi)訓(xùn)練集合中所有出現(xiàn)的字的個(gè)數(shù)或經(jīng)過(guò)篩選後的漢字個(gè)數(shù)，向量的特徵用字權(quán)值表示(加權(quán)方式稍後定義)。目標(biāo)向量空間：以類別個(gè)數(shù)作爲(wèi)目標(biāo)向量空間的維數(shù)，用類別標(biāo)識(shí)作爲(wèi)向量的特徵。數(shù)學(xué)模型-向量空間的數(shù)學(xué)表達(dá)方式1：二進(jìn)位加權(quán)(Binary Weight) 方式2：文本頻率權(quán)值(The Within Document Word Frequency,TF) aij=Tfij=在第i個(gè)文本中第j個(gè)字的出現(xiàn)頻數(shù)數(shù)學(xué)模型-向量空間的數(shù)學(xué)表達(dá)方式3：逆文件

3、頻率權(quán)值(Inverse Document Frequency,IDF) aij=IDFj=log(文本集中的文本數(shù)/出現(xiàn)第j個(gè)字的文本數(shù))+1方式4：組合加權(quán)方式：方式2和方式3的組合(TFIDF)即： aij=TFijIDFj 數(shù)學(xué)模型-向量空間的數(shù)學(xué)表達(dá)範(fàn)例訓(xùn)練集中有4篇文本共有6個(gè)字出現(xiàn)（市，和，計(jì)，算，法，教）共分教育、經(jīng)貿(mào)、法律、電腦4個(gè)類別。數(shù)學(xué)模型-向量空間的數(shù)學(xué)表達(dá)文本1： 市和計(jì)算 類別集合1=c3,c4文本2： 市和計(jì)算法 類別集合2=c2,c3,c4文本3： 教和計(jì)算法 類別集合3=c1,c4文本4： 教和市 類別集合4=c1,c3數(shù)學(xué)模型-向量空間的數(shù)學(xué)表達(dá)漢字權(quán)值（

4、）類別教5.0C1：教育和1.0C2：法律計(jì)8.1C3：經(jīng)貿(mào)算4.9C4：電腦市4.2法3.1數(shù)學(xué)模型-向量空間的數(shù)學(xué)表達(dá)矩陣A採(cǎi)用TFIDF加權(quán)方式，矩陣B採(cǎi)用二進(jìn)位加權(quán)方式矩陣矩陣數(shù)學(xué)模型-LLSF數(shù)學(xué)模型定義1：線性回歸：EY=0+1x1+pxp+e稱爲(wèi)線性回歸。其中Y爲(wèi)回應(yīng)變數(shù)，Xi,i=1,2,p爲(wèi)回歸因數(shù)，0,p爲(wèi)待估計(jì)的未知參數(shù)，e爲(wèi)隨機(jī)誤差。數(shù)學(xué)模型-LLSF數(shù)學(xué)模型定義2LLSF問(wèn)題：對(duì)於線性模型B=FA+e，求得LS估計(jì)F，使得殘差平方和最?。河脠D1給出的矩陣A和B計(jì)算出LLSF解Flxn如下它是字-類別關(guān)聯(lián)矩陣，它的列是來(lái)源空間的漢字，行是目標(biāo)空間的類別數(shù)學(xué)模型-目標(biāo)空間的相關(guān)性質(zhì)量定義3類別向量c和文本向量x的相關(guān)值是c和y的余弦值。對(duì)任意一篇文本，相關(guān)函數(shù)值給出了此文本同每一類別之間的相關(guān)性度量，相關(guān)值在-1到1之間取值，相關(guān)值最高的類相關(guān)值最高的類別被認(rèn)爲(wèi)是文本可能歸屬的類別別被認(rèn)爲(wèi)是文本可能歸屬的類別。實(shí)驗(yàn)結(jié)果通過(guò)從1990年人民日?qǐng)?bào)和1994年電腦世界報(bào)選出的電腦、經(jīng)貿(mào)、政治、教育、法