文本分類中的貝葉斯特征選擇.pdf

1、由于人們獲取電子文檔的能力不斷增強(qiáng)，管理這些文檔的需求也不斷增加，人們對文本自動分類，即將文本自動分入預(yù)先定義的類別結(jié)構(gòu)中的興趣正迅速高漲.而文本分類中的一個重要問題就是特征選擇，其目的是改善分類效果、提高計(jì)算效率、或者兩者兼得.由于現(xiàn)實(shí)中的文本數(shù)據(jù)集往往存在著類別不均衡性以及特征稀疏性等特點(diǎn)，因此通過衡量特征與類別結(jié)構(gòu)關(guān)系的不同側(cè)面來判斷各個特征的類別性質(zhì)的過濾式方法會表現(xiàn)得比較差.此外，它們要么僅僅選擇與類別相關(guān)的特征，要么在選擇相

2、關(guān)特征之后添加一個冗余性分析步驟.顯然，這樣的方法是會丟失具有交互作用的特征的.
　　本文將特征選擇放在訓(xùn)練的過程中，通過學(xué)習(xí)的方法從一個帶標(biāo)簽的文檔集中學(xué)習(xí)類別結(jié)構(gòu)屬性，進(jìn)而選擇出最優(yōu)的特征子集.給出了一個生成模型，通過引入一個兩值“排除/包含”的潛在向量來處理特征選擇問題，最后使用一個高效的Metropolis搜索的方法來更新這個潛在向量.用邊來刻畫特征之間的相互關(guān)系，定義特征與類別的相關(guān)性.最后，將特征選擇問題轉(zhuǎn)換成了一個優(yōu)