文本分類中的特征選擇研究.pdf

1、文本分類中特征選擇的目的是通過從原始特征集合中去除分類無(wú)關(guān)特征和冗余特征,以減少文本特征向量維數(shù),提高分類的效率和精度。
　　 傳統(tǒng)文本特征選擇方法通常引入特征之間的條件獨(dú)立性假設(shè),注重單一特征的評(píng)價(jià),即只考慮特征和類別之間的相關(guān)性構(gòu)造特征評(píng)價(jià)函數(shù)。然而,現(xiàn)實(shí)文本中條件獨(dú)立性多數(shù)情況下難以滿足,不同特征之間常常存在相關(guān)性,這使得特征子集中仍存在大量的冗余特征。
　　 本文采用“相關(guān)分析+冗余分析”的特征選擇研究思路,在對(duì)

2、特征分布信息進(jìn)行分析的基礎(chǔ)上,首先研究類別相關(guān)的特征選擇方法確定初始特征子集,然后考慮特征之間的相關(guān)性去除冗余特征。特征分布信息更能夠客觀地反映特征與文本、特征與類別之間的關(guān)聯(lián)性。本文從對(duì)三種特征分布信息概念進(jìn)行定義出發(fā),分析并量化三種特征分布信息的可能因素以及它們之間的關(guān)系,分析特征分布信息與特征相關(guān)、特征冗余之間的關(guān)系,提出了基于特征分布差異性的特征類別貢獻(xiàn)評(píng)價(jià)方法,以及基于特征分布相似性的特征冗余評(píng)價(jià)方法。通過公共數(shù)據(jù)集進(jìn)行實(shí)驗(yàn)驗(yàn)