一種基于改進(jìn)支持向量機(jī)的文本傾向性分類算法.pdf

1、文本傾向性分類對(duì)諸如輿情分析、民意調(diào)查等應(yīng)用有重要意義,支持向量機(jī)在文本傾向性分類算法中應(yīng)用廣泛。核函數(shù)是支持向量機(jī)的核心,傳統(tǒng)的高斯核函數(shù)存在著測(cè)試點(diǎn)在低維特征空間比較密集,但是映射到高維空間后卻相當(dāng)稀疏的缺點(diǎn),造成分類器泛化推廣能力不強(qiáng)。同時(shí),傳統(tǒng)高斯核函數(shù)調(diào)節(jié)參數(shù)過(guò)少,泛化推廣能力的微調(diào)效果不明顯。
　　此外,支持向量機(jī)的學(xué)習(xí)泛化推廣能力也取決于核函數(shù)的類型。傳統(tǒng)高斯核函數(shù)屬于局部性核函數(shù),學(xué)習(xí)能力強(qiáng)但泛化推廣能力弱；屬于全

2、局性核函數(shù)的多項(xiàng)式核函數(shù),學(xué)習(xí)能力弱但泛化推廣能力強(qiáng)。目前,常將傳統(tǒng)高斯核函數(shù)與多項(xiàng)式核函數(shù)組合使用,但這種方法較為依賴數(shù)據(jù)集本身的特征,容易出現(xiàn)數(shù)據(jù)偏斜現(xiàn)象。在文本傾向性分類算法中,分類器參數(shù)的選擇也是影響分類效果的重要因素。目前常用的對(duì)文本傾向性分類器參數(shù)進(jìn)行優(yōu)化的算法有交叉驗(yàn)證法、網(wǎng)格搜索算法,遺傳算法等,它們分別存在著最優(yōu)劃分問(wèn)題,經(jīng)驗(yàn)選取問(wèn)題,計(jì)算復(fù)雜、速度較慢、容易陷入局部最優(yōu)化等問(wèn)題。針對(duì)上述問(wèn)題,本文工作如下：
　

3、　●對(duì)傳統(tǒng)高斯核函數(shù)進(jìn)行了改進(jìn),改進(jìn)的高斯核函數(shù)既能在測(cè)試點(diǎn)附近有較快的衰減,同時(shí)還能夠在遠(yuǎn)處有一定的衰減。解決了文本傾向性分類的數(shù)據(jù)集在低維特征空間比較密集,映射到高維空間后稀疏的缺點(diǎn),提高了支持向量機(jī)的泛化推廣能力。實(shí)驗(yàn)表明,基于改進(jìn)高斯核函數(shù)的支持向量機(jī),相對(duì)于基于傳統(tǒng)高斯核函數(shù)支持向量機(jī),在宏平均準(zhǔn)確率、宏平均召回率、微平均準(zhǔn)確率、微平均召回率上,分別有了1.76％、1.19%、0.72%、2.17%的提高。
　　●將改進(jìn)

4、的高斯核函數(shù)、sigmoid核函數(shù)、多項(xiàng)式核函數(shù)進(jìn)行了加權(quán)組合構(gòu)造了新的核函數(shù)。該核函數(shù)在同一個(gè)測(cè)試點(diǎn)附近的不同區(qū)域,有著多個(gè)波峰和波谷,而且波峰和波谷的幅度狹窄,在遠(yuǎn)離測(cè)試點(diǎn)區(qū)域有著較為緩慢的衰減。這就提高了核函數(shù)對(duì)數(shù)據(jù)集的適應(yīng)性,同時(shí)學(xué)習(xí)能力、泛化推廣能力也獲得了提高。實(shí)驗(yàn)表明,基于改進(jìn)的加權(quán)組合核函數(shù)支持向量機(jī),比傳統(tǒng)組合核函數(shù)支持向量機(jī),在宏平均準(zhǔn)確率、宏平均召回率、微平均準(zhǔn)確率、微平均召回率上,分別有了2.30%、1.41%、

5、2.01%、2.54%的提高。
　　●使用了粒子群算法對(duì)基于改進(jìn)高斯核函數(shù)的多核支持向量機(jī)進(jìn)行了優(yōu)化,從而能夠自動(dòng)求出支持向量機(jī)的參數(shù),避免了人工調(diào)試參數(shù)的盲目性,節(jié)省了分類的時(shí)間,提高了分類的準(zhǔn)確性。實(shí)驗(yàn)表明,相對(duì)于人工設(shè)定參數(shù)法、交叉驗(yàn)證法、網(wǎng)格搜索算法、遺傳算法,在F1值上,分別有了8.95%、1.96%、2.56%、0.57%的提高。
　　●將改進(jìn)的支持向量機(jī)應(yīng)用在文本傾向性分類中,并且與相關(guān)文獻(xiàn)中采用的文本傾向性分