一種基于改進支持向量機的文本傾向性分類算法.pdf

1、文本傾向性分類對諸如輿情分析、民意調查等應用有重要意義,支持向量機在文本傾向性分類算法中應用廣泛。核函數(shù)是支持向量機的核心,傳統(tǒng)的高斯核函數(shù)存在著測試點在低維特征空間比較密集,但是映射到高維空間后卻相當稀疏的缺點,造成分類器泛化推廣能力不強。同時,傳統(tǒng)高斯核函數(shù)調節(jié)參數(shù)過少,泛化推廣能力的微調效果不明顯。
　　此外,支持向量機的學習泛化推廣能力也取決于核函數(shù)的類型。傳統(tǒng)高斯核函數(shù)屬于局部性核函數(shù),學習能力強但泛化推廣能力弱；屬于全

2、局性核函數(shù)的多項式核函數(shù),學習能力弱但泛化推廣能力強。目前,常將傳統(tǒng)高斯核函數(shù)與多項式核函數(shù)組合使用,但這種方法較為依賴數(shù)據(jù)集本身的特征,容易出現(xiàn)數(shù)據(jù)偏斜現(xiàn)象。在文本傾向性分類算法中,分類器參數(shù)的選擇也是影響分類效果的重要因素。目前常用的對文本傾向性分類器參數(shù)進行優(yōu)化的算法有交叉驗證法、網(wǎng)格搜索算法,遺傳算法等,它們分別存在著最優(yōu)劃分問題,經(jīng)驗選取問題,計算復雜、速度較慢、容易陷入局部最優(yōu)化等問題。針對上述問題,本文工作如下：
　

3、　●對傳統(tǒng)高斯核函數(shù)進行了改進,改進的高斯核函數(shù)既能在測試點附近有較快的衰減,同時還能夠在遠處有一定的衰減。解決了文本傾向性分類的數(shù)據(jù)集在低維特征空間比較密集,映射到高維空間后稀疏的缺點,提高了支持向量機的泛化推廣能力。實驗表明,基于改進高斯核函數(shù)的支持向量機,相對于基于傳統(tǒng)高斯核函數(shù)支持向量機,在宏平均準確率、宏平均召回率、微平均準確率、微平均召回率上,分別有了1.76％、1.19%、0.72%、2.17%的提高。
　　●將改進

4、的高斯核函數(shù)、sigmoid核函數(shù)、多項式核函數(shù)進行了加權組合構造了新的核函數(shù)。該核函數(shù)在同一個測試點附近的不同區(qū)域,有著多個波峰和波谷,而且波峰和波谷的幅度狹窄,在遠離測試點區(qū)域有著較為緩慢的衰減。這就提高了核函數(shù)對數(shù)據(jù)集的適應性,同時學習能力、泛化推廣能力也獲得了提高。實驗表明,基于改進的加權組合核函數(shù)支持向量機,比傳統(tǒng)組合核函數(shù)支持向量機,在宏平均準確率、宏平均召回率、微平均準確率、微平均召回率上,分別有了2.30%、1.41%、

5、2.01%、2.54%的提高。
　　●使用了粒子群算法對基于改進高斯核函數(shù)的多核支持向量機進行了優(yōu)化,從而能夠自動求出支持向量機的參數(shù),避免了人工調試參數(shù)的盲目性,節(jié)省了分類的時間,提高了分類的準確性。實驗表明,相對于人工設定參數(shù)法、交叉驗證法、網(wǎng)格搜索算法、遺傳算法,在F1值上,分別有了8.95%、1.96%、2.56%、0.57%的提高。
　　●將改進的支持向量機應用在文本傾向性分類中,并且與相關文獻中采用的文本傾向性分