基于支持向量機(jī)的文本分類的研究.pdf

1、統(tǒng)計(jì)學(xué)習(xí)理論作為一種專門的小樣本學(xué)習(xí)理論，在解決小樣本、非線性及高維模式識(shí)別等問題中表現(xiàn)出了許多特有的優(yōu)勢(shì)。同時(shí)，在其理論基礎(chǔ)上發(fā)展出了很多實(shí)際的學(xué)習(xí)方法。支持向量機(jī)(SVM)就是最具代表性的一個(gè)，它專門針對(duì)有限樣本情況，得到現(xiàn)有信息下的最優(yōu)解，很大程度上解決了模型選擇、過學(xué)習(xí)、非線性、維數(shù)災(zāi)難等問題。核函數(shù)方法正是在支持向量機(jī)的研究中提出并逐步得到發(fā)展的一種構(gòu)造非線性變換的方法。由于核函數(shù)的好壞直接影響著支持向量機(jī)的性能，因此有關(guān)核函

2、數(shù)的研究也就成為支持向量機(jī)研究中需要解決的核心問題之一。 本文的研究工作主要包括以下幾個(gè)方面： (1)回顧了統(tǒng)計(jì)學(xué)習(xí)理論研究的基本問題及主要內(nèi)容，介紹了支持向量機(jī)的發(fā)展和國(guó)內(nèi)外研究現(xiàn)狀，對(duì)目前存在的問題進(jìn)行了總結(jié)。 (2)結(jié)合大量的實(shí)驗(yàn)，揭示出文本的各種特征對(duì)最終分類性能的影響程度，并分析比較了不同的核函數(shù)在文本分類中的分類性能，以及各種核函數(shù)參數(shù)選擇和文本特征的聯(lián)系。為構(gòu)造適合文本分類的新的核函數(shù)、文本分類中的

3、核參數(shù)的選擇和改進(jìn)現(xiàn)有的核函數(shù)提供了很好的指導(dǎo)。 (3)在分析現(xiàn)有參數(shù)調(diào)整方法的基礎(chǔ)之上，結(jié)合文本特征，提出了一種改進(jìn)的參數(shù)調(diào)整算法，并主要應(yīng)用于徑向基核和組合核的參數(shù)調(diào)整。實(shí)驗(yàn)表明，該方法能夠有效地調(diào)整支持向量機(jī)的參數(shù)，提高支持向量機(jī)的泛化性能。 (4)研究了應(yīng)用基于樣本分布的核函數(shù)參數(shù)優(yōu)化方法解決文本分類器徑向基核函數(shù)的參數(shù)優(yōu)化問題，提出了一種簡(jiǎn)化算法，依據(jù)該算法在Rellters-21578上實(shí)現(xiàn)了文本分類器的徑向