基于支持向量機(jī)的多類文本分類研究.pdf

1、隨著計(jì)算機(jī)信息技術(shù)的高速發(fā)展，英特網(wǎng)上的電子文檔信息急劇增加，如何對(duì)大量文本信息進(jìn)行挖掘，尤其是按照預(yù)先定義好的語(yǔ)義對(duì)它們進(jìn)行正確的類別判斷，已經(jīng)成為組織管理大量文本信息的一個(gè)重要問(wèn)題，它就是文本挖掘中很關(guān)鍵的一類任務(wù)——文本分類。支持向量機(jī)(Support Vector Machine，SVM)是由Vapnik等人在上世紀(jì)九十年代提出的一種建立在統(tǒng)計(jì)學(xué)習(xí)理論基礎(chǔ)之上的模式識(shí)別方法，是借助于最優(yōu)化方法解決機(jī)器學(xué)習(xí)問(wèn)題的新工具。SVM集成

2、了稀疏解、最大間隔超平面、松弛變量、Mercer核和凸二次規(guī)劃等技術(shù)。由于支持向量機(jī)具有結(jié)構(gòu)簡(jiǎn)單、全局最優(yōu)、推廣能力強(qiáng)等優(yōu)點(diǎn)，最近幾年在模式識(shí)別以及文本分類等領(lǐng)域得到了廣泛的研究與應(yīng)用。但是SVM最早是針對(duì)兩類分類問(wèn)題提出的，如何有效的將標(biāo)準(zhǔn)兩類SVM分類問(wèn)題擴(kuò)展到多類分類問(wèn)題并應(yīng)用于多類文本分類是本文研究的重點(diǎn)。
　　 本文在對(duì)文本挖掘的相關(guān)概念、過(guò)程以及方法等問(wèn)題進(jìn)行闡述的基礎(chǔ)上，對(duì)目前具有代表性的SVM多類分類方法進(jìn)行了深

3、入的研究以及優(yōu)缺點(diǎn)對(duì)比后，提出了一種改進(jìn)的決策導(dǎo)向無(wú)環(huán)圖支持向量機(jī)多類分類算法，并把改進(jìn)后的決策導(dǎo)向無(wú)環(huán)圖支持向量機(jī)用于多類文本分類。本文的主要研究工作以及創(chuàng)新點(diǎn)在于：
　　 ①闡述了文本挖掘的理論與技術(shù)，并重點(diǎn)研究了文本分類，著重對(duì)支持向量機(jī)分類算法進(jìn)行了基本理論以及算法原理上的闡述，并對(duì)SVM應(yīng)用于分類挖掘時(shí)的主要研究進(jìn)展做了分析，由此引出SVM多類別分類算法的研究，然后介紹了目前存在的基于SVM的多類別分類方法，包括“一對(duì)

4、一”、決策導(dǎo)向無(wú)環(huán)圖支持向量機(jī)方法、“一對(duì)多”、M-ary支持向量機(jī)、基于二叉樹的SVM多類分類等，分析了它們的性能并比較了它們的優(yōu)缺點(diǎn)。
　　 ②著重研究了決策導(dǎo)向無(wú)環(huán)圖的多類SVM分類算法，在目前決策導(dǎo)向無(wú)環(huán)圖支持向量機(jī)分類器生成順序隨機(jī)化的基礎(chǔ)上，提出了一種決策導(dǎo)向無(wú)環(huán)圖的改進(jìn)策略，引入類內(nèi)的分散度，以基于樣本分布的類間不可分離程度作為類別的劃分順序，最終構(gòu)成了一種分類間隔較大的決策導(dǎo)向非循環(huán)圖支持向量機(jī)分類算法。