基于協(xié)同聚類(lèi)的支持向量機(jī)分類(lèi)方法的研究.pdf

1、目前，數(shù)據(jù)挖掘技術(shù)越來(lái)越為人們所重視。而分類(lèi)是數(shù)據(jù)挖掘領(lǐng)域當(dāng)中一個(gè)非常重要的問(wèn)題，聚類(lèi)算法和支持向量機(jī)在處理分類(lèi)問(wèn)題上都表現(xiàn)地非常的出色，成了當(dāng)今數(shù)據(jù)分類(lèi)的兩種十分有利的工具。其中，聚類(lèi)算法能夠把大量數(shù)據(jù)點(diǎn)的集合分成若干類(lèi)，使得每個(gè)類(lèi)中的數(shù)據(jù)之間最大程度地相似，而不同類(lèi)中的數(shù)據(jù)之間最大程度地不同。而支持向量機(jī)作為目前統(tǒng)計(jì)學(xué)習(xí)理論的VC維理論和結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則的具體實(shí)現(xiàn)算法，它能夠很好的解決傳統(tǒng)機(jī)器學(xué)習(xí)中的維數(shù)災(zāi)難和局部極小值等問(wèn)題，并

2、且建立預(yù)測(cè)準(zhǔn)確率高的分類(lèi)器。
　　 針對(duì)大規(guī)模數(shù)據(jù)集學(xué)習(xí)時(shí)，支持向量機(jī)難以滿(mǎn)足實(shí)際應(yīng)用的需求。針對(duì)此問(wèn)題，在研究和分析目前有關(guān)算法的基礎(chǔ)上，將支持向量機(jī)和聚類(lèi)算法相結(jié)合，提出了基于協(xié)同聚類(lèi)的支持向量機(jī)分類(lèi)方法。并在UCI數(shù)據(jù)集上，將該分類(lèi)方法與SMO算法以及RSVM算法相比較，驗(yàn)證了該分類(lèi)方法能夠有效的簡(jiǎn)約支持向量的數(shù)量，提高分類(lèi)精度，減少分類(lèi)時(shí)間。
　　 本文所做的工作主要有：
　　 (1)對(duì)最小二乘支持向量回

3、歸算法(LS—SVR)進(jìn)行了改進(jìn)，對(duì)LS—SVR的最優(yōu)化問(wèn)題作了一定的改進(jìn)，得到一個(gè)線(xiàn)性方程組。改進(jìn)后的LS—SVR只需要對(duì)這個(gè)線(xiàn)性方程組求解，大大簡(jiǎn)化了求解過(guò)程。
　　 (2)提出了基于協(xié)同聚類(lèi)的二類(lèi)支持向量機(jī)(CC—SVM)，通過(guò)協(xié)同聚類(lèi)算法得到的類(lèi)中心來(lái)取代簡(jiǎn)化的支持向量機(jī)(RSVM)中隨機(jī)選取的候選支持向量。通過(guò)實(shí)驗(yàn)證明，CC—SVM算法能夠有效的簡(jiǎn)約支持向量的數(shù)量，提高分類(lèi)效率。同時(shí)，將分類(lèi)問(wèn)題進(jìn)一步的推廣到支持向量機(jī)