一種基于聚類的支持向量機(jī)反問題求解算法.pdf

1、支持向量機(jī)（SVM）是機(jī)器學(xué)習(xí)領(lǐng)域一種非常重要的分類算法，它的出現(xiàn)是以統(tǒng)計(jì)學(xué)習(xí)理論為基礎(chǔ)的。由于其良好的泛化能力，使得這種分類方法在很多領(lǐng)域都有應(yīng)用。但是時間復(fù)雜度高的缺點(diǎn)一直是困擾這種優(yōu)秀的分類器進(jìn)一步發(fā)展的原因。支持向量機(jī)反問題的提出是希望作為一種啟發(fā)式而產(chǎn)生一種有更強(qiáng)泛化能力的決策樹，其本質(zhì)是如何將一個事例集分為兩部分，才能使這兩部分之之間的間隔最大。但是驚人的時間復(fù)雜度使得這種算法很難應(yīng)用到具有一定規(guī)模的數(shù)據(jù)集上。本課題針對如何

2、提高該算法的求解效率做了有意義的探索。
　　 本文在深入分析支持向量機(jī)反問題求解過程的基礎(chǔ)上，提出了一種基于聚類的支持向量機(jī)反問題求解算法。首先對支持向量機(jī)反問題高時間復(fù)雜度的原因進(jìn)行了探討，發(fā)璣主要原因是需要枚舉出所有可能的劃分。然后，通過分析核聚類的特點(diǎn)，發(fā)現(xiàn)核聚類對于減少支持向量機(jī)反問題的時間復(fù)雜度很有幫助，提出了先聚類再求反問題的策略：用核聚類算法對數(shù)據(jù)進(jìn)行預(yù)處理，把數(shù)據(jù)聚成有限數(shù)量的兒簇，在簇之間做劃分，取代了原訂的在