K-Means聚類和L2-SVM分類的距離度量以及模式選擇研究.pdf

1、K-Means算法和L2-SVM算法分別是聚類和分類中研究較熱的算法。傳統(tǒng)K-Means算法以歐氏距離為度量準(zhǔn)則，忽略了樣本各屬性在聚類過程中發(fā)揮的不同作用。同樣的，L2-SVM算法尋找決策超平面時，以歐氏距離作為最大間隔的距離度量，忽視了樣本集的空間內(nèi)在結(jié)構(gòu)特征。其次，L2-SVM算法中的參數(shù)較多，模式選擇增加了算法的計算量。所以本論文就這幾個問題進(jìn)行了相關(guān)研究，所研究內(nèi)容主要有以下幾點：
　　1、針對傳統(tǒng)K-Means算法的距

2、離度量存在的弊端，我們借鑒了LPP算法原理，首先構(gòu)造一個局部保持散度矩陣，然后改進(jìn)馬氏距離中的協(xié)方差矩陣構(gòu)建新的馬氏距離，最后提出了基于局部保持的K-Means算法，并分析了算法的可行性和時間復(fù)雜度。與傳統(tǒng)K-Means算法相比，本論文改進(jìn)的算法考慮了數(shù)據(jù)內(nèi)在結(jié)構(gòu)和流形特征，有利于提高算法聚類效果。
　　2、針對L2-SVM優(yōu)化問題中的距離間隔，我們引入LPP算法原理，定義了類內(nèi)局部保持散度矩陣，然后構(gòu)造了一種新的間隔距離度量，最

3、后提出類內(nèi)局部保持的L2-SVM分類算法。相對于傳統(tǒng)的SVM，我們改進(jìn)的算法充分考慮了每一類樣本的內(nèi)在流形結(jié)構(gòu)特征。并且，該方法考慮了數(shù)據(jù)的類標(biāo)，屬于監(jiān)督方法，而LPP屬于無監(jiān)督方法，沒有考慮數(shù)據(jù)的類別信息。實驗結(jié)果顯示，相對于傳統(tǒng)的SVM和KNN分類算法，本論文提出的算法具有更高的識別精度。
　　3、RM界中最小包含球半徑R的計算需要求解二次規(guī)劃問題，增加了算法的計算量。針對此問題，我們首先用所有訓(xùn)練樣本的最大距離D逼近半徑R，