kmeans應(yīng)用與特征選擇

1、Kmeans應(yīng)用與特征選擇應(yīng)用與特征選擇近些年來，機器學(xué)習(xí)的發(fā)展日新月異，機器學(xué)習(xí)的兩大問題：分類和聚類也不斷有新的算法來填充。而對于大量樣本的數(shù)據(jù)，由于人工標(biāo)注成本很高，經(jīng)常是沒有標(biāo)簽的數(shù)據(jù)，需要用聚類算法來發(fā)現(xiàn)數(shù)據(jù)中有幾類，每一類是什么樣，有什么性質(zhì)，各類之間的關(guān)系是什么樣。Kmeans是聚類算法中簡單有效的一種，也稱為k均值算法。本文先介紹kmeans聚類的方法，包括主要思想和具體步驟；然后把算法應(yīng)用在鳶尾花數(shù)據(jù)集上，并且改變特征

2、的數(shù)量，來看對聚類結(jié)果的影響；接著，本文對kmeans算法的優(yōu)缺點進行了討論，并和其他算法進行比較，還介紹了該算法在使用時候需要注意的問題；最后，我們根據(jù)實驗結(jié)果總結(jié)結(jié)論，得出kmeans是有效的一種聚類算法，并且特征的選擇會對聚類結(jié)果產(chǎn)生很大影響。2方法Kmeans的主要思想是將離散的許多數(shù)據(jù)點利用k個質(zhì)心進行聚類，分成k簇來區(qū)分相似性較小的數(shù)據(jù)點，并把相似性較大的數(shù)據(jù)點歸為一類。該方法利用不斷更新數(shù)據(jù)點的質(zhì)心歸屬和質(zhì)心的位置來最終收

3、斂到最優(yōu)解。Kmeans有四個主要步驟：（1）利用kmeans在n個數(shù)據(jù)點中取k個質(zhì)心：普通kmeans算法中，是隨機選取k個數(shù)據(jù)點最為初始的質(zhì)心，但這樣的對于聚類的個數(shù)，我們分別設(shè)為2，3，4來進行實驗，觀察實驗結(jié)果，通過可視化方法，判斷設(shè)為幾類才是最合適的。4結(jié)果展示我們用散點圖標(biāo)注每個數(shù)據(jù)點，并且用顏色（紅，藍，綠，黃）區(qū)分它所屬的類別，來觀察數(shù)據(jù)點在特征空間的分布，判斷聚類結(jié)果十分合理。在每個圖中，橫坐標(biāo)代表花某一部分的長度，縱

4、坐標(biāo)代表花某一部分的寬度，坐標(biāo)軸的單位都是厘米，每一種顏色是一簇。首先我們僅用花萼長度，花萼寬度來聚類，聚類的類別個數(shù)分別設(shè)定為2，3，4，對應(yīng)從左到右三個圖。可以看出花萼長度和寬度的數(shù)據(jù)分布沒有特別明顯的簇狀分布，所以類別個數(shù)分為2，3，4看起來都有一定道理。然后，我們用花瓣長度，花瓣寬度來聚類，聚類的類別個數(shù)分別設(shè)定為2，3，4，對應(yīng)從左到右三個圖。我們能看到很明顯有兩簇數(shù)據(jù)點分布較遠，中間隔著很大距離，即畫面左下角的簇和畫面中間到