聚類分析原理及步驟

1、聚類分析原理及步驟——將未知數(shù)據(jù)按相似程度分類到不同的類或簇的過程1》傳統(tǒng)的統(tǒng)計(jì)聚類分析方法包括系統(tǒng)聚類法、分解法、加入法、動(dòng)態(tài)聚類法、有序樣品聚類、有重疊聚類和模糊聚類等。采用k均值、k中心點(diǎn)等算法的聚類分析工具已被加入到許多著名的統(tǒng)計(jì)分析軟件包中，如SPSS、SAS等。典型應(yīng)用1》動(dòng)植物分類和對(duì)基因進(jìn)行分類2》在網(wǎng)上進(jìn)行文檔歸類來(lái)修復(fù)信息3》幫助電子商務(wù)的用戶了解自己的客戶，向客戶提供更合適的服務(wù)主要步驟1》數(shù)據(jù)預(yù)處理——選擇數(shù)量，

2、類型和特征的標(biāo)度（（依據(jù)特征選擇和抽?。┨卣鬟x擇選擇重要的特征，特征抽取把輸入的特征轉(zhuǎn)化為一個(gè)新的顯著特征，它們經(jīng)常被用來(lái)獲取一個(gè)合適的特征集來(lái)為避免“維數(shù)災(zāi)”進(jìn)行聚類）和將孤立點(diǎn)移出數(shù)據(jù)（孤立點(diǎn)是不依附于一般數(shù)據(jù)行為或模型的數(shù)據(jù)）2》為衡量數(shù)據(jù)點(diǎn)間的相似度定義一個(gè)距離函數(shù)——既然相類似性是定義一個(gè)類的基礎(chǔ)，那么不同數(shù)據(jù)之間在同一個(gè)特征空間相似度的衡量對(duì)于聚類步驟是很重要的，由于特征類型和特征標(biāo)度的多樣性，距離度量必須謹(jǐn)慎，它經(jīng)常依賴于

3、應(yīng)用，例如，通常通過定義在特征空間的距離度量來(lái)評(píng)估不同對(duì)象的相異性，很多距離度都應(yīng)用在一些不同的領(lǐng)域一個(gè)簡(jiǎn)單的距離度量，越好，使用這個(gè)基本思想的算法有：KMEANS算法、KMEDOIDS算法、CLARANS算法）層次法1》“自底向上”方案——將每個(gè)數(shù)據(jù)單獨(dú)作為一組，通過反復(fù)迭代的方法，把那些相互鄰近的組合并成一個(gè)組，直到所有的記錄組成一個(gè)分組或者某個(gè)條件滿足為止，代表算法有：BIRCH算法、CURE算法、CHAMELEON算法等2》“自

4、頂向下”方案主要算法原理及步驟KMEANS算法kmeans算法接受輸入量k；然后將n個(gè)數(shù)據(jù)對(duì)象劃分為k個(gè)聚類以便使得所獲得的聚類滿足：同一聚類中的對(duì)象相似度較高；而不同聚類中的對(duì)象相似度較小。聚類相似度是利用各聚類中對(duì)象的均值所獲得一個(gè)“中心對(duì)象”（引力中心）來(lái)進(jìn)行計(jì)算的。kmeans算法的工作過程說明如下：1》從n個(gè)數(shù)據(jù)對(duì)象任意選擇k個(gè)對(duì)象作為初始聚類中心；而對(duì)于所剩下其它對(duì)象，則根據(jù)它們與這些聚類中心的相似度（距離），分別將它們分配