基于相對熵的投影聚類算法研究.pdf

1、聚類就是將數(shù)據(jù)對象分組成為多個類或簇，在同一個簇中的對象之間具有較高的相似度，而不同簇中的對象差別較大。相異度是根據(jù)描述對象的屬性值來計算的。距離是經常采用的度量方式。 技術進步使得數(shù)據(jù)收集變得更加簡單和快速，從而產生了大量復雜的高維數(shù)據(jù)。由于這種數(shù)據(jù)存在的普遍性，使得對高維聚類算法的研究有著非常重要的意義。傳統(tǒng)的聚類算法受“維災”的影響在處理高維數(shù)據(jù)時變的異常困難，主要表現(xiàn)為索引結果效率低、用于相似性度量的距離函數(shù)失效、聚類描

2、述中存在冗余的維以及算法執(zhí)行效率低等問題，使得聚類算法的應用受到很大的局限性。 發(fā)現(xiàn)高維空間中存在于不同子空間的聚類問題一般被稱為投影聚類問題。在已有投影聚類算法 EPCH(Efficient Projective Clustering technique by Histogram construction)的基礎上，本文提出了一種基于相對熵的改進算法 REPCH(Relative Entropy based Projectiv

3、e Clustering by Histograms construction)。在數(shù)據(jù)分布的特征空間中，將每一個 d 維子空間劃分成網格結構。根據(jù)網格單元的密度構建每一個 d 維子空間的直方圖。直方圖的相對熵可以反映子空間中數(shù)據(jù)的實際分布與平均分布之間的相似度。相對熵會隨著密集區(qū)域的減少而單調遞增，并逐漸趨近于 1。根據(jù)這個原理，直方圖中密集區(qū)域和稀疏區(qū)域可以被識別。 算法在人工數(shù)據(jù)集上進行了大量的實驗，對算法的聚類質量、性能