高維高噪聲數(shù)據(jù)聚類中關(guān)鍵問題研究.pdf

1、隨著科技的進(jìn)步,高維高噪聲數(shù)據(jù)聚類在數(shù)據(jù)挖掘研究領(lǐng)域中處于越來越重要的地位。聚類分析作為數(shù)據(jù)挖掘的一項(xiàng)主要研究課題,已引起廣泛重視,同時(shí)產(chǎn)生了大量的理論和方法,并取得了豐碩的研究成果。盡管如此,聚類仍面臨著許多問題,尤其隨著數(shù)據(jù)挖掘技術(shù)的廣泛應(yīng)用,數(shù)據(jù)對象變得日趨復(fù)雜,大量的高維數(shù)據(jù)和高噪聲數(shù)據(jù)不斷出現(xiàn),使得聚類研究面臨著“維數(shù)災(zāi)難”和聚類結(jié)果對噪聲敏感等問題的挑戰(zhàn)。這要求改進(jìn)現(xiàn)有聚類技術(shù),同時(shí)提出新的聚類理論和方法以適應(yīng)新的應(yīng)用。

2、r>　　 本文對高維數(shù)據(jù)聚類以及健壯聚類等問題進(jìn)行了較為深入的研究,主要內(nèi)容包括以下幾個(gè)方面:
　　 1.針對高維數(shù)據(jù)聚類任務(wù)中類簇的形狀體積常存在差異,提出了一種基于高斯混合模型(GMM)的子空間聚類算法。高維數(shù)據(jù)中,樣本類簇通常處于子空間,且不同類簇形狀可能存在差異。許多現(xiàn)有高維數(shù)據(jù)聚類算法僅考慮前一個(gè)因素,而對不同類簇采用同一形狀體積參數(shù)。針對此問題,擴(kuò)展了現(xiàn)有GMM聚類過程,對每個(gè)類簇計(jì)算一個(gè)權(quán)矢量和一個(gè)局部方差,并利

3、用它們分別鑒定類簇的主要特性,包括類簇的相關(guān)維度和形狀體積,從而區(qū)分不同類簇。該問題通過在GMM目標(biāo)函數(shù)中加入權(quán)矢量的負(fù)熵項(xiàng)及自適應(yīng)系數(shù)得到求解。在仿真數(shù)據(jù)和真實(shí)數(shù)據(jù)上的實(shí)驗(yàn)結(jié)果表明了該算法在高維數(shù)據(jù)集應(yīng)用中的優(yōu)越性。
　　 2.針對高維數(shù)據(jù)聚類任務(wù)對噪聲敏感的問題,提出了一種健壯的樣本加權(quán)子空間聚類(SWSC)算法。該算法基于樣本加權(quán)思想,為每個(gè)樣本分配一個(gè)反映離群程度的尺度參數(shù),從而實(shí)現(xiàn)健壯聚類。各類簇所處的子空間繼而由尺度

4、加權(quán)的樣本所確定。該算法首次將樣本加權(quán)思想運(yùn)用于硬劃分類型的聚類算法。在二維仿真數(shù)據(jù)集、高維仿真數(shù)據(jù)集以及真實(shí)基因數(shù)據(jù)集上的對比實(shí)驗(yàn)結(jié)果表明,對于具有不同噪聲比例的各種維度數(shù)據(jù)集,該算法均能取得較高的聚類精度,表現(xiàn)出較強(qiáng)的健壯性。
　　 3.從特征選擇角度,針對高維數(shù)據(jù)聚類任務(wù)中不同類簇常具有不同相關(guān)特征子集的特點(diǎn),提出了一種基于約束混合模型(CWMM)的局部特征選擇聚類算法。該算法基于現(xiàn)有局部特征選擇混合模型,將類簇在任一維度

5、上不相關(guān)特定分布改進(jìn)為與其他類簇共同服從的同一分布,從而捕獲類簇間的共性分布。類簇在任一維度上的分布由相關(guān)固有分布和同一分布加權(quán)和組合而成,兩種分布的權(quán)重高低決定相應(yīng)維度參與識別類簇的相關(guān)程度。算法通過對相應(yīng)模型的似然函數(shù)引入各類維度權(quán)重參數(shù)的約束項(xiàng)實(shí)現(xiàn)參數(shù)估計(jì)。那些對類簇固有分布具有較大權(quán)重的維度,即組成相應(yīng)類簇的局部特征子集。實(shí)驗(yàn)對比了不同算法在仿真數(shù)據(jù)和真實(shí)數(shù)據(jù)上的聚類性能,結(jié)果表明所提算法在類簇重疊現(xiàn)象的高維數(shù)據(jù)上表現(xiàn)出較現(xiàn)有子

6、空間聚類算法更強(qiáng)的性能。
　　 4.為了提高迭代優(yōu)化健壯聚類算法對噪聲污染數(shù)據(jù)的聚類質(zhì)量,提出了一種基于K-Means均勻效應(yīng)的健壯聚類初始化算法。K-Means聚類結(jié)果中各子簇樣本量具有均勻一致的特點(diǎn),當(dāng)使用超過實(shí)際聚類數(shù)進(jìn)行聚類時(shí),將出現(xiàn)稀疏子簇范圍大,稠密子簇范圍小,以及相鄰稠密子簇范圍相當(dāng)?shù)痊F(xiàn)象。算法利用超過實(shí)際聚類數(shù)的K-Means聚類,通過合并鄰近小子簇、丟棄稀疏大子簇,自動(dòng)獲得聚類初始簇并有效地消除噪聲,從而實(shí)現(xiàn)健

7、壯的聚類初始化。理論和實(shí)驗(yàn)證明了該算法的有效性。
　　 5.針對嚴(yán)重噪聲污染數(shù)據(jù)聚類問題,提出了一種基于自適應(yīng)多測度Lq范數(shù)的健壯聚類算法。該算法利用Lq范數(shù)求解數(shù)據(jù)中心時(shí)對噪聲不敏感的特性,對各類簇采用Lq范數(shù)距離測度,且對不同類簇設(shè)定相應(yīng)參數(shù)qk(qk∈(1,2]),以適應(yīng)類簇中不同噪聲污染程度的建模需求。通過為各類簇建立一個(gè)有關(guān)參數(shù)qk的非線性變換,自適應(yīng)求解參數(shù)qk,并獲得健壯類簇中心。此外,算法基于聚類所得中心,給出了