高階異構(gòu)數(shù)據(jù)聚類算法研究.pdf

1、聚類問題是模式分析領(lǐng)域最為基礎(chǔ)的研究問題，其任務(wù)是將具有近似特性或關(guān)系密切的數(shù)據(jù)劃分到同一個(gè)聚簇中。通過聚類分析可以幫助我們理解數(shù)據(jù)內(nèi)部隱藏的知識。傳統(tǒng)的聚類算法主要針對同構(gòu)數(shù)據(jù)進(jìn)行研究分析，采用單一的特征集合或同種類型的關(guān)系集合描述數(shù)據(jù)集的特性。然而最近隨著IT技術(shù)尤其是Internet技術(shù)突飛猛進(jìn)的發(fā)展，大量的異構(gòu)數(shù)據(jù)集廣泛出現(xiàn)，這些異構(gòu)數(shù)據(jù)集的特性需要由多種特征集合或多種關(guān)系集合進(jìn)行描述。為了有效利用異構(gòu)信息，挖掘異構(gòu)數(shù)據(jù)內(nèi)部的聚

2、簇結(jié)構(gòu)，學(xué)術(shù)界提出了異構(gòu)數(shù)據(jù)聚類分析方法，并吸引了廣大科研人員的興趣。本文的研究工作與創(chuàng)新之處主要包括以下幾方面的內(nèi)容：
　　1.為了探測高階異構(gòu)數(shù)據(jù)內(nèi)部隱藏的層次聚簇模式，針對星型高階異構(gòu)數(shù)據(jù)，提出了一種高階層次聯(lián)合聚類算法(high-order hierarchical co-clustering algorithm,HHCC)。HHCC算法利用變量相關(guān)性度量指標(biāo)Goodman-Kruskalτ衡量中心類型數(shù)據(jù)對象和每種非中心

3、類型數(shù)據(jù)對象的相關(guān)性，分別將相關(guān)性較強(qiáng)的中心類型數(shù)據(jù)對象和非中心類型數(shù)據(jù)對象劃分到不同的聚簇中。利用 Goodman-Kruskalτ指標(biāo)評估聚類質(zhì)量，Goodman-Kruskalτ指標(biāo)越大，聚類質(zhì)量越高。利用局部迭代搜索方法優(yōu)化Goodman-Kruskalτ指標(biāo)，在優(yōu)化Goodman-Kruskalτ指標(biāo)的同時(shí)能夠自動調(diào)整每個(gè)聚簇分裂的子聚簇?cái)?shù)目。HHCC算法使用top-down的分裂原則，將每個(gè)聚簇分裂成使得Goodman-Kr

4、uskalτ指標(biāo)達(dá)到最大的子聚類，最終獲得高階異構(gòu)數(shù)據(jù)的樹狀層次聚類結(jié)果。
　　2.目前多數(shù)高階異構(gòu)數(shù)據(jù)聯(lián)合聚類算法集中于無監(jiān)督學(xué)習(xí)，然而在實(shí)際問題中可以獲得少量樣本先驗(yàn)信息。大量研究表明，在聚類過程中有效引入少量部分先驗(yàn)知識將有利于提高聚類結(jié)果的精度。另外，為了發(fā)現(xiàn)高階異構(gòu)數(shù)據(jù)集中未知的重疊聚簇結(jié)構(gòu)，本文提出了一種高階異構(gòu)數(shù)據(jù)半監(jiān)督模糊聯(lián)合聚類算法(high-order heterogeneous data semi-super

5、vised fuzzy co-clustering algorithm,SS-HHFC)。為了準(zhǔn)確、客觀地描述聚簇交疊部分?jǐn)?shù)據(jù)對象的聚類結(jié)果，SS-HHFC算法引入模糊概念，利用隸屬度描述數(shù)據(jù)屬于某聚簇的程度。由于高階聯(lián)合聚類的目標(biāo)是將相關(guān)性較強(qiáng)的異構(gòu)數(shù)據(jù)對象劃分到同一個(gè)聚簇中，SS-HHFC算法利用聚集度評估異構(gòu)數(shù)據(jù)聚簇之間的相關(guān)性，利用聚集度衡量聚類結(jié)果的質(zhì)量。高階聯(lián)合聚類建模為聚集度的最大化問題，并將成對約束先驗(yàn)信息融入到代價(jià)函數(shù)

6、中。為了求解優(yōu)化問題，推導(dǎo)出隸屬度迭代更新公式，設(shè)計(jì)SS-HHFC算法的計(jì)算過程，并從理論和實(shí)驗(yàn)兩方面驗(yàn)證了SS-HHFC算法的收斂性。
　　3.異構(gòu)數(shù)據(jù)中往往包含噪聲和離群點(diǎn)數(shù)據(jù)，為了減弱噪聲對聚類效果的影響以及探測離群點(diǎn)數(shù)據(jù)，本文基于非負(fù)矩陣分解的提出一種加權(quán)異構(gòu)數(shù)據(jù)聯(lián)合聚類算法(weighted nonnegative matrix factorization for heterogeneous data cocluster

7、ing algorithm，WNMF-HCC)。WNMF-HCC算法利用數(shù)據(jù)對象之間的關(guān)聯(lián)關(guān)系，將異構(gòu)數(shù)據(jù)嵌入到低維空間。根據(jù)數(shù)據(jù)對目標(biāo)函數(shù)的貢獻(xiàn)，對每個(gè)異構(gòu)數(shù)據(jù)對象自動賦予不同的權(quán)重，對噪聲和離群點(diǎn)數(shù)據(jù)賦予較低的權(quán)重。利用權(quán)重不僅可以減弱噪聲對聚類效果的不利影響，而且可以判斷離群點(diǎn)數(shù)據(jù)。并從理論和實(shí)驗(yàn)兩方面驗(yàn)證了WNMF-HCC算法的收斂性。
　　4.多視角數(shù)據(jù)中往往含有噪聲數(shù)據(jù)，影響聚類效果。為了提高聚類算法對噪聲的魯棒性，本

8、文提出了一種基于可能性C-means的魯棒多視角聚類算法(robust multi-view clustering algorithm based on possibilistic C-means,PCM-RMVC)。由于PCM-RMVC算法不再受隸屬度之和為1的限制，噪聲對所有聚簇的隸屬度均較低，減弱了噪聲數(shù)據(jù)對聚類精度的不利影響，對噪聲具有較強(qiáng)的魯棒性。為了綜合利用每種視角的特征空間信息，PCM-RMVC算法最小化每個(gè)視角中數(shù)據(jù)對象