基于信息論的特征加權(quán)和主題驅(qū)動(dòng)協(xié)同聚類算法研究.pdf

1、文本數(shù)據(jù)常用文檔-詞二維共現(xiàn)矩陣表示，大多數(shù)傳統(tǒng)聚類算法屬于單向聚類，即要么是對樣本進(jìn)行聚類，要么是對特征進(jìn)行聚類，沒有考慮到樣本和特征之間自然存在的相互關(guān)系。尤其對高維、稀疏、帶噪聲數(shù)據(jù)，傳統(tǒng)單向聚類方法在精度上很難滿足實(shí)際需求。
　　基于信息論的協(xié)同聚類算法從信息論的角度捕獲了行列之間自然關(guān)系，同時(shí)從行向和列向進(jìn)行聚類，相互協(xié)助、相互約束，對高維、稀疏數(shù)據(jù)也能起到高效聚類的效果。但該方法也存在一些不足，如沒有考慮特征的重要性，

2、另外該方法是一個(gè)無監(jiān)督的學(xué)習(xí)過程，聚類后簇的可解釋性不強(qiáng)，在聚類精度上也有提高的空間等。本文在基于信息論的協(xié)同聚類算法以及參考已有研究方法的基礎(chǔ)上，做了兩點(diǎn)探索性改進(jìn)，即在原有無監(jiān)督聚類的基礎(chǔ)上，引入了主題知識(shí)，并對特征進(jìn)行了加權(quán)處理。提出了無監(jiān)督的特征加權(quán)的協(xié)同聚類算法和半監(jiān)督的主題驅(qū)動(dòng)的協(xié)同聚類算法兩個(gè)改進(jìn)算法。特征加權(quán)協(xié)同聚類算法用互信息計(jì)算特征權(quán)值，突出有效特征的重要性，在聚類精度和運(yùn)行時(shí)間上得到了提高。在主題驅(qū)動(dòng)的協(xié)同聚類算法