非負(fù)稀疏信號分析理論及在文本聚類中的應(yīng)用.pdf

1、文本聚類作為一種對大規(guī)模文本信息進(jìn)行有效地組織、導(dǎo)航、檢索和概括匯總的關(guān)鍵的、基本的技術(shù)而日益受到關(guān)注，其主要目的是在語義空間里以無監(jiān)督的方式將文本集中的文本劃分成不同的類?；谖谋究臻g的文本聚類因?yàn)槠渚哂懈呔S的特征而不容易直接實(shí)現(xiàn)，所以文本聚類的首要步驟就是將文本空間的數(shù)據(jù)投影到較低維的語義空間里，使在文本空間里相鄰的數(shù)據(jù)向量在語義空間里根據(jù)某些提取的特征參數(shù)而相似。與PCA(主分量分析)和VQ(矢量量化)等降維算法不同，NMF(非負(fù)

2、矩陣分解)算法能夠分解出非負(fù)的，稀疏的特征矩陣和編碼矩陣，能夠提取原始數(shù)據(jù)向量的局部特征，使基于局部特征進(jìn)行分類的聚類算法更容易實(shí)現(xiàn)。如果將一篇文檔看作是由許多文本主題組合而成，而文本主題與語義空間的特征向量相對應(yīng)的話，則我們可以直接根據(jù)NMF算法所提取的特征向量及相對于特征向量各文檔的編碼向量將文本集劃分成不同的類。因此，NMF算法用于文本聚類的優(yōu)點(diǎn)就是可以直接利用其分解得到的編碼矩陣結(jié)合特征矩陣進(jìn)行聚類操作。 本文主要采用S

3、NMF(非負(fù)稀疏矩陣分解)算法作為降維和提取特征向量的工具，該算法是在NMF算法的基礎(chǔ)上加上顯式地稀疏因子控制而形成的一種非負(fù)矩陣分解方法。同時采用球形k-平均算法和NNLS(非負(fù)最小平方差)算法的結(jié)果初始化SNMF算法以達(dá)到改進(jìn)和優(yōu)化SNMF算法的目的；通過結(jié)合SNMF算法與LPI(局部保留索引)算法以實(shí)現(xiàn)在無監(jiān)督的方式下取得更準(zhǔn)確聚類結(jié)果的算法。與基于NMF算法的文本聚類不同，我們的算法力求以無監(jiān)督的方式，在時間復(fù)雜度允許的范圍內(nèi)，