網(wǎng)絡(luò)短文本主題聚類(lèi)研究.pdf

1、近幾年來(lái)移動(dòng)互聯(lián)網(wǎng)的飛速發(fā)展催生了大量新型的移動(dòng)互聯(lián)網(wǎng)應(yīng)用，而這些互聯(lián)網(wǎng)應(yīng)用中又充斥著海量的短文本信息，網(wǎng)絡(luò)短文本與傳統(tǒng)的篇章型網(wǎng)頁(yè)長(zhǎng)文本有非常大的區(qū)別，由于文本短小內(nèi)容較少，因此在語(yǔ)義特征上短文本要比長(zhǎng)文本匱乏的多，這就導(dǎo)致對(duì)短文本的語(yǔ)義挖掘的難度成倍增加，常用的基于詞頻統(tǒng)計(jì)與向量空間模型的方法已經(jīng)不適用于短文本，準(zhǔn)確率較低。研究的重點(diǎn)是解決短文本語(yǔ)義矩陣的稀疏性問(wèn)題與上下文依賴問(wèn)題，產(chǎn)生一個(gè)非稀疏性矩陣，并且利用該矩陣進(jìn)行短文本間的

2、主題聚類(lèi)，對(duì)聚類(lèi)后的主題進(jìn)行準(zhǔn)確地聚簇描述。
　　在長(zhǎng)文本領(lǐng)域中，主題聚類(lèi)技術(shù)已經(jīng)發(fā)展地日趨成熟，比如 LDA主題模型。但在短文本領(lǐng)域，由于移動(dòng)互聯(lián)網(wǎng)是最近幾年才快速發(fā)展，短文本的數(shù)量在短期內(nèi)得到了急劇增長(zhǎng)，而且語(yǔ)義挖掘也難度較大，因此短文本主題聚類(lèi)技術(shù)發(fā)展還是起步階段，發(fā)展相對(duì)緩慢。Xiaohui Yan等人提出BTM（Biterm Topic Model）主題模型，該模型引入了詞間的相似性在短文本的數(shù)據(jù)集上進(jìn)行主題建模，在 B

3、TM模型基礎(chǔ)之上基于CRP再引入詞對(duì)之間的相關(guān)性，提出 GBTM（Gravity Biterm Topic Model）模型，該模型可以更加深入挖掘文本內(nèi)容的語(yǔ)義。
　　在GBTM建模完成之后生成文本-主題概率分布，然后利用K-means聚類(lèi)算法結(jié)合概率圖模型的JS距離計(jì)算文本之間的語(yǔ)義距離，然后將距離接近的文本聚合成一簇，該簇就是一個(gè)主題。聚類(lèi)完成后，語(yǔ)義相近的文本會(huì)被聚成一簇，而直觀地描述聚簇的內(nèi)容是一個(gè)很重要的問(wèn)題，利用主題