基于無(wú)指導(dǎo)的詞聚類及在文本聚類中應(yīng)用的研究.pdf

1、詞的分類問(wèn)題是語(yǔ)言學(xué)和自然語(yǔ)言處理中十分重要的研究問(wèn)題。由一些語(yǔ)義相近的詞組成的詞類(或詞聚簇)可以看成是紛繁的個(gè)別詞現(xiàn)象到語(yǔ)言的一般概念的映射，而這些概念是更加本質(zhì)的，更具有一般性和穩(wěn)定性。目前，詞分類的主要方法包括兩類：一類是基于語(yǔ)言學(xué)家的主觀判斷，通過(guò)語(yǔ)言學(xué)家手工地構(gòu)造出分類詞典，給出每個(gè)詞的同義詞或近義詞；另一類是基于機(jī)器的自動(dòng)聚類。本文研究的主要內(nèi)容就是基于無(wú)指導(dǎo)的漢語(yǔ)詞聚類及其相關(guān)應(yīng)用?；跓o(wú)指導(dǎo)的詞聚類是通過(guò)在大規(guī)模的語(yǔ)料

2、庫(kù)中統(tǒng)計(jì)詞的上下文信息，并利用傳統(tǒng)的聚類算法最終實(shí)現(xiàn)詞的自動(dòng)聚類。 傳統(tǒng)的聚類算法主要分為層次聚類和劃分聚類兩種方法。劃分聚類算法是一種局部最優(yōu)算法，初始點(diǎn)選擇的好壞嚴(yán)重影響聚類性能。因此，本文在詞聚類這一具體任務(wù)中，利用詞在文本類別中的分布提出了一種新的初始點(diǎn)選取方法，實(shí)驗(yàn)結(jié)果顯示其有效地改善了劃分法詞聚類系統(tǒng)的性能；層次聚類算法的主要不足是聚類過(guò)程中已做的處理不能被撤銷(xiāo)，類之間也不能交換對(duì)象，一旦一組對(duì)象被合并或者分裂，而后

3、進(jìn)行的處理將在新生成的類上進(jìn)行。因此，類間距離計(jì)算的準(zhǔn)確程度是影響層次聚類性能改善的最重要因素。本文提出了一種新的用于計(jì)算類間距離方法K-LinK。該方法通過(guò)有效地利用類的形狀、密度等重要信息提高類間距離的準(zhǔn)確性，由此改善層次聚類算法的性能。 本文通過(guò)對(duì)實(shí)驗(yàn)結(jié)果的分析，討論了上下文窗口大小對(duì)詞聚類結(jié)果的影響；討論了特征選擇、權(quán)重計(jì)算對(duì)聚類結(jié)果的影響；討論了相似度計(jì)算方法、聚類算法對(duì)性能的影響。在此基礎(chǔ)上確定了聚類過(guò)程中的相關(guān)參數(shù)