面向領(lǐng)域的文本分類與挖掘關(guān)鍵技術(shù)研究.pdf

1、大量文本以電子形式存在，人們需要對大量的文本信息資源進(jìn)行有效的組織和管理，因此文本分類引起人們的高度重視。近年來，關(guān)于文本分類技術(shù)的研究取得了很大進(jìn)展，并被應(yīng)用于眾多領(lǐng)域。本文深入研究了文本分類與挖掘中的一些關(guān)鍵技術(shù)，同時(shí)在對政府公文分類、文本觀點(diǎn)極性分析以及專利挖掘任務(wù)進(jìn)行深入分析的基礎(chǔ)上，將文本分類與挖掘技術(shù)應(yīng)用到上述領(lǐng)域，提出了相應(yīng)的解決方案，并通過大量實(shí)驗(yàn)證明了這些方案的有效性。主要工作包括：
　　 (1)特征獨(dú)立性假設(shè)

2、在文本處理領(lǐng)域被普遍應(yīng)用，它雖然能大大簡化文本計(jì)算，但與實(shí)際情況不符。本文首次將獨(dú)立分量分析技術(shù)應(yīng)用到文本處理領(lǐng)域，進(jìn)行面向文本分類的獨(dú)立特征抽取，并對其中遇到的由于數(shù)據(jù)稀疏和維數(shù)過高造成的收斂速度慢，穩(wěn)定性差的問題進(jìn)行了解決；將獨(dú)立分量分析技術(shù)與傳統(tǒng)的特征選取方法相結(jié)合，在通用數(shù)據(jù)集上進(jìn)行了文本分類實(shí)驗(yàn)，實(shí)驗(yàn)結(jié)果驗(yàn)證了這種技術(shù)的優(yōu)越性。
　　 (2)政府公文均帶有主題詞，而主題詞攜帶了大量的類別信息。如何利用這些信息幫助文本分

3、類？首先本文針對主題詞不足的問題，根據(jù)Bootstrapping學(xué)習(xí)框架構(gòu)建了一個(gè)主題詞相關(guān)詞的自動(dòng)獲取模型—KWB模型，用于對政府公文主題詞集合的擴(kuò)展；然后運(yùn)用隨機(jī)關(guān)鍵詞產(chǎn)生技術(shù)，將公文文本表示成主題詞空間的條件概率，這樣也同時(shí)實(shí)現(xiàn)了文本特征空間的降維；將KWB模型與隨機(jī)關(guān)鍵詞產(chǎn)生技術(shù)相結(jié)合進(jìn)行了公文文本分類實(shí)驗(yàn)，結(jié)果證明該方法能充分利用主題詞的類別信息，提高分類性能。
　　 (3)針對主觀句子判別正確率不高的問題，應(yīng)用文本分

4、類技術(shù)，提出了三類訓(xùn)練、兩類判別的分類框架。并在公開語料MPQA上進(jìn)行了實(shí)驗(yàn)，結(jié)果證明在語料中間接主觀句子極少的情況下，該框架也能有效提高主觀句子判別的準(zhǔn)確率。針對訓(xùn)練語料不足以及對實(shí)體多方面的觀點(diǎn)極性分析的需要，提出了一種基于弱指導(dǎo)學(xué)習(xí)的分析技術(shù)，實(shí)現(xiàn)句子級的實(shí)體方面特征識(shí)別和實(shí)體多方面觀點(diǎn)的極性分析。實(shí)驗(yàn)證明該方法取得了較好的準(zhǔn)確率。
　　 (4)通過深入分析NTCIR-7中專利挖掘任務(wù)的訓(xùn)練數(shù)據(jù)及任務(wù)難點(diǎn)，提出kNN分類框

5、架是完成此任務(wù)的很好選擇；針對訓(xùn)練數(shù)據(jù)分布極端不均衡的問題，提出在Ranking決策時(shí)加懲罰因子的方法解決該問題；研究了多種相似度計(jì)算方法，并在此基礎(chǔ)上提出、改進(jìn)了多種Ranking決策方法：如帶有大類懲罰因子的Weak方法、NVote方法等。為了提高系統(tǒng)性能，應(yīng)用機(jī)器學(xué)習(xí)中的Log-linear和Rank-SVM模型提出了基于系統(tǒng)融合的結(jié)果鏈表二次調(diào)序方法。該方法使系統(tǒng)性能得到了很大提升，在NTCIR-7的評測中取得了第一名的好成績。