文本情感分類及觀點(diǎn)摘要關(guān)鍵問(wèn)題研究.pdf

1、人類自然語(yǔ)言文本承載了兩種信息,客觀事實(shí)信息和帶有人的主觀感情色彩的信息,這些帶有人的主觀性信息的文本反映了人們對(duì)于某個(gè)特定對(duì)象的態(tài)度、立場(chǎng)和意見(jiàn)等。文本情感分析以帶有主觀性信息的文本為研究對(duì)象,目的是識(shí)別、分類、抽取、標(biāo)注這些文本里表達(dá)的情感、觀點(diǎn)、影響。
　　 隨著互聯(lián)網(wǎng)的迅猛發(fā)展,論壇、社區(qū)、博客、購(gòu)物網(wǎng)站等社會(huì)媒體上面的主觀性評(píng)論信息越來(lái)越多,甚至呈現(xiàn)爆炸式的增長(zhǎng)。越來(lái)越多的人或機(jī)構(gòu)開(kāi)始習(xí)慣于在網(wǎng)絡(luò)上搜索評(píng)論信息來(lái)幫助做

2、出決定。但是,Web上的海量信息使他們?cè)谶M(jìn)行檢索后不得不在數(shù)量巨大的評(píng)論中一條一條地人工翻閱、檢查、判斷信息,以便做出綜合判斷。在這種情況下,如果能夠?qū)@些海量的評(píng)論信息進(jìn)行綜述,得到的觀點(diǎn)綜述信息勢(shì)必對(duì)消費(fèi)者和生產(chǎn)商兩方都具有很高的參考價(jià)值。這方面的工作就是基于觀點(diǎn)的多文檔摘要。同時(shí),如果能夠自動(dòng)對(duì)這些評(píng)論進(jìn)行分析,分析出哪些評(píng)論對(duì)評(píng)論對(duì)象持肯定態(tài)度,哪些持否定態(tài)度,以及肯定或否定的程度,便可極大提高用戶獲取評(píng)論信息時(shí)的效率。這方面的

3、工作就是情感分類。
　　 本文圍繞文本情感分析中的多文檔觀點(diǎn)摘要和情感分類這兩個(gè)子課題進(jìn)行了研究,主要工作包括以下三方面:
　　 (1)提出了一種基于觀點(diǎn)的多文檔摘要方法。
　　 現(xiàn)有基于觀點(diǎn)的多文檔摘要方法多數(shù)根據(jù)被評(píng)論的特征/方面(feature/aspect)進(jìn)行摘要,稱為基于特征/方面的觀點(diǎn)摘要。這種摘要很大程度上依賴于對(duì)評(píng)論特征和評(píng)論詞的精確識(shí)別,而實(shí)際中經(jīng)常存在句子中缺少顯式給出的評(píng)價(jià)特征或評(píng)論詞的情

4、況,這樣的句子在基于特征的觀點(diǎn)挖掘中很容易被忽略,從而影響后續(xù)生成的摘要的質(zhì)量。而要精確挖掘句子中的評(píng)論特征和評(píng)論詞又需要領(lǐng)域知識(shí)的支持,這又會(huì)造成領(lǐng)域依賴性。同時(shí),這種基于特征/方面的觀點(diǎn)摘要將關(guān)注點(diǎn)放在對(duì)每個(gè)特征的評(píng)價(jià)上,不能提供一個(gè)覆蓋所有評(píng)論中主要主題和基本觀點(diǎn)的綜述信息。
　　 針對(duì)以上問(wèn)題,本文提出了一種通用的領(lǐng)域無(wú)關(guān)的多文檔觀點(diǎn)摘要方法。本方法采用傳統(tǒng)摘錄式多文檔摘要技術(shù),結(jié)合概率主題模型LDA(Latent Di

5、richlet Allocation,LDA)和語(yǔ)義傾向進(jìn)行多文檔觀點(diǎn)摘要。本文方法首先利用LDA模型對(duì)多文檔的句子集合建模,挖掘文本集合中的潛在主題,利用Gibbs抽樣得到句子在主題上的概率分布和主題在詞上的概率分布,同時(shí)對(duì)句子進(jìn)行詞性分析并利用Wo rdNet和SentiWordNet計(jì)算句子中詞的語(yǔ)義傾向值;然后依次計(jì)算主題的重要度、詞的重要度,在這兩者基礎(chǔ)上結(jié)合詞的語(yǔ)義傾向計(jì)算句子的重要度;最終根據(jù)句子的重要度排序依次抽取句子,

6、根據(jù)主題去除句子冗余后得到抽取式文摘。本文方法利用LDA模型挖掘評(píng)論文本中的重要主題,并結(jié)合語(yǔ)義傾向挖掘在重要主題上的主觀性較強(qiáng)的觀點(diǎn)。實(shí)驗(yàn)證明,本文方法得到的摘要更接近專家摘要。
　　 (2)提出了一種基于集成學(xué)習(xí)的不平衡數(shù)據(jù)集情感分類方法。
　　 目前二元情感分類的研究重點(diǎn)都放在了如何提高情感分類的性能上,卻忽略了現(xiàn)實(shí)中經(jīng)常出現(xiàn)情感分類樣本中一個(gè)類別的樣本數(shù)量幾倍于另一個(gè)類別樣本數(shù)量的情況,即情感分類樣本的類別“不平

7、衡”問(wèn)題。而當(dāng)前對(duì)情感分類的研究絕大多數(shù)都是在平衡的數(shù)據(jù)集上進(jìn)行的,由此導(dǎo)致在平衡的數(shù)據(jù)集上得到的性能較好的情感分類器,在實(shí)際中應(yīng)用時(shí)很難保持原有的性能。因此,研究如何對(duì)不平衡的情感分類數(shù)據(jù)進(jìn)行分類,并提高其分類性能具有非常重要的意義,這也是情感分類技術(shù)能真正運(yùn)用到實(shí)踐過(guò)程中必須解決的一個(gè)問(wèn)題。
　　 針對(duì)上述問(wèn)題,本文提出了一種綜合了不平衡數(shù)據(jù)集分類和集成學(xué)習(xí)兩方面技術(shù)的情感分類方法。作為一種混合的方法,該方法從算法和數(shù)據(jù)兩個(gè)

8、層面著手,在集成學(xué)習(xí)的框架下,綜合了欠抽樣、Bootstrap重采樣和隨機(jī)特征選擇三種方法來(lái)處理訓(xùn)練集,以便同時(shí)獲得這三種方法的優(yōu)勢(shì),得到若干在樣本和特征空間都不相同的具有較大差異性的訓(xùn)練子集,由此得到具有較大差異性的基分類器,并最終提高集成得到的總分類器的性能。在“不平衡”情感數(shù)據(jù)集上的實(shí)驗(yàn)證明該方法可顯著提高“不平衡”情感數(shù)據(jù)集的分類性能。
　　 (3)提出了細(xì)粒度的情感分類并研究了文本分類預(yù)處理技術(shù)對(duì)情感分類的影響。

9、>　　 大量的情感分類研究重點(diǎn)放在二元情感分類上,即將主觀性文本分為肯定類別或否定類別,而現(xiàn)實(shí)中帶主觀性信息的文本并不總是分為肯定或否定兩類,例如很多網(wǎng)上商城的評(píng)價(jià)信息都是對(duì)應(yīng)著1星到5星的等級(jí)信息,在這種情況下僅僅研究將評(píng)論信息分為肯定和否定兩個(gè)類別不能滿足實(shí)際的需要。針對(duì)這種情況,本文提出了對(duì)含有主觀性信息的文本進(jìn)行更細(xì)致的分類,稱為細(xì)粒度的情感分類,該分類不僅考慮評(píng)論文本的肯定和否定的極性,還考慮評(píng)論的力度等級(jí)。本文同時(shí)分析了細(xì)

10、粒度情感分類與普通多類分類問(wèn)題本質(zhì)上的不同。
　　 考慮到情感分類和傳統(tǒng)的基于主題分類的目的不同,為了更好地研究細(xì)粒度的情感分類,本文針對(duì)有指導(dǎo)的機(jī)器學(xué)習(xí)方法,分析了影響情感分類的各種因素,研究比對(duì)了特征詞數(shù)目、停用詞表、文本特征選擇、特征權(quán)重計(jì)算和文本分類方法在情感分類這個(gè)特殊問(wèn)題上的性能表現(xiàn),發(fā)現(xiàn)將文本分類技術(shù)應(yīng)用于情感分類時(shí)在停用詞、分類方法等方面和應(yīng)用于主題分類時(shí)表現(xiàn)不同。最后,針對(duì)細(xì)粒度的中文文本情感分類問(wèn)題,本文利用