基于Bayes方法的文本分類(lèi)器的研究與實(shí)現(xiàn).pdf

1、從大量的數(shù)據(jù)中挖掘出有用的信息是數(shù)據(jù)挖掘的任務(wù)。隨著互聯(lián)網(wǎng)的迅速發(fā)展，web已經(jīng)發(fā)展成為擁有上億頁(yè)面的分布式信息空間。在信息急劇豐富的同時(shí)經(jīng)過(guò)加工的知識(shí)信息卻相對(duì)匱乏，文本是互聯(lián)網(wǎng)上主要的信息載體，因此文本挖掘就成為數(shù)據(jù)挖掘中日益流行而重要的研究課題。文本分類(lèi)技術(shù)是文本挖掘的基礎(chǔ)和核心。 20世紀(jì)90年代以后，基于機(jī)器學(xué)習(xí)的文本自動(dòng)分類(lèi)方法越來(lái)越成為主流，它具有周期短，效率高，節(jié)省人力資源，分類(lèi)結(jié)果一致性高等優(yōu)點(diǎn)。但文本自動(dòng)分類(lèi)

2、研究自開(kāi)展以來(lái)，準(zhǔn)確率一直不能達(dá)到令人滿意的效果。目前，Intemet信息急劇膨脹，文本分類(lèi)有了廣闊的發(fā)展空間，文本自動(dòng)分類(lèi)面臨前所未有的機(jī)遇和挑戰(zhàn)，如何提高分類(lèi)準(zhǔn)確率成為研究熱點(diǎn)。 樸素貝葉斯(Naive Bayes)分類(lèi)器是當(dāng)前使用比較廣泛的一種文本分類(lèi)方法，它應(yīng)用統(tǒng)計(jì)理論進(jìn)行文本分類(lèi)。在樸素貝葉斯分類(lèi)方法中，有一個(gè)“獨(dú)立性假設(shè)”：給定一個(gè)實(shí)例的類(lèi)標(biāo)簽，實(shí)例中的每個(gè)屬性的出現(xiàn)都獨(dú)立于實(shí)例中其他屬性的出現(xiàn)，而在實(shí)際應(yīng)用中這種條

3、件并不易滿足，另外由于文本的特殊性，相關(guān)的特征項(xiàng)可能會(huì)產(chǎn)生新的語(yǔ)義信息，而在用傳統(tǒng)的向量空間模型表示文本時(shí)該信息極有可能丟失。 本文首先對(duì)文本分類(lèi)系統(tǒng)以及貝葉斯分類(lèi)模型作了分析和探討，包括文本信息的表示、提取，文本分類(lèi)的方法以及貝葉斯方法用于文本分類(lèi)的模型和算法。然后針對(duì)上述樸素貝葉斯文本分類(lèi)方法的不足之處，在訓(xùn)練文本時(shí)，對(duì)特征選擇后產(chǎn)生的特征項(xiàng)集用互信息方法考察它們相互之間的相關(guān)性，然后對(duì)相關(guān)程度較高的特征進(jìn)行適當(dāng)?shù)暮喜⑻幚怼?/p>