基于粗糙集的樸素貝葉斯分類算法研究.pdf

1、數(shù)據(jù)挖掘是信息技術自然演化的結果,是從大量數(shù)據(jù)中提取或“挖掘”隱藏的、具有潛在意義的知識的復雜過程。其中,對數(shù)據(jù)進行分類是數(shù)據(jù)挖掘領域研究的重要課題。貝葉斯分類法是一種具有堅實的數(shù)學理論基礎以及綜合數(shù)據(jù)先驗信息能力的推理方法,其簡單形式樸素貝葉斯分類模型由于具有簡單而高效等優(yōu)點得到了廣泛的研究與應用。本文對樸素貝葉斯分類算法的分類原理以及優(yōu)缺點進行了分析,從兩個方面對樸素貝葉斯分類模型進行了深入地研究。首先著重研究通過屬性選擇來減少該模

2、型的條件獨立性假設的局限性,然后在此基礎上結合集成學習技術來改進該模型。本文主要研究工作如下:
　　 1.通過分析王國胤等人提出的CEBARKNC屬性約簡算法存在的兩點不足,提出了一種改進的基于條件熵的屬性約簡算法ASBCE。該算法引入關聯(lián)規(guī)則中的余弦度量來識別不一致實例,并且根據(jù)某個屬性是強相關則在一定程度上該屬性與其他屬性之間也存在較強的相關性的思想來刪除冗余屬性。實驗證明,該算法能夠得到一個最近似獨立的屬性子集,從而放松樸

3、素貝葉斯的條件獨立性假設。
　　 2.樸素貝葉斯分類模型基于貝葉斯理論以及條件獨立性假設,具有結構簡單且計算高效等優(yōu)點。然而,現(xiàn)實中的數(shù)據(jù)一般難以滿足條件獨立性假設前提,此為樸素貝葉斯方法的局限性。為了突破這一局限性以提高分類器的分類效果,通過屬性選擇來選擇一組最近似獨立的屬性子集是一種有效的改進方法。本文的研究重點是通過屬性選擇來找到一組最大相關最小冗余的屬性子集,所以在ASBCE屬性約簡算法的基礎上,提出了一種基于粗糙集的選

4、擇性樸素貝葉斯分類模型RSSNBC。實驗結果表明,與經(jīng)典樸素貝葉斯分類模型相比,RSSNBC模型取得了較好的分類正確率。
　　 3.為了進一步提高上述單一分類器的分類性能,引入分類器集成學習技術將多個分類器通過某種方法組合,最終得到一個組合分類器。樸素貝葉斯分類模型是一種簡單高效的概率統(tǒng)計分類方法,簡單精確的分類方法非常適合作為集成學習的基分類器。由于樸素貝葉斯分類模型是一種穩(wěn)定模型,所以在采用裝袋(Bagging)集成算法中嵌