基于決策樹和粗糙集的分類方法研究.pdf

1、數(shù)據挖掘是利用分析工具從大量的、不完全的、有噪聲的、模糊的、隨機的數(shù)據中，提取出隱含在其中、事先未知、潛在有用的信息和知識的過程，建立數(shù)據間關系模型，用其做出預測，從而為決策者 提供輔助。決策樹是一種常用的分類模型，并以其能直接體現(xiàn)數(shù)據特點，分類效率高、速度快、理解性好等特點在數(shù)據挖掘及其它領域中被廣泛使用：粗糙集理論是一種處理不精確、不確定和不完備信息的有效方法，隨著其在各領域中的成功應用，引起各國廣大學者的關注。 本文圍繞

2、決策樹和粗糙集理論進行了相關的研究和創(chuàng)新，主要內容包括： 首先，對決策樹、粗糙集理論和粗糙集中信息熵的表現(xiàn)形式進行了系統(tǒng)的研究，分析了信息熵與粗糙集理論中上、下近似之間的關系?？紤]到經典的ID3算法用求熵的方法選擇節(jié)點分裂屬性時沒有考慮到噪聲的影響，對噪聲比較敏感，而可變精度粗糙集理論對噪聲有很好的抑制作用，所以，結合可變精度的思想對ID3算法進行了改進，使其更能適應噪聲比例較大的數(shù)據集，更加符合實際要求。 其次，粗糙集

3、理論中的屬性約簡方法可以在不影響分類能力的前提下對數(shù)據集進行簡化，為此，提出了一種基于屬性重要性概念的啟發(fā)式的屬性約簡算法。 而后，用提出的基于屬性重要性的屬性約簡方法對數(shù)據集進行簡化，以改進后的ID3算法為建樹算法，根據建樹算法的特點選擇了基于期望誤分率的后剪枝算法為樹的剪枝算法，設計了一個分類器：之后，用UCI數(shù)據庫中的多個數(shù)據集為實驗數(shù)據進行了模擬實驗，實驗 結果表明，這種改進后的決策樹生成算法在抑制噪聲方面要優(yōu)于改進