基于決策樹算法的改進(jìn)與應(yīng)用.pdf

1、數(shù)據(jù)挖掘(DataMining)是信息處理技術(shù)研究領(lǐng)域的一項(xiàng)重要課題。它是指從大型數(shù)據(jù)庫或數(shù)據(jù)倉庫中提取隱含的、未知的、及有潛在應(yīng)用價(jià)值的信息或模式的過程。它融合了數(shù)據(jù)庫、人工智能、機(jī)器學(xué)習(xí)、統(tǒng)計(jì)學(xué)等多個(gè)領(lǐng)域的理論和技術(shù)。分類是數(shù)據(jù)挖掘技術(shù)研究的一個(gè)重要方向。常用的分類模型有決策樹、神經(jīng)網(wǎng)絡(luò)、遺傳算法、粗糙集、統(tǒng)計(jì)模型等。本文主要研究決策樹ID3算法及其改進(jìn)算法。 由于數(shù)據(jù)挖掘中分類算法在商業(yè)應(yīng)用中最為廣泛，而決策樹算法是數(shù)據(jù)挖

2、掘分類的核心算法之一。在決策樹算法中有Quinlan于1986年提出的ID3算法最為著名，該算法有三大主要缺點(diǎn)：1.算法往往偏向于選擇取值較多的屬性，而取值較多的屬性并不總是最優(yōu)的屬性。2.ID3只能處理離散屬性，對于連續(xù)型的屬性，在分類前需要對其進(jìn)行離散化。3.ID3必須知道從葉子節(jié)點(diǎn)到樹根的路徑上所有內(nèi)節(jié)點(diǎn)對應(yīng)的屬性的屬性值。為了解決這些問題，本文在ID3算法的基礎(chǔ)上提出了改進(jìn)算法，通過使用同一訓(xùn)練集對不同算法建立的決策樹的比較，得

3、出改進(jìn)算法比ID3算法所得的決策樹更為理想。 本文用Java這種完全面向?qū)ο蟮母呒?jí)語言實(shí)現(xiàn)ID3算法及改進(jìn)算法，應(yīng)用在網(wǎng)上書店交易方案的挖掘?qū)嵗?，完成從?shù)據(jù)導(dǎo)入到生成規(guī)則的完整的數(shù)據(jù)挖掘步驟，并使生成的規(guī)則可視化顯示，為決策者提供決策支持。另外采用XML存儲(chǔ)待挖掘數(shù)據(jù)，鑒于XML的“足以表達(dá)各種類型的數(shù)據(jù)，應(yīng)用于與不同的數(shù)據(jù)源進(jìn)行交互，解決了數(shù)據(jù)的統(tǒng)一接口問題”優(yōu)點(diǎn)，嘗試并應(yīng)用在ID3算法的改進(jìn)與實(shí)現(xiàn)中，為任意數(shù)據(jù)庫轉(zhuǎn)換成XM