基于分布式的決策樹方法研究.pdf

1、在信息時代的今天，數(shù)據(jù)庫中蘊含著大量有價值的信息和知識。這些信息和知識廣泛適用于大量領(lǐng)域，包括商務(wù)管理、生產(chǎn)控制、市場分析、工程設(shè)計和科學(xué)探索等，可以為決策者做出正確的選擇提供有效的支持。然而這些潛在的信息和知識隱藏在數(shù)據(jù)的海洋中，沒有工具的幫助，人們很難甚至幾乎不可能發(fā)現(xiàn)它們。因此數(shù)據(jù)挖掘越來越重要。
　　至今，已經(jīng)有多種數(shù)據(jù)挖掘的方法，其中決策樹是一種重要的分類和預(yù)測手段，它既能處理離散型數(shù)據(jù)，也能處理連續(xù)型數(shù)據(jù)，并且易于理解

2、。預(yù)測離散屬性值的樹模型叫做分類樹，而預(yù)測連續(xù)屬性值的樹模型叫做回歸樹。決策樹方法主要包括樹的構(gòu)建即歸導(dǎo)和剪枝兩個方面。其中，樹的歸導(dǎo)既是重點也是難點所在，本文主要關(guān)注樹的歸導(dǎo)和并行化方面的問題。
　　經(jīng)典的決策樹算法要求將整個訓(xùn)練集放入內(nèi)存，數(shù)據(jù)集增大時，算法便不能運行，可規(guī)模性極差，這使得它不能用于現(xiàn)實世界的數(shù)據(jù)庫。SLIQ算法強調(diào)算法的可規(guī)模性，將數(shù)據(jù)集分成一個個屬性表駐留磁盤，從一定程度上減少了內(nèi)存的限制，但是它要求類表全

3、部駐留內(nèi)存。SPRINT算法繼承了SLIQ的很多優(yōu)點，并且取消了類表，完全消除了內(nèi)存的限制。并且SPRINT為并行而設(shè)計，并行性能也很優(yōu)秀。但SPRINT也有其不足，屬性表占用過多空間，建立哈希表耗費不少的時間。雨林框架將算法的可擴展性與算法的其他部分分離開，將訓(xùn)練集壓縮成小得多的AVC-Group，再次提高了可擴展性。
　　樹歸導(dǎo)過程中最重要也最難的一步是節(jié)點分割，包括尋找最佳分割準則和根據(jù)此分割準則劃分數(shù)據(jù)集。本文對樹模型和樹

4、歸導(dǎo)進行深入研究，對屬性的候選分割謂詞的選取作出了改進，大量減少了需要評估的分割謂詞，從而節(jié)省了大量的計算時間。關(guān)于衡量分割質(zhì)量的指標，對于分類樹本文選擇GINI指數(shù)，對于回歸樹選擇計算方差的減少量。無論是GINI指數(shù)還是方差，目的都是要使分割前后數(shù)據(jù)集的不純度的減少量達到最大。
　　采用MapReduce編程框架來實現(xiàn)并行化的樹歸導(dǎo)。使用兩個隊列來存放待分割的節(jié)點，一個隊列存放數(shù)據(jù)集過大不能放入內(nèi)存的節(jié)點，另一個存放數(shù)據(jù)集能放入