數(shù)據(jù)挖掘分類方法研究.pdf

1、隨著人類社會(huì)和計(jì)算機(jī)技術(shù)的飛速發(fā)展,電子數(shù)據(jù)的積累出現(xiàn)了爆炸式的增長.這些海量的電子數(shù)據(jù)里面無疑隱藏著豐富的對(duì)人類深具價(jià)值的知識(shí),而傳統(tǒng)的在線處理系統(tǒng)(OLTP)只能利用其中的很少一部分.近年來不斷完善發(fā)展的數(shù)據(jù)挖掘技術(shù)恰恰能幫助人們從數(shù)據(jù)中發(fā)現(xiàn)大量的隱藏知識(shí),而分類正是其中的極其重要的技術(shù)方法.準(zhǔn)確率、速度、強(qiáng)壯性、可伸縮性、可解釋性是評(píng)估分類方法的五條標(biāo)準(zhǔn),其中準(zhǔn)確率又是重中之重.本論文就是在這幾方面研究、分析了國內(nèi)外比較流行的若干

2、種分類方法:決策樹分類、貝葉斯分類、神經(jīng)網(wǎng)絡(luò)分類、關(guān)聯(lián)規(guī)則分類等等.另外,本論文還討論了常用的評(píng)估分類法準(zhǔn)確率的技術(shù)保持、k-折交叉確認(rèn)和改進(jìn)分類法準(zhǔn)確率的兩種常見技術(shù)裝袋(bagging)(或引導(dǎo)聚集)、推進(jìn).k-最臨近(k-NN)分類方法是一種基于類比學(xué)習(xí)的分類方法,在計(jì)算兩訓(xùn)練樣本的相異度時(shí)給每一屬性加相同的權(quán),這樣會(huì)造成分類的準(zhǔn)確性下降,尤其當(dāng)存在很多無關(guān)屬性時(shí),甚至?xí)斐苫靵y.根據(jù)信息論中概率信息的理論,數(shù)據(jù)集中每一屬性所含有

3、的信息量是不同的,可用平均互信息量(信息增益)來度量某一屬性與類標(biāo)號(hào)屬性的相關(guān)性.也就是說,某一屬性與類標(biāo)號(hào)屬性的平均互信息量越大,則它們之間的的相關(guān)性越大;反之,某一屬性與類標(biāo)號(hào)屬性的平均互信息量越小,則它們之間的的相關(guān)性越小.據(jù)此,本論文提出了用每一屬性的信息增益作為該屬性的權(quán)來計(jì)算訓(xùn)練樣本間的相異度的數(shù)學(xué)模型并將這一模型應(yīng)用于k-最臨近分類方法而得到一種新的分類方法:加權(quán)k-最臨近(Wk-NN)分類方法,改善了原方法的分類質(zhì)量,提