一種基于影響因子的ID3改進(jìn)算法.pdf

1、伴隨著海量數(shù)據(jù)的不斷涌現(xiàn)，“數(shù)據(jù)充沛，卻信息匱乏”的矛盾日益突出。數(shù)據(jù)挖掘?yàn)槲覀儚暮Ａ繑?shù)據(jù)中提取或挖掘有用信息提供了有效的技術(shù)手段，其中作為數(shù)據(jù)挖掘重要方法的決策樹(shù)分類挖掘被廣泛應(yīng)用和研究。作為決策樹(shù)分類中的經(jīng)典算法，ID3算法是Quinlan在1986年提出的，其選擇具有最大信息增益值的屬性作為分裂屬性，從而使分裂后的系統(tǒng)具有的信息熵最小，并使所構(gòu)造決策樹(shù)的結(jié)構(gòu)更簡(jiǎn)單，進(jìn)而提高分類算法的運(yùn)行效率和分類準(zhǔn)確率。
　　針對(duì)ID3算法

2、在用信息增益作為分裂屬性選擇的標(biāo)準(zhǔn)時(shí)存在多值偏向的問(wèn)題，即偏向于取值較多的屬性，本文提出了一種基于影響因子的ID3改進(jìn)算法。該算法通過(guò)引入影響因子的概念，在計(jì)算信息增益時(shí)考慮屬性及其屬性值對(duì)類標(biāo)記的影響因子，選擇改進(jìn)后的信息增益作為劃分屬性的選擇標(biāo)準(zhǔn)。由于取值較多的屬性的影響因子在較高概率上取值較小，從而在一定程度上克服了ID3算法的多值偏向問(wèn)題。同時(shí)，為了減小訓(xùn)練數(shù)據(jù)集中噪聲或離群點(diǎn)對(duì)決策樹(shù)構(gòu)造過(guò)程的影響，改進(jìn)后的算法通過(guò)引入誤分類比