面向不平衡樣本的Boosting分類算法研究.pdf

1、現(xiàn)實(shí)世界數(shù)據(jù)分類的應(yīng)用通常會(huì)遇到數(shù)據(jù)不平衡的問(wèn)題。在不平衡數(shù)據(jù)集中，大部分樣本屬于“正?！鳖?，稱為負(fù)類，只有很少的一部分樣本是“異?！钡幕蛘哒f(shuō)是引起興趣的，稱為正類。通常，在數(shù)量上占少數(shù)的正類才是分類關(guān)注的重點(diǎn)，而且正類往往具有很高的錯(cuò)分代價(jià)。但是傳統(tǒng)的分類算法是以整體精確度最大化為目標(biāo)的，因此，其分類結(jié)果會(huì)偏向數(shù)量眾多的負(fù)類，少數(shù)類的分類性能可能會(huì)很差。
　　目前，針對(duì)不平衡數(shù)據(jù)分類問(wèn)題主要工作集中在數(shù)據(jù)層面的重采樣技術(shù)和算法層

2、面的改進(jìn)。重采樣方法中最典型的是SMOTE算法。SMOTE算法是一種過(guò)采樣方法，通過(guò)在特征空間上合成少數(shù)類樣例來(lái)使數(shù)據(jù)集趨于平衡。算法層面提出的一種方法是Boosting集成學(xué)習(xí)算法，它關(guān)注那些“困難”樣本，由多個(gè)弱分類器組合成一個(gè)強(qiáng)分類器。
　　但是，SMOTE算法并沒(méi)有考慮不同區(qū)域的少數(shù)類樣本對(duì)少數(shù)類分類性能的貢獻(xiàn)的差別，Boosting算法同等對(duì)待難以被正確分類的多數(shù)類和少數(shù)類，這在一定程度上阻礙了少數(shù)類分類性能的提升。本文

3、從數(shù)據(jù)層面提出了一種區(qū)域有差別的過(guò)采樣方法 DSMOTE算，然后與Boosting算法相結(jié)合得到不平衡數(shù)據(jù)分類算法 DSMOTE-Boost。該算法將少數(shù)類劃分成安全樣本、邊界樣本和孤立點(diǎn)，分別采用不同的采樣策略，增加對(duì)邊界樣本的重視，通過(guò)設(shè)定不平衡率閾值考慮了孤立點(diǎn)價(jià)值；同時(shí)，提出了一種自適應(yīng)調(diào)整邊界樣本采樣倍率的方法，避免了盲目過(guò)采樣。本文算法在多個(gè) UCI數(shù)據(jù)集上進(jìn)行了實(shí)驗(yàn)，結(jié)果表明DSMOTE-Boost算法是有效的，獲得了較好