不平衡數(shù)據(jù)集分類的Random-SMOTE方法研究.pdf

1、不平衡數(shù)據(jù)集在現(xiàn)實生活中廣泛存在。在不平衡數(shù)據(jù)集中，數(shù)量上處于劣勢的小類的識別往往是分類的重點。不平衡數(shù)據(jù)集中，小類樣本的分布比較稀疏，并且往往被大量大類樣本所包圍，這為小類特征的學(xué)習(xí)帶來極大的挑戰(zhàn)。傳統(tǒng)分類算法在不平衡數(shù)據(jù)集上分類效果不好，往往將小類樣本誤分為大類，不能達(dá)到分類的目的。
　　 SMOTE方法通過小類樣本之間的插值合成新的小類樣本以平衡數(shù)據(jù)集的分布，是一種向上采樣方法。但是，按照SMOTE方法合成新的樣本后，小類

2、分布稀疏的地方仍然相對稀疏，小類分布密集的地方仍然相對密集，不能從根本上改變小類分布稀疏的情況。可以推斷，落在稀疏區(qū)域的未知小類樣本，仍然不易被識別。為了進(jìn)一步提高小類的識別率，基于SMOTE，本文提出了一種新的向上采樣方法即Random-SMOTE。
　　 Random-SMOTE可以在小類樣本空間內(nèi)隨機(jī)合成新的小類樣本，從而可以有效的改變小類樣本分布稀疏的情況。算法中，分別針對數(shù)值屬性和非數(shù)值屬性提出了相應(yīng)的處理方法。在此基

3、礎(chǔ)上，提出了基于Random-SMOTE的不平衡數(shù)據(jù)集分類模型。模型提供了一整套解決不平衡數(shù)據(jù)集分類問題的方案。其核心是首先應(yīng)用Random-SMOTE對小類樣本進(jìn)行向上采樣以平衡數(shù)據(jù)集，然后利用k.近鄰算法對采樣之后的數(shù)據(jù)集進(jìn)行分類，得到分類模型。為了使k-近鄰能夠處理混合屬性數(shù)據(jù)集，k-近鄰算法采用HEOM準(zhǔn)則來確定混合屬性樣本之間的距離。模型中還包括數(shù)據(jù)的預(yù)處理和不平衡數(shù)據(jù)集分類性能評價指標(biāo)的選取。
　　 根據(jù)在多個實際數(shù)

4、據(jù)集上的一系列實驗表明，Random-SMOTE可以有效地解決不平衡數(shù)據(jù)集中小類分類困難的問題。主要體現(xiàn)在，與SMOTE和隨機(jī)采樣方法相比，Random-SMOTE方法不僅對小類具有更高的分類準(zhǔn)確率，而且對小類樣本的絕對稀少相對不敏感，同時在性能評價準(zhǔn)則G-mean上總體表現(xiàn)最好，取得了很好的分類效果。同時，本文還給出了Random-SMOTE算法中的唯一可變參數(shù)-采樣倍率N的參考設(shè)置方法。
　　 Random-SMOTE可以應(yīng)