基于過抽樣技術的不平衡數據分類研究.pdf

1、在數據挖掘領域中，分類技術根據數據集中的數據訓練出一個分類函數或構建出一個分類模型，對未知實例的類標號進行預測。在不平衡數據分類研究中，由于不平衡數據集中小類樣本數量少，小類樣本難以被正確分類，因此，提高小類樣本的分類準確率至關重要。目前，針對不平衡數據分類的技術有兩種，一種是數據層面的方法，另一種是算法層面的方法。前者主要在分類之前對原始訓練集進行預處理，包括過抽樣技術和欠抽樣技術。后者主要提出針對不平衡數據特點的新的算法或改進現有的

2、算法以適應數據的不平衡。為了提高不平衡數據中小類樣本的分類準確率，本文主要在數據層面的過抽樣技術上做了以下三個研究。
　　第一，將聚類技術與過抽樣技術相結合，提出一種基于聚類的過抽樣算法ClusteredSMOTE_Boost。該算法利用聚類技術，首先將數據集的小類樣本分為邊界樣本和非邊界樣本，其次將所有小類樣本分為若干個簇。針對小類邊界樣本合成新樣本時，使新樣本更靠近小類樣本內部。針對小類非邊界樣本合成新樣本時，使新樣本更靠近非

3、邊界樣本所在簇的中心。實驗結果表明該算法能夠有效地提高小類樣本的分類準確率。
　　第二，為了使原始訓練集的決策邊界不復雜，提出一種基于小類內部樣本的過抽樣算法GR-InsideOS。該算法僅讓小類內部樣本參與合成，使得新樣本位于小類樣本內部，不使分類邊界復雜化。在此基礎上提出基于聚類的小類內部過抽樣算法CGR-InsideOS，利用聚類技術使新樣本靠近小類內部樣本所在簇的中心，更加保證了原始訓練集的決策邊界不復雜。實驗結果表明這兩

4、個算法均有效地提高了小類樣本的分類性能。
　　第三，將基于內部樣本的過抽樣算法與多次學習技術相結合，提出兩種基于小類內部樣本過抽樣的多次學習算法IRML和IKCML。兩個算法均是從原始訓練集中選取一些樣本組成K個子訓練集，然后分別對子訓練集采用GR-InsideOS算法合成新樣本，生成K個新的子訓練集，建立K個分類器。IRML是采用隨機的方式在原始訓練集中選取樣本，而IKCML算法是采用K折交叉方法有放回的選取樣本。后者保證了每個