標(biāo)簽噪聲的集成學(xué)習(xí)研究.pdf

1、集成學(xué)習(xí)，又稱多分類器系統(tǒng)，嘗試著訓(xùn)練多個不同的基分類器，通過協(xié)同合作來處理問題。作為機(jī)器學(xué)習(xí)的一個新的學(xué)習(xí)范式，集成學(xué)習(xí)的目的在于改善算法的泛化性能。然而，分類器的預(yù)測精度和泛化能力常常受到訓(xùn)練數(shù)據(jù)中標(biāo)簽噪聲樣本的影響。目前主要有兩種有效的處理訓(xùn)練集中標(biāo)簽噪聲的方法：一種是構(gòu)建對標(biāo)簽噪聲魯棒的學(xué)習(xí)算法框架，一種是檢測并清除數(shù)據(jù)集中的標(biāo)簽噪聲樣本。在本篇論文中，三個研究內(nèi)容，應(yīng)用集成學(xué)習(xí)方法，圍繞著上面兩種標(biāo)簽噪聲處理方法展開。

2、　　論文的主要研究內(nèi)容內(nèi)如下：
　?。?）提出了一種基于Condensed Nearest Neighbor和集成的魯棒學(xué)習(xí)方法框架。CNN方法作為一種基于實例選擇的方法，旨在構(gòu)建一個有效的訓(xùn)練子集，使其能代表整個訓(xùn)練集。算法利用Condensed Nearest Neighbors對標(biāo)簽噪聲的敏感特性和其樣本選擇的特性，有效地構(gòu)建噪聲比例相對較少的多個訓(xùn)練數(shù)據(jù)子集，通過訓(xùn)練子集的差異性和低標(biāo)簽噪聲率來訓(xùn)練得到魯棒和有效的基分類器

3、，最后對基分類器的學(xué)習(xí)結(jié)果進(jìn)行集成組合。實驗通過對比經(jīng)典Bagging、AdaBoost和隨機(jī)森林算法等集成學(xué)習(xí)方法，在處理不同噪聲樣本比例的數(shù)據(jù)集時，取得了更好的分類效果，展現(xiàn)了更強(qiáng)的標(biāo)簽噪聲魯棒性。
　　（2）基于隨機(jī)森林和數(shù)據(jù)集分塊的集成去噪算法中，首先，利用隨機(jī)森林方法對Majority Filtering算法做出了改進(jìn)，以期訓(xùn)練得到的基分類器具有很好的噪聲容忍特性。然后，算法進(jìn)行多次隨機(jī)的數(shù)據(jù)集分塊，通過隨機(jī)森林改進(jìn)后的

4、Majority Filtering算法檢測出多個疑似標(biāo)簽噪聲樣本集，最終經(jīng)過多數(shù)投票，決定出訓(xùn)練集中的標(biāo)簽噪聲樣本并進(jìn)行剔除。實驗表明，提出的算法可以檢測出更多的標(biāo)簽噪聲樣本，較少地剔除標(biāo)記正確的樣本，證實了算法的有效性。
　?。?）基于Majority Voting的改進(jìn)AdaBoost標(biāo)簽噪聲抑制算法中，針對AdaBoost算法對于噪聲樣本的敏感性，即噪聲樣本的權(quán)重會隨著算法迭代次數(shù)的增加而增加，進(jìn)而影響到樣本子集的采樣選取