基于多分類器集成及半監(jiān)督學(xué)習(xí)的不平衡數(shù)據(jù)分類研究.pdf

1、隨著網(wǎng)絡(luò)媒體和互聯(lián)網(wǎng)技術(shù)的高速發(fā)展，Internet上充斥著各種海量的信息，且在不斷變化更新,來(lái)源也更為廣泛。怎樣從海量的且不斷變化的大數(shù)據(jù)中得到符合用戶所需信息已經(jīng)成為各機(jī)器學(xué)習(xí)的一個(gè)重要課題。同時(shí)，不平衡數(shù)據(jù)的分類問(wèn)題也日益突出，原有的機(jī)器學(xué)習(xí)方法已經(jīng)不適合解決這類問(wèn)題。因此對(duì)不平衡數(shù)據(jù)的分類問(wèn)題的研究存在著更大的挑戰(zhàn)。
　　一般來(lái)講，解決不平衡數(shù)據(jù)分類問(wèn)題通常使用的方法主要從兩個(gè)角度出發(fā)：從數(shù)據(jù)層面和從算法層面對(duì)不平衡數(shù)據(jù)分

2、類問(wèn)題都分別進(jìn)行了相關(guān)的深入研究。本文對(duì)于不衡數(shù)據(jù)分類問(wèn)題所做的工作主要如下：
　　1.基于多分類器集成的不平衡數(shù)據(jù)分類
　　不平衡數(shù)據(jù)分類問(wèn)題中用到的一個(gè)關(guān)鍵技術(shù)就是多分類器集成，為確保其集成的學(xué)習(xí)效果，必須改進(jìn)以下兩方面的內(nèi)容，一是要使單個(gè)弱分類器的分類準(zhǔn)確率提高，另一方面要增強(qiáng)單個(gè)弱分類器之間互相的差異性以及多樣性。對(duì)于不平衡數(shù)據(jù)集來(lái)說(shuō)，正負(fù)樣本的分布不均衡，使訓(xùn)練所得的分類器對(duì)稀有類的識(shí)別率極低，從而導(dǎo)致分類器的分類

3、性能差。針對(duì)這種情況，本文提出一種基于 KPCA和RST的多分類器集成方法，首先將不平衡數(shù)據(jù)集采取降維的方式，并提取其主要特征，獲取有代表性的樣本信息，其次通過(guò)重構(gòu)數(shù)據(jù)集的方法改變訓(xùn)練集樣本分布，降低其不平衡度，這就使得單個(gè)弱分類器的分類準(zhǔn)確率大大提高。由于重構(gòu)數(shù)據(jù)集時(shí)，對(duì)訓(xùn)練集合的劃分是采用隨機(jī)采樣的方式，這在一定程度上又增強(qiáng)了單個(gè)弱分類器之間的差異性。
　　2.基于半監(jiān)督學(xué)習(xí)的不平衡數(shù)據(jù)分類
　　在不平衡數(shù)據(jù)分類問(wèn)題中，

4、由于稀有類樣本的數(shù)量稀缺，為更有效的利用數(shù)據(jù)集中存在的數(shù)量豐富的且不帶標(biāo)記的樣本數(shù)據(jù)信息，本文創(chuàng)新的將半監(jiān)督學(xué)習(xí)的方法應(yīng)用于解決不平衡數(shù)據(jù)的分類問(wèn)題中，并對(duì)Tri-training算法進(jìn)行改進(jìn)處理。首先將三個(gè)互不相同的分類器引入到訓(xùn)練和學(xué)習(xí)過(guò)程中，進(jìn)而使各個(gè)分類器互相的差異性增強(qiáng)。其次，改進(jìn)的 Tri-training算法不是采用多數(shù)投票法來(lái)對(duì)分類器集成，而是在加權(quán)投票時(shí)，引入了分類器對(duì)樣本標(biāo)記的準(zhǔn)確率來(lái)實(shí)現(xiàn)分類器的集成，進(jìn)而使學(xué)習(xí)所得