集成異種分類器分類稀有類.pdf

1、對(duì)于許多實(shí)際應(yīng)用，稀有類分類問(wèn)題都非常重要。而稀有類樣本的數(shù)量稀少使得很難使用傳統(tǒng)的分類器對(duì)它們準(zhǔn)確分類。由于稀有類問(wèn)題的特殊性、復(fù)雜性及難解性，目前研究稀有類問(wèn)題的專用算法不多。 本文主要研究集成異種分類器分類稀有類問(wèn)題。由于數(shù)據(jù)的高度傾斜，很多傳統(tǒng)分類算法在稀有類上效果不佳。本文使用一種新的集成方法，稱為EDKC(Ensemble of Different Kind of Classifiers)，用來(lái)分類稀有類。EDKC集

2、成不同的分類器形成組合分類器，并且通過(guò)加權(quán)投票表決對(duì)未知樣本進(jìn)行分類。在UCI機(jī)器學(xué)習(xí)數(shù)據(jù)庫(kù)的多個(gè)稀有類數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明，EDKC對(duì)稀有類分類不僅具有較高的F-度量值，能達(dá)到目標(biāo)類召回率和精度的平衡，而且能夠取得很高的分類準(zhǔn)確率。 集成學(xué)習(xí)方法是從機(jī)器學(xué)習(xí)領(lǐng)域逐漸發(fā)展起來(lái)的用于提升弱分類器分類準(zhǔn)確率的技術(shù)，被認(rèn)為是近十年來(lái)提出的最有效的學(xué)習(xí)思想之一。與單個(gè)算法相比，集成學(xué)習(xí)不容易出現(xiàn)過(guò)適應(yīng)現(xiàn)象。本文使用一種新的集成技術(shù)，它

3、不同于bagging和boosting集成技術(shù)，因?yàn)樗鼈冎荒芗捎孟嗤诸愃惴ń⒌姆诸惼?；而這種新的集成技術(shù)可以集成不同分類算法建立的分類器。所以這種集成技術(shù)更能綜合多種分類模型的優(yōu)點(diǎn)，得到更好的分類效果。 集成的基礎(chǔ)是多種分類算法在數(shù)據(jù)集上的誤分類樣本不同，但是我們進(jìn)一步研究發(fā)現(xiàn)，數(shù)據(jù)集中有一些樣本，是多種分類器都不能正確分類的。數(shù)據(jù)集中一些多個(gè)分類算法都不能正確分類的樣本對(duì)分類算法建立分類模型時(shí)存在不利影響，本文中稱這些不