非平衡多分類問題的分類和特征選擇方法研究.pdf

1、廈門大學(xué)學(xué)位論文原創(chuàng)性聲明本人呈交的學(xué)位論文是本人在導(dǎo)師指導(dǎo)下，獨(dú)立完成的研究成果。本人在論文寫作中參考其他個人或集體己經(jīng)發(fā)表的研究成果，均在文中以適當(dāng)方式明確標(biāo)明，并符合法律規(guī)范和《廈門大學(xué)研究生學(xué)術(shù)活動規(guī)范(試行)》。另外，該學(xué)位論文為()課題(組)的研究成果，獲得()課題(組)經(jīng)費(fèi)或?qū)嶒?yàn)室的資助，在()實(shí)驗(yàn)室完成。(請?jiān)谝陨侠ㄌ杻?nèi)填寫課題或課題組負(fù)責(zé)人或?qū)嶒?yàn)室名稱，未有此項(xiàng)聲明內(nèi)容的，可以不作特別聲明。)聲明人j簽名)奸吼W5年月

2、日摘要摘要在模式分類問題中普遍存在著數(shù)據(jù)集不平衡的現(xiàn)象，即不同類的樣本在數(shù)量和分布上存在較大差異。非平衡數(shù)據(jù)的分類具有著重要的現(xiàn)實(shí)意義，因?yàn)樯贁?shù)類樣本通常伴隨著高昂的錯分代價(jià)，錯分或遺失這些樣本都會對分類結(jié)果帶來嚴(yán)重的影響。有學(xué)者認(rèn)為，支持向量機(jī)作為處理非平衡問題的理想工具，因其分類決策過程僅僅受少數(shù)支持向量的影響，而與其它樣本無關(guān)，樣本總體的類不平衡對分類結(jié)果的影響有限。然而，實(shí)驗(yàn)表明，支持向量機(jī)并不總是能很好地解決非平衡分類問題。本

3、文通過對數(shù)據(jù)分布的觀察，提出類不平衡并非簡單地體現(xiàn)為不同類別樣本數(shù)量上的差異，更本質(zhì)地，應(yīng)該是分界面附近的二類分布密度之比。本文首先通過人造數(shù)據(jù)展示了支持向量機(jī)并不適于所有非平衡數(shù)據(jù)的這一內(nèi)在原因，從而很好地解釋了為什么支持向量機(jī)在處理某些非平衡數(shù)據(jù)時(shí)表現(xiàn)突出，而不適用于其他數(shù)據(jù)的現(xiàn)象。其次基于反轉(zhuǎn)K近鄰法和K近鄰密度估計(jì)法估計(jì)分界面附近兩類樣本密度之比，并選用估計(jì)的密度比作為均衡化處理的比例。實(shí)驗(yàn)表明，該方法是有效的，在大部分非平衡數(shù)

4、據(jù)中取得了較好的效果。模式分類中另一個重要問題是多分類特征選擇，其設(shè)計(jì)目的在于為多個子類尋找一個共同的最優(yōu)特征子集，本質(zhì)上是一個多目標(biāo)優(yōu)化問題。目前很多研究都建立在一定存在共同最優(yōu)特征的前提假設(shè)上，尋優(yōu)方向也僅朝向這些共同特征，較少考慮對于某些單類判別能力更優(yōu)的特征，本文針對每一類尋找判別特征，提出對多分類基因表達(dá)數(shù)據(jù)進(jìn)行分類別的特征選擇，并基于概率組合多分類SVM將子SVM模型進(jìn)行結(jié)合，取得了較好的分類效果，并大大降低了原問題的求解復(fù)