多分類器系統(tǒng)中信息融合方法研究.pdf

1、分類問題具有不確定性，盡管由于多分類器融合技術(shù)在降低分類系統(tǒng)泛化誤差、簡(jiǎn)化分類器設(shè)計(jì)等方面的優(yōu)良表現(xiàn)，國(guó)內(nèi)外對(duì)它的研究取得了不少成果，但至今還有許多關(guān)鍵理論和技術(shù)問題有待解決和完善。再者，由于標(biāo)記樣例的難以獲取，近幾年來，多分類器融合已經(jīng)由傳統(tǒng)的“有監(jiān)督”多分類器融合，逐步拓展到“無監(jiān)督”多分類器融合(也稱“聚類融合”)、“半監(jiān)督”多分類器融合(有標(biāo)記的樣例不足)兩個(gè)更年輕的高不確定性的領(lǐng)域。因此，近幾年來，國(guó)際上越來越多研究者投入到多

2、分類器融合的研究中，使得該領(lǐng)域成為了一個(gè)相當(dāng)活躍的研究熱點(diǎn)。
　　 本文針對(duì)多分類器系統(tǒng)中信息融合問題，在全面介紹和分析分類器融合的研究現(xiàn)狀、工作機(jī)理的基礎(chǔ)上，提出了多種用于進(jìn)一步提高分類器融合系統(tǒng)性能、擴(kuò)大其應(yīng)用范圍的算法。本文的主要研究成果如下：
　　 針對(duì)傳統(tǒng)多分類器設(shè)計(jì)框架僅適用于有標(biāo)記資料的缺陷，提出了一種通用的自適應(yīng)多分類器設(shè)計(jì)框架。該框架集成了各種資料條件下(最初無標(biāo)記信息、中期有少量標(biāo)記信息、后期有足夠標(biāo)

3、記信息)的多分類器設(shè)計(jì)方法，具有自適應(yīng)功能，對(duì)于一項(xiàng)應(yīng)用能根據(jù)資料所處的階段(無監(jiān)督、半監(jiān)督和有監(jiān)督)自動(dòng)調(diào)整。
　　 針對(duì)有監(jiān)督分類器融合方法-模糊積分，對(duì)該方法中的重要問題-模糊密度確定問題進(jìn)行了研究，首次將兩種典型的靜態(tài)確定方法進(jìn)行了細(xì)致的比較研究。在此基礎(chǔ)上，提出了一種動(dòng)態(tài)自適應(yīng)模糊積分融合算法，該方法的特點(diǎn)是采用一種新的基于模糊測(cè)度的差異性度量方法進(jìn)行初始的成員分類器選擇，并選擇合理的初始模糊密度，引入修正系數(shù)對(duì)模糊密

4、度進(jìn)行自適應(yīng)動(dòng)態(tài)調(diào)整，不僅降低了融合的規(guī)模，而且提高了整體的性能。
　　 針對(duì)無監(jiān)督分類器融合算法可能出現(xiàn)的信息失真問題，提出了一種基于信息滾動(dòng)機(jī)制的平均互信息方法，并通過實(shí)驗(yàn)驗(yàn)證了其有效性；然而，也發(fā)現(xiàn)隨著規(guī)模增大，暴露出易被噪聲聚類成員干擾的缺陷。因此，將問題拓展，提出了一種基于蟻群算法的匹配方法，該方法具有隨著規(guī)模的擴(kuò)大而優(yōu)勢(shì)越來越明顯的優(yōu)點(diǎn)，為未來解決聚類類別不匹配的情況提供了一個(gè)方向。在此基礎(chǔ)上，提出了一種新的無監(jiān)督分

5、類器融合算法，該算法兼顧聚類質(zhì)量與成員多樣性，采用一種新的相似性度量，并依據(jù)度量結(jié)果先對(duì)聚類成員進(jìn)行剪輯操作，再分組、選擇，最后根據(jù)了每個(gè)聚類成員對(duì)每類別的貢獻(xiàn)設(shè)計(jì)了一種新的加權(quán)函數(shù)，與其他方法相比，該方法具有較好的穩(wěn)定性與精確性。
　　 針對(duì)半監(jiān)督分類器融合算法中的兩類算法(多視圖和單視圖)，提出了兩種基于統(tǒng)計(jì)的協(xié)同訓(xùn)練算法。多視圖方面，提出了一種改進(jìn)的基于統(tǒng)計(jì)方法的多視圖協(xié)同訓(xùn)練算法，該算法采用多元統(tǒng)計(jì)方法KCCA對(duì)兩視圖中

6、變量組進(jìn)行分析，并在KCCA的應(yīng)用過程中利用類標(biāo)號(hào)信息產(chǎn)生獎(jiǎng)勵(lì)或懲罰因子，使得抽取的同類樣本特征之間的相關(guān)最大化，同時(shí)使得不同類樣本特征之間的相關(guān)最小化，最后采用二次確認(rèn)的投票方法進(jìn)行標(biāo)注。實(shí)驗(yàn)表明，該方法在有標(biāo)記樣本占比例較小時(shí)，具有較明顯的效果。單視圖方面，提出一種新的單視圖協(xié)同訓(xùn)練算法，該算法通過最小顯著性差異(LSD)假設(shè)檢驗(yàn)方法使得三個(gè)成員分類器兩兩之間具有顯著性差異，然后采用D-S證據(jù)理論提高標(biāo)注的穩(wěn)定性，再用局部離群點(diǎn)檢測(cè)