選擇性集成學習及其應用研究.pdf

1、集成學習是一種機器學習范式。相對傳統(tǒng)的單個分類器，通過組合多個分類器，集成學習能顯著地提高分類器的泛化能力。目前，集成學習在疾病診斷、生物特征識別、文本分類和信息處理等領域獲得了廣泛應用。作為集成學習的一個研究方向，選擇性集成學習試圖從已有的個體學習機中剔除一些性能不佳的，從而獲得更好的集成性能。然而，在選擇性集成系統(tǒng)中如何選取基分類器，確定最優(yōu)分類器組合等，仍需進一步深入研究。論文研究對提高集成系統(tǒng)性能，促進集成學習在實際中應用，具有

2、重要的理論與現實意義。
　　論文從集成學習基礎理論、集成方法、選擇性集成及應用等方面進行研究，重點研究了集成學習中基分類器選取問題，主要研究內容和工作成果如下：
　　1、對集成學習理論進行了深入分析，研究了集成學習理論基礎，基分類器產生、基分類器融合方式及集成性能評價指標。考慮到實際應用數據復雜性，研究了數據預處理、歸一化、降維及不平衡數據處理方法，為后續(xù)研究奠定基礎。
　　2、集成學習因其顯著提高一個學習系統(tǒng)的泛化能

3、力而得到機器學習界的廣泛關注。以決策樹分類方法為基礎，運用Bagging算法，結合醫(yī)療疾病數據，構建基于Bagging的決策樹集成診斷模型。對比集成學習模型與單一決策樹模型的診斷性能，實驗結果驗證了集成學習診斷方法具有更好的泛化能力。
　　3、基分類器的準確率與多樣性在集成學習機的構建中起著至關重要的作用。針對基分類器選取問題，提出了一種兼顧準確率和多樣性的BAD（Balancing Accuracy and Diversity）