基于成對差異性度量的選擇性集成學習方法研究.pdf

1、集成學習是一種機器學習范式，它通過使用多個學習器來解決同一問題可以有效地提高學習系統(tǒng)的泛化能力，因此它是國際機器學習界的一個研究熱點。目前，集成學習技術已經(jīng)在行星探測、地震波分析、文本分類、生物特征識別、遙感信息處理、計算機輔助醫(yī)療診斷等眾多領域得到了應用。但是集成學習技術還不夠成熟，集成學習的理論研究中還存在著大量未能解決的問題，集成學習的實際應用研究也有待進一步的拓展和深入。
　　 一般認為，有效地產(chǎn)生泛化能力強、差異大的個

2、體學習器，是集成學習算法的關鍵。但對于如何有效地度量差異、以及更進一步如何有效地獲取和利用這種差異，仍然是一個未能完全解決的問題。選擇性集成方法從集成學習算法產(chǎn)生的個體學習器中選擇一部分來集成，研究結果表明該方法可能比使用所有個體學習器來組成集成效果更好。因此選擇性集成已成為集成學習的一個重要研究方向，其更好的選擇策略以及算法運算速度的提高有待更多研究人員的深入研究。
　　 本文以集成學習為研究對象，介紹了集成學習的概念、理論基

3、礎、構成及兩種經(jīng)典的集成學習算法(Boosting和Bagging)。接著將集成學習應用到了人臉識別領域中，并與人臉識別中常用的幾種學習器進行了對比實驗。然后對選擇性集成學習方法做了深入的研究，首先介紹了選擇性集成的基本思想、理論基礎，其次介紹了基于遺傳算法的選擇性集成算法(GASEN)和選擇性集成的發(fā)展，最后在基于分類器成對差異性度量方法的基礎上提出了一種新的選擇性集成算法(PDMSEN)及其改進算法(PDMSEN-b)。本文的創(chuàng)新研

4、究工作如下：
　　 (1) 將集成學習(Boosting RBF神經(jīng)網(wǎng)絡)應用到人臉識別中，并與人臉識別中常用的幾種學習器進行了對比實驗。實驗結果表明集成學習和SVM構建的學習器在本次實驗中取得了較好的性能，更適合用于人臉識別中特征分類器，為以后在人臉識別中選擇一個合適的分類器提供了參考。
　　 (2)為了提高學習器的差異性和精度，本文提出了一種基于成對差異性度量的選擇性集成算法(PDMSEN)。同時研究了一種改進算法(