一種集成學習算法及其對灰霾預測的應用研究.pdf

1、集成學習，是先將樣本提供給多個學習模型，再采取投票或是級聯(lián)等方法把這些學習模型的輸出集成起來的學習模型。集成學習采用合成多個學習模型的輸出，能夠顯著的提高學習模型的泛化能力。
　　 本文主要是對異質集成算法的研究，通過對異質集成算法的深入分析，提出一種泛化能力好的新型異質集成算法，并對新提出的算法進行理論分析和實驗檢驗。
　　 本文的主要工作和創(chuàng)新點如下:
　　 (1)提出了一種新的異質混合集成算法。
　　

2、 個體學習器訓練子集生成方面:在提取訓練子集的過程中基于Bagging技術，從原始訓練集中重復選取。為了增強各個訓練子集的獨立性，采用隨機子空間法來提取訓練子集。
　　 個體學習器模型選擇方而:采用決策樹和神經(jīng)網(wǎng)絡混合的方式來訓練個體學習器。由于決策樹和神經(jīng)網(wǎng)絡等模型易于陷入空間局部最小，因此容易產(chǎn)生差異較大的個體學習器。
　　 結論集成方面:采用支持向量機來對個體學習器的結論進行集成。支持向量機在防止過度擬合、運算速

3、度和結果精度等方面表現(xiàn)出明顯的優(yōu)越性。本文將每個個體學習器的輸出結論作為一維特征，用所有個體學習器的輸出結論組成新的數(shù)據(jù)集，最后使用支持向量機在新的數(shù)據(jù)集上進行學習和預測。
　　 (2)對新提出的異質混合集成算法給出泛化誤差和個體學習器差異度的數(shù)學模型，并依據(jù)提出的數(shù)學模型指導算法的參數(shù)優(yōu)化。
　　 (3)采用此算法進行了灰霾預測實驗。選取濟南市2011年1月、4月、7月和10月二十四小時氣象和污染物排放的實測和預測數(shù)據(jù)