神經(jīng)網(wǎng)絡(luò)集成算法的研究.pdf

1、神經(jīng)網(wǎng)絡(luò)集成是目前國際機器學(xué)習(xí)和神經(jīng)計算學(xué)界的一個相當(dāng)活躍的研究熱點，設(shè)計出更有效的神經(jīng)網(wǎng)絡(luò)集成的實現(xiàn)方法，來提高神經(jīng)網(wǎng)絡(luò)集成模型的泛化能力，具有很重要的理論和現(xiàn)實意義，它不僅有助于科學(xué)家對機器學(xué)習(xí)和神經(jīng)計算的深入研究，還有助于普通工程技術(shù)人員利用神經(jīng)網(wǎng)絡(luò)解決真實世界中的問題。 本文把神經(jīng)網(wǎng)絡(luò)集成用于分類問題，主要是針對神經(jīng)網(wǎng)絡(luò)集成實現(xiàn)方法的研究，研究目標(biāo)是通過對神經(jīng)網(wǎng)絡(luò)集成算法進行深入分析，設(shè)計出泛化能力好的神經(jīng)網(wǎng)絡(luò)集成模型。

2、 本文的主要工作和創(chuàng)新點如下： (1)在個體網(wǎng)絡(luò)生成階段引入了特征選擇技術(shù)。提出了一種基于交叉驗證和ReliefF的神經(jīng)網(wǎng)絡(luò)集成學(xué)習(xí)算法(CVRNNEn算法)，首先利用交叉驗證選取個體網(wǎng)絡(luò)的訓(xùn)練數(shù)據(jù)集，然后再對每個訓(xùn)練集進行特征選擇，來降低數(shù)據(jù)集的規(guī)模，減少相關(guān)性低的特征的對個體網(wǎng)絡(luò)預(yù)測結(jié)果的干擾，提高了個體網(wǎng)絡(luò)的預(yù)測精度和個體網(wǎng)絡(luò)之間的差異度。算法代碼在weka3.5.6平臺上實現(xiàn)，通過在UCI數(shù)據(jù)集上仿真實驗，和Ra

3、ndomSubSpace算法、Bagging算法以及單個RBF網(wǎng)絡(luò)的預(yù)測結(jié)果進行比較，得出CVRNNEn算法預(yù)測性能最優(yōu)，從實驗上證實了算法在預(yù)測性能上的優(yōu)勢； (2)基于周志華提出的選擇性神經(jīng)網(wǎng)絡(luò)集成的思想，以及對目前典型的幾種選擇性神經(jīng)網(wǎng)絡(luò)集成算法的綜合分析，提出一種基于CLIQUE(維增長子空間聚類方法－Clustering In QUEst)算法的選擇性神經(jīng)網(wǎng)絡(luò)集成(簡稱CLIQUE_SEN)，首先利用Bagging算法