基于主成分估計的極限學(xué)習(xí)機及其應(yīng)用研究.pdf

1、極限學(xué)習(xí)機(Extreme Learning Machine，ELM)是一種新型的單隱層前饋神經(jīng)網(wǎng)絡(luò)，有著結(jié)構(gòu)簡單、泛化能力強以及學(xué)習(xí)速度快等優(yōu)點，近年來得到了國內(nèi)外諸多學(xué)者的廣泛研究和應(yīng)用。但當隱層設(shè)計矩陣列與列之間存在復(fù)共線性時，設(shè)計矩陣變成非滿秩矩陣，最小二乘估計由此計算出的輸出權(quán)值穩(wěn)健性不足。針對這一問題，本文借鑒主成分估計方法，提出主成分極限學(xué)習(xí)機，利用主成分估計來計算極限學(xué)習(xí)機的輸出權(quán)值，可以有效提高ELM的魯棒性。本文主要

2、針對以下幾個方面展開了研究：
　　(1)介紹了極限學(xué)習(xí)機的產(chǎn)生背景和發(fā)展，總結(jié)了近年來極限學(xué)習(xí)機的國內(nèi)外的研究狀況，對極限學(xué)習(xí)機的理論進行了介紹和分析，重點分析了極限學(xué)習(xí)機存在的缺點和不足。
　　(2)闡述了最小二乘估計的具體實現(xiàn)過程，以及最小二乘估計存在的問題，介紹了穩(wěn)健估計理論中的M估計、嶺估計和主成分估計，分析了它們各自的特點。
　　(3)針對在隱層設(shè)計矩陣存在復(fù)共線性時，經(jīng)典最小二乘估計的輸出權(quán)值存在較大偏差這

3、一問題，我們提出了一種結(jié)合主成分估計的極限學(xué)習(xí)機算法(PC-ELM)，用主成分估計來替換最小二乘估計計算輸出權(quán)值，降低隱層設(shè)計矩陣復(fù)共線性對輸出權(quán)值計算帶來的干擾。
　　(4)為了驗證PC-ELM的有效性，對比了目前比較流行的幾種ELM學(xué)習(xí)算法，通過大量回歸實驗與分類實驗，驗證了本文提出的PC-ELM算法在保留了極限學(xué)習(xí)機的學(xué)習(xí)速度快、結(jié)構(gòu)簡單、泛化性能強等優(yōu)勢外，能夠有效的改善病態(tài)隱層設(shè)計矩陣導(dǎo)致的輸出權(quán)值計算穩(wěn)健性不足問題。<

4、br>　　(5)系統(tǒng)的介紹了高鋁粉煤灰提出氧化鋁的生產(chǎn)工藝流程，以及回轉(zhuǎn)窯生產(chǎn)氧化鋁的工藝特點。分析了對熟料燒結(jié)起決定性作用的燒結(jié)帶溫度建模存在的難度和問題，提出了采用主成分極限學(xué)習(xí)機來對燒結(jié)帶溫度進行建模。用專家控制系統(tǒng)采集的熱工參數(shù)作為樣本，PC-ELM作為網(wǎng)絡(luò)模型訓(xùn)練學(xué)習(xí)算法。實驗結(jié)果跟ELM算法和BP神經(jīng)網(wǎng)絡(luò)算法進行了對比，實驗結(jié)果表明采用本文提出的PC-ELM能夠?qū)Y(jié)帶溫度實現(xiàn)精準的軟測量建模，得到的預(yù)測溫度結(jié)果優(yōu)于ELM算