混沌時間序列預(yù)測與儲備池機器學(xué)習(xí)方法研究.pdf

1、本文以混沌時間序列的儲備池預(yù)測方法為題進(jìn)行研究，以期探索儲備池的非線性處理機制，另覓新的機器學(xué)習(xí)方法，主要研究內(nèi)容包括： 1、分析和建立混沌時間序列的儲備池預(yù)測模型。對于一些確定性混沌序列，基于儲備池的迭代預(yù)測方法性能卓越，但其結(jié)構(gòu)設(shè)置缺乏合理解釋，而且到目前為止，這種方法較好地應(yīng)用于含噪聲的混沌時間序列。針對這些問題，本文首先證明此類模型對非線性系統(tǒng)狀態(tài)軌跡的逼近特性，并探討初始狀態(tài)設(shè)置的任意性。其次，本文將儲備池模型分為三類

2、：常規(guī)狀態(tài)反饋結(jié)構(gòu)、輸出反饋結(jié)構(gòu)和前饋(靜態(tài))結(jié)構(gòu)，而著名的迭代預(yù)測方法則可由輸出反饋結(jié)構(gòu)加以分析。通過進(jìn)一步對比這三類結(jié)構(gòu)，本文提出了基于儲備池的混沌序列直接預(yù)測方法，該方法利用預(yù)測原點和預(yù)測時域之間的關(guān)系直接構(gòu)建預(yù)測器。相對于已有的迭代方法，本文所建直接預(yù)測器的穩(wěn)定性可預(yù)先加以保障，遂避免由于網(wǎng)絡(luò)附加回路閉合而產(chǎn)生的穩(wěn)定性和誤差積累問題。 2、提出儲備池正則化學(xué)習(xí)方法。在現(xiàn)有的儲備池學(xué)習(xí)方法中，存在較為嚴(yán)重的不適定性，表現(xiàn)為

3、奇異值分布較連續(xù)、條件數(shù)較大，得到的輸出權(quán)值幅值較大，從而為儲備池的應(yīng)用埋下了隱患。針對這個問題，本文提出儲備池的正則化學(xué)習(xí)方法。該方法可通過奇異值截斷或懲罰方法實現(xiàn)，其中，截斷方法直接處理病態(tài)的系數(shù)矩陣，通過矩陣的奇異值截斷，舍棄較小的奇異值以解決不適定問題；懲罰方法則采用嶺回歸形式，改善待因子化矩陣的性質(zhì)，使其對稱正定，因而可通過高效的Cholesky或高斯消元法進(jìn)行求解。此外，本文還探討了正則化方法應(yīng)用于含噪聲混沌序列預(yù)測的理論問

4、題。假設(shè)時間序列所含的噪聲有界，從變量含誤差(Errors-in-variables)模型的角度，可得到由噪聲所引起的最壞預(yù)測誤差。通過最小化該誤差，便得到含噪混沌序列的魯棒最優(yōu)預(yù)測模型，該模型具有懲罰正則化的形式。 3、基于儲備池方法，提出無核非線性支持向量機模型。傳統(tǒng)的核方法實現(xiàn)了一種靜態(tài)映射，但較難實現(xiàn)遞歸結(jié)構(gòu)，因此無法直接處理動態(tài)模式。儲備池具有“遞歸核”的功能，并可較好地應(yīng)用于動態(tài)系統(tǒng)辨識?；诖耍疚慕Y(jié)合儲備池的特點

5、和傳統(tǒng)支持向量機的處理方法，提出一種不依賴核的非線性支持向量機一支持向量回聲狀態(tài)機(SupportVectorEcho-StateMachines，SVESMs)。SVESMs的主要特點是不依賴核方法構(gòu)建隱式的特征空間，它采用隨機生成的儲備池來處理非線性系統(tǒng)建模問題，在高維的儲備池狀態(tài)空間中進(jìn)行計算。這種方法便于實現(xiàn)結(jié)構(gòu)風(fēng)險最小化(StructuralRiskMinimization)，并可根據(jù)問題的不同引入不同的代價函數(shù)，當(dāng)采用魯棒損