增量支持向量機(jī)回歸算法及其應(yīng)用研究.pdf

1、支持向量機(jī)(SVM)是九十年代中期發(fā)展起來的新的機(jī)器學(xué)習(xí)技術(shù)，與傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)(NN)技術(shù)不同，SVM是以統(tǒng)計(jì)學(xué)習(xí)理論(SLT)為基礎(chǔ)，NN是以傳統(tǒng)統(tǒng)計(jì)學(xué)理論為基礎(chǔ)。傳統(tǒng)統(tǒng)計(jì)學(xué)的前提條件是要有足夠多的樣本，而統(tǒng)計(jì)學(xué)習(xí)理論是著重研究小樣本條件下的統(tǒng)計(jì)規(guī)律和學(xué)習(xí)方法的，它為機(jī)器學(xué)習(xí)問題建立了一個(gè)很好的理論框架。實(shí)踐表明，建立在(SLT)之上支持向量機(jī)不僅結(jié)構(gòu)簡(jiǎn)單，而且技術(shù)性能尤其是推廣能力明顯提高，能夠解決好大量實(shí)踐中的小樣本學(xué)習(xí)問題，它是

2、一個(gè)全新的人工智能技術(shù)。目前，SVM己成為國(guó)際上機(jī)器學(xué)習(xí)領(lǐng)域新的研究熱點(diǎn)。本文首次提出增量支持向量機(jī)算法的回歸模型，并對(duì)其進(jìn)行應(yīng)用研究。 論文的主要工作可歸納如下： 首先，第一章簡(jiǎn)要介紹了機(jī)器學(xué)習(xí)的缺陷，而統(tǒng)計(jì)學(xué)習(xí)理論的發(fā)展，導(dǎo)致了支持向量機(jī)的誕生，分析了支持向量機(jī)與神經(jīng)網(wǎng)絡(luò)的差異，并指出了研究和應(yīng)用支持向量機(jī)的必要性和重要性以及現(xiàn)有支持向量機(jī)的研究成果和存在的不足，提出了本文的研究?jī)?nèi)容及目的和意義。第二章探討了支持向量

3、機(jī)理論基礎(chǔ)，對(duì)支持向量機(jī)的傳統(tǒng)模型進(jìn)行了系統(tǒng)的闡述，為增量支持向量機(jī)的產(chǎn)生奠定了理論基礎(chǔ)。 其次，第三章對(duì)支持向量機(jī)的回歸進(jìn)行了理論的推導(dǎo)和分析，并對(duì)損失函數(shù)進(jìn)行了理論解釋，對(duì)核函數(shù)和高維空間映射進(jìn)行闡述。第四章對(duì)內(nèi)點(diǎn)算法和子集選擇算法進(jìn)行了較為深入的闡述，為增量回歸算法的建立奠定基礎(chǔ)。 再次，為了進(jìn)一步提高支持向量機(jī)的通用性以及推廣能力、應(yīng)用能力、回歸速度等性能，第五章提出了增量支持向量機(jī)回歸算法，并且選擇了核函數(shù)的具