支持向量機研究及其應用.pdf

1、支持向量機(SVM)是九十年代中期發(fā)展起來的新的機器學習技術,與傳統(tǒng)的神經(jīng)網(wǎng)絡(NN)技術不同,SVM是以統(tǒng)計學習理論(SLT)為基礎,NN是以傳統(tǒng)統(tǒng)計學理論為基礎.傳統(tǒng)統(tǒng)計學的前提條件是要有足夠多的樣本,而統(tǒng)計學習理論是著重研究小樣本條件下的統(tǒng)計規(guī)律和學習方法的,它為機器學習問題建立了一個很好的理論框架.實踐表明,建立在(SLT)之上支持向量機不僅結構簡單,而且技術性能尤其是推廣能力明顯提高,能夠解決好大量現(xiàn)實中的小樣本學習問題,它是

2、一個全新的神經(jīng)網(wǎng)絡技術.目前,SVM已成為國際上機器學習領域新的研究熱點.該文首次深入系統(tǒng)地對支持向量機(SVM)進行了研究討論.論文的主要貢獻可歸納如下:首先,第一章簡要介紹了由于傳統(tǒng)神經(jīng)網(wǎng)絡的發(fā)展和它在機器學習上的缺陷,導致支持向量機的誕生;并提出了研究和應用支持向量機的必要性和重要性以及現(xiàn)有支持向量機的研究成果和存在的不足.第二章探討了支持向量機理論基礎——學習問題,尤其是對Vapnik等人的統(tǒng)計學習理論(SLT)結合學習問題作了

3、系統(tǒng)的闡述.其次,第三章從模式識別中引出最優(yōu)分類超平面,然后按訓練集線性可分和線性不可分討論,運用最優(yōu)化理論中的拉格朗日乘子法(LMT)推導出相對應地最優(yōu)超平面和判別函數(shù)(決策函數(shù));最后通過統(tǒng)計學習理論和泛函分析理論推導出支持向量機.再次,為了進一步提高支持向量機的通用性以及推廣能力、應用能力、識別速度等性能,在第四、第五兩章運用模糊集理論(FST)和粗糙集理論(RST)對支持向量機進行研究,采用優(yōu)勢互補原則,先是把模糊集與支持向量機