支持向量機(jī)的快速優(yōu)化算法.pdf

1、目前，SVM已經(jīng)被廣泛應(yīng)用于包括文本分類(lèi)、圖像識(shí)別、手寫(xiě)體識(shí)別、金融預(yù)測(cè)等分類(lèi)與回歸問(wèn)題.支持向量機(jī)(Support Vector Machine，簡(jiǎn)稱(chēng)SVM)通過(guò)求解二次規(guī)劃問(wèn)題獲得最優(yōu)超平面或回歸函數(shù)，從而實(shí)現(xiàn)對(duì)測(cè)試樣本的預(yù)測(cè).采用SVM，可以充分發(fā)揮它對(duì)小樣本數(shù)據(jù)處理的優(yōu)勢(shì)，用比較少的樣本得到最優(yōu)決策函數(shù).但是SVM在解決凸二次規(guī)劃問(wèn)題上的耗時(shí)長(zhǎng)，速度慢.近年來(lái)，一些研究工作者在SVM的基礎(chǔ)上提出了一類(lèi)雙支持向量機(jī)模型，這類(lèi)模型通

2、過(guò)優(yōu)化兩個(gè)比較小的二次規(guī)劃問(wèn)題間接獲得決策函數(shù).
　　隨著信息技術(shù)的發(fā)展，越來(lái)越多的數(shù)據(jù)信息被人們快速獲取;另一方面，高速發(fā)展的社會(huì)也導(dǎo)致信息萬(wàn)變，學(xué)習(xí)數(shù)據(jù)通常具有較強(qiáng)的時(shí)序性.因此，有必要討論SVM的各種模型的在線(xiàn)學(xué)習(xí)方式，同時(shí)應(yīng)考慮到樣本的時(shí)效性.
　　本文討論了雙支持向量機(jī)(Twin Support Vector Machine，簡(jiǎn)稱(chēng)TWSVM)、雙參數(shù)間隔支持向量機(jī)(Twin Parametric-Margin Su

3、pport Vector Machine，簡(jiǎn)稱(chēng)TPMSVM)、ε-雙支持向量回歸(ε-Twin Support Vector Regression，簡(jiǎn)稱(chēng)ε-TWSVR)和雙參數(shù)不敏感支持向量回歸(TwinParametric Insensitive Support Vector Regression，簡(jiǎn)稱(chēng)TPISVR)的在線(xiàn)學(xué)習(xí)算法.當(dāng)新樣本進(jìn)入到學(xué)習(xí)序列時(shí)，這些在線(xiàn)學(xué)習(xí)算法通過(guò)利用拉格朗日對(duì)偶技術(shù)，將問(wèn)題轉(zhuǎn)化為單（雙）變量二次規(guī)劃問(wèn)題