支持向量機(jī)的快速優(yōu)化算法.pdf

1、目前，SVM已經(jīng)被廣泛應(yīng)用于包括文本分類、圖像識(shí)別、手寫體識(shí)別、金融預(yù)測等分類與回歸問題.支持向量機(jī)(Support Vector Machine，簡稱SVM)通過求解二次規(guī)劃問題獲得最優(yōu)超平面或回歸函數(shù)，從而實(shí)現(xiàn)對測試樣本的預(yù)測.采用SVM，可以充分發(fā)揮它對小樣本數(shù)據(jù)處理的優(yōu)勢，用比較少的樣本得到最優(yōu)決策函數(shù).但是SVM在解決凸二次規(guī)劃問題上的耗時(shí)長，速度慢.近年來，一些研究工作者在SVM的基礎(chǔ)上提出了一類雙支持向量機(jī)模型，這類模型通

2、過優(yōu)化兩個(gè)比較小的二次規(guī)劃問題間接獲得決策函數(shù).
　　隨著信息技術(shù)的發(fā)展，越來越多的數(shù)據(jù)信息被人們快速獲取;另一方面，高速發(fā)展的社會(huì)也導(dǎo)致信息萬變，學(xué)習(xí)數(shù)據(jù)通常具有較強(qiáng)的時(shí)序性.因此，有必要討論SVM的各種模型的在線學(xué)習(xí)方式，同時(shí)應(yīng)考慮到樣本的時(shí)效性.
　　本文討論了雙支持向量機(jī)(Twin Support Vector Machine，簡稱TWSVM)、雙參數(shù)間隔支持向量機(jī)(Twin Parametric-Margin Su

3、pport Vector Machine，簡稱TPMSVM)、ε-雙支持向量回歸(ε-Twin Support Vector Regression，簡稱ε-TWSVR)和雙參數(shù)不敏感支持向量回歸(TwinParametric Insensitive Support Vector Regression，簡稱TPISVR)的在線學(xué)習(xí)算法.當(dāng)新樣本進(jìn)入到學(xué)習(xí)序列時(shí)，這些在線學(xué)習(xí)算法通過利用拉格朗日對偶技術(shù)，將問題轉(zhuǎn)化為單（雙）變量二次規(guī)劃問題