多分類問題的投影雙子支持向量機及其應用.pdf

1、分類是數(shù)據(jù)挖掘領域研究的核心內(nèi)容，它是通過對有標簽的訓練樣本進行學習，從而為未知標簽的測試樣本預測標簽的過程。作為一種有監(jiān)督學習的熱門技術,分類已廣泛應用于各個領域。投影雙子支持向量機（簡稱PTSVM）是一個針對二分類問題的分類方法，它具有良好的推廣性和較高的分類精確度，也受到了學術界的廣泛研究。然而，隨著數(shù)據(jù)形態(tài)的日益復雜，多分類問題已成為分類技術中研究的重點。因此，針對多分類問題，本文在PTSVM的基礎上，做出了如下三個方面的工作：

2、
　　第一，提出了一種新穎的多分類投影雙子支持向量機算法（簡稱MPTSVM）。與PTSVM類似，MPTSVM通過求解多個二次規(guī)劃問題得到多個投影軸。不同于PTSVM，MPTSVM有如下優(yōu)點：
　?。?）通過引入正則項以及遞歸優(yōu)化過程，大大提升了MPTSVM的泛化能力。
　　（2）通過引入逐次超松弛求解方法，提升了求解二次規(guī)劃問題的效率。
　?。?）通過引入核函數(shù)，MPTSVM被推廣到非線性的情況。
　　第二

3、，為了減輕MPTSVM的訓練負擔，提出了新穎的多分類最小二乘投影雙子支持向量機（簡稱MLSPTSVM）。它是MPTSVM的最小二乘形式，它具有以下特點：
　?。?）MLSPTSVM的訓練過程僅需求解一系列線性方程組，從而使得該算法能夠處理大規(guī)模的數(shù)據(jù)。
　　（2）MLSPTSVM能夠為每個類別產(chǎn)生多個相互正交的投影軸，從而能提升算法的性能。
　　（3）通過引入Sherman-Morrison-Woodbury公式和降核