改進SVM快速訓練算法.pdf

1、隨著信息化時代的到來，信息以幾何級數(shù)的方式增加，人們希望從紛繁冗雜的信息中快速地提取出有用的數(shù)據(jù)。為了更快的找尋出有效的數(shù)據(jù)，就需要借助于更為有效的分類方法。鑒于支持向量機的分類方法具有推廣能力強、能找到全局最優(yōu)等優(yōu)勢，使它成為學者們關(guān)注的焦點。在運用支持向量機的過程中，由于數(shù)據(jù)集規(guī)模的不斷增加，模型在訓練時間上仍不能滿足人們的需求，因此本文針對支持向量機的眾多訓練算法中運用最為廣泛的序貫最小優(yōu)化算法(SMO)進行了一系列的改進工作，并

2、提出了一種綜合改進策略來彌補訓練時間上的不足。
　　所做的工作內(nèi)容如下:
　　第一，針對標準的SMO算法存在的不足，本文提出一系列的改進策略，包括有通過跳過部分非支持向量來縮減訓練集規(guī)模，松弛KKT條件來收縮工作集，提前結(jié)束不必要的循環(huán)來提高算法的訓練速度等3個步驟。在保證一定精度的前提下，這些策略能有效的克服訓練時間過長的不足。
　　第二，考慮到訓練集可能并不完備，仍會有數(shù)據(jù)不斷加入到訓練集中導致訓練集規(guī)模的不斷擴大

3、，本文提出了一種基于SMO的增量學習方法，該方法改進了標準SMO算法以適應增量學習，用KKT條件來判斷新增樣本，并對不滿足條件的樣本與支持向量一同訓練，保留了學習的歷史性，也體現(xiàn)了學習的延續(xù)性，通過增量學習來減少訓練時間。
　　第三，將增量學習方法與前面的改進SMO的策略相結(jié)合，在增量學習的模型訓練過程中把改進SMO的策略加入其中，達到兩者優(yōu)勢互補，形成了一種綜合優(yōu)化的新策略來更有效的提高算法的訓練速度。
　　通過使用UCI