支持向量機(jī)訓(xùn)練算法實(shí)現(xiàn)及其改進(jìn).pdf

1、　　支持向量機(jī)(SupportVectorMachines，簡(jiǎn)稱SVM)是Vapnik等人提出的一類新型機(jī)器學(xué)習(xí)方法。由于其出色的學(xué)習(xí)性能，該技術(shù)已成為機(jī)器學(xué)習(xí)界的研究熱點(diǎn)，并在很多領(lǐng)域都得到了成功的應(yīng)用，如人臉檢測(cè)、手寫體數(shù)字識(shí)別、文本自動(dòng)分類等。但是作為一種新興技術(shù)，支持向量機(jī)在很多應(yīng)用領(lǐng)域的研究還有待探索和完善。支持向量機(jī)的訓(xùn)練算法在對(duì)大規(guī)模的數(shù)據(jù)集進(jìn)行訓(xùn)練時(shí)，訓(xùn)練時(shí)間往往過(guò)長(zhǎng)、算法復(fù)雜而難以實(shí)現(xiàn)。本文主要對(duì)支持向量機(jī)訓(xùn)練算法進(jìn)行

2、了探討。首先對(duì)支持向量機(jī)的基本理論進(jìn)行了介紹。然后對(duì)支持向量機(jī)訓(xùn)練算法的演進(jìn)進(jìn)行了回顧。接下來(lái)重點(diǎn)討論了兩種非常成功的訓(xùn)練算法：SVMlight與SMO。這兩種算法都很大地提高了大規(guī)模訓(xùn)練集的訓(xùn)練速度。尤其是SVMlight，采用了收縮和核緩存的策略，極大地提高了訓(xùn)練速度。針對(duì)大規(guī)模訓(xùn)練集，為了克服訓(xùn)練算法速度慢的缺點(diǎn)，本文結(jié)合SVMlight和SMO的優(yōu)點(diǎn)，并根據(jù)試驗(yàn)的觀察結(jié)果，提出了一種訓(xùn)練速度更快的支持向量機(jī)訓(xùn)練算法——基于集合劃