基于SVM主問題的不定核學(xué)習(xí)方法研究.pdf

1、核方法是機(jī)器學(xué)習(xí)中一類強(qiáng)有力的統(tǒng)計(jì)學(xué)習(xí)技術(shù)，但其泛化性能在很大程度上受到核函數(shù)選擇等模型選擇問題的影響。受限于傳統(tǒng)的統(tǒng)計(jì)學(xué)習(xí)理論，大多數(shù)的核方法都要求核函數(shù)正定。然而在許多實(shí)際問題中，使用不定核往往能獲得比正定核更好的性能。因此，在核方法中深入探討不定核是很有必要的。
　　現(xiàn)有的不定核學(xué)習(xí)方法，大都是針對(duì)SVM對(duì)偶問題設(shè)計(jì)算法。但當(dāng)使用不定核時(shí)，對(duì)偶間隙的存在以及優(yōu)化問題的非凸性導(dǎo)致不能得到正確解，從而影響分類器的性能。針對(duì)上述問

2、題，本文從SVM主問題出發(fā)，提出了基于單核的不定核學(xué)習(xí)算法PIKSVM。在此基礎(chǔ)上，考慮到在刻畫復(fù)雜的現(xiàn)實(shí)問題時(shí)，單核仍然存在局限性，進(jìn)一步提出了基于多核的不定核學(xué)習(xí)算法PMIKSVM。
　　本文的工作主要體現(xiàn)在以下方面:
　　(1)分析不定核算法從主問題出發(fā)求解的必要性。分別從SVM主問題以及對(duì)偶問題出發(fā)研究SVM學(xué)習(xí)問題模型的構(gòu)建、優(yōu)化問題的推導(dǎo)以及二者之間的關(guān)系，從核函數(shù)的不定性以及對(duì)偶間隙的存在性兩方面，說明從主問題