度量空間中的軟間隔分類問題.pdf

1、20世紀(jì)90年代中期，在統(tǒng)計(jì)學(xué)習(xí)理論的基礎(chǔ)上發(fā)展起來了一種新的模式識(shí)別方法.這是由V.N.Vapnik等人提出的支持向量分類機(jī)(SVM).它是解決分類問題的一種有效算法.支持向量分類機(jī)在數(shù)字識(shí)別，數(shù)據(jù)挖掘和信息處理等實(shí)際問題中有非常廣泛的應(yīng)用，近年來有了迅猛的發(fā)展. 考慮到在許多實(shí)際問題中，構(gòu)造描述目標(biāo)之間關(guān)系的距離函數(shù)比構(gòu)造支持向量機(jī)中的核函數(shù)更容易更自然，且在沒有度量空間的先驗(yàn)信息的情況下，可以利用度量的特性構(gòu)造度量空間中數(shù)

2、據(jù)的分類算法，本文討論度量空間中的分類問題.M.Hein和O.Bousquet等人構(gòu)造了度量空間中的最大間隔分類算法.但是，在實(shí)際問題中，樣本不一定是可分的，且最優(yōu)超平面也不一定都存在.因此我們?cè)谄渌龉ぷ鞯幕A(chǔ)上討論度量空間中的軟間隔分類問題，并得到了兩個(gè)主要結(jié)果：首先構(gòu)造了度量空間中的軟間隔分類算法，然后通過改進(jìn)分類算法中的核函數(shù)增大了支持向量分類機(jī)對(duì)訓(xùn)練樣本的分類間隔.主要內(nèi)容安排如下： 第一部分：介紹分類問題和支持向量機(jī)

3、的基本思想. 第二部分：通過度量與核函數(shù)之間的轉(zhuǎn)化關(guān)系構(gòu)造度量空間中的最大間隔分類算法. 第三部分：在M.Hein和O.Bousquet等人所作工作的基礎(chǔ)上，構(gòu)造了度量空間中樣本線性不可分情形下的軟間隔分類算法. 第四部分：討論分類算法中核函數(shù)的選取與改進(jìn).通過最小化VC維的上界選擇核函數(shù)的參數(shù).利用核函數(shù)在輸入空間誘導(dǎo)的黎曼幾何結(jié)構(gòu)改進(jìn)核函數(shù)，增大支持向量機(jī)對(duì)樣本的分類間隔. 最后，在第五部分中，分析了