基于Probit模型的相關(guān)向量機分類器設(shè)計及應(yīng)用.pdf

1、現(xiàn)階段比較常用的分類器有支持向量機(SVM)和相關(guān)向量機(RVM)。SVM是Cortes和Vapnik于1995年首次提出的，在解決小樣本、非線性及高維模式識別中表現(xiàn)出許多特有的優(yōu)勢。RVM是Tipping于2001年在貝葉斯框架的基礎(chǔ)上提出的，其函數(shù)形式和SVM相同。與SVM相比，RVM可以得到準確的預(yù)測模型，不用估計誤差參數(shù)、輸出是判為各類的概率值、核函數(shù)不需滿足Mercer條件。SVM和RVM最初用于解決兩類數(shù)據(jù)的分類問題，但現(xiàn)實

2、生活中我們更多遇到的是多類分類問題，如何有效地將兩類分類器推廣到多類分類是值得研究的課題?，F(xiàn)已有的方法大都通過構(gòu)建多個兩類分類器進行多類分類。本文在前人工作的基礎(chǔ)上，基于Probit模型對現(xiàn)有的RVM分類器進行改進，將其應(yīng)用于兩類及多類數(shù)據(jù)的分類中。
　　 本研究主要內(nèi)容包括：介紹了貝葉斯學習的一些理論，包括貝葉斯理論和變分貝葉斯理論；介紹了兩類RVM分類器的實現(xiàn)。從傳統(tǒng)RVM分類器入手，引出基于Probit模型的兩類RVM分類

3、器，并基于變分貝葉斯理論進行后驗參數(shù)求解及預(yù)測分布的推導(dǎo)，最后基于人工合成數(shù)據(jù)、UCI公共數(shù)據(jù)和雷達實測數(shù)據(jù)對分類器的性能進行評估；研究了多類RVM分類器。首先介紹傳統(tǒng)多類RVM分類器，然后給出我們基于Probit模型實現(xiàn)多類RVM分類器的方法，并基于變分貝葉斯理論進行后驗參數(shù)求解及預(yù)測分布的推導(dǎo)，最后基于人工合成數(shù)據(jù)、UCI公共數(shù)據(jù)和雷達實測數(shù)據(jù)對分類器的性能進行評估。為了在今后研究中使用提出的RVM分類器的方便，我們基于VC與MAT