相關(guān)向量機優(yōu)化方法的研究.pdf

1、相關(guān)向量機是一種基于稀疏概率模型的機器學習方法，與機器學習中分類回歸領(lǐng)域得到了廣泛應(yīng)用的支持向量機在體系結(jié)構(gòu)和功能運作上十分接近，從而較好地吸收了支持向量機泛化能力良好以及檢測精度較高等優(yōu)點。同時，由于相關(guān)向理機以稀疏概率模型為理論基礎(chǔ)構(gòu)建學習機而非支持向量機基于結(jié)構(gòu)風險最小化原則構(gòu)建學習機，這一基礎(chǔ)理論上的變化使得相關(guān)向量機取得了泛化能力更好，預(yù)測結(jié)果更具有統(tǒng)計學意義以及核函數(shù)不必滿足Mercer條件等優(yōu)勢?？梢钥吹?，對相關(guān)向量機的研

2、究無論是從理論提升還是實際應(yīng)用方面都有著重要的意義，因此，本文著重研究了相關(guān)向量機的基本理論及其優(yōu)化方法，研究工作主要從以下幾個方面切入：
　　 1、分析相關(guān)向量機與支持向量機理論，從多個方面入手對比兩者的各項性能指標，并以支持向量機的基本理論及其優(yōu)化方法為參照，重點分析研究現(xiàn)有相關(guān)向量機算法的不足之處，尋找優(yōu)化方法。
　　 2、利用相關(guān)向量機中“相關(guān)向量”比重低的特點，提出用快速估計優(yōu)化相關(guān)向量機的方法。使用閾值系數(shù)和

3、約減最大上限結(jié)合迭代估計對訓練樣本的超參進行快速估計，從而去除訓練集中大量的非相關(guān)向量，降低訓練樣本的規(guī)模，減少了訓練時間。然后，分別從理論和UCI等數(shù)據(jù)集上的實驗進行了驗證，最終結(jié)果表明優(yōu)化后的算法在運行效率上有了較大提高。
　　 3、針對相關(guān)向量機使用單一核函數(shù)導(dǎo)致檢測精度低的問題，提出了組合核函數(shù)構(gòu)建同構(gòu)和異構(gòu)多核相關(guān)向量機的方法，并通過核函數(shù)校正來判別給定的核函數(shù)及其參數(shù)的有效性，從而用有效的核函數(shù)參數(shù)得出較優(yōu)的多核相關(guān)