SVM與AdaBoost算法的應(yīng)用研究.pdf

1、支持向量機(jī)是Vapnik于1995年首先提出的,主要用于解決小樣本、非線性和高維模式識(shí)別問題,并且能夠推廣應(yīng)用到函數(shù)擬合等其他機(jī)器學(xué)習(xí)問題中。它是建立在統(tǒng)計(jì)學(xué)習(xí)理論的VC維理論和結(jié)構(gòu)風(fēng)險(xiǎn)最小原理的基礎(chǔ)上的,根據(jù)有限的數(shù)據(jù)樣本信息在模型的復(fù)雜性和學(xué)習(xí)能力之間尋求最佳折衷,以期獲得最好的推廣能力。
　　 AdaBoost是最著名的Boosting算法之一。AdaBoost作為最常用的算法,已經(jīng)被用于機(jī)器學(xué)習(xí)的各個(gè)領(lǐng)域。隨著AdaBo

2、ost算法的廣泛應(yīng)用,越來越多的學(xué)者致力于研究以不同的方式去改善和提高算法性能。嵌入式多視角AdaBoost(EMV-AdaBoost)算法是將多視角學(xué)習(xí)徹底融合到AdaBoost算法中,而且最終假設(shè)是一種新的多學(xué)習(xí)器組合的方式。
　　 本文詳細(xì)研究了支持向量機(jī)的相關(guān)理論和AdaBoost算法相關(guān)理論,然后分別利用支持向量機(jī)和嵌入式多視角AdaBoost完成了組塊識(shí)別任務(wù)。首先詳細(xì)介紹了支持向量機(jī)的相關(guān)理論,最優(yōu)超平面、核函數(shù)、

3、多值分類問題及支持向量機(jī)的解法等,對(duì)支持向量機(jī)的分類原理進(jìn)行了研究。同時(shí),詳細(xì)介紹了AdaBoost算法相關(guān)理論,從Boosting算法,算法分析到AdaBoost算法再到嵌入式多視角AdaBoost算法。著重介紹了嵌入式多視角AdaBoost算法的算法步驟和算法分析。然后,闡述了漢語組塊識(shí)別任務(wù),組塊的定義和標(biāo)注方法,并把漢語組塊識(shí)別轉(zhuǎn)換為分類問題,將每個(gè)漢字用數(shù)字向量表示。最后,分別利用支持向量機(jī)和嵌入式多視角AdaBoost算法完