模糊支持向量機及其在圖像識別中的應(yīng)用.pdf

1、基于數(shù)據(jù)的機器學(xué)習問題就是人們在對機器智能的研究中，用機器來模擬這種學(xué)習能力，研究從觀測數(shù)據(jù)（樣本）出發(fā)，通過對已知數(shù)據(jù)的學(xué)習，找到數(shù)據(jù)內(nèi)在的相互關(guān)系，利用這些規(guī)律對未來數(shù)據(jù)或無法觀測的數(shù)據(jù)進行預(yù)測，它是現(xiàn)代智能技術(shù)中的一個重要方面。現(xiàn)有機器學(xué)習方法的重要理論基礎(chǔ)之一是統(tǒng)計學(xué)，傳統(tǒng)統(tǒng)計學(xué)所研究的是漸進理論，即當樣本數(shù)目趨向于無窮大時的極限特性。但實際應(yīng)用中，這種前提條件卻往往得不到滿足，這是包括模式識別和神經(jīng)網(wǎng)絡(luò)等在內(nèi)的現(xiàn)有機器學(xué)習理論

2、和方法中的一個根本問題。 與傳統(tǒng)統(tǒng)計學(xué)相比，統(tǒng)計學(xué)習理論(Statistical Learning Theory或SLT)是一種專門研究小樣本情況下的機器學(xué)習理論，它為解決有限樣本下的機器學(xué)習問題提供了一個統(tǒng)一的框架。它能將很多現(xiàn)有方法納入其中，有望幫助解決許多原來難以解決的問題（比如神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)選擇問題、局部極小點問題等）；同時，在這一理論基礎(chǔ)上發(fā)展了一種新的通用學(xué)習方法—支持向量機(Support Vector Machin

3、e或SVM)，它已初步表現(xiàn)出許多優(yōu)異的性能。 自從扎德的模糊集合理論創(chuàng)建以來，在近20年里，模糊方法學(xué)以其獨特的特性已經(jīng)滲透到各個研究鄰域，如控制和系統(tǒng)辨識，信號和圖像處理以及模式分類等。本文研究了統(tǒng)計學(xué)習理論和支持向量機的基本原理，對基于模糊系統(tǒng)和支持向量機做了進一步的分析和研究，并將模糊系統(tǒng)和支持向量機運用到人臉識別領(lǐng)域。本文主要研究的是靜態(tài)，正面端正的灰度圖像情況下的人臉識別問題。 本文首先對模糊支持向量機(Fuz

4、zy Support Vector Machine或FSVM)作了重點分析和研究。對人臉圖像的多種代數(shù)特征抽取方法進行了總結(jié)性的對比，將抽取的人臉特征應(yīng)用到基于FSVM和基于模糊系統(tǒng)的算法上，并對FSVM的多類算法提出改進，將多叉決策樹和FSVM進行了結(jié)合。 本文提出了一種改進的基于樣本區(qū)域性分析的混合人臉分類算法。在FSVM的基礎(chǔ)上，首先利用樣本的相關(guān)度對樣本進行區(qū)域性分析，從而判斷樣本歸屬于哪種分類區(qū)域，對傳統(tǒng)分類器不可分的

5、區(qū)域樣本采用FSVM并結(jié)合三叉決策樹進行分類，對其它區(qū)域的樣本采用最近鄰法計算分類結(jié)果。該方法最大程度的體現(xiàn)了利用FSVM進行樣本分類的優(yōu)勢，同時也極大幅度的提高了多類人臉樣本的分類速度。 本文同時對產(chǎn)生式模糊系統(tǒng)作了深入研究，對模糊系統(tǒng)中的模糊規(guī)則和SVM內(nèi)積函數(shù)之間的關(guān)系作了分析和利用，并采用了獨立成分分析(ICA)和SVM對人臉樣本進行學(xué)習，由支持向量確定模糊規(guī)則，從而構(gòu)造出一種基于規(guī)則的人臉模糊分類器。該模糊系統(tǒng)在ORL

6、人臉庫上的實驗結(jié)果表明，該方法同樣適合解決小樣本、非線性、高維模式的分類問題。 本文對序貫最小優(yōu)化(sequential minimal optimization或SMO)算法進行了分析，提出基于模糊序貫最小優(yōu)化(FSMO)的多類人臉識別算法，在對人臉圖像進行ICA特征抽取后，分析用該算法進行多類人臉識別的性能，并和原始FSVM分類算法進行了實驗比對。 人臉識別研究是當前模式識別領(lǐng)域的一個熱點研究課題。本文就基于模糊支持