樣本空間分析與分類器性能研究.pdf

1、支持向量機(jī)（SVM）是一種基于結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則的通用模式分類方法，由于其強(qiáng)大的學(xué)習(xí)能力和良好的泛化性能，支持向量機(jī)已經(jīng)應(yīng)用到許多模式分類領(lǐng)域。最優(yōu)分類超平面原理使SVM在解決線性可分問題時(shí)有很好的表現(xiàn)。但在遇到比較復(fù)雜的線性不可分問題時(shí)，并沒有一個(gè)可靠的方案保證其最佳性能。 為了充分利用分布式并行計(jì)算機(jī)系統(tǒng)，如集群計(jì)算機(jī)和網(wǎng)格，解決大規(guī)模模式分類問題，呂寶糧和他的合作者提出了一種便于并行計(jì)算的機(jī)器學(xué)習(xí)任務(wù)分解方法，稱為最小最大

2、模塊化方法。該方法可以將訓(xùn)練樣本集劃分為一系列較小的子問題獨(dú)立訓(xùn)練，并使用最小化原則和最大化原將訓(xùn)練出的子問題分類器綜合成原問題的解。通過對(duì)樣本在空間中分布的分析，可以利用M3劃分訓(xùn)練樣本的過程來(lái)近似地劃分樣本空間，從而將復(fù)雜的整體問題轉(zhuǎn)換為一系列較為簡(jiǎn)單的局部問題。由于局部問題中的樣本分布較為簡(jiǎn)單，非常適合于使用SVM來(lái)尋找最佳分類超平面。 首先，本文描述了SVM的最優(yōu)分界面原理。并說(shuō)明了SVM如何用核方法解決非線性問題。同時(shí)

3、還說(shuō)明了對(duì)于復(fù)雜的非線性問題，分類器的性能還有改進(jìn)余地。 然后介紹了最小最大模塊化方法的基本思想，不同的訓(xùn)練樣本劃分方法以及它們對(duì)分類器準(zhǔn)確率的影響，并描述了對(duì)測(cè)試過程的優(yōu)化方法。 接下來(lái)重點(diǎn)介紹了一種旨在提高分類器處理線性不可分問題的能力的樣本空間分析方法。對(duì)二類分類問題，該方法首先用感知器提取樣本的分布信息，將整體問題劃分為局部空間中的分類問題，使劃分后得到的子問題能夠盡量準(zhǔn)確地反映樣本在空間中的分布信息。同時(shí)使子問