支持向量機(jī)多分類(lèi)方法的研究及應(yīng)用.pdf

1、支持向量機(jī)(Suport Vector Machine，簡(jiǎn)稱(chēng)SVM)是一種基于統(tǒng)計(jì)學(xué)習(xí)理論的新型機(jī)器學(xué)習(xí)方法，是借助于最優(yōu)化方法解決機(jī)器學(xué)習(xí)問(wèn)題的新工具。支持向量機(jī)是機(jī)器學(xué)習(xí)領(lǐng)域若干標(biāo)準(zhǔn)技術(shù)的集大成者，它集成了最大間隔超平面、Mercer核、凸二次規(guī)劃、稀疏解和松弛變量等多項(xiàng)技術(shù)，在若干具有挑戰(zhàn)性的應(yīng)用中，獲得了非常好的效果。由于其具有全局最優(yōu)、結(jié)構(gòu)簡(jiǎn)單、推廣能力強(qiáng)等優(yōu)點(diǎn)，近幾年得到了廣泛的研究并廣泛應(yīng)用于模式識(shí)別等領(lǐng)域。但是支持向量機(jī)

2、方法最初是針對(duì)兩類(lèi)別的分類(lèi)提出的，如何將支持向量機(jī)方法擴(kuò)展到多類(lèi)別分類(lèi)(也稱(chēng)為多分類(lèi))問(wèn)題是支持向量機(jī)研究的重要內(nèi)容之一。 本文基于統(tǒng)計(jì)學(xué)習(xí)理論和支持向量機(jī)方法，針對(duì)多分類(lèi)問(wèn)題進(jìn)行了深入研究。主要研究工作如下： ①支持向量機(jī)多分類(lèi)算法的分析比較。全面總結(jié)了現(xiàn)有的基于支持向量機(jī)的多分類(lèi)方法，包括“一對(duì)多”、“一對(duì)一”方法、有向無(wú)環(huán)圖方法、樹(shù)型SVM方法等，給出了理論上的性能比較，推廣能力的分析，時(shí)間復(fù)雜度比較；并通過(guò)實(shí)驗(yàn)對(duì)

3、其中幾種常用的方法進(jìn)行了驗(yàn)證與比較。 ②提出了一種基于支持向量數(shù)據(jù)描述算法的SVM多分類(lèi)新方法。對(duì)基于支持向量數(shù)據(jù)描述算法的多分類(lèi)方法進(jìn)行了研究，分析了它的優(yōu)缺點(diǎn)，并深入討論了其推廣性能一般的原因。針對(duì)其存在的不可分區(qū)域這個(gè)缺陷，提出了一種新的多分類(lèi)方法(S-MSVM)，該方法對(duì)每類(lèi)樣本建立一個(gè)超球來(lái)界定，由于訓(xùn)練好的超球在多數(shù)情況下是相交的，選擇相交區(qū)域的樣本單獨(dú)建立超球，重復(fù)該步驟，直到相交區(qū)域消失或者相交區(qū)域內(nèi)沒(méi)有樣本點(diǎn)或

4、者超過(guò)迭代終止條件。然后對(duì)其進(jìn)行了時(shí)間復(fù)雜度分析，并通過(guò)在多組UCI數(shù)據(jù)上的實(shí)驗(yàn)驗(yàn)證了其良好的推廣能力。 ③將支持向量機(jī)多分類(lèi)方法應(yīng)用于孤立肺結(jié)節(jié)的醫(yī)學(xué)診斷，實(shí)驗(yàn)結(jié)果表明SVM分類(lèi)器對(duì)惡性結(jié)節(jié)的診斷效果優(yōu)于其他方法。孤立肺結(jié)節(jié)的診斷對(duì)臨床醫(yī)生及影像科醫(yī)生而言是一個(gè)極大的挑戰(zhàn)，除了其發(fā)生率高，孤立肺結(jié)節(jié)的診斷中精確區(qū)別無(wú)結(jié)節(jié)、良性結(jié)節(jié)和惡性結(jié)節(jié)是非常困難的，所以研究一種有效的分類(lèi)方法以輔助醫(yī)生診斷是非常重要的。本文將仿生模式識(shí)別、