支持向量機(jī)中參數(shù)選取的平衡約束規(guī)劃方法.pdf

1、本文旨在研究支持向量機(jī)中參數(shù)的優(yōu)化選取問(wèn)題.主要原因有三個(gè)：一是支持向量機(jī)作為機(jī)器學(xué)習(xí)的一種重要方法，已經(jīng)在各行各業(yè)中得到廣泛的應(yīng)用，并且取得了好的效果；二是支持向量機(jī)中的參數(shù)選取是支持向量機(jī)研究中的一類重要問(wèn)題，參數(shù)選取的不同，對(duì)支持向量機(jī)的泛化性能影響很大；三是支持向量機(jī)中參數(shù)選取的傳統(tǒng)方法是調(diào)頻方法和網(wǎng)格方法，這兩種方法不容易操作，并且較費(fèi)時(shí).針對(duì)L<,1>-范數(shù)支持向量機(jī)，建立了參數(shù)選取的模型，然后對(duì)建立的模型進(jìn)行了理論分析，設(shè)

2、計(jì)了算法，并進(jìn)行了數(shù)值試驗(yàn).取得的結(jié)果可概括如下： 1.第2章首先給出了支持向量機(jī)中參數(shù)選取的基本模型，分別為原始模型和對(duì)偶模型.然后針對(duì)L<,1>-范數(shù)支持向量機(jī)給出了一種平衡約束規(guī)劃模型(MPEC)，其目標(biāo)函數(shù)為整數(shù)值的下半連續(xù)函數(shù).分析了模型的基本性質(zhì)，證明了解的存在性.由于在常規(guī)局部極小點(diǎn)定義的意義下，約束區(qū)域中的任一點(diǎn)都是該問(wèn)題的局部極小點(diǎn)，因此我們對(duì)該問(wèn)題給出了極小錐與極小塊的定義，建立了基于極小錐與極小塊意義下的一

3、階最優(yōu)性條件. 2.第3章首先建立了一個(gè)具有非光滑目標(biāo)函數(shù)的MPEC模型.為了易于求解該模型，采用一個(gè)光滑的凹函數(shù)來(lái)近似目標(biāo)函數(shù).由于下層規(guī)劃是一個(gè)凸二次規(guī)劃，它的解集就是該規(guī)劃的 KKT 點(diǎn)集，因此模型被轉(zhuǎn)化為一個(gè)具有光滑目標(biāo)函數(shù)的且?guī)в谢パa(bǔ)約束的非線性規(guī)劃問(wèn)題，然后證明了光滑問(wèn)題的一個(gè)全局最優(yōu)解是原問(wèn)題的最優(yōu)解.因?yàn)榫哂谢パa(bǔ)約束的優(yōu)化問(wèn)題一般不滿足傳統(tǒng)優(yōu)化算法所要求的約束規(guī)范假設(shè)，所以本章采用了ε松弛的方法處理互補(bǔ)約束.本章