支持向量機中參數(shù)選取的平衡約束規(guī)劃方法.pdf

1、本文旨在研究支持向量機中參數(shù)的優(yōu)化選取問題.主要原因有三個：一是支持向量機作為機器學習的一種重要方法，已經(jīng)在各行各業(yè)中得到廣泛的應用，并且取得了好的效果；二是支持向量機中的參數(shù)選取是支持向量機研究中的一類重要問題，參數(shù)選取的不同，對支持向量機的泛化性能影響很大；三是支持向量機中參數(shù)選取的傳統(tǒng)方法是調頻方法和網(wǎng)格方法，這兩種方法不容易操作，并且較費時.針對L<,1>-范數(shù)支持向量機，建立了參數(shù)選取的模型，然后對建立的模型進行了理論分析，設

2、計了算法，并進行了數(shù)值試驗.取得的結果可概括如下： 1.第2章首先給出了支持向量機中參數(shù)選取的基本模型，分別為原始模型和對偶模型.然后針對L<,1>-范數(shù)支持向量機給出了一種平衡約束規(guī)劃模型(MPEC)，其目標函數(shù)為整數(shù)值的下半連續(xù)函數(shù).分析了模型的基本性質，證明了解的存在性.由于在常規(guī)局部極小點定義的意義下，約束區(qū)域中的任一點都是該問題的局部極小點，因此我們對該問題給出了極小錐與極小塊的定義，建立了基于極小錐與極小塊意義下的一

3、階最優(yōu)性條件. 2.第3章首先建立了一個具有非光滑目標函數(shù)的MPEC模型.為了易于求解該模型，采用一個光滑的凹函數(shù)來近似目標函數(shù).由于下層規(guī)劃是一個凸二次規(guī)劃，它的解集就是該規(guī)劃的 KKT 點集，因此模型被轉化為一個具有光滑目標函數(shù)的且?guī)в谢パa約束的非線性規(guī)劃問題，然后證明了光滑問題的一個全局最優(yōu)解是原問題的最優(yōu)解.因為具有互補約束的優(yōu)化問題一般不滿足傳統(tǒng)優(yōu)化算法所要求的約束規(guī)范假設，所以本章采用了ε松弛的方法處理互補約束.本章