非光滑凸優(yōu)化的若干算法.pdf

1、本文主要研究目標(biāo)函數(shù)是凸函數(shù)的非光滑優(yōu)化問題．在光滑的非線性優(yōu)化問題中，非單調(diào)技術(shù)和過濾集技術(shù)獲得了很大成功．將這些技術(shù)引入到非光滑優(yōu)化中，得到了非光滑優(yōu)化的非單調(diào)算法和過濾集算法．給出了這些的算法收斂性證明，以及收斂速度分析．分三部分介紹如下： 一、非單調(diào)近似點捆集方法。Grippo等人對非單調(diào)線搜索技術(shù)做了系統(tǒng)的研究([22] [23][24][25])，F(xiàn)acchinei和Lucidi[11]提出了非單調(diào)線搜索的捆集算法，

2、我們進(jìn)一步研究非單調(diào)技術(shù)在Bundle算法中的應(yīng)用．我們把非單調(diào)技術(shù)引入到Schramm和Zowe[50]的算法中，主要是接受成功步的準(zhǔn)則改變了．該算法不采用線搜索，而是一種“隱式”的信賴域方法，因此我們的算法與Facchinei和Lucidi的算法是不同的．我們給出了算法的整體收斂性證明． 二、非光滑優(yōu)化的非單調(diào)信賴域算法。首先，非光滑優(yōu)化問題min，f(x)轉(zhuǎn)化為min F(x)，F(xiàn)(x)是f(x)的Morealu-Yos

3、idaiE則化．用捆集方法得到F(x)的近似梯度，再利用梯度近似值和Hessian近似，構(gòu)造一個二次規(guī)劃信賴域子問題．利用截斷CG方法解這個子問題，然后利用非單調(diào)信賴域策略接受步長．算法中所解的信賴域子問題是Sagara和Fukushima[49]所給出的．我們將非單調(diào)技術(shù)用于Sagara和Fukushima[49]的信賴域算法，給出了一個非單調(diào)的信賴域算法，并且證明了該算法的整體收斂性與超線性收斂性． 三、擬牛頓過濾近似點方

4、法。研究過濾技術(shù)在非光滑優(yōu)化問題中的應(yīng)用．利用問題min f(x)與min F(x)的等價性，首先由割平面技術(shù)求得x<,k>憊的一個近似的近似點p<'a>(x<'k>)，使得v<,k>:=μ(x<,k>-p<'a>(x<,k>))∈ <,ek>f(p<'a>(x<,k>))．其中∈<,k>∈(0，a‖v<,k>‖],a是一常數(shù)．然后，在擬牛頓方法中用g<'a>(x<,k>):=v<,k>近似代替夕(x<,k>)，并且用t<,k>：=g<

5、'a>(x<,k>+1)-g<'a>(x<,k>)校正B<,k+1>.計算h<'(k+1)>:=‖v<,k>‖和f<'(k+1)>:=f(p<'a>(x<,k>)+d<,k>)，我們用這樣定義的數(shù)對(h<'(k)>，f<'(k)>)定義過濾集．我們定義的過濾集與無約束光滑優(yōu)化中的過濾集不同．如果(h<'(k+1)>，f<'(k+1)>)被過濾集接受，那么令x<,k>+1=p<'a>(x<,k>)+d<,k>，并把(h<'(k+1)>，f