凸優(yōu)化問題幾類束方法對偶問題的研究.pdf

1、對于無約束優(yōu)化問題，在迫近束方法思想基礎(chǔ)上，相關(guān)文獻(xiàn)從對偶空間角度通過求解帶有二次項(xiàng)的原問題的等價(jià)穩(wěn)定子問題，得到了原問題近似解的表達(dá)形式以及與其解相關(guān)的重要性質(zhì).這些重要結(jié)果都成為此后我們進(jìn)一步深入研究非光滑優(yōu)化束方法的理論基礎(chǔ).本文中，我們繼續(xù)以迫近束方法的思想為基礎(chǔ)，將無約束優(yōu)化問題等價(jià)于一系列帶有特殊范數(shù)標(biāo)準(zhǔn)的二次規(guī)劃子問題來求解，從對偶空間角度，運(yùn)用對偶定理將原問題的求解轉(zhuǎn)化為其對偶問題的求解，仍然從問題的解的表達(dá)形式入手，不

2、僅研究其解的表達(dá)形式，而且也得到了與解有關(guān)的重要性質(zhì).鑒于許多帶有約束的優(yōu)化問題都可以轉(zhuǎn)化為無約束優(yōu)化問題進(jìn)行求解，本文又針對帶有非光滑約束的優(yōu)化問題，單純應(yīng)用迫近束方法從對偶角度對其進(jìn)行研究.進(jìn)一步，在迫近束方法的思想基礎(chǔ)上將水平束方法與其結(jié)合，應(yīng)用雙穩(wěn)定束方法來解決此約束優(yōu)化問題.從其對偶問題的角度，研究其解的形式及相關(guān)性質(zhì)，發(fā)現(xiàn)不但解的表示形式不盡相同，且其與之前迭代點(diǎn)的次梯度的凸組合有關(guān)，而且次梯度值和額定下降都與單純用迫近束方

3、法從對偶問題角度解無約束優(yōu)化問題時(shí)有相類似的性質(zhì).
　　本論文主要從對偶空間角度應(yīng)用不同類型的束方法，以研究無約束優(yōu)化問題得到的重要結(jié)果為理論依據(jù)，研究帶有約束的非光滑優(yōu)化問題.全文分為三個(gè)部分，其主要內(nèi)容如下:
　　第一章，首先結(jié)合非光滑優(yōu)化問題的歷史背景與研究現(xiàn)狀對束方法的重要性以及發(fā)展歷程進(jìn)行介紹.目標(biāo)函數(shù)的非光滑性使優(yōu)化問題的求解面臨重重困難，為克服計(jì)算上以及理論分析上的障礙，許多方法應(yīng)運(yùn)而生，束方法就是其中之一.我

4、們將分別對最速下降法、黑盒子方法和一般束方法如何求解無約束優(yōu)化問題的基本思想進(jìn)行介紹，為第二章和第三章中問題的深入研究做理論鋪墊.
　　第二章，首先介紹非光滑迫近束方法的提出及其基本思想.本章中，將主要運(yùn)用迫近束方法思想，將無約束原始問題轉(zhuǎn)化成一系列二次懲罰子問題來求解，從對偶空間角度，對懲罰子問題展開研究，并在其對偶空間內(nèi)展開相關(guān)性質(zhì)的探討與證明，驗(yàn)證是否可以刻畫原問題與對偶問題之間的關(guān)系，以得到與前人文章中相類似的子問題最優(yōu)解

5、的具體表達(dá)形式.進(jìn)一步，總結(jié)出問題最優(yōu)解與之前迭代點(diǎn)的次梯度的凸組合之間的關(guān)系，及次梯度和額定下降的相關(guān)性質(zhì).其次，我們繼續(xù)使用迫近束方法，應(yīng)用上述思想，將帶有約束的非光滑優(yōu)化問題進(jìn)行等價(jià)變換，應(yīng)用指示函數(shù)方法將約束優(yōu)化問題轉(zhuǎn)化為無約束優(yōu)化問題，得到相類似的重要結(jié)論.
　　第三章，主要介紹非光滑雙穩(wěn)定束方法的提出及其基本思想的運(yùn)用.首先，我們運(yùn)用迫近束方法和水平束方法的思想，將以非光滑凸函數(shù)為目標(biāo)函數(shù)，以非空閉凸集為約束集合的原始

6、優(yōu)化問題轉(zhuǎn)化成一系列帶有水平約束的二次規(guī)劃子問題來求解，并進(jìn)一步應(yīng)用指示函數(shù)方法將約束優(yōu)化問題轉(zhuǎn)化為無約束優(yōu)化問題.接下來我們繼續(xù)針對雙穩(wěn)定性束方法，類似地，從對偶空間角度，找到懲罰子問題的對偶問題，并在其對偶空間里展開相關(guān)性質(zhì)的探討與證明，驗(yàn)證是否可以深入刻畫原問題與對偶問題之間的關(guān)系，從而得到與第二章中相類似的問題最優(yōu)解的具體表達(dá)形式.最后，找出了原問題的最優(yōu)解與之前迭代點(diǎn)的次梯度的凸組合之間的關(guān)系，以及次梯度和額定下降的相關(guān)性質(zhì).