求解無約束優(yōu)化問題及非線性方程組的共軛梯度法.pdf

1、共軛梯度法具有迭代格式簡單，存儲量小等優(yōu)點，是求解大規(guī)模無約束優(yōu)化問題的常用方法．目前，共軛梯度法求解單調(diào)非線性方程組方面也受到了關注，并取得了一定的進展．在眾多的共軛梯度法中，滿足充分下降條件的充分下降共軛梯度法往往更為有效．本文重點研究這類方法，并用它們求解一般的非線性無約束優(yōu)化問題和非線性方程組．從求解一般可微的無約束優(yōu)化問題出發(fā)，討論了一類充分下降共軛梯度法的統(tǒng)一框架，然后，將該框架下的共軛梯度法加以推廣，用于求解帶有凸約束的非

2、線性方程組和不可微的無約束凸優(yōu)化問題．所取得的研究成果主要有以下幾點：
　　1.在前人所做工作的基礎上，研究求解一般無約束優(yōu)化問題的一類充分下降共軛梯度法，且這類算法歸屬于一個統(tǒng)一的框架．首先，從理論上證明，該框架下的共軛梯度法滿足充分下降條件，且在只要求步長滿足弱Wolfe線搜索的條件下強收斂．其次，設計了該框架下的幾個具體的下降方法，通過求解大規(guī)模的無約束優(yōu)化測試問題，驗證了這類算法的有效性．
　　2.研究只利用梯度信息

3、的共軛梯度法．通過將一個混合型Dai-Yuan共軛梯度法與Dong提出的一個實用的步長準則相結合，來求解可微的無約束優(yōu)化問題所對應的駐點方程．該改進后的方法只利用了目標函數(shù)的梯度信息，避免了函數(shù)估值，提高了數(shù)值性能，為求解一般的非線性方程組提供了方便．理論證明得到了該改進方法的全局收斂性．數(shù)值試驗表明，該方法既可以有效的求解一般的無約束優(yōu)化問題，又可以有效的求解邊界值問題，具有了更廣泛的應用范圍．
　　3.將幾個改進的基本共軛梯度

4、法和混合型共軛梯度法與Dong提出的Armijo型線搜索相結合來求解可微的無約束優(yōu)化問題所對應的駐點方程．通過CUTEr測試問題和邊界值問題研究這些方法的數(shù)值行為．數(shù)值結果表明這些方法是有效的，并且可以求解那些只利用梯度信息的問題，混合型共軛梯度法比基本共軛梯度法更為有效．
　　4.研究具有充分下降條件的共軛梯度法的兩個一般框架．通過引入超平面投影方法，將這兩個框架算法應用到具有凸約束的非線性單調(diào)方程組上．在一定條件下，證得這兩類