用matlab實(shí)現(xiàn)共軛梯度法求解實(shí)例

1、用 MATLAB 實(shí)現(xiàn)共軛梯度法求解實(shí)例 實(shí)現(xiàn)共軛梯度法求解實(shí)例康福 康福 201103710031 201103710031一． 一．無(wú)約束優(yōu)化方法 無(wú)約束優(yōu)化方法1.1 1.1 無(wú)約束優(yōu)化方法的必要性 無(wú)約束優(yōu)化方法的必要性一般機(jī)械優(yōu)化設(shè)計(jì)問(wèn)題，都是在一定的限制條件下追求某一指標(biāo)為最小，它們都屬于約束優(yōu)化問(wèn)題。但是為什么要研究無(wú)約束優(yōu)化問(wèn)題?（1）有些實(shí)際問(wèn)題，其數(shù)學(xué)模型本身就是一個(gè)無(wú)約束優(yōu)化問(wèn)題。（2）通過(guò)熟悉它的解法可以為研究

2、約束優(yōu)化問(wèn)題打下良好的基礎(chǔ)。（3）約束優(yōu)化問(wèn)題的求解可以通過(guò)一系列無(wú)約束優(yōu)化方法來(lái)達(dá)到。所以無(wú)約束優(yōu)化問(wèn)題的解法是優(yōu)化設(shè)計(jì)方法的基本組成部分，也是優(yōu)化方法的基礎(chǔ)。（4）對(duì)于多維無(wú)約束問(wèn)題來(lái)說(shuō)，古典極值理論中令一階導(dǎo)數(shù)為零，但要求二階可微，且要判斷海賽矩陣為正定才能求得極小點(diǎn)，這種方法有理論意義，但無(wú)實(shí)用價(jià)值。和一維問(wèn)題一樣，若多元函數(shù) F(X)不可微，亦無(wú)法求解。但古典極值理論是無(wú)約束優(yōu)化方法發(fā)展的基礎(chǔ)。 1.2 1.2 共軛梯度法 共

3、軛梯度法目前已研究出很多種無(wú)約束優(yōu)化方法，它們的主要不同點(diǎn)在于構(gòu)造搜索方向上的差別。 （1）間接法——要使用導(dǎo)數(shù)，如梯度法、 （阻尼）牛頓法、變尺度法、共軛梯度法等。（2）直接法——不使用導(dǎo)數(shù)信息，如坐標(biāo)輪換法、鮑威爾法單純形法等。用直接法尋找極小點(diǎn)時(shí)，不必求函數(shù)的導(dǎo)數(shù)，只要計(jì)算目標(biāo)函數(shù)值。這類(lèi)方 法較適用于解決變量個(gè)數(shù)較少的（n ≤20）問(wèn)題，一般情況下比間接法效率低。間接法除要計(jì)算目標(biāo)函數(shù)值外，還要計(jì)算目標(biāo)函數(shù)的梯度，有的還要計(jì)算

4、其海賽 矩陣。 搜索方向的構(gòu)成問(wèn)題乃是無(wú)約束優(yōu)化方法的關(guān)鍵。 共軛梯度法是沿著共軛方向進(jìn)行搜索，屬于共軛方向法中的一種，該方法中 每一個(gè)共軛向量都是依賴(lài)于迭代點(diǎn)處的負(fù)梯度而構(gòu)造出來(lái)。共軛梯度法作為一種實(shí)用的迭代法，它主要有下面的優(yōu)點(diǎn)： （1）算法中，系數(shù)矩陣Ａ的作用僅僅是用來(lái)由已知向量 P 產(chǎn)生向量 W=AP，這不僅可充分利用Ａ的稀疏性，而且對(duì)某些提供矩陣Ａ較為困難而由已知向量 P 產(chǎn) 生向量 W=AP 又十分方便的應(yīng)用問(wèn)題是很有益的。

5、（2）不需要預(yù)先估計(jì)任何參數(shù)就可以計(jì)算，這一點(diǎn)不像 SOR 等； （3）每次迭代所需的計(jì)算，主要是向量之間的運(yùn)算，便于并行化。共軛梯度法原理的知識(shí)較多，請(qǐng)?jiān)斠?jiàn)《機(jī)械優(yōu)化設(shè)計(jì)》第四章的第四、五節(jié)。圖 1 為共軛梯度法的程度框圖1 ( 0,1,2, )k k kks k ?? ? ? ? ? x x（2）學(xué)習(xí)并撐握共軛梯度法的原理、方法及應(yīng)用，并了解不同無(wú)約束優(yōu)化方法的 區(qū)別、優(yōu)缺點(diǎn)及特殊要求。（3）編寫(xiě)程序，計(jì)算出二次函數(shù)的極小點(diǎn)及極小值

6、，并適當(dāng)選取不同的初始點(diǎn)及 迭代精度精度，分析比較結(jié)果。三．計(jì)算步驟 三．計(jì)算步驟3.1 3.1 計(jì)算求解 計(jì)算求解解：已知初始點(diǎn)[1,1]T 迭代精度 0.001 ? ?1）第一次沿負(fù)梯度方向搜尋計(jì)算初始點(diǎn)處的梯度：為一維搜索最佳步長(zhǎng)，應(yīng)滿(mǎn)足得：2）第二次迭代代入目標(biāo)函數(shù)由 得 從而有：因收斂。01 2 02 12 2 4 4 ( ) 4 2 2x x f x x? ? ? ? ? ? ? ?

7、? ? ? ? ? ? ? ? ? ? ? xx0 1 0 00 001 4 1 41 2 1 2? ? ? ?? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?x x d1 0 0 2 ( ) min ( ) min(40 20 3) f f? ? ? ? ? ? ? ? ? ? x x d0 0.25 ? ? 1 2 0.5 ? ? ? ? ? ? ?x1 1 ( ) 2 f ?

8、? ? ? ? ? ? ? ? ?x2 12 0 0( ) 5 0.25 20 ( )ff? ? ? ? ??xx1 1 002 ( ) 1.5 f ? ? ? ? ?? ? ? ? ? ? ?d x d2 1 1 2 2 2 20.5 1.5 0.5 1.5? ? ? ?? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?x x d2 2 ( ) (2 2 ) 2(0.5 1.5 )2(2