非線性最優(yōu)化的幾種算法研究.pdf

1、匡中國石油大學(xué)碩士研究生學(xué)位論文華東( 申請理學(xué)碩士學(xué)位)非線性最優(yōu)化的幾種算法研究學(xué)科專業(yè)：培養(yǎng)方向：碩士生：指導(dǎo)教師：計算數(shù)學(xué)優(yōu)化與控制理論及其數(shù)值計算鄭艷梅孫清瀅( 教授)論文完成日期：2 0 0 7 年0 4 月S o m e A l g o t i t h m s i nN o n l i n e a r O p t i m i z a t i o nP r o b l e m sZ H E N G Y a n - m e i

2、 ( C o m p u t a t i o n a l M a t h e m a t i c s )D i r e c t e d 時P r o f e s s o r S U N Q i n g - y i n gA b s t r a c tA n e w a s s u m p t i o n i sg i v e n o n t h es c a l a ro f c o n j u g a t e g r a d i e

3、n t m e t h o d t oe n s I l r e t h a t t h ed i I e c t i o n i s as u f f i c i e n t d e s c e n td i r e c t i o n A n e wc l a s so fm e m o r yg r a d i e n tm e t h o df o r u n c o n s t r a i n e d o p t i m i

4、z a t i o ni s p r e s e n t e da n dg l o b a l c o n v e r g e n c e p r o p e r t i e s o f t h e n e wa l g o r i t h m a r e d i s c u s s e d o nc o n d i t i o nt h a t t h eg r a d i e n to f t h eo b j e c t i v

5、 ef u n c t i o n i su n i f o r m l y c o n t i n u o u s ．N u m e r i c a lr e s u l t s s h o wt h a tt h en e w a l g o r i t h mi s e f f i c i e n t ．A n dt h e nt h ea l g o r i t h m i sa p p l i e dt o t h ef o

6、l l o w i n ga 呵' e c t s ：( i ) B a s e do n a r e f o r m u l a t i o n o ft h e c o m p l e m e n t a r i t yp r o b l e ma s u n c o n s t r a i n e d o p t i m i z a t i o n ，t h e m e m o r yg r a d i e n t m e

7、 t h o d i su s e d f o rs o l v i n gt h ec o m p l e m e n t a r i t y p r o b l e m ．T h e g i o b a lc o n v e r g e n c ea n dt h e l i n e a rc o n v e r g e n c eo ft h en e wa l g o r i t h ma r es h o w n ．N u m

8、 e r i c a lr e s u l t s s h o w t h a tt h en e wa l g o r i t h mi se f f i c i e n t ．( i i ) B a s e do nam f o r m u l a t i o no f t h e s e m i - d e f i n i t ec o m p l e m e n t a r i 鑼p r o b l e m a su n c o

9、 n s t r a i n e do p t i m i z a t i o nb yt h eg e n e r a l i z e dD - g a p m e r i tf u n c t i o n , t h em e m o r yg r a d i e n ta l g o r i t h mi s u s e df o r s o l v i n gt h e s e m i - d e f i n i t ec o

10、m p l e m e n t a r i t yp r o b l e m ,w h i c h i sp r o v e d g l o b a l l yc o n v e r g e n t ．F u r t h e r m o r e ，b y a d d i n g t h en u m b e r s o fm e m o r y t e r m , t h e m e m o r y g r a d i e n t a

11、l g o r i t h mi sg e n e r a l i z e d t ot h e t h r e e - t e r r am e m o r y g r a d i e n tm e t h o d ．O n c h o o s i n gt h e s t e ps i z eo f t h ea l g o f i t h m ，an e wn o n - m o n o t o n e l i n e - s e