自動微分，廣義系統(tǒng)與最優(yōu)化方法.pdf

1、北京工業(yè)大學碩士學位論文自動微分，廣義系統(tǒng)與最優(yōu)化方法姓名：董麗莉申請學位級別：碩士專業(yè)：運籌學與控制論指導教師：張海斌20090501北京工業(yè)大學理學碩士學位論文A b s t r a c tW i t ht h ed e v e l o p m e n t o f s c i e n c ea n dt e c h n o l o g y , n o n l i n e a ro p t i m i z a t i o nm e t

2、 h o dp l a y s a m o r e a n dm o r e s i g n i f i c a n t r o l ei ns c i e n t i f i cc o m p u t a t i o n a n d e n g i n e e r i n g a n a l y s i sf i e l d s ．A sf a r a sn o n l i n e a r o p t i m i z a t i o

3、ni sc o n c e m e d ，t h ec o m p u t a t i o nm o s t l y d e p e n d s o nt h ef i r s ta n d h i g ho r d e r d e r i v a t i v e s a sw e l la so t h e ri t e m s ( e ．g ．t h em u l t i p l i c a t i o nb e t w e e n

4、J a c o b i a n m a t r i xa n dv e c t o r ) o f t h eo b j e c t i v ef u n c t i o na n dc o n s t r a i n tf u n c t i o n ．A u t o m a t i cd i f f e r e n t i a t i o n ，w h i c hi s c h a r a c t e r i s t i co f

5、l o w c o s ta n d h i g h a c c u r a c yc o m p a r e d w i t ht h et r a d i t i o n a ld i f f e r e n t i a t i o n m e t h o d s ，i sa ne f f i c i e n tt o o lt oc a l c u l a t et h ed e r i v a t i v e s ．I nt h

6、 i sp a p e r , f r o md i f f e r e n ts t a n d p o i n t so f t h eb a s i ca n de x t e n d e ds y s t e m ，s o m er e s e a r c h w a sc a r r i e do n t oc o m p a r e a n d a n a l y z et h ea u t o m a t i cd i f

7、 f e r e n t i a t i o nm e t h o df o rt h ef i r s t o r -d e rd e r i v a t i v e ，i n c l u d i n gt h er e v e r s em o d e a n df o r w a r dm o d e a n dS Oo n ．A tt h es a m et i m e ，t h e s em o d e s w e r ea

8、p p l i e dt ot h e a u g m e n t e d L a g r a n g em u l t i p l i e r ．W h e na t t e m p t ’i n gt os o l v et h eh i g h o r d e r d e r i v a t i v e s ，t h i sp a p e r d i s c u s s e d t h e C h e b y s h e v m

9、e t h o d w h i c hb e l o n g st ot h et h i r do r d e rd e r i v a t i v eH a l l e yc l a s sm e t h o d ，a n d i m p r o v e dt h eo r i g i n a la l ‘g o r i t h m ．A tl a s t ，s o m en u m e r i c a le x p e r i m

10、 e n t sw e r ed o n et or e a l i z et h ea l g o r i t h ma n dd e m o n s t r a t e i t sh i g h e f f i c i e n c y ．K e y w o r d s A u t o m a t i c d i f f e r e n t i a t i o n ；f o r w a r dm o d e ；r e v e r s