帶自適應步長神經網絡學習算法的收斂性分析.pdf

1、人工神經網絡的發(fā)展主要經歷了興起、高潮、低谷、再次興起四個階段。如果說它的第一次興起主要是由于人們對起的新奇而普遍感到好奇的話，那么它的第二次興起則主要是由于人們在許多地方遇到了困難，而且人工神經網絡能夠較好地解決這些難題，即由于它的實用價值。
　　對于應用最為廣泛的BP神經網絡來說，它也有權值太大，收斂速度慢，會陷入局部極小值等常見問題。為了解決這些問題，我們通常在誤差函數(shù)后面加入懲罰項。但在得到網絡權值的有界性，算法的收斂性等

2、結論的時候，往往需要比較嚴苛的條件。
　　本文把Armijo-Wolfe規(guī)則應用到加入帶懲罰項的神經網絡的算法中，并在較為寬松的條件下得到了關于有界性，收斂性等一系列結論。本文的主要結構如下:
　　1.第一章對神經網絡做一個簡單介紹，包括神經網絡發(fā)展階段，神經網絡的不同網絡模型等等。
　　2.第二章把Armijo-Wolfe規(guī)則應用到帶一般懲罰項的神經網絡中，在更為寬松的條件下，證明了權值的有界性，神經網絡的強弱收斂等