時(shí)變問題求解的神經(jīng)動(dòng)力學(xué)新方法、模型及理論分析.pdf

1、實(shí)時(shí)(數(shù)學(xué))問題的求解在科學(xué)、工程和經(jīng)濟(jì)等領(lǐng)域中應(yīng)用較為廣泛。它在許多科學(xué)問題求解的過程中起著基礎(chǔ)性作用，例如矩陣/向量計(jì)算、優(yōu)化問題、控制理論、運(yùn)動(dòng)學(xué)、信號處理和模式識(shí)別。近年來，隨著對神經(jīng)網(wǎng)絡(luò)的不斷深入研究，人們已經(jīng)研究和開發(fā)了許多基于梯度法的遞歸神經(jīng)網(wǎng)絡(luò)(RNN)。特別地，一些簡單的、用于實(shí)時(shí)(在線)求解線性規(guī)劃問題神經(jīng)網(wǎng)絡(luò)模型已經(jīng)在硬件電路上實(shí)現(xiàn)了。而且，由于神經(jīng)網(wǎng)絡(luò)具有并行性、自適應(yīng)能力和易于硬件實(shí)現(xiàn)等特點(diǎn)，神經(jīng)動(dòng)力學(xué)方法如今

2、已經(jīng)成為一種有效的在線求解和優(yōu)化途徑(或工具)之一。
　　 然而，基于傳統(tǒng)梯度法的神經(jīng)網(wǎng)絡(luò)(GNN，簡稱梯度神經(jīng)網(wǎng)絡(luò))對于實(shí)時(shí)(數(shù)學(xué))問題的求解基本上都是考慮定常(即靜態(tài))情況的(而不是時(shí)變的)，或?qū)r(shí)變問題借助于短時(shí)不變性假設(shè)而近似為定常(或靜態(tài))問題去處理。換句話說，在實(shí)踐中，由時(shí)變因素引起的影響經(jīng)常被忽略。這對于精度要求不是很高的工程項(xiàng)目，或許可以通過一些措施(如對相關(guān)設(shè)計(jì)參數(shù)提高要求)得以改善。但與此同時(shí)也可能需要付出額

3、外的代價(jià)(如軟硬件成本升高、分析/測試/運(yùn)算時(shí)間加長和計(jì)算精度下降等)；更有些時(shí)候，就算付出了上述代價(jià)也不一定能克服因時(shí)變因素所帶來的負(fù)面影響。因此，對于能否實(shí)時(shí)在線準(zhǔn)確有效地求解時(shí)變問題將具有較為重要的理論研究價(jià)值和工程實(shí)踐意義。本文主要是針對在工程實(shí)踐應(yīng)用中經(jīng)常遇到而又無法避免的時(shí)變問題求解，提出了一種能實(shí)時(shí)在線準(zhǔn)確有效地求解時(shí)變問題的神經(jīng)動(dòng)力學(xué)新方法而開展相關(guān)的研究工作。本文的主要工作如下：
　　 ⑴設(shè)計(jì)和分析了一種能實(shí)時(shí)

4、準(zhǔn)確有效地求解時(shí)變矩陣問題的新型神經(jīng)網(wǎng)絡(luò)(ZNN)。通過定義一種基于矩陣取值的、不定無界的誤差函數(shù)，我們提出了一種能夠?qū)崟r(shí)求解時(shí)變Lyapunov矩陣方程的新型神經(jīng)網(wǎng)絡(luò)模型，并對該網(wǎng)絡(luò)進(jìn)行了詳細(xì)的理論分析與論證，也與基于傳統(tǒng)梯度法的遞歸神經(jīng)網(wǎng)絡(luò)模型進(jìn)行了比較。仿真結(jié)果表明，由于利用了時(shí)變系數(shù)的導(dǎo)數(shù)信息，新型神經(jīng)網(wǎng)絡(luò)能夠準(zhǔn)確有效地求解時(shí)變Lyapunov矩陣問題；而梯度神經(jīng)網(wǎng)絡(luò)則是滯后地適應(yīng)各時(shí)變參數(shù)的變化而被動(dòng)調(diào)整。因此，梯度神經(jīng)網(wǎng)絡(luò)只

5、能近似趨近于實(shí)時(shí)“運(yùn)動(dòng)”的準(zhǔn)確解。
　　 ⑵根據(jù)等式約束的優(yōu)化理論，通過構(gòu)造一個(gè)Lagrange函數(shù)，我們提出了一種能實(shí)時(shí)在線求解時(shí)變凸二次規(guī)劃問題的新型神經(jīng)網(wǎng)絡(luò)模型。通過對該網(wǎng)絡(luò)詳細(xì)的理論分析論證和仿真實(shí)驗(yàn)結(jié)果表明，該新型網(wǎng)絡(luò)能夠有效求解此類時(shí)變二次規(guī)劃問題。
　　 ⑶根據(jù)新方法的設(shè)計(jì)理論，我們提出了一種實(shí)時(shí)求解非線性時(shí)變標(biāo)量方程問題的動(dòng)力學(xué)模型。與梯度神經(jīng)動(dòng)力學(xué)模型乘以一個(gè)導(dǎo)數(shù)項(xiàng)不同的是，新方法的數(shù)學(xué)模型是除以一個(gè)導(dǎo)

6、數(shù)項(xiàng)。因此，對于新型動(dòng)力學(xué)模型來說，初始值的選取成為該問題求解的關(guān)鍵所在。另外，根據(jù)時(shí)變線性方程組的求解模型，本文提出了其求解定常問題的簡化模型及其相關(guān)的網(wǎng)絡(luò)結(jié)構(gòu)和電路實(shí)現(xiàn)方案圖，并將時(shí)變的求解模型應(yīng)用于機(jī)械臂逆運(yùn)動(dòng)學(xué)控制的實(shí)例中。
　　 ⑷為了能夠硬件(如數(shù)字電路)實(shí)現(xiàn)，在新型神經(jīng)網(wǎng)絡(luò)定常矩陣求逆的連續(xù)模型基礎(chǔ)上，根據(jù)等間隔的多點(diǎn)后向差分公式，我們研究了該類新型神經(jīng)網(wǎng)絡(luò)輔以線搜索算法的多點(diǎn)離散模型。分析和仿真研究表明，經(jīng)典的牛