LMBP神經(jīng)網(wǎng)絡(luò)算法改進(jìn)及其應(yīng)用.pdf

1、隨著人類社會(huì)的日益發(fā)展，知識(shí)和信息的大規(guī)模積累已經(jīng)開始使得人們應(yīng)接不暇。特別是21世紀(jì)以后互聯(lián)網(wǎng)時(shí)代浪潮的來臨，人們所接觸到的信息正迎來爆炸式地增長。對(duì)大量數(shù)據(jù)的智能化分析、處理和預(yù)測乃至跨學(xué)科多領(lǐng)域的研究越來越受到人們的關(guān)注和重視，神經(jīng)網(wǎng)絡(luò)便是其中一個(gè)方興未艾的研究課題。它可以通過建立智能模型來有效地解決工程上和科學(xué)上的實(shí)際問題，適用于廣泛的應(yīng)用領(lǐng)域，是一個(gè)極具研究價(jià)值和應(yīng)用前景的方向。近幾十年來，神經(jīng)網(wǎng)絡(luò)在醫(yī)學(xué)診斷上的應(yīng)用越來越多，

2、對(duì)醫(yī)學(xué)發(fā)展的貢獻(xiàn)也越來越大。人們將神經(jīng)網(wǎng)絡(luò)應(yīng)用于心臟病分型診斷、胃癌細(xì)胞分析、器官移植次數(shù)優(yōu)化、呼吸道感染率分析、心電圖和腦波分析等醫(yī)療病例。
　　神經(jīng)網(wǎng)絡(luò)中比較常用和流行的網(wǎng)絡(luò)模型是反向傳播BP(Back Propagation)網(wǎng)絡(luò)。它是在Widrow-Hoff學(xué)習(xí)算法和ADALINE(ADAptive LInear NEuron)網(wǎng)絡(luò)的基礎(chǔ)上針對(duì)其單層網(wǎng)絡(luò)結(jié)構(gòu)只能夠解決線性可分問題的局限性而提出的。BP網(wǎng)絡(luò)可以用來訓(xùn)練多層網(wǎng)

3、絡(luò)結(jié)構(gòu)，通過自我學(xué)習(xí)來調(diào)節(jié)網(wǎng)絡(luò)參數(shù)從而能夠解決復(fù)雜的非線性關(guān)系的數(shù)據(jù)分析預(yù)測和性能優(yōu)化問題。由于其強(qiáng)大的非線性建模能力，甫一問世便得以流行開來。但BP網(wǎng)絡(luò)算法有2個(gè)主要的不足之處:(1)由于BP網(wǎng)絡(luò)采用的是目標(biāo)函數(shù)的一階導(dǎo)數(shù)信息導(dǎo)致其只具有線性收斂速度，網(wǎng)絡(luò)的收斂速度較慢使得其需要較長的訓(xùn)練時(shí)間，當(dāng)實(shí)際的問題規(guī)模較大時(shí)可能需要數(shù)小時(shí)甚至數(shù)天才能得出結(jié)果;(2)由于BP網(wǎng)絡(luò)使用的是局部優(yōu)化算法，而且多層網(wǎng)絡(luò)結(jié)構(gòu)的目標(biāo)函數(shù)曲面一般相對(duì)而言比

4、較復(fù)雜，這就導(dǎo)致網(wǎng)絡(luò)產(chǎn)生局部收斂從而得不到問題最優(yōu)解。人們對(duì)此根據(jù)不同的實(shí)際需求進(jìn)行了各種方式地優(yōu)化改進(jìn)，許多改進(jìn)算法卓有成效，但這個(gè)問題仍是目前研究的難點(diǎn)。
　　針對(duì)以上問題的不足之處，本文選用了BP神經(jīng)網(wǎng)絡(luò)的一個(gè)衍生算法LMBP(Levenberg-Marquardt Back Propagation)算法，并在此基礎(chǔ)上進(jìn)一步提高了算法的收斂速度和網(wǎng)絡(luò)參數(shù)計(jì)算的準(zhǔn)確性?；趯?duì)LMBP算法中Hessian矩陣的理論分析以及分治法

5、的思想，本文提出了一種基于矩陣分塊的Cholesky遞歸分解算法。該算法在2個(gè)方面加速了網(wǎng)絡(luò)的收斂過程:一是通過分析Hessian矩陣的正定性質(zhì)，使用Cholesky矩陣分解算法來避免矩陣的求逆操作，將Hessian矩陣分解成上三角和下三角矩陣并轉(zhuǎn)換成線性方程組求解問題;二是在計(jì)算Cholesky矩陣分解時(shí)并不直接計(jì)算，而是分而治之，即先進(jìn)行矩陣分塊，對(duì)分塊進(jìn)行遞歸分解，然后通過分塊矩陣間的計(jì)算來得到最終所要求的三角矩陣。本文還從理論上

6、進(jìn)行了算法改進(jìn)程度的量化計(jì)算，通過對(duì)算法的時(shí)間復(fù)雜度進(jìn)行理論上分析和計(jì)算，得出改進(jìn)算法比傳統(tǒng)標(biāo)準(zhǔn)算法和目前已有改進(jìn)算法的計(jì)算速度都要快一些。通過Matlab實(shí)驗(yàn)仿真，實(shí)驗(yàn)數(shù)據(jù)結(jié)果與理論計(jì)算值基本符合。最后，利用LMBP算法對(duì)影響人體亞健康的經(jīng)絡(luò)數(shù)據(jù)進(jìn)行建模并訓(xùn)練，最終模型對(duì)人體亞健康狀態(tài)的預(yù)測準(zhǔn)確率達(dá)到83％。限于醫(yī)學(xué)上尚未制定相關(guān)的理論標(biāo)準(zhǔn)、人生理經(jīng)絡(luò)的復(fù)雜性、受測人群的地域和年齡覆蓋范圍以及經(jīng)絡(luò)測量數(shù)據(jù)的誤差等因素，預(yù)測結(jié)果具有一定