貝葉斯正規(guī)化BP神經(jīng)網(wǎng)絡及其在醫(yī)學中的應用.pdf

1、人工神經(jīng)網(wǎng)絡(ArtificialNeuralNetwork)是一門新興的邊緣學科，是生物神經(jīng)網(wǎng)絡在結(jié)構(gòu)、功能及某些基本特性方面的理論抽象、簡化和模擬而構(gòu)成的一種信息處理系統(tǒng)。神經(jīng)網(wǎng)絡具有分布式信息存儲方式、并行式信息處理方式、強大的容錯性、自組織、自學習、自適應能力和非線性處理能力等特性，與傳統(tǒng)醫(yī)學統(tǒng)計方法相比，人工神經(jīng)網(wǎng)絡不需要精確的數(shù)學模型，沒有任何對變量的假設(如正態(tài)性、獨立性等)要求，因此可以彌補傳統(tǒng)統(tǒng)計方法的不足，為解決實際

2、問題提供新的思路和方法。 對于醫(yī)學工作者而言，如何構(gòu)建神經(jīng)網(wǎng)絡模型使其具有較好的泛化能力，并解決實際問題是他們關(guān)注的。本文針對在醫(yī)學領(lǐng)域中應用廣泛的BP(Back-propagation)神經(jīng)網(wǎng)絡，介紹了BP神經(jīng)網(wǎng)絡的基本原理及其改進算法。針對BP算法及其改進算法中出現(xiàn)的過擬合(over-fitting)問題，探討了提高BP神經(jīng)網(wǎng)絡泛化能力的方法，提出了基于貝葉斯正規(guī)化(Bayesianregularization)的算法，在網(wǎng)

3、絡目標函數(shù)中引入表示網(wǎng)絡結(jié)構(gòu)復雜性的懲罰項，使得在訓練優(yōu)化的過程中降低了網(wǎng)絡結(jié)構(gòu)的復雜性，并通過貝葉斯推理得出目標函數(shù)的最優(yōu)化參數(shù)，達到避免網(wǎng)絡過擬合的目的。 本研究在介紹神經(jīng)網(wǎng)絡基本理論和實現(xiàn)方法的基礎上，進行了理論模擬研究和實際資料的應用研究。模擬研究結(jié)果表明：基于貝葉斯正規(guī)化法的BP神經(jīng)網(wǎng)絡比其他改進算法具有更好的適應性，擬合效果及泛化能力都更好。在醫(yī)學實例分析中對神經(jīng)網(wǎng)絡的構(gòu)建、訓練和優(yōu)化進行了討論，用貝葉斯正規(guī)化BP神

4、經(jīng)網(wǎng)絡建立煤礦工人Ⅱ期高血壓患者收縮壓的預測模型，模型的決定系數(shù)R2=0.97，預測的平均相對誤差僅為2％，回代及預測結(jié)果都好于多元線性回歸模型，表明該網(wǎng)絡模型不僅能準確地擬合訓練值，而且能更合理的進行預測未知樣本，具有較好的泛化能力。 研究結(jié)果表明貝葉斯正規(guī)化BP神經(jīng)網(wǎng)絡有效的避免了神經(jīng)網(wǎng)絡學習過程中的過擬合問題，且當實際資料中樣本量有限或無法保證代表性時，使用貝葉斯正規(guī)化方法建立神經(jīng)網(wǎng)絡可以提高其泛化能力，為實際工作者正確運