基于改進(jìn)PSO的BP網(wǎng)絡(luò)的研究及應(yīng)用.pdf

1、BP(Back Propagation)網(wǎng)絡(luò)的傳統(tǒng)BP算法和Widow-Hoff學(xué)習(xí)規(guī)則一樣屬于一種梯度下降學(xué)習(xí)算法，其權(quán)值的修正是沿著誤差性能函數(shù)梯度的反方向進(jìn)行的，由于實(shí)際應(yīng)用的高維復(fù)雜性，BP網(wǎng)絡(luò)采用傳統(tǒng)BP算法存在訓(xùn)練速度慢甚至導(dǎo)致網(wǎng)絡(luò)系統(tǒng)癱瘓的問題。針對傳統(tǒng)BP算法存在的一些不足，出現(xiàn)了基于遺傳算法(Genetic Algorithm，GA)、粒子群算法(Particle Swarm Optimization,PSO)等BP網(wǎng)

2、絡(luò)的學(xué)習(xí)訓(xùn)練算法。特別是粒子群算法的應(yīng)用，進(jìn)一步加快了BP網(wǎng)絡(luò)的學(xué)習(xí)速度。 粒子群算法不要求目標(biāo)函數(shù)具有連續(xù)性，且它的搜索具有全局性和并行性，所以算法簡單，收斂速度快，且不再有GA算法的選擇、交叉、變異等復(fù)雜操作。但對高維復(fù)雜問題，粒子群算法易早熟收斂，無法保證收斂到最優(yōu)點(diǎn)。 在借鑒前人的研究基礎(chǔ)上，本文對粒子群算法的收斂性進(jìn)行了研究，并根據(jù)遺傳變異能增加種群多樣性的特性給出了改進(jìn)型算法，即自適應(yīng)變異粒子群算法(Part

3、icle Swarm Optimization with Adaptive Mutation，AMPSO)。AMPSO算法以自然界和物理界的基本原理為導(dǎo)向，并根據(jù)環(huán)境的變化，通過提高種群多樣性的方法使算法獲得持續(xù)搜索能力，克服了PSO算法的早熟收斂現(xiàn)象。 最后，本文將AMPSO算法作為BP網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練函數(shù)，建立了基于AMPSO算法的BP網(wǎng)絡(luò)。并把該BP網(wǎng)絡(luò)應(yīng)用于入侵檢測技術(shù)中，通過KDD99 CUP數(shù)據(jù)集分別對基于不同算法的B