基于STDP的脈沖神經(jīng)網(wǎng)絡(luò)無監(jiān)督學(xué)習(xí)研究.pdf

1、隨著人工神經(jīng)網(wǎng)絡(luò)的發(fā)展，人工神經(jīng)網(wǎng)絡(luò)在神經(jīng)科學(xué)的研究中占據(jù)重要地位。近期神經(jīng)科學(xué)最新研究成果表明，大腦中神經(jīng)信息不僅僅是通過脈沖發(fā)放頻率進(jìn)行編碼，還可以通過脈沖精確定位進(jìn)行編碼。基于脈沖精確定位編碼的脈沖神經(jīng)網(wǎng)絡(luò)對(duì)處理大腦神經(jīng)信號(hào)的問題，特別是處理復(fù)雜時(shí)空信息等問題，起著非常重要的作用。但由于其內(nèi)在的不連續(xù)性和非線性機(jī)制的限制，使得構(gòu)造高效的脈沖神經(jīng)網(wǎng)絡(luò)無監(jiān)督學(xué)習(xí)算法非常困難?，F(xiàn)有的脈沖神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法很多都存在著一些問題，比如算法缺乏

2、生物合理性，適應(yīng)能力差及在實(shí)際應(yīng)用中分類正確率偏低等。本文首先對(duì)脈沖神經(jīng)網(wǎng)絡(luò)無監(jiān)督學(xué)習(xí)的梯度下降學(xué)習(xí)規(guī)則、脈沖序列學(xué)習(xí)規(guī)則以及突觸可塑性Spike Timing Dependent Plasticity(STDP)規(guī)則進(jìn)行了對(duì)比分析得到現(xiàn)有算法存在的缺點(diǎn)，在STDP規(guī)則的基礎(chǔ)上，對(duì)突觸權(quán)重的更新規(guī)則進(jìn)行了改進(jìn)，提出了一種新的脈沖神經(jīng)網(wǎng)絡(luò)無監(jiān)督學(xué)習(xí)算法，新的算法生物合理性較強(qiáng)，而且在實(shí)際應(yīng)用中分類正確率能得到提高。本文主要的研究工作包括如

3、下幾點(diǎn)：
　　1、在STDP的基礎(chǔ)上，提出了一種新的脈沖神經(jīng)網(wǎng)絡(luò)無監(jiān)督學(xué)習(xí)算法。該算法應(yīng)用STDP構(gòu)造多脈沖誤差函數(shù)和對(duì)應(yīng)的突觸學(xué)習(xí)規(guī)則，并通過神經(jīng)元的實(shí)際脈沖發(fā)放頻率自適應(yīng)調(diào)整學(xué)習(xí)率。在學(xué)習(xí)過程中，利用帶移動(dòng)時(shí)間窗口的STDP學(xué)習(xí)規(guī)則，同時(shí)STDP帶移動(dòng)時(shí)間窗口的所有正變化可以穩(wěn)定突觸強(qiáng)度的分布，并且能保持神經(jīng)元突觸的競爭性。
　　2、將基于STDP的脈沖神經(jīng)網(wǎng)絡(luò)無監(jiān)督學(xué)習(xí)推廣到多層前饋脈沖神經(jīng)網(wǎng)絡(luò)，提出一種新的基于STD

4、P的競爭性與穩(wěn)定性的多層前饋脈沖神經(jīng)網(wǎng)絡(luò)的無監(jiān)督學(xué)習(xí)算法。該算法具體分析了STDP的穩(wěn)定性與競爭性對(duì)神經(jīng)元突觸權(quán)重更新規(guī)則的影響，調(diào)整了神經(jīng)元突觸的一些重要參數(shù)，采用線性脈沖序列編碼方法對(duì)MNIST數(shù)據(jù)集的數(shù)據(jù)進(jìn)行編碼，并分析了訓(xùn)練結(jié)果及隱含層神經(jīng)元數(shù)目對(duì)分類正確度的影響。最后將該算法應(yīng)用到MNIST數(shù)據(jù)集進(jìn)行分類，驗(yàn)證該算法的求解能力。
　　3、本文提出的算法在基于Python的 Brian平臺(tái)上得以實(shí)現(xiàn)，實(shí)驗(yàn)結(jié)果表明該算法采用