基于敏感性理論的Madaline網(wǎng)絡(luò)學(xué)習(xí)算法研究.pdf

1、基于“敏感性理論”的MADALINE網(wǎng)絡(luò)學(xué)習(xí)算法，是一種針對(duì)MADALINE網(wǎng)絡(luò)(一種離散型的二值前向網(wǎng)絡(luò))的有監(jiān)督的學(xué)習(xí)算法。目前，對(duì)于二值前向網(wǎng)絡(luò)，還沒(méi)有一種很好的訓(xùn)練學(xué)習(xí)算法。 本文以“最小擾動(dòng)”原則作為算法設(shè)計(jì)思想，從“MADALINE敏感性”的角度來(lái)尋找體現(xiàn)、貫徹這種思想的方法和途徑，并成功地設(shè)計(jì)出了一種“基于敏感性理論的MADALINE學(xué)習(xí)算法”。另外，文中也以一定的篇幅分析了新算法的失敗模式——“局部震蕩

2、”現(xiàn)象，并進(jìn)一步闡述了跳出“局部震蕩”的思想及其算法實(shí)現(xiàn)。最后，通過(guò)與MRⅡ的一組對(duì)比模擬試驗(yàn)，以及“MONK’S PROBLEM”的模擬試驗(yàn)。驗(yàn)證并展示了新算法的良好的學(xué)習(xí)性能和泛化性能，并分析和揭示了新算法所體現(xiàn)出來(lái)的其它一些良好性能表現(xiàn)，如算法學(xué)習(xí)性能對(duì)隱層結(jié)點(diǎn)數(shù)目表現(xiàn)出高靈敏度以及算法的泛化性能相對(duì)于網(wǎng)絡(luò)結(jié)構(gòu)呈現(xiàn)出良好的穩(wěn)定性。 可以說(shuō)，新算法在二值前向網(wǎng)絡(luò)上比較成功地實(shí)現(xiàn)了感知機(jī)學(xué)習(xí)規(guī)則的推廣。突破了這一業(yè)界長(zhǎng)期以來(lái)未