用分等級增強(qiáng)型學(xué)習(xí)方法完成神經(jīng)網(wǎng)絡(luò)任務(wù)分解.pdf

1、為了解決現(xiàn)階段的神經(jīng)網(wǎng)絡(luò)分類器的一些缺陷,比如分類問題過于復(fù)雜時導(dǎo)致網(wǎng)絡(luò)結(jié)構(gòu)變得龐大,出現(xiàn)劇烈的內(nèi)部干擾,訓(xùn)練和檢驗精度都下降等問題.該論文中,提出了一種新的任務(wù)分解方法——分等級增強(qiáng)型類別學(xué)習(xí)方法(Hierarchical incremental class learning).在這種方法中,一個K個類別的問題被劃分為K個子問題.使用一個分等級的具有k個子網(wǎng)絡(luò)的結(jié)構(gòu)對這些問題進(jìn)行串行學(xué)習(xí).每個子網(wǎng)絡(luò)都使用在它直接下級的子網(wǎng)絡(luò)的輸出和整

2、個系統(tǒng)的原有輸入做為它的輸入.而每一個子網(wǎng)絡(luò)的輸出都比它直接下級的子網(wǎng)絡(luò)的輸出多包含一個類別,并且該輸出輸入到它前面的子網(wǎng)絡(luò).這樣不僅可以減少隱藏層之間對整個系統(tǒng)輸出不利的關(guān)聯(lián)信息,而且還有助于在訓(xùn)練中類別之前相互傳遞信息.排在后面訓(xùn)練的網(wǎng)絡(luò)可以得到從前面的網(wǎng)絡(luò)訓(xùn)練中得到的信息.同時論文提供了兩種排序的算法:最小化邊際效應(yīng)排序法和基于Fisher線性判別式的最小化邊際效應(yīng)排序法.采用這兩種方法來決定子網(wǎng)絡(luò)間的等級關(guān)系.在試驗中,使用了構(gòu)