可解釋的和能理解的神經(jīng)網(wǎng)絡(luò)樹設(shè)計(jì)方法研究.pdf

1、機(jī)器學(xué)習(xí)方法主要有兩種:符號(hào)學(xué)習(xí)方法和非符號(hào)學(xué)習(xí)方法.決策樹是一種典型的符號(hào)學(xué)習(xí)模型,神經(jīng)網(wǎng)絡(luò)是一種最常見的非符號(hào)學(xué)習(xí)模型.一般來說,符號(hào)學(xué)習(xí)方法適合于提取能理解的規(guī)則但不能在線增量學(xué)習(xí),非符號(hào)學(xué)習(xí)方法適合于在線增量學(xué)習(xí),但是不能提取能理解的規(guī)則.神經(jīng)網(wǎng)絡(luò)樹是一種神經(jīng)網(wǎng)絡(luò)和決策樹的混合學(xué)習(xí)模型,總體的結(jié)構(gòu)是決策樹模型,每一個(gè)非終端節(jié)點(diǎn)是一個(gè)專家神經(jīng)網(wǎng)絡(luò),神經(jīng)網(wǎng)絡(luò)樹有決策樹和神經(jīng)網(wǎng)絡(luò)兩者的優(yōu)點(diǎn).為了增強(qiáng)神經(jīng)網(wǎng)絡(luò)樹的實(shí)用性,應(yīng)當(dāng)提出用于增量

2、學(xué)習(xí)的有效算法,設(shè)計(jì)盡可能小的神經(jīng)網(wǎng)絡(luò),提出在線解釋的方法.這篇論文的目的是基于多目標(biāo)優(yōu)化和多模板匹配算法設(shè)計(jì)可解釋的,能理解的或自我解釋的神經(jīng)網(wǎng)絡(luò)樹.該文的主要貢獻(xiàn)是:第一章回顧了已有的神經(jīng)網(wǎng)絡(luò)與決策樹的混合模型設(shè)計(jì)方法.第二章研究人工神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)與學(xué)習(xí)算法、決策樹的定義與學(xué)習(xí)算法以及基于遺傳算法的優(yōu)化方法等,并以此為基礎(chǔ)研究了神經(jīng)網(wǎng)絡(luò)樹的定義及其演化設(shè)計(jì)方法.第三章在研究有限輸入神經(jīng)網(wǎng)絡(luò)樹的基礎(chǔ)上,提出了基于遺傳算法的多目標(biāo)優(yōu)化

3、方法設(shè)計(jì)更容易解釋和理解的神經(jīng)網(wǎng)絡(luò)樹.該方法通過同時(shí)對(duì)非終端節(jié)點(diǎn)的分類能力(通過計(jì)算信息增益率)、神經(jīng)網(wǎng)絡(luò)樹非終端節(jié)點(diǎn)的隱層神經(jīng)元數(shù)目和神經(jīng)網(wǎng)絡(luò)樹每個(gè)非終端節(jié)點(diǎn)的輸入特征數(shù)目等多個(gè)目標(biāo)進(jìn)行優(yōu)化,在提高非終端節(jié)點(diǎn)分類能力的前提下,盡量減少神經(jīng)網(wǎng)絡(luò)樹非終端節(jié)點(diǎn)的隱層神經(jīng)元數(shù)目和神經(jīng)網(wǎng)絡(luò)樹每個(gè)非終端節(jié)點(diǎn)的輸入特征數(shù)目,來獲得更容易解釋和理解的神經(jīng)網(wǎng)絡(luò)樹.論文利用UCI機(jī)器學(xué)習(xí)數(shù)據(jù)庫中的4個(gè)數(shù)據(jù)庫驗(yàn)證了算法的有效性.第四章通過采用多模板匹配方法