基于粗糙集的粒度神經(jīng)網(wǎng)絡(luò)研究.pdf

1、作為粒計(jì)算的三個(gè)主要模型之一,粗糙集理論可以直接對(duì)數(shù)據(jù)進(jìn)行分析和推理,從中發(fā)現(xiàn)隱含的知識(shí),揭示潛在的規(guī)律。因此,是一種天然的數(shù)據(jù)挖掘方法。而作為數(shù)據(jù)挖掘的另一種經(jīng)典方法,神經(jīng)網(wǎng)絡(luò)是一種模仿生物神經(jīng)網(wǎng)絡(luò)行為特征,進(jìn)行分布式并行信息處理的智能計(jì)算模型。鑒于粗糙集和神經(jīng)網(wǎng)絡(luò)在信息處理方式、知識(shí)獲取方式、抑制噪聲能力、泛化測(cè)試能力等方面有很多互補(bǔ)之處,將兩者集成的粒度神經(jīng)網(wǎng)絡(luò)模型作為智能集成系統(tǒng)的一個(gè)新的重要分支,已成為該領(lǐng)域的研究熱點(diǎn)問題之一

2、。
　　本文從兩個(gè)方面研究了基于粗糙集的粒度神經(jīng)網(wǎng)絡(luò)模型。一種方式是使用粗糙集作為前置系統(tǒng),利用屬性約簡(jiǎn)算法對(duì)數(shù)據(jù)集進(jìn)行粒度約簡(jiǎn),以簡(jiǎn)化神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu),提高神經(jīng)網(wǎng)絡(luò)的訓(xùn)練速度和預(yù)測(cè)精度。另一種方式是利用粗糙集及其擴(kuò)展模型來提取決策規(guī)則,根據(jù)提取的規(guī)則來定義粒度神經(jīng)元及其連接權(quán)值,實(shí)現(xiàn)粗糙集和神經(jīng)網(wǎng)絡(luò)的無縫融合。此外,本文還研究了每一種粒度神經(jīng)網(wǎng)絡(luò)模型的極速學(xué)習(xí)算法,該算法通過數(shù)學(xué)變換實(shí)現(xiàn)了學(xué)習(xí)過程的一次性完成。本文的主要研究?jī)?nèi)容包

3、括以下幾個(gè)方面:
　　1.在保證分類能力不變的基礎(chǔ)上,通過粗糙集理論中的屬性約簡(jiǎn)算法對(duì)訓(xùn)練樣本集進(jìn)行粒度約簡(jiǎn)。根據(jù)約簡(jiǎn)后的訓(xùn)練集,優(yōu)化粒度BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu),加快網(wǎng)絡(luò)的訓(xùn)練速度,提高網(wǎng)絡(luò)的泛化能力。針對(duì)傳統(tǒng)BP算法訓(xùn)練速度慢、易陷入局部最小和過擬合等問題,本文提出了基于具有全局搜索能力的量子微粒群算法來自適應(yīng)地確定粒度BP網(wǎng)絡(luò)的隱層神經(jīng)元個(gè)數(shù)、連接權(quán)值和閾值等參數(shù)。
　　2.利用粗糙集和AP聚類算法來優(yōu)化粒度RBF神經(jīng)網(wǎng)絡(luò)結(jié)

4、構(gòu),提出了一種新的粒度RBF神經(jīng)網(wǎng)絡(luò)模型。在該模型中,利用無需任何先驗(yàn)知識(shí)的AP聚類算法對(duì)約簡(jiǎn)后的數(shù)據(jù)集進(jìn)行聚類,將聚類后得到的中心及其寬度傳遞給粒度RBF網(wǎng)絡(luò)隱層中的RBF單元。然后,對(duì)每一個(gè)約簡(jiǎn)后的樣本實(shí)例,計(jì)算隱層中RBF單元的輸出,并利用傳統(tǒng)RBF算法訓(xùn)練粒度RBF網(wǎng)絡(luò)。
　　3.提出了一種改進(jìn)的極速學(xué)習(xí)算法,用來優(yōu)化單隱層粒度神經(jīng)網(wǎng)絡(luò)模型。該算法利用AP聚類自適應(yīng)地確定極速學(xué)習(xí)算法中的隱層節(jié)點(diǎn)個(gè)數(shù),并以聚類中心和寬度構(gòu)造

5、了新的激活函數(shù)(高斯函數(shù))。利用該算法來優(yōu)化粒度BP神經(jīng)網(wǎng)絡(luò)和粒度RBF神經(jīng)網(wǎng)絡(luò),實(shí)現(xiàn)這兩種粒度神經(jīng)網(wǎng)絡(luò)在統(tǒng)一框架下的自適應(yīng)極速學(xué)習(xí),以此建立了具有自適應(yīng)極速學(xué)習(xí)能力的單隱層粒度神經(jīng)網(wǎng)絡(luò)模型。
　　4.根據(jù)屬性約簡(jiǎn)和值約簡(jiǎn)后的數(shù)據(jù)集提取的決策規(guī)則,建立了一種新的粒度神經(jīng)網(wǎng)絡(luò)模型——粗規(guī)則粒度神經(jīng)網(wǎng)絡(luò)。在該模型中,規(guī)則匹配層取代了傳統(tǒng)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中的隱層,該層的每一個(gè)粒度神經(jīng)元代表一條決策規(guī)則,并依據(jù)規(guī)則的前件和后件初始化輸入連接權(quán)

6、值和輸出連接權(quán)值。最后,利用極速學(xué)習(xí)算法進(jìn)一步調(diào)整輸出連接權(quán)值,以提高網(wǎng)絡(luò)的分類能力。
　　5.考慮到?jīng)Q策規(guī)則還應(yīng)具有一定的容錯(cuò)能力,基于變精度粗糙集理論,提出了粒度雙神經(jīng)元網(wǎng)絡(luò)及其學(xué)習(xí)算法。在該模型中,中間層神經(jīng)元都為粒度雙神經(jīng)元結(jié)構(gòu),用來表示每條決策規(guī)則的上近似和下近似。最后,利用極速學(xué)習(xí)算法調(diào)整網(wǎng)絡(luò)的連接權(quán)值,以提高網(wǎng)絡(luò)的分類能力。此外,為提高粒度雙神經(jīng)元處理大規(guī)模數(shù)據(jù)集的能力,本文引入AP聚類對(duì)數(shù)據(jù)集進(jìn)行?；幚?提出了基