基于BP神經(jīng)網(wǎng)絡(luò)集成的手寫體數(shù)字識(shí)別.pdf

1、在模式識(shí)別領(lǐng)域，多年來的實(shí)踐表明：對一個(gè)復(fù)雜的識(shí)別分類問題，單一的方法難以獲得令人滿意的識(shí)別性能，同時(shí)不同的分類方法之間往往存在著互補(bǔ)性，把多個(gè)分類器集成可以明顯提高識(shí)別率。因此多分類器集成方法近年來已成為研究者們關(guān)注的一個(gè)熱點(diǎn)。本文建立了一個(gè)集成型神經(jīng)網(wǎng)絡(luò)手寫體數(shù)字識(shí)別系統(tǒng)，系統(tǒng)主要由兩部分構(gòu)成，即：學(xué)習(xí)部分和識(shí)別部分。學(xué)習(xí)部分主要完成七個(gè)BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練，識(shí)別部分由特征提取和集成型神經(jīng)網(wǎng)絡(luò)識(shí)別構(gòu)成。在整個(gè)系統(tǒng)的實(shí)現(xiàn)過程中，本文

2、的主要工作有以下幾個(gè)方面： 1．實(shí)現(xiàn)了宏觀，局部和微觀三個(gè)層次的特征提取，分別應(yīng)用于七個(gè)不同的神經(jīng)網(wǎng)絡(luò)分類器 2．對單個(gè)分類器，為提高網(wǎng)絡(luò)的收斂速度和避免網(wǎng)絡(luò)假飽和現(xiàn)象，對傳統(tǒng)的即神經(jīng)網(wǎng)絡(luò)作了一些改進(jìn)，例如修改學(xué)習(xí)因子，修改S函數(shù)，改進(jìn)最優(yōu)梯度法，引進(jìn)最優(yōu)步長等。 3．在集成算法中，本文提出了基于判決可靠度估計(jì)的最優(yōu)線性集成算法。該方法的思想是：先根據(jù)分類器對每個(gè)樣本的判決可靠度，把訓(xùn)練樣本分為若干個(gè)區(qū)域，在不同

3、的區(qū)域里使用最優(yōu)線性集成方法訓(xùn)練出多組權(quán)值向量。在測試時(shí)，同樣求出某一測試樣本的判決可靠度，根據(jù)該樣本的判可靠度所在的區(qū)域得出相應(yīng)的權(quán)值，再使用該權(quán)值進(jìn)行組合識(shí)別。本文對七個(gè)即神經(jīng)網(wǎng)絡(luò)的結(jié)果采用多種算法進(jìn)行組合，用實(shí)驗(yàn)證明基于各類別置信度的最優(yōu)線性集成算法是最優(yōu)的。 本文建立的集成型神經(jīng)網(wǎng)絡(luò)手寫體數(shù)字識(shí)別系統(tǒng)，綜合使用了多種模式識(shí)別方法，全面反應(yīng)了手寫體數(shù)字各個(gè)方面的特征，試驗(yàn)結(jié)果表明該系統(tǒng)提高了手寫體數(shù)字識(shí)別的精度，還有很多地