模式分類神經(jīng)計算方法研究.pdf

1、分類是所有智能系統(tǒng)面對紛繁復(fù)雜的大量數(shù)據(jù)時，從中提取有意義信息所采取的第一個關(guān)鍵的處理步驟。如何通過對數(shù)據(jù)進(jìn)行分析，將隱含在大量樣本中的類間差異的規(guī)律歸納出來，并綜合成適當(dāng)分類的過程就是模式分類所要完成的工作。由于數(shù)據(jù)的復(fù)雜多樣，面向的任務(wù)不同，很難找到一種通用的方法來解決模式分類問題，采用神經(jīng)計算的方法處理模式分類問題是對傳統(tǒng)統(tǒng)計模式分類方法的重要且有益的豐富和發(fā)展。神經(jīng)計算的方法由于其具有學(xué)習(xí)能力、可以實現(xiàn)自組織，非線性映射等特點(diǎn)，

2、豐富了傳統(tǒng)模式分類的模型和算法，開辟了模式識別發(fā)展的新途徑。研究模式分類的神經(jīng)計算方法，無論對神經(jīng)計算理論的發(fā)展，還是對模式分類技術(shù)的實際應(yīng)用，都具有重要的意義。本文針對不同的模式分類問題，根據(jù)其具體處理的數(shù)據(jù)特點(diǎn)和實現(xiàn)目標(biāo)的不同，采用神經(jīng)計算的理論和方法對其進(jìn)行研究，主要內(nèi)容如下： 1.提出了一種基于信息論原則的自組織聚類算法GG-ICAMM。使用廣義高斯分布函數(shù)來描述源向量的分布情況，分布函數(shù)的參數(shù)可以自適應(yīng)的調(diào)整，從而可以

3、更精確的刻畫源的分布，使模型對數(shù)據(jù)的描述具有較好的自適應(yīng)能力。利用基于信息理論的自組織原則進(jìn)行參數(shù)估計并實現(xiàn)聚類。算法既能夠反映數(shù)據(jù)的高階統(tǒng)計特征，又具有一定的靈活性。實驗結(jié)果驗證了算法的可行性和有效性。 2.提出了基于判別熵的期望最大化聚類算法EM-MJE。以判別熵作為各個類別間距離來衡量EM算法得到的參數(shù)值聚類效果的好壞；在迭代過程中增加隨機(jī)擾動機(jī)制，對參數(shù)提供一個隨機(jī)的擾動量，減小算法陷入局部極小的可能性。實驗結(jié)果表明，該

4、算法更易得到有效的聚類結(jié)果。 3.提出了隨機(jī)多層前饋網(wǎng)的退火期望最大化分類算法A-EM，并給出了算法收斂性的數(shù)學(xué)證明。利用退火思想，將神經(jīng)網(wǎng)絡(luò)類比為一個熱力學(xué)系統(tǒng)來考察它的狀態(tài)，引入退火溫度參數(shù)，提出了新的條件概率密度表示方法，降低初始參數(shù)值對最終結(jié)果的影響。該算法有利于使訓(xùn)練結(jié)果收斂到全局極小，從而提高分類識別率。實驗驗證了算法的正確性和有效性。 4.提出了前饋神經(jīng)網(wǎng)絡(luò)分類器選擇性集成方法CSNNE。個體網(wǎng)絡(luò)為經(jīng)EM算