面向不確定性推理和數(shù)據(jù)分析的模式識(shí)別方法研究.pdf

1、在諸如人工智能、機(jī)器學(xué)習(xí)、模式識(shí)別和數(shù)據(jù)挖掘等許多研究領(lǐng)域,智能系統(tǒng)中往往存在不精確和不確定性.因此我們必須處理具有不確定性的問(wèn)題. 對(duì)于圖像處理和模式識(shí)別研究人員來(lái)說(shuō),所遇到的問(wèn)題都可以歸結(jié)為不確定性推理的研究.因此,我們從不確定性推理的角度研究模式識(shí)別問(wèn)題,從而揭示各種模式識(shí)別方法的統(tǒng)一的本質(zhì),就顯得非常有意義. 概率論是表示不確定性的唯一合理的方法,概率論對(duì)于機(jī)器學(xué)習(xí)或不確定情況下的推理是有用的.貝葉斯概率理論是數(shù)

2、學(xué)概率論的一個(gè)分支,它通過(guò)將先驗(yàn)知識(shí)和觀測(cè)事件結(jié)合起來(lái)而允許我們對(duì)于現(xiàn)實(shí)世界中的不確定性建模并進(jìn)行感興趣的推理.因此,我們可以把各種機(jī)器學(xué)習(xí)問(wèn)題統(tǒng)一在貝葉斯機(jī)器學(xué)習(xí)方法框架下,把機(jī)器學(xué)習(xí)和模式識(shí)別問(wèn)題看作是一個(gè)貝葉斯推理問(wèn)題,即把不確定性推理問(wèn)題看作是在給定完全觀測(cè)數(shù)據(jù)時(shí)計(jì)算參數(shù)的后驗(yàn)概率.這樣就提供了一個(gè)概念清晰而且邏輯上連貫一致的"機(jī)制",從而把所有的方法都聯(lián)系在一起. 貝葉斯網(wǎng)絡(luò)是概率論與圖論的結(jié)合,表示數(shù)據(jù)中變量之間的條

3、件獨(dú)立性與概率分布,用于概率推理.貝葉斯網(wǎng)絡(luò)是一種有效的不確定性推理方法.貝葉斯網(wǎng)絡(luò)被廣泛用來(lái)進(jìn)行不確定性推理,一個(gè)最重要的原因就是現(xiàn)實(shí)世界中存在不確定性,而概率論是表示不確定性的一個(gè)合理的方式.另外一個(gè)原因就是貝葉斯網(wǎng)絡(luò)是模塊化地表示不確定知識(shí),這使得它們易于維護(hù)而且可以應(yīng)用到不同的環(huán)境中去.因此貝葉斯網(wǎng)絡(luò)在不確定性推理方面就顯得非常有吸引力.、粗糙集理論是另外一種不確定性推理方法,也稱作粗糙邏輯,它通過(guò)一些集合關(guān)系近似運(yùn)算進(jìn)行不確定

4、性知識(shí)推理.它基于知識(shí)表示的不可分辨關(guān)系,對(duì)于不完備或不一致數(shù)據(jù),把數(shù)據(jù)相對(duì)于條件屬性表示為下近似和上近似集合,即用兩個(gè)精確意義上的集合表示一個(gè)不確定性概念.并基于這兩個(gè)近似集合定義粗糙集操作,去除數(shù)據(jù)中的冗余信息,根據(jù)數(shù)據(jù)本身提取決策規(guī)則用于預(yù)測(cè)和分類.它不需要除數(shù)據(jù)本身之外的任何先驗(yàn)知識(shí).在本論文中,我們做了不確定性推理和數(shù)據(jù)分析的模式識(shí)別方法研究,特別是粗糙集和貝葉斯網(wǎng)絡(luò)的理論與算法研究. 本文的創(chuàng)新點(diǎn)主要體現(xiàn)在:

5、 (1) 研究了基于粗糙集的特征選擇方法.提出了基于微粒群優(yōu)化(PSO)和粗糙集的特征選擇算法PSORSFS,從而為最優(yōu)特征選擇問(wèn)題提供了一個(gè)有效的解決方案. (2) 研究了基于粗糙集特征選擇和規(guī)則提取算法的腦腫瘤數(shù)據(jù)分析和預(yù)測(cè)方法.將所提出的.PSORSFS特征選擇算法用于腦腫瘤數(shù)據(jù)的特征選擇,并結(jié)合粗糙集規(guī)則提取和基于決策規(guī)則的分類算法分析腦腫瘤數(shù)據(jù).為醫(yī)療數(shù)據(jù)分析提供了一個(gè)合理的方法. (3) 提出了一個(gè)基于有序P

6、SO的粗糙集近似熵約簡(jiǎn)算法,oPSOAER.該算法是一個(gè)粗糙集特征選擇算法,它結(jié)合了有序PSO的優(yōu)化思想和粗糙集的基于信息熵的近似約簡(jiǎn)算法,是一個(gè)有效的最優(yōu)近似特征選擇算法.在要求以特定的松弛因子參數(shù)情況下,降低分類精度,以獲得近似最小特征子集的情況下,oPSOAER將會(huì)更有實(shí)際應(yīng)用價(jià)值. (4) 分析了對(duì)于粗糙集中的不確定性的度量方法,并提出了一種基于近似精度和信息熵的粗糙集不確定性度量方法,定義了一個(gè)新的粗糙熵,給出了關(guān)于該

7、粗糙熵的一個(gè)性質(zhì),并證明該性質(zhì),說(shuō)明它可以用于度量粗糙集不確定性. (5) 研究了模糊集和粗糙集的結(jié)合,模糊粗糙集.提出了一個(gè)模糊粗糙最近鄰聚類分類算法,FRNNC,該算法的主要思路是處理具有模糊性和粗糙性的數(shù)據(jù)的聚類、分類問(wèn)題.我們把該算法用于手勢(shì)圖像識(shí)別.手勢(shì)數(shù)據(jù)存在著的相似性,以及同類手勢(shì)因視角不同而產(chǎn)生的差異,這些都造成了輸入數(shù)據(jù)本身存在一定的模糊粗糙不確定性.提出的FRNNC算法從每類樣本中選出最能代表該類樣本分布的聚

8、類代表點(diǎn),計(jì)算測(cè)試樣本到各類聚類代表點(diǎn)的平均相似度,從而達(dá)到對(duì)手勢(shì)圖像的識(shí)別.與基本的FRNN算法相比,以極小的識(shí)別率代價(jià)換取了分類速度的較大提高. (6) 對(duì)于概率圖模型,貝葉斯網(wǎng)絡(luò)學(xué)習(xí)算法進(jìn)行了大量研究.重點(diǎn)研究了貝葉斯網(wǎng)絡(luò)學(xué)習(xí)算法關(guān)鍵性的評(píng)分函數(shù)和參數(shù)學(xué)習(xí)方法,特別是EM算法.在對(duì)貝葉斯網(wǎng)絡(luò)隱變量和隱結(jié)構(gòu)學(xué)習(xí)算法研究的基礎(chǔ)上,提出了一個(gè)基于貝葉斯熵標(biāo)準(zhǔn)(BEC)的有監(jiān)督分類的隱變量貝葉斯網(wǎng)絡(luò)學(xué)習(xí)算法,HNB-BEC-Sc.