面向不確定性推理和數據分析的模式識別方法研究.pdf

1、在諸如人工智能、機器學習、模式識別和數據挖掘等許多研究領域,智能系統中往往存在不精確和不確定性.因此我們必須處理具有不確定性的問題. 對于圖像處理和模式識別研究人員來說,所遇到的問題都可以歸結為不確定性推理的研究.因此,我們從不確定性推理的角度研究模式識別問題,從而揭示各種模式識別方法的統一的本質,就顯得非常有意義. 概率論是表示不確定性的唯一合理的方法,概率論對于機器學習或不確定情況下的推理是有用的.貝葉斯概率理論是數

2、學概率論的一個分支,它通過將先驗知識和觀測事件結合起來而允許我們對于現實世界中的不確定性建模并進行感興趣的推理.因此,我們可以把各種機器學習問題統一在貝葉斯機器學習方法框架下,把機器學習和模式識別問題看作是一個貝葉斯推理問題,即把不確定性推理問題看作是在給定完全觀測數據時計算參數的后驗概率.這樣就提供了一個概念清晰而且邏輯上連貫一致的"機制",從而把所有的方法都聯系在一起. 貝葉斯網絡是概率論與圖論的結合,表示數據中變量之間的條

3、件獨立性與概率分布,用于概率推理.貝葉斯網絡是一種有效的不確定性推理方法.貝葉斯網絡被廣泛用來進行不確定性推理,一個最重要的原因就是現實世界中存在不確定性,而概率論是表示不確定性的一個合理的方式.另外一個原因就是貝葉斯網絡是模塊化地表示不確定知識,這使得它們易于維護而且可以應用到不同的環(huán)境中去.因此貝葉斯網絡在不確定性推理方面就顯得非常有吸引力.、粗糙集理論是另外一種不確定性推理方法,也稱作粗糙邏輯,它通過一些集合關系近似運算進行不確定

4、性知識推理.它基于知識表示的不可分辨關系,對于不完備或不一致數據,把數據相對于條件屬性表示為下近似和上近似集合,即用兩個精確意義上的集合表示一個不確定性概念.并基于這兩個近似集合定義粗糙集操作,去除數據中的冗余信息,根據數據本身提取決策規(guī)則用于預測和分類.它不需要除數據本身之外的任何先驗知識.在本論文中,我們做了不確定性推理和數據分析的模式識別方法研究,特別是粗糙集和貝葉斯網絡的理論與算法研究. 本文的創(chuàng)新點主要體現在:

5、 (1) 研究了基于粗糙集的特征選擇方法.提出了基于微粒群優(yōu)化(PSO)和粗糙集的特征選擇算法PSORSFS,從而為最優(yōu)特征選擇問題提供了一個有效的解決方案. (2) 研究了基于粗糙集特征選擇和規(guī)則提取算法的腦腫瘤數據分析和預測方法.將所提出的.PSORSFS特征選擇算法用于腦腫瘤數據的特征選擇,并結合粗糙集規(guī)則提取和基于決策規(guī)則的分類算法分析腦腫瘤數據.為醫(yī)療數據分析提供了一個合理的方法. (3) 提出了一個基于有序P

6、SO的粗糙集近似熵約簡算法,oPSOAER.該算法是一個粗糙集特征選擇算法,它結合了有序PSO的優(yōu)化思想和粗糙集的基于信息熵的近似約簡算法,是一個有效的最優(yōu)近似特征選擇算法.在要求以特定的松弛因子參數情況下,降低分類精度,以獲得近似最小特征子集的情況下,oPSOAER將會更有實際應用價值. (4) 分析了對于粗糙集中的不確定性的度量方法,并提出了一種基于近似精度和信息熵的粗糙集不確定性度量方法,定義了一個新的粗糙熵,給出了關于該

7、粗糙熵的一個性質,并證明該性質,說明它可以用于度量粗糙集不確定性. (5) 研究了模糊集和粗糙集的結合,模糊粗糙集.提出了一個模糊粗糙最近鄰聚類分類算法,FRNNC,該算法的主要思路是處理具有模糊性和粗糙性的數據的聚類、分類問題.我們把該算法用于手勢圖像識別.手勢數據存在著的相似性,以及同類手勢因視角不同而產生的差異,這些都造成了輸入數據本身存在一定的模糊粗糙不確定性.提出的FRNNC算法從每類樣本中選出最能代表該類樣本分布的聚

8、類代表點,計算測試樣本到各類聚類代表點的平均相似度,從而達到對手勢圖像的識別.與基本的FRNN算法相比,以極小的識別率代價換取了分類速度的較大提高. (6) 對于概率圖模型,貝葉斯網絡學習算法進行了大量研究.重點研究了貝葉斯網絡學習算法關鍵性的評分函數和參數學習方法,特別是EM算法.在對貝葉斯網絡隱變量和隱結構學習算法研究的基礎上,提出了一個基于貝葉斯熵標準(BEC)的有監(jiān)督分類的隱變量貝葉斯網絡學習算法,HNB-BEC-Sc.