高維數據的特征選擇與特征提取研究.pdf

1、隨著科技的發(fā)展,模式識別或模式分類在越來越多的社會生活中得到了應用。模式識別領域中,存在大量針對高維數據的識別問題,如生物信息數據識別、人臉識別、數字手寫體識別等。高維數據的出現為模式識別提出了新的挑戰(zhàn),其不僅難以被人們直觀理解,而且為模式識別中的特征選擇與特征提取環(huán)節(jié)帶來了新的“維數災難”。如何從高維數據中選擇或提取對識別或分類有效的特征已成為當前的研究熱點和難點。本文對模式識別中高維數據的特征選擇與特征提取算法進行了研究,主要工作包

2、括以下幾個方面:
　　 1.提出了一種多重遺傳算法,用于疾病相關的單核苷酸多態(tài)性的選擇。運用統(tǒng)計機器學習方法研究大規(guī)模單核苷酸多態(tài)性與復雜疾病的關聯(lián)關系,首要的工作是把大規(guī)模單核苷酸多態(tài)性縮減為較小集合,從中提取出包含冗余信息較少的特征單核苷酸多態(tài)性。為此,提出了用互信息衡量單核苷酸多態(tài)性與疾病間關聯(lián)的緊密程度并將其作為遺傳算法的適應值,通過多次運用遺傳算法并合并相應的尋優(yōu)結果得到候選的特征單核苷酸多態(tài)性集合。在單核苷酸多態(tài)性仿

3、真數據上的實驗及與最大熵方法性能比較表明,該方法最大可能丟棄了與疾病無關的單核苷酸多態(tài)性,保留了與疾病相關的單核苷酸多態(tài)性,為進一步研究提供了合適規(guī)模的單核苷酸多態(tài)性,本方法可用于中等或較大規(guī)模的單核苷酸多態(tài)性數據。
　　 2.提出了二次投影識別蛋白質譜數據的新方法。作為一種蛋白質組學工具,質譜法的使用對疾病的早期診斷和治療帶來了革命性的變化。然而,由于蛋白質譜數據高達上萬維,現有的機器學習方法不能直接用于識別蛋白質譜數據,同時

4、也面臨著識別性能較低的問題。借鑒具有良好降維性能的主成分分析與局部線性判別嵌入兩種方法,提出了用于蛋白質譜數據識別的二次投影法。該方法對高維數據先進行去噪與T檢驗降維,再用主成分分析獲取第一次投影的低維特征向量,隨后用局部線性判別嵌入獲取可分性最好的第二次投影特征向量。此外,還對局部線性判別嵌入方法進行修改,得到一種改進的二次投影法。二種方法在卵巢癌蛋白質譜數據上的實驗表明識別性能較好。
　　 3.為了發(fā)現高維樣本的非線性流形結

5、構,對人臉識別與數字手寫體識別問題,提出了基于流形學習的新的特征提取算法。
　　 (1)結合現有數據局部幾何結構保持方法,并使類內散度最小和類間散度最大,達到提取最優(yōu)分類特征信息的目的,提出了兩種集成最大邊界準則的人臉圖像特征提取算法,分別是保局判別分析算法與線性局部切空間判別分析算法。實驗表明,提出的算法可以發(fā)現數據集中的非線性流形結構并在降維的同時盡可能地保持這些結構信息,還能使數據的分類邊界最大化,提取到了最優(yōu)的分類特征信

6、息。
　　 (2)最大差異伸展是一種最近提出的流形學習算法,將其用于模式識別領域還存在不能處理新樣本等限制。利用線性變換的思想,在最大差異伸展的基礎上,提出了一種新的線性特征提取算法——線性最大差異伸展。該算法利用提取的特征信息把新的測試樣本直接線性變換到低維子空間,并能較好地保留局部近鄰的信息。
　　 (3)為了解決局部線性嵌入方法不能處理新樣本等局限,把一幅人臉圖像或數字手寫體圖像直接作為一個二維數據矩陣處理,不再轉

7、換為列向量,提出了基于二維圖像的特征提取算法——二維局部線性嵌入算法。二維處理的思想通過直接在圖像矩陣上運算有效地降低了局部線性嵌入算法的復雜度,同時,在降維中又保持了原方法把高維流形嵌入到低維空間的優(yōu)點,而且具有處理新測試樣本的能力。從實驗結果來看,局部線性嵌入對近鄰個數敏感的特性也有效的得到了改善。
　　 本文提出的特征選擇或特征提取算法,主要用于模式分類任務,在各自的應用領域做了相應的仿真實驗,與現有相應算法相比,取得了較