基于相關性和冗余性分析的特征選擇算法研究.pdf

1、碩士學位論文基于相關性和冗余性分析的特征選擇算法研究TheResearchofFeatureSelectionAlgorithmsBasedonAnalysisofRelevancyandRedundancy學號：21009325大連理工大學DaliallUniversityofTechnology大連理工大學碩士學位論文摘要隨著現(xiàn)代科技的高速發(fā)展，獲取數(shù)據(jù)的技術越來越多，使得數(shù)據(jù)量呈現(xiàn)了一種爆炸性的增長。而伴隨數(shù)據(jù)量增大的同時，數(shù)據(jù)中

2、包含的噪音和無關信息也增多。面對這種現(xiàn)象，數(shù)據(jù)挖掘技術占據(jù)著越來越重要的地位。它能從海量數(shù)據(jù)中挖掘出有價值的東西，使得對數(shù)據(jù)的分析和解釋更簡便易懂。特征選擇是數(shù)據(jù)挖掘過程中的一個重要組成部分，也是近年來數(shù)據(jù)挖掘領域的研究熱點。特征選擇方法能有效地刪除噪音，降低冗余性，提高分類性能等。遺傳算法(GeneticAlgorithm，GA)是一種典型的封裝式特征選擇方法，由于它突出的對問題的求解能力，受到了大量的關注。本文通過對特征與類標之間相

3、關性和特征與特征之間冗余性的分析，提出了一種基于特征組和GA結(jié)合的特征選擇方法FSFGGA。該方法利用對稱不確定性分析相關性和冗余性，之后通過近似馬爾科夫毯規(guī)則對相關特征進行分組，最后在特征組的基礎上用遺傳算法進行優(yōu)化搜索。本文的另一主要工作是提出了一種基于動態(tài)相關性分析的前向特征選擇方法DRFFS。該方法是一種filter和wrapper混合的算法，首先通過多filter算法分數(shù)融合的方式來衡量特征與類標問的總體相關性；之后在分數(shù)融合

4、的基礎上，結(jié)合候選特征與已選子集的冗余性動態(tài)地改變候選屬性的互補性，并運用基于排序的前向搜索策略選擇最終的特征子集。通過特征組和遺傳算法結(jié)合的方式，加速了問題求解的速度，并提高了解空間的質(zhì)量。8組公共數(shù)據(jù)集的測試結(jié)果表明，F(xiàn)SFGGA算法的分類準確率在大部分情況下高于SVMRFE和ECBGS特征選擇算法。基于動態(tài)相關性分析的前向特征選擇方法不僅能選擇與類標有高相關度的特征，而且能有效地降低特征子集中的冗余性。在6組公共數(shù)據(jù)上的測試結(jié)果證