基于冗余–互補散度及特征包絡前沿的數(shù)據(jù)驅動特征選擇方法研究.pdf

1、隨著社會的不斷發(fā)展，數(shù)據(jù)的構成呈現(xiàn)復雜化與高維化的趨勢，大數(shù)據(jù)降維研究中應用廣泛的特征選擇算法已經成為大數(shù)據(jù)和數(shù)據(jù)驅動背景下社會經濟決策和企業(yè)商務決策重要的研究方向。特征選擇方法中的參數(shù)選擇問題對所選特征質量以及數(shù)據(jù)的再表達有著重要的影響。特征集合S=F1,…, Fk和類C的聯(lián)合互信息可以展開為不同維度（階）上特征與類的交互信息的和，于是，特征集合與類之間的聯(lián)合互信息可以表現(xiàn)為交互信息的展開形式。從Brown等(2012)的視角來看，參

2、數(shù)的確定問題也即選擇特征選擇方法的方法問題，但在這些經典特征選擇方法中，存在先驗性的參數(shù)選擇問題，例如MIFS中冗余性權重β等。因此，如何從彌補高階交互項缺失的視角來尋找合適的、非先驗性的權重是特征選擇的一個重大問題。
　　給出了兩個如何解決特征選擇參數(shù)問題的框架。其一，從數(shù)據(jù)驅動的視角，將參數(shù)的衍生視為對高階交互信息的省略所造成的偏差的修正。在給出了數(shù)據(jù)驅動的基于互信息的特征評價框架的基礎上，深入分析了由高階信息缺失所帶來的冗余

3、–互補分散現(xiàn)象，在冗余–互補維度上引入高階信息驅動的修正因子對低階冗余–互補項進行修正（參數(shù)的確定），進而對特征進行準確地評價與排序。
　　其二，結合特征選擇中多指標評價及指標權重的多樣性及其不同領域不同時段的偏向性，構建了一種基于DEA的特征選擇框架，該框架充分利用了DEA框架的數(shù)據(jù)驅動特性，使其在進行特征評價和選擇時能夠充分考慮到特征間關系多樣性以及特征評價準則多樣性特點，同時還能應對不同數(shù)據(jù)環(huán)境所帶來的變化。
　　依據(jù)

4、第一個框架，從省略高階交互信息所造成的冗余–互補分散現(xiàn)象出發(fā)實現(xiàn)特征選擇參數(shù)的確定。對由高階信息缺失所帶來的冗余-互補分散現(xiàn)象進行了深入探討，基于高階互信息在低階的“投影”視角，從高階互信息缺失在低階上的“投影”所造成的低階上特征間的冗余–互補分散現(xiàn)象進行判斷，并據(jù)此進行低階項參數(shù)的確定；進而提出了基于冗余–互補散度的數(shù)據(jù)驅動特征選擇方法（Redundancy-Complementariness Dispersion-based Fea

5、ture Selection method, RCDFS），該算法考慮到現(xiàn)有統(tǒng)計方法對高階項的估計存在不可預料的錯誤，通過數(shù)據(jù)驅動的方式為2階近似特征冗余–互補關系給出一個系數(shù)（權重），對該項因高階項缺失所帶來的偏差給予了恰當?shù)膹浹a。
　　證明了采用“求平均”方法的特征評價準則可以保證獲取高階冗余性和互補性的下界，為有效的數(shù)據(jù)驅動特征評價準則整合方法打下了基礎。鑒于不同背景所對應的評價準則及特征關聯(lián)偏向的“先驗知識”蘊藏于該背景下

6、的具體數(shù)據(jù)之中，于是根據(jù)給出的第二個框架，構建了用于特征選擇的基于DEA的超效率特征評價模型。該模型可面向不同領域的具體數(shù)據(jù)，通過超效率DEA對這些評價準則選擇合適的參數(shù)并構造出相應的超效率包絡前沿，進而實現(xiàn)對特征的評價和排序。同時還給出了相應的求解MCSD算法，討論了算法的復雜性。實驗結果表明，所提MCSD算法所對應的分類結果在絕大多數(shù)情況下顯著優(yōu)于IG、ReliefF、CMIM和JMI的結果。
　　快速發(fā)展的公路運輸業(yè)帶來了交

7、通事故的持續(xù)增長。駕駛員的不良駕駛行為是一些重大交通事故的誘因，因此通過動態(tài)監(jiān)控數(shù)據(jù)進行駕駛員異常駕駛行為的辨識與分析，特別是對于一些需要重點監(jiān)控的異常駕駛行為的識別與分析，意義十分重大。根據(jù)Wright等(2009)和Mo等(2014)的理論，任何一條新的車輛運動軌跡都可以近似的用訓練車輛運動軌跡線性組合而成，因此，稀疏重構技術可以被應用于軌跡識別與行為分類中?？紤]到大量冗余車輛軌跡特征的存在會對軌跡學習模型的準確性造成嚴重的影響，同

8、時基于稀疏重構軌跡學習模型在求解速率上的短板更是彰顯了特征選擇在建模和處理過程中的重要性。鑒于此，在?2-?p稀疏重構方法的軌跡識別模型中嵌入了特征選擇方法，并采用前面所提出的數(shù)據(jù)驅動特征選擇算法予以實現(xiàn)：提出了求解基于?p(0< p<1)范數(shù)的稀疏重構系數(shù)向量的方法Orthogonal Matching Pursuit-quasi-Newton(OMPN)，該方法首先采用正交匹配貪婪算法（Orthogonal Matching Pur