基于條件信息熵的超高維分類數(shù)據(jù)特征篩選.pdf

1、近年來，超高維數(shù)據(jù)分析與處理中的計算成本、統(tǒng)計精度、算法穩(wěn)定性等方面問題，是當前人們關(guān)注的研究熱點。超高維數(shù)據(jù)的特征篩選已經(jīng)廣泛地應用到生物影像，高頻時間序列分析，腫瘤分類和經(jīng)濟預測等相關(guān)大數(shù)據(jù)問題之中。然而，對于解決超高維數(shù)據(jù)相關(guān)問題，現(xiàn)有的高維數(shù)據(jù)變量選擇方法并不適用。于是，研究者依據(jù)變量之間相關(guān)性來構(gòu)建篩選指標，針對不同模型不同數(shù)據(jù)類型提出了相應的邊緣篩選方法，實例分析顯示效果顯著。
　　本文沒有遵從已有的根據(jù)變量之間相關(guān)性

2、進行特征篩選的研究路線，而是從信息量的角度出發(fā)，根據(jù)信息熵反映變量所包含的信息量大?。ɑ舅枷胧?如果協(xié)變量包含的信息量較少，說明它對響應變量所做的貢獻較少，可以認為該協(xié)變量為不重要變量）來構(gòu)建篩選指標，實現(xiàn)超高維數(shù)據(jù)特征篩選。針對兩類別響應變量，本文依據(jù)不同類別條件下協(xié)變量的信息熵之間的差值建立篩選指標提出了條件信息熵特征篩選方法(CIES)。當響應變量為多類別數(shù)據(jù)時，在CIES篩選方法的基礎上，結(jié)合響應變量的類別概率構(gòu)建相應的篩選指