分散度量模型中的變量選擇.pdf

1、建模過程中的一個重要問題是如何從眾多解釋變量當中選取重要變量，即變量選擇問題．已有大量文獻從不同的角度研究了線性模型和廣義線性模型中的變量選擇問題．隨著科學技術(shù)的深入發(fā)展，人們面臨著越來越復雜的數(shù)據(jù)和模型結(jié)構(gòu)，多重回歸模型是其中重要的一類，它可以更好的解釋數(shù)據(jù)變化的原因和規(guī)律．然而，當前文獻大多集中于均值回歸模型的變量選擇，對分散度量參數(shù)賦予一個模型結(jié)構(gòu)后，關(guān)于均值一分散度量參數(shù)聯(lián)合建模結(jié)構(gòu)下的變量選擇問題卻鮮有研究．本研究發(fā)現(xiàn)，如果把

2、適用于均值模型的方法直接套用到聯(lián)合建模結(jié)構(gòu)中有可能會引起一些問題或做出錯誤的推斷，因此有必要針對這樣的復雜模型結(jié)構(gòu)展開相關(guān)變量選擇問題的研究．本文研究了均值和分散度量參數(shù)聯(lián)合建模結(jié)構(gòu)下的變量選擇問題，以及變量選擇思想方法的應用問題，主要取得了以下三點成果． 針對異方差回歸模型，研究了均值和方差聯(lián)合建模結(jié)構(gòu)下的同時變量選擇問題．當均值模型中參數(shù)個數(shù)相對樣本量較大時，方差模型中參數(shù)的極大似然估計通常是有偏的，使用這樣的估計值進行變量

3、選擇將會增加模型的風險．從修正偏差的角度出發(fā)，本研究采用了調(diào)整的profile似然函數(shù)作為損失函數(shù)，并基于信息論的理論基礎(chǔ)，提出了一個新的變量選擇準則PICa．與經(jīng)典方法不同的是，該準則同時考慮了均值模型和方差模型中的信息，并對不同模型中的變量施以恰當?shù)膽土P力度，達到了同時選擇變量的效果．本文證明了，在一定的正則條件下，該準則具有如下漸近優(yōu)良性：對均值模型，PICa準則具有模型選擇的相合性；對方差模型，當樣本量足夠大時，由PICa準則選

4、出的模型出現(xiàn)擬合不足現(xiàn)象的概率趨于零．Monto Carlo模擬研究顯示，在許多常見情況下，新的準則優(yōu)于傳統(tǒng)方針對雙重廣義線性模型，一方面，針對經(jīng)典的變量選擇方法，利用擴展擬似然函數(shù)，推廣了經(jīng)典的AIC準則，并通過模擬和實例分析驗證了該準則的有效性．另一方面，還研究了高維數(shù)據(jù)中的變量選擇問題．當變量個數(shù)較大，而數(shù)據(jù)量不夠大時，傳統(tǒng)的子集選擇法很難區(qū)分眾多的可能模型，同時因其計算量太大而難以實施．對雙重廣義線性模型，不僅要估計均值模型中的

5、參數(shù)，還要估計散度模型中的參數(shù)，計算將更加繁重．本文提出了一類非凹懲罰擴展擬似然方法，證明了所得估計具有Oracle性質(zhì)，并提出了一種快速的新算法．同時，考慮到估計的優(yōu)良性質(zhì)依賴于罰函數(shù)中調(diào)諧參數(shù)的選擇，從模型選擇的相合性角度出發(fā)，改進了罰函數(shù)中調(diào)諧參數(shù)的選取方法． “變量選擇”的思想方法作為建模的主要組成部分，對于衡量數(shù)據(jù)與模型擬合的程度具有本質(zhì)的反映，因此，也可以用于建模的其他問題．本文針對回歸分析中異常數(shù)據(jù)和變量變換相互影