23570.高維共線性統(tǒng)計模型的參數(shù)估計與變量選擇

1、博士學(xué)位論文高維共線性統(tǒng)計模型的參數(shù)估計與變量選擇TheParameterEstimationandVariableSelectioninHighDimensionalCollinearityModels作者姓名：學(xué)科、，專業(yè)：學(xué)號：指導(dǎo)教師：完成日期：董瑩金融數(shù)學(xué)與保險精算10901002宋立新教授2014年6月大連理工大學(xué)DalianUniversityofTechnology大連理工大學(xué)博士學(xué)位論文摘要變量選擇在統(tǒng)計研究特別是高維

2、數(shù)據(jù)研究中占有極其重要的地位實際問題中對模型影響程度較大的預(yù)測變量往往是比較少的，而研究者通常會在預(yù)測模型時給出許多可能的預(yù)測變量以盡量提高預(yù)測的準(zhǔn)確程度，那么如何將這些重要的變量選擇出來，以得到精確的預(yù)測模型是我們非常關(guān)心的問題，這就是變量選擇的過程加入懲罰函數(shù)的觀點在變量選擇的研究中是相當(dāng)有用和有效的，這種方法能夠?qū)⒛Ｐ椭酗@著變量的系數(shù)進(jìn)行很小的壓縮或者不壓縮的保留于原模型中，而對于較小的系數(shù)會將其壓縮為零，這樣便實現(xiàn)了同時對模型變

3、量的選擇和對模型參數(shù)的估計的效果，進(jìn)而顯著提高了計算的效率大部分問題在構(gòu)造模型時還有可能存在另一種情況，即所提出的解釋變量之間多數(shù)是具有很高的相關(guān)性的，特別是在具有很多變量參與即高維的情形下這里我們更為關(guān)注對共線性問題的探討本文給出了我們關(guān)于高維數(shù)據(jù)中相關(guān)度過高(即共線性)的數(shù)據(jù)下的參數(shù)估計和變量選擇問題的研究所取得的一些成果本文的內(nèi)容結(jié)構(gòu)如下：文章第二部分討論了組合懲罰下聯(lián)合均值與方差模型的變量選擇問題該模型的提出是由于在回歸模型中，

4、對均值參數(shù)估計的有效性依賴于對方差參數(shù)的估計，因此對方差的討論能更好地解釋數(shù)據(jù)變化的原因和規(guī)律這里我們對所提出的估計的相合性和漸近正態(tài)性做出了論證同時將該模型與組合懲罰相結(jié)合，用于處理相關(guān)度較高的數(shù)據(jù)的變量選擇文章第三部分給出了參數(shù)發(fā)散的情況下廣義線性模型的變量選擇和參數(shù)估計的問題在給出的組合懲罰之下得到了這種估計的漸近結(jié)果提出的相應(yīng)算法得到的模擬和實際數(shù)據(jù)分析結(jié)果說明了該組合懲罰對于處理相關(guān)性較高的模型具有重要的意義文章第四部分討論了

5、超高維情況下廣義線性模型的變量選擇應(yīng)用SCADRidge組合的懲罰，在一定的假設(shè)條件之下，證明了該模型的估計所具有的理論性質(zhì)當(dāng)調(diào)整參數(shù)滿足適當(dāng)?shù)臈l件時，該方法能夠一致地選出真實模型，模擬結(jié)果也表明了這一方法是很有實際應(yīng)用價值的文章第五部分提出了一種新的很有實際意義的模型混合總體廣義線性模型這一模型可以用來討論混合總體中個體的特征情況，我們利用M一估計的方法對這個模型的參數(shù)進(jìn)行了估計，同時證明了該估計具有相合性和漸近正態(tài)性為了驗證這一估計