多元線性模型與嶺回歸分析.pdf

1、回歸分析是統(tǒng)計學中的一個重要分支，它在工商管理、經濟、社會、醫(yī)學和生物科學等領域應用十分廣泛。從十九世紀初Gauss提出最小二乘法算起，回歸分析已經有180多年的歷史，二十世紀初以來，更多的統(tǒng)計學者投入到這一領域，發(fā)表了一系列有關回歸分析的理論和應用的論文，近三十年來，回歸分析的研究已有了一系列較為成熟的結果。回歸分析中，當自變量之間出現多重共線性現象時，回歸系數的估計值將會不穩(wěn)定，同時方差變大，這勢必對問題的研究帶來不利影響，因此消除

2、多重共線性成為回歸分析中參數估計的一個重要環(huán)節(jié)。消除多重共線性常用的參數改進方法有主成分回歸和嶺回歸。本文簡單介紹了主成分回歸，闡述了主成分估計方法的原理和優(yōu)缺點；重點是從不同的角度不同的思想出發(fā)，對最常見的嶺回歸估計法進行了深入的探討：嶺參數K的存在性，嶺估計的優(yōu)良性，嶺參數K的選擇方法等。自從1970年Hoerl和Kennard提出嶺估計以來，嶺回歸估計法開始廣泛應用于實際。本文以多元線性回歸模型的典則形式為研究對象，從減小均方誤差

3、的角度出發(fā)，在一定的范圍內分析了嶺參數K的存在性和嶺估計的優(yōu)良性。嶺參數K的確定依賴于未知參數，但是若只憑樣本推斷，就會使大量的經驗和信息作用無從發(fā)揮。嶺跡法確定Ｋ值存在著一定的人為主觀因素，這種人為性正好讓作者將定性分析和定量分析結合起來，改進了Hoerl和Kennard的方法。本文通過分析均方誤差函數的單調性，將K的范圍縮小到一個相對較小的區(qū)間。關于Ｋ值的逼近，怎樣才能達到極值點，尚需進一步研究。文章最后進行了總結，并提出了有待進一