最小二乘法與一元回歸問(wèn)題分析

1、最小二乘法與一元回歸問(wèn)題分析以“殘差平方和最小”為條件求得最佳估計(jì)值，成為最小二乘原理，也叫最小二乘法。本節(jié)僅介紹一元回歸分析。（1）思考與處理方法因變量（檢測(cè)儀器）與自變量（被檢測(cè)量，通常用已知量）yx之間存在線性關(guān)系，為確定與之間的關(guān)系，通常用k個(gè)輸入量，yx即被測(cè)量（輸入量之間不一定為等差）。每個(gè)輸入量又分別作平行測(cè)定，且平行測(cè)定的次數(shù)又各不盡相同，假設(shè)依次為：個(gè)、個(gè)1n1x2n…個(gè)，分別在儀器得到k組響應(yīng)值：2xknkx)(11

2、11xxxx????)(11131211nyyyy????)(2222xxxx????)(22232221nyyyy????……)(kkkkxxxx????)(321kknkkkyyyy????儀器的k組響應(yīng)值的平均值之間接近為一條直線，用最小二iy乘原理求理想直線。設(shè)理想直線的方程為：，則對(duì)應(yīng)自變量在理想直線bxay???ix上的滿足方程：iy?，相應(yīng)值與理想值之間的關(guān)系為：iibxay???iyiy?①iiiiiebxayyy???

3、??)(?應(yīng)用最小二乘原理，將①式寫(xiě)成：②2112)(iNiNibxayeE??????為使值最小，即有：E0)1()(1?????????iNibxayaE0)()(21??????????iiiNxbxaybE上兩式整理得：③0)(1????iNybxay④0)(?????iiNiibxayx總偏差可寫(xiě)成：???iiyyy(iy?)?()yyi??具有以下平方和關(guān)系：?????iNiNyyy121()(iy?UQyyiN?????2

4、12)?()其中：表示回歸差平方和，表示殘余差平方和UQ殘余方差即為殘余差平方和除以自由度，即：2)(2)()(122????????NbxayNQyDysNiiii個(gè)響應(yīng)值相對(duì)理想直線的標(biāo)準(zhǔn)偏差為：Niy2)()(12?????NbxayysNiii計(jì)算模擬直線上的點(diǎn)的標(biāo)準(zhǔn)不確定度bxay???iy?)?(iyu主要來(lái)源于截距和回歸系數(shù))?(iyuab計(jì)算：)(buxxxyllb?)()(1)(1][)()(21222iNixyxyx