《3.2参数的最小二乘估计.pdf》由会员分享，可在线阅读，更多相关《3.2参数的最小二乘估计.pdf（13页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第3章 一元线性回归 3.1 一元线性回归模型 3.2 参数的最小二乘估计 3.3 估计量的分布和t检验 3.4 拟合优度和F检验 3.5 一元回归预测 3.6 综合案例 1 例3.1 一家保险公司希望确定居民住宅区火灾造成的损失额与该住户 到最近的消防站的距离之间的关系，以便准确地定出保险金额。下 表给出了15个样本点的数据情况. 距消防站的距离距消防站的距离x(km)3.41.84.62.33.15.50.73.0 火灾损失火灾损失 y (千元千元)26.217.831.323.127.536.014.122.3 距消防站的距离距消防站的距离x(km)2.64.32.11.16.14.83
2、.8 火灾损失火灾损失 y (千元千元)19.631.324.017.343.236.426.1 火灾损失表火灾损失表 2 3.2 参数的最小二乘估计参数的最小二乘估计 3 1728394560 x 15 30 45 60 y 散点图 01 y =Ex+理论回归方程 未知 1122 (,),(,),(,) nn xyxyxy数据 01 ，估计 实际问题： i01 y = ii x+一元线性回归模型： 3.2 参数的最小二乘估计参数的最小二乘估计 4 x y (xn , yn) (x1 , y1) (x2 , y2) (xi , yi) ei = yi-yi xy 10 += 0 0 估计 1
3、1 估计 01 y x=+ 经验回归方程： 残差 01 () iii ii eyy yx = =+ ii xy 10 += 拟合值 3.2 参数的最小二乘估计参数的最小二乘估计 3.2 参数的最小二乘估计参数的最小二乘估计 一、最小二乘估计一、最小二乘估计 （1）对每个，残差越小越好。),( ii yx （2）综合考虑n个个案，使残差平方和 1、思想： = = = = n i ii n i ii xy xyQ 1 2 10 , 1 2 1010 )(min ) () , ( 10 iii eyy= 达到最小。 5 = = = = = = 0) (2 0) (2 1 10 11 1 1 10 0
4、0 0 n i iii n i ii xxy Q xy Q 整理得： =+ =+ = = n i n i n i iiii n i i n i i yxxx yxn 111 1 2 0 1 1 1 0 )( )( )( 6 3.2 参数的最小二乘估计参数的最小二乘估计 2、求解： 求偏导： 正规方程组 01 22 010101 , 11 (,)() =min() nn iiii ii Qyxyx = = = = = = 2 1 1 1 10 )( )( n i i i n i i xx yyxx xy 最小二乘估计： = = n i n i iixx xnxxxL 11 222 )()( =
5、= n i ii n i iixy yxnyxyyxxL 11 )( = = xxxy LL xy / 1 10 记： 7 3.2 参数的最小二乘估计参数的最小二乘估计 例3.1 假定一保险公司希望确定居民住宅区火灾造成的损失数额与该住户 到最近的消防站的距离之间的相关关系,以便准确地定出保险金额。下表 给出了15个样本点的数据情况. 3.2 参数的最小二乘估计参数的最小二乘估计 距消防部的距离距消防部的距离x(km)3.41.84.62.33.15.50.73.0 火灾损失火灾损失 y (千元千元)26.217.831.323.127.536.014.122.3 距消防部的距离距消防部的距离
6、x(km)2.64.32.11.16.14.83.8 火灾损失火灾损失 y (千元千元)19.631.324.017.343.236.426.1 火灾损失表火灾损失表 计算得： 1 xy xx L L = 919. 4= = 279.10= = 1728394560 x 15 30 45 60 y xy919. 4279.10+ += = 01 yx= 3.2 参数的最小二乘估计参数的最小二乘估计 二、最小二乘估计的性质二、最小二乘估计的性质 （1)、线性 = = = = = n i i n i i i n i i n i ii y xx xx xx yxx 1 1 2 1 2 1 1 )()
7、( )( 01 2 1 1 ()1 () n i in i i i xx x yxy n xx = = = 10 、 是的线性组合。 12 , n y yy 1、估计量的性质 (2)、无偏性、无偏性 1 2 1 1 01 2 1 1 01 22 11 11 01 1 ()() () () () ()() 0*1* n i in i j j n i i n i j j nn ii inn ii jj jj xx EE y xx xx x xx xxxx x xxxx = = = = = = = =+ =+ =+ = = 0)(xxi = )( )( 2 xxxxx iii 10 其中用到 3.2
8、 参数的最小二乘估计参数的最小二乘估计 (3) 、的方差的方差 2 12 1 1 2 2 2 2 1 1 2 22 2 1 2 22 11 var()var() () () () () = () () ni n i ij j ni n ij j n i i nn xx jj jj xx y xx xx xx xx L xxxx = = = = = = = = = 10 、 2 2 2 0 )( )(1 ) var( += xx x n i 11 3.2 参数的最小二乘估计参数的最小二乘估计 同理可得： ,n), (i ,j j , i j , i ),( , n, , , i)E( ji i
9、21 0 cov 210 2 = = = = 12 3.2 参数的最小二乘估计参数的最小二乘估计 (4)、高斯、高斯-马尔可夫定理马尔可夫定理 高斯-马尔可夫条件 在高斯马尔可夫条件下，所有的线性无偏估计中，回归系数的最小 二乘估计的方差最小 ，即最小二乘估计是最优线性无偏估计 BLUE(Best Linear Unbiased Estimators)。 13 3.2 参数的最小二乘估计参数的最小二乘估计 2、估计的回归线的性质、估计的回归线的性质 (1)、 1 0 n i i e = = (3)、 残差平方和关于系数求导残差平方和关于系数求导 = = = = = = 0) (2 0) (2 1 10 11 1 1 10 00 0 n i iii n i ii xxy Q xy Q 1 0 n ii i e x = = (4)、估计的回归线过数据重心、估计的回归线过数据重心( , )x y 01 yx=截距计算公式截距计算公式 01 y x=+估计的回归方程估计的回归方程 取取代入估计的回归方程得代入估计的回归方程得xx= 0111 ()yxyxxy=+=+= (2)、 11 nn ii ii yy = =