《计量经济学-第三章-多元线性回归.ppt》由会员分享，可在线阅读，更多相关《计量经济学-第三章-多元线性回归.ppt（42页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、计量经济学计量经济学授课人：田立法授课人：田立法教材：张晓峒教材：张晓峒计量经济学基础（第计量经济学基础（第3版）版）授课班级：金融授课班级：金融0905、0906，信用，信用0901公共信箱：公共信箱：sd_jiliang_ tianlifa计量经济学计量经济学天津商业大学经济学院天津商业大学经济学院天津商业大学经济学院天津商业大学经济学院2011年9月第三章第三章 多元线性回归模型多元线性回归模型 第一节：模型的建立及其假定条件第一节：模型的建立及其假定条件第二节：最小二乘法第二节：最小二乘法第三节：最小二乘估计量的特性第三节：最小二乘估计量的特性第四节：可决系数第四节：可决系数第五节：显
2、著性检验与置信区间第五节：显著性检验与置信区间第六节：预测第六节：预测第七节：案例分析第七节：案例分析第一节第一节 模型的建立及其假定条件模型的建立及其假定条件1.为什么要引入多元线性回归模型？为什么要引入多元线性回归模型？在实际经济问题中，一个经济变量往往不只受到一个在实际经济问题中，一个经济变量往往不只受到一个经济因素的影响，而是受到多个经济因素的影响。如，商经济因素的影响，而是受到多个经济因素的影响。如，商品的需求量不但受到商品本身价格的影响，还会受到消费品的需求量不但受到商品本身价格的影响，还会受到消费者偏好、消费者收入以及其它相关商品价格、预期价格等者偏好、消费者收入以及其它相关商品
3、价格、预期价格等因素的影响。因素的影响。引入多元线性回归模型，为我们深入探究某经济问题引入多元线性回归模型，为我们深入探究某经济问题如何被多个经济因素所影响提供了可能，并有助于我们解如何被多个经济因素所影响提供了可能，并有助于我们解析出经济问题背后存在的内在规律。析出经济问题背后存在的内在规律。多元线性回归模型是一元线性回归模型的推广，其基多元线性回归模型是一元线性回归模型的推广，其基本原理和方法同一元模型完全相似。本原理和方法同一元模型完全相似。设设 是对总体是对总体 的的n次独立样本观测值，则次独立样本观测值，则第一节第一节 模型的建立及其假定条件模型的建立及其假定条件2.多元线性回归模型
4、与一元模型的形式有什么不同？多元线性回归模型与一元模型的形式有什么不同？多元总体线性回归方程，简称多元总体线性回归方程，简称总体回归方程总体回归方程。是样本数据结构形式的多元总体线性回归模型，由是样本数据结构形式的多元总体线性回归模型，由n个方程、个方程、k+1个未知参数个未知参数 组成的一个线组成的一个线性方程组。性方程组。第一节第一节 模型的建立及其假定条件模型的建立及其假定条件3.多元线性回归模型的方程组与矩阵形式？多元线性回归模型的方程组与矩阵形式？被解释向量被解释向量=解释变量矩阵解释变量矩阵未知参数向量未知参数向量+随机误差向量随机误差向量第一节第一节 模型的建立及其假定条件模型的
5、建立及其假定条件3.多元线性回归模型的方程组与矩阵形式？多元线性回归模型的方程组与矩阵形式？第一节第一节 模型的建立及其假定条件模型的建立及其假定条件4.多元线性回归模型的样本估计形式？多元线性回归模型的样本估计形式？样本回归样本回归模型模型 矩阵形式为：矩阵形式为：样本回归样本回归方程方程 矩阵形式为：矩阵形式为：表示表示残差（随机误差项估计值）的列向量残差（随机误差项估计值）的列向量第一节第一节 模型的建立及其假定条件模型的建立及其假定条件5.多元线性回归模型的假定条件多元线性回归模型的假定条件假定假定1：E(ui)=0i1,2n这样，被解释变量这样，被解释变量Yi的期望值的期望值为为：E
6、(Yi)=0+1X1 i+2X2i +kX ki 第一节第一节 模型的建立及其假定条件模型的建立及其假定条件5.多元线性回归模型的假定条件多元线性回归模型的假定条件假定假定2：Var(ui)=Eui-E(ui)2=E(ui)2=2 i1,2,n 这样，这样，Yi的方差也相同，且等于的方差也相同，且等于 2，即：，即：Var(Yi)=2 i1,2,n假假定定3：Cov(ui,uj)=E(ui-E(ui)(uj-E(uj)=E(ui,uj)=0(i j)i，j1,2,n即：随机误差项无序列相关。即：随机误差项无序列相关。第一节第一节 模型的建立及其假定条件模型的建立及其假定条件5.多元线性回归模型
7、的假定条件多元线性回归模型的假定条件假定假定2和假定和假定3可以由下列矩阵表示：可以由下列矩阵表示：第一节第一节 模型的建立及其假定条件模型的建立及其假定条件5.多元线性回归模型的假定条件多元线性回归模型的假定条件假定假定2和假定和假定3可以由下列矩阵表示：可以由下列矩阵表示：上式称为随机误差向量上式称为随机误差向量u的的方差方差协方差矩阵协方差矩阵。第一节第一节 模型的建立及其假定条件模型的建立及其假定条件5.多元线性回归模型的假定条件多元线性回归模型的假定条件即样本观测值矩阵即样本观测值矩阵X必须是满秩矩阵，应满足：必须是满秩矩阵，应满足：假定假定4：Cov(uj,Xij)=0i1,2k；
8、i，j1,2n 即 ui与与Xi彼此不相关彼此不相关。rankrank（X X）=k=k1 1nn假定假定5：解释变量：解释变量X1,X2,X k之间不存在完全的线性关系，之间不存在完全的线性关系，假定假定6：随机误差项服从正态分布，即：随机误差项服从正态分布，即uiN（0,2）同时，被解释变量也服从正态分布同时，被解释变量也服从正态分布YiN(0+1X1 i+2X2i+kXki,2)第二节第二节 最小二乘法最小二乘法1.参数的最小二乘估计参数的最小二乘估计2.第一步第一步构建最小二乘函数：构建最小二乘函数：第二节第二节 最小二乘法最小二乘法1.参数的最小二乘估计参数的最小二乘估计2.第二步第
9、二步应用极值定理，对参数求导：应用极值定理，对参数求导：第二节第二节 最小二乘法最小二乘法1.参数的最小二乘估计参数的最小二乘估计2.第二步第二步应用极值定理，对参数求导：应用极值定理，对参数求导：化化简简第二节第二节 最小二乘法最小二乘法1.参数的最小二乘估计参数的最小二乘估计2.第二步第二步应用极值定理，对参数求导：应用极值定理，对参数求导：3.写成矩阵形式写成矩阵形式第二节第二节 最小二乘法最小二乘法1.参数的最小二乘估计参数的最小二乘估计2.第三步第三步解方程组：解方程组：因为：因为：第二节第二节 最小二乘法最小二乘法1.参数的最小二乘估计参数的最小二乘估计2.第三步第三步解方程组：解
10、方程组：所以：所以：于是：于是：就是就是 的最小二乘估计量。的最小二乘估计量。第二节第二节 最小二乘法最小二乘法2.最小二乘估计的矩阵微分法则最小二乘估计的矩阵微分法则其中，其中，第二节第二节 最小二乘法最小二乘法2.最小二乘估计的矩阵微分法则最小二乘估计的矩阵微分法则对矩阵求对矩阵求 向量的微分，得向量的微分，得整理，得整理，得于是于是可见，矩阵微分法与解方程组法的结果是一样的。可见，矩阵微分法与解方程组法的结果是一样的。第二节第二节 最小二乘法最小二乘法例例3.1由经济理论知，在市场上某种商品的需求量由经济理论知，在市场上某种商品的需求量主要主要取决于该商品的价格取决于该商品的价格和消费者
11、的收入和消费者的收入。试建立该。试建立该种商品的需求量与商品价格和消费者平均收入之间的线种商品的需求量与商品价格和消费者平均收入之间的线性回归模型。性回归模型。第一步：确立研究问题；第一步：确立研究问题；第二步：搜集研究数据；第二步：搜集研究数据；第二节第二节 最小二乘法最小二乘法例例3.1第三步：构建计量经济学模型；第三步：构建计量经济学模型；第二节第二节 最小二乘法最小二乘法例例3.1第三步：构建计量经济学模型；第三步：构建计量经济学模型；M是一个是一个 n 阶对称幂等矩阵，即阶对称幂等矩阵，即第二节第二节 最小二乘法最小二乘法3.随机误差项的方差随机误差项的方差的估计量的估计量第二节第二
12、节 最小二乘法最小二乘法3.随机误差项的方差随机误差项的方差的估计量的估计量则则注：符号注：符号 tr 表示矩阵的迹，它等于矩阵主对角线上元素之和表示矩阵的迹，它等于矩阵主对角线上元素之和.第二节第二节 最小二乘法最小二乘法3.随机误差项的方差随机误差项的方差的估计量的估计量于是有，于是有，可见，随机误差项的方差可见，随机误差项的方差2 的无偏估计量为：的无偏估计量为：残差平方和残差平方和 的计算方法如下：的计算方法如下：第二节第二节 最小二乘法最小二乘法3.随机误差项的方差随机误差项的方差的估计量的估计量请计算例请计算例3.1中误差项方差的回归标准差。中误差项方差的回归标准差。所谓线性性是指
13、最小二乘估计量所谓线性性是指最小二乘估计量 是被解释变量的观测值是被解释变量的观测值 的线性函数：的线性函数：已知已知 令令 则则 ，A是一个非随机是一个非随机(k+1)n阶常数矩阵。阶常数矩阵。2.无偏性无偏性 由由 知知第三节第三节 最小二乘估计量的特性最小二乘估计量的特性1.线性性线性性 由由知知令令则则 ，因，因 b 是是 的无偏估计量，所以的无偏估计量，所以从而有从而有第三节第三节 最小二乘估计量的特性最小二乘估计量的特性3.最小方差性（有效性）最小方差性（有效性）第三节第三节 最小二乘估计量的特性最小二乘估计量的特性高斯高斯马尔科夫定理马尔科夫定理如果基本假设如果基本假设(1)(5
14、)成立，则最小二乘估计量成立，则最小二乘估计量是是的的最优线性无偏估计量（最优线性无偏估计量（BLUE），即），即的所有线性无偏估的所有线性无偏估计量中，计量中，具有最小方差性。具有最小方差性。例例3.3试计算例试计算例3.1中中和和的标准差的估计值。的标准差的估计值。解：解：第四节第四节 可决系数可决系数1.总离差平方和的分解总离差平方和的分解多元回归模型同一元回归模型相似，总离差平多元回归模型同一元回归模型相似，总离差平方和也可分解为：方和也可分解为：其中其中即即总离差平方和总离差平方和=回归平方和回归平方和+残差平方和残差平方和 TSS=RSS+ESS第四节第四节 可决系数可决系数2.多
15、元样本的可决系数多元样本的可决系数修正的多元样本可决系数修正的多元样本可决系数第四节第四节 可决系数可决系数在实际应用时，在实际应用时，和和越大，模型拟合得越好。越大，模型拟合得越好。和和仅仅说明了在给定的样本条件下，估计的回归方程对于样本仅仅说明了在给定的样本条件下，估计的回归方程对于样本观测值拟合的优度，拟合优度并不是评价模型优劣的惟一标观测值拟合的优度，拟合优度并不是评价模型优劣的惟一标准。我们并不能仅以准。我们并不能仅以和和的大小来选择模型，有时为了的大小来选择模型，有时为了使有重要经济意义的解释变量保留在模型中，宁可牺牲一点使有重要经济意义的解释变量保留在模型中，宁可牺牲一点拟合优度
16、。拟合优度。例例3.4计算例计算例3.1的可决系数的可决系数第五节第五节 显著性检验与置信区间显著性检验与置信区间1.回归方程的显著性检验（回归方程的显著性检验（F检验）检验）回归方程的显著性检验是指，在一定的显著水平下，从回归方程的显著性检验是指，在一定的显著水平下，从总体上对模型中被解释变量与解释变量之间的线性关系是否总体上对模型中被解释变量与解释变量之间的线性关系是否显著成立进行的一种统计检验。显著成立进行的一种统计检验。对于多元回归模型对于多元回归模型提出原假设提出原假设备择假设为备择假设为当当H0成立时成立时第五节第五节 显著性检验与置信区间显著性检验与置信区间1.回归方程的显著性检
17、验（回归方程的显著性检验（F检验）检验）例例3.5 试对例试对例3.1中的估计的回归方程进行显著性检验。中的估计的回归方程进行显著性检验。解：从解：从Eviews的输出结果中，也能够直接看出的输出结果中，也能够直接看出第五节第五节 显著性检验与置信区间显著性检验与置信区间2.解释变量的显著性检验（解释变量的显著性检验（t检验检验）多元线性回归模型同一元线性回归模型一样，检验未知多元线性回归模型同一元线性回归模型一样，检验未知参数的显著性也可用参数的显著性也可用 t 统计量：统计量：已知已知 ，其中，其中有有记记 ，若假设，若假设H0成立成立则可得则可得 第五节第五节 显著性检验与置信区间显著性
18、检验与置信区间2.解释变量的显著性检验（解释变量的显著性检验（t检验检验）例例3.6试对例试对例3.1的回归系数的回归系数，进行显著性检验。进行显著性检验。解：解：第五节第五节 显著性检验与置信区间显著性检验与置信区间3.回归系数的置信区间回归系数的置信区间已知已知所以，有所以，有例例3.7试对例试对例3.1中的回归系数建立置信度为中的回归系数建立置信度为95%的置信区间。的置信区间。解：基于解：基于Eviews的输出结果可得的输出结果可得和和的置信区间为的置信区间为第六节第六节 预测预测1.点预测点预测点点预测：就是将解释变量预测：就是将解释变量X1,X2,Xk的一组特定值：的一组特定值：X
19、0=(1,X10,X20,Xk0)代入估计的回归方程中，计算出被解释变量代入估计的回归方程中，计算出被解释变量Y0的点预测值：的点预测值：即：即：与一元情形一样，对与一元情形一样，对 有两种解释：有两种解释：（1）看作）看作Y的条件期望的条件期望E(Y0|X0)的点估计的点估计（2）看作）看作Y的个别值（真值）的个别值（真值）Y0的点估计的点估计第六节第六节 预测预测2.区间预测区间预测（1）的预测区间的预测区间 因此，因此，是是 的无偏估计量。的无偏估计量。即即第六节第六节 预测预测2.区间预测区间预测（1）的预测区间的预测区间 第六节第六节 预测预测2.区间预测区间预测（1）的预测区间的预测区间 得得 的预测区间为的预测区间为 （2）的预测区间的预测区间 例例3.8 对于例对于例3.1中建立的估计得回归方程，假设商品的中建立的估计得回归方程，假设商品的价格为价格为X10=8.5，消费者的平均收入，消费者的平均收入X20=140，试求，试求 和和 的预测区间（的预测区间（）。）。解：解：见教材。见教材。