《2011-06-多元回归分析_75780290.ppt》由会员分享，可在线阅读，更多相关《2011-06-多元回归分析_75780290.ppt（49页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、袁克虹办公电话：26032453办公地点:L楼305B邮件：2011.04.26多元线性回归模型2主要内容 多元线性回归模型的一般形式 参数估计（OLS估计）假设检验 预测3一.多元线性回归模型 问题的提出 解析形式 矩阵形式4问题的提出 现实生活中引起被解释变量变化的因素并非仅只一个解释变量，可能有很多个解释变量。例如，产出往往受各种投入要素资本、劳动、技术等的影响；销售额往往受价格和公司对广告费的投入的影响等。所以在一元线性模型的基础上，提出多元线性模型解释变量个数 25 对人均国民生产总值（Y）的 影响因素（X）有：人口变动因素、固定资产数、货币供给量、物价指数、国内国际市场供求关系等
2、对汽车需求量（Y）的 影响因素（X）有：收入水平、汽车价格、汽油价格等 社会经济现象的复杂性！6多元线性回归模型表示方法 多元回归模型:含两个以上解释变量的回归模型 多元线性回归模型:一个应变量与多个解释变量之间设定的是线性关系 多元线性回归模型一般形式为：7多元线性回归模型的假设 解释变量 Xi 是确定性变量，不是随机变量；解释变量之间互不相关，即无多重共线性。随机误差项具有0均值和同方差 随机误差项不存在序列相关关系 随机误差项与解释变量之间不相关 随机误差项服从0均值、同方差的正态分布8多元模型的解析表达式9多元模型的矩阵表达式10矩阵形式11二.参数估计(OLS)参数值估计 参数估计量
3、的性质 偏回归系数的含义 正规方程 样本容量问题122.1参数值估计(OLS)要使误差最小，因而须有偏导为013得到下列方程组求参数估计值的实质是求一个k+1 元方程组14正规方程变成矩阵形式15正规方程矩阵形式16最小二乘法的矩阵表示17最小二乘估计量的性质（1）线性（估计量都是被解释变量观测值的线性组合）（2）无偏性（估计量的数学期望=被估计的真值）（3）有效性（估计量的方差是所有线性无偏估计中最小的）18OLS 估计量的性质（续）19线性20无偏性21有效性22 OLS 回归线的性质 完全同一元情形：23注解：k与k+1 凡是按解释变量的个数为k的，那么共有k+1 个参数要估计。而按参数
4、个数为k的，则实际有k-1 个解释变量。总之两者相差1 而已！要小心所用的k是什么意思！所以如果本来是用解释变量个数的k表示的要转换成参数个数的k则用k-1 代换原来的k就可以了！24偏回归系数的意义 多元回归模型中的回归系数称为偏回归系数 某解释变量前回归系数的含义是，在其他解释变量保持不变的条件下，该变量变化一个单位，被解释变量将平均发生偏回归系数大小的变动25样本容量问题 样本是一个重要的实际问题，模型依赖于实际样本。获取样本需要成本，企图通过样本容量的确定减轻收集数据的困难。最小样本容量：满足基本要求的样本容量26最小样本容量 n k+1(XX)-1存在|XX|0 XX 为k+1阶的满
5、秩阵 R(AB)min(R(A),R(B)R(X)k+1 因此，必须有nk+127满足基本要求的样本容量 一般经验认为：n 30或者n 3(k+1)才能满足模型估计的基本要求。n 3(k+1)时，t分布才稳定，检验才较为有效28多元线性回归模型的检验 本节主要介绍：3.1 拟合优度检验（判定系数及其校正）3.2 回归参数的显著性检验（t 检验）3.3 回归方程的显著性检验（F 检验）3.4 拟合优度、t 检验、F 检验的关系29拟合优度检验 目的：构造一个不含单位，可以相互比较，而且能直观判断拟合优劣的指标。类似于一元情形，先将多元线性回归作如下平方和分解：30对以上自由度的分解的说明31判定
6、系数 判定系数的定义：意义：判定系数越大，自变量对因变量的解释程度越高，自变量引起的变动占总变动的百分比高。观察点在回归直线附近越密集。取值范围：0-132校正判定系数 为什么要校正？判定系数随解释变量个数的增加而增大。易造成错觉：要模型拟合得越好，就应增加解释变量。然而增加解释变量会降低自由度，减少可用的样本数。并且有时增加解释变量是不必要的。导致解释变量个数不同模型之间对比困难。判定系数只涉及平方和，没有考虑自由度。校正思路：引进自由度校正所计算的平方和。33校正判定系数（续）34回归方程的显著性检验35回归方程的显著性检验 检验的目的：检验Y与解释变量x1，x2，xk之间的线性关系是否显
7、著。检验的目的36回归方程的显著性检验检验的步骤第一步，提出假设：原假设：H0：b1=b2=bk=0备择假设：H1：bi不全为0（i=1，k）37回归方程的显著性检验检验的步骤第二步，计算统计量：或：（10-8）38回归方程的显著性检验第三步，查表，得：检验的步骤39回归方程的显著性检验检验的步骤第四步，做检验：拒绝H0，回归方程显著接受H0，回归方程不显著检验法则40回归系数的显著性检验 回归方程显著，并不意味着每个解释变量对因变量Y的影响都重要,因此需要进行检验：回归系数检验的必要性回归方程显著每个回归系数都显著41回归系数的显著性检验 回归系数检验的步骤第一步，提出假设：原假设：H0：bi=0(i=1，2，k)备择假设：H1：bi0(i=1，2，k)42回归系数的显著性检验 回归系数检验的步骤第二步，构造并计算统计量：43回归系数的显著性检验 回归系数检验的步骤第三步，查表得：44回归系数的显著性检验 回归系数检验的步骤第四步，做检验：接受H0 检验法则拒绝H0 45回归系数的显著性检验 关于模型的异方差、自相关、多重共线性问题的检验，请参考计量经济学有关教材。46多元线性回归模型的预测47例子（会写出矩阵）响应变量yx1i=x X2i=x20-1 12-1 14 0 05 0 03 1 14 1 1矩阵中：n=6，k=248逆矩阵求法：（A|E）行变换为（E|A-1）49