《08第八章计量经济学.pptx》由会员分享，可在线阅读，更多相关《08第八章计量经济学.pptx（22页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、多元回归分析多元回归分析 y = b b0 + b b1x1 + b b2x2 + . . . b bkxk + u 6. 异方差性异方差性1异方差性的定义异方差性的定义回顾同方差性的假定暗含在解释变量条回顾同方差性的假定暗含在解释变量条件下无法观测到的误差件下无法观测到的误差u的方差为常数的方差为常数如果这一假定不能满足如果这一假定不能满足,即如果对于即如果对于x的不的不同值来说同值来说u的方差是不同的的方差是不同的, 那么该误差那么该误差具有异方差性具有异方差性例子例子: 估计教育的回报估计教育的回报 如果能力是无法观测到的如果能力是无法观测到的, 那么我们认为那么我们认为能力的方差依据获
2、得教育程度的不同而能力的方差依据获得教育程度的不同而不同不同2.x x1x2yf(y|x)异方差性的例子异方差性的例子x3.E(y|x) = b b0 + b b1x3为什么我们担心异方差性为什么我们担心异方差性?即使我们不能假定同方差性，普通最小二即使我们不能假定同方差性，普通最小二乘估计量仍是无偏估计量和一致估计量乘估计量仍是无偏估计量和一致估计量如果我们有异方差，那么普通最小二乘估如果我们有异方差，那么普通最小二乘估计值的标准误差是有偏的计值的标准误差是有偏的如果标准误差是有偏的如果标准误差是有偏的, 那么我们不能使那么我们不能使用通常的用通常的t统计量或统计量或F统计量或统计量或LM统
3、计量统计量来得出推断来得出推断4具有异方差性的方差具有异方差性的方差对于简单回归的情形来说，对于简单回归的情形来说，b b1 = b b1+ 因此因此VarVar( (b b1) )= ,其中其中SSTx =(xi - -x)2当当s si2 s s 2时时, VarVar( (b b1) )的一个有效估计量是的一个有效估计量是,其中其中ui是普通最小二乘残差是普通最小二乘残差 (xi -x) ui_(xi -x)2_ (xi -x)2si2_SSTx2_ (xi -x)2ui2_SSTx2 5具有异方差性的方差具有异方差性的方差 (续续)对于一般多元回归模型来说，具有异方差性的对于一般多元回
4、归模型来说，具有异方差性的VarVar( (b b j) )的一个有效估计量是的一个有效估计量是VarVar( (b bj) )= 其中其中rij是将是将xi对所有其他自变量进行回归所得到的第对所有其他自变量进行回归所得到的第i个残差个残差, SSRj是从该回归中得到的残差平方和是从该回归中得到的残差平方和 rij2ui2 SSRj2 6稳健标准误差稳健标准误差既然我们有方差的一个一致性估计值既然我们有方差的一个一致性估计值, 那那么我们能用它的平方根作为用于推断的么我们能用它的平方根作为用于推断的一个标准误差一个标准误差通常通常,我们称这些为稳健标准误差我们称这些为稳健标准误差有时有时,通过
5、乘以通过乘以 n/(n k 1)我们将方差的我们将方差的估计值做自由度的校正估计值做自由度的校正但是但是,当当n 时，时，校正与否是相同的。校正与否是相同的。7稳健标准误差稳健标准误差 (续续)重要的是要记住这些稳健标准误差只有重要的是要记住这些稳健标准误差只有渐近性质，即由稳健标准误差形成的小渐近性质，即由稳健标准误差形成的小样本容量的样本容量的t统计量的分布将不会接近统计量的分布将不会接近t分分布，并且推断将是错误的布，并且推断将是错误的在在Stata中中, 我们通过使用回归的稳健选项我们通过使用回归的稳健选项很容易获得稳健标准误差很容易获得稳健标准误差8一个稳健一个稳健LM统计量统计量运
6、行受约束模型的普通最小二乘法估计运行受约束模型的普通最小二乘法估计,并保存并保存 残差残差u将每一个被排除的变量对所有被包括的变量进将每一个被排除的变量对所有被包括的变量进行回归行回归 (q 个不同的回归个不同的回归)并保存每组的残并保存每组的残 差差r1, r2, , rq将一个被定义为将一个被定义为1的变量对的变量对r1 u, r2 u, , rq u进行进行回归回归, 具有具有零零截距截距LM统计量是统计量是 n SSR1, 其中其中SSR1 是从这个最是从这个最后后 的回归中得到的残差平方和的回归中得到的残差平方和 9检验异方差性检验异方差性我们本来想要检验我们本来想要检验H0:Var
7、(u|x1, x2 ,xk)=s s2, 它等同于它等同于H0: E(u2|x1, x2 , xk) = E(u2) = s s2如果我们假定如果我们假定u2和和xj之间的关系将是线性之间的关系将是线性 的的, 那么我们能把它当作一个线性约束进那么我们能把它当作一个线性约束进 行检验行检验因此因此, 对于对于u2 = d d0 + d d1x1 + d dk xk + v 来来 说说,这意味检验这意味检验H0: d d1 = d d2 = = d dk = 010Breusch-Pagan检验检验 虽然我们无法观测到误差虽然我们无法观测到误差, 但是我们能通过从普通最但是我们能通过从普通最小二
8、乘回归中得到的残差对它进行估计小二乘回归中得到的残差对它进行估计在我们将该残差平方对所有的在我们将该残差平方对所有的 x进行回归后进行回归后, 我们能我们能用用R2来构造一个来构造一个F或或LM 检验检验构造的构造的F统计量只是对回归的整体显著性进行报告统计量只是对回归的整体显著性进行报告的的F统量统量,F = R2/k/(1 R2)/(n k 1), 它服从它服从 Fk, n k - - 1分布分布构造的构造的LM统计量是统计量是LM = nR2, 它服从它服从c c2k分布分布11怀特检验怀特检验Breusch-Pagan检验将发现异方差性的任检验将发现异方差性的任何线性形式何线性形式怀特
9、检验容许通过使用所有怀特检验容许通过使用所有x的平方以及的平方以及x间的交叉乘积而产生的非线性间的交叉乘积而产生的非线性我们仍然仅仅使用一个我们仍然仅仅使用一个F或或LM来检验所来检验所有的有的xj, xj2以及以及xjxh是否都具有联合显著性是否都具有联合显著性这个操作可能是繁琐的这个操作可能是繁琐的12怀特检验的对立形式怀特检验的对立形式我们认为从普通最小二乘法中得到的拟我们认为从普通最小二乘法中得到的拟合值合值是所有是所有 x的一个函数的一个函数因此因此2将是所有将是所有x的平方的平方,x间的交叉乘积间的交叉乘积以及以及的一个函数的一个函数,并且并且2 能代理所有的能代理所有的xj, x
10、j2, 和和xjxh于是于是,将残差平方对将残差平方对和和2进行回归并且使进行回归并且使用用R2来构造一个来构造一个F或或LM统计量统计量注意现在仅检验两个约束注意现在仅检验两个约束13加权最小二乘法加权最小二乘法虽然估计普通最小二乘估计量的稳健标虽然估计普通最小二乘估计量的稳健标准误差总是可能的准误差总是可能的,但是如果我们了解一但是如果我们了解一些关于异方差的明确形式的信息些关于异方差的明确形式的信息, 那么我那么我们就能得到比普通最小二乘估计值更有们就能得到比普通最小二乘估计值更有效的估计值效的估计值该方法的基本思想是将具有异方差的模该方法的基本思想是将具有异方差的模型转化成具有同方差的
11、模型型转化成具有同方差的模型 该方法被该方法被称为加权最小二乘法称为加权最小二乘法14以一种已知的乘积常量形式表以一种已知的乘积常量形式表示的异方差的情形示的异方差的情形假设我们能将异方差用模型表示为假设我们能将异方差用模型表示为 Var(u|x) =s s2h(x),其中令其中令 h(x) hi因为因为hi只是只是x的一个函数的一个函数,所以所以E(ui/hi|x)=0 因为我们知道因为我们知道Var(u|x) = s s2hi, 所以所以Var(ui/hi|x) = s s2因此因此, 如果将整个方程式除以如果将整个方程式除以hi 那么我们就那么我们就有一个误差是同方差的模型有一个误差是同
12、方差的模型15广义最小二乘法广义最小二乘法估计普通最小二乘法的变换方程是广义估计普通最小二乘法的变换方程是广义最小二乘法最小二乘法 (GLS)的一个例子的一个例子 在该情形下在该情形下, 广义最小二乘估计量将是最广义最小二乘估计量将是最优线性无偏估计量优线性无偏估计量广义最小二乘法采用加权最小二乘法广义最小二乘法采用加权最小二乘法 (WLS)的做法的做法,其中每个残差平方的权重其中每个残差平方的权重是是Var(ui|xi)的倒数的倒数 16加权最小二乘法加权最小二乘法尽管我们从直觉上了解对一个已转换的尽管我们从直觉上了解对一个已转换的方程求普通最小二乘估计量是合适的方程求普通最小二乘估计量是合
13、适的, 但但是做这种转换是繁琐的是做这种转换是繁琐的加权最小二乘法是不需要对方程进行转加权最小二乘法是不需要对方程进行转换就能得到相同结果的一种方法换就能得到相同结果的一种方法其思想是最小化加权平方和其思想是最小化加权平方和(权重为权重为 1/hi)17关于加权最小二乘法的更多内容关于加权最小二乘法的更多内容如果我们知道如果我们知道 Var(ui|xi),那么我们就采用那么我们就采用加权最小二乘法加权最小二乘法在大多数情形下在大多数情形下, 我们不知道异方差的形我们不知道异方差的形式式例如例如:如果数据是集合数据如果数据是集合数据, 而模型是个而模型是个体水平体水平,我们对数据该怎么处理我们对
14、数据该怎么处理我们想将每个集合观测值乘以个体编号我们想将每个集合观测值乘以个体编号的倒数的倒数18可行的广义最小二乘估计量可行的广义最小二乘估计量较为典型的情形是我们不知道异方差的较为典型的情形是我们不知道异方差的形式形式在这种情形下在这种情形下, 我们需要估计我们需要估计h(xi)通常通常, 我们以一个相当可行的模型的假定我们以一个相当可行的模型的假定开始开始, 如如 Var(u|x) = s s2exp(d d0 + d d1x1 + + d dkxk) 因为我们不知道因为我们不知道d d, 所以我们必须对它进所以我们必须对它进行估计行估计19可行的广义最小二乘估计量可行的广义最小二乘估计
15、量(续续)我们的假定暗含我们的假定暗含u2 = s s2exp(d d0+d d1x1+ d dkxk)v其中如果其中如果 E(v) = 1,那么那么E(v|x) = 1 ln(u2) = a a0 0 + d d1x1 + + d dkxk + e其中其中 E(e) = 1 并且并且e独立于独立于x现在现在, 我们知道我们知道是是u的一个估计值的一个估计值, 因此我们因此我们能通过普通最小二乘法来估计出能通过普通最小二乘法来估计出20可行的广义最小二乘估计量可行的广义最小二乘估计量(续续)现在现在, 我们获得我们获得h的一个估计值的一个估计值 = exp(), 并且并且它的倒数就是我们的权重
16、它的倒数就是我们的权重 于是于是, 我们该怎样做我们该怎样做? 运行原始的普通最小二乘模型运行原始的普通最小二乘模型, 保存残差保存残差 , 对对他们求平方并取对数他们求平方并取对数将将ln(2)对所有的自变量进行回归对所有的自变量进行回归 并且得到拟并且得到拟合值合值使用使用1/exp()作为权重来进行加权最小二乘法作为权重来进行加权最小二乘法21加权最小二乘法加权最小二乘法当我们用加权最小二乘法来做当我们用加权最小二乘法来做F检验的时候检验的时候, 我们我们要从无约束模型中形成权重并且使用那些权重分要从无约束模型中形成权重并且使用那些权重分别对受约束的模型和无约束模型实行加权最小二别对受约束的模型和无约束模型实行加权最小二乘法乘法 记住我们使用加权最小二乘估计量只是为了有效记住我们使用加权最小二乘估计量只是为了有效性性 普通最小二乘估计量仍然是无偏的和一致的普通最小二乘估计量仍然是无偏的和一致的由于抽样误差的不同由于抽样误差的不同,估计值仍将是不同的估计值仍将是不同的, 但是但是如果估计值的差异很大那么某个高斯如果估计值的差异很大那么某个高斯-马尔科夫假马尔科夫假定不能满足是有可能的定不能满足是有可能的22