《多元线性回归 》PPT课件.ppt

《《多元线性回归 》PPT课件.ppt》由会员分享，可在线阅读，更多相关《《多元线性回归 》PPT课件.ppt（64页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。

1、Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE计 量量 经 济 学学EconometricsCopyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE第三章第三章 多元线性回归模型多元线性回归模型 3.1 3.1 多元线性回归模型多元线性回归模型 3.2 3.2 多元线性回归模型的参数估计多元线性回归模型的参数估计 3.3 3.3 多元线性回归模型的统计检验多元线性回归模型的统计检验 3.4 3.4 多元线性回归模型的预测多元线性回归模

2、型的预测 3.5 3.5 可线性化的多元非线性回归模型可线性化的多元非线性回归模型 3.6 3.6 受约束回归受约束回归Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE3.1 3.1 多元线性回归模型多元线性回归模型一、模型形式一、模型形式二、基本假定二、基本假定Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE一、模型形式一、模型形式一、模型形式一、模型形式 注意注意：（：（1 1）解释变量）解释变量X X的个数：的个数：k k

3、 回归系数回归系数 j j的个数的个数：k k1 1 （2 2）j j：偏回归系数，表示了：偏回归系数，表示了X Xj j对对Y Y的的净影响净影响 （3 3）X X的第一个下标的第一个下标 j j 区分变量（区分变量（j j1 1，2 2，k k）第二个下标第二个下标 i i 区分观测（区分观测（i i1 1，2 2，nn）Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE 总体回归函数（总体回归函数（总体回归函数（总体回归函数（PRFPRF）样本回归函数（样本回归函数（样本回归函数（样本回归函数（SRFSRF

4、）样本回归模型（样本回归模型（样本回归模型（样本回归模型（SRMSRM）其中：其中：e ei i 称为称为残差残差 (residuals)(residuals)，可看成是随机误差项，可看成是随机误差项 i i的近似替代。的近似替代。Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE2 2 2 2、于是，总体回归模型可以表示为：、于是，总体回归模型可以表示为：、于是，总体回归模型可以表示为：、于是，总体回归模型可以表示为：总体回归模型的矩阵表示总体回归模型的矩阵表示总体回归模型的矩阵表示总体回归模型的矩阵表示1 1

5、 1 1、总体回归模型表示了、总体回归模型表示了、总体回归模型表示了、总体回归模型表示了n n n n个随机方程，引入如下矩阵记号：个随机方程，引入如下矩阵记号：个随机方程，引入如下矩阵记号：个随机方程，引入如下矩阵记号：Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE2 2 2 2、于是，样本回归模型和函数可以表示为：、于是，样本回归模型和函数可以表示为：、于是，样本回归模型和函数可以表示为：、于是，样本回归模型和函数可以表示为：样本回归模型和函数的矩阵表示样本回归模型和函数的矩阵表示样本回归模型和函数的矩阵

6、表示样本回归模型和函数的矩阵表示1 1 1 1、同理，采用如下矩阵记号：、同理，采用如下矩阵记号：、同理，采用如下矩阵记号：、同理，采用如下矩阵记号：Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE二、多元线性回归模型的基本假设二、多元线性回归模型的基本假设二、多元线性回归模型的基本假设二、多元线性回归模型的基本假设假假假假设设设设1 1 1 1：解解解解释释释释变变变变量量量量是是是是非非非非随随随随机机机机的的的的或或或或固固固固定定定定的的的的，且且且且各各各各X X X X之之之之间间间间互互互互不不不

7、不相相相相关关关关（无无无无多多多多重重重重共共共共线线线线性）。性）。性）。性）。假设假设假设假设2 2 2 2：随机误差项：随机误差项：随机误差项：随机误差项 具有零均值、同方差和无序列相关性：具有零均值、同方差和无序列相关性：具有零均值、同方差和无序列相关性：具有零均值、同方差和无序列相关性：E(E(E(E(i i i i)=0 )=0 )=0 )=0 Var(Var(Var(Var(i i i i)=)=)=)=2 2 2 2 i=1,2,i=1,2,i=1,2,i=1,2,N,N,N,N Cov(Cov(Cov(Cov(i,i,i,i,j j j j)=0 ij i,j=1,2,)=

8、0 ij i,j=1,2,)=0 ij i,j=1,2,)=0 ij i,j=1,2,N,N,N,N 假设假设假设假设3 3 3 3：随机误差项：随机误差项：随机误差项：随机误差项 与解释变量与解释变量与解释变量与解释变量X X X X之间不相关：之间不相关：之间不相关：之间不相关：Cov(XCov(XCov(XCov(Xji ji ji ji,i i i i)=0 i=1,2,)=0 i=1,2,)=0 i=1,2,)=0 i=1,2,N,N,N,N 假设假设假设假设4 4 4 4：服从零均值、同方差、零协方差的正态分布服从零均值、同方差、零协方差的正态分布服从零均值、同方差、零协方差的正态

9、分布服从零均值、同方差、零协方差的正态分布 i i i iN(0,N(0,N(0,N(0,2 2 2 2)i=1,2,)i=1,2,)i=1,2,)i=1,2,N,N,N,NCopyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE基本假设的矩阵表示基本假设的矩阵表示基本假设的矩阵表示基本假设的矩阵表示假设假设假设假设1 1 1 1:n n n n (k k k k+1)+1)+1)+1)矩阵矩阵矩阵矩阵X X X X是非随机的，且是非随机的，且是非随机的，且是非随机的，且X X X X的秩的秩的秩的秩 =k k k k

10、+1+1+1+1，即，即，即，即X X X X列满秩列满秩列满秩列满秩。假设假设假设假设2 2 2 2:假设假设假设假设4 4 4 4:向量向量向量向量 有一多维正态分布，即有一多维正态分布，即有一多维正态分布，即有一多维正态分布，即 Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE暗含假设暗含假设暗含假设暗含假设假假设设5 5：样样本本容容量量趋趋于于无无穷穷时时，各各解解释释变变量量的的方方差差趋趋于于有有界界常常数数，即即n n时，时，假设假设假设假设6 6 6 6：回归模型是正确设定的：回归模型是正确设

11、定的：回归模型是正确设定的：回归模型是正确设定的 或或或或其中：其中：其中：其中：QQQQ为一非奇异固定矩阵，矩阵为一非奇异固定矩阵，矩阵为一非奇异固定矩阵，矩阵为一非奇异固定矩阵，矩阵x x x x是由各解释变量的是由各解释变量的是由各解释变量的是由各解释变量的离差离差离差离差为元素组成的为元素组成的为元素组成的为元素组成的n n n n k k k k阶矩阵阶矩阵阶矩阵阶矩阵 Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE3.2 3.2 多元线性回归模型的参数估计多元线性回归模型的参数估计一、普通最小二乘

12、估计一、普通最小二乘估计二、参数估计量的性质二、参数估计量的性质三、样本容量问题三、样本容量问题Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE参数估计的任务和方法参数估计的任务和方法参数估计的任务和方法参数估计的任务和方法1 1、估计目标：回归系数、估计目标：回归系数 j j、随机误差项方差、随机误差项方差 2 22 2、估计方法：、估计方法：OLSOLS、MLML或者或者MMMM*OLS OLS OLS OLS：普通最小二乘估计：普通最小二乘估计：普通最小二乘估计：普通最小二乘估计 *ML ML ML ML

13、：最大似然估计：最大似然估计：最大似然估计：最大似然估计 *MM MM MM MM：矩估计：矩估计：矩估计：矩估计 Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE一、普通最小二乘估计一、普通最小二乘估计基本思想：残差平方和最小基本思想：残差平方和最小基于取得最小值的条件获得系数估计）基于取得最小值的条件获得系数估计）Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE残差平方和残差平方和残差平方和残差平方和：取得最小值的条件：取得

14、最小值的条件：取得最小值的条件：取得最小值的条件：Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE正规方程组正规方程组正规方程组正规方程组：解此（解此（解此（解此（k k k k1 1 1 1）个方程组成的正规方程组，即可求得）个方程组成的正规方程组，即可求得）个方程组成的正规方程组，即可求得）个方程组成的正规方程组，即可求得（k+1)k+1)k+1)k+1)个未知参个未知参个未知参个未知参数数数数 j j j j 的估计的估计的估计的估计 。Copyrightprincebf,2008-2009,YNUFEC

15、opyrightprincebf,2008-2009,YNUFE最小二乘估计的矩阵表示最小二乘估计的矩阵表示最小二乘估计的矩阵表示最小二乘估计的矩阵表示1 1 1 1、正规方程组的矩阵形式、正规方程组的矩阵形式、正规方程组的矩阵形式、正规方程组的矩阵形式2 2 2 2、由于、由于、由于、由于XXXXXXXX满秩满秩满秩满秩(其逆矩阵存在）其逆矩阵存在）其逆矩阵存在）其逆矩阵存在），故有，故有，故有，故有 Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFEOLSEOLSEOLSEOLSE的矩阵估计过程的矩阵估计过程

16、的矩阵估计过程的矩阵估计过程矩阵有关定理矩阵有关定理矩阵有关定理矩阵有关定理残差平方和的矩阵表示为：残差平方和的矩阵表示为：残差平方和的矩阵表示为：残差平方和的矩阵表示为：Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE#参数估计的实例参数估计的实例参数估计的实例参数估计的实例例：例：例：例：在例的在例的在例的在例的家庭收入家庭收入家庭收入家庭收入-消费支出消费支出消费支出消费支出例中，例中，例中，例中，Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,200

17、8-2009,YNUFE误差方差误差方差误差方差误差方差 2 2 2 2的估计的估计的估计的估计1 1 1 1、基于、基于、基于、基于OLSOLSOLSOLS下，随机误差项下，随机误差项下，随机误差项下，随机误差项 的方差的的方差的的方差的的方差的无偏估计量无偏估计量无偏估计量无偏估计量为为为为 注意注意注意注意：分母的形式：分母的形式：分母的形式：分母的形式：n-k-1=n-(k+1)n-k-1=n-(k+1)n-k-1=n-(k+1)n-k-1=n-(k+1)。k k k k：解释变量解释变量解释变量解释变量X X X X的个数；的个数；的个数；的个数；k+1 k+1 k+1 k+1：回归

18、系数的个数回归系数的个数回归系数的个数回归系数的个数2 2 2 2、称为称为称为称为估计标准误估计标准误估计标准误估计标准误或者或者或者或者回归标准误回归标准误回归标准误回归标准误（S.E of regressionS.E of regressionS.E of regressionS.E of regression）Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE*最大似然估计最大似然估计最大似然估计最大似然估计*（Maximum Likelihood EstimateMaximum Likelihood E

19、stimateMaximum Likelihood EstimateMaximum Likelihood Estimate）1 1、基本原理基本原理：样本观测值出现的：样本观测值出现的概率最大概率最大。2 2、似然函数似然函数：3 3、最大似然估计最大似然估计MLEMLE：参数的参数的参数的参数的MLEMLEMLEMLE与参数的与参数的与参数的与参数的OLSEOLSEOLSEOLSE相同相同相同相同Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE*矩估计矩估计矩估计矩估计*（Moment MethodMomen

20、t MethodMoment MethodMoment Method，MMMMMMMM）1 1、OLSOLS估计是通过得到一个关于参数估计值的估计是通过得到一个关于参数估计值的正规方程组正规方程组并对它进行求解而完成的。并对它进行求解而完成的。2 2 2 2、该、该、该、该正规方程组正规方程组正规方程组正规方程组可以从另外一种思路来导出可以从另外一种思路来导出可以从另外一种思路来导出可以从另外一种思路来导出:两侧求期望两侧求期望两侧求期望两侧求期望:矩条件矩条件矩条件矩条件Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,

21、YNUFE*矩条件和矩估计量矩条件和矩估计量矩条件和矩估计量矩条件和矩估计量*3 3 3 3、由此得到、由此得到、由此得到、由此得到正规方程组正规方程组正规方程组正规方程组：解此正规方程组即得参数的解此正规方程组即得参数的解此正规方程组即得参数的解此正规方程组即得参数的MMMMMMMM估计量估计量估计量估计量。1 1 1 1、称为原总体回归方程的一组称为原总体回归方程的一组称为原总体回归方程的一组称为原总体回归方程的一组矩条件矩条件矩条件矩条件，表明了，表明了，表明了，表明了原总体回归方程所具有的内在特征。原总体回归方程所具有的内在特征。原总体回归方程所具有的内在特征。原总体回归方程所具有的内

22、在特征。2 2 2 2、如果随机抽出原总体的一个样本，估计出的样本回归方程：、如果随机抽出原总体的一个样本，估计出的样本回归方程：、如果随机抽出原总体的一个样本，估计出的样本回归方程：、如果随机抽出原总体的一个样本，估计出的样本回归方程：能够近似代表总体回归方程的话，则应成立：能够近似代表总体回归方程的话，则应成立：能够近似代表总体回归方程的话，则应成立：能够近似代表总体回归方程的话，则应成立：MMMMMMMM估计量与估计量与估计量与估计量与OLSOLSOLSOLS、MLMLMLML估计量等价。估计量等价。估计量等价。估计量等价。Copyrightprincebf,2008-2009,YNUF

23、ECopyrightprincebf,2008-2009,YNUFE*关于矩估计关于矩估计关于矩估计关于矩估计*矩方法是工具变量方法矩方法是工具变量方法矩方法是工具变量方法矩方法是工具变量方法(Instrumental Variables,IV)(Instrumental Variables,IV)(Instrumental Variables,IV)(Instrumental Variables,IV)和广义矩估计方和广义矩估计方和广义矩估计方和广义矩估计方法法法法(Generalized Moment Method,GMM)(Generalized Moment Method,GMM)(G

24、eneralized Moment Method,GMM)(Generalized Moment Method,GMM)的基础的基础的基础的基础 在矩方法中关键是利用了：在矩方法中关键是利用了：在矩方法中关键是利用了：在矩方法中关键是利用了：E(E(E(E(XXXX )=0)=0)=0)=0 如果某个解释变量与随机项相关，只要能找到如果某个解释变量与随机项相关，只要能找到如果某个解释变量与随机项相关，只要能找到如果某个解释变量与随机项相关，只要能找到1 1 1 1个工具变量，仍然个工具变量，仍然个工具变量，仍然个工具变量，仍然可以构成一组矩条件。这就是可以构成一组矩条件。这就是可以构成一组矩条

25、件。这就是可以构成一组矩条件。这就是IVIVIVIV。如果存在如果存在如果存在如果存在k+k+k+k+1 1 1 1个变量与随机项不相关，可以构成一组包含个变量与随机项不相关，可以构成一组包含个变量与随机项不相关，可以构成一组包含个变量与随机项不相关，可以构成一组包含k+k+k+k+1 1 1 1方程的矩条件。这就是方程的矩条件。这就是方程的矩条件。这就是方程的矩条件。这就是GMMGMMGMMGMM。OLSOLSOLSOLS只是只是只是只是GMMGMMGMMGMM的一个特例的一个特例的一个特例的一个特例Copyrightprincebf,2008-2009,YNUFECopyrightprin

26、cebf,2008-2009,YNUFE二、最小二乘估计量的性质二、最小二乘估计量的性质高斯高斯马尔可夫定理马尔可夫定理(Gauss-Markov theorem):(Gauss-Markov theorem):在在给给定定经经典典线线性性回回归归的的假假定定下下，最最小小二二乘乘估估计计量量是是具具有有最最小小方方差差的的线线性性无无偏偏估估计计量量，即即最最佳佳线线性性无无偏偏估估计计量量（BLUEBLUE）。）。Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE1 1 1 1、线性：、线性：、线性：、线性：

27、其中其中其中其中,C=(XX)C=(XX)C=(XX)C=(XX)-1-1-1-1 X X X X 为一仅与固定的为一仅与固定的为一仅与固定的为一仅与固定的X X X X有关的行向量有关的行向量有关的行向量有关的行向量 2 2 2 2、无偏性、无偏性、无偏性、无偏性:这里利用了假设这里利用了假设这里利用了假设这里利用了假设:E(E(E(E(XXXX )=0)=0)=0)=0Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE3 3 3 3、有效性、有效性、有效性、有效性:其中利用了其中利用了其中利用了其中利用了:C

28、opyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE参数估计量的概率分布参数估计量的概率分布参数估计量的概率分布参数估计量的概率分布1 1 1 1、由参数估计量的上述性质和基本假设，易知：、由参数估计量的上述性质和基本假设，易知：、由参数估计量的上述性质和基本假设，易知：、由参数估计量的上述性质和基本假设，易知：线性性基本假设线性性基本假设线性性基本假设线性性基本假设 正态分布正态分布正态分布正态分布 无偏性无偏性无偏性无偏性 期望为期望为期望为期望为 有效性的证明有效性的证明有效性的证明有效性的证明 方差表达式方差

29、表达式方差表达式方差表达式2 2 2 2、记、记、记、记 C=(XX)C=(XX)C=(XX)C=(XX)-1-1-1-1 的第的第的第的第 j j j j 个主对角元素为个主对角元素为个主对角元素为个主对角元素为 C C C Cjj jj jj jj（j=0,1,k)j=0,1,k)j=0,1,k)j=0,1,k)，则：，则：，则：，则：Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE三、样本容量问题三、样本容量问题最小样本容量最小样本容量满足基本要求的样本容量满足基本要求的样本容量Copyrightprin

30、cebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE1 1 1 1、最小样本容量、最小样本容量、最小样本容量、最小样本容量所谓所谓“最小样本容量最小样本容量”，即从最小二乘原理和最大或然原理出发，即从最小二乘原理和最大或然原理出发，欲得到参数估计量，不管其质量如何，所要求的样本容量的下限。欲得到参数估计量，不管其质量如何，所要求的样本容量的下限。样本最小容量必须样本最小容量必须不少于模型中解释变量的数目不少于模型中解释变量的数目（包括常数项）（包括常数项）,即：即：n n k k+1+1因为，无多重共线性要求：因为，无多重共线性要求：秩秩(

31、X)=(X)=k k+1+1Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE2 2 2 2、基本样本容量、基本样本容量、基本样本容量、基本样本容量 从统计检验的角度：从统计检验的角度：从统计检验的角度：从统计检验的角度：n n n n 30303030 时，时，时，时，Z Z Z Z检验才能应用；检验才能应用；检验才能应用；检验才能应用；n-n-n-n-k k k k 8 8 8 8时时时时,t,t,t,t分布较为稳定分布较为稳定分布较为稳定分布较为稳定 一般经验认为一般经验认为一般经验认为一般经验认为:当当当

32、当n n n n 30303030或者至少或者至少或者至少或者至少n n n n 3(3(3(3(k k k k+1)+1)+1)+1)时，才能说满足模型估计的基本要求。时，才能说满足模型估计的基本要求。时，才能说满足模型估计的基本要求。时，才能说满足模型估计的基本要求。模型的良好性质只有在大样本下才能得到理论上的证明模型的良好性质只有在大样本下才能得到理论上的证明模型的良好性质只有在大样本下才能得到理论上的证明模型的良好性质只有在大样本下才能得到理论上的证明Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE3.

33、3 3.3 多元线性回归模型的统计检验多元线性回归模型的统计检验一、拟合优度检验一、拟合优度检验二、方程显著性检验二、方程显著性检验三、变量显著性检验三、变量显著性检验Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE一、拟合优度检验一、拟合优度检验 目的：测定样本回归函数对样本观测值的拟合紧密程度目的：测定样本回归函数对样本观测值的拟合紧密程度 指标：指标：R2、Adj(R2)Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE可决

34、系数可决系数可决系数可决系数R R R R2 2 2 2(coefficient of determination)(coefficient of determination)(coefficient of determination)(coefficient of determination)0R0R0R0R2 2 2 21111，该统计量越接近于，该统计量越接近于，该统计量越接近于，该统计量越接近于1 1 1 1，模型的拟合优度越高。，模型的拟合优度越高。，模型的拟合优度越高。，模型的拟合优度越高。1 1、定义：、定义：2 2 2 2、问题：、问题：、问题：、问题：在模型中增加一个解释变量

35、，在模型中增加一个解释变量，在模型中增加一个解释变量，在模型中增加一个解释变量，R R R R2 2 2 2往往增大往往增大往往增大往往增大 但是：但是：但是：但是：增加解释变量个数往往得不偿失，增加解释变量个数往往得不偿失，增加解释变量个数往往得不偿失，增加解释变量个数往往得不偿失，不重要的变量不应引入。不重要的变量不应引入。不重要的变量不应引入。不重要的变量不应引入。增加解释变量使得估计参数增加，从而自由度减小。如果引入的变量对减增加解释变量使得估计参数增加，从而自由度减小。如果引入的变量对减增加解释变量使得估计参数增加，从而自由度减小。如果引入的变量对减增加解释变量使得估计参数增加，从而

36、自由度减小。如果引入的变量对减少残差平方和的作用很小，这将导致误差方差少残差平方和的作用很小，这将导致误差方差少残差平方和的作用很小，这将导致误差方差少残差平方和的作用很小，这将导致误差方差 2 2 2 2的增大，引起模型精度的降的增大，引起模型精度的降的增大，引起模型精度的降的增大，引起模型精度的降低。低。低。低。因此：因此：因此：因此：R R R R2 2 2 2需调整需调整需调整需调整。Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE 调整的可决系数调整的可决系数调整的可决系数调整的可决系数Adj(Adj

37、(Adj(Adj(R R R R2 2 2 2)（adjusted coefficient of determinationadjusted coefficient of determinationadjusted coefficient of determinationadjusted coefficient of determination）1 1 1 1、调整思路、调整思路、调整思路、调整思路:将残差平方和与总离差平方和分别除以各自的自由度，以将残差平方和与总离差平方和分别除以各自的自由度，以将残差平方和与总离差平方和分别除以各自的自由度，以将残差平方和与总离差平方和分别除以各自的自由度

38、，以剔除变量个数对拟合优度的影响。剔除变量个数对拟合优度的影响。剔除变量个数对拟合优度的影响。剔除变量个数对拟合优度的影响。2 2 2 2、自由度：统计量可自由变化的样本观测值的个数，记为、自由度：统计量可自由变化的样本观测值的个数，记为、自由度：统计量可自由变化的样本观测值的个数，记为、自由度：统计量可自由变化的样本观测值的个数，记为dfdfdfdfTSSTSSTSSTSS：dfdfdfdfn n n n1 1 1 1ESSESSESSESS：dfdfdfdf k k k kRSSRSSRSSRSS：dfdfdfdf n n n nk k k k1 1 1 1注意：注意：注意：注意：dfdf

39、dfdf（TSS)=df(ESS)+df(RSS)TSS)=df(ESS)+df(RSS)TSS)=df(ESS)+df(RSS)TSS)=df(ESS)+df(RSS)3 3 3 3、定义：、定义：、定义：、定义：Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE#Adj(#Adj(#Adj(#Adj(R R R R2 2 2 2)的作用的作用的作用的作用1 1 1 1、消除拟合优度评价中解释变量的多少对拟合优度的影响、消除拟合优度评价中解释变量的多少对拟合优度的影响、消除拟合优度评价中解释变量的多少对拟合优度

40、的影响、消除拟合优度评价中解释变量的多少对拟合优度的影响2 2 2 2、对于、对于、对于、对于因变量因变量因变量因变量Y Y Y Y相同，而自变量相同，而自变量相同，而自变量相同，而自变量X X X X个数不同个数不同个数不同个数不同的模型，的模型，的模型，的模型，不能用不能用不能用不能用R R R R2 2 2 2直接比较直接比较直接比较直接比较拟合优度，而应拟合优度，而应拟合优度，而应拟合优度，而应使用使用使用使用AdjAdjAdjAdj（R R R R2 2 2 2）。3 3 3 3、可以通过、可以通过、可以通过、可以通过AdjAdjAdjAdj（R R R R2 2 2 2）的增加变化

41、，决定是否引入一个新的解释变量。的增加变化，决定是否引入一个新的解释变量。的增加变化，决定是否引入一个新的解释变量。的增加变化，决定是否引入一个新的解释变量。AdjAdjAdjAdj（R R R R2 2 2 2）=R=R=R 均值均值均值均值x0 0yx x预测上限置信上限预测下限置信下限Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE回归分析的预测实例：回归分析的预测实例：回归分析的预测实例：回归分析的预测实例：中国居民人均收入中国居民人均收入中国居民人均收入中国居民人均收入-消费支出二元模型例中：消费支出

42、二元模型例中：消费支出二元模型例中：消费支出二元模型例中：2001200120012001年人均年人均年人均年人均GDPGDPGDPGDP：4033.14033.14033.14033.1元元元元于是人均居民消费的预测值为于是人均居民消费的预测值为于是人均居民消费的预测值为于是人均居民消费的预测值为 2001200120012001=120.7+0.22134033.1+0.45151690.8=1776.8=120.7+0.22134033.1+0.45151690.8=1776.8=120.7+0.22134033.1+0.45151690.8=1776.8=120.7+0.2213403

43、3.1+0.45151690.8=1776.8（元）（元）（元）（元）实测值（实测值（实测值（实测值（90909090年价）年价）年价）年价）=1782.2=1782.2=1782.2=1782.2元，相对误差：元，相对误差：元，相对误差：元，相对误差：-0.31%-0.31%-0.31%-0.31%预测的置信区间预测的置信区间预测的置信区间预测的置信区间 ：E(E(E(E(2001200120012001）的）的）的）的95%95%95%95%的置信区间为的置信区间为的置信区间为的置信区间为:（1741.81741.81741.81741.8，1811.71811.71811.71811.7

44、）2001200120012001的的的的95%95%95%95%的置信区间为的置信区间为的置信区间为的置信区间为:（1711.1,1842.41711.1,1842.41711.1,1842.41711.1,1842.4）Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE3.5 3.5 可线性化的多元非线性回归模型可线性化的多元非线性回归模型 线性模型的本质含义线性模型的本质含义 解释变量的非线性解释变量的非线性变量代换法变量代换法 回归参数的非线性回归参数的非线性函数变换法函数变换法Copyrightprin

45、cebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE实际中的非线性模型实际中的非线性模型实际中的非线性模型实际中的非线性模型1 1 1 1、恩格尔曲线恩格尔曲线恩格尔曲线恩格尔曲线(Engle curves)(Engle curves)(Engle curves)(Engle curves)：消费者的收入与某类商品需求量之间的函数：消费者的收入与某类商品需求量之间的函数关系。关系。幂函数幂函数Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE2 2 2 2、菲

46、利普斯曲线（菲利普斯曲线（菲利普斯曲线（菲利普斯曲线（Pillips cuvesPillips cuvesPillips cuvesPillips cuves）：通货膨胀率（货币工资率）与失业率之：通货膨胀率（货币工资率）与失业率之间的关系。间的关系。双曲线函数双曲线函数Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE线性模型的本质含义线性模型的本质含义线性模型的本质含义线性模型的本质含义1 1 1 1、被解释变量、被解释变量、被解释变量、被解释变量Y Y Y Y与解释变量与解释变量与解释变量与解释变量X X

47、X X之间为线性关系之间为线性关系之间为线性关系之间为线性关系2 2 2 2、被解释变量、被解释变量、被解释变量、被解释变量Y Y Y Y与参数与参数与参数与参数 之间为线性关系之间为线性关系之间为线性关系之间为线性关系3 3 3 3、更重要的在于后者、更重要的在于后者、更重要的在于后者、更重要的在于后者Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE 例如：例如：例如：例如：拉弗曲线：拉弗曲线：拉弗曲线：拉弗曲线：描述税收与税率关系描述税收与税率关系描述税收与税率关系描述税收与税率关系 S=a+b R+cR

48、S=a+b R+cR S=a+b R+cR S=a+b R+cR2 2 2 2 c0 c0 c0 c0 （抛物线）（抛物线）（抛物线）（抛物线）令：令：令：令：X X X X1 1 1 1=r=r=r=r，X X X X2 2 2 2=r=r=r=r2 2 2 2，则原方程变换为：则原方程变换为：则原方程变换为：则原方程变换为：S=a+b XS=a+b XS=a+b XS=a+b X1 1 1 1+c X+c X+c X+c X2 2 2 2 c0 c0 c0 c0 1 1 1 1、解释变量的非线性问题、解释变量的非线性问题、解释变量的非线性问题、解释变量的非线性问题变量代换变量代换变量代换变

49、量代换 适用于倒数模型、多项式模型等适用于倒数模型、多项式模型等Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE 例如：例如：例如：例如：Cobb-DauglasCobb-DauglasCobb-DauglasCobb-Dauglas生产函数生产函数生产函数生产函数：Q=AK Q=AK Q=AK Q=AK L L L L （幂函数）（幂函数）（幂函数）（幂函数）方程两边取对数：方程两边取对数：方程两边取对数：方程两边取对数：ln Q=ln A+ln Q=ln A+ln Q=ln A+ln Q=ln A+ln K

50、+ln K+ln K+ln K+ln L ln L ln L ln L 令：令：令：令：Q*=lnQQ*=lnQQ*=lnQQ*=lnQ，0 0 0 0lnAlnAlnAlnA，K*=lnKK*=lnKK*=lnKK*=lnK，L*=lnLL*=lnLL*=lnLL*=lnL 则：则：则：则：Q*=Q*=Q*=Q*=0 0 0 0 K*K*K*K*L*L*L*L*2 2 2 2、回归参数的非线性问题、回归参数的非线性问题、回归参数的非线性问题、回归参数的非线性问题函数变换函数变换函数变换函数变换 适用于幂函数、指数函数模型等适用于幂函数、指数函数模型等Copyrightprincebf,200