《第14章 非线性回归模型优秀PPT.ppt》由会员分享，可在线阅读，更多相关《第14章 非线性回归模型优秀PPT.ppt（22页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第14章 非线性回归模型现在学习的是第1页，共22页14.1本质上的线性和非线性回归模型模型可以线性于参数，也可以线性于变量。一开始讨论线性回归模型的时候，我们陈述过本书所关心的基本上是线性于参数的模型。如果一个模型非线性于参数，那么它就是非线性回归模型。然而，这里必须小心，有些模型可能看起来非线性于参数，但是通过合适的变换它们可以变成线性于参数的回归模型。现在学习的是第2页，共22页如果此类模型不能线性化于参数，则它们就被称作为本质非线性回归模型。简单起见，我们把它称为“NLRM”。柯布-道格拉斯(C-D)生产函数是本质线性的。(14.1.2)问题：函数 是不是本质线性的？现在学习的是第3页
2、，共22页答案:所以这个模型本质上是线性的。现在学习的是第4页，共22页问题：常替代弹性（CES）生产函数是不是本质线性的？(14.1.5)Y -产出 K -资本投入 L -劳动投入 A -规模参数 -分布函数 (0 1)-替代参数 ()答案：此模型本质上非线性现在学习的是第5页，共22页14.2线性和非线性回归模型的估计考虑以下的模型：(14.2.2)回归(14.2.2)被称为指数回归模型。我们利用OLS方法得到正规方程：(14.2.4)(14.2.5)现在学习的是第6页，共22页应用于一个非线性回归模型的OLS方法被称为非线性最小二乘法（NLLS）。然而，由上述正规方程不能得出未知量的显示
3、解。因为方程的左侧和右侧都有未知量。现在学习的是第7页，共22页14.3 估估计计非非线线性回性回归归模型：模型：试错试错法法为了做好准备，让我们来考虑一个具体例子。数据：P567 表14.1和图14.1根据图14.1，假定 则可以把（14.2.2）写成 (14.3.1)因此，(14.3.2)现在学习的是第8页，共22页根据给定的数值，我们得到:如果我们选择其他数值重复刚才拟定的程序，我们发现现在将得到：现在学习的是第9页，共22页这种方法被称为试错法。可见，如果我们假定一组值，相应地就可以得到一个 值。如果你有无限的时间和耐心，最终一定可以得出使 最小的 和 的值。现在学习的是第10页，共2
4、2页14.4 估估计计非非线线性回性回归归模型的方法模型的方法1.直接搜索或试错法或不用求导的方法 这是在14.3中提到过的方法。缺陷：a.如果回归元太多，计算会很复杂。b.可以得到局部最小值，但不一定是绝对最小值。2.直接最优化 通过直接运用OLS方法，可以得到正规方程(14.2.4)和(14.2.5)，然后运用最速下降法来解出参数值。现在学习的是第11页，共22页3.迭代线性化方法迭代线性化方法首先，在参数初始值附近线性化一个非线性方程。其次，用OLS方法估计线性化了的方程，并调整参数初始值。第三，用经过高速的参数值重新线性化该模型，再次用OLS方法估计，得出新的参数估计值。继续重复上述过
5、程，直到两次估计结果无实质变化。现在学习的是第12页，共22页泰勒定理(Taylors theorem,or Taylor series expansion)：R代表高阶无穷小。多项式的次数越高，近似值就越接近初始函数。现在学习的是第13页，共22页问：如何在x=0附近得到 的近似值？因此我们得到：一阶近似：答：现在学习的是第14页，共22页二阶近似：三阶近似：现在学习的是第15页，共22页问：如何在x=a,z=b处展开Y=f(x,z)？答：现在学习的是第16页，共22页14 A.3 方程方程(14.2.2)的线性化的线性化 (1)在 和 处线性化于是我们有:现在学习的是第17页，共22页选取初始值：代入上式得：.(4)现在学习的是第18页，共22页(4)亦可写作：.(5)其中：现在学习的是第19页，共22页令于是可将(5)写作：现在学习的是第20页，共22页模型转化为 -这就是线性化的回归模型通过OLS 方法可得 和 ，并且 由(6)可得 .(8)现在学习的是第21页，共22页通过 可重复以上步骤直至收敛，即最后所得的两个均值极为靠近。（见李子奈 8.2）现在学习的是第22页，共22页