《第四章非线回归模型的线性化.ppt》由会员分享,可在线阅读,更多相关《第四章非线回归模型的线性化.ppt(12页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第四章第四章 非线性回归非线性回归模型的线性化模型的线性化 第一节第一节 变量间的非线性关系变量间的非线性关系 在一个线性回归模型中,如果被解释变量既是在一个线性回归模型中,如果被解释变量既是解释变量的线性函数,又是相应参数的线性函数,解释变量的线性函数,又是相应参数的线性函数,则这样的线性回归模型就称为则这样的线性回归模型就称为标准的线性回归模型标准的线性回归模型。也就是说,那些同时满足(解释)也就是说,那些同时满足(解释)变量线性变量线性和和参数参数线性线性的回归模型就是标准的线性回归模型。的回归模型就是标准的线性回归模型。i=1,2,n举例!举例!一、标准的线性回归模型一、标准的线性回归
2、模型 (一一)非标准线性回归模型非标准线性回归模型 在一个非线性回归模型中,如果被解释变量在一个非线性回归模型中,如果被解释变量是未知参数的线性函数,则这样的非线性回归模是未知参数的线性函数,则这样的非线性回归模型就称为型就称为非标准线性回归模型非标准线性回归模型。也就是说,那些。也就是说,那些参数线性参数线性的非线性回归模型就是非标准的非线性回归模型就是非标准线性线性回归回归模型。模型。举例!举例!二、非线性回归模型二、非线性回归模型(二)可线性化的非线性回归模型(二)可线性化的非线性回归模型 在一个非线性回归模型中,虽然被在一个非线性回归模型中,虽然被解释变量既不是解释变量的线性函数,解释
3、变量既不是解释变量的线性函数,又不是未知参数的线性函数,但是可以又不是未知参数的线性函数,但是可以通过适当的变换将其化为标准的线性回通过适当的变换将其化为标准的线性回归模型,则这样的非线性回归模型就称归模型,则这样的非线性回归模型就称为为可线性化的非线性回归模型可线性化的非线性回归模型。举例:举例:C-D生产函数。生产函数。(三)不可线性化的非线性回归模型(三)不可线性化的非线性回归模型 在一个非线性回归模型中,不仅被解在一个非线性回归模型中,不仅被解释变量不是解释变量和未知参数的线性函释变量不是解释变量和未知参数的线性函数,而且不能通过适当的变换将其化为标数,而且不能通过适当的变换将其化为标
4、准的线性回归模型,则这样的非线性回归准的线性回归模型,则这样的非线性回归模型就称为模型就称为不可线性化的非线性回归模型不可线性化的非线性回归模型。举例!举例!第二节第二节 线性化方法线性化方法一、非标准线性回归模型一、非标准线性回归模型:变量直接替换法变量直接替换法 常见的有多项式函数模型、双曲线函数模型多项式函数模型、双曲线函数模型、对对数函数模型和数函数模型和S-型曲线模型等。型曲线模型等。1.1.多项式函数模型多项式函数模型 令令 则原模型可化为线性模型,则原模型可化为线性模型,2.双曲线函数模型双曲线函数模型令令则原模型可化为线性模型,则原模型可化为线性模型,3.对数函数模型4.S-型
5、曲线模型型曲线模型令令令令二、可线性化的非线性回归模型:二、可线性化的非线性回归模型:对数变换法对数变换法 常见的有常见的有指数函数模型和幂函数模型指数函数模型和幂函数模型1.指数函数模型指数函数模型等式两边取自然对数,并进行变量替换即可线性化等式两边取自然对数,并进行变量替换即可线性化2.幂函数模型等式两边取自然对数,并进行变量替换即可线性化等式两边取自然对数,并进行变量替换即可线性化三、不可线性化的非线性回归模型三、不可线性化的非线性回归模型:直接搜索法、直接优化法和直接搜索法、直接优化法和 迭代线性法迭代线性法 1.直接搜索法直接搜索法 这种方法就是将模型的所有可能的参数取值这种方法就是
6、将模型的所有可能的参数取值组合分别代入相应的残差平方和中,选出能够使组合分别代入相应的残差平方和中,选出能够使残差平方和达到最小的那组参数值。残差平方和达到最小的那组参数值。2.直接优化法直接优化法 这种方法是根据残差平方和极消化的必要条这种方法是根据残差平方和极消化的必要条件,将残差平方和分别对各个参数求偏导数并令件,将残差平方和分别对各个参数求偏导数并令它们等于它们等于0,通过求解正规方程组来得到参数的,通过求解正规方程组来得到参数的估计值。估计值。3.迭代线性法迭代线性法 第一步,给出参数的一组可供选择的初始第一步,给出参数的一组可供选择的初始值,并以这些值为基础值,并以这些值为基础对模型中的非线性部分对模型中的非线性部分进行泰勒级数展开进行泰勒级数展开,通过重新组合(一般将二,通过重新组合(一般将二阶或三阶及以上的高阶项合并到随机误差项中)阶或三阶及以上的高阶项合并到随机误差项中)得到原模型中非线性部分的一个线性近似,并得到原模型中非线性部分的一个线性近似,并将这个线性部分替换原模型中的非线性部分,将这个线性部分替换原模型中的非线性部分,得到一个标准的线性回归函数。得到一个标准的线性回归函数。