《数据挖掘基础知识回归分析.pptx》由会员分享，可在线阅读，更多相关《数据挖掘基础知识回归分析.pptx（25页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、本章内容本章内容本章内容本章内容回回回回归归分析的基本原理分析的基本原理分析的基本原理分析的基本原理一元一元一元一元线线性回性回性回性回归归分析分析分析分析多元多元多元多元线线性回性回性回性回归归分析分析分析分析非非非非线线性回性回性回性回归归分析分析分析分析第1页/共25页回归分析的基本原理回归分析的基本原理回归分析的基本原理回归分析的基本原理 所谓回归分析法，利用数理统计方法建立因变量与自变量之间的回归关系函数表达式。对于下表中的数据：利用回归分析方法，得到如下的函数关系式：第2页/共25页一元线性回归分析一元线性回归分析一元线性回归分析一元线性回归分析一元线性回归模型模型参数估计和平均误
2、差估计一元线性回归模型的检验第3页/共25页一元线性回归模型一元线性回归模型一元线性回归模型一元线性回归模型满足一元线性回归的基本条件：1.所有的 的分布的均值都正好在一条直线上，称之为总体的（真实的）回归直线；2.所有的分布都有同样的形状；3.随机变量 是相互独立的；4.给定 X 时 分布的形状是正态的，即 服从正态分布。满足这些条件的回归模型称为一元线性回归模型。根据样本观测值，采用最小二乘法，得到了一条估计的样本回归直线 。第4页/共25页模型参数估计和平均误差估计模型参数估计和平均误差估计模型参数估计和平均误差估计模型参数估计和平均误差估计参数估计：经过最小二乘法计算可得：求出参数a,
3、b以后，就可以得到回归模型:第5页/共25页模型参数估计和平均误差估计模型参数估计和平均误差估计模型参数估计和平均误差估计模型参数估计和平均误差估计平均误差估计：第6页/共25页一元线性回归模型的检验一元线性回归模型的检验一元线性回归模型的检验一元线性回归模型的检验线性方程的显著性检验关于回归系数b的统计推断第7页/共25页一元线性回归模型的检验一元线性回归模型的检验一元线性回归模型的检验一元线性回归模型的检验线性方程的显著性检验的方法有：1.方差分解法 2.相关分析法 3.F检验 4.t检验 5.D-W检验 第8页/共25页一元线性回归模型的检验一元线性回归模型的检验一元线性回归模型的检验一
4、元线性回归模型的检验-方差分解法方差分解法方差分解法方差分解法第9页/共25页一元线性回归模型的检验一元线性回归模型的检验一元线性回归模型的检验一元线性回归模型的检验-相关分析法相关分析法相关分析法相关分析法第10页/共25页一元线性回归模型的检验一元线性回归模型的检验一元线性回归模型的检验一元线性回归模型的检验-F F检验检验检验检验第11页/共25页一元线性回归模型的检验一元线性回归模型的检验一元线性回归模型的检验一元线性回归模型的检验-t t检验检验检验检验第12页/共25页一元线性回归模型的检验一元线性回归模型的检验一元线性回归模型的检验一元线性回归模型的检验-D-WD-W检验检验检验
5、检验第13页/共25页多元线性回归分析多元线性回归分析多元线性回归分析多元线性回归分析l多元线性回归模型l参数估计l多元回归方差分析和显著性检验l多元回归模型的残差分析第14页/共25页多元线性回归模型多元线性回归模型多元线性回归模型多元线性回归模型第15页/共25页参数估计参数估计参数估计参数估计第16页/共25页多元回归方差分析和显著性检验多元回归方差分析和显著性检验多元回归方差分析和显著性检验多元回归方差分析和显著性检验l总离差平方和的分解和多元相关系数 l回归离差平方和与偏相关系数 第17页/共25页总离差平方和的分解和多元相关系数总离差平方和的分解和多元相关系数总离差平方和的分解和多
6、元相关系数总离差平方和的分解和多元相关系数第18页/共25页回归离差平方和与偏相关系数回归离差平方和与偏相关系数第19页/共25页多元回归模型的残差分析多元回归模型的残差分析多元回归模型的残差分析多元回归模型的残差分析在这里我们主要考虑以下几种情形：1.线性与非线性2.共方差与异方差 3.独立与非独立 4.正态与非正态 5.多重共线性 第20页/共25页非线性回归分析非线性回归分析非线性回归分析非线性回归分析l非线性模型l非线性模型的线性化第21页/共25页非线性模型非线性模型非线性模型非线性模型主要的非线性模型有：l抛物线模型l双曲线模型l幂函数模型 l指数函数模型 l对数函数模型 l逻辑曲
7、线模型l多项式模型 第22页/共25页非线性模型非线性模型非线性模型非线性模型l抛物线模型 l双曲线模型 l幂函数模型 l指数函数模型 l对数函数模型 l逻辑曲线模型 l多项式模型 第23页/共25页非线性模型的线性化非线性模型的线性化非线性模型的线性化非线性模型的线性化l倒数变换 倒数变换是用新的变量来替换原模型中变量的倒数，从而使原模型变成线倒数变换是用新的变量来替换原模型中变量的倒数，从而使原模型变成线倒数变换是用新的变量来替换原模型中变量的倒数，从而使原模型变成线倒数变换是用新的变量来替换原模型中变量的倒数，从而使原模型变成线性模型的一种方法。性模型的一种方法。性模型的一种方法。性模型
8、的一种方法。l半对数变换 这种方法主要应用于对数函数模型的线性变换。这种方法主要应用于对数函数模型的线性变换。这种方法主要应用于对数函数模型的线性变换。这种方法主要应用于对数函数模型的线性变换。l双对数变换 这种方法通过用新变量替换原模型中变量的对数，从而使原模型变换为线这种方法通过用新变量替换原模型中变量的对数，从而使原模型变换为线这种方法通过用新变量替换原模型中变量的对数，从而使原模型变换为线这种方法通过用新变量替换原模型中变量的对数，从而使原模型变换为线性模型。性模型。性模型。性模型。l多项式变换 这种方法适用于多项式方程的变换。这种方法适用于多项式方程的变换。这种方法适用于多项式方程的变换。这种方法适用于多项式方程的变换。第24页/共25页感谢您的观看！第25页/共25页