《线性平稳时间序列分析精品文稿.ppt》由会员分享，可在线阅读，更多相关《线性平稳时间序列分析精品文稿.ppt（75页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、线性平稳时间序列分析第1页，本讲稿共75页本章结构n线性过程n自回归过程 AR(p)n移动平均过程 MA(q)n自回归移动平均过程 ARMA(p，q)n自相关系数和偏自相关系数第2页，本讲稿共75页线性平稳时间序列分析 n在时间序列的统计分析中，平稳序列是一类重要的随机序列。在这方面已经有了比较成熟的理论知识，最常用的是ARMA(Autoregressive Moving Average)模型。n用ARMA模型去近似地描述动态数据在实际应用中有许多优点，例如它是线性模型，只要给出少量参数就可完全确定模型形式；另外，便于分析数据的结构和内在性质，也便于在最小方差意义下进行最佳预测和控制。第3页，
2、本讲稿共75页线性过程 n方法性工具 这些工具会使得时间序列模型表达和分析更为简洁和方便。n延迟算子n线性差分方程第4页，本讲稿共75页延迟算子n定义：设B为一步延迟算子，如果当前序列乘以一个延迟算子，就表示把当前序列值的时间向过去拨一个时刻，即 BXt=Xt-1。n性质：第5页，本讲稿共75页线性差分方程 n线性差分方程n齐次线性差分方程第6页，本讲稿共75页齐次线性差分方程的解n特征方程n特征方程的根称为特征根，记作n齐次线性差分方程的通解n不相等实数根场合n有相等实根场合n复根场合第7页，本讲稿共75页非齐次线性差分方程的解 n非齐次线性差分方程的特解n使得非齐次线性差分方程成立的任意一
3、个解n非齐次线性差分方程的通解 ztn齐次线性差分方程的通解 和非齐次线性差分方程的特解 之和第8页，本讲稿共75页一阶差分方程 P33n用递归替代法解差分方程：假设已知y-1和的各期值n动态乘子 n动态乘子为输入对输出yt的影响，依赖于j，即输入t和输出yt+j观察值之间的时间间隔。n当参数取不同的值，系统最后的状态也不同。第9页，本讲稿共75页一阶差分方程 P33n动态乘子(动态乘子为输入对输出yt的影响)n当01，动态乘子按几何方式衰减到零；当-11，动态乘子指数增加；当-1，动态乘子发散性振荡；n当1，动态系统发散；当=1，输入变量将对系统产生持久性影响。第10页，本讲稿共75页线性过
4、程n定义：Xt称为线性过程，若 ，其中 t是白噪声序列，系数序列Gj满足 。n系统是因果性的：若系数序列Gj满足Gj=0,j0，即n定理3.1：线性过程肯定是平稳过程，且是均方收敛的。第11页，本讲稿共75页线性过程的因果性n在应用时间序列分析去解决实际问题时，所使用的线性过程是因果性的，即：n用延迟算子表示：条件：第12页，本讲稿共75页线性过程的逆转形式n用t时刻及其以前时刻的Xt-j(j=0,1,)来表示白噪声t，即：为Xt的逆转形式其中 称为逆函数。n例：Xt=t-0.1t-1 是因果的，可逆的 第13页，本讲稿共75页ARMA模型nAR模型(Auto Regression Model
5、)nMA模型(Moving Average Model)nARMA模型(Auto Regression Moving Average Model)第14页，本讲稿共75页AR(p)模型：p 阶自回归模型第15页，本讲稿共75页 AR(1)模型的背景 n如果时间序列是独立的，没有任何依赖关系，这样的资料所揭示的统计规律就是事物独立的随机变动，系统无记忆能力。如果情况不是这样，资料之间有一定的依存性，那么最简单的关系就是后一时刻的行为主要与其前一时刻的行为有关，而与其前一时刻以前的行为无直接关系，即已知Xt-1，Xt主要与Xt-1相关。用记忆性来说，就是最短的记忆，即一期记忆，也就是一阶动态性。第
6、16页，本讲稿共75页AR(1)模型：一阶自回归模型n描述这种关系的数学模型就是一阶自回归模型，简记为AR(1)，即 其中Xt为零均值(即中心化处理后的)平稳序列。1为Xt对Xt-1的依赖程度,t为随机扰动，一般为零均值的白噪声序列。第17页，本讲稿共75页 AR(1)的中心化变换n一般情形：此时n中心化：令Yt=Xt-，Yt即为Xt的中心化序列，此时有第18页，本讲稿共75页AR模型平稳性的判别 n判别原因nAR模型是常用的平稳序列的拟合模型之一，但并非所有的AR模型都是平稳的。n判别方法n特征根判别法第19页，本讲稿共75页AR(1)模型的平稳性条件n平稳条件：对应齐次差分方程的特征根在单
7、位圆内n特征方程：n特征根:AR(1)模型平稳平稳域第20页，本讲稿共75页考察下列模型的平稳性：序列的期望和方差如何求？第21页，本讲稿共75页AR(2)模型：二阶自回归模型n对于自回归模型来说，当Xt不仅与前期Xt-1有关，而且与Xt-2相关时，AR(1)模型就不再适用了。这时就需要用AR(2)模型。n中心化的AR(2)模型：n非中心化的AR(2)模型：其中t为随机扰动，一般为零均值的白噪声序列。第22页，本讲稿共75页AR(2)模型的平稳性条件n平稳条件：对应齐次差分方程的特征根在单位圆内n特征方程：n特征根:AR(2)模型平稳第23页，本讲稿共75页AR(2)模型的平稳性条件n平稳域n
8、AR(2)平稳性判别：n特征根n平稳域第24页，本讲稿共75页考察下列模型的平稳性：序列的期望和方差如何求？第25页，本讲稿共75页AR(p)模型：一般自回归模型n中心化的AR(p)模型：n非中心化的AR(p)模型：说明当前期的随机扰动与过去的序列值无关第26页，本讲稿共75页AR(p)的自回归系数多项式n引进延迟算子，中心化的AR(p)模型又可以简记为 n自回归系数多项式n对应齐次差分方程的特征多项式其根互为倒数第27页，本讲稿共75页AR模型平稳性判别方法n特征根判别nAR(p)模型平稳的充要条件是它的p个特征根都在单位圆内n根据特征根和自回归系数多项式的根成倒数的性质，等价判别条件是该模
9、型的自回归系数多项式的根都在单位圆外第28页，本讲稿共75页MA(q)模型：q阶移动平均模型第29页，本讲稿共75页MA模型：Moving Average ModelnAR模型：是系统在t时刻的响应Xt仅与其以前时刻的响应Xt-j有关，而与其以前时刻进入系统的扰动t-j无关。nMA模型：如果一个系统在t时刻的响应Xt，与其以前时刻的响应Xt-j无关，而与其以前时刻 进入系统的扰动t-j存在着一定的相关关系，这时需要建立的是MA模型。第30页，本讲稿共75页 MA(1)模型：一阶移动平均模型 n如果一个系统在t时刻的响应Xt仅与其前一时刻进入系统的扰动t-1存在着一定的相关关系，描述这种关系的数
10、学模型就是一阶移动平均模型，记作MA(1)，即 为常数，是序列均值；t为零均值的白噪声序列；为移动平均系数。第31页，本讲稿共75页n非中心化的MA(q)模型：n引进延迟算子，MA(q)模型又可以简记为：nq阶移动平均系数多项式：MA(q)模型：q阶移动平均模型 第32页，本讲稿共75页MA(q)模型的统计性质n常数均值：模型两边求期望可得n常数方差：【注】MA(q)模型一定为平稳模型。第33页，本讲稿共75页MA(q)模型的可逆性n可逆MA模型定义n若一个MA模型能够表示成无穷阶的自回归模型，则称该MA模型称为可逆的。n例：第34页，本讲稿共75页ARMA模型自回归移动平均模型Autoreg
11、ressive-Moving Average Model第35页，本讲稿共75页ARMA模型的背景n一个系统，如果它在t时刻的响应 Xt 不仅与其以前时刻的响应有关，而且还与其以前时刻进入系统的扰动存在着一定的相关关系，那么这个系统就是自回归移动平均系统，相应的模型记作ARMA模型。n在此模型下，一个影响系统的扰动t 被“牢记”一定时期，从而影响系统的后继行为。正是系统的这种动态性，引起了时间序列中的依存关系，从而决定了序列中的依存关系不能用普通静态回归模型来描述，而只能用ARMA模型。第36页，本讲稿共75页ARMA(p,q)模型n非中心化的ARMA(p,q)模型：其中i为自回归系数，i为移
12、动平均系数。n中心化的ARMA(p,q)模型第37页，本讲稿共75页ARMA(p,q)模型的系数多项式n引进延迟算子，ARMA(p,q)模型又可以简记为：np阶自回归系数多项式：nq阶移动平均系数多项式：第38页，本讲稿共75页AR、MA和ARMA之间的关系n ARMA(p,q)模型：n当p=0时，ARMA(p,q)模型就退化为MA(q)模型；n当q=0时，ARMA(p,q)模型就退化为AR(p)模型；nAR(p)模型和MA(q)模型实际上是ARMA(p,q)模型的特例，它们统称为 ARMA(p,q)模型；nARMA(p,q)模型的性质也正是AR(p)模型和MA(q)模型性质的有机组合。第39
13、页，本讲稿共75页ARMA平稳域与可逆域的定义n平稳域 i：(B)=0的根都在单位圆外n可逆域 j：(B)=0的根都在单位圆外n平稳可逆域i,j：(B)=0和(B)=0的根都在单位圆外第40页，本讲稿共75页平稳与可逆性的说明nARMA(p,q)模型的平稳条件n(B)=0的根都在单位圆外，完全由其自回归部分的平稳性决定n如果系统具有平稳性，说明系统对某一时刻进入的扰动的记忆逐渐衰减，时间越远，它的影响作用越小，逐渐被完全忘掉。nARMA(p,q)模型的可逆条件n(B)=0的根都在单位圆外，完全由其移动平均部分的可逆性决定n可逆性表示某一时刻的系统响应对后继时刻的响应的影响呈递减状态，离该时刻时
14、间越远，影响作用越小。n对于ARMA(p,q)模型来说，只有平稳且可逆才是有意义的。第41页，本讲稿共75页举例n问下列几个ARMA(1,1)模型是否平稳和可逆？答：(1）平稳可逆，（2）平稳不可逆，（3）可逆不平稳第42页，本讲稿共75页nARMA模型可以变形为：n定义：当Xt表示为即称为ARMA(p,q)模型的传递形式模型的传递形式，或 Xt的World分解分解，称 Gj为Green函数函数或World系数系数。ARMA(p,q)模型的传递形式第43页，本讲稿共75页Green函数nGj是j个单位时间以前加入系统的冲击或扰动t 对现在影响的权重nGreen函数表示了系统对冲击t-j有多大的
15、记忆，也即如果有单个t 加入系统，Green函数决定了系统将用多久时间能够恢复到它的平衡位置。第44页，本讲稿共75页nARMA模型可以变形为：n定义：当Xt表示为即称为ARMA(p,q)模型的逆转形式模型的逆转形式，称 Ij为模型的逆函数逆函数。ARMA(p,q)模型的逆转形式第45页，本讲稿共75页举例nARMA(1,1)模型：Xt=0.6Xt-1+t-0.3t-1，写出模型的传递形式和逆转形式。解：(1)传递形式 第46页，本讲稿共75页(2)逆转形式 第47页，本讲稿共75页ARMA(p,q)模型的统计性质n均值：n方差：借助于传递形式 第48页，本讲稿共75页n自协方差：借助于传递形
16、式 n自相关系数：ARMA(p,q)模型的统计性质第49页，本讲稿共75页三种模型之间的转换n当三种模型：AR、MA和ARMA都具有平稳可逆性时，它们之间可以有如下的转换关系：nAR(p)MA()nMA(q)MA()nARMA(p,q)AR()或MA()第50页，本讲稿共75页ARMA模型的相关性n自相关系数 ACFn偏自相关系数 PACF第51页，本讲稿共75页AR(p)模型的自相关系数ACFn在模型两边同乘Xt-k(k0)，再求期望，可得自协方差系数：n自相关系数的Yule-Walker方程：n设p阶差分方程特征根为 ，则自相关系数满足AR(p)的自相关系数ACF-拖尾第52页，本讲稿共7
17、5页例：考察如下AR模型的自相关图-可以验证，这四个模型都是平稳的第53页，本讲稿共75页n自相关系数按负指数单调收敛到零第54页，本讲稿共75页n自相关系数呈现出正负相间的衰减第55页，本讲稿共75页n自相关系数呈现出“伪周期”性第56页，本讲稿共75页n自相关系数不规则衰减第57页，本讲稿共75页MA(q)模型的自协方差系数n自协方差系数只与滞后阶数k相关，且q阶截尾。第58页，本讲稿共75页MA(q)模型的自相关系数ACFMA(q)模型的自相关系数(ACF)-q步截尾第59页，本讲稿共75页MA模型的自相关系数截尾第60页，本讲稿共75页MA模型的自相关系数截尾第61页，本讲稿共75页A
18、RMA模型的相关性n自相关系数ACF拖尾第62页，本讲稿共75页偏自相关系数(PACF)n背景：n延迟k相关系数：衡量的并不是Xt与Xt-k之间单纯的相关关系，它还受到中间k-1个变量Xt-1,Xt-2,Xt-k+1的影响。n延迟k偏自相关系数就是指在给定中间k-1个随机变量Xt-1,Xt-2,Xt-k+1的条件下，或者说，在剔除了中间k-1个随机变量的干扰之后，Xt-k对Xt影响的相关度量。第63页，本讲稿共75页偏自相关系数的定义n对于零均值平稳序列Xt，考虑用Xt-k,Xt-k+1,Xt-1对Xt的线性最小方差估计，即选择系数，使得下式最小：kj为使得残差方差达到极小的k阶自回归模型的第
19、j项系数。其中最后一个系数kk称为Xt的偏自相关系数。nkk是使在模型中已经包含了Xt-1,Xt-2,Xt-k+1之后，再增加一期滞后Xt-k所增加的模型的解释能力，它是一种条件相关，是对Xt与Xt-k之间未被Xt-1,Xt-2,Xt-k+1所解释的相关的度量。k阶自回归模型中的第k个系数第64页，本讲稿共75页偏自相关系数的计算第65页，本讲稿共75页偏自相关系数的计算n滞后k偏自相关系数实际上就等于k阶自回归模型第k个回归系数的值 Yule-Walker 方程第66页，本讲稿共75页AR(p)模型的PACFn定理3.5：零均值平稳序列Xt为AR(p)序列的充要条件是Xt的偏自相关系数p步截
20、尾。nAR(p)模型重要的识别依据：自相关系数ACF的拖尾性和偏自相关系数PACF的p步截尾性。第67页，本讲稿共75页例:考察如下AR模型的偏自相关图第68页，本讲稿共75页n理论偏自相关系数n样本偏自相关图第69页，本讲稿共75页n理论偏自相关系数n样本偏自相关图第70页，本讲稿共75页n理论偏自相关系数n样本偏自相关图第71页，本讲稿共75页n理论偏自相关系数n样本偏自相关系数图第72页，本讲稿共75页MA(q)和ARMA(p,q)模型的PACFn定理3.6：设Xt为序列或者ARMA(p,q)序列，则Xt的偏自相关系数拖尾。n当三种模型：AR、MA和ARMA都具有平稳可逆性时，它们之间可以有如下的转换关系：nAR(p)MA()nMA(q)MA()nARMA(p,q)AR()或MA()第73页，本讲稿共75页ARMA的ACF和PACF的拖尾性n样本自相关图n样本偏自相关图第74页，本讲稿共75页ARMA模型相关性特征模型自相关系数(ACF)偏自相关系数(PACF)平稳性条件可逆性条件AR(p)拖尾p步截尾特征根在单位圆内无MA(q)q步截尾拖尾无特征根在单位圆内ARMA(p,q)拖尾拖尾特征根在单位圆内特征根在单位圆内第75页，本讲稿共75页