平稳时间序列模型的建立讲稿.ppt

《平稳时间序列模型的建立讲稿.ppt》由会员分享，可在线阅读，更多相关《平稳时间序列模型的建立讲稿.ppt（76页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。

1、平稳时间序列模型的建立第一页，讲稿共七十六页哦通过整理可得：具体建模时，只需要在ARMA模型中加入一个截距项，和回归模型是一样的。如果事先未对序列进行零均值化，即使该截距项可能不显著，也不要把它从模型中删去。因为这个不显著性可能和自回归系数的取值有关。第二页，讲稿共七十六页哦 设平稳过程Xt的均值为，给定序列X1,XN,要检验=0，就需要构造检验统计量或求参数的置信区间。可以从考虑样本均值出发所以参数的置信度为1-的置信区间为若白噪声序列服从正态分布，则有 样本均值只是总体均值的一个估计，可能存在误差，因此我们有必要利用样本均值对总体均值是否为0进行检验-即零均值检验。（这个也称为模型的预处理

2、）2.序列减去样本均值得到零均值的序列。序列减去样本均值得到零均值的序列。第三页，讲稿共七十六页哦而 实际问题中 k未知，可用它的样本自协方差函数来代替，从而可对=0进行检验。如果0，则通过减去样本均值使其零均值化。MATLAB中可用ttest命令实现零均值的检验，SPSS中选择均值的检验即可。第四页，讲稿共七十六页哦模型模型AR(n)MA(m)ARMA(n,m)自相关函数自相关函数拖尾拖尾截尾截尾拖尾拖尾偏自相关函数偏自相关函数截尾截尾拖尾拖尾拖尾拖尾平稳零均值序列的自相关函数和偏自相关函数的统计特性平稳零均值序列的自相关函数和偏自相关函数的统计特性可依据上述性质初步确定模型的类型。可依据上

3、述性质初步确定模型的类型。第一节第一节 模型识别模型识别第五页，讲稿共七十六页哦选择模型的困难因为由于样本的随机性，样本的相关系数不会呈现出理论截尾的完美情况，本应截尾的 或 仍会呈现出小值振荡的情况。当 或 在延迟若干阶之后衰减为小值波动时，什么情况下该看作为相关系数截尾，什么情况下该看作为相关系数在延迟若干阶之后正常衰减到零值附近作拖尾波动呢？第六页，讲稿共七十六页哦 若k序列在m步后截尾，即若km,应有k=0，此时k的估计量渐近于正态分布。即：1.自相关函数截尾的判定自相关函数截尾的判定第七页，讲稿共七十六页哦因此，判断一个序列的k序列是否在m步后截尾，具体做法如下：1.若某一个k比较大

4、，而其后的k都很小且接近于0，则可以此k作为模型的阶m，计算上面的置信区间。2.如果m之后的k落在该区间的频率超过68.3%(或95.5%)，则认为序列适合用MA(m)或更低阶的模型拟合。否则提高m继续计算，一直到满足条件为止。3.若m值比较大才满足条件，可认为自相关函数拖尾，用AR模型或ARMA模型可能更好。第八页，讲稿共七十六页哦 若kk序列在n步后截尾，即若kn,应有kk=0，此时kk的估计量渐近于正态分布。即：因此，判断一个序列是否可用AR模型来拟合，具体做法如下：若某一个kk比较大，而其后的都很小且接近于0，则可以此时的k作为模型的阶n，计算上面的置信区间。如果n之后的kk值落在该区

5、间的频率超过68.3%(或95.5%)，则认为序列适合用AR(n)或更低阶的模型拟合。否则提高n继续计算，一直到满足条件为止。若n值比较大才满足条件，可认为偏自相关函数拖尾，用MA模型或ARMA模型可能更好。2.偏自相关函数截尾的判定偏自相关函数截尾的判定第九页，讲稿共七十六页哦若序列的自相关和偏自相关函数都拖尾，则序列是ARMA模型。若序列自相关函数和偏自相关函数无以上特征，而是出现缓慢衰减或周期性衰减情况，则说明序列不是平稳的。第十页，讲稿共七十六页哦Lag12345678910Acf0.6150.2380.042-0.051-0.0650.0310.0790.1060.058-0.081

6、Pacf0.615-0.2250.002-0.0510.0080.126-0.0220.066-0.07-0.144Lag11121314151617181920Acf-0.137-0.136-0.093-0.0120.025-0.027-0.05-0.101-0.142-0.12Pacf0.033-0.0570.0260.032-0.045-0.0630.014-0.076-0.027-0.016例5.1 下图是一磨轮剖面资料的数据图，共250个。试对该序列建立合适的时间序列模型。第十一页，讲稿共七十六页哦观察序列图及样本自相关函数和偏自相关函数图，发现2阶之后值都比较小，假设m=2，则有统

7、计一下2阶之后落在-0.0867*2到0.0867*2之间的自相关函数有几个？适合用MA(2)模型拟合吗？再观察偏自相关函数，发现2阶之后值都比较小，假设n=2，则有统计一下2阶之后落在-0.0634*2到0.0634*2之间的偏自相关函数有几个？适合用AR(2)模型拟合吗？进一步适合用AR(1)模型拟合吗？第十二页，讲稿共七十六页哦第三节第三节 参数估计参数估计 自回归模型自回归模型AR(n)的参数估计：的参数估计：采用采用Yule-Walker方程方程 一、矩估计 原则：以样本数字特征作为总体相应数字特征的估计，以样本数字特征的函原则：以样本数字特征作为总体相应数字特征的估计，以样本数字特

8、征的函数作为总体相应数字特征的相应函数的估计数作为总体相应数字特征的相应函数的估计或把其中的改为亦可。第十三页，讲稿共七十六页哦但是在上述方程组中，自协方差函数是未知的，因此需要用样本自协方差函数来估计，所以可得到 和 求解上述的方程，即可得到参数和a2的估计注.如果满足一定的条件，上述的自协方差函数矩阵是可逆的。对于AR(1)模型，参数的矩估计为：第十四页，讲稿共七十六页哦AR(2)模型：所以 第十五页，讲稿共七十六页哦移动平均模型MA(m)的参数估计 上述方程为非线性方程，通常要用特定的数值计算方法求解。下面我们只考虑MA(1)模型的直接解法。第十六页，讲稿共七十六页哦1.直接解法变换得：

9、对于MA(2)模型及更高阶的模型，参数的解析解更难表示出来。对于MA(1)模型，自协方差函数满足：第十七页，讲稿共七十六页哦2.线性迭代法 经过重排可得到 给定m+1个参数的一组初值，然后进行迭代，直到取到满意的精度为止。该方法得到的参数拟合出的模型可以满足可逆性条件。如果MA(m)模型的阶数已知，则可用下述方法来估计其中的参数。已知 第十八页，讲稿共七十六页哦即利用 不断进行迭代，最后当k时，x(k)就是f(x)=0的解。对于此问题，具体做法是：将上式改写为 令则上式变为 3.Newton-Raphson迭代算法第十九页，讲稿共七十六页哦令记 则 该方法的优点：（1）收敛速度较快；（2）比线

10、性迭代法精度要高一些。该方法的缺点：（1）估计出的参数拟合出来的模型不能保证具有可逆性；（2）该算法强烈依赖于初始值的选择。最后用样本自协方差函数代替总体自协方差函数即可得到参数的估计。第二十页，讲稿共七十六页哦自回归移动平均模型ARMA(n,m)的参数矩估计：将模型分成两个部分，先对将模型分成两个部分，先对AR部分应用部分应用Yule-Walker方程，估方程，估计出计出ARAR部分的参数；然后把参数代入计算得到剩余序列，对剩余部分的参数；然后把参数代入计算得到剩余序列，对剩余序列应用序列应用MA模型的参数估计方法模型的参数估计方法。具体如下:第二十一页，讲稿共七十六页哦(2).令令 则 因

11、此可用MA模型的参数估计方法估计出参数。(1).当当km时，考虑时，考虑Yule-Walker方程方程的解的解第二十二页，讲稿共七十六页哦例:求ARMA(1,1)模型系数的矩估计ARMA(1,1)模型矩估计第二十三页，讲稿共七十六页哦对矩估计的评价优点估计思想简单直观不需要假设总体分布计算量小（低阶模型场合）缺点信息浪费严重只用到了n+m个样本自相关系数信息，其他信息都被忽略估计精度差通常矩估计方法被用作极大似然估计和最小二乘估计迭代计算的初始值 第二十四页，讲稿共七十六页哦原理使残差平方和达到最小的那组参数值即为最小二乘估计值 下面只考虑AR(n)模型的参数的最小二乘估计。二、最小二乘估计（

12、二、最小二乘估计（LS）第二十五页，讲稿共七十六页哦观测方程为：即：因此参数的最小二乘估计为：比较AR(n)模型参数的最小二乘估计和矩估计。第二十六页，讲稿共七十六页哦对最小二乘估计的评价优点最小二乘估计充分应用了每一个观察值所提供的信息，因而它的估计精度高缺点需要假定总体分布第二十七页，讲稿共七十六页哦原理在极大似然准则下，认为样本来自使该样本出现概率最大的总体。因此未知参数的极大似然估计就是使得似然函数（即联合密度函数）达到最大的参数值 三、极大似然估计（三、极大似然估计（ML）第二十八页，讲稿共七十六页哦似然方程由于 和 都不是 的显式表达式。因而似然方程组实际上是由n+m+1个超越方程

13、构成，通常需要经过复杂的迭代算法才能求出未知参数的极大似然估计值 第二十九页，讲稿共七十六页哦对极大似然估计的评价优点极大似然估计充分应用了每一个观察值所提供的信息，因而它的估计精度高同时还具有估计的一致性、渐近正态性和渐近有效性等许多优良的统计性质缺点需要假定总体分布第三十页，讲稿共七十六页哦第二节第二节 模型的定阶模型的定阶自相关函数和偏自相关函数定阶法自相关函数和偏自相关函数定阶法 自相关函数和偏自相关函数不但可以用来进行模型的识别，自相关函数和偏自相关函数不但可以用来进行模型的识别，同样也可以用来进行同样也可以用来进行AR模型和模型和MA模型的定阶。模型的定阶。该方法对该方法对ARMA

14、模型定阶较为困难。同时，用该方模型定阶较为困难。同时，用该方法定的阶数也只能作为初步参考值。法定的阶数也只能作为初步参考值。第三十一页，讲稿共七十六页哦残差方差图定阶法残差方差图定阶法 残差方差图定阶法借用了统计学中多元回归的原理。残差方差图定阶法借用了统计学中多元回归的原理。假定模型是有限阶的自回归模型，如果选择的阶数小于假定模型是有限阶的自回归模型，如果选择的阶数小于真正的阶数，则是一种不足拟合，因而剩余平方和必然偏真正的阶数，则是一种不足拟合，因而剩余平方和必然偏大，残差方差也将偏大；如果选择的阶数大于真正的阶数，大，残差方差也将偏大；如果选择的阶数大于真正的阶数，则是一种过度拟合，残差

15、方差并不因此而显著减小。则是一种过度拟合，残差方差并不因此而显著减小。具体方法：以阶数作为自变量，残差方差作为因变量，绘制残差方差图，阶数较低时残差方差较大，随着阶数的增加，残差方差趋于平稳，此时可得到模型的阶数。这种判别方法也适用于MA模型和ARMA模型。在ARMA模型中，残差方差图是一个曲面图。第三十二页，讲稿共七十六页哦AR、MA、ARMA三种模型的残差方差估计式分别三种模型的残差方差估计式分别为：为：ARMA模型：模型：MA模型：模型：AR模型模型：关于残差平方和的计算：估计出来参数后得到at，然后再计算其平方和。MA(1)模型中：a1=x1，a2=x2+x1,a3=.。P138 图5

16、.4第三十三页，讲稿共七十六页哦F F检验定阶法检验定阶法 基基本本思思想想：首首先先用用ARMA(n,m)进进行行过过度度拟拟合合，再再令令 高高阶阶系系数数 中中某某些些取取值值为为零零，用用F检检验验判判定定阶阶数数降降低低之之后后的的模模型型与与ARMA(n,m)之之间间是是否否存存在在显显著著性性差差异异。如如果果有有显显著著性性差差异异，阶阶数数能能够够升升高高；如如果果没没有有差差异异，阶阶数数可可以以降低。降低。第三十四页，讲稿共七十六页哦基本过程：基本过程：对对N个独立的观察值，建立回归模型：个独立的观察值，建立回归模型：设设为的最小二乘估计的最小二乘估计。则残差平方和为：则

17、残差平方和为：第三十五页，讲稿共七十六页哦若舍弃后面若舍弃后面s个因子，另建一个回归模型：个因子，另建一个回归模型：设设为的最小二乘估计。的最小二乘估计。则残差平方和为：则残差平方和为：第三十六页，讲稿共七十六页哦检验舍弃的回归因子对检验舍弃的回归因子对Y的影响是否显著，等价于的影响是否显著，等价于检验原假设：检验原假设：是否成立。是否成立。借助有关回归理论：借助有关回归理论：第三十七页，讲稿共七十六页哦对于给定的显著性水平，计算统计量若FF(s,N-r)，则拒绝原假设，表示两个模型存在显著性差异。该方法对MA模型和ARMA模型也适用。第三十八页，讲稿共七十六页哦若FF0.05(1,246)=

18、3.88,说明两个模型存在显著性差异，阶数仍有上升可能。再拟合AR（3）模型，残差平方和为1473.784，与AR（2）比较，有：Fn)是AR(n)过程的一个实现，如果 是基于x1,xN的系数的极大似然估计，则一步预报均方误差为 FPE准则 在1969年，日本学者赤池（Akaike）提出了一种最小化最终预报误差准则（FPE），可以用于AR(n)模型的定阶。其中a2是模型白噪声的方差。DN是未知的。第四十一页，讲稿共七十六页哦而由可证明但DN未知，因此可以考虑它的无偏估计。如果用估计来替代a2，则得到均方预报误差DN的一个无偏估计为 最终均方预报误差准则即为：取FPE(k)的最小值点作为AR(n

19、)模型阶数n的估计。即 可知第四十二页，讲稿共七十六页哦基基本本思思想想：建建立立模模型型时时，根根据据准准则则函函数数取取值值来来判判断断模模型型的的优优劣劣，使使准准则则函函数数达达到到极极小小的的是是最最佳佳模模型型，该该准准则则是是在在模模型型极极大大似似然然估估计计的的基基础础上上建建立起来的。立起来的。基本理论：基本理论：最小信息准则最小信息准则AIC函数的一般形式：函数的一般形式：AIC定阶 该方法由日本人赤池提出该方法由日本人赤池提出,可用于可用于AR模型或模型或ARMA模型定阶模型定阶.式中式中“模型极大似然度模型极大似然度”一般用似然函数表示。一般用似然函数表示。第四十三页

20、，讲稿共七十六页哦 设样本长度N充分大时，ARMA模型的近似极大似然估计的对数似然函数为：于是得到采用ARMA（n,m）模型拟合的AIC准则函数：第四十四页，讲稿共七十六页哦对于AR模型，AIC函数可取：对事先给好最高阶数M(N)，若则取n0为最佳模型阶数。这里舍弃了常数2/N.第四十五页，讲稿共七十六页哦对AR(n)模型，比较FPE准则和AIC准则的结果。对FPE准则两端取对数有 由数学分析知，当时，因此只要N充分大，k/N就很小，从而有 由于对数函数是严格单调上升的，O(N-3)是N的高阶无穷小量，可忽略。故当N充分大时，FPE(k)和AIC(k)渐进地给出相同的结果。第四十六页，讲稿共七

21、十六页哦BIC定阶(SIC定阶)理论上AIC准则不能给出模型阶数的相容估计，即当样本趋于无穷大时，由AIC准则选择的模型阶数不能收敛到其真值（通常比真值高）。另一个定阶选择是BIC准则：其中k是模型的自由参数个数，对于ARMA(n,m)模型，k=n+m+1。第四十七页，讲稿共七十六页哦对于AR模型：若某一阶数n0满足则取n0为最佳阶数。第四十八页，讲稿共七十六页哦还可以定义其它类型的准则函数，如式中常数C用来在拟合残差与参数个数之间权衡F检验定阶法可和SIC定阶法结合起来使用。第四十九页，讲稿共七十六页哦第四节第四节 模型的适应性检验模型的适应性检验模型的显著性检验整个模型对信息的提取是否充分

22、参数的显著性检验模型结构是否最简第五十页，讲稿共七十六页哦模型的显著性检验目的检验模型的有效性（对信息的提取是否充分）检验对象残差序列判定原则一个好的拟合模型应该能够提取观察值序列中几乎所有的样本相关信息，即残差序列应该为白噪声序列 反之，如果残差序列为非白噪声序列，那就意味着残差序列中还残留着相关信息未被提取，这就说明拟合模型不够有效第五十一页，讲稿共七十六页哦一、散点图法一、散点图法1.由模型估计出残差序列t；2.作t对t-j，t对Xt-j的散点图3.由散点图分析t的性质-白噪声性质。第五十二页，讲稿共七十六页哦二、残差相关系数法二、残差相关系数法1.由模型估计出残差序列t；2.计算t和t

23、-j，t和Xt-j的相关系数；3.由相关系数分析t的性质-白噪声性质。以上两种方法比较粗略，主要凭经验来判断。第五十三页，讲稿共七十六页哦三、三、2 2检验法检验法设at的自相关函数为k(N,at)，则它的估计量为：当当N很大时，很大时，即这即这k个量近似服从相互独立的正态分布。个量近似服从相互独立的正态分布。第五十四页，讲稿共七十六页哦原假设：残差序列为白噪声序列，可转化为：原假设：残差序列为白噪声序列，可转化为：在原假设成立的条件下，有在原假设成立的条件下，有其中：上述建立的统计量称为上述建立的统计量称为Q统计量（或统计量（或Box-Pierce统计量）。统计量）。若若Q 2 (L(N)-

24、n-m)，则拒绝则拒绝H0。第五十五页，讲稿共七十六页哦 许多时候，Q统计量的值比卡方分布下所预期的值略偏小，因此需要对该统计量进行改进该统计量称为L-B-P统计量，是软件中常用的统计量。第五十六页，讲稿共七十六页哦模型优化问题提出当一个拟合模型通过了检验，说明在一定的置信水平下，该模型能有效地拟合观察值序列的波动，但这种有效模型并不是唯一的。优化的目的选择相对最优模型 14节的建模方法称为节的建模方法称为Box-Jenkins法，这是时间序列分法，这是时间序列分析中最主要的建模方法。析中最主要的建模方法。第五十七页，讲稿共七十六页哦第七章第七章 非平稳时间序列分析非平稳时间序列分析前几章讨论

25、的都是平稳时间序列，然前几章讨论的都是平稳时间序列，然而在实际应用中，特别是在经济和商业中而在实际应用中，特别是在经济和商业中出现的时间序列大多是非平稳的，如非常出现的时间序列大多是非平稳的，如非常数均值的时间序列，非常数方差的时间序数均值的时间序列，非常数方差的时间序列，或者二者皆有。列，或者二者皆有。第五十八页，讲稿共七十六页哦第三节第三节 平稳化方法平稳化方法 本节介绍三种常用的平稳化方法：差本节介绍三种常用的平稳化方法：差分、季节差分以及对数变换与差分结合运分、季节差分以及对数变换与差分结合运用。用。第五十九页，讲稿共七十六页哦普通差分普通差分 一般地一般地二阶差分二阶差分一阶差分一阶

26、差分第六十页，讲稿共七十六页哦例：对温度序列作一阶差分。例：对温度序列作一阶差分。原序列图原序列图第六十一页，讲稿共七十六页哦一阶差分序列图一阶差分序列图第六十二页，讲稿共七十六页哦过差分 足够多次的差分运算可以充分地提取原序列中的非平稳确定性信息但过度的差分会造成有用信息的浪费 第六十三页，讲稿共七十六页哦例1假设序列如下 考察一阶差分后序列和二阶差分序列的平稳性与方差，体会过差分所造成的浪费。第六十四页，讲稿共七十六页哦比较一阶差分平稳方差小二阶差分方差大（过差分）平稳第六十五页，讲稿共七十六页哦例2假设序列如下 过差分把原来的不相关序列转换为MA(1)模型，产生了原本不存在的相依性。第六

27、十六页，讲稿共七十六页哦季节差分季节差分 Xt为一周期性波动的时序，周期为为一周期性波动的时序，周期为S。则。则 为为各各相相应应周周期期点点的的数数值值，它它们们表表现现出出非非常常相相近近或或呈呈现现出出一一定定的的趋趋势特征。势特征。【例】某市【例】某市1985年年1993年各月工业生产总值年各月工业生产总值（P314）对其作季节差分。对其作季节差分。季节差分就是把每一观察值同上一周期相对应时刻的季节差分就是把每一观察值同上一周期相对应时刻的观察值相减，记为：观察值相减，记为：第六十七页，讲稿共七十六页哦第六十八页，讲稿共七十六页哦对数变换与差分运算的结合运用对数变换与差分运算的结合运用

28、 如如果果时时间间序序列列含含有有指指数数趋趋势势，可可以以通通过过取取对对数数将将指指数数趋趋势势转转化化为为线线性性趋趋势势，或或等等比比方方法法转转化化为为平平稳序列。稳序列。【例】将社会消费品零售总额【例】将社会消费品零售总额（P325）通过取对数将通过取对数将指数趋势转化为线性趋势，然后再进行差分消除线性趋指数趋势转化为线性趋势，然后再进行差分消除线性趋势将其变为平稳的时间序列。势将其变为平稳的时间序列。第六十九页，讲稿共七十六页哦第七十页，讲稿共七十六页哦第六节第六节 实例分析实例分析例5.2，5.31.绘制序列图，并进行平稳性零均值性检验；2.若不平稳，则转化为平稳的；进行零均值

29、处理；3.计算样本自相关和偏自相关函数，进行模型识别和阶数的初步确定；4.参数估计；5.模型的定阶；6.模型的适应性检验；7.重新修订模型。第七十一页，讲稿共七十六页哦第五节第五节 建模的其它方法建模的其它方法一一.Pandit-Wu.Pandit-Wu建模法建模法 思想：逐渐增加模型的阶数，拟合较高阶模型，直到再增加思想：逐渐增加模型的阶数，拟合较高阶模型，直到再增加模型的阶数而剩余平方和不显著减小为止。模型的阶数而剩余平方和不显著减小为止。第七十二页，讲稿共七十六页哦二二.用长阶自回归法建立近似模型用长阶自回归法建立近似模型 理论依据：任一序列，都可以用一个足够高阶的理论依据：任一序列，都可以用一个足够高阶的AR模模型来逼近到我们所要求的精度。型来逼近到我们所要求的精度。第七十三页，讲稿共七十六页哦Durbin h检验 DW统计量的缺陷当回归因子包含延迟因变量时，残差序列的DW统计量是一个有偏统计量。在这种场合下使用DW统计量容易产生残差序列正自相关性不显著的误判 Durbin h检验第七十四页，讲稿共七十六页哦例5.6续检验第二个确定性趋势模型 残差序列的自相关性。第七十五页，讲稿共七十六页哦Dh检验结果检验结果检验结论检验结果显示残差序列高度正自相关。Dh统计量的值P值2.80380.0025第七十六页，讲稿共七十六页哦