《时间序列-AR模型.ppt》由会员分享,可在线阅读,更多相关《时间序列-AR模型.ppt(65页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、一、一、自回归模型的定义自回归模型的定义二、二、中心化模型中心化模型三、三、平稳平稳AR(p)模型的平稳解模型的平稳解1四、四、自回归模型的阶自回归模型的阶数的估计数的估计五、五、自回归模型自回归模型的参数的估计的参数的估计六、六、自回归自回归模型的检模型的检验验七、七、自回归自回归模型的模型的预报预报2 时间序列分析最重要的应用是分析和表征观时间序列分析最重要的应用是分析和表征观察值之间的相互依赖性与相关性,若对这种相察值之间的相互依赖性与相关性,若对这种相关性进行量化处理,那么就可以方便地从系统关性进行量化处理,那么就可以方便地从系统的过去值预测将来的值。的过去值预测将来的值。在数理统计中
2、讨论的数据的线性回归模在数理统计中讨论的数据的线性回归模型型,很好地表示了因变量很好地表示了因变量yt的观察值对自变的观察值对自变量观测值量观测值xt1,xt2,xtp的相关性,解决了他的相关性,解决了他们之间的相关性问题,但是,对一组随机观们之间的相关性问题,但是,对一组随机观测数据,即一个时间序列内部的相关关系它测数据,即一个时间序列内部的相关关系它却描述不出来。即它不能描述数据内部之间却描述不出来。即它不能描述数据内部之间的相互依赖关系。的相互依赖关系。3 另一方面,某些随机过程与另一些另一方面,某些随机过程与另一些变量取值之间的随机关系,往往根本无变量取值之间的随机关系,往往根本无法用
3、任何函数关系式来描述,这时就需法用任何函数关系式来描述,这时就需要采用这个时间序列本身的观测数据之要采用这个时间序列本身的观测数据之间的依赖关系来揭示这个时序的规律性。间的依赖关系来揭示这个时序的规律性。4一、自回归模型的定义一、自回归模型的定义定义定义2.1 设设xt,t=0,1,2,为时间序列,为时间序列,白噪声序列为白噪声序列为t,t=0,1,2,,且对,且对任意的任意的 s1,所以这是平所以这是平稳的稳的AR(1)模型。模型。8例例1.3 如果时间序列如果时间序列xt满足满足试问此试问此xt是否为平稳的序列模型。是否为平稳的序列模型。解:由于其自回归系数多项式为解:由于其自回归系数多项
4、式为的根为的根为u1=21与与u2=1/21,故知其根不故知其根不都在单位圆外,所以这是非平稳的都在单位圆外,所以这是非平稳的AR(2)序序列模型。列模型。9 自回归模型是描述系统内部的回归关系,自回归模型是描述系统内部的回归关系,故称为自回归,与通常的线性回归性质是不故称为自回归,与通常的线性回归性质是不一样的。一样的。10二、中心化二、中心化 AR(p)模型模型设设xt为平稳序列,且有为平稳序列,且有则对上式两端同取数学期望,即得则对上式两端同取数学期望,即得由于由于xt为平稳序列,故为平稳序列,故 11即得即得则可得一个均值为则可得一个均值为0的新序列:的新序列:此时此时wt 称为称为x
5、t 的的平稳中心化序列平稳中心化序列。12以后一般均讨论中心化的平稳模以后一般均讨论中心化的平稳模型或序列型或序列:13三、平稳模型的平稳解三、平稳模型的平稳解设平稳设平稳AR(p)模型为模型为式中式中t为白噪声序列,为白噪声序列,系数系数1,2,p 满足平稳条件:系满足平稳条件:系数数 多项式多项式(u)=0的根都在单位圆外。的根都在单位圆外。141 后移算子后移算子若算子若算子B满足等式满足等式:则称则称B为后移算子为后移算子,即即B作用作用xt 后使其转化为后使其转化为xt-1类似的类似的 于是于是,AR(p)模型可以表示为模型可以表示为15即得一差分方程即得一差分方程:其中其中(B)(
6、B)为后移算子多项式为后移算子多项式,即称为自回即称为自回归算子归算子:16 易见,滤波器成为一个对时间序列进行变易见,滤波器成为一个对时间序列进行变换的实体,变换前的序列称为输入,经滤波器换的实体,变换前的序列称为输入,经滤波器变换的得到的序列称为输出。变换的得到的序列称为输出。自回归滤波器自回归滤波器xtt t 差分方程式可用框图表示差分方程式可用框图表示:设想有一个设想有一个滤波器,输入的是某种平稳序列,而输出的滤波器,输入的是某种平稳序列,而输出的则是白噪声序列,即则是白噪声序列,即172 AR(p)序列的平稳域与允许域序列的平稳域与允许域 定义定义2.2 AR(p)序列的平稳域为其系
7、数取值序列的平稳域为其系数取值的集合:的集合:其允许域为其自相关函数的前其允许域为其自相关函数的前p个值的集合个值的集合:其中矩阵其中矩阵p p与与Rp,向量向量、b与与d分别为:分别为:1819例如一阶自回归模型例如一阶自回归模型AR(1):20注注:实际上由平稳实际上由平稳AR(p)模型模型:21再对两端取数学期望再对两端取数学期望,并由性质并由性质:22类似的类似的,在平稳在平稳AR(p)模型两端分别同乘以模型两端分别同乘以23再对两端取数学期望再对两端取数学期望,并由上述性质可得并由上述性质可得:24其次其次,由于自相关系数等于由于自相关系数等于:25263 AR(1)序列平稳解与自相
8、关函数序列平稳解与自相关函数进行反复的迭代运算,则对任何自然数进行反复的迭代运算,则对任何自然数n,有,有 27于是对于平稳时间序列,如果有于是对于平稳时间序列,如果有|0时时,其自相关函数:其自相关函数:3031类似的类似的,当当k0时时,其自相关函数为其自相关函数为32特别地,特别地,AR(1)序列的方差函数为序列的方差函数为其自相关系数为其自相关系数为 因为因为|10时,其自相关函数为时,其自相关函数为39综述为综述为 用上式求得用上式求得AR(2)序列的自相关函数是比较困难的,序列的自相关函数是比较困难的,在实际中常采用另一种简便有效的方法在实际中常采用另一种简便有效的方法:40 设设
9、h0,因,因t与与xt互不相关,故用互不相关,故用xt-h乘以乘以AR(2)模型等式两端,再取数学期望,即得模型等式两端,再取数学期望,即得上述递推式称为上述递推式称为AR(2)序列的序列的Yule-Walker方方程。程。利用利用Yule-Walker方程求方程求AR(2)序列的自序列的自相关函数方法即称为尤尔相关函数方法即称为尤尔-沃克法沃克法.41注注:由于此处均值函数为:由于此处均值函数为0,其自相关函数与,其自相关函数与自协方差函数相等,为分析简单起见,我们将自协方差函数相等,为分析简单起见,我们将自相关函数作为自协方差函数,即表示为自相关函数作为自协方差函数,即表示为而将自相关系数
10、而将自相关系数:称为自相关函数。称为自相关函数。因此,由因此,由Yule-Walker方程可得方程可得42其初值为其初值为 下面分三种情况讨论在上述给定初始条件下面分三种情况讨论在上述给定初始条件下下,自相关函数的差分方程的解自相关函数的差分方程的解:43再根据初值条件再根据初值条件,自回归系数方程的根与系自回归系数方程的根与系数的关系得数的关系得即得即得44 由上式可看出,当自回归系数方程的根的两由上式可看出,当自回归系数方程的根的两实根都在单位圆外部时,实根都在单位圆外部时,(k)随随k的增大,向的增大,向零衰减,若两实根中至少有一个在单位圆内部零衰减,若两实根中至少有一个在单位圆内部时,
11、则时,则(k)发散。发散。45AR(2)序列的平稳域序列的平稳域:平稳域图形见下图:平稳域图形见下图:221-20 1-1-1146再根据初值条件再根据初值条件,自回归系数方程的根与系数自回归系数方程的根与系数的关系得的关系得即得47(3)AR(2)序列的允许域序列的允许域48允许域允许域图形如下图所示图形如下图所示 21-10 1495.一般一般AR(p)序列的平稳解与自相关函数序列的平稳解与自相关函数(1)AR(p)模型的平稳解模型的平稳解定理定理 设设AR(p)序列的系数多项式序列的系数多项式 的所有根均在单位圆外部,即满足平稳条件,的所有根均在单位圆外部,即满足平稳条件,且且p p00
12、。若存在实数列。若存在实数列j,j=0,1,2,满足满足p阶齐次线性差分方程:阶齐次线性差分方程:50及初值条件及初值条件:51则均方极限存在则均方极限存在 且几乎必然对一切且几乎必然对一切 t=0,1,2,,此式为,此式为AR(p)模型的平稳解。模型的平稳解。(2)AR(p)模型的自相关函数模型的自相关函数定理定理2.1.2 设设xt 是是AR(p)序列,其自回归算序列,其自回归算子的所有根都在单位圆外部,则其自协方差函子的所有根都在单位圆外部,则其自协方差函数数C(k)满足满足p阶齐次差分方程阶齐次差分方程Yule-Walker方程:方程:52及初值条件及初值条件53 若在上式两端同除以若
13、在上式两端同除以C(0)=Dx,即得自相即得自相关函数满足的关函数满足的Yule-Walker方程,即方程,即及初始条件及初始条件54 时间序列的自相关函数刻划了随机时间序列的自相关函数刻划了随机序列各时刻间的线性相关程度。实际中常序列各时刻间的线性相关程度。实际中常用自相关函数的图形用自相关函数的图形相关图来分析、相关图来分析、反映时间序列各时刻间的线性相关性。反映时间序列各时刻间的线性相关性。55 6.AR(p)序列偏相关函数序列偏相关函数 对于任意平稳序列,若其自协方差函数对于任意平稳序列,若其自协方差函数C(k)满足以下条件,即对任意满足以下条件,即对任意k1,1i,jk,k k为正定
14、矩阵为正定矩阵:56再将向量的分量记为再将向量的分量记为称为上述平稳序列的称为上述平稳序列的偏相关函数偏相关函数。57 可以利用以下递推公式计算可以利用以下递推公式计算偏相关函数偏相关函数:一般来说,偏相关函数的意义由下述定一般来说,偏相关函数的意义由下述定理给出理给出:58定理定理 对于零均值的平稳序列对于零均值的平稳序列xt而言,以下两而言,以下两条是相互等价的;条是相互等价的;(1)xt满足平稳序列满足平稳序列AR(p)模型;模型;(2)xt的偏相关函数列满足条件的偏相关函数列满足条件 此定理表明偏相关函数列的截尾性质是此定理表明偏相关函数列的截尾性质是平稳自回归序列独有的特征。利用此定
15、理,平稳自回归序列独有的特征。利用此定理,可以通过检查可以通过检查xt的偏相关函数列的的偏相关函数列的p 阶截尾性阶截尾性质来识别质来识别AR(p)模型模型。59四、四、自回归模型的阶自回归模型的阶数的估计数的估计1、利用偏相关函数的截尾性质确定阶数、利用偏相关函数的截尾性质确定阶数 因为因为AR(p)的偏相关函数在的偏相关函数在p后截尾,所后截尾,所以利用样本自相关函数与尤尔以利用样本自相关函数与尤尔-沃克方程递推沃克方程递推求得偏相关函数的值,或用软件求出:求得偏相关函数的值,或用软件求出:60递推求得偏相关函数的值:递推求得偏相关函数的值:61 从序列的自相关与偏样本偏相关函数值从序列的
16、自相关与偏样本偏相关函数值列表观察列表观察:如果样本偏相关函数值在如果样本偏相关函数值在p以后截尾以后截尾;而样本偏相关函数值明显拖尾而样本偏相关函数值明显拖尾,则可认定序列则可认定序列为为 AR(p)模型模型.62例如:序列的自相关与偏样本偏相关函数值例如:序列的自相关与偏样本偏相关函数值如下如下:k k1 12 23 34 45 56 67 7 k k0.80.80.590.590.420.420.320.320.250.250.170.170.100.10 kkkk0.80.8-0.15-0.150 00.080.08-0.03-0.03-0.06-0.06-0.02-0.02k k8
17、89 910101111121213131414 k k0.050.050.030.030.030.030 0-0.05-0.05-0.07-0.07-0.08-0.08 kkkk0.020.020 00.040.04-0.02-0.02-0.09-0.09-0.04-0.040.010.0163样本偏相关函数值折线图样本偏相关函数值折线图可认为样本偏相关函数值在可认为样本偏相关函数值在p=2以后截尾以后截尾,即即在在p=2以后样本偏相关函数值波动幅度很小以后样本偏相关函数值波动幅度很小.64样本自相关函数值折线图样本自相关函数值折线图:可认为样本自相关函数值单调下降可认为样本自相关函数值单调下降,有拖尾趋有拖尾趋势势,故此模型可取为故此模型可取为AR(2).65