ARIMA时间序列模型


1 概念

       ARIMA模型,全称为自回归积分滑动平均模型(Autoregressive Integrated Moving Average Model),是由博克思(Box)和詹金斯(Jenkins)于20世纪70年代初提出的一种时间序列预测方法。ARIMA模型是指在将非平稳时间序列转化为平稳时间序列过程中,将因变量仅对它的滞后值以及随机误差项的现值和滞后值进行回归所建立的模型。

注:时间序列模型适用于做短期预测,即统计序列过去的变化模式还未发生根本性变化。


2 基本思想

        ARIMA模型的基本思想是:将预测对象随时间推移而形成的数据序列视为一个随机序列,用一定的数学模型来近似描述这个序列。这个模型一旦被识别后就可以从时间序列的过去值及现在值来预测未来值。现代统计方法、计量经济模型在某种程度上已经能够帮助企业对未来进行预测。


3 原理

        ARIMA(p,d,q) 称为差分自回归移动平均模型,根据原序列是否平稳以及回归中所含部分的不同,包括移动平均过程(MA)、自回归过程(AR)、自回归移动平均过程(ARMA)和自回归滑动平均混合过程(ARIMA)。

移动平均过程(MA(q))

自回归过程(AR(p))

自回归移动平均过程(ARMA(p,q))

自回归积分滑动平均过程 (ARIMA(p,d,q))

        AR是自回归,p为自回归项;MA为移动平均,q为移动平均项数,d为时间序列变为平稳时间序列时所做的差分次数。

3.1 模型预测步骤

1.获取被观测系统时间序列数据;

2.对数据绘图,观测是否为平稳时间序列;对于非平稳时间序列要先进行d阶差分运算,化为平稳时间序列;若为平稳序列,则直接用ARMA(p,q)模型。

3.经过第二步处理,已经得到平稳时间序列。要对平稳时间序列分别求得其自相关系数ACF偏自相关系数PACF,通过对自相关图和偏自相关图的分析,得到最佳的阶层 p阶数 q

4.由以上得到的d、q、p,得到ARIMA模型。然后开始对得到的模型进行模型检验。以证实所得模型确实与所观察到的数据特征相符。若不相符,重新回到第3步。


4 预测实例

       目前常用的数据分析语言为R和python,本文先采用Python在测试数据上实现预测过程。在后期编辑阶段补充R语言的实现过程。

4.1 获取数据

      具有周期性(7天)的测试数据,即每连续的7个数据属于一个周期内,具体数据如下所示:

10930,10318,10595,10972,7706,6756,9092,10551,9722,10913,11151,8186,6422,6337,11649,11652,10310,12043,7937,6476,9662,9570,9981,9331,9449,6773,6304,9355,10477,10148,10395,11261,8713,7299,10424,10795,11069,11602,11427,9095,7707,10767,12136,12812,12006,12528,10329,7818,11719,11683,12603,11495,13670,11337,10232,13261,13230,15535,16837,19598,14823,11622,19391,18177,19994,14723,15694,13248,9543,12872,13101,15053,12619,13749,10228,9725,14729,12518,14564,15085,14722,11999,9390,13481,14795,15845,15271,14686,11054,10395

绘制测试数据的时间序列图,如图1所示:

dta=pd.Series(dta)

dta.index = pd.Index(sm.tsa.datetools.dates_from_range('2001','2100'))

dta.plot(figsize=(12,8))


图1 数据的时间序列图

4.2  时间序列的差分

      ARIMA 模型对时间序列的要求是平稳型。因此,当你得到一个非平稳的时间序列时,首先要做的即是做时间序列的差分,直到得到一个平稳时间序列。

      平稳:就是围绕着一个常数上下波动且波动范围有限,即有常数均值和常数方差。如果有明显的趋势或周期性,那它通常不是平稳序列。一般有三种方法:

(1)直接画出时间序列的趋势图,看趋势判断。

(2)画自相关和偏自相关图:平稳的序列的自相关图(Autocorrelation)和偏相关图(Partial Correlation)要么拖尾,要么是截尾。

(3)单位根检验:检验序列中是否存在单位根,如果存在单位根就是非平稳时间序列。

       不平稳序列可以通过差分转换为平稳序列。d阶差分就是相距d期的两个序列值之间相减。如果一个时间序列经过差分运算后具有平稳性,则该序列为差分平稳序列,可以使用ARIMA模型进行分析。如果你对时间序列做d次差分才能得到一个平稳序列,那么可以使用ARIMA(p,d,q)模型,其中d是差分次数。

fig = plt.figure(figsize=(12,8))

ax1= fig.add_subplot(111)

diff1 = dta.diff(1)  #一阶差分序列转化

diff1.plot(ax=ax1)


图2 一阶、二阶差分后的时间序列趋势图

fig = plt.figure(figsize=(12,8))

ax2= fig.add_subplot(111)

diff2 = dta.diff(2)  #二阶差分序列转化

diff2.plot(ax=ax2)

      一阶差分的时间序列的均值和方差已经基本平稳,二阶差分后的时间序列与一阶差分相差不大,并且二者随着时间推移,时间序列的均值和方差保持不变。因此可以将差分次数d设置为1。

      稳定性的标准非常严格,可以通过两种方式判断。

    (1) 如果时间序列随着时间产生恒定的统计特征,根据实际目的我们可以假设该序列是稳定的。如下:

a. 恒定的平均数

b. 恒定的方差

c. 不随时间变化的自协方差

    (2)针对平稳的检验,叫“ADF单位根平稳型检验”,这是一种检查数据稳定性的统计测试。无效假设:时间序列是不稳定的。测试结果由测试统计量和一些置信区间的临界值组成。如果“测试统计量”少于“临界值”,我们可以拒绝无效假设,并认为序列是稳定的。本文暂时不做讨论,以后会更新。

4.3 确定合适的 q

经过第2步,我们已经得到了一个稳定的时间序列,现在需要获得p和q,从而确定选择使用哪种模型更合适。

4.3.1 绘制平稳时间序列的自相关图和偏自相关图。

dta= dta.diff(1)

fig = plt.figure(figsize=(12,8))

ax1=fig.add_subplot(211)

fig = sm.graphics.tsa.plot_acf(dta,lags=40,ax=ax1)   #lags代表阶数

ax2 = fig.add_subplot(212)

fig = sm.graphics.tsa.plot_pacf(dta,lags=40,ax=ax2)

图3 自相关图、偏相关图

通过观察图3中的acf图和pacf图,可以得到:

* 自相关图显示滞后有三个阶超出了置信边界(第一条线代表起始点,不在滞后范围内);

* 偏相关图显示在滞后1至7阶(lags 1,2,…,7)时的偏自相关系数超出了置信边界,从lag 7之后偏自相关系数值缩小至0

则有以下模型可以供选择:

1. ARMA(0,1)模型:即自相关图在滞后1阶之后缩小为0,且偏自相关缩小至0,则是一个阶数q=1的移动平均模型;

2. ARMA(7,0)模型:即偏自相关图在滞后7阶之后缩小为0,且自相关缩小至0,则是一个阶层p=7的自回归模型;

3. ARMA(7,1)模型:即使得自相关和偏自相关都缩小至零。则是一个混合模型。

4. …其他供选择的模型。

补充:(1) 分析得到的自相关图和偏自相关图,确定用AR(p)模型还是MA(q)模型亦或是ARMA(p,q)模型依据为

表1  ARMA模型定阶的基本原则

(2) 若都拖尾,得到ARMA(p,q)模型,自相关图有几个在两倍标准差之外就能确定p,偏自相关图突出两倍标准差的确定q。

4.3.2 模型选择/参数选择

对于上述可供选择的模型,通常采用AIC或者SBC来判断得到的p和q参数值的好坏。我们知道:增加自由参数的数目提高了拟合的优良性,AIC鼓励数据拟合的优良性但是尽量避免出现过度拟合(Overfitting)的情况。所以优先考虑的模型应是AIC值最小的那一个。赤池信息准则的方法是寻找可以最好地解释数据但包含最少自由参数的模型。不仅仅包括AIC准则,目前选择模型常用如下准则:

AIC=-2 ln(L) + 2 k 中文名字:赤池信息量 akaike information criterion

BIC=-2 ln(L) + ln(n)*k 中文名字:贝叶斯信息量 bayesian information criterion

HQ=-2 ln(L) + ln(ln(n))*k hannan-quinn criterion

SBC=-2*ln(模型中的极大似然函数值)+ln(n)(模型中的未知参数的个数)

SBC是对AIC的修正,并且这四个指标越小则表示模型参数越好。构造这些统计量所遵循的统计思想是一致的,就是在考虑拟合残差的同时,依自变量个数施加“惩罚”。但要注意的是,这些准则不能说明某一个模型的精确度,也即是说,对于三个模型A,B,C,我们能够判断出C模型是最好的,但不能保证C模型能够很好地刻画数据,因为有可能三个模型都是糟糕的。

在本文中ARMA(7,0)的aic,bic,hqic均最小,因此是最佳模型。

arma_mod20 = sm.tsa.ARMA(dta,(7,0)).fit()

print(arma_mod20.aic,arma_mod20.bic,arma_mod20.hqic)

4.4 模型检验

在指数平滑模型下,观察ARIMA模型的残差是否是平均值为0且方差为常数的正态分布(服从零均值、方差不变的正态分布),同时也要观察连续残差是否(自)相关。

4.4.1 自相关图

对ARMA(7,0)模型所产生的残差做自相关图。 

fig = sm.graphics.tsa.plot_acf(resid.values.squeeze(), lags=40, ax=ax1)

fig = sm.graphics.tsa.plot_pacf(resid, lags=40, ax=ax2)

图4 残差自相关、偏自相关图

4.4.2 D-W检验

德宾-沃森(Durbin-Watson)检验。德宾-沃森检验,简称D-W检验,是目前检验自相关性最常用的方法,但它只使用于检验一阶自相关性。因为自相关系数ρ的值介于-1和1之间,所以 0≤DW≤4。并且DW=O=>ρ=1   即存在正自相关性

DW=4<=>ρ=-1 即存在负自相关性

DW=2<=>ρ=0  即不存在(一阶)自相关性

因此,当DW值显著的接近于O或4时,则存在自相关性,而接近于2时,则不存在(一阶)自相关性。这样只要知道DW统计量的概率分布,在给定的显著水平下,根据临界值的位置就可以对原假设H0进行检验。

sm.stats.durbin_watson(arma_mod20.resid.values)

检验结果是2.02424743723,说明不存在自相关性。

4.5 模型预测

利用确定好的模型,预测未来十年的情况。

predict_sunspots = arma_mod20.predict('2090', '2100', dynamic=True)

print(predict_sunspots)

fig, ax = plt.subplots(figsize=(12, 8))

ax = dta.ix['2001':].plot(ax=ax)

predict_sunspots.plot(ax=ax)

前面90个数据为测试数据,最后10个为预测数据;从图形来,预测结果较为合理。

图5 历史数据与预测结果

参考文献资料

[1] ARIMA模型. 百度百科.

[2] 时间序列分析--ARIMA模型. http://blog.csdn.net/u013527419/article/details/52822666.

[3] [python] 时间序列分析之ARIMA. http://blog.csdn.net/u010414589/article/details/49622625.

[4] Arima预测模型(R语言). http://blog.csdn.net/desilting/article/details/39013825.

[5] Jonathan D. Cryer.时间序列分析及应用. 原书第二版. 

[6] ARIMA时间序列建模过程—步骤和python代码. http://www.jianshu.com/p/cced6617b423.


推荐阅读更多精彩内容

  • 本文结构: 时间序列分析? 什么是ARIMA? ARIMA数学模型? input,output 是什么? 怎么用?...
    不会停的蜗牛阅读 37,162评论 5 73
  • 时间序列简介 时间序列 是指将同一统计指标的数值按其先后发生的时间顺序排列而成的数列。时间序列分析的主要目的是根据...
    熙淺阅读 61,571评论 10 25
  • 也算是我自己的笔记,都2017年了,ARMA模型感觉已经过时了吧,用深度学习来预测的表现是不是更好,不过反正都研究...
    竹间为简阅读 52,970评论 17 63
  • 公式只能传图片?,好多公式都没写上,但是,不管有没有公式,写得一样无趣至极,在中国人民大学出版社出版的王燕编著的<...
    今天芒种阅读 8,300评论 0 10
  • 众所周知,时间序列的预测是需要假定在时间序列平稳随机过程的基础上,若为非平稳时间序列,容易造成对随机过程的伪回归,...
    enhengz阅读 537评论 0 0