ある時点の出力が過去の出力の線形結合として得られる場合,これを表すモデルを自己回帰(AR)モデルと呼ぶ。ARモデルでは考慮するラグ数を次数と呼ぶ。
過去は将来を予測するという直観に依拠しているので、ある時系列の時点tにおける値は、それ以前の時点の値の関数であると仮定する。([[実践 時系列解析]] 6.2.1)
1次のARモデル(AR(1)モデル)は次のように定式化できる。
$y_t=c+\phi_1y_{t-1}+\epsilon_t$, $\epsilon_t$〜 $W.N.(\sigma^2)$
ここで, $c$は切片,$\phi_1$は自己回帰係数、$e_{t}$は誤差項で、分散が一定で平均が 0 と仮定する。
### p次のARモデル(AR(p)モデル)
AR(1)モデルを一般化したp次のARモデル(AR(p)モデル)は以下の式で定義される.
$y_t=c+\phi_1y_{t-1}+\phi_2y_{t-2}+\cdots+\phi_py_{t-p}+\epsilon_t=c+\sum_{i=1}^p\phi_i y_{t-i}+\epsilon_t$, $\epsilon_t$〜 $W.N.(\sigma^2)$
AR(1)過程と同様に,AR(p)過程も常に定常になるとは限らない.AR(p)過程が定常であるとした場合の,期待値,分散,自己共分散,自己相関の性質をまとめると以下の通りである.
$\mu=\frac{c}{1-\phi_1-\phi_2-\cdots-\phi_p}=\frac{c}{1-\sum_{i=1}^p \phi_1}$
$\gamma_0=\frac{\sigma^2}{1-\phi_1\rho_1-\phi_2\rho_2-\cdots-\phi_p\rho_p}=\frac{\sigma^2}{1-\sum_{i=1}^p \phi_i \rho_i}$
自己共分散と自己相関は以下のp次差分方程式に従う
$\gamma_k=\phi_1\gamma_{k-1}+\phi_2\gamma_{k-2}+\cdots+\phi_p\gamma_{k-p}=\sum_{i=1}^p \phi_i \gamma_{k-i}$ $k\geqq1$
$\rho_k=\phi_1\rho_{k-1}+\phi_2\rho_{k-2}+\cdots+\phi_p\rho_{k-p}=\sum_{i=1}^p \phi_i \rho_{k-i}$ $k\geqq1$
重要なことは,AR(p)過程においてもAR(1)過程と同様に,ユール・ウォーカー方程式を用いて自己相関を求められることと,自己相関の絶対値は指数的に減衰することである.
### ARモデルの定常条件
AR(1)モデルの場合,モデルが定常性をもつ条件は[[定常性]]の定義から,$|\phi_1|<1$であることは明らかである.では,次数が2以上の場合の定常条件はどうなるかというのは直感的にはわからない.
AR(p)モデルの定常条件は,以下で表されるAR特性方程式を用いて述べることができる.
$1-\phi_1z-\cdots-\phi_pz^p=1-\sum_{i=1}^p \phi_i z^i=0$
具体的には,AR特性方程式の全ての解の絶対値が1より大きいとき,ARモデルは定常となることが知られている.このことは,AR(1)モデルの場合は,すぐに確認できる.
AR(1)モデルの特性方程式は,$1-\phi_1z=0$となるので,その解は$z=\frac{1}{\phi_1}$で与えられる.したがって,$|z|>1$となるのは,$|\phi_1|<1$であるため,これがAR(1)モデルの定常条件である.
### statsmodels
[Autoregressions — statsmodels](https://www.statsmodels.org/stable/examples/notebooks/generated/autoregressions.html)