信号解析　第７回　６月１２日

信号解析　第７回講義録

日時：２００６年６月１２日

講義内容：ARMAモデル

担当者：情報知能工学科　小島史男

1. はじめに

　さて中間小テストも終わり、これから後半の講義にはいります。今週はいよいよ時系列モデリングについて説明していきます。５月２２日の講義では最小自乗法と回帰モデルについて説明しました。そこでは、時系列の変動を説明変数と回帰係数を定めることにより、任意の曲線を最小自乗法により決定する方法を学習しました。また回帰モデルの適切な次元決定の方法として赤池の情報量基準(AIC)を紹介しました。この手順を復習するために、小テスト後の宿題をだしましたが、できましたでしょうか。よくわからなかった受講生は質問してください。ところで、回帰モデルによる時系列データのあてはめは確かにうまくいきましたが、前回紹介した手法では説明変数を適当な関数系列で与えただけで、そのモデルは予測などの重要な解析にはこのままでは使えません。今週はシステムの入力の時系列と出力の時系列を考慮した時系列モデルARMA過程について説明します。

2. 微分方程式とシステムダイナミクス

　ここでは、ARMA過程のはなしに入る前に、微分方程式について考えてみましょう。微分方程式は一般的に次の形で与えられます。

みなさんは数学で右辺の非線形関数がリプシッツの条件を満たすなら、一意の解が存在することを学習したはずです。工学的に大切なことは、現在時刻におけるシステムの状態と関数の構造がわかれば、この微分方程式で記述できるシステムは現在より将来の状態を完全に予測できることになります。このことを具体的な例題で考えてみましょう。確か初回の講義で説明した機械の振動モデルもしくは電気のLCR回路モデルをここでもう一度示すことにします。物理現象がわかりやすいように、ここではバネーダンパ系の機械振動モデル(Fig.1)を取り上げていきます。ばね定数、減衰係数、質量をとしたとき、時刻における変位をとします。このときニュートンの力の法則から

であることに留意すれば、以下の微分方程式を得ることができます。

ここでは外力を表します。この式は物理的には実験開始時は元の位置でじっとしている（初速）が、それ以降の外力さえわかれば、この時刻からさきの変位は完全にわかることになります。このシステムの入力は外力、また出力は変位ということになります。この微分方程式は線形ですので解析的に求めることができますが、これを差分に直して数値的に解くことを考えてみましょう。まず変位を離散時間系列と書くことにします。オイラー差分近似（後方差分）を用いると、さきほどの微分方程式は

と近似できます。ここではサンプリング時間です。これを整理すると

となります。この式により生成される信号は過去の２ステップ前までの出力信号と現在時刻の入力信号により決定されることがわかります。このように、物理現象のダイナミクス（動特性）は過去の状態の履歴を持ちます。時系列信号もこれと同様に記述することができます。

３. ARMAモデル

　前節で微分方程式の簡単な例題を示しましたが、その例題では与えられるデータはいつでも一意に決定されてしまいます。一方時系列信号の特徴は不規則性にあります。不規則な信号の特徴を簡潔に表現するモデルについて説明していきます。時系列信号を、白色雑音の時系列をとしたとき、

のことをARMAモデル(AutoRegressive Moving Average model)と呼びます。ここでは自己回帰の次数および自己回帰係数(AR coefficients)、または移動平均の次数および移動平均係数(MA coefficients)と呼びます。は平均分散の正規分布に従う白色雑音で、時系列の過去の信号とは独立と仮定します。つまりの統計的性質は

となります。式中のはクロネッカーデルタと呼ばれ以下の性質を持ちます。

このモデルには白色信号の線形和がはいっているのが特徴です。なおARMAモデルの特別なかたちとして、２つのモデルがあります。移動平均の次数をとするとこのモデルは、

となります。これを次の自己回帰モデル(AutoRegressive Model)、もしくはARモデルと呼びます。このモデルは取り扱いが簡単ですので工学や経済学の諸問題に広く応用されていますので、あとで詳しく学習していくことにします。また自己回帰の次数をとすると移動平均モデル(Moving Average Model)、もしくはMAモデル

が得られます。それでは以下にARMAモデルの性質を調べていくことにします。

４．ARMAモデルのインパルス応答

ARMAモデルに関してレジスタを使って表記すると

と簡単に表記することができます。このような多項式の表記はスペクトル解析の後半で学習しました。この式からARオペレータ、MAオペレータを以下のように定義します。

このとき、ARMAモデルの入出力関係は

と記述できます。このことから伝達関数は形式的にに関する無限級数

で表記できることになります。この伝達関数表示をもちいると、現在時刻の出力信号は

となります。つまり、ARMAモデルは無限次元のMAモデルで表現できることになります。この係数はARMAモデルのインパルス応答に相当します。具体的には

によって与えられます。AR係数、MA係数の次元を超えた部分では

です。このあたりはすでにスペクトル解析で学習していますので、いろいろなARMAモデルをつくって、そのインパルス応答を調べてみましょう。

５．ARMAモデルの自己共分散関数

　ARMAモデの自己共分散関数は、そのモデルの性質からきわめてきれいに求めることができます。そのためにまずモデルの両辺にを乗じて、その期待値をとってみます。

上式の右辺最終項は、ARMAモデルのインパルス応答によるMA表示と白色雑音の統計的性質より

が成立します。これを利用するとARMAモデルの自己共分散関数は

から計算することができます。結局ARMAモデルではAR次数および係数、MA次数および係数、および白色雑音の分散が与えられると、まずそこからインパルス応答を求めることにより、上記の自己共分散関数を求めていくことができます。特にARモデルの場合は明らかに

となって、インパルス応答を用いる必要がなくなり、すっきりした形になります。この式は特にYule-Walkerの方程式と呼び、ARモデルの推定問題に適用されます。このことは次週に説明します。ここでも、いろいろなモデルの共分散関数を求めてみましょう。

５．ARMAモデルのスペクトル

　ARMAモデルの自己共分散関数を求めたので、最後にスペクトルについても考えてみましょう。第３回の講義において、自己共分散関数の離散時間フーリエ変換(DTFT)の１周期分

をのパワースペクトル密度関数(power spectral density function)あるいは単にスペクトル(Spectrum)と呼ぶことを学習しました。前節で求めた自己共分散をこれに代入して計算しましょう。

ところで白色雑音の統計的性質とインパルス応答はであることに注意すれば

によって計算できることになります。上記の最終項の絶対値のなかはインパルス応答の離散時間フーリエ変換に相当します。ところで、

とおいて、伝達関数に代入すると

の関係式が得られます。この関係を用いるとARMAモデルのスペクトルは

であたえられます。結局ARMAのスペクトルはAR係数、MA係数の離散フーリエ変換と白色雑音の分散から計算できることになります。

宿題：以下の簡単な時系列モデルのインパルス応答、自己共分散関数およびスペクトルを求めてみましょう。

(1) ２次のARモデル

(2) ２次のMAモデル

(3) (2,2)次のARMAモデル

それぞれの問題を実際に公式にいれて計算してみてください。インパルス応答、自己共分散関数は２０までで結構です。またスペクトルは１周期の半分、すなわち0.5までを図示してください。ヒントとして、(3)の場合についてEXCEL上で解いた結果をだしておきますので、参考にしてください。公式を使えばわかりますが、次数はそれぞれ２までですので、ある段階までは解かねばなりませんが、ある次数以後は規則的となります。