# ウィーナーフィルタ Navigation: [[index]] | [[concepts/_index|concepts]] ## 定義 ウィーナーフィルタ(Wiener filter)とは、統計的平衡にある時系列(メッセージ)にノイズが重畳した「汚染されたメッセージ」の過去のみから、真のメッセージの値(過去・現在・未来)を平均二乗誤差最小の意味で最良に推定する線形演算子である。ウィーナーは『サイバネティクス』第 3 章で、ブラウン運動を基礎に構成される時系列(Eq. 3.34)についてこの演算子を導出した(Source: [[@1961__MITPress__Cybernetics - Chapter 3 Time Series, Information, and Communication]] ch.3 p.83-86)。 構成の骨子は次のとおりである。 1. メッセージとノイズの自己相関関数(あるいはそのフーリエ変換である既知のパワースペクトル $|k(\omega)|^2$)から出発する。 2. $|k(\omega)|^2$ から複素関数 $k(\omega)$ を一意に分解するには、対数振幅 $\log|k(\omega)|$ の実部から虚部(位相)をヒルベルト変換(Eq. 3.72)によって再構成し、$k(\omega)$ の核 $K(s)$ が負の引数でゼロになる(=過去のみに依存する)という**物理的実現可能性(因果性)**の制約を課す。この一意化の手続きがウィーナー―ホップ型の分解に相当する。 3. こうして得た $k(\omega)$ を用いて、最良の予測演算子(Eq. 3.88)および最良のフィルタ演算子(Eq. 3.913)を周波数領域の形で構成する。演算子はラグ(またはリード)$a$ を持ち、フィルタの平均二乗誤差は無限ラグの誤差項とラグに依存する項の和に分解でき、ラグの単調減少関数になる(Eq. 3.914–3.915)。 ウィーナーはこの演算子を「電気工学者が波形フィルタ(wave filter)として知るものの特性演算子」と位置づけ、予測はラグ(リード)がゼロのフィルタの特別な場合として扱われる。同じ理論は離散時系列にも移し替えられ(Eq. 3.939, 3.941)、逐次的な 1 ステップ予測によって線形予測問題全体を解く手続きが与えられる(Source: [[@1961__MITPress__Cybernetics - Chapter 3 Time Series, Information, and Communication]] ch.3 p.88-91)。 ウィーナー自身は、この理論が線形演算のみで達成できる最良の性能を与えるものであり、非線形の装置であればこれを上回る性能が一般に存在しうると明記している。また多重(多変量)時系列への拡張は、スカラー量が行列に置き換わり行列の非可換性のために難しくなるが、「Krein と著者によって少なくとも部分的に解かれた」とされる(Source: [[@1961__MITPress__Cybernetics - Chapter 3 Time Series, Information, and Communication]] ch.3 p.88)。 ## 横断的知見 - 第3章は自己相関からパワースペクトルを得る理論(パワースペクトル=自己相関のフーリエ変換)を、ノイズ除去フィルタの導出に必要な数学的道具として抽象的に導入するのに対し、第10章はまったく同じ理論を、脳波という具体的な物理過程からその自己相関を実測する装置の設計に用いる。第10章では、磁気テープに記録した信号を2つの再生ヘッドで読み、遅延τだけずれた $f(t)$・$f(t+\tau)$ の積を平均することで自己相関の値そのものを測定する(式10.01)。両章を並べると、第3章の自己相関はブラウン運動に基づく理論的構成物であるのに対し、第10章の自己相関は磁気テープという具体的な計測装置で得られる経験的な量であり、同一の数学的概念が「理論を構成する道具」と「実測を可能にする道具」の双方として使われていることが見える。(Source: [[@1961__MITPress__Cybernetics - Chapter 3 Time Series, Information, and Communication]], [[@1961__MITPress__Cybernetics - Chapter 10 Brain Waves and Self-Organizing Systems]] ch.10 pp.184-185) - 第10章はさらに、光学のMichelson干渉計が自己相関を測定する別種の物理的実装であることを指摘する。干渉計はビームを2経路に分けて再結合し、光度計の読みが $[f(t)+f(t+\tau)]^2$ に比例することから自己相関に比例する項を得る。磁気テープ相関計(電気信号の遅延・積・平均)とMichelson干渉計(光路差による光の遅延・重ね合わせ・強度測定)は、扱う物理量(電位と光強度)も装置の構成もまったく異なるにもかかわらず、いずれも「信号を時間的に遅延させた複製と重ね合わせ、その積(または重ね合わせの強度)を測る」という同一の数学的操作を物理的に実現している。第3章のヒルベルト変換による位相再構成が前提とする「既知のパワースペクトル $|k(\omega)|^2$」は、実務的にはこの2種の装置のような自己相関測定器によって初めて与えられる、という関係が両章の突き合わせで見える。(Source: [[@1961__MITPress__Cybernetics - Chapter 3 Time Series, Information, and Communication]], [[@1961__MITPress__Cybernetics - Chapter 10 Brain Waves and Self-Organizing Systems]] ch.10 pp.185-186) ## 未解決の問い - ウィーナー自身が「非線形予測・非線形フィルタ・非線形状況での情報伝送評価・希薄気体と乱流の理論」への拡張を「まだ達成されていない将来のプログラム」と明記している(ch.3 p.79-80)。この非線形拡張は後年どのような形で(例えばカルマンフィルタや現代の状態空間モデルとして)実現されたか。 - 多変量(多重時系列)版のウィーナー―ホップ型分解を「Krein と著者が部分的に解いた」とだけ述べられており、詳細は本章に記載がない。この多変量拡張の具体的な手法・適用範囲を裏づける一次資料は何か。 - 本章の理論は時系列の無限の過去についての完全な知識を前提とする。有限の観測窓しか持たない実務的な統計理論への拡張(ベイズ流か尤度理論流か)は、ウィーナー自身「他の者たちと着手し始めたところ」とだけ述べられている(ch.3 p.92)。この拡張は具体的にどの後続研究に結実したか。 - 現代の時系列予測・異常検知([[多変量時系列予測]] 等)の実務では、ウィーナーの因果的分解(ヒルベルト変換による位相再構成)に相当する制約はどのような形で扱われているか。既存 concept との突き合わせが必要。 ## 関連 - ソース: [[@1961__MITPress__Cybernetics - Chapter 3 Time Series, Information, and Communication]] / [[@1961__MITPress__Cybernetics - Chapter 10 Brain Waves and Self-Organizing Systems]] - 実体: [[ノーバート・ウィーナー]] / [[Cybernetics]] - 概念: [[サイバネティクス]] / [[定常性モデル]](時系列の定常性という前提を共有するが、適用領域は異なる。統計的な突き合わせは未実施) / [[自己組織化]](第10章で自己相関・パワースペクトルの理論が応用される先) ## 出典 - [[@1961__MITPress__Cybernetics - Chapter 3 Time Series, Information, and Communication]](予測演算子・フィルタ演算子の導出、離散時系列への移し替え) - [[@1961__MITPress__Cybernetics - Chapter 10 Brain Waves and Self-Organizing Systems]](自己相関の実測装置としての磁気テープ相関計・Michelson干渉計)