# メッセージパッシングニューラルネットワーク ## 定義 メッセージパッシングニューラルネットワーク（Message Passing Neural Network、MPNN）は、[[グラフニューラルネットワーク]]を「近傍間のメッセージ計算」「ノード状態の反復更新」「グラフ全体の読み出し」という三要素で記述する共通枠組みである。Gilmer et al. (2017) が、分子フィンガープリント、GG-NN、Interaction Network、分子グラフ畳み込み、Deep Tensor Neural Network、ラプラシアン型手法など、既存の複数モデルを同じ形式へ整理した。(Source: [[@2026__30papers__Neural Message Passing for Quantum Chemistry]]) ## 基本形式 ノード$v$の時刻$t$の状態を$h_v^t$、隣接ノード集合を$N(v)$、エッジ特徴を$e_{vw}$とする。近傍からのメッセージを足し合わせ、更新関数へ渡す。 $ m_v^{t+1}=\sum_{w\in N(v)}M_t(h_v^t,h_w^t,e_{vw}) $ $ h_v^{t+1}=U_t(h_v^t,m_v^{t+1}) $ $T$回の伝播後、読み出し関数$R$が全ノード状態からグラフレベル予測を作る。 $ \hat{y}=R(\{h_v^T\mid v\in G\}) $ メッセージ関数$M_t$は「隣接ノードから何を送るか」、更新関数$U_t$は「受け取った情報を現在状態へどう統合するか」、読み出し関数$R$は「可変数のノード状態をどうグラフ全体の出力へ集約するか」を担う。(Source: [[@2026__30papers__Neural Message Passing for Quantum Chemistry]]) ## 対称性 近傍メッセージを和などの順序不変な演算で集約すると、ノード番号の付け替えに応じて各ノード状態も同じように付け替わる。これはノードレベルの置換同変性である。さらに読み出し$R$を和、平均、set2setのような順列不変関数にすれば、グラフレベル出力はノードの列挙順に依存しない。分子のように原子番号の付け方が物理特性を変えない対象に必要な帰納バイアスである。(Source: [[@2026__30papers__Neural Message Passing for Quantum Chemistry]]) ## 主な設計軸 - **グラフ構造**: 既知の疎な近傍だけを使うか、仮想エッジや完全グラフで長距離相互作用を許すか。 - **メッセージ関数**: 送信元状態だけか、エッジ種類・連続距離・送信先状態も使うか。 - **更新関数**: MLP、GRU、残差更新など、過去状態と集約メッセージをどう統合するか。 - **伝播回数**: $T$回の更新で到達できる範囲と、過平滑化・計算量の均衡。 - **読み出し**: 和による単純集約か、反復アテンションを使うset2setのような高容量集約か。 - **入力表現**: ノード・エッジへどの領域知識を与えるか。分子では原子種類、結合種類、距離、水素の明示化が性能を左右する。 (Source: [[@2026__30papers__Neural Message Passing for Quantum Chemistry]]) ## 計算量と到達範囲 $T$回の局所メッセージパッシングでは、一つのノードが取り込める情報は原則として$T$ホップ以内に限られる。仮想エッジ、マスターノード、大域読み出しは到達距離を短くできるが、密グラフでは1回の伝播が$O(n^2d^2)$となりうる。複数タワーへ$d$次元状態を分割する変種は、計算量を$O(n^2d^2/k)$へ下げるが、タワー間の混合と訓練安定性が新たな設計要因になる。(Source: [[@2026__30papers__Neural Message Passing for Quantum Chemistry]]) ## 横断的知見 - **[[Relation Network]]は、完全グラフ上で一度だけ関係メッセージを集約するMPNNの極端な構成として読める**: RNは全オブジェクト順序対へ共有関数を適用し、辺表現を一度に加算してグラフ全体の出力を作る。MPNNは既知の近傍を使ってノード状態を$T$回更新し、最後に読み出す。両者は共有関数と順序不変集約を共通に持つが、RNは構造が未知なら全対を候補にする一段の関係計算、MPNNは入力グラフ上で複数ホップを伝播する反復計算である。(Source: [[@2026__30papers__A Simple Neural Network Module for Relational Reasoning]], [[@2026__30papers__Neural Message Passing for Quantum Chemistry]]) - **set2setは、集合表現の順列不変性をグラフ読み出しへ持ち込む橋になる**: Order Mattersは可変長の集合を内容ベースアテンションで反復的に読むset2setを提示した。MPNNは同じ読み出しを最終ノード状態の集合へ適用し、単純和より表現力の高いグラフレベル埋め込みを得た。ノード更新の置換同変性と、集合読み出しの置換不変性を別部品として組み合わせられる。(Source: [[@2026__30papers__Order Matters Sequence to Sequence for Sets]], [[@2026__30papers__Neural Message Passing for Quantum Chemistry]]) - **2017年のMPNNはGNNの共通構造を整理し、後続研究はその部品を領域別に高度化した**: MPNN論文は複数の既存モデルを$M$、$U$、$R$へ分解し、分子特性予測で設計比較を行った。2024年のGNN研究動向では、コア技術は成熟し、分子基盤モデル、同変性、物理シミュレーション、時系列などへ応用が拡大している。枠組みの価値は単一の最良モデルを固定することではなく、領域の対称性・相互作用・出力粒度に合わせて三部品を比較できる点にある。(Source: [[@2026__30papers__Neural Message Passing for Quantum Chemistry]], [[joisino-ICLR-2024-GNN]]) ## 未解決の問い - 訓練時より大きいグラフへ外挿するとき、局所伝播、仮想エッジ、マスターノード、アテンションのどれが最も安定して計算量を抑えられるか。 - 伝播回数を増やしたときの長距離情報獲得と、過平滑化・勾配劣化の均衡をどう自動調整するか。 - エッジネットワークの連続距離表現を、回転・並進に対する[[GNN同変性]]と組み合わせると、三次元分子特性のデータ効率はどこまで改善するか。 - 共同マルチタスク学習が特性別学習より悪化する条件を、特性間の物理的関係と勾配干渉から予測できるか。 - 手設計入力特徴と学習済みメッセージ関数の境界をどこに置けば、精度を保ちながら未知の原子種・結合・分子サイズへ汎化できるか。 ## 関連 - 上位概念: [[グラフニューラルネットワーク]] - 対称性と読み出し: [[集合の順列不変表現]] - 全対相互作用: [[Relation Network]] - 分子特性ベンチマーク: [[QM9]] - 原典: [[@2026__30papers__Neural Message Passing for Quantum Chemistry]] ## 出典 - [[@2026__30papers__Neural Message Passing for Quantum Chemistry]](Justin Gilmerほか、2017) - [[@2026__30papers__A Simple Neural Network Module for Relational Reasoning]] - [[@2026__30papers__Order Matters Sequence to Sequence for Sets]] - [[joisino-ICLR-2024-GNN]]