# 膨張畳み込み ## 定義 膨張畳み込み(dilated convolution、atrous convolution)は、畳み込みフィルタの係数を一定間隔で入力へ適用する演算である。離散特徴マップ $F$、フィルタ $k$、dilation factor $l$ に対して次で定義され、$l=1$ は通常の畳み込みとなる。(Source: [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]]) $ (F *_l k)(p)=\sum_{s+lt=p}F(s)k(t) $ ## 受容野と計算特性 $3 \times 3$ フィルタを dilation 1、2、4で順に適用すると、各層の受容野は $3 \times 3$、$7 \times 7$、$15 \times 15$へ広がる。フィルタ係数の個数と出力解像度は変わらないため、dilationを指数的に増やす層列では、パラメータ数は層数に対して線形に増え、受容野は指数的に拡大する。(Source: [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]]) 通常の小さい畳み込みを深く積むことでも受容野は広がるが、各層で隣接位置を密に参照する。膨張畳み込みは、フィルタのサンプリング間隔を変えることで、同じ解像度とパラメータ数のまま一層あたりの到達範囲を制御する。(Source: [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]], [[@2026__30papers__CS231n Convolutional Neural Networks for Visual Recognition]]) ## 密予測での役割 セマンティックセグメンテーションなどの密予測は、境界を保つ高解像度の特徴と、物体・場面を識別する広域文脈を同時に必要とする。プーリングやストライドで解像度を下げずにdilationを大きくすれば、特徴マップを同じ格子上に保ったまま複数スケールの情報を集約できる。(Source: [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]]) 分類用 CNN からプーリング層を取り除く場合、その後の畳み込みの dilation を、除去したダウンサンプリング倍率に合わせて増やすと、事前学習済みフィルタを再利用しつつ元の受容範囲を保てる。これは分類アーキテクチャを密予測へ変換する設計手段でもある。(Source: [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]]) ## 初期化 提案論文の文脈モジュールは、前段の予測をほぼそのまま通す恒等写像に近い初期化を用いた。無作為初期化では学習に失敗したため、既存の予測器へ後付けする多層文脈モジュールでは、初期状態で入力を破壊しないことが最適化上重要である。(Source: [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]]) ## 横断的知見 - **『ディープラーニングを支える技術〈2〉』第3章のWaveNet(自己回帰モデルの文脈)は、本ページが扱う密予測の文脈とは逆方向の制約(過去方向のみ)でDilated Convolutionを使う**: 本ページのYu & Koltun(密予測)は将来・過去の両方向にdilationを広げ、プーリングを使わずに解像度を保ったまま双方向の広域文脈を集約する。これに対し[[自己回帰モデル]]のWaveNetは、自己回帰モデルが要求する「未来の情報にアクセスしない」という制約(Causal CNNのマスクと同じ発想)のもとでDilated Convolutionを使い、過去方向にのみ指数的に受容野を広げる。d=2の場合、1層めが1つ隣、2層めが2つ隣、3層めが4つ隣という同じ等比数列的な拡張パターンが両ソースで使われているが、片方は双方向・非因果的(non-causal)、もう片方は片方向・因果的(causal)という点で応用先が要求する制約が異なる。これは、Dilated Convolutionという演算自体は方向に依存しない汎用の受容野拡大手法であり、因果性(未来の情報を使わないという制約)は演算そのものではなくマスクの設計によって別途課されることを示す。(Source: [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]], [[@2022__Gihyo__ディープラーニングを支える技術〈2〉 - Chapter 3 深層生成モデル]] §3.4) - CS231n は通常の $3 \times 3$ 畳み込みを三層積むと $7 \times 7$ の範囲を覆うと説明する。YuとKoltunはdilation 1、2の二層ですでに $7 \times 7$、さらにdilation 4の三層目で $15 \times 15$へ到達することを示す。両者の対比から、受容野の設計は「深さだけで密に広げる」か「サンプリング間隔も変えて速く広げる」かの選択であると分かる。(Source: [[@2026__30papers__CS231n Convolutional Neural Networks for Visual Recognition]], [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]]) - CS231nの分類用CNNではプーリングが計算量と活性数を減らす一方、密予測論文では最後のプーリングを除くこと自体が精度向上につながった。したがって、ダウンサンプリングはCNNの普遍的要件ではなく、出力の空間粒度に応じて選ぶ設計変数である。(Source: [[@2026__30papers__CS231n Convolutional Neural Networks for Visual Recognition]], [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]]) ## 未解決の問い - dilationを規則的に大きくしたときの疎なサンプリングは、細い物体や周期的テクスチャの連続性へどのような誤差を生むか。 - dilation schedule、チャネル数、モジュール深さを、対象物の尺度分布に応じてどう選ぶべきか。 - 恒等写像に近い初期化への依存は、残差接続や正規化を含む現代的な構成でどこまで緩和できるか。 - 膨張畳み込み、エンコーダ・デコーダ、自己アテンションは、解像度・計算量・大域文脈の条件ごとにどう使い分けるべきか。 - WaveNetの因果的(causal)Dilated Convolutionと、密予測の非因果的Dilated Convolutionは同じ等比数列的な受容野拡大パターンを共有するが、この対応は偶然の一致か、それとも「指数的な受容野拡大」という設計原理が方向性の制約と独立に最適であることを示すものか。両ソースともこの一般化には触れていない。 ## 関連 - 原論文: [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]] - 基礎: [[畳み込みニューラルネットワーク]] - 著者: [[Fisher Yu]]、[[Vladlen Koltun]] - concept: [[自己回帰モデル]](WaveNetでの因果的な応用) - source: [[@2022__Gihyo__ディープラーニングを支える技術〈2〉 - Chapter 3 深層生成モデル]] ## 出典 - [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]] - [[@2026__30papers__CS231n Convolutional Neural Networks for Visual Recognition]] - 岡野原大輔, 『ディープラーニングを支える技術〈2〉 ニューラルネットワーク最大の謎』, 技術評論社, 2022, 第3章, §3.4.