# 膨張畳み込み ## 定義 膨張畳み込み(dilated convolution、atrous convolution)は、畳み込みフィルタの係数を一定間隔で入力へ適用する演算である。離散特徴マップ $F$、フィルタ $k$、dilation factor $l$ に対して次で定義され、$l=1$ は通常の畳み込みとなる。(Source: [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]]) $ (F *_l k)(p)=\sum_{s+lt=p}F(s)k(t) $ ## 受容野と計算特性 $3 \times 3$ フィルタを dilation 1、2、4で順に適用すると、各層の受容野は $3 \times 3$、$7 \times 7$、$15 \times 15$へ広がる。フィルタ係数の個数と出力解像度は変わらないため、dilationを指数的に増やす層列では、パラメータ数は層数に対して線形に増え、受容野は指数的に拡大する。(Source: [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]]) 通常の小さい畳み込みを深く積むことでも受容野は広がるが、各層で隣接位置を密に参照する。膨張畳み込みは、フィルタのサンプリング間隔を変えることで、同じ解像度とパラメータ数のまま一層あたりの到達範囲を制御する。(Source: [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]], [[@2026__30papers__CS231n Convolutional Neural Networks for Visual Recognition]]) ## 密予測での役割 セマンティックセグメンテーションなどの密予測は、境界を保つ高解像度の特徴と、物体・場面を識別する広域文脈を同時に必要とする。プーリングやストライドで解像度を下げずにdilationを大きくすれば、特徴マップを同じ格子上に保ったまま複数スケールの情報を集約できる。(Source: [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]]) 分類用 CNN からプーリング層を取り除く場合、その後の畳み込みの dilation を、除去したダウンサンプリング倍率に合わせて増やすと、事前学習済みフィルタを再利用しつつ元の受容範囲を保てる。これは分類アーキテクチャを密予測へ変換する設計手段でもある。(Source: [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]]) ## 初期化 提案論文の文脈モジュールは、前段の予測をほぼそのまま通す恒等写像に近い初期化を用いた。無作為初期化では学習に失敗したため、既存の予測器へ後付けする多層文脈モジュールでは、初期状態で入力を破壊しないことが最適化上重要である。(Source: [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]]) ## 横断的知見 - CS231n は通常の $3 \times 3$ 畳み込みを三層積むと $7 \times 7$ の範囲を覆うと説明する。YuとKoltunはdilation 1、2の二層ですでに $7 \times 7$、さらにdilation 4の三層目で $15 \times 15$へ到達することを示す。両者の対比から、受容野の設計は「深さだけで密に広げる」か「サンプリング間隔も変えて速く広げる」かの選択であると分かる。(Source: [[@2026__30papers__CS231n Convolutional Neural Networks for Visual Recognition]], [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]]) - CS231nの分類用CNNではプーリングが計算量と活性数を減らす一方、密予測論文では最後のプーリングを除くこと自体が精度向上につながった。したがって、ダウンサンプリングはCNNの普遍的要件ではなく、出力の空間粒度に応じて選ぶ設計変数である。(Source: [[@2026__30papers__CS231n Convolutional Neural Networks for Visual Recognition]], [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]]) ## 未解決の問い - dilationを規則的に大きくしたときの疎なサンプリングは、細い物体や周期的テクスチャの連続性へどのような誤差を生むか。 - dilation schedule、チャネル数、モジュール深さを、対象物の尺度分布に応じてどう選ぶべきか。 - 恒等写像に近い初期化への依存は、残差接続や正規化を含む現代的な構成でどこまで緩和できるか。 - 膨張畳み込み、エンコーダ・デコーダ、自己アテンションは、解像度・計算量・大域文脈の条件ごとにどう使い分けるべきか。 ## 関連 - 原論文: [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]] - 基礎: [[畳み込みニューラルネットワーク]] - 著者: [[Fisher Yu]]、[[Vladlen Koltun]] ## 出典 - [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]] - [[@2026__30papers__CS231n Convolutional Neural Networks for Visual Recognition]]