# 畳み込みニューラルネットワーク ## 定義 畳み込みニューラルネットワーク(Convolutional Neural Network; CNN、ConvNet)は、画像など格子状データの空間構造を利用するニューラルネットワークである。活性を幅・高さ・深さの三次元体積として扱い、各ニューロンを前層の局所領域へ接続し、同じフィルタの重みを空間位置間で共有する。局所接続は全結合によるパラメータ増加を避け、パラメータ共有は同じ特徴を異なる位置で検出する帰納的バイアスを与える。(Source: [[@2026__30papers__CS231n Convolutional Neural Networks for Visual Recognition]]) ## 基本構成 典型的な画像分類 CNN は次の要素を積み重ねる。 - **畳み込み層(CONV)**: 入力の局所受容野と学習可能フィルタの内積を各位置で計算し、フィルタごとの活性マップを作る。 - **活性化層(RELU)**: 要素ごとの非線形変換を加える。 - **プーリング層(POOL)**: 各深さスライスの空間サイズを縮小し、計算量と活性数を減らす。 - **全結合層(FC)**: 最終的なクラススコアを計算する。 最小例は `INPUT → CONV → RELU → POOL → FC` である。CONV・FC は学習可能パラメータを持ち、RELU・POOL は固定関数として働く。(Source: [[@2026__30papers__CS231n Convolutional Neural Networks for Visual Recognition]]) ## 畳み込み層 入力幅 $W$、フィルタ幅 $F$、ストライド $S$、ゼロパディング $P$ のとき、出力幅は $(W-F+2P)/S+1$ である。フィルタは空間方向には小さいが入力の深さ全体にまたがり、フィルタ数が出力の深さとなる。同じフィルタを出力の一つの深さスライス全体で共有するため、各位置に別々の重みを持つ場合よりパラメータ数を大幅に抑えられる。(Source: [[@2026__30papers__CS231n Convolutional Neural Networks for Visual Recognition]]) フィルタを深く積むと有効受容野が広がる。三つの $3 \times 3$ 畳み込み層は一つの $7 \times 7$ 畳み込み層と同じ空間範囲を覆いながら、層間の非線形性を増やし、同一チャネル数ならパラメータ数を $49C^2$ から $27C^2$ に減らせる。(Source: [[@2026__30papers__CS231n Convolutional Neural Networks for Visual Recognition]]) ## 密予測と膨張畳み込み 画像分類用 CNN のプーリングは空間サイズと計算量を減らすが、画素ごとの予測では位置情報の損失になる。[[膨張畳み込み]]はフィルタ係数を離れた入力位置へ適用し、特徴マップの解像度とパラメータ数を保ったまま受容野を広げる。分類網の後段プーリングを除き、その後のdilationを増やすことで、事前学習済みフィルタを密予測へ再利用できる。(Source: [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]]) ## 表現の階層と可視化 初期層は方向のあるエッジや色の塊など局所的特徴を、深い層はより複雑な形状を捉える。活性・フィルタ重み・最大活性化画像・t-SNE 埋め込み・遮蔽による確率変化を可視化することで、表現の収束状態や予測が依存する画像領域を調べられる。遮蔽によるヒートマップは、入力摂動に基づく[[帰属手法]]の一例である。(Source: [[@2026__30papers__CS231n Convolutional Neural Networks for Visual Recognition]]) ## 転移学習 大規模データセットで事前学習した CNN は、新しいタスクの固定特徴抽出器または微調整の初期値として再利用できる。初期層の特徴は比較的汎用的で、後段ほど元のデータセット固有になる傾向があるため、新しいデータセットの規模と類似性に応じて固定する層と微調整する層を選ぶ。(Source: [[@2026__30papers__CS231n Convolutional Neural Networks for Visual Recognition]]) ## 横断的知見 - CS231n は画像の空間構造に合わせた局所性・重み共有を CNN の効率性の根拠として説明する。一方、Transformer は系列変換で再帰と畳み込みを排し、任意位置間の依存を自己アテンションで直接結ぶ。両者の対比から、アーキテクチャ設計は「対象固有の局所性を強く埋め込む」方向と「全位置関係を柔軟に学習する」方向の間で帰納的バイアスを選択する問題だと分かる。(Source: [[@2026__30papers__CS231n Convolutional Neural Networks for Visual Recognition]], [[@2017__NeurIPS__Attention Is All You Need]]) - 2016 年版 CS231n が CNN・ResNet を視覚認識の中心に据える一方、現在の公式 CS231n は Transformer、自己教師あり学習、拡散モデル、CLIP、DINO まで課題範囲を拡張している。CNN は消滅したのではなく、現代のコンピュータビジョン教育における基礎的な表現学習層として残っている。(Source: [[@2026__30papers__CS231n Convolutional Neural Networks for Visual Recognition]], [[@2017__NeurIPS__Attention Is All You Need]]) - CS231nが通常の $3 \times 3$ 畳み込みを三層積んで $7 \times 7$ の受容野を得る設計を示すのに対し、膨張畳み込みはdilation 1、2の二層で同じ範囲へ到達し、三層目のdilation 4で $15 \times 15$へ広げる。受容野は層の深さだけでなく、各層のサンプリング間隔でも設計できる。(Source: [[@2026__30papers__CS231n Convolutional Neural Networks for Visual Recognition]], [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]]) - [[ResNet]]の実験では、バッチ正規化で勾配を保っても、深いplain networkは浅いモデルより訓練誤差が高くなった。CNNの深層化では、受容野や表現力だけでなく、[[残差学習]]のような接続構造が独立した最適化軸になる。一方、1202層ResNetが110層よりテスト誤差で劣ったことから、最適化可能な深さは汎化性能を自動的に保証しない。(Source: [[@2026__30papers__Deep Residual Learning for Image Recognition]]) ## 未解決の問い - CNN の局所性・平行移動に対する重み共有は、どの規模・種類の画像データで自己アテンションよりデータ効率に優れるか。 - CNN と視覚 Transformer のハイブリッドでは、局所受容野と大域的関係学習をどの段階で分担すべきか。 - 遮蔽・勾配・活性可視化が示す領域は、モデルの因果的な判断根拠とどこまで一致するか。 - 2016 年の転移学習則は、大規模な自己教師あり視覚モデルや視覚言語モデルにも同じ形で成立するか。 - 密予測において、膨張畳み込みの疎なサンプリングとエンコーダ・デコーダによる解像度回復は、どの対象尺度で優劣が入れ替わるか。 ## 関連 - ソース: [[@2026__30papers__CS231n Convolutional Neural Networks for Visual Recognition]] - 深層化: [[@2026__30papers__Deep Residual Learning for Image Recognition]]、[[ResNet]]、[[残差学習]] - 密予測: [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]]、[[膨張畳み込み]] - 比較対象: [[@2017__NeurIPS__Attention Is All You Need]] - 解釈: [[帰属手法]] - 人物: [[Yann LeCun]]、[[Fei-Fei Li]]、[[Andrej Karpathy]]、[[Justin Johnson]] ## 出典 - [[@2026__30papers__CS231n Convolutional Neural Networks for Visual Recognition]] - [[@2026__30papers__Multi-Scale Context Aggregation by Dilated Convolutions]] - [[@2026__30papers__Deep Residual Learning for Image Recognition]] - [[@2017__NeurIPS__Attention Is All You Need]]