# ResNet ## 概要 ResNetは、[[Kaiming He]]らが[[Microsoft Research]]で提案した[[畳み込みニューラルネットワーク]]群である。各ブロックで変換結果に入力を足し戻す[[残差学習]]を採用し、層を増やすと訓練誤差まで悪化する劣化問題を緩和した。(Source: [[@2026__30papers__Deep Residual Learning for Image Recognition]]) ## 系列 - **ResNet-18 / ResNet-34**: 2層の基本残差ブロックを使う。 - **ResNet-50 / ResNet-101 / ResNet-152**: $1\times1$、$3\times3$、$1\times1$ 畳み込みのボトルネックブロックを使う。 - **CIFAR向けResNet-110 / ResNet-1202**: 極端な深さでも最適化可能性を検証した。 - **事前活性化ResNet-1001 / ResNet-200**: バッチ正規化とReLUを重み層の前へ移し、残差ユニット間の恒等経路を保つ。 ImageNetでResNet-152は単一モデルtop-5検証誤差4.49%を達成し、アンサンブルはILSVRC 2015分類で3.57%を記録した。ResNet-101を検出バックボーンへ転用すると、COCOのmAP@[.5,.95]はVGG-16の21.2から27.2へ改善した。(Source: [[@2026__30papers__Deep Residual Learning for Image Recognition]]) 完全事前活性化版は、CIFAR-10の1001層モデルで誤差4.62%を達成した。ImageNetでは初代ResNet-200のtop-1誤差21.8%に対して20.7%へ改善し、恒等ショートカットだけでなく加算後の経路も変換しないことの重要性を示した。(Source: [[@2026__30papers__Identity Mappings in Deep Residual Networks]]) ## 位置付け ResNetは、深さを増すこと自体ではなく、深いモデルを最適化可能にする接続設計が重要だと示した。ただし1202層モデルが110層より汎化性能で劣った結果から、残差接続は過学習を自動的に防ぐ仕組みではない。 ## 関連 - 原典: [[@2026__30papers__Deep Residual Learning for Image Recognition]] / [[@2026__30papers__Identity Mappings in Deep Residual Networks]] - 概念: [[残差学習]] - 著者: [[Kaiming He]] / [[Xiangyu Zhang]] / [[Shaoqing Ren]] / [[Jian Sun]] - 所属: [[Microsoft Research]]