# Neural Turing Machine ## 概要 Neural Turing Machine（NTM）は、[[DeepMind]]が2014年に発表した[[メモリ拡張ニューラルネットワーク]]である。ニューラルネットワークのコントローラを、読み書き可能な外部メモリ行列へ接続する。メモリ操作を連続値の注意重みとして表すため、コントローラとメモリ操作を一体として誤差逆伝播できる。(Source: [[@2026__30papers__Neural Turing Machines]]) ## 構成 - [[RNN]]またはフィードフォワードネットワークによるコントローラ - 複数行・固定幅の外部メモリ行列 - 凸結合で値を取得する読み出しヘッド - 消去と追加を行う書き込みヘッド - 内容アドレス指定と位置アドレス指定の複合機構 コピー、反復コピー、連想想起、動的N-gram、優先度付き整列の合成課題で評価され、通常の[[LSTM]]より訓練範囲外の長い系列へ汎化する挙動を示した。ただし、課題ごとに別モデルを訓練した予備実験であり、汎用プログラム実行器ではない。(Source: [[@2026__30papers__Neural Turing Machines]]) ## 関連 - 原典: [[@2026__30papers__Neural Turing Machines]] - 概念: [[メモリ拡張ニューラルネットワーク]] - 基盤モデル: [[RNN]] / [[LSTM]] - 組織: [[DeepMind]]