# 紹介: DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression Navigation: [[index]] | [[wiki/sources/@2026__TechReport__DeepSeek-V4.1-Flash - Pushing the Limits of KV Cache Compression|DeepSeek-V4.1-Flash Tech Report(source)]] 対応する source ページの配布用紹介文。Slack 等へ貼るための圧縮であり、source 本文の再要約ではない。 ## 紹介文 - 長期稼働エージェントの普及でLLMのワークロードは入力主体になり、prefillの計算コストとKVキャッシュのHBM/SSD容量・帯域の圧迫が新たなボトルネックになっている。 - DeepSeek-AIはDeepSeek-V4.1-Flashで、アーキテクチャ・精度・配備という3つのレベルを同時に最適化してこの課題に取り組む。 - Causal Encoder-Decoder(CED)構成でdecode時16B・prefill時8Bのパラメータだけを活性化し、prefillの計算量を約半分に削減する。 - レイヤー横断でKVとインデックスを再利用するCompressed Sparse Attention 2(CSA2)とFP4主KVキャッシュを組み合わせる。 - 配備時にはSWA Bounded Replayという最適化で、永続KVキャッシュを直近トークンだけの近似再生に置き換える。 - 552Bのバックボーンと196BのEngramパラメータを持ち、最大100万トークンに対応するマルチモーダルMoEモデルを45Tトークンで事前学習した。 - Terminal-Bench・DeepSWE・CyberGymなどのエージェント系ベンチマークと、RLステップに対するスケーリング挙動で評価している。 - グローバルKVキャッシュはトークンあたり890バイトまで圧縮され、前世代DeepSeek-V4-Flash比でグローバルKVは約1/4、永続KVは約1/8まで削減した。 - それでいて性能は前世代を一貫して上回り、DeepSWE v1.1で74.2%を達成しOpus-5やGPT-5.6 Solも上回った。 - KVキャッシュの大幅圧縮は3レベルの同時最適化があって初めて達成でき、事後学習側はアルゴリズムを増やさずデータ・環境合成パイプラインのスケールだけに投資したという。 - 一方でCSA2の選択誤りやSWA Bounded Replayの近似的な状態復元が、未検証の境界条件下で性能劣化を招きうる点は著者ら自身も認めている。 --- DeepSeek-AI (DeepSeek-AI), "DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression," TechReport, 2026. https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash ## 出典 - [[wiki/sources/@2026__TechReport__DeepSeek-V4.1-Flash - Pushing the Limits of KV Cache Compression|DeepSeek-V4.1-Flash Tech Report]]