# FlashInfer ## 概要 FlashInfer(Ye et al., arXiv:2501.01005)は、LLM推論サービング向けの効率的でカスタマイズ可能なアテンションエンジンである。[[@2026__arXiv__FlashInfer-Bench - Building the Virtuous Cycle for AI-driven LLM Systems]] では、AI生成カーネルの性能比較対象となるSOTAカーネルライブラリのベースラインとして採用されている(対応するFlashInferカーネルが存在しない場合はPyTorchを代替使用)。同論文の `flashinfer_bench.apply()` は FlashInfer との第一級統合を提供し、環境変数 `FIB_ENABLE_APPLY=1` を設定するだけでコード変更なしに検証済みカーネルへのルーティングを有効化できる。(Source: [[@2026__arXiv__FlashInfer-Bench - Building the Virtuous Cycle for AI-driven LLM Systems]]) ## 関連 - 概念: [[LLM駆動GPUカーネル生成]] - エンティティ: [[Zihao Ye]] / [[Tianqi Chen]] / [[Luis Ceze]] / [[SGLang]] / [[vLLM]] - ソース: [[@2026__arXiv__FlashInfer-Bench - Building the Virtuous Cycle for AI-driven LLM Systems]]