# NTT NTT は、日本の通信事業・研究開発企業である。MPLS JAPAN 2025 では、デバイスイノベーションセンタの[[田仲顕至]]が、[[IOWN APN]] を用いた KV キャッシュ共有による LLM 推論高速化を発表した。(Source: [[@2025__MPLSJapan__A study on accelerating LLM inference using KV cache sharing with IOWN APN]]) 本資料では、LLM 推論需要増加と電力インフラ制約を背景に、小規模データセンターを分散配置し、IOWN All-Photonics Network でリクエストルーティングと KV キャッシュ共有を行う構想が示される。(Source: [[@2025__MPLSJapan__A study on accelerating LLM inference using KV cache sharing with IOWN APN]]) ## 関連 - 人物: [[田仲顕至]] - ネットワーク: [[IOWN APN]] - 概念: [[LLM推論]] / [[KVキャッシュ管理]] ## 出典 - [[@2025__MPLSJapan__A study on accelerating LLM inference using KV cache sharing with IOWN APN]]