# Calculon-MoE [[Jesmin Jahan Tithi]] らが開発した、MoE(Mixture-of-Experts)モデルの訓練性能をモデル化・予測する解析ツール。[[Isaev]] らの open-source [[Calculon]] フレームワーク(dense LLM のみ対応)を拡張し、MoE のゲーティング・エキスパート並列(EP)・エキスパートシャーディング(ES)・動的 All-to-All 通信・SwiGLU 活性化を追加でモデル化する。GitHub: https://github.com/HanjiangWu313/calculon-MoE 。128 GPU 規模の実測に対し平均予測誤差 4.6〜5.2% を達成し、65,536 GPU 規模までの co-design 感度分析(FullFlat 対 Two-tiered ネットワーク、HBD サイズ、HBM 容量・帯域幅など)に用いられた。(Source: [[@2026__ICS__Closing the Efficiency Gap - AI Datacenter Co-design Roadmap for Scalable Training of LLMs]]) ## 関連 - 本ソース: [[@2026__ICS__Closing the Efficiency Gap - AI Datacenter Co-design Roadmap for Scalable Training of LLMs]] - 開発者: [[Jesmin Jahan Tithi]]、[[Hanjiang Wu]]、[[Joongun Park]]、[[Avishaii Abuhatzera]]、[[Fabrizio Petrini]]、[[Tushar Krishna]] - 拡張元: [[Calculon]] - 関連概念: [[Mixture-of-Experts]]、[[AIデータセンタートポロジ]]、[[並列化戦略]]、[[集合通信]]