# 実行トレース ## 定義 実行トレース(Execution Trace, ET)とは、分散AI/MLワークロードの計算・メモリ・通信操作とそれらの間の制御・データ依存関係、タイミング、リソース制約を記録したグラフベースの標準表現である。命令トレースやメモリトレースがCPU/サーバー性能解析に用いられてきたのと同様の発想を分散MLワークロードへ拡張したものであり、モデルの重みやデータセットの詳細を開示せずに、企業・組織間でワークロードの性能挙動を共有できるよう設計される。有向非巡回グラフ(DAG)として表現され、ノードが操作(compute/memory/communication)、エッジが依存関係(control/data/synchronization)を表す。(Source: [[@2026__MLSys2026__MLCommons Chakra - Advancing Performance Benchmarking and Co-design using Standardized Execution Traces]]) ## 横断的知見 - **実行トレースは「協調設計の交換フォーマット」だけでなく「ベンチマークの一次成果物」としても機能しうる**: [[MLCommons Chakra]]がpre-execution/post-executionトレースを協調設計(co-design)研究のための標準交換フォーマットとして提案するのに対し、[[CCL-Bench]]([[@2026__arXiv__CCL-Bench 1.0 - A Trace-Based Benchmark for LLM Infrastructure]])はほぼ同種のトレース(Kineto/XLA JSON)を「要約統計量に代わるベンチマーク投稿の一次成果物」として再定義し、ワークロードカード・起動スクリプトと組み合わせることで事後的なメトリクス拡張を可能にした。同じ実行トレースという表現が、協調設計の共有言語としてもベンチマークの検証可能なエビデンスとしても機能するという二重の役割を持つことが、独立した2つの研究系譜から確認された。(Source: [[@2026__MLSys2026__MLCommons Chakra - Advancing Performance Benchmarking and Co-design using Standardized Execution Traces]], [[@2026__arXiv__CCL-Bench 1.0 - A Trace-Based Benchmark for LLM Infrastructure]]) - **実測トレース→Chakra ET変換→シミュレータ投入という「trace-driven what-if analysis」パイプラインが、シミュレーションの経験的較正ギャップを埋める具体的経路として実演された**: CCL-BenchはKineto(GPU)/XLA(TPU)の実測トレースを、計算カーネル→COMP_NODE・collective→COMM_COLL_NODE・アイドル区間→gapノードというChakra ETの語彙へ変換し、[[ASTRA-sim]]に投入して実測計算挙動を保持したままネットワークパラメータのみを変化させるwhat-if分析を行った。これはChakra論文自身が示唆する「simulation/emulation」用途の具体的な適用事例であり、256GPU規模のDeepSeek-V3-236Bトレースへの適用では、ネットワーク資源(scale-upドメイン・帯域幅)を大幅増強してもoverlapされる通信の割合の改善が逓減することを実証した。(Source: [[@2026__arXiv__CCL-Bench 1.0 - A Trace-Based Benchmark for LLM Infrastructure]]) - **GPU(Kineto)とTPU(XLA)は同じChrome-trace JSONコンテナ形式を共有しながら、タイムスタンプ単位・FLOPs報告・ステップ境界・collective命名・memory-transferイベント・ストリームモデルの6点で意味論が異なり、クロスプラットフォーム比較には明示的な単位変換とバックエンド分岐が必須である**: CCL-Benchのメトリクスツール(MFU・memory transfer overhead・compute-communication overlap)はいずれもGPU/TPUバックエンドを個別実装し、この差異を吸収した上でクロスアーキテクチャ比較(A100 GPU vs. TPU v6e)を可能にしている。「実行トレース」を単一の標準表現として扱う議論に対し、実装レベルでは「同一フォーマット、異なる意味論」という現実的な複雑さが存在することを示す。(Source: [[@2026__arXiv__CCL-Bench 1.0 - A Trace-Based Benchmark for LLM Infrastructure]]) ## 未解決の問い - 実行トレースを「ベンチマークの一次成果物」として大規模に運用する場合(CCL-Bench)、トレース自体に含まれる機密情報(クラスタトポロジ・演算子シーケンス・構成選択)をどう匿名化しつつ、監査可能性を維持するか。metric-only submission(生トレースを公開せずメトリクス値のみ提出)は部分解に留まる。 - pre-execution(合成生成・コンパイラ抽出)トレースとpost-execution(実測)トレースは、協調設計サイクルのどの段階でどちらを優先すべきか。両者を同一DAG内で混在させる設計は可能か。 - NPU/ランクごとに独立したトレースファイルを持つ現在の設計は、グローバルスケジューリング(ランクを跨いだ作業再割当)の機会を制限する。この制約を解消しつつ、収集・リプレイの単純さを維持する設計は可能か。 - ギガバイト単位に達する大規模トレースに対して、忠実性を犠牲にしない無損失圧縮・階層インデックス方式はどのように設計すべきか。 - Chakra ETをKVCache・データローダ・チェックポイント操作へ拡張する試みは、推論とストレージベンチマーク双方でどのような新たなノード種別・依存関係の再定義を要求するか。 - 実行トレースベースの性能ベンチマーキングは、機密保持契約なしのワークロード共有をどこまで実現できるか。モデル詳細を開示しないという設計目標と、再現性・検証可能性というベンチマークの目標は、どこまで両立するか。 ## 関連 - ソース: [[@2026__MLSys2026__MLCommons Chakra - Advancing Performance Benchmarking and Co-design using Standardized Execution Traces]] / [[@2026__arXiv__CCL-Bench 1.0 - A Trace-Based Benchmark for LLM Infrastructure]] - エンティティ: [[MLCommons Chakra]] / [[ASTRA-sim]] / [[MLCommons]] / [[Georgia Institute of Technology]] / [[NVIDIA]] / [[AMD]] / [[vLLM]] / [[CCL-Bench]] / [[Cornell University]] - 概念: [[LLM基盤ベンチマーク]] - 関連 MOC: [[分散深層学習 - MOC]] ## 出典 - [[@2026__MLSys2026__MLCommons Chakra - Advancing Performance Benchmarking and Co-design using Standardized Execution Traces]](Chakra ETのスキーマ設計、Trace Linker/Converter、trace analysis/replay/simulation用途、MLSys 2026 Oral) - [[@2026__arXiv__CCL-Bench 1.0 - A Trace-Based Benchmark for LLM Infrastructure]](実測トレースをベンチマークの一次成果物とし、Chakra ET変換を介したtrace-driven what-if analysisパイプラインを構築)