# SAKURAONE [[SAKURA Internet]] Research Center が開発・運用するマネージド HPC クラスタ。KOKARYOKU PHY のベアメタル GPU プラットフォーム上に構築され、LLM 訓練を含む先進的なワークロードに最適化される。([[@2026__MLSys2026__SAKURAONE - An Open Ethernet-Based AI HPC System]]) - **構成**: 100 計算ノード × NVIDIA H100 SXM 80GB × 8 = 800 GPU。各ノードは Intel Xeon Platinum 8580+ × 2、DDR5 1.5 TB。共有オールフラッシュ Lustre 2 PB(DDN ES400NVX2-NDR200 × 4)。 - **ネットワーク**: rail-optimized leaf–spine、800 GbE(2× 400 GbE)、RoCEv2。Edgecore AIS800-64O(Broadcom Tomahawk 5、51.2 Tb/s)上で [[SONiC]] を運用。トップ 100 で唯一のフルオープンなネットワーキングスタック。 - **実績**: ISC 2025 TOP500 で HPL 49 位。HPL 33.95 PFLOP/s、HPCG 396.295 TFLOP/s、HPL-MxP(FP8)339.86 PFLOP/s。 - **運用**: 2024 年 6 月〜2025 年 3 月に日本語の medical-LLM プロジェクト(CPT + ファインチューニング)を単一テナントで排他運用。 - **2025 年末時点の講演資料上の位置づけ**: 第一クラスタ(H100 100 ノード)、第二クラスタ CYC(H200 55 ノード)、第三クラスタ CYB(B200 48 ノード)の 3 クラスタ構成として説明される。講演資料では、GPT-3 175B 事前学習の MLPerf Training 型ベンチマークで 32 ノード 105.310 分、96 ノード 41.862 分、MFU 38.3%/35.9% を示し、OTel + Grafana によるリソース分析と GPU/RDMA 可観測性の課題も扱う。文字起こしの Q&A では、LLM 開発で最高性能より安定に完走できる構成が選ばれる場合があること、故障時はリザーブドノードによる代替とチェックポイント復旧が現実的な運用境界になることも補足される。([[@2025__SpeakerDeck__AIスーパーコンピュータにおけるLLM学習処理性能の計測と可観測性]]) - **2025 年 O11yCon Tokyo 2025 でのオブザーバビリティ講演**: [[@2025__O11yConTokyo2025__AIスパコン「さくらONE」のオブザーバビリティ]] では、さくらONE のオブザーバビリティ基盤の具体構成として、100 GPU ノード上に DCGM Exporter・Node Exporter・Lustre Exporter・IPMI Exporter・RDMA Exporter(自作)を配し、OTeL Collector Agent → Gateway → VictoriaMetrics / VictoriaLogs / Pyroscope → Grafana のパイプラインを構築していることが開示された。ダッシュボードは HPE Clusterview による空間ビュー、時系列ビュー、Slurm ジョブ履歴のガントチャートの 3 形態を持つ。クラウドネイティブ分野との「オブザーバビリティギャップ」が 3 つ（学習処理性能のボトルネック特定・アプリかインフラかの問題切り分け・マイクロバーストモニタリング）に整理され、eBPF による GPU ゼロコード計装と [[R-Pingmesh]] による RoCE ネットワーク常時監視で解消を目指すとされる。 ## 関連 - 本ソース: [[@2026__MLSys2026__SAKURAONE - An Open Ethernet-Based AI HPC System]] / [[@2025__SpeakerDeck__AIスーパーコンピュータにおけるLLM学習処理性能の計測と可観測性]] / [[@2025__O11yConTokyo2025__AIスパコン「さくらONE」のオブザーバビリティ]] - 開発・運用: [[SAKURA Internet]] - 採用技術: [[SONiC]] - 関連概念: [[オープンネットワーキング]] / [[GPUクラスタ運用]] / [[LLM分散学習]] - 関連 MOC: [[HPC - MOC]] / [[Network - MOC]]