# SambaNova 再構成可能データフローアーキテクチャ (RDA; Reconfigurable Dataflow Architecture) を採用した AI アクセラレータ企業。Cerebras のフルオンチップ SRAM アプローチと異なり、オンチップ SRAM + HBM + DDR のハイブリッドメモリを組み合わせる。 ## DataScale SN40L - **RDU 数**: 16 (Reconfigurable Dataflow Units; PCU + PMU 構成) - **PCU / PMU**: 各 1,040 基、各 512 KB SRAM - **オフチップメモリ**: HBM 64 GB + DDR 786 GB / Node - **システム電力**: ~10 kW / ノード(推論時の RDU 平均) - **ランタイム**: SambaStudio Stack 24.6.1 - **バッチサイズ制約**: プリコンパイルアーティファクト方式(≤32) ## 性能特性 ALCF でのベンチマーク([[@2026__IPDPS__Beyond Throughput - Performance and Energy Insights of LLM Inference Across AI_Accelerators]])によると: - **Llama 3.1 8B, batch=1**: 2,024 tok/s (NVIDIA A100 比 9.41×) - **Llama 3.3 70B, batch=1**: 353 tok/s (4× NVIDIA A100 比 4.01×) - **ITL**: A100 比 **13.1× 短縮** (Llama 3.1 8B, batch=1: 0.90 ms 対 A100 11.83 ms) - **TTFT**: A100 比 **20% 改善** にとどまる(Llama 3.3 70B では A100 4枚 TP より TTFT が遅い) - **エネルギー効率**: 0.38 tok/J (Llama 3.1 8B) → Cerebras CS-3 より高いが GPU より低い ## 設計原理 Cerebras の完全オンチップ方式と GPU の HBM 方式の中間的ハイブリッド設計。PCU/PMU の大容量オンチップ SRAM でデータローカリティを向上させつつ、DDR で大規模モデルを収容する。Cerebras より電力効率が高いが小バッチ性能は下回る。