# StepMesh [[StepFun]] が [[Step-3]] の Attention-FFN Disaggregation(AFD)向けに開発した通信ライブラリ。GPUDirect RDMA に基づき、超低レイテンシ・ゼロ GPU SM 使用・柔軟な通信を特徴とする。AFD の 3 段パイプラインが要求する 272µs 以内の FP8 トークン・スケール・エキスパート分配・BF16 活性化の伝送を、既存の NCCL・DeepEP のような汎用通信ライブラリでは満たせないことから開発された。非同期 API と専用スレッド、CPU 上での通信処理実行(RDMA PostSend 等)、事前登録済みテンソルによるゼロコピー通信を備え、AFTensorWorker API(attention 側)・AFTensorServer API(FFN 側)の下に RDMATransport・CPUBackend・GPUBackend・xPUBackend を持つ拡張可能な設計で、複数種のアクセラレータをバックエンドとして統合できる。GitHub で公開されている(`stepfun-ai/StepMesh`)。(Source: [[@2025__arXiv__Step-3 is Large yet Affordable - Model-system Co-design for Cost-effective Decoding]]) ## 関連 - エンティティ: [[StepFun]](開発元) / [[Step-3]](適用先モデル) - 概念: [[RDMA]] - ソース: [[@2025__arXiv__Step-3 is Large yet Affordable - Model-system Co-design for Cost-effective Decoding]]