# Rohan Varma [[Meta|Meta Platforms]] のエンジニアで、[[FT-HSDP]] 論文([[@2026__arXiv__Training LLMs with Fault Tolerant HSDP on 100,000 GPUs]])の共著者。参考文献 [23]「PyTorch distributed: experiences on accelerating data parallel training」(Shen Li・Yanli Zhao・Rohan Varma・Omkar Salpekar ほか、VLDB 2020)の著者としても名を連ねており、PyTorch の分散データ並列(DDP)訓練の研究に早くから関わっている。(Source: [[@2026__arXiv__Training LLMs with Fault Tolerant HSDP on 100,000 GPUs]]) ## 関連 - ソース: [[@2026__arXiv__Training LLMs with Fault Tolerant HSDP on 100,000 GPUs]] - エンティティ: [[Meta]] / [[Omkar Salpekar]] / [[Chunqiang Tang]] / [[Maxim Naumov]] / [[FT-HSDP]] / [[PyTorch]] - 概念: [[耐障害LLM訓練]] / [[LLM分散学習]] / [[ZeROパラメータシャーディング]] ## 出典 - [[@2026__arXiv__Training LLMs with Fault Tolerant HSDP on 100,000 GPUs]](共著者)