# Lustre Unveiled ## 概要 [[wiki/entities/Lustre|Lustre]] のアーキテクチャ・設計原則・機能進化・他システムとの比較・実運用実績・将来展望を単一の文献に統合した 109 ページのサーベイである。断片的で古い既存文献のギャップを埋め、現世代と将来世代に向けた教育的リファレンスを提供することを目的とする。初のエクサスケールスパコン [[Frontier]] の Lustre ファイルシステム [[Orion]] の実アーキテクチャと運用データを公開した点でも一次資料としての価値を持つ。 > [!abstract] 概要(abstract の日本語訳) > Lustre ファイルシステムは高性能並列ストレージの重要な構成要素であり、科学・研究・企業の各環境で増大する需要に応えている。AI/ML から石油・ガス、創薬、気象学、製造業に至るまで、HPC 環境に広く導入されており、膨大かつ増加し続けるデータへの効率的なアクセスという普遍的課題に取り組んでいる。Lustre は現在、世界最速のスパコン上位 10 中 6 台、上位 100 の 65%超、上位 500 の 60%超で選択されるファイルシステムである。その広範な普及にもかかわらず、Lustre の進化・設計・各種改良を網羅した最新かつ包括的なリファレンスは欠如している。本論文はこのギャップを埋めるべく、Lustre の歴史と HPC への重要な貢献、詳細なアーキテクチャと設計要素、進化の過程で加えられた改良、そして将来の方向性を含む包括的な行程を提供する。加えて、同時代の他の主要ストレージ技術との比較を行う。Lustre の現状を示すため、初のエクサスケールスパコン Frontier 上の Lustre ファイルシステム Orion における利用状況、性能、使用パターンなど複数のファイルシステム動向を分析する。 ## 書誌情報 - 著者: [[Anjus George]], [[Andreas Dilger]], Michael J. Brim, Richard Mohr, Amir Shehata, Jong Youl Choi, Ahmad Maroof Karimi, Jesse Hanley, James Simmons, Dominic Manno, Veronica Melesse Vergara, [[Sarp Oral]], Christopher Zimmer - 所属: [[Oak Ridge National Laboratory]](NCCS / CSMD)、[[Whamcloud]]/[[DDN]]、Los Alamos National Laboratory - 掲載誌: ACM Transactions on Storage, Vol. 21, No. 3, Article 21 - 出版日: 2025 年 6 月 - DOI: [10.1145/3736583](https://doi.org/10.1145/3736583) - ライセンス: CC-BY-SA 4.0 - 分量: 109 ページ、全 8 章 + 付録 A ## 構成と主要テーマ 全 8 章は「Lustre とは何か(第 2〜3 章)→ 他システムとどう違うか(第 4 章)→ どう進化してきたか(第 5 章)→ 実運用で何が起きているか(第 6 章)→ これから何をするか(第 7 章)」という順に構成される。付録 A が 25 年の通史を担い、本編の各章が参照する歴史的経緯の裏づけとなる。 → [[@2025__TOS__Lustre Unveiled - Chapter 1 Introduction]] — Top500 における Lustre の位置づけを示し、包括的で最新のリファレンスが存在しないという問題設定と、本論文が既存資源と異なる 5 点を述べる導入。 → [[@2025__TOS__Lustre Unveiled - Chapter 2 The Lustre Filesystem]] — 主要コンポーネント(MGS/MDS/MDT/OSS/OST/OSD/クライアント/LNet)、5 つの設計原則とそこから導かれる 10 の主要機能、HPC 採用の略史を導入的に整理する。 → [[@2025__TOS__Lustre Unveiled - Chapter 3 Architectural Details of Lustre]] — FID による分散オブジェクトストレージ、VFS から LNet に至る層状ソフトウェアスタック、LDLM の 6 ロックモードとシャドウ名前空間、LNet のネットワーク抽象化を扱う技術的中核。 → [[@2025__TOS__Lustre Unveiled - Chapter 4 A Comparative Study of Lustre versus Related Storage Technologies]] — GPFS・Ceph・BeeGFS・DAOS との高水準比較。データとメタデータの分離、ストライピング、冗長性、整合性モデル、ロック管理の 5 観点で設計選択の違いを示す。 → [[@2025__TOS__Lustre Unveiled - Chapter 5 Lustre Design Evolution]] — 本書最長の章。機能進化をスケーラビリティ/性能・レジリエンス/可用性・ユーザビリティ/管理性・セキュリティの 4 つの設計目標軸で体系化する。 → [[@2025__TOS__Lustre Unveiled - Chapter 6 Lustre in Practice - Frontier's Orion]] — 初のエクサスケール Lustre である [[Orion]](3 ティア約 700 PB)の構成・I/O 性能・メタデータ性能・支配的な I/O パターンを実測データで示す一次資料。 → [[@2025__TOS__Lustre Unveiled - Chapter 7 Future Directions and Open Challenges in Lustre]] — WBC・CSDC・FLR EC・MDT プール・LMR という開発中・計画段階の 5 機能。クライアント側資源の活用とメタデータ層の冗長性拡大という 2 方向を描く。 → [[@2025__TOS__Lustre Unveiled - Chapter 8 Concluding Thoughts]] — 研究プロジェクトから主要な並列ファイルシステムへ発展した経緯を数文で総括する結び。 → [[@2025__TOS__Lustre Unveiled - Appendix A The Complete History of Lustre]] — 1999 年の Peter J. Braam による着想から Frontier 稼働までの 25 年史。CFS → Sun → Oracle → Whamcloud → Intel → [[DDN]] という運営主体の変遷と、リリースごとの機能年表を辿る。 ## 位置づけと影響 - **単一文献への統合という貢献**: Lustre のアーキテクチャ・設計・機能・歴史はこれまで複数の情報源に断片的に散在しており、本論文はそれを一貫した記述に統合した初の試みである。(第 1 章 §1.1) - **エクサスケール実運用データの公開**: 第 6 章が示す [[Orion]] の構成と性能・利用実績は、他に代替のない一次資料である。約 700 PB の 3 ティア構成、PFS レベルの逐次書き込み 4.6 TiB/s・読み出し 4.7 TiB/s、2024 年 3 月時点で約 29.7 億ファイル・193.65 PiB といった数値が、実測の裏づけとともに公開されている。 - **機能を設計目標で分類した体系化**: 第 5 章の 4 軸(スケーラビリティ/性能、レジリエンス/可用性、ユーザビリティ/管理性、セキュリティ)は、個々の機能を「何を達成するために導入されたか」で読み解く枠組みを与える。 - **記述の範囲と限界**: 第 4 章の比較は高水準にとどまり、定量的なベンチマーク比較は範囲外と明示されている。第 7 章が扱う将来機能は開発中・計画段階を含み、本番投入の時期は示されていない。 - **ライセンス**: CC-BY-SA 4.0 で公開されており、教育・研究用途での二次利用が容易である。 ## 関連 - 主題: [[wiki/entities/Lustre|Lustre]] / [[並列ファイルシステム]] - 実運用: [[Frontier]] / [[Orion]] / [[Oak Ridge National Laboratory]] - 開発主体: [[Whamcloud]] / [[DDN]] / [[OpenSFS]] / [[Intel]] / [[Sun Microsystems]] - 比較対象: [[GPFS]] / [[Ceph]] / [[BeeGFS]] / [[DAOS]] - 著者: [[Anjus George]] / [[Andreas Dilger]] / [[Sarp Oral]] - 関連ソース: [[@2019__arXiv__The Lustre Storage Architecture]] ## 出典 - Anjus George ほか, "Lustre Unveiled: Evolution, Design, Advancements, and Current Trends", ACM Transactions on Storage, Vol. 21, No. 3, Article 21, 2025.