# Trustworthy AI-based Performance Diagnosis Systems for Cloud Applications ## 概要 Ruyue Xin ほか(China University of Geosciences (Beijing) / University of Amsterdam / Xihua University)による ACM Computing Surveys 57(5) 掲載のレビュー。性能診断システムを「異常な性能現象を検知するもの」と定義したうえで、**AI ベースの枠組みが抱える潜在的な危険**(データプライバシーの欠如がモデルの安全性を損なう、頑健性の低さが複雑なクラウド環境への適用を難しくする、など)を出発点とする。技術的観点から **6 つの信頼性要件**——データプライバシー・公平性・頑健性・説明可能性・効率性・人間の介入——を抽出し、**データ収集からモデル開発までの汎用的な性能診断フレームワークへ統合する**構成を取る。 > [!abstract] 概要(abstract の日本語訳) > 性能診断システムは異常な性能現象を検知するものと定義され、クラウドアプリケーションにおいて決定的な役割を果たす。効果的な性能診断システムはしばしば人工知能(AI)の手法に基づいて開発され、それはデータからモデルへ至る汎用的な枠組みとしてまとめられる。しかし AI に基づくこの枠組みは、利用者の体験と信頼を損ないうる潜在的な危険を抱えている。たとえばデータプライバシーの欠如は AI モデルの安全性を損ないかねず、頑健性の低さは複雑なクラウド環境への適用を難しくしうる。したがって、信頼できる AI ベースの性能診断システムを構築するための要件を定義することが不可欠になっている。本論文は、AI ベースの性能診断システムにおける信頼性の要件を体系的にレビューする。まず信頼性の要件を導入し、技術的観点から 6 つの主要な要件——データプライバシー・公平性・頑健性・説明可能性・効率性・人間の介入——を抽出する。次にこれらの要件を、データ収集からモデル開発に至る汎用的な性能診断フレームワークへ統合する。続いて、枠組みの各構成要素についての関連研究と、信頼性を高めるための具体的な行動を包括的に示す。最後に、ありうる研究の方向と課題を同定する。 ## 書誌情報 - 著者: Ruyue Xin, Jingye Wang, Peng Chen, Zhiming Zhao - 所属: China University of Geosciences (Beijing) / University of Amsterdam (Multiscale Networked Systems) / Xihua University - 媒体: ACM Computing Surveys 57(5) - 発表: 2025-01 - URL: https://doi.org/10.1145/3701740 - 構成: 全 10 章(38 PDF ページ)。第 3 章が 15 ページあり、フレームワークの構成要素別の下位節が主軸をなすため §3.1〜§3.5 を独立章として切り出した - 原本: `.raw/theses/survey-2025-trustworthy-ai-perf-diagnosis/` ## 構成と主要テーマ 全 10 章は、要件の抽出(第 1〜2 章)・フレームワーク各段への当てはめ(第 3.0〜3.5 章)・展望(第 4〜5 章)の 3 部に分かれる。**同じ 6 要件の格子を全段に貫き通す**のが本レビューの構成上の特徴である。 - **第 1〜2 章(要件の抽出)**: [[@2025__ACMCSUR__Trustworthy AI-based Performance Diagnosis Systems for Cloud Applications - A Review - Chapter 1 Introduction]] は、既存サーベイが「trustworthy AI の一般要件」「特定要件」「性能診断の技術詳細」のいずれかに偏り、**両者を統合したサーベイが存在しない**という空白を示す。[[@2025__ACMCSUR__Trustworthy AI-based Performance Diagnosis Systems for Cloud Applications - A Review - Chapter 2 Trustworthiness Requirements and Performance Diagnosis Systems]] が本レビューの理論的骨格で、**EU AI HLEG の 7 要件から 6 つの技術的要件**(データプライバシー・公平性・頑健性・説明可能性・効率性・人間の介入)を抽出し、Table 1 の 12 研究から導いた**4 構成要素のフレームワーク**(データ収集 → データ前処理 → 異常検知 → 根本原因箇所特定)へ対応づける。 - **第 3.0〜3.5 章(当てはめ)**: [[@2025__ACMCSUR__Trustworthy AI-based Performance Diagnosis Systems for Cloud Applications - A Review - Chapter 3.0 State-of-the-Art Technologies - Overview]] が 6 要件の統合図(Figure 2)を置き、以降が構成要素ごとに要件 × 手法の格子を埋める。[[@2025__ACMCSUR__Trustworthy AI-based Performance Diagnosis Systems for Cloud Applications - A Review - Chapter 3.1 Data Collection]] は**公平性**(不均衡データと欠損ラベル → サンプリングとアノテーション)、[[@2025__ACMCSUR__Trustworthy AI-based Performance Diagnosis Systems for Cloud Applications - A Review - Chapter 3.2 Data Preprocessing]] は**頑健性・説明可能性・効率性**、[[@2025__ACMCSUR__Trustworthy AI-based Performance Diagnosis Systems for Cloud Applications - A Review - Chapter 3.3 Performance Anomaly Detection]] は**4 要件すべて**(異常検知だけが公平性も加わる)、[[@2025__ACMCSUR__Trustworthy AI-based Performance Diagnosis Systems for Cloud Applications - A Review - Chapter 3.4 Root Cause Localization]] は**頑健性・説明可能性・効率性**を扱う。[[@2025__ACMCSUR__Trustworthy AI-based Performance Diagnosis Systems for Cloud Applications - A Review - Chapter 3.5 System-Level Trustworthiness Requirements]] は、**データプライバシーと人間の介入だけは特定の構成要素に紐づかないシステムレベル要件**であると位置づける。 - **第 4〜5 章(展望)**: [[@2025__ACMCSUR__Trustworthy AI-based Performance Diagnosis Systems for Cloud Applications - A Review - Chapter 4 Future Research Directions and Opportunities]] が Table 3(6 要件 × 4 構成要素の代表手法一覧)を踏まえて 5 つの将来方向を挙げ、**本レビューが扱わなかった倫理的要件**(環境面の幸福・説明責任)を明示的に残す。[[@2025__ACMCSUR__Trustworthy AI-based Performance Diagnosis Systems for Cloud Applications - A Review - Chapter 5 Conclusion]] は 6 要件 × 4 構成要素を **13 の要件**へ畳み込んだと総括する。 ## 位置づけと影響 - **貢献は新手法ではなく「格子」そのもの**である。要件を軸に既存技術を並べ替えたことで、**格子の空白がそのまま研究の空白として読める**構成になっている。第 3.4 章が「監視メトリクスにおける因果推論ベース根本原因箇所特定の頑健性研究は限定的」、第 3.5 章が「根本原因箇所特定における人間の介入研究は少ない」と名指しできるのは、この格子があるからである。 - **説明可能性が要件として形式化された終点にあたる**。[[異常検知]] には、Chandola ほか(2009)に論点として存在せず → [[Anomaly Detection and Failure Root Cause Analysis in (Micro)Service-Based Cloud Applications]](2021)が未解決課題として言語化 → 本レビュー(2025)が**EU の透明性要件からの直接翻訳として 6 要件の 1 つに形式化**、という 16 年の変遷を記録した。6 要件のうち説明可能性だけが規制文書からの翻訳という定式化経路を持つ。 - **同時期の [[Anomaly detection and root-cause identification in microservices]](Barata ほか、2026)の TDAI と呼応する**。あちらは信頼を 7 次元(信頼性・一貫性・説明可能性・頑健性・因果妥当性・スケーラビリティ・テレメトリ完全性)へ分解し、こちらは 6 要件 × 4 構成要素へ分解する。**独立した 2 つのサーベイが同じ時期に「診断システムの信頼をどう分解するか」を主題に選んでいる**。 - **人間の介入(HITL)の理論的裏づけ**として読める。本レビューが定式化する「専門家フィードバックによる検知器改善」は、[[異常検知]] に既に記録されていた Alibaba のオペレータフィードバックループ(2017 年)に 8 年越しで要件としての位置づけを与える。 - **将来方向の組織原理が [[A Survey of AIOps in the Era of Large Language Models]] と対照的**である。あちらは工程順(タスク別)に空白を並べるのに対し、本レビューは要件別に並べる。同じ ACM Computing Surveys 誌の 2 つの独立サーベイが、同じ「将来方向」節を別の軸で構成している([[AIOps]] に記録)。 - **限界**: 対象は 2012 年以降、Google Scholar・ACM DL・IEEE Xplore・Elsevier・Springer・arXiv。件数の明示がなく、Table 1 のフレームワーク抽出元は 12 研究にとどまる。 ## 関連 - 概念: [[異常検知]] / [[根本原因分析]] / [[差分プライバシー]] / [[Fault Localization]] ## 出典 - Ruyue Xin, Jingye Wang, Peng Chen, and Zhiming Zhao, "Trustworthy AI-based Performance Diagnosis Systems for Cloud Applications: A Review", *ACM Computing Surveys*, 57(5), 2025.