# GenAI オブザーバビリティ ## 定義 GenAI オブザーバビリティ（Generative AI Observability）は、LLM 呼び出し・ツール起動・トークン交換の連鎖を可視化し、パフォーマンスボトルネック・コスト・品質を定量的に監視する取り組みである。[[OpenTelemetry]] セマンティック規約が GenAI 操作（モデル識別、入出力トークン数、プロンプト/補完内容）の記録方法を標準化し、既存のオブザーバビリティスタックに GenAI ワークロードを統合する。（Source: [[@2026__OTelBlog__GenAI Observability with OpenTelemetry]]） ## トレース構造 OpenTelemetry のセマンティック規約は、以下のスパン階層を定義する: - **`invoke_agent`**: エージェント呼び出しの最上位スパン - **`chat`**: 個別の LLM 呼び出し（`gen_ai.request.model`、`gen_ai.usage.input_tokens` / `output_tokens`） - **`execute_tool`**: ツール起動 主要メトリクス: `gen_ai.client.operation.duration`（LLM レイテンシ）、`gen_ai.client.token.usage`（トークン消費）。 ## 対応ツール VS Code Copilot（トレース・メトリクス・イベント）、OpenAI Codex（構造化ログ・OTel メトリクス）、Claude Code（メトリクス・ログイベント、トレースはベータ）が OTel 経由でテレメトリを送出する。OBI はネットワーク層から GenAI API 呼び出し（OpenAI・Anthropic・Gemini・Bedrock・Qwen）をゼロコードで捕捉する。 ## 横断的知見 - **GenAI テレメトリは「アプリケーション層の内側」に新たな観測レイヤーを開く**: 従来のオブザーバビリティが HTTP リクエスト/レスポンス・DB クエリ・メッセージキューを観測対象としてきたのに対し、GenAI オブザーバビリティはモデル呼び出し内部のプロンプト→補完→ツール呼び出し→結果の連鎖を対象とする。これは [[テレメトリ]] 博士論文の「計装をどこで行うか」の問いを、カーネル→ネットワーク→アプリケーション→ **LLM 呼び出し内部**へとさらに深層化する。（Source: [[@2026__OTelBlog__GenAI Observability with OpenTelemetry]]、[[@2025__Kyoto University__Scaling Telemetry Workloads in Cloud Applications - Techniques for Instrumentation, Storage, and Mining]]） - **ゼロコード計装と手動計装の境界が GenAI 領域で再定義される**: [[OBI]] が GenAI プロバイダ API をネットワーク層でゼロコード捕捉する一方、VS Code Copilot・Claude Code は SDK 内蔵のテレメトリ送出（手動計装に近い）を採用する。両系統は相補的で、OBI がネットワークレベルのレイテンシ・エラーを、SDK 内蔵がプロンプト内容・トークン数の詳細を提供する。（Source: [[@2026__OTelBlog__GenAI Observability with OpenTelemetry]]、[[@2026__OTelDocs__OBI - OpenTelemetry eBPF Instrumentation]]） ## 未解決の問い - GenAI セマンティック規約はアクティブに開発中（SIG で策定中）であり、プロンプトキャッシュ・推論バッチング・マルチモーダル入出力の表現がどこまで標準化されるか。 - プロンプト・レスポンス全文の記録（`captureContent` 有効化）はセキュリティ・プライバシーの観点でどのような運用ガイドラインが必要か。PII マスキングや保持期間の規約は。 - [[AgentSight]] のようなカーネル層エージェント観測と、OTel GenAI セマンティック規約のアプリケーション層観測はどう統合されるか。 ## 関連 - 概念: [[オブザーバビリティ]] / [[テレメトリ]] / [[ゼロコード計装]] / [[LLM推論]] - エンティティ: [[OpenTelemetry]] / [[OBI]] - ソース: [[@2026__OTelBlog__GenAI Observability with OpenTelemetry]] / [[@2026__OTelDocs__OBI - OpenTelemetry eBPF Instrumentation]] ## 出典 - [[@2026__OTelBlog__GenAI Observability with OpenTelemetry]] - [[@2026__OTelDocs__OBI - OpenTelemetry eBPF Instrumentation]]