Instiq
第4章 · 生成 AI の品質保証と可観測性·v1.1.0·更新 2026/6/11·読了目安 約12分

変更要約: 各節に図(figure)を追加=cert-figure-retrofit。AI-300 第4章を新規作成(ドメイン4「生成 AI の品質保証と可観測性」: 評価=テストデータセット/データマッピング/AI 品質メトリクス(根拠性/関連性/一貫性/流暢性)/リスク・安全性評価/自動評価ワークフロー、可観測性=Foundry 継続監視/パフォーマンス(レイテンシ/スループット/応答時間)/コスト(トークン消費/リソース使用)/ログ・トレース・デバッグ)

4.2生成 AI アプリ・エージェントの可観測性

この節の要点

Foundry での継続的な監視、パフォーマンスメトリクス(レイテンシ・スループット・応答時間)の監視、コストメトリクス(トークン消費量・リソース使用量)の追跡と最適化、そして本番のトラブルシュートのための詳細なログ・トレース・デバッグの構成を理解します。

生成 AI アプリは本番で継続的に監視し、性能・コスト・障害を把握して改善します。これが 可観測性(observability)で、GenAIOps の運用ループを支えます。

4.2.1パフォーマンスとコストの監視

Foundry の 継続的な監視で、パフォーマンスメトリクスレイテンシ=応答までの遅延、スループット=単位時間あたりの処理量、応答時間)を追跡します。生成 AI 特有の重要指標が コストメトリクスで、特に トークン消費量(入力+出力トークン)とリソース使用量を監視・最適化します。トークン消費はそのままコストに直結するため、プロンプトの簡潔化やキャッシュ、適切なモデル選択でコストを下げます。

4.2.2ログ・トレース・デバッグ

本番のトラブルシュートには 詳細なログ・トレース・デバッグが必要です。トレースは、リクエストがアプリ→検索(RAG)→モデル→ツールとどう流れたかを可視化し、遅延や失敗の原因を特定します(分散トレース)。エージェントのように複数ステップが連なる場合、トレースは特に有効です。ログとあわせて、品質劣化やエラーの根本原因を素早く突き止めます。

観点メトリクス/手段要点
応答の速さレイテンシ/応答時間遅延を監視
処理量スループット単位時間あたりの処理
コストトークン消費量/リソース使用量トークン=コスト直結
原因特定ログ/トレース/デバッグリクエストの流れを可視化
注意

混同に注意:
パフォーマンス(レイテンシ/スループット)コスト(トークン消費)は別の監視軸——生成 AI ではトークン消費が重要。
ログ(記録)トレース(リクエストの流れの可視化=原因特定)は役割が違う。
③可観測性は「デプロイ後」も品質と効率を保つための運用。

試験ポイント

測りたいこと → 手段」:例「応答の遅延を監視」=レイテンシ、「処理量を監視」=スループット、「コストを抑える」=トークン消費量の監視・最適化、「遅延や失敗の原因を特定」=トレース(分散トレース)、「本番の不具合を調査」=詳細なログ+デバッグ。

パフォーマンスとコストの監視、ログ・トレース・デバッグを表した図。
性能/コスト監視とログ/トレース

4.2.3この節のまとめ

  • Foundry で継続監視:パフォーマンス(レイテンシ/スループット/応答時間)
  • コストはトークン消費量/リソース使用量で監視・最適化(トークン=コスト直結)
  • ログ・トレース・デバッグでリクエストの流れを可視化し原因を特定

進捗の記録にはログインが必要です。

理解度チェック

(軽い確認用)

Q1. 生成 AI のコストに直結するため、特に監視・最適化すべきメトリクスはどれですか?

Q2. リクエストがアプリ→検索→モデル→ツールとどう流れたかを可視化し、遅延や失敗の原因を特定するのはどれですか?

Q3. 応答までの遅延を表すパフォーマンスメトリクスはどれですか?

Q4. 生成 AI アプリを本番で継続的に監視し、性能・コスト・障害を把握する運用の考え方はどれですか?

Q5. トークン消費量を抑えてコストを下げる方法として適切でないものはどれですか?

Q6. ログとトレースの役割の違いとして正しいものはどれですか?

理解度を確認第4章「生成 AI の品質保証と可観測性」の問題を解く

学習の記録を残しませんか

参考書はすべて無料で読めます。無料登録すると、問題集での演習・既読と進捗の記録・間違えた問題の復習・ハイライトが使えます。