変更要約: Professional Machine Learning Engineer 第6章を新規作成(ドメイン6「監視」: 安全な AI システム(窃取/汚染対策)・Google Responsible AI(バイアス監視)・公平性/準備状況評価・Vertex Explainable AI(特徴量アトリビューション)、Model Monitoring on Gemini Enterprise Agent Platform による継続的評価・訓練/サービングスキュー・特徴量アトリビューションドリフト・ベースライン/単純モデル/時間軸との性能比較・よくある訓練/サービングエラー監視)。
6.1AI のリスクと Responsible AI
データ/モデルの意図しない悪用(ハッキング)からの保護による安全な AI システム構築、Google の Responsible AI プラクティス(バイアスの監視)への準拠、AI ソリューションの準備状況(公平性・バイアス)の評価、Agent Platform でのモデル説明可能性(Explainable AI)を理解します。
AI は便利な一方でリスクも伴います。安全性・公平性・説明可能性を設計に組み込み、信頼できる AI を作ります。
6.1.1安全な AI と Responsible AI
AI システムは、学習データやモデルへの 意図しない悪用(攻撃) から守ります=データ/モデルの窃取・汚染(データポイズニング)・敵対的入力などに備え、アクセス最小化・VPC Service Controls・CMEK・入力検証で防御します。さらに Google の Responsible AI プラクティス に沿い、バイアスの監視、公平性(fairness)、有害な出力の抑制を組み込みます。リリース前には AI ソリューションの準備状況 を、公平性・バイアス・安全性の観点で評価します。「学習データ/モデルの保護=アクセス最小化+境界+暗号化」「偏りのない AI=バイアス監視と公平性評価」を結びます。
6.1.2説明可能性(Explainable AI)
モデルの判断根拠を示すには Vertex Explainable AI を使います。特徴量アトリビューション(各特徴が予測にどれだけ寄与したか)を Vertex AI Prediction の予測に付与し、なぜその予測になったかを説明します。これにより、規制対応・デバッグ・バイアス検出・利用者への説明責任を果たせます。表形式は Shapley 値ベース、画像は積分勾配(Integrated Gradients)などの手法が使えます。「予測の根拠を特徴量ごとに説明=Explainable AI(特徴量アトリビューション)」を押さえます。※ Vertex Explainable AI は非推奨で、2027-03-16 に提供終了予定。
「要件 → 手段」が頻出。例:「予測の根拠を特徴量ごとに説明」=Vertex Explainable AI(特徴量アトリビューション)、「モデルの偏りを検知・是正」=バイアス監視/公平性評価(Responsible AI)、「学習データ/モデルへの攻撃を防ぐ」=アクセス最小化+VPC Service Controls+CMEK、「リリース前の妥当性確認」=AI 準備状況(公平性/バイアス/安全性)の評価。
混同に注意:
①Explainable AI(なぜその予測か)と Model Monitoring(本番での劣化/スキュー検知)は目的が別。
②公平性/バイアスはデータ由来も多い=データ収集/前処理から考える。
③精度が高くても不公平/説明不能なら本番投入リスク=Responsible AI を満たす。
6.1.3この節のまとめ
- 安全な AI=攻撃(窃取/汚染)対策=アクセス最小化+VPC Service Controls+CMEK+入力検証
- Responsible AI=バイアス監視/公平性評価、リリース前に準備状況を評価
- 予測の根拠を説明=Vertex Explainable AI(特徴量アトリビューション)
進捗の記録にはログインが必要です。
理解度チェック
(軽い確認用)Q1. モデルの予測に対し、どの特徴量がどれだけ寄与したかを示して根拠を説明したい。最適なのはどれですか?
Q2. モデルが特定の属性グループに不利な予測をしていないか、偏りを継続的に評価したい。最も適切なのはどれですか?
Q3. 学習データやモデルへの窃取・汚染(データポイズニング)などの攻撃から AI システムを守りたい。最も適切な組み合わせはどれですか?
Q4. モデルをリリースする前に、公平性・バイアス・安全性の観点で妥当性を確認したい。これは何の評価ですか?
Q5. Explainable AI と Model Monitoring の違いとして正しいものはどれですか?

