変更要約: Professional Machine Learning Engineer 第6章を新規作成(ドメイン6「監視」: 安全な AI システム(窃取/汚染対策)・Google Responsible AI(バイアス監視)・公平性/準備状況評価・Vertex Explainable AI(特徴量アトリビューション)、Vertex AI Model Monitoring による継続的評価・訓練/サービングスキュー・特徴量アトリビューションドリフト・ベースライン/単純モデル/時間軸との性能比較・よくある訓練/サービングエラー監視)。
6.1AI のリスクと Responsible AI
データ/モデルの意図しない悪用(ハッキング)からの保護による安全な AI システム構築、Google の Responsible AI プラクティス(バイアスの監視)への準拠、AI ソリューションの準備状況(公平性・バイアス)の評価、Vertex AI でのモデル説明可能性(Explainable AI)を理解します。
AI は便利な一方でリスクも伴います。安全性・公平性・説明可能性を設計に組み込み、信頼できる AI を作ります。
6.1.1安全な AI と Responsible AI
AI システムは、学習データやモデルへの 意図しない悪用(攻撃) から守ります=データ/モデルの窃取・汚染(データポイズニング)・敵対的入力などに備え、アクセス最小化・VPC Service Controls・CMEK・入力検証で防御します。さらに Google の Responsible AI プラクティス に沿い、バイアスの監視、公平性(fairness)、有害な出力の抑制を組み込みます。リリース前には AI ソリューションの準備状況 を、公平性・バイアス・安全性の観点で評価します。「学習データ/モデルの保護=アクセス最小化+境界+暗号化」「偏りのない AI=バイアス監視と公平性評価」を結びます。
6.1.2説明可能性(Explainable AI)
モデルの判断根拠を示すには Vertex Explainable AI を使います。特徴量アトリビューション(各特徴が予測にどれだけ寄与したか)を Vertex AI Prediction の予測に付与し、なぜその予測になったかを説明します。これにより、規制対応・デバッグ・バイアス検出・利用者への説明責任を果たせます。表形式は Shapley 値ベース、画像は積分勾配(Integrated Gradients)などの手法が使えます。「予測の根拠を特徴量ごとに説明=Explainable AI(特徴量アトリビューション)」を押さえます。

