変更要約: Professional Machine Learning Engineer 第4章を新規作成（ドメイン4「サービング」: バッチ/オンライン推論(Agent Platform/Dataflow/BigQuery ML/Dataproc)・フレームワーク(PyTorch/XGBoost)・Model Registry on Gemini Enterprise Agent Platform・A/B テスト(トラフィック分割)、Feature Store on Gemini Enterprise Agent Platform オンラインサービング・公開/限定公開エンドポイント・ハードウェア(CPU/GPU/TPU/エッジ)・Vertex AI Prediction 自動スケール/コンテナ化サービング・量子化/蒸留/プルーニングによるレイテンシ/スループット最適化）。
4.1モデルのサービング
バッチ推論とオンライン推論（Agent Platform・Dataflow・BigQuery ML・Dataproc）、各種フレームワーク（PyTorch・XGBoost など）でのサービング、モデルレジストリの整理、モデルバージョンの A/B テストを理解します。
訓練したモデルを価値に変えるのがサービングです。用途に合う推論方式を選び、バージョンを管理し、安全に切り替えます。
4.1.1バッチ推論とオンライン推論
推論は用途で選びます。低レイテンシで 1 件ずつ即応するなら オンライン推論（Agent Platform エンドポイント）、大量データを定期的にまとめて処理するなら バッチ推論（Agent Platform バッチ予測・大規模変換は Dataflow・データが BigQuery なら BigQuery ML の ML.PREDICT・既存 Spark なら Dataproc）です。サービングは PyTorch・XGBoost・TensorFlow など学習に使ったフレームワーク（またはカスタムコンテナ）で行います。「即時の単件応答＝オンライン推論」「定期の大量処理＝バッチ推論」「BigQuery のデータに直接推論＝BigQuery ML」を結びます。
4.1.2モデルレジストリと A/B テスト
モデルの版を整理するには Model Registry on Gemini Enterprise Agent Platform を使い、バージョン・メタデータ・デプロイ状況を一元管理します。新バージョンを安全に出すには、本番トラフィックを旧/新へ分割する A/B テスト（トラフィック分割）で、実トラフィックでの性能/ビジネス指標を比較してから全面移行します。問題があれば即ロールバックします。「モデル版の一元管理＝Model Registry on Gemini Enterprise Agent Platform」「新版を実トラフィックで比較＝A/B テスト（トラフィック分割）」を押さえます。
「要件 → 手段」が頻出。例：「ユーザー要求に低レイテンシで即応」＝オンライン推論（Agent Platform エンドポイント）、「夜間に大量データをまとめて推論」＝バッチ予測/Dataflow、「BigQuery のデータに SQL で推論」＝BigQuery ML、「モデルの版を一元管理」＝Model Registry on Gemini Enterprise Agent Platform、「新旧バージョンを実トラフィックで比較」＝A/B テスト（トラフィック分割）。
混同に注意：
①オンライン推論（低レイテンシ・常時稼働でコスト高）とバッチ推論（高スループット・低コスト）を用途で使い分ける。
②Model Registry は版管理で、デプロイそのものとは別概念。
③新版は即全面切替せず A/B で検証してから移行する。
4.1.3この節のまとめ
- 即時単件＝オンライン推論（Agent Platform エンドポイント）、定期大量＝バッチ予測/Dataflow/BigQuery ML
- モデル版の一元管理＝Model Registry on Gemini Enterprise Agent Platform
- 新版は A/B テスト（トラフィック分割）で実トラフィック比較してから移行
進捗の記録にはログインが必要です。
理解度チェック
（軽い確認用）Q1. ユーザーのリクエストに対し、1 件ずつ低レイテンシで即座に予測を返したい。最適なのはどれですか？
Q2. 毎晩、数億件のレコードに対してまとめて予測を生成したい（即時性は不要）。最適なのはどれですか？
Q3. 複数のモデルバージョンとそのメタデータ・デプロイ状況を一元管理したい。最適なのはどれですか？
Q4. 新しいモデルバージョンを、本番トラフィックの一部に流して旧版と性能を比較してから全面移行したい。最適なのはどれですか？
Q5. データが BigQuery にあり、SQL で大量レコードにバッチ推論を行いたい。最適なのはどれですか？