変更要約: DP-100 第3章を深掘り(図ja化・比較表/シナリオ/FAQ/ひっかけ/深掘り段落を全節に追加)
3.1モデルの登録とデプロイ(エンドポイント)
学習済みモデルの 登録(モデルレジストリ) と、推論用 エンドポイント——リアルタイムの オンラインエンドポイント とバッチ処理の バッチエンドポイント——へのデプロイを理解します。モデルを実運用に乗せます。
学習して評価したモデルは登録し、用途に応じたエンドポイントにデプロイして推論を提供します。リアルタイムかバッチかで選びます。
3.1.1登録とエンドポイント
生成 AI を扱う場合は Azure AI Foundry も押さえます。基盤モデルのカタログ(Model Catalog)からのデプロイ、プロンプトフロー、評価、コンテンツ安全性を一体で提供し、Azure Machine Learning と連携してプロトタイプから運用までをつなぎます。
- モデルの登録:学習済みモデルをバージョン管理してレジストリに登録する。
- オンラインエンドポイント:リアルタイム・低遅延の予測。マネージドオンライン or Kubernetes。
- バッチエンドポイント:大量データを非同期にスコアリング(コンピューティングクラスター上)。
- デプロイメントとトラフィック:1 エンドポイントに複数デプロイを置き、トラフィック分割(ブルーグリーン)で安全に切替。
「リアルタイム/低遅延の予測=オンラインエンドポイント」「大量データの非同期スコアリング=バッチエンドポイント」「安全な切替=トラフィック分割(ブルーグリーン)」「再利用/バージョン管理=モデルレジストリ」 は DP-100 で頻出です。即時応答ならオンライン、定期一括ならバッチを選びます。
デプロイにはスコアリングスクリプト(推論コード)と環境(依存関係)が必要です。マネージドオンラインエンドポイントはインフラ管理を Azure に任せられます。
まず学習済みモデルを モデルレジストリ に バージョン管理 して登録します(MLflow モデル形式 なら環境/シグネチャ込みで推論コードを省ける場合も)。次に用途でエンドポイントを選択:マネージドオンラインエンドポイント(Azure がインフラ管理・リアルタイム低遅延・オートスケール)/Kubernetes オンラインエンドポイント(既存 AKS で運用)/バッチエンドポイント(大量データを コンピューティングクラスター 上で非同期スコアリング)。1 つのエンドポイントに複数の デプロイ を置き、トラフィック分割 で ブルー/グリーン(新旧並行)や段階的ロールアウト・即時ロールバックを行えます。デプロイには スコアリングスクリプト(init()/run())と 環境、適切な インスタンスタイプ/数 が要ります(MLflow モデルはスクリプト不要なことも)。安全性は マネージド ID でのリソースアクセス、キー/トークン認証、必要に応じ プライベートエンドポイント。「即時応答=オンライン」「定期一括=バッチ」「安全な切替=トラフィック分割」「再利用/版管理=レジストリ」と整理します。
| 観点 | オンラインエンドポイント | バッチエンドポイント |
|---|---|---|
| 応答 | リアルタイム・低遅延 | 非同期(ジョブ) |
| 対象 | 1 件〜少数の即時予測 | 大量データの一括スコアリング |
| コンピューティング | 常時稼働(マネージド/AKS) | クラスター(実行時のみ) |
| 切替 | トラフィック分割でブルー/グリーン | バージョン指定で実行 |
シナリオ: 新モデルを本番に出すが、いきなり全切替はリスクが高い。→ オンラインエンドポイントに新デプロイを追加し、トラフィック分割で 10% を新版に流して様子を見る(ブルー/グリーン)。問題なければ徐々に 100% へ、問題があれば即座に旧版へロールバックします。大量バッチ予測が必要な別用途にはバッチエンドポイントを使います。
FAQ: Q. オンラインとバッチはどう選ぶ? → A. 即時応答(低遅延)はオンライン、定期の大量スコアリングはバッチ。Q. 安全に新モデルへ切り替えるには? → A. 1 エンドポイント内の複数デプロイにトラフィックを分割し、ブルー/グリーンで段階移行・即ロールバックします。
ひっかけ: 「リアルタイムの低遅延予測にバッチエンドポイントを使う」は誤りです。即時応答はオンラインエンドポイント、バッチは大量データの非同期スコアリング向け。また「新モデルへの切替は必ず全量一括で行う」も誤り(トラフィック分割でブルー/グリーンに段階移行できる)。
3.1.2この節のまとめ
- 登録=モデルレジストリ(バージョン管理)
- デプロイ=オンライン(リアルタイム)/バッチ(非同期)+トラフィック分割
進捗の記録にはログインが必要です。
理解度チェック
(軽い確認用)Q1. Web アプリからリアルタイムに低遅延で予測を返したい。どのエンドポイントを使いますか?
Q2. 夜間に大量のデータをまとめて非同期にスコアリングしたい。どのエンドポイントを使いますか?
Q3. 新バージョンのモデルを段階的に切り替え、問題があれば戻したい。何を使いますか?

