Instiq
第2章 · チーム横断のデータとモデル管理·v1.0.0·更新 2026/6/15·読了目安 約15分

変更要約: Professional Machine Learning Engineer 第2章を新規作成(ドメイン2「コラボレーション」: 組織データ源(Cloud Storage/BigQuery/Spanner/Cloud SQL/Spark/Hadoop)・Vertex AI データセット・前処理(Dataflow/TFX/BigQuery)・Vertex AI Feature Store・PII/PHI プライバシー、Jupyter バックエンド(Vertex AI Workbench/Colab Enterprise/Dataproc)・セキュリティ・フレームワーク(TensorFlow/PyTorch/sklearn/Spark/JAX)・Model Garden・実験追跡(Vertex AI Experiments/Kubeflow Pipelines/TensorBoard)・生成 AI 評価)。

2.1組織データの探索と前処理

この節の要点

組織横断のデータ(Cloud Storage・BigQuery・Spanner・Cloud SQL・Apache Spark・Apache Hadoop)の探索、データ種別(表/テキスト/音声/画像/動画)の整理、Vertex AI でのデータセット管理、前処理(Dataflow・TensorFlow Extended [TFX]・BigQuery)、Vertex AI Feature Store での特徴量の作成/統合、データ利用のプライバシー(PII/PHI)、Vertex AI への推論用データ取り込みを理解します。

ML の品質はデータで決まります。組織に散らばるデータを探索し、効率よく前処理し、再利用可能な特徴量に整えます。プライバシーも最初から考えます。

2.1.1データ源と前処理

データは Cloud Storage(非構造化/ファイル)・BigQuery(分析用テーブル)・Spanner/Cloud SQL(運用 DB)・Apache Spark/Apache Hadoop(既存ビッグデータ)など多様な場所にあります。種別(表/テキスト/音声/画像/動画)を整理し、Vertex AI の マネージドデータセット で管理します。前処理は、大規模ストリーム/バッチ変換なら Dataflow(Apache Beam)、本番 ML パイプラインの前処理なら TensorFlow Extended(TFX)、SQL で完結する集計/特徴量なら BigQuery を使い分けます。「大規模な並列前処理=Dataflow」「SQL で前処理=BigQuery」を結びます。

2.1.2Feature Store とプライバシー

計算した特徴量は Vertex AI Feature Store に集約し、チームやモデル間で再利用します。これにより訓練と推論で同じ特徴量を使い、重複計算と 訓練/サービングスキュー を防ぎます。データ利用では プライバシー を最初から考え、PII(個人を特定できる情報)や PHI(保護対象の医療情報)を扱う場合は Sensitive Data Protection(DLP)でのマスキング/仮名化、最小権限、VPC Service Controls での境界などで保護します。「特徴量の再利用と一貫性=Feature Store」「機微データの保護=PII/PHI を秘匿」を押さえます。

試験ポイント

要件 → 手段」が頻出。例:「大規模なストリーム/バッチ前処理を並列で」=Dataflow、「SQL で集計して特徴量化」=BigQuery、「本番 ML パイプラインの前処理コンポーネント」=TFX、「特徴量をチーム間で再利用し訓練/推論で一貫」=Vertex AI Feature Store、「PII/PHI を含むデータを保護」=DLP(Sensitive Data Protection)+最小権限。

注意

混同に注意:
Dataflow(並列ビッグデータ変換)と BigQuery(SQL 集計)は前処理の手段が別=規模と形で選ぶ。
Feature Store を使わないと訓練/サービングで特徴量がずれる(スキューの原因)。
PII/PHI は早期に秘匿=後追いの保護はリスク。

Cloud Storage/BigQuery/Spanner/Cloud SQL/Spark/Hadoop のデータ源、前処理(Dataflow/TFX/BigQuery)、Vertex AI Feature Store で特徴量を再利用しスキュー防止、PII/PHI を DLP で秘匿する図。
データを整え再利用

2.1.3この節のまとめ

  • 前処理=Dataflow(並列)/BigQuery(SQL)/TFX(パイプライン)、データは Vertex AI マネージドデータセット
  • 特徴量の再利用と訓練/推論の一貫性=Vertex AI Feature Store
  • PII/PHI は早期に DLP で秘匿し最小権限/境界で保護

進捗の記録にはログインが必要です。

理解度チェック

(軽い確認用)

Q1. 大規模なログデータを、ストリームとバッチの両方で並列に前処理(変換・クレンジング)したい。最適なのはどれですか?

Q2. 計算した特徴量を複数チーム・複数モデルで再利用し、訓練と推論で同じ値を使ってスキューを防ぎたい。最適なのはどれですか?

Q3. すでに BigQuery にあるテーブルから、SQL で集計して特徴量を作りたい。最適なのはどれですか?

Q4. 個人を特定できる情報(PII)や医療情報(PHI)を含むデータを学習に使う。最初に取るべき対策はどれですか?

Q5. 本番 ML パイプラインの中で、訓練と推論で一貫した前処理コンポーネントを定義したい。最適なのはどれですか?

理解度を確認第2章「チーム横断のデータとモデル管理」の問題を解く