変更要約: AI-102 第1章を深掘り（図ja化・比較表/シナリオ/FAQ/ひっかけ/深掘り段落を全節に追加）
1.2責任あるAIとコンテンツの安全性
Microsoft の 責任ある AI の原則（公平性・信頼性と安全性・プライバシーとセキュリティ・包括性・透明性・説明責任）と、有害コンテンツを検出する Azure AI Content Safety を理解します。AI を安全に運用するための基礎です。
AI は強力ゆえに、公平で安全に使う責任が伴います。Microsoft は 責任ある AI の 6 原則を掲げ、実装面では Content Safety などで有害コンテンツを抑制します。
1.2.1責任ある AI の原則
- 6 原則：公平性・信頼性と安全性・プライバシーとセキュリティ・包括性・透明性・説明責任。
- Content Safety：テキスト/画像の有害カテゴリ（ヘイト・暴力・性的・自傷）を重大度つきで検出する。
- 入力と出力の両方：ユーザー入力と AI の生成結果の双方を検査し、リスクを抑える。
- 透明性ノート：モデルの能力と限界を説明する文書を提供し、適切な利用を促す。
「有害コンテンツの検出（ヘイト/暴力/性的/自傷を重大度つき）＝Azure AI Content Safety」「公平性・信頼性と安全性・プライバシー・包括性・透明性・説明責任＝責任ある AI の 6 原則」「入力と出力の両方を検査」 は AI-102 で頻出です。生成 AI では Content Safety とプロンプト対策を組み合わせます。
Content Safety はカテゴリごとに重大度のしきい値を設定でき、業務の許容度に合わせてブロック/許可の基準を調整できます。
Content Safety は 4 カテゴリ（ヘイト・暴力・性的・自傷）を 0〜6 の重大度で返し、しきい値でブロック/許可を判断します。生成 AI 特有の脅威には専用機能があり、プロンプトシールド（Prompt Shields） は直接的な ジェイルブレイク とドキュメント経由の 間接的プロンプトインジェクション を検出、グラウンド性検出（Groundedness detection） は出力が根拠資料に基づくか（ハルシネーションでないか）を確認、保護された素材の検出 は既知のコード/文章の流用を検知します。Azure OpenAI には コンテンツフィルターが標準で組み込まれ、入力（プロンプト）と出力（補完）の双方を検査します。責任ある AI の実装は、設計時の 影響評価（Impact Assessment）、運用時の Content Safety、説明のための 透明性ノート を組み合わせる多層アプローチです。なお Content Safety は有害性の検出を担い、個人情報の匿名化は Language の PII 検出、なりすまし防止は認証の領域、というように責務を切り分けて設計します。
| 機能 | 守る対象 | 使う場面 |
|---|---|---|
| カテゴリ検出（4 種） | ヘイト/暴力/性的/自傷 | 入出力の有害性を重大度で判定 |
| プロンプトシールド | ジェイルブレイク・間接インジェクション | 生成 AI の入力防御 |
| グラウンド性検出 | 根拠のない出力（ハルシネーション） | RAG 出力の検証 |
| 保護素材の検出 | 既知コード/文章の流用 | 著作物の混入チェック |
シナリオ： 社内文書に基づく生成 AI チャットで、ジェイルブレイクや根拠のない回答を防ぎたい。→ Azure OpenAI のコンテンツフィルターに加え、プロンプトシールドで入力のジェイルブレイク/間接インジェクションを検出し、グラウンド性検出で回答が文書に基づくかを確認、Content Safety で出力の有害性を重大度判定します。
FAQ： Q. Content Safety と Azure OpenAI のコンテンツフィルターは別物？ → A. OpenAI には標準フィルターが組み込まれ、Content Safety は独立サービスとして任意のテキスト/画像や他モデルにも適用できます。Q. ハルシネーション対策は？ → A. グラウンド性検出と RAG（根拠提示）を併用します。
ひっかけ： 「Content Safety は入力だけ検査すればよい」は誤りです。生成 AI では入力（プロンプト）と出力（生成結果）の両方を検査します。また「Content Safety が個人情報（PII）を匿名化する」も誤り（PII 検出/匿名化は Azure AI Language の役割）。
1.2.2この節のまとめ
- 責任ある AI＝6 原則（公平性・安全性・プライバシー・包括性・透明性・説明責任）
- Content Safety＝有害コンテンツを重大度つきで検出（入力・出力）
進捗の記録にはログインが必要です。
理解度チェック
（軽い確認用）Q1. テキストや画像からヘイト・暴力・性的・自傷などの有害カテゴリを重大度つきで検出する Azure のサービスはどれですか？
Q2. 責任ある AI の原則に含まれないものはどれですか？
Q3. 生成 AI のリスク低減として、Content Safety はどこを検査すべきですか？