変更要約: in-scope サービス網羅: 第4章2節にセキュリティ（Macie/Inspector/Secrets Manager）、3節にガバナンス・コンプライアンス・コスト（CloudWatch/Config/Artifact/Audit Manager/Trusted Advisor/Well-Architected Tool/Cost Explorer/Budgets）の in-scope サービス節を追加
4.1責任ある AI のガイドライン
公平性・説明可能性・透明性・プライバシー/安全性・堅牢性といった責任ある AI の観点と、バイアスやハルシネーションへの配慮を理解します。
AI は強力ですが、バイアス・誤り・プライバシー侵害などのリスクも伴います。責任ある AI は、これらに配慮して AI を健全に活用するための指針です。
4.1.1責任ある AI の観点
- 公平性：学習データの偏りによる不当な差別を避ける（例：採用 AI が性別で偏らない）。
- 説明可能性：なぜその出力になったか判断の根拠を理解できるようにする。透明性：AI を使っていること・能力と限界を明示する。
- プライバシーと安全性：個人データを保護し、有害・危険な出力を防ぐ。
- 堅牢性：想定外の入力にも安定して動作し、ハルシネーション（もっともらしい誤り）に対処する。
公平性が特に重視されるのは、AI の偏りが学習データそのものの偏りから生まれるためです。過去の採用データが特定の属性に偏っていれば、それで学習した AI も同じ偏りを再生産します。これは AI が悪意を持つのではなく、与えたデータの偏りを忠実に学んでしまう結果です。だから多様で代表性のあるデータと、結果の継続的な評価・監視が必要になります。生成 AI では、もっともらしいが誤った内容を自信ありげに出すハルシネーションも大きなリスクで、流暢さ＝正しさではない点に注意します。
| 観点 | 意味 | 対策の例 |
|---|---|---|
| 公平性 | 不当な偏りを避ける | 代表性あるデータ・偏り評価 |
| 説明可能性/透明性 | 根拠を理解・AI利用を明示 | 根拠提示・モデルカード |
| プライバシー/安全性 | データ保護・有害防止 | 暗号化・コンテンツフィルタ |
| 堅牢性 | 安定動作・誤り対処 | 人の確認・RAGで根拠付け |
シナリオ：採用支援 AI の導入。 応募者データで公平性を点検（性別・年齢で偏らないか）、なぜその評価かを採用担当に示す説明可能性、応募者の個人情報を守るプライバシー、想定外入力でも誤判定しない堅牢性、そして「AI を使っている」と明示する透明性。1つの導入に複数の観点が同時に関わります。
混同に注意：
①公平性（偏りを避ける）と説明可能性（根拠を理解できる）と透明性（AI利用を明示）を取り違えない。
②ハルシネーションは「自信ありげに間違える」点が危険——流暢さ＝正しさではない。
③偏りは学習データ由来であり、データの代表性と評価が鍵。
Q. 説明可能性と透明性の違いは？ 説明可能性は「なぜその出力か（根拠）を理解できる」、透明性は「AI を使っていること・能力と限界を明示する」。Q. なぜ偏りが生まれる？ 学習データの偏りを忠実に学ぶため。多様なデータと評価で緩和します。Q. ハルシネーションは消せる？ 完全には消せず、RAG での根拠付けや人の確認で運用上抑えます。
「偏りの回避＝公平性」「根拠の理解＝説明可能性」「AI利用の明示＝透明性」「ハルシネーション＝もっともらしい誤り」は頻出です。偏りは学習データ由来、生成 AI の出力は人が確認することが重要。
4.1.2この節のまとめ
- 観点：公平性／説明可能性・透明性／プライバシー・安全性／堅牢性
- 偏りは学習データ由来→多様で代表性あるデータと継続評価で緩和
- 生成 AI はハルシネーションに注意し、RAG や人の確認で補強
進捗の記録にはログインが必要です。
理解度チェック
（軽い確認用）Q1. 学習データの偏りによる不当な差別を避けることは、責任ある AI のどの観点ですか？
Q2. AI の判断の根拠を人が理解できるようにすることは、どの観点に当たりますか？
Q3. 生成 AI が「もっともらしいが事実と異なる内容」を生成する現象を何と呼びますか？