1.1責任ある AI の原則 — リスク・倫理・害の緩和

GitHub Copilot は、コードや文章を 生成 AI（大規模言語モデル, LLM） で提案する開発支援ツールです。GH-300 の最初の柱は「責任ある利用」——便利さの裏にある リスクと限界 を理解し、出力を鵜呑みにせず安全に使う姿勢を問います。生成 AI は学習データの統計的なパターンから「もっともらしい」続きを生成するため、常に正しいとは限らないという前提に立つことが出発点です。

1.1.1生成 AI のリスクと限界

代表的なリスクは次の通りです。ハルシネーション（もっともらしいが誤った/存在しない内容の生成）、バイアス（学習データに含まれる偏りの反映）、古い知識（学習時点以降の情報やライブラリの最新仕様を知らない）、セキュリティ上の問題（脆弱なコードや古い手法を提案し得る）、そして 知的財産/ライセンス（学習データに似た出力の扱い）です。これらは「LLM の限界」に根ざすため、利用者が 必ず検証 し、最終的な責任を負うという姿勢が欠かせません。

1.1.2倫理的で責任ある利用

責任ある利用とは、AI を 補助（アシスト） として使い、人間が判断と最終確認を行う ことです。Copilot の提案は「下書き」や「たたき台」と捉え、コードレビュー・テスト・セキュリティスキャン を通すワークフローを崩しません。機密情報やライセンスに敏感なコードの扱いに注意し、組織のポリシーに従います。透明性（AI を使った旨の明示が必要な場面の判断）や、特定集団に不利益を与えないかという 公平性 の観点も、開発の文脈で意識します。

1.1.3潜在的な害と緩和策

潜在的な害には、誤ったコードによる バグ/障害、脆弱なコードによる セキュリティ侵害、過度な依存による スキルの空洞化、偏った提案による 不公平 などがあります。緩和策は、人によるレビューと検証、テストの追加、セキュリティ警告/重複検出の有効化（後の章）、組織ポリシーとコンテンツ除外、そして利用者教育です。要は「AI が出した」ことを免責にせず、従来の品質保証を必ず通すことが最大の緩和策です。

1.1.4この節のまとめ

• 生成 AI は「もっともらしい」出力＝常に正しいとは限らない（LLM の限界）
• 主要リスク：ハルシネーション/バイアス/古い知識/セキュリティ/IP・ライセンス
• 責任ある利用：AI は補助、人が判断・最終確認し、レビュー/テスト/スキャンを崩さない
• 最大の緩和策は出力の検証と従来の品質保証。「AI が書いた」は免責にならない