変更要約: 各節に図(figure)を追加=cert-figure-retrofit。AI-901 第3章を新規作成(ドメイン2: LLM の生成原理=次トークン予測、プロンプト要素=システムメッセージ/指示/few-shot/コンテキスト、temperature、根拠付け=グラウンディング/RAG の順序=検索→付与→生成、RAG≠ファインチューニング、Foundry SDK での呼び出し)
3.1生成 AI とプロンプトエンジニアリング
大規模言語モデル(LLM)が「次に来そうな語」を予測して文章を生成する仕組みと、出力を制御するプロンプトの要素(システムメッセージ・指示・例・パラメーター)の基本を理解します。
生成 AI の中核は 大規模言語モデル(Large Language Model, LLM)です。LLM は膨大なテキストで学習し、入力に続いて「次に来る確率が高いトークン」を1つずつ選んで文章を生成します。つまり「意味を理解して答える」というより「もっともらしい続きを確率的に紡ぐ」仕組みです。この性質ゆえに、同じ質問でも出力が揺れたり、事実でない内容(ハルシネーション)が混じったりします。だからこそ、入力(プロンプト)の与え方で出力の質を大きく左右できます。
3.1.1プロンプトの構成要素
- システムメッセージ(system message):AI の役割・口調・制約をあらかじめ指示する土台(例:「あなたは丁寧なサポート担当です」)。
- ユーザー指示(prompt):その都度の具体的な依頼(例:「この文章を3行で要約して」)。
- 例(few-shot):望む形式の入出力の見本を数個示し、出力を誘導する。
- コンテキスト(context):参照させたい追加情報(社内文書の抜粋など)をプロンプトに含める。
3.1.2生成を制御するパラメーター
出力はプロンプトだけでなくパラメーターでも調整できます。代表が temperature(温度)で、低いほど安定的・決定的(毎回ほぼ同じ、堅い回答)、高いほど多様・創造的(ばらつき・発想が増える)になります。FAQ のように正確さ重視なら低め、アイデア出しなど多様性が欲しいなら高めにします。ほかに、出力の最大長を決める 最大トークン数 なども指定できます。これらは「正解/不正解」ではなく用途に応じた調整だと理解しましょう。
| temperature | 傾向 | 向くタスク |
|---|---|---|
| 低い(例 0〜0.3) | 安定・決定的・堅い | FAQ、要約、抽出、分類 |
| 高い(例 0.7〜1.0) | 多様・創造的・ばらつく | アイデア出し、キャッチコピー |
シナリオ:サポート用チャットの調整。 システムメッセージで「丁寧で簡潔に・推測で断定しない」と役割を固定→ユーザー指示で「この問い合わせに回答」→過去の良い回答例を few-shot で提示→正確さ重視なので temperature を低めに設定。これだけで、口調・形式・安定性が大きく改善します。
混同・注意:
①システムメッセージ(役割・制約の土台)とユーザー指示(その都度の依頼)は別物。
②temperature を上げる=賢くなる ではない——多様性が増えるだけで、正確さはむしろ下がりうる。
③プロンプト改善は有効だが、ハルシネーションを完全には消せない(根拠付けや人の確認が別途必要=次節)。
④few-shot は「例で形式を教える」手法で、モデルを再学習しているわけではない。
頻出:
①「AI の役割・口調を最初に固定する」=システムメッセージ。
②「望む形式の例をいくつか示す」=few-shot。
③「回答を安定・正確にしたい」=temperature を低く、「多様な案が欲しい」=高く。
④「LLM は意味を完全に理解している」は誤り——次トークンの確率予測で生成する。
3.1.3この節のまとめ
- LLM は次トークンの確率予測で文章を生成→出力は揺れ、ハルシネーションも起こりうる
- プロンプトの要素:システムメッセージ/ユーザー指示/例(few-shot)/コンテキスト
- temperature:低=安定・正確、高=多様・創造。用途で調整
- プロンプト改善は強力だが万能ではない→根拠付け・人の確認と併用(次節)
進捗の記録にはログインが必要です。
理解度チェック
(軽い確認用)Q1. 大規模言語モデル(LLM)が文章を生成する基本的な仕組みはどれですか?
Q2. AI の役割・口調・制約を会話の最初に指定する要素はどれですか?
Q3. 回答を安定的・決定的(毎回ほぼ同じ)にしたい場合、temperature はどう設定しますか?
Q4. 望む出力の形式を、いくつかの入出力の見本を示して誘導する手法はどれですか?
Q5. temperature を高くすることの説明として正しいものはどれですか?

