変更要約: in-scope サービス網羅: 第3章3節に応用を支える AI/ML の in-scope サービス節を追加（Amazon SageMaker AI/Amazon Personalize/Amazon Augmented AI=A2I）
3.1プロンプトエンジニアリングと推論パラメータ
プロンプトの工夫（ゼロショット・少数ショット・思考の連鎖）と、温度（temperature）やコンテキストウィンドウなどの推論パラメータを理解します。
基盤モデルの性能を引き出す鍵は、良いプロンプトと適切な推論パラメータです。モデルを変えなくても、これらの調整で結果は大きく変わります。
3.1.1プロンプトの工夫
- ゼロショット：例を与えず、指示だけで答えさせる。
- 少数ショット（few-shot）：いくつか例を与えて、出力の形式や傾向を示す。
- 思考の連鎖（chain-of-thought）：順を追って推論させ、複雑な問題の精度を上げる。
プロンプトエンジニアリングは、モデルを変えずに指示の与え方だけで出力を改善する最も手軽な方法です。例を与えないゼロショットで足りることも多いですが、出力の形式や傾向を揃えたいときは数個の例を添える少数ショットが有効。計算や論理を要する複雑な問題では、「順を追って考えて」と促す思考の連鎖（chain-of-thought）で精度が上がります。あわせて、モデルに役割や制約を与えるシステムプロンプトも重要です。
3.1.2推論パラメータ
同じプロンプトでも、推論パラメータで出力の性質が変わります。温度（temperature）とtop-pは、次トークンの選び方の「ばらつき」を調整するもので、低いほど決定的・一貫的、高いほど多様・創造的になります。最大トークン数（max tokens）は出力の長さの上限、コンテキストウィンドウは入力＋出力で一度に扱えるトークン総量の上限です。用途に応じて、事実重視なら温度低め、発想重視なら温度高め、と調整します。
| 項目 | 役割 | 低い/小さい | 高い/大きい |
|---|---|---|---|
| 温度・top-p | 出力の多様性 | 一貫的・決定的 | 多様・創造的 |
| 最大トークン数 | 出力長の上限 | 短い出力 | 長い出力 |
| コンテキストウィンドウ | 扱えるトークン総量 | 短文向き | 長文・多資料向き |
シナリオ：用途で調整。 契約書の要点抽出など正確さ重視なら、温度を低めにして少数ショットで出力形式を固定。広告コピーのアイデア出しなど創造性重視なら温度を高めに。複雑な計算を含む問い合わせには思考の連鎖で段階推論させる。長い社内文書を丸ごと渡すならコンテキストウィンドウの大きいモデルを選ぶ。
混同に注意：
①ゼロショット（例なし）／少数ショット（例あり）／思考の連鎖（段階推論）を取り違えない。
②温度が高い＝多様/創造的、低い＝一貫的（逆に覚えない）。
③コンテキストウィンドウ（扱えるトークン総量）と最大トークン数（出力長の上限）は別。
④プロンプト調整はモデルを変えない（ファインチューニングとは別）。
Q. 少数ショットと思考の連鎖の違いは？ 少数ショットは「例を示す」、思考の連鎖は「途中の推論を書かせる」。両立も可能です。Q. 温度と top-p はどちらを使う？ どちらも多様性の調整で、通常どちらか一方を主に使います。Q. プロンプト工夫で足りないときは？ RAG（次節）やファインチューニングを検討します。
「ゼロショット/少数ショット/思考の連鎖」の違いと、温度が高い＝多様/創造的、低い＝一貫的、コンテキストウィンドウ＝扱えるトークン総量の上限は頻出です。プロンプト調整はモデルを変えない点も押さえましょう。
3.1.3この節のまとめ
- プロンプト：ゼロショット／少数ショット／思考の連鎖（＋システムプロンプト）
- パラメータ：温度・top-p（多様性）／最大トークン（出力長）／コンテキストウィンドウ（トークン上限）
- 温度は事実重視で低め・創造重視で高め。プロンプト調整はモデルを変えない
進捗の記録にはログインが必要です。
理解度チェック
（軽い確認用）Q1. 例を一切与えず、指示だけでモデルに答えさせるプロンプトの手法はどれですか？
Q2. 出力をより一貫的（決定的）にしたい場合、温度（temperature）はどう設定しますか？
Q3. モデルが一度に扱える入力＋出力のトークン数の上限を表す用語はどれですか？