変更要約: Generative AI Leader 第1章を新規作成（ドメイン1「生成 AI の基礎」: AI・ML・生成 AI の関係＝包含関係/学習の種類/データの種類/モダリティ・マルチモーダル、大規模言語モデルと基盤モデル＝LLM の仕組み/トークン/プロンプト/事前学習・ファインチューニング/埋め込み、生成 AI の限界とリスク＝ハルシネーション/バイアス/知識のカットオフ/プライバシー）。
1.2大規模言語モデルと基盤モデル
基盤モデルの考え方と汎用性、大規模言語モデル（LLM）がトークンとプロンプトを使って次の単語を予測する仕組み、事前学習とファインチューニングの違い、パラメータやコンテキストウィンドウといった用語、そして埋め込み（embeddings）の基礎を、ビジネスの観点から理解します。
基盤モデル（Foundation Model） とは、大量かつ多様なデータで事前学習され、さまざまな用途に応用できる汎用モデルです。1つの基盤モデルを、要約・翻訳・分類・チャットなど多くのタスクに使い回せるため、用途ごとに一からモデルを作る必要が減ります。代表が文章を扱う 大規模言語モデル（LLM） です。
1.2.1LLM の仕組み
LLM は入力文を トークン（単語や部分文字列の単位）に分解し、これまでの文脈から「次に来る確率が高いトークン」を予測することを繰り返して文章を生成します。ユーザーが与える指示や質問が プロンプト で、出力の質はプロンプト次第で大きく変わります。1度に扱えるトークン量の上限を コンテキストウィンドウ と呼び、長いほど多くの文脈を一度に渡せます。モデルの規模はおおまかに パラメータ 数で表され、一般に大きいほど高性能ですが計算コストも増えます。
1.2.2事前学習とファインチューニング
| 段階 | 内容 | 目的 |
|---|---|---|
| 事前学習 | 大量データで汎用的な知識を獲得 | 汎用的な基盤を作る |
| ファインチューニング | 特定領域のデータで追加学習 | 特定タスク/業界に適応 |
基盤モデルはまず 事前学習 で汎用知識を獲得し、必要に応じて ファインチューニング（特定領域のデータで追加学習）して専門タスクに適応させます。ただし、後述するように、自社データに合わせるには必ずしもファインチューニングが必要ではなく、グラウンディング や RAG（第3章）で外部データを参照させる方が手軽な場合も多くあります。関連して、テキストの意味を数値ベクトルで表す 埋め込み（embeddings） は、意味的な検索や類似度計算の基礎になります。
「用語 → 意味」が頻出。例：「多用途に応用できる事前学習済みモデル」＝基盤モデル、「文章を扱う基盤モデル」＝LLM、「入力指示」＝プロンプト、「処理単位」＝トークン、「一度に渡せる文脈量」＝コンテキストウィンドウ、「特定領域に追加学習」＝ファインチューニング、「意味をベクトル化」＝埋め込み。
混同に注意：
①事前学習（汎用知識）とファインチューニング（特定適応）。
②自社データ対応＝必ずしもファインチューニングではなく、グラウンディング/RAG が手軽なことが多い。
③LLM は「次のトークン予測」で生成しており、事実を保証する仕組みではない（ハルシネーションの一因）。
1.2.3この節のまとめ
- 基盤モデル＝多用途に使える事前学習済みモデル。LLM はその文章版
- LLM はトークン単位で次の語を予測。プロンプト/コンテキストウィンドウ/パラメータが基本用語
- 事前学習（汎用）→ファインチューニング（特定適応）。自社データ対応は RAG/グラウンディングが手軽なことも
進捗の記録にはログインが必要です。
理解度チェック
（軽い確認用）Q1. 大量かつ多様なデータで事前学習され、さまざまな用途に応用できる汎用モデルを何と呼びますか？
Q2. LLM が文章を生成する基本的な仕組みとして正しいものはどれですか？
Q3. ユーザーがモデルに与える指示や質問を何と呼びますか？
Q4. 基盤モデルを特定の業界やタスクのデータで追加学習し、専門用途に適応させることを何と呼びますか？
Q5. モデルが一度に扱えるトークン量の上限を表す用語はどれですか？
Q6. テキストの意味を数値ベクトルで表し、意味的な検索や類似度計算の基礎となるものはどれですか？