第5章 · 高度なモデリングと深層学習·v2.0.0·更新 2026/6/3·読了目安 約12分
変更要約: MLS-C01 第5章を深掘り(出力層と損失の対応/Adam/学習診断・CNN/RNN/Transformer内部とタスク対応/二乗計算量・転移学習3段階/Ground Truth/分散学習/混合精度+比較表・シナリオ・FAQ・ひっかけ、図ja化)
5.1ニューラルネットワークの基礎
この節の要点
深層学習の土台——層とニューロン、活性化関数(ReLU/sigmoid/softmax)、誤差逆伝播、学習率/エポック/バッチ、勾配消失——を理解します。
ニューラルネットワークは層に並んだニューロンで構成され、活性化関数で非線形性を加え、誤差逆伝播で重みを学習します。
5.1.1構造と学習
- 活性化関数:ReLU(隠れ層の定番)、sigmoid(2 値)、softmax(多クラスの確率出力)。
- 誤差逆伝播+勾配降下:損失を計算し、勾配を逆伝播して重みを更新する。
- 学習率/エポック/バッチ:学習率が大きすぎると発散、小さすぎると遅い。エポックは全データ反復回数。
- 勾配消失:層が深いと勾配が消えやすい。ReLU やバッチ正規化で緩和する。
試験ポイント
「多クラス分類の出力層=softmax」「2 値分類=sigmoid」「隠れ層の活性化=ReLU(勾配消失に強い)」「学習率が大きすぎる=発散/損失が振動」 は MLS-C01 で頻出です。損失が減らない/振動するときはまず学習率を疑います。

