Instiq
第5章 · 高度なモデリングと深層学習·v2.0.0·更新 2026/6/3·読了目安 約12分

変更要約: MLS-C01 第5章を深掘り(出力層と損失の対応/Adam/学習診断・CNN/RNN/Transformer内部とタスク対応/二乗計算量・転移学習3段階/Ground Truth/分散学習/混合精度+比較表・シナリオ・FAQ・ひっかけ、図ja化)

5.1ニューラルネットワークの基礎

この節の要点

深層学習の土台——層とニューロン活性化関数(ReLU/sigmoid/softmax)誤差逆伝播学習率/エポック/バッチ勾配消失——を理解します。

ニューラルネットワークは層に並んだニューロンで構成され、活性化関数で非線形性を加え、誤差逆伝播で重みを学習します。

5.1.1構造と学習

ニューラルネットワークの基礎を示した図。入力層・隠れ層(活性化 ReLU)・出力層のニューロンが結合し、学習は順伝播→損失計算+誤差逆伝播→勾配降下で重みを更新し、エポック・バッチ・学習率(LR)が関わることを示し、層状のニューロンと活性化による非線形性、誤差逆伝播で重みを学ぶことを示した図。
ニューラルネットワークの基礎
  • 活性化関数ReLU(隠れ層の定番)、sigmoid(2 値)、softmax(多クラスの確率出力)。
  • 誤差逆伝播+勾配降下:損失を計算し、勾配を逆伝播して重みを更新する。
  • 学習率/エポック/バッチ:学習率が大きすぎると発散、小さすぎると遅い。エポックは全データ反復回数。
  • 勾配消失:層が深いと勾配が消えやすい。ReLU やバッチ正規化で緩和する。
試験ポイント

「多クラス分類の出力層=softmax」「2 値分類=sigmoid」「隠れ層の活性化=ReLU(勾配消失に強い)」「学習率が大きすぎる=発散/損失が振動」 は MLS-C01 で頻出です。損失が減らない/振動するときはまず学習率を疑います。

続きは無料登録で読めます

冒頭を無料で公開中。無料登録でこの節の全文と、第4章以降を含む全参考書・全問題集が読めます。