30秒でわかる要点
勾配降下法で、1回の更新でパラメータをどれだけ動かすかを決めるハイパーパラメータ。大きすぎると発散し、小さすぎると学習が遅くなったり局所解に留まったりする。
「学習率」の練習問題
当サイトの練習問題から、この用語に関係する問題をピックアップしました。
Q1適応的学習率（Adaptive Learning Rate）の利点はどれか。
- 各パラメータに異なる学習率を自動調整し、訓練の安定性と効率を向上させる
- 全層で一律の高い学習率を使用する
- 計算量を大幅に削減する
- 勾配爆発を完全に防止する
答えと解説を見る
正解：A
適応的学習率（Adam等）は各パラメータの勾配情報に基づいて学習率を自動調整し、訓練の安定性と収束速度が向上します。
Q2学習率スケジューリング（Learning Rate Scheduling）の目的はどれか。
- 訓練の進行に応じて学習率を段階的に減少させ、最適解への収束をより精密に行う
- 訓練時間を短縮する
- モデルの複雑性を増加させる
- ノイズを除去する
答えと解説を見る
正解：A
学習率スケジューリングは訓練初期は大きな更新で探索し、後期は小さな更新で精密な最適化を行う戦略です。
Q3学習率（Learning Rate）の役割として正しいものはどれか。
- 重み更新の幅を制御し、訓練速度と安定性を調整
- 活性化関数を決定
- バッチサイズを決定
- 層数を決定
答えと解説を見る
正解：A
適切な学習率選択は訓練の成功を大きく左右する重要なハイパーパラメータです。
深層学習の問題をまとめて解いて、理解を確かめましょう（無料・登録不要）。
深層学習の練習問題を解く