30秒でわかる要点
モデルの複雑さにペナルティを課して過学習を防ぐ手法。L1正則化(Lasso)はスパースな解を得られ、L2正則化(Ridge)は重みを小さくする。
「正則化」の練習問題
当サイトの練習問題から、この用語に関係する問題をピックアップしました。
Q1L1正則化とL2正則化の違いはどれか。
- L1がスパース解、L2が滑らかな解を促進し、用途により使い分け
- 計算量が同じ
- 精度に差がない
- アルゴリズムが同じ
答えと解説を見る
正解:A
L1と L2は異なる正則化効果を持ち、問題に応じて選択します。
Q2弾性ネット(Elastic Net)正則化が L1 と L2 正則化を組み合わせる理由として最も適切な説明はどれか。
- L1 は特徴量選択を行い、L2 は係数を小さく保つことで、両方の利点を活用できる
- 計算速度を高速化し、訓練時間を短縮できる
- 過学習を完全に排除する唯一の方法である
- 大規模データセットでのみ有効である
答えと解説を見る
正解:A
L1 正則化はスパース性(多くの係数を0にする)を導き特徴量選択になる。L2 は係数の大きさをペナルティ。両者を組み合わせることで相互補完。
Q3L1 正則化(Lasso)と L2 正則化(Ridge)の最も重要な違いは何か。
- L1 は係数をゼロに縮小(スパース化)し特徴量選択を行い、L2 は係数を小さく保つが完全にはゼロにしない
- L2 は係数を完全にゼロにする
- L1 は計算が遅い
- どちらも同じ効果である
答えと解説を見る
正解:A
L1(|w|):スパース化。L2(w^2):小値保持。スパース性必要なら L1。
機械学習の問題をまとめて解いて、理解を確かめましょう(無料・登録不要)。
機械学習の練習問題を解く