30秒でわかる要点
訓練データに対して過度に適合し、未知のデータに対する汎化性能が低下する現象。データの増加、正則化、ドロップアウトなどで対策する。
「過学習（オーバーフィッティング）」の練習問題
当サイトの練習問題から、この用語に関係する問題をピックアップしました。
Q1過学習（Overfitting）が発生する主な原因として最も適切なのはどれか。
- 訓練データに特化しすぎ、モデルが複雑すぎてテストデータの誤差が増加する状態である
- 訓練データが多すぎる
- モデルが単純すぎる
- テストデータが訓練データと同じ分布である
答えと解説を見る
正解：A
過学習：モデル複雑度 > 訓練データ複雑度。訓練損失↓＆テスト損失↑。
Q2ランダムフォレスト（Random Forest）が過学習を防ぐメカニズムについて最も適切なものはどれか。
- 複数の決定木を異なるデータサンプルで訓練し、予測を投票で統合することで分散を削減する
- 単一の深い決定木で全データを訓練する
- 木の数に制限がなく、必ずパラメータ選択される
- 過学習防止は機械学習では不要
答えと解説を見る
正解：A
ランダムフォレストはバギングを使用。ブートストラップサンプリングで異なるデータセットに複数の決定木を訓練し、投票で最終予測。個々の木は過学習しても、多数決で汎化性能が向上。B、C、Dは誤り。
Q3過学習の兆候として現れるのはどれか。
- 訓練誤差は低下し続けるが、検証誤差が増加し始める
- 訓練誤差と検証誤差がともに増加し続ける
- 訓練誤差が常に検証誤差より高い
- 両者の誤差が常に一定の値を保つ
答えと解説を見る
正解：A
過学習では、訓練データに対する誤差は減少しますが、未知のデータへの誤差は増加する分離が生じます。
機械学習の問題をまとめて解いて、理解を確かめましょう（無料・登録不要）。
機械学習の練習問題を解く