30秒でわかる要点
複数のモデルを組み合わせて予測精度を向上させる手法の総称。バギング（ランダムフォレスト）、ブースティング（XGBoost、LightGBM）、スタッキングなどがある。
「アンサンブル学習」の練習問題
当サイトの練習問題から、この用語に関係する問題をピックアップしました。
Q1アンサンブル学習の基本的な考え方として最も適切な説明はどれか。
- 複数の弱い学習器を組み合わせることで、単一の強力な学習器より高い性能を得る手法である
- 一つの最も優れたモデルを選び、他は全て無視する
- 複数のモデルを並列実行し、それぞれ異なるデータセットで学習させる
- 複数のモデルの中から、ランダムに一つを選んで予測する
答えと解説を見る
正解：A
アンサンブル学習（ランダムフォレスト、勾配ブースティングなど）は、複数の弱い学習器の予測を投票や加重平均で統合し、単一モデルより汎化性能を高める。個々のエラーが相殺される特性がある。B、C、Dはアンサンブル学習の特性を捉えていない。
Q2アンサンブル学習の説明可能性を向上させるアプローチとして最も適切なものは何か。
- 複数モデルの予測を平均化し、個別モデルの説明は不要
- 各モデルの予測と重要度を個別に説明し、最終予測への寄与度を定量化
- アンサンブルは説明不可能で、使用すべきではない
- 最も複雑なモデルのみ採用して、説明不可能性を増加させる
答えと解説を見る
正解：B
アンサンブル学習は複雑だが、各モデルの予測と重要度を追跡すれば、最終予測の説明が可能。Shapley値で構成モデルの貢献を定量化。A・C・D誤解。
Q3勾配ブースティング（Gradient Boosting）がアンサンブル学習で強力な理由として最も適切なものはどれか。
- 前の学習器の残差（誤り）に焦点を当て、段階的に補正することで非常に複雑な関数を近似できること
- 単一のモデルのみを使用し、複数モデルは不要
- ランダムに複数モデルを組み合わせるだけ
- 計算量は常に小さく、大規模データには不適切
答えと解説を見る
正解：A
勾配ブースティング（XGBoost、LightGBMなど）は、各段階で前のモデルの残差を新しいモデルが予測。反復的に誤りを補正し、複雑なパターンを捉える。Kaggleなど競技会で高精度を実現。B、C、Dは誤り。
機械学習の問題をまとめて解いて、理解を確かめましょう（無料・登録不要）。
機械学習の練習問題を解く