30秒でわかる要点
2015年のILSVRCで優勝したCNNのモデル。層を飛び越えて入力を足し合わせるスキップ結合(残差接続)により、勾配消失を抑えて152層もの非常に深いネットワークの学習を可能にした。
「ResNet(スキップ結合)」の練習問題
当サイトの練習問題から、この用語に関係する問題をピックアップしました。
Q1ResNetが深いネットワークの訓練に成功した理由はどれか。
- スキップ接続により勾配が直接深い層まで伝播でき、勾配消失を軽減する
- シグモイド活性化関数の改良
- バッチサイズを極端に増やした
- ニューロン数を大幅に削減した
答えと解説を見る
正解:A
ResNetのスキップ接続(残差接続)により、非常に深いネットワーク(152層以上)でも勾配が効果的に伝播できます。
深層学習の問題をまとめて解いて、理解を確かめましょう(無料・登録不要)。
深層学習の練習問題を解く