30秒でわかる要点
RNNの勾配消失問題を解決するために開発されたアーキテクチャ。ゲート機構(入力ゲート、忘却ゲート、出力ゲート)により、長期的な情報の保持と忘却を制御する。
「LSTM」の練習問題
当サイトの練習問題から、この用語に関係する問題をピックアップしました。
Q1LSTM(Long Short-Term Memory)が発明された背景として正しいものはどれか。
- RNNの勾配消失問題を解決するため、メモリセルと制御ゲートを導入
- 計算速度を高めるため
- パラメータを減らすため
- 活性化関数を変更するため
答えと解説を見る
正解:A
LSTMはゲート機構により勾配流を制御し、長期依存関係を学習できるようにしました。
Q2LSTM(Long Short-Term Memory)層が勾配消失問題を解決する仕組みはどれか。
- セルに記憶セルと3つのゲート(入力、忘却、出力)を持つことで、長期的な依存関係を保持し、勾配の流れを制御する
- シグモイド関数をすべて ReLU に置き換える
- 訓練データを時系列で逆順にして処理する
- 複数の LSTM 層を並列接続する
答えと解説を見る
正解:A
LSTM のセルは加算結合で勾配が流れやすく、ゲート機構で選択的に情報を保持・破棄。RNN より長期依存を学習可能。
Q3LSTM のゲート機構の役割として正しいものはどれか。
- 忘却、入力、出力ゲートが情報流を制御し、長期記憶を保持
- すべての情報を伝播させる
- ランダムにニューロンを削除
- パラメータを自動調整
答えと解説を見る
正解:A
LSTMの3つのゲートは、必要な情報を選別的に通過・保持・出力することで、長期依存性を学習します。
深層学習の問題をまとめて解いて、理解を確かめましょう(無料・登録不要)。
深層学習の練習問題を解く