30秒でわかる要点
人間の脳の神経回路を模倣した数理モデル。入力層、隠れ層（中間層）、出力層から構成される。各層のニューロン（ノード）が重み付きの結合で接続されている。
「ニューラルネットワーク」の練習問題
当サイトの練習問題から、この用語に関係する問題をピックアップしました。
Q1逐次ニューラルネットワーク（Recurrent Neural Network, RNN）が時系列データに適した理由は何か。
- 隠れ層の出力が入力層に再帰的にフィードバックされ、過去の情報を保持して次の予測に活かすことができる
- 任意の長さのシーケンスを処理できる構造的制限がない
- フィードフォワード構造でありながら時系列を学習できる
- 外部メモリを使用した唯一の手法である
答えと解説を見る
正解：A
RNN は隠れ状態を時間ステップで更新し、過去の情報をメモリに保持。時系列依存性を捉える。B は課題あり（勾配消失）、C は矛盾、D は誤り。
Q2AI研究におけるパラダイムシフトを示す「ニューラルネットワーク中心時代」への転換の背景として最も重要なのはどれか。
- 手工的な特徴設計の必要性を排除し、ニューラルネットワークが自動的に特徴を学習する能力を実証した
- 記号処理アプローチが完全に廃止されること
- 全ての問題がニューラルネットワークで解けるよう法律で定めた
- 研究費が記号処理から機械学習へ完全に移行した
答えと解説を見る
正解：A
ディープラーニングの成功は、生画像などの高次元データから自動的に有用な特徴を学習できることを実証。手工的な特徴エンジニアリングの負担を軽減し、AI研究の主流を記号処理から機械学習に転換させた。B、C、Dは不正確な説明。
Q3ニューラルネットワークの層数を増やす際の「勾配消失問題」について最も適切な説明はどれか。
- 逆伝播時に、勾配が層を遡るにつれ指数関数的に小さくなり、入力層に近い層の学習が停止すること
- 勾配が常に大きくなり、学習が発散する
- 勾配消失は実装の細部の問題に過ぎない
- 勾配は層の深さに関わらず常に一定
答えと解説を見る
正解：A
勾配消失は、連鎖律により∂L/∂w1 = (∂L/∂y) * (∂y/∂h2) * ... が複数のシグモイド微分（<0.25）の積になり、深層では無視できるほど小さくなる。ReLU、バッチ正規化、残差接続（ResNet）が対策。B、C、Dは誤り。
深層学習の問題をまとめて解いて、理解を確かめましょう（無料・登録不要）。
深層学習の練習問題を解く