30秒でわかる要点
大量のテキストデータで事前学習された大規模なニューラルネットワーク。GPT、BERT、LLaMAなどが代表的。文章生成、翻訳、要約、プログラミング支援など幅広いタスクに対応。
「大規模言語モデル（LLM）」の練習問題
当サイトの練習問題から、この用語に関係する問題をピックアップしました。
Q1大規模言語モデル（LLM）の成功が企業や研究機関にもたらした影響として最も適切なものはどれか。
- 自然言語処理の多くのタスクで、小規模で専門的な訓練が不要になり、汎用的なアプローチが実用化された
- 言語処理技術は完全に完成し、これ以上の研究は不要になった
- 全ての企業がLLMを開発する必要があると法律で強制された
- 機械学習分野全体が廃止される予定である
答えと解説を見る
正解：A
GPT、PaLMなど大規模言語モデルの成功により、一度の大規模事前訓練で多くのNLPタスク（要約、質問応答、翻訳など）に適用可能になった。タスク特有の訓練の必要性が大幅に削減。B、C、Dは誤った推論。
Q2BERTとGPTのモデル構成の違いは何か。
- BERTは双方向Encoder、GPTは単方向Decoderベース
- 構成は全く同じ
- BERTは自動回帰
- GPTは双方向
答えと解説を見る
正解：A
この構造の違いにより、訓練パラダイムと応用可能タスクが異なります。
Q3GPT（生成事前学習モデル）の登場が、自然言語処理分野にもたらした変化として最も重要なものはどれか。
- 事前学習と転移学習により、多くのNLPタスクで高性能を実現する統一的なアプローチが可能になった
- 自然言語処理の全ての問題が完全に解決され、今後の研究は不要になった
- ニューラルネットワークはテキスト処理に向かず、従来のルールベース手法に戻すべき
- 機械翻訳が完全に自動化され、多言語間の理解に問題がなくなった
答えと解説を見る
正解：A
GPTは大規模な言語コーパスで事前学習された後、様々なNLPタスクに微調整（ファインチューニング）できる汎用モデルを提供した。この転移学習アプローチにより、タスク固有のモデル設計が不要になり、研究開発の効率が大幅に向上した。B、C、Dは過度な主張である。
AI活用の問題をまとめて解いて、理解を確かめましょう（無料・登録不要）。
AI活用の練習問題を解く