30秒でわかる要点
2013年にGoogleのトマス・ミコロフらが発表した、単語をベクトル(分散表現)に変換する手法。周りの単語から中心の単語を予測するCBOWと、中心の単語から周りを予測するスキップグラムがある。
「word2vec」の練習問題
当サイトの練習問題から、この用語に関係する問題をピックアップしました。
Q1自然言語処理における Word2Vec の発展モデルとして、FastText が改善した点はどれか。
- 文字 n-gram を使用することで、未知語の表現を生成でき、稀少語への対応が向上する
- より大規模なコーパスを使用している
- 文法的な関係をより正確に学習する
- 計算速度が大幅に高速化される
答えと解説を見る
正解:A
FastText は単語を n-gram に分割し学習。未知語も部分的に既知情報から表現生成可能。Word2Vec は存在しない単語を処理不可。
深層学習の問題をまとめて解いて、理解を確かめましょう(無料・登録不要)。
深層学習の練習問題を解く