RNN-LSTM:1万个单词与650个词向量关系
来源:4-30 动手实现RNN-LSTM循环神经网络(六):编写神经网络模型(中)1
payzul
2018-03-27
老师你好:
课程中提到,一万个单词映射到650个词向量中。
一万个单词是怎么映射的呢? 是要从1万个中选择650个单词再映射么? 还是因为向量的特性,1万个也可以映射到650个神经元中? 之后还提到onehot 编码映射到词向量中? 这个再能解释一下么,不太明白?
写回答
2回答
-
Oscar
2018-04-03
是要从1万个中选择650个单词再映射么?当然不是啦。
onehot 编码 就是这里提到的比如 10000 个单词需要 10000 个不同的 onehot 编码。
词向量可以说是另一种表述形式。
TensorFlow 官网对词向量有一些解释:
https://www.tensorflow.org/programmers_guide/embedding
https://www.tensorflow.org/tutorials/word2vec
推荐大家也去看一些专题,例如:
00 -
梦人
2018-03-29
我的理解:不准之处欢迎拍砖。
类似于矩阵,650个词向量就是行数是650行,如下图横着的一行就是一个向量。
列数的就是向量维度,相当于矩阵的秩
10000个单词,650行,大概可以有(10000 /650)向上取整数。
00
相似问题